00:00:37: Unbekannt Magdalena arbeitet derzeit in einem internationalen Projekt mit, wo es darum geht, digitale Systeme und auch KI Lösungen in der Landwirtschaft zu testen und gemeinsam mit Firmen weiterzuentwickeln. Wie will man zahlen? Herzlich willkommen! Danke für die Einladung. Ich fange mit einer Einstiegsfrage an. Es gibt eine Komplexitätsforscherin aus Kalifornien, Melanie Mitchell. Die hat immer gesagt Wir müssen aufpassen, dass wir KI nicht vermenschlichen.

00:01:13: Unbekannt Was ist damit gemeint? Ja, das ist tatsächlich eine Sache, die sehr viele der Probleme verursacht, dies mit KI geben kann, und zwar betrachtet natürlich der Entwickler sehr gern danach der künstlichen Intelligenz, die er gerade entwickelt. Also an dem Tool, das er gerade entwickelt, menschliche Eigenschaften zu verleihen. Ein Beispiel? Ja, es ist zum Beispiel für den Endverbraucher sehr ansprechend von der Idee, die antwortet wie ein richtiger Mensch.

00:01:53: Unbekannt Ein sehr sagen fast aufwühlendes Beispiel ist, wenn ich denn zB die Frage Ich bin traurig, hilf mir, was soll ich tun? Die Ratschläge, die der ausspuckt, könnten tatsächlich von einem Psychotherapeuten stammen oder von einem guten Freund. Und möglicherweise fühlt sich da Anwender sogar verstanden und fühlt sich ein bisschen besser, aber ähm, es täuscht über den Fakt hinweg, dass jede künstliche Intelligenz eine Maschine ist, die auf Basis von harten Fakten eine Analyse erstellt und quasi agiert.

00:02:35: Unbekannt Wo ist das Problem? Es ist ja schön, wenn der wir menschlich zurück antwortet, oder? Ja sicher, es ist im Einzelfall schön, aber es führt dazu, dass wir die KI sehr oft überschätzen. Okay, also wir glauben, weil sie grundsätzlich menschliche Eigenschaften scheinbar aufweist, dass sie grundsätzlich wie ein Mensch agieren kann oder auch wie ein Lebewesen, zum Beispiel im Bereich der Robotik.

00:03:02: Unbekannt Ähm, ein Roboter ist auf Hinderniserkennung programmiert. Natürlich. Und schaut dann vielleicht sogar aus wie ein Mensch oder eher ein Mensch oder auch zumindest wie ein lebendes Wesen. Nein, er reagiert auf Hindernisse, er weicht aus usw aber er macht es nur auf Basis von Berechnungen und auch nur auf Basis von Situationen, auf die er trainiert wurde. Das heißt, es können durchaus auch Gefahrenquellen entstehen, weil wir glauben, es ist eher Mensch.

00:03:33: Unbekannt Ja, genau, weil wir glauben, es agiert wie ein Lebewesen. Es hat an Hausverstand, Hausverstand wird unterschätzt in seiner Komplexität grundsätzlich. Und dann kommt aber die Ausnahmesituation, dann funktioniert es vielleicht nicht. Also man muss das sehr, sehr genau sein auch. Frau Mitchell hat auch geschrieben Einfache Dinge sind für uns einfach und schwierig. Schwierig. Bei KI muss das nicht der Fall sein.

00:04:04: Unbekannt Genau. Was für uns Menschen schwierig ist, ist für die KI oft einfach und dadurch kommt es zu dem Trugschluss, dass einfache Dinge auch einfach sein müssten. Gutes Beispiel einer KI Schachspielen beibringen ist eigentlich überhaupt kein Problem. Jetzt wirklich nur um Logik Mathematik richtig. Also ein Schachcomputer, Der hat ziemlich bald die Fähigkeiten, die besten Schachspieler der Welt quasi auszustechen.

00:04:35: Unbekannt Aber am Roboter einer KI die Fähigkeiten eines Kleinkindes beizubringen, wo es um Wahrnehmung geht, wenn es um Motorik geht usw. Das ist Herausforderung. Dabei sind sie, die Entwickler, wirklich die Zähne aus? Okay, okay. Und die Vermenschlichung trägt dazu bei, dass wir die Tools falsch einschätzen und daraus entsteht die eigentliche Gefahr. Das heißt, wir haben dann, es kann zu Verletzungen führen, es kann aber auch und das liest man ja auch, dass KI auch zu einem Bias führen kann.

00:05:12: Unbekannt Was versteht man darunter? Beißhorst In der Übersetzung Fehler oder Verschiebung? Verschiebung der Wahrheit? Richtig, Genau. Also die KI ist ja immer auf Basis von Daten trainiert. Und diese Daten bilden ihre Wirklichkeit ab, in der sie sich bewegt. Wenn aber diese Wirklichkeit unvollständig ist oder verfälscht, bewusst oder unbewusst eine verfälschte Wirklichkeit präsentiert wurde, dann ist es die Wirklichkeit, die sie reproduziert.

00:05:52: Unbekannt Beispiel Wenn also in einem Datensatz Ausreißer fehlen, aber sozusagen in der Natur vorhanden sind und die hohe Ebene drinnen, dann kann er natürlich sein, die nicht in der Grundgesamtheit und verschiebt sozusagen diesen Datensatz in eine gewisse Richtung. Und gibt es dazu Beispiele? Es gibt zum Beispiel in Amerika dieses Derry Brain, das ist eine Initiative von einer Universität, sogar da wurde ein Programm entwickelt, das den Landwirt in seinen betrieblichen und wirtschaftlichen Entscheidungen unterstützt.

00:06:32: Unbekannt Zum Beispiel wird jedem Tier ein wirtschaftlicher Wert zugeordnet auf Basis von Prognosen zu diesem Tier Zum Beispiel welche Milchleistung ist von der und der Kalben zu erwarten und welchen wirtschaftlichen Wert wird sie später haben mich die Leber, das Tier behalten oder das Tier behalten oder zur Kuh? Kommt es zu irgendwelchen Komplikationen, so sieht es aus, dass sie quasi in das Tier investiere oder nicht.

00:06:57: Unbekannt Ohne jetzt aber diese KI zu uns kommt, dann ist sie auf Basis einer anderen Wirklichkeit trainiert. Wir wissen es an die Voraussetzungen ganz andere wir in unserer Landwirtschaft. Das betrifft Fütterung, das betrifft wirtschaftliche Faktoren, das betrifft gesellschaftliche Faktoren. Das betrifft auch die Umweltwirkungen dieses Tieres sozusagen. Es betrifft schon mal unsere Produktionsgrundlagen, es kann aber auch gesetzliche Bestimmungen tangieren usw.

00:07:29: Unbekannt Und es kann sein, dass die Entscheidung, die mir dieses System vorschlägt, in unseren Zusammenhängen die absolut falsche ist. Und das Korn war nie dem long blind. Vertrau durchaus an Grenzen. Betrieb in eine sehr schlechte Richtung bewegen.

00:07:51: Unbekannt Das heißt, was heißt es in der Konsequenz für uns in der Anwendung von KI Tools zu wissen, dass es ein Bias geben kann und zu wissen, dass der Trainingsdatensatz extrem wichtig ist? Genau. Also im Trainingsdatensatz hier wie schon eigentlich den den Schlüssel, weil KI Entwicklung ist sehr teuer. Es kann ja nicht jeder das Rad neu erfinden, aber wenn ich mit dir rede, sagst du öfter du bist keine KI Expertin.

00:08:25: Unbekannt Ja, vielleicht reden wir über das kurz bevor man dann weitergehen wird. Es ist sehr wichtig. Ja, es ist richtig. Man kommt nur indes vorwärts, so dass man quasi, weil man sich öfters geäußert hat zu diesen Themen usw als KI Experte gehandhabt wird. Ist es KI Systeme? Ich bin ein qualifizierter Anwender in meinem Fachgebiet, setze mich sehr früh mit diesen Tools auseinander, aber in der Anwendung als ich soll KI Experten sein.

00:08:58: Unbekannt Für mich Menschen, die sie fachlich mit der KI Entwicklung auseinandersetzen, die in dem Bereich ihre Kernausbildung haben und die dort tatsächlich Erfahrung haben, weil bei mir ist es genauso wie bei uns alle, dass Systeme eigentlich erst seit zwei oder so wirklich mit Neues davor haut es wohl existiert, aber ohne dass wir dem großartig Aufmerksamkeit geschenkt hätten und es braucht auch diese Experten im Austausch mit uns, damit wir die Funktion verstehen.

00:09:36: Unbekannt Und es ist der Austausch auch wichtig, damit wir quasi unsere Praxis hineinbringen in die Anwendung und auch in die Entwicklung. Vielleicht am Beispiel Es gibt auf der Technischen Universität Personen, die Bilderkennung und aus Bildern lernen, wichtige Zusammenhänge erkennen und das Programmieren. Diese Tools werden programmiert, im Humanbereich vielleicht oder im öffentlichen Verkehr. Und dann geht man mit KI sind aus programmiert.

00:10:14: Unbekannt Sie funktionieren beim Menschen oder im Verkehr. Und dann geht man mit diesen Tools in die Landwirtschaft, sucht sich in der Landwirtschaft sozusagen den Fachexperten in Tierverhalten usw im Erkennen von Krankheiten oder so und dann wird das Tool auf diese Anwendung umprogrammiert oder man nutzt es technische und und indem auf dieser Seite sehen wir zu Hause oder bist du zu Hause oder.

00:10:44: Unbekannt Ja, genau. Also das findet tatsächlich ja häufig statt, dass aus anderen Branchen quasi Quereinsteiger in die Landwirtschaft kommen. Es ist jetzt so gemeint Der Markt, den ich erlebe innerhalb von Projekt Agrifutter, weiß, ähm nicht mehr nur durch die traditionellen Landtechnikhersteller geprägt, sondern auch noch sehr, sehr früh innovative kleine Start ups, die sehr, sehr oft aus anderen Bereichen kommen.

00:11:13: Unbekannt Und ja, die Selbst und wirtschaftliche Ausbildung usw, die wissen nicht wo es um spezifische Herausforderungen bei uns in der Landwirtschaft sein. Und das ist alles, wo wir ins Spiel kommen, wo es wichtig ist. Ähm, dass man sie eigene Gedanken macht und nicht nur dem Hype folgt. Quasi und problemorientiert lösungsorientiert denkt. Wenn man so den Markt beobachtet, dann schmückt sich.

00:11:47: Unbekannt Heut schmücken sich viele mit dem KI Thema oder? Also jeder ist KI Experte oder Anwender oder mein Produkt nutzt KI wo es mal im früher war es davor die Programmierung im Hintergrund und jetzt wird es als KI verkauft. Spürst du das auch? Ja sehr. Also der Hype ist sehr groß. KI Künstliche Intelligenz ist ein inflationär gebrauchte Begriff. Finde und oft wird sehr selten wird neutral darüber gesprochen.

00:12:23: Unbekannt Es wird entweder aus Lösung für alle möglichen Probleme gehypt oder verteufelt oder einfach aus Angst vor dem Ungewissen. Und ich finde, es bräuchte dafür mehr sachliche Diskussion darüber und problemorientierte Diskussion, weil es macht keinen Sinn über okay KI hinein zu reklamieren und ein IT ist über Roy einzusetzen. Also zu denken wir haben diese und jene Herausforderungen, dieses Problem und KI ist eines der Tools, das uns zur Verfügung steht, um diese Probleme zu lösen.

00:13:00: Unbekannt Aber ist nicht immer das richtige Tool und es gibt nicht die KI. Es wird immer von der KI gesprochen. So ist es ja nicht. Es gibt unterschiedliche Anwendungen für unterschiedliche Problemfelder oder Anwendungsfelder. Und so soll es sein, weil wir vorher von der Vermenschlichung gesprochen haben. Ähm, die KI soll ja nicht dem Menschen ähnlich sein, sondern dem Menschen dienlich.

00:13:30: Unbekannt Und das ist sie in vielen verschiedenen Anwendungsfeldern auf unterschiedliche Art und Weise. Wie sehr abhängig. Wenn ich KI anwende vor von den Firmen die das programmiert haben, die das Tool auf den Markt bringen, wie sehr kann ich sicher sein, dass meine Daten nicht verloren gehen oder anderweitig genutzt werden? Dies ist tatsächlich sehr problematisches Thema. Ich glaube nicht, dass sie da jemals sicher sein kann.

00:14:03: Unbekannt Also es gibt natürlich.

00:14:08: Unbekannt Es gibt natürlich schon Settings, die man verwendet, um eine größtmögliche Sicherheit der Daten zu gewährleisten. Ober Ich glaube ehrlich gesagt aus meinem persönlichen Empfinden heraus, dass man nie sicher sein, ist es ein Problem, wenn meine Daten verwendet werden? Das kann ein Problem sein. Zum Beispiel, es kann ein Problem sein, weil im wirtschaftlichen Sinne a transparent bin es keine meine Daten verkauft werden.

00:14:42: Unbekannt An jemanden, der Interesse hat, meine.

00:14:47: Unbekannt Wirtschaftlichen Zusammenhänge zu kennen, um auch sozusagen bei Neuverkäufen von Produkten an die Preisgrenze zu gehen oder wie richtig, richtig ist. Möglicherweise ja, also Datenschutz ist ein Thema. Was, glaube ich, technisch große Herausforderung heißt, ist. Wenn An sich sind die Daten nur meine Daten, wenn ich Daten produziere. Natürlich nutzt der Anwender oder der des Produkt, wenn ich das sozusagen online ein Produkt anwende, sind die Daten ja auch verfügbar für den Hersteller.

00:15:24: Unbekannt Der braucht die Daten ja auch, um sein System zu evaluieren, um es auch anzupassen, zu optimieren. Und deswegen muss der Datenfluss ja auch erfolgen. Es ist ja nichts Negatives, aber natürlich könnten diese Daten auch anderweitig verwendet werden. Hier Richtig. Also natürlich wird die Barriere, die oder das Hindernis zu Daten zu gelangen, auch als Problem in der Entwicklung von adäquater KI jetzt zum Beispiel nicht nur aber verstanden.

00:15:53: Unbekannt Weil wir mal davon reden, dass viele Systeme gar nicht auf unsere Voraussetzungen angepasst sein, dann können sie nur auf unsere Voraussetzungen angepasst werden, wenn es denn Daten dazu gibt, dann wenn diese verfügbar sind. Also Trainingsdaten ja, sein extrem wichtig. Also deswegen ist ja auch die USA relativ weit vorne im Vergleich zu Europa, weil wir einen sehr strengen Gott sei Dank Datenschutz haben und in den USA die großen Player einfach unsere globalen Daten abgesaugt haben, genutzt haben um zu trainieren.

00:16:25: Unbekannt Sprache, Bild, Erkennung und und und. Also wir liefern ja jeden Tag wertvolle Daten und es gibt eben Länder, die gehen dort viel sorgsamer um damit und andere in NET. Die haben jetzt ein Riesenvorteil, weil eigentlich zurzeit das ist richtige Arbeit. Dennoch finde ich, dass wir schon bei unseren europäischen Werten bleiben sollen in dem Zusammenhang. Also es ist sehr, sehr wichtig.

00:16:51: Unbekannt Es ist ja rechtlich schon eine Herausforderung, diese Dinge zu klären und zu definieren. Und technisch ist es nur die größere. Das Gefühl kommst ja auch sehr viel in Kontakt mit den Anwendern der KI. Und es gibt ja auch diesen Ausdruck des Digital GPS. Spürst du das? Haben wird, haben wir diese diese Kluft auf jeden vorher, also nicht nur auf die KI Anwendungen, sondern eigentlich auf OS im Bereich Digitalisierung, Smart Farming usw.

00:17:30: Unbekannt Momentan empfinde ich es als Kluft zwischen den Generationen schon, obwohl obwohl ich da jetzt nicht verallgemeinern, aber trotzdem vom vom Gesamtbild her zeigt sie das einfach so, ich weiß aber nicht, ob das so bleibt. Also man quasi die Jungen am Ruder sahen, ob dies ergab automatisch verschwindet oder kleiner wieder. Die glaubst eigentlich nit weil die Entwicklungen, die sind teilweise so schnelllebig, dass man sich ja wirklich aktiv auseinandersetzen muss, um um da am Ball zu bleiben, quasi um up to date zu bleiben.

00:18:09: Unbekannt Und es ist mitunter auch sehr zeitaufwendig. Muss man also ähm, und natürlich heut die Digitalisierung oder das Beschäftigen mit diesen Technologien und das Anwenden des Connor durchaus seine Schattenseiten haben, psychisch usw diese Sachen mit ständige Erreichbarkeit und so also ich glaube das ist. Ich glaube, dass es in der Zukunft diesen Digital Gap geben wird. Gibt es aus deiner Sicht auch einen Digital gäbe nicht nur zwischen den Generationen, sondern auch zwischen Produktionsstandorten Verfahren?

00:18:49: Unbekannt Ja, das gibt es auf jeden Fall. Das zeigt ja in Umfragen im Grünen Bericht im Aktuell, dass zum Beispiel im Ackerbau die Technologieaffinität und die Affinität zu KI Systemen sehr viel größer ist. Das kann natürlich auch wirtschaftliche Gründe haben. Ähm, es ist aber so, dass es innerhalb der Tierhaltung nicht ganz homogen ist. Das Interesse an Lösungen, die künstliche Intelligenz beinhalten und es ist auf den ersten Blick vielleicht überraschenderweise so, dass die Rinderhalter sehr viel affin sind, Technologien zu verwenden, die KI beinhalten.

00:19:34: Unbekannt Wie erklärt sich das? Es ist möglich, dass in der Schweine und Geflügelhaltung, da heute die Automatisierung von Prozessen und immer damit einhergehend eine gewisse Digitalisierung des ganzen Produktionsprozesses schon sehr viel früher etabliert. Da gibt es also schon bestehende digitale, technische Systeme, richtig. Und die werden jetzt nicht rausgerissen oder ersetzt, sondern im und im Rinderbereich ist der Sprung. Das freut jetzt zeitgleich zum eins sozusagen Ja genau.

00:20:11: Unbekannt Also wir haben diesen Schritt quasi auslösen und für den Schweinehoder Geflügel heute sorgt sie der Bedarf vielleicht zu was Ist der Anreiz nicht zu groß? Magdalena Wir haben jetzt für über Gefahren Risken gesprochen. Du sagst ja natürlich schon auch die Chancen. Und vielleicht sind wir jetzt am Ende unseres Podcast ich in die Richtung gehen was ist wichtig in der Entwicklung, wo es hingehen, wo es kann jeder Einzelne sozusagen für sich mitnehmen daraus.

00:20:45: Unbekannt Die Medaille hat wie immer zwar selten Ja wo sind deine Tipps? Also ich bin auf jeden Fall der Meinung, dass KI nicht zunehmend vermenschlicht werden sollte, sondern immer vor dem Hintergrund gedacht werden soll, dass sie dem Menschen dient. Das ist ein zusätzliches Werkzeug ist, das uns zur Verfügung steht und dass diese Werkzeuge auch spezifisch sein sollen, nicht die, die KI, die generalisierte, künstliche Intelligenz, sondern für diese Anwendung dieses geeignete Werkzeug.

00:21:22: Unbekannt Und da sie dann dieser KI, die in meinem Arbeitsalltag als Landwirt integriert habe, auch nicht blind folge nicht den Empfehlungen blind Folge, sondern immer nur als zusätzliche Informationsquelle betrachte. So viel zur Seite des Landwirts und aus Sicht der Wissenschaft ist es extrem wichtig, sich dem Thema auch auf wissenschaftliche Art und Weise zu nähern und quasi nicht dem Hype zu folgen, sondern kritisch zu bleiben.

00:21:55: Unbekannt Und es ist auch sehr wichtig, dass es mehr Forschung zu dem Thema gibt. Zum kritischen Bereich gibt es für Publikationen schon Grenzen der KI, Risiken der KI. Du musst ja deshalb bissel im Blick oder? Also der Großteil der KI Forschung bezieht sich auf Entwicklung oder oder auch das Ziel die Entwicklung von einer neuen KI für ein neues Anwendungsgebiet usw und nicht von nicht die Analyse.

00:22:25: Unbekannt Es ist nicht das Ziel die Analyse der KI quasi zu erforschen muss dann wohl sein. Eben die Grenzen. Was sind die Gefahren? Es geht meistens um die Entwicklung eines konkreten Tools. Okay. Wo muss es hingehen? Also ich denke, dass es zu einem sehr viel sachlicheren Verständnis von dem Thema kommen muss. Ähm, ist erschließen Sie ganz viel neue Gebiete im Bereich der rechtlichen Verantwortung.

00:22:57: Unbekannt Wer haftet von irgendwo wo es passiert usw, die auf jeden Fall bearbeitet gehören? Und zum Verständnis von künstlicher Intelligenz gehört auch auf jeden Fall, dass wir Intelligenz an sich besser verstehen und intelligente Menschen bleiben oder und intelligente Menschen bleiben. Und ich glaube, dass zur Überschätzung der KI auch beiträgt, dass wir unsere eigene Intelligenz unterschätzen. Okay, natürlich jetzt einmal bisschen in der Ausbildung bin ich natürlich in der Ausbildung im Studium mit KI arbeite könnte irgendwann einmal sich die Frage stellen Kann ich dann noch von außen überhaupt kritisch auf die KI schauen, wenn ich in der KI aufgewachsen bin?

00:23:43: Unbekannt Oder ist es eine spannende Frage? Genau, also wann die quasi keine andere Realität als die durch die KI verschobene Realität der Spiele dabei ist ja genau alles wieder dabei ist. Kenne. Ich hoffe, dass dies so sein wird wie generell mit digitalen Technologien, also wo man anschaut, wie Smartphones haben wir breitere Computernutzung, Onkel Doktor und so, da war jetzt Grund mei Generation gefährdet da bissl eine.

00:24:19: Unbekannt Auch weil wir keine guten Ratgeber haben, weil die dann sie nun nicht auskennt haben usw. Während jetzt bei Teenager Kindern beobachte, dass die schon sehr viel kritischer sahen, dass die sehr viel mehr Grundwissen haben. Wie gehe ich mit Social Media um usw und die Animes so blind am Hype folgen? Weil der Hype und ich hoffe, dass dies in der Zukunft so sein wird immer.

00:24:43: Unbekannt Für unsere Jugendlichen ist es natürlich äußerst toll und Wahnsinn Und wie komme ich damit spülen und was konnte so ist usw aber für die nächste Generation oder vielleicht schon in sechs? Es entwickelt sich. Da ist es ja nichts besonderes mehr, dann flacht diese Welle von Hype und Verteufelung usw, die ja wirklich einer konstruktiven Entwicklung im Weg steht. Die Flucht der bissel ob also das ist meine Hoffnung und dies glaube wirklich, dass es so sein geht.

00:25:16: Unbekannt Ich glaube wir brauchen in Zukunft schon ab Rennen und Bauern die am Boden bleiben, die beim Tier bleiben, die sonst Spielraum für Zusammenhänge, für gute Kreisläufe. Ja, ich gab schon, die hofft, dass das nicht verloren geht. Ja, weil in Wahrheit ist es ja so Die KI kann nur mit unserem Wissen arbeiten. Also alles menschliches Wissen und der menschliche Hausverstand, der Deus und weiterhin gelebt wird, fließt hier wieder ein.

00:25:50: Unbekannt Und das wird dann führt ja die Quelle zu Verbesserung, quasi Oberentwicklung ist oft ausgegangen von Menschen, die ab bissl außerhalb der Blase waren, die vorausgegangen sind die quer an oder. Ja, das ist in der Musik so, das ist aber in der Wissenschaft so, das ist schon. Aber es lag vor, dass man die verlieren. Vielleicht ja richtig, weil.

00:26:19: Unbekannt Die Algorithmen in der KI in Wahrheit streben, die sehr nach Vereinheitlichung. Ja, und je mehr quasi eine verschobene, vereinheitlichte Realität sind, die wirklichen Realität manifestiert, desto mehr verlieren wir Vielfalt, die man später vielleicht aber brauchen, weil dann Besonderes wichtig ist und das heißt, wir brauchen auch die Biodiversität in diesem Bereich. Und die darf man jetzt verdrängen, dass die Welt muss bunt bleiben, die wird immer bunt bleiben.

00:26:53: Unbekannt Genau. Danke Magdalena für das Gespräch und alles Gute für deine weitere Arbeit. Wenn es darum geht, nicht eine KI Expertin zu sein, sondern eine kritische Prüferin von KI Systemen. Ja, danke, Es bleibt spannend.

00:27:10: Unbekannt Wenn du.