Hütet euch vor Faktencheckern - ein Informatikprofessor warnt

Florian Gallwitz ist Professor für Informatik und Medien – Muster- und Spracherkennung, Deep Learning und KI. Er spricht über Fehlinformationen im digitalen Zeitalter und sogenannte Faktenchecks, darüber, wie soziale Medien und KI-Fakes unsere Wahrnehmung manipulieren und warum die technologischen Fortschritte uns vor große Herausforderungen stellen. 

 Gallwitz erzählt von seinen Erfahrungen mit gefälschten PDFs und der Russland-Verschwörungstheorie – Themen, die zeigen, wie leicht Faktenverdrehung und Digitalverschwörungen voranschreiten und gibt konkrete Tipps, wie Journalisten und Bürger KI sinnvoll einsetzen können, ohne dabei auf Fehler hereinzufallen. 
 Außerdem warnt er vor einer drohenden Monopolisierung von KI-Technologien und erläutert die Gefahren einer unkontrollierten, weltweiten Konzentration auf wenige Firmen.  

Wenn Ihnen diese Folge oder auch jede andere unseres Podcasts gefallen hat, unterstützen Sie unsere Arbeit gerne mit einer Schenkung. Wir würden uns sehr über eine Zahlung freuen, per IBAN an: DE14 2004 1155 0843 5885 00 (Alexander Teske) oder per PayPal @ATeske812 (bitte Zahlung unter Freunden anklicken). 
 
 Wir freuen uns natürlich auch sehr über Abonnements, Bewertungen und Kommentare. 
 Wenn Sie direkt Kontakt aufnehmen möchten, erreichen Sie uns unter: annekatrin.muecke@gmx.de 
 peter@welchering.de 
 kontakt@alexander-teske.de 

Transcript

SPEAKER_00 0:00

Sachlich richtig, der Medienpodcast. Mücke Seske Welchering sprechen über Meinungsfreiheit, Rundfunkbeitrag, Social Media.

SPEAKER_02 0:16

Herzlich willkommen zu einer neuen Ausgabe von Sachlich Richtig, dem Medienpodcast. Zu Gast heute haben wir Florian Gallwitz. Florian Gallwitz ist Professor der Medieninformatik an der Technischen Hochschule Nürnberg und er tritt auch häufig als Kritiker der Medien auf, nämlich immer dann, wenn die sich beispielsweise mit digitalen Themen beschäftigen, etwa digitaler Forensik oder auch digitalen Recherchemethoden ganz allgemein oder eben auch KI-Einsatz im Journalismus. Herzlich willkommen, Herr Professor Gallwitz.

SPEAKER_01 0:43

Schönen guten Tag. Herr Galwitz, Sie haben auf Twitter vor reichlich zwei Jahren ein Zitat gepostet, hütet euch vor Faktencheckern. Was hat sie denn da zu veranlasst? Also das wurde ja viel beachtet. Was waren denn Ihre Erfahrungen mit Faktencheckern? Waren die so schlecht?

SPEAKER_03 1:00

Ja, das ist eine längere Leidensgeschichte. Also ich habe vielleicht, wenn ich, das Erste, was mir einfällt, der erste Kontakt, den ich wirklich hatte mit Faktencheckern, das war 2017. Da gab es die berühmten Macron-Leaks. Also die Lage war, es war Stichwahl in Frankreich, Marine Le Pen gegen den Macron eben. Und da ist zwei, drei Tage, ich glaube drei Tage vorher, ist ein großer Fundus an Dokumenten geleakt worden. Ich glaube über WikiLeaks auch. Und diese Dokumente stammten aus der Wahlkampagne von dem Macron und einige davon waren irgendwie so über Finanztransaktionen in der Karibik und alles so ein bisschen Zeug, was alles erstmal ein bisschen anrüchig aussah. Und das war natürlich große Panik in den Medien drei Tage vor der Wahl. Wurde also plötzlich kritisches Zeug geleakt, was also dem Macron schaden können und der Marine Le Pen hätte nutzen können. Und dann ist a Francis journalistin, ich weiß your name nicht mehr, auf Twitter auf the original idea gave me these PDF-Date in the banks in the Caribbean in Photoshop or was hooked to laden. And had festgestelled, yeah, when many PDF-Dateien öffnet, then for the Layers. Also this Dokument is Geschichte. Also the text is in einer anderen Ebene als der Hintergrund anders die Bilder. And that was natürlich die Lösung. Denn dann konnten alle sagen, okay, das Zeug ist gefälscht. Also das muss jemand mit Photoshop erstellt haben und dann die Layers exportiert haben als PDF, ohne daran zu denken, dass das erstmal wieder ein gemeinsames Dokument sein muss. Und das war dann das Mediennarrativ quer durch alle Medien, also die Süddeutsche Zeitung und natürlich auch die Faktenfinder haben dann also erzählt, okay, das ist alles gefälscht, weil da sind Ebenen drin. Es ging so weit, dass der ARD-Faktenfinder sogar ein Tutorial auf Twitter, als Twitter-Video verbreitet hat, wie man jetzt gefälschte PDF-Dateien erkennen kann. Das war also alles noch vor der Stich, weil innerhalb von wenigen Stunden war dieses Tutorial online, wie man also jetzt prüfen kann, dass PDF-Dateien gefälscht sind. Man lässt sie also hoch in ein entsprechendes Programm prüft, ob mehrere Ebenen da sind, ob man die Sachen verschieben kann. Und wenn ja, dann ist es gefälscht. Da hat sich natürlich, wenn man sich ein bisschen damit auskennt, weiß man natürlich, dass das kompletter, vollkommener Humbug ist. Also das ist jeder, der elementare Kenntnisse darüber besitzt, wie Dateiformate funktionieren, weiß natürlich, dass das keine Fälschungshinweise ist, sondern dass es einfach nur ein Kompressionsformat für gescannte Dateien. Also diese Dokumente wurden einfach gescannt auf einem relativ hochwertigen Scanner, ob sie jetzt von Hewlett Packard oder von wem auch immer war und die haben immer so eine Software dabei. Und das Problem ist ja, dass so eine DIN A4-Seite ziemlich groß ist. Wenn man die jetzt also wie so ein JPEG einfach nur speichern würde, dann wäre die sehr groß, wenn die oder die Auflösung von den Buchstaben wäre so schlecht, dass man dann, dass man keine scharfen Kanten mehr sieht. Deswegen nimmt diese Scan-Software, versucht sozusagen, den Text zu trennen von dem Hintergrund und von irgendwelchen Bildern und speichert das separat eben in diesen verschiedenen Layern. Das ist also ein vollkommen automatisches Verfahren. Heutzutage würde man es vielleicht als KI bezeichnen, aber es ist eigentlich nur, es werden verschiedene Regionen in dem Bild gesucht und in separaten Layern mit unterschiedlichen Verfahren gespeichert. Also die Bilder und der Hintergrund, die werden so wie JPEG gespeichert und die Schrift wird mit einem verlustfreien Kompressionsverfahren gespeichert, sodass man die scharfen Kanten nach wie vor hat. Und beides wird dann zusammengepackt in Layers und das ist kein neues Verfahren. Und dann habe ich damals Kontakt aufgenommen mit den Faktenfindern. Ich hatte mit einer der Gründerinnen des ARD-Faktenfinders dann Kontakt und habe dann mich mit der ausgetauscht. Ich dachte, die müsste eigentlich ganz froh sein, dass jemand, der sich ein bisschen damit auskennt, das erklärt, was eigentlich los ist. Aber ich hatte das Gefühl, die finde das ganz schlimm, dass da jetzt einer ihnen reinredet, wo sie doch schon so viel Mühe reingesteckt haben, in dieses tolle Tutorial zu machen. Und außerdem würde das doch jetzt vielleicht dem Macron schaden, wenn man das wieder zurücknehmen muss. Dann habe ich mich länger mit ihr ausgetauscht, habe ihr versucht, das zu erklären. Dann hat sie sich nochmal rückversichern müssen bei irgendeinem anderen, bei einem anderen Experten. Also offenbar vorher hat er ja nie ein Experte, war nie ein Experte involviert, aber wenn jetzt ein Professor für Medieninformatik kommt und sagt, Moment, das ist Unsinn und das erklärt, dann muss nochmal, dann auf einmal wird nochmal, dann beginnt also erst die Recherche und dann einige Stunden später verschwand dann sang- und klanglos dieser Artikel von der Seite des Faktenfinders. Es gab nie eine Korrektur, es gab auch keinen Hinweis darauf, dass da was entfernt wurde. Und dieses idiotische Video, das war noch viele Jahre online auf Twitter. Ich weiß nicht, ob es heute noch da ist, aber ich habe eine Kopie, also wenn ich es sehen wollt, kann ich Ihnen gerne mal zeigen. Es ist ein schönes Artefakt. Und was mich da besonders betroffen gemacht hat, ist jetzt die, wenn wir ein bisschen weiter in der Geschichte zurückgehen, es gab 2012 zu der, glaube ich, war es 2011, 12, ich glaube zwölf, muss zu Beginn der zweiten Obama-Amtszeit gewesen sein. Es gab in den USA Verschwörungstheoretiker, die geglaubt haben, dass der Obama nicht in den USA geboren war. Also schon während seiner ersten Amtszeit, sondern Börser waren das. Die wollten ihm also auf diese Art des Amtes entheben, denn damit wäre das verfassungswidrig gewesen, dass er dort Präsident ist. Und zu Beginn der zweiten Amtszeit hat das Weiße Haus seine Geburtsurkunde aus Hawaii veröffentlicht, als PDF-Datei auf der Seite des Weißen Hauses. Und damals haben diese Verschwörungstheoretiker das gleiche gemacht wie der Faktenfinder und wie die anderen Medien, die haben also auch das Dokument geöffnet, haben festgestellt, da sind verschiedene Layers drin. Und das hat dann diese Verschwörungstheorie noch verstärkt. Also es ist genau der gleiche Gedankengang. Es wurde also auch, es war ein sozusagen Confirmation Bias, aber das Ding muss gefälscht sein. Dann nehmen wir, wir haben keine Ahnung von der Technologie, aber wir nehmen jetzt den erstbeste Hinweis und haben das dann ausgeschlachtet, um also dem, um also wieder dem Obama zu unterstellen, dass er, dass er gar nicht in Hawaii geboren ist. Und da sieht man, dass das Mindset exakt das gleiche ist. Also es ist, da frage ich mich jetzt, was ist der Unterschied zwischen einem Faktenfinder und einem Verschwörungstheoretiker? Und das wird dann schwierig. Und dann habe ich mich eben über viele Jahre noch mit einer weiteren Verschwörungstheorie beschäftigt, diesen sogenannten Social Bots, die angeblich überall sind, also angeblich KI-gesteuerte Teilnehmer an Diskussionen in den sozialen Medien, was auch vollkommener Humbug war, also weder war es technisch möglich noch und noch gab es jemals irgendeinen belegbaren Fund eines solchen Social Bots, aber es wurde in allen Medien und insbesondere eben auch in den diversen Faktenfindern und Faktenfüchsen und wie sie alle hießen, immer und immer und immer wieder diese Verschwörungstheorie verbreitet. Immer wenn irgendwo in den sozialen Medien eine Diskussion aufkam, wo sich offenbar Leute nicht mit bestimmten Mainstream-Meinungen anfreunden konnten, dann wurden diese Leute als Bots diffamiert, die dann vielleicht auch noch von Russland gesteuert sind. Das war alles kompletter Unsinn. Ich habe mich auch mit einem Journalist, mit Michael Kreil, der ist jetzt, glaube ich, beim Silvestrundfunk, hatte ich mich eine Weile lang beschäftigt mit dieser Frage. Und wir haben das also Grund und Boden widerlegt, sowohl die Theorie von diesen Leuten, die das behauptet haben, als auch die jede Nachfrage nach einem konkreten solchen Social Bot wurde, also konnte nicht beantwortet werden, weil das war einfach auch nur eine komplette Verschwörungstheorie. Und gefühlt ist mindestens die Hälfte, wenn ich noch mehr von den Artikeln über diese angeblichen Social Bots eben auch in diversen Faktenfindern erschienen.

SPEAKER_02 9:18

Bei Verschwörungstheoretikern kann man ja eine klare Absicht dahinter vermuten. Also wenn die sagen, okay, die Geburtsurkunde von Obama ist gefälscht, dann wollen die einfach dieses Narrativ setzen. Bei den Faktenfindern, insbesondere weil die ja für einen öffentlich-rechtlichen Sender arbeiten, wenn da sowas passiert, wie Sie gerade berichtet haben, würde ich als gutgläubiger Mensch erstmal davon ausgehen, das ist ein Wissensproblem, ein Ausbildungsproblem. Kann das nicht auch dahinterstecken?

SPEAKER_03 9:41

Ich glaube, der Unterschied ist nicht groß. Also ich bin ja so von gelernter Musterkenner, also die beschäftige mich damit, wie man aus Sensordaten oder aus Wahrnehmungen Modellen der Realität erzeugt. Und Kern des ganzen Fachgebiets ist eben die berühmte Base-Formel, die sagt, dass man sozusagen etwas glaubt. Zum einen hängt es davon ab, für wie wahrscheinlich man das hält, dass das wahr ist, und dann noch, wie gut die Evidence ist dafür, dass es wahr ist. Und ich glaube, dass die sozusagen die Verschwörungstheoretiker, genauso wie die Journalisten, die leiden unter dem Problem, dass sie einerseits eine hohe Vorerwartung haben für das, was wahr ist, und andererseits ein schlechtes Modell für die Realität haben. Und beides in Kombination führt dann zu falschen Ergebnissen. Also ich glaube nicht, dass da ein grundlegender Unterschied ist.

SPEAKER_02 10:36

Also wenn man das mal übersetzt, dann wird das heißen, zum Ehren, zum einen gehen auch solche Leute wie die Faktenfinder oder sind da rangegangen, nach das wäre ihre Interpretation, einfach bitte Narrativ daran. Die wollten was finden und was beweisen. Und zum zweiten hatten sie da nicht den richtigen technischen Hintergrund, um sozusagen ihre Ausgangsthese als falsifiziert zu betrachten.

SPEAKER_03 10:57

Also es ist letztlich Confirmation Bias, also ich will, dass das stimmt, also glaube ich es auch. Es ist also nicht im Sinne einer Absicht, ich will jetzt hier mit Gewalt die Leute belügen und das, damit die in Frankreich die richtige Person wählen, sondern die glauben das wirklich. Also die sozusagen, das ist das interne Update von dem mentalen Modell der Welt, ist eben dadurch gestört, dass einerseits zu wenig Wissen über die Realität da ist und gleichzeitig eine sehr hohe Überzeugung, dass man die richtige Vorerwartung hat.

SPEAKER_01 11:30

Aber jetzt muss ich mal ganz dumm nachfragen, es gibt keine Social Bots, haben Sie gerade so en passant gesagt. Ist das nicht die Begründung gewesen, warum Politiker von Linken, Grünen und SPD reihenweise gerade x verlassen haben, dass das quasi nur noch von Social Bots und Hass und Heads haben sie natürlich noch dazu genannt, aber die gibt es gar nicht, den Grund, den sie zum Verlassen genannt haben.

SPEAKER_03 11:59

Also gibt es gar nicht, würde ich heute nicht mehr sagen. Sozusagen bis inzwischen, die Technologie hat sich weiterentwickelt. Also um 2020 um war es noch so, da hätte man noch nicht mal zuverlässig erkennen können, ob jemand für oder gegen irgendet ist. Also es gab einfach noch nicht die Sprachverarbeitungstechnologie, um wirklich den Inhalt von einem Satz zu verstehen. Mit ChatGPT hat sich das ein bisschen geändert, also mit diesen Large Language Models. Jetzt gibt es sozusagen durchaus die Möglichkeit, einen Bot zu schreiben, der eine halbwinnvolle Antwort auf einen Tweet gibt. Also die technische Möglichkeit ist jetzt da. Seit ungefähr 2024 gibt es auch frei verfügbare Modelle, die das im Prinzip können. Und ich habe tatsächlich im Oktober 2024 das erste Mal wirklich Bots gesehen, die ungefähr dem entsprochen haben, was immer Social Bot bezeichnet wurden, die also tatsächlich interagieren mit Nutzern, in dem Sinne, indem sie auf Tweets zumindest antworten, die antworten immer nur einmal, aber dann nie wieder. Und die auch sich in politische Diskussionen einmischen. Ich habe da eine Veröffentlichung noch dazu geschrieben, die demnächst erscheinen wird. Es ist aber so, dass die entsprechen überhaupt nicht der Vorstellung der klassischen Social Bots, denn die gibt es in allen möglichen politischen Stattierungen, also sowohl AfD-freundliche, also sehr, sehr viele Grüne, die die Energiewende toll finden und die Atomkraft blöd finden und die und der gemeinsame Nenner von diesen Bots, die ich da gefunden habe, ist, dass sie die Vereinigten Arabischen Emirate toll finden. Also die, die in jeder Diskussion kommt dann irgendwann die Wendung, ja, bei uns in den Vereinigten Arabischen Emiraten habt ihr doch viel bessere Investitionsbedingungen. Da geht es zum Teil um die Rüstungsindustrie und am Ende sozusagen quasi jeder fünfte Tweet oder so führt dann in die Vereinigten Arabischen Emirate, sodass man zumindest vermuten kann, dass das irgendwie eine Marketingaktion der Vereinigten Arabischen Emirate ist. Und die politischen Personas, die da gepflegt werden, sollen dazu dienen, irgendwie sozusagen Verknüpfungen aufzunehmen mit realen Menschen auf Twitter. Funktioniert tut das allerdings überhaupt nicht. Also ich habe die jetzt über weit über einen Jahr beobachtet. Und die, die nicht gelöscht worden sind, haben auch nicht wesentlich mehr Follower als vorher. Ganz selten mal eine Interaktion, die sie in mein Herz hinkriegen. Manchmal antwortet einer nochmal auf ein Replied, in diese Podsetzen. Aber also ich würde sagen, es gibt sie jetzt in keinem Umfang, sie haben überhaupt keinen Einfluss auf reale Diskussionen, weil sie keine Follower, sie haben fast keine Interaktionen mit echten Nutzern, aber die sozusagen die Situation, dass wir die überhaupt nicht mehr haben, würde ich sagen, ist seit 2024 kann man es nicht mehr so sagen.

SPEAKER_02 14:51

Aber Bots, die einfach nur Tweets weiter aufnehmen und reposten, ohne irgendwie zu antworten oder ähnliches, die waren noch vorher vor 2020 auch schon möglich, technisch.

SPEAKER_03 15:02

Möglich und es gab die auch. Also es gibt zwei bekannte Beispiele dafür. Zur Brexit-Zeit gab es zwei Bots. Der eine hieß I vote leave und der andere hieß I won't stay. Und der I vote leave-bot hat alles retweetet, wo der Hashtag I won't leave drin war und der I won't stay Bot hat alles retweetet, wo I vote stay drin war. Aber das war jetzt, jeder, der das Ding gesehen hat, ihm war das klar, dass das ein Bot ist. Das war es jetzt auch nicht irgendwie im Sinne, dass es, dass da, dass die Leute glaubten, dass das ein realer Mensch ist, dieser Bot. Also von daher hat das eigentlich mit dieser Vorstellung, dass da jetzt automatisierte Propaganda betrieben wird und wir alle nur noch mit Computern reden. Das hat ganz sicher nicht gestimmt. Und das stimmt eben auch heute nicht. Also man kann tatsächlich heute, wenn man mal einen Reply bekommt, kann man sich schon öfter mal fragen, ob der nicht automatisiert ist. Der größere Anteil wahrscheinlich, was auf Twitter im Moment an automatisierten Accounts existiert, das sind Bots, denen es wohl hauptsächlich darum geht, irgendwie Engagement zu bekommen, die vor allen Dingen auf sehr, sehr große Accounts Kommentare schreiben, sehr, sehr schnell Kommentare schreiben, wo sie im Wesentlichen das zusammenfassen, was in dem Tweet auch drin stand. Also eigentlich einen null Mehrwert liefern und die dann irgendwie immer fast unter allen von diesen ganz großen Engagement-Bait-Accounts immer ihre Replies drunter schreiben, ohne irgendeinen Mehrwert. Das ist mit Sicherheit auch automatisch generiert. Da fehlt aber jetzt dieser Manipulationsaspekt, der bei den Social Bots in der Definition noch steckt. Das ist eher nur ein Versuch, automatisiert vielleicht am Ende über die Twitter-Auszahlungen ein paar Dollar zu verdienen.

SPEAKER_01 16:46

Sie haben vorhin schon mal das ZDF gestreift, mit dem liefern sie sich ja seit ungefähr einem Jahr eine heftige Auseinandersetzung. Da geht es um einen Beitrag über russische Suchanfragen im Netz vor den Anschlägen. Und ja, das waren Anschläge in Aschaffenburg, München und Mannheim. Und die Grundthese des Beitrags war, die seien von Russland gelenkt, um die deutschen Wahlen zu beeinflussen und da wird ein Datenrecherchen darauf hindeuten. Was hat sie denn daran so erregt?

SPEAKER_03 17:20

Ja, dass das kompletter Unsinn ist. Also ich habe mal, ich habe diese Meldung morgens irgendwie vor dem Frühstück gesehen, dachte mir, das kann doch nicht wahr sein, dass sie so einen Unsinn machen. Dann hatte ich die, das Erste, was ich gemacht hatte, war den, also die, vielleicht, ich erkläre noch mal ein bisschen, wie die Argumentation des ZDF war. Also die haben zwar ein aufwendig gestalteste Berichte gemacht, mit toll ausgeleuchtet, ihr, Ihr, ihr, ihr Scharlatan, der ihnen das erklärt hatte, der hatte, war irgendwie bunt ausgeleuchtet und wie ein Wissenschaftler und im Heute Journal wurde das großgebracht. Und es gab schon vorher auf Bluetooth haben die Heute Journal verantwortlich, als Ihnen unterstellt wurde, das ist eine Verschwörungstheorie, dass der Putin hinter den ganzen islamischen Anschlägen steckt, wurde sozusagen der, ja, aber wir haben da was und wir wissen genau und wir sind da besser informiert. Und dann kam also diese großartige Geschichte. Die Idee war, dass man, dass wenn man Google Trends benutzt, dann kann man sozusagen gucken, wie oft ein bestimmter Suchbegriff zu einem gewissen Zeitraum erschienen ist. Der Hintergrund ist, das ist sozusagen für ein Tool für Search Engine Optimization. Also wenn ich jetzt meine, keine Ahnung, meine Zahntechniker-Firma irgendwie in Google-Dranking nach oben pushen will, dann kann ich gucken, wie oft es nach bestimmten Begriffen in meinem Feld gesucht worden ist und dann kann ich dafür sorgen, dass die bei mir auch auf der Seite stehen. Also die Idee, dass man dadurch ein bisschen, dass man ein bisschen Transparenz kriegt, wonach die Leute eigentlich suchen. Und was das ZDF gemacht hatte, die haben dann so irgendwie nach Strings wie Anschlag Mannheim gesucht, wie oft ist nach Anschlag Mannheim gesucht worden, und haben dann natürlich nur in Russland gesucht nach diesem String-Anschlag Mannheim. Und stellt sich raus, also der String-Anschlag Mannheim ist tatsächlich auch in Russland gegoogelt worden, angeblich, wenn man diesen Google-Trends, wenn man das nicht versteht. Und daraus wurde also der Schluss gezogen, naja, wenn jemand vor dem Anschlag in Mannheim nach Anschlag Mannheim gegoogelt hat in Russland, dann muss ja Russland in diesem Anschlag in Mannheim stecken. Das ist sozusagen die Logik, also auch klassische Verschwörungstheorie denken. Und da kann man sich natürlich, unabhängig davon, ob man sich jetzt mit der Technologie auskennt, kann man schon als Laie sagen, Moment, also wenn ich ein bisschen auch noch ein bisschen rational denke und mir fällt das auf und ich verstehe nicht, wie Google Trends arbeitet, dann könnte ich doch mal im anderen Land auch nach Anschlag Mannheim suchen. Und wenn Sie das gemacht hätten, hätten Sie gesehen in Neuseeland und auf Ardura und in Japan und überall auf jedem anderen Land der Welt ist auch nach Anschlag Mannheim gegoogelt worden, auch schon vor dem Anschlag, weil sie diesem Tool glauben. Sie mussten nämlich einfach nur den Suchbegriff eingeben und ein paar Mal auf Reload drücken, dann kriegen sie immer irgendwann diese Peaks, die da in einem Graphen zu sehen waren, die dann gedeutet wurden als konkrete Suchanfragen. Also das war das war der erste Hinweis, den man nachgehen hätte können, ohne irgendwas von Informatik zu verstehen. Da hätte man irgendwie skeptisch sein müssen, Moment, also ich muss auch eine Gegenprobe mal machen, ob das eigentlich, ob das jetzt nur für Russland geht oder ob die ganze Welt irgendwie dahinter steht, die ganze Geschichte bricht ja schon an dem Punkt zusammen. Der nächste Fehler, der gemacht wurde, ist, ich habe innerhalb, was ich das erste Mal gesehen habe, habe ich mir den Namen von diesem Schalatan angeguckt und hab gesehen, der hatte damals noch einen Twitter-Account, den er schnell gelöscht hat oder zugemacht hat. Und dann bin ich bis in seine Timeline durchgegangen und habe festgestellt, schon irgendwie der fünfte oder zehnte Tweet von oben, da hatte er mit dem gleichen Verfahren nachgewiesen, dass irgendein U-Boot, da ist so ein Tieftauch-U-Boot kaputt gegangen, implodiert and all the Insassen waren tot. And auch by this U-Boot-Geschichte had er also durch Google fest Google Trends-Tool festgestellt, that forher schon jemand googled, before this passiert was. Also a ganz wilde Verschwörungstherie. Also this U-Boot must also be Mächten vorher schon mal geplant. This type is a one-track-pony, also can not be Google Trends. I think that he academic gebildet is. Trends. Und ja, aber der technische Hintergrund ist eben ein ganz einfacher. Also, Google ist ja eine Firma, die ein bisschen auf die Privatsphäre ihrer Nutzer auch Wert legt und Wertlingen muss. Also sie kann nicht einfach allen Leuten zeigen, wer wonach gegoogelt hat. Also das wäre eine grober Verletzung der Privatsphäre, weil man jetzt genau gucken könnte, wer hat in welchem Land nach welcher oder in welcher Stadt nach welcher Erkrankung gesucht und Pipapo. Und das ist ja, da kann man ja wilde Geschichten daraus konstruieren, wenn das tatsächlich möglich wäre. Also ist das natürlich nicht möglich, sondern Google Trends verwendet ein und bekanntermaßen, das ist auch veröffentlicht, das ist, muss man, auf den entsprechenden Blogposts von Google auch kann man das nachlesen, ein Verfahren, das nennt sich Differential Privacy oder Privacy. Also das sind Verfahren, das kommt immer dann zum Einsatz, wenn man große Mengen von Daten hat, die für sich genommen die Privatsphäre verletzen würden, wenn man die veröffentlichen würde, also auch im medizinischen Bereich zum Beispiel. Ich möchte also nicht, dass die Krankheiten einzelner Patienten nachvollziehbar sind. Ich möchte aber trotzdem auf generelle Trends hinweisen, also zum Beispiel, dass bestimmte Krankheiten mit bestimmten Medikamenten korrelieren oder solchen Geschichten. Und dieses Differential Privacy ist, glaube ich, auch mit von Google entwickelt worden, ist ein mathematisch beweisbares Verfahren, wo man sicherstellen kann, dass aus den veröffentlichten Daten eben nicht auf einzelne Fälle geschlossen werden kann, in dem Fall auf einzelne Suchanfragen. Wie geht das? Na, da wird ein Rauschen injiziert in die Daten. Das heißt, die Daten werden also irgendwie grob akkumuliert und dann werden die noch verrauscht. Das bedeutet also, dass nichts mehr die Wahrscheinlichkeit null hat. Also sozusagen alle Suchbegriffe kriegen dann auf diese Art, in diesem Verfahren, an jedem Ort der Welt eine Wahrscheinlichkeit größer als null. Das hat sogar dazu geführt, dass ich zum Beispiel, ich hätte mal nach den Lottozahlen mit Superzahl, mit Underscore von einem letzten Wochenende in Google Trends gesucht und habe die auch, glaube ich, in Südpazifik, von England, Südpazifik-Insel gefunden, dass die auch da jemand danach gegoogelt hätte. Also auf gut Deutsch, Sie finden in Google Trends zu jedem Suchtbegriff an jedem Ort der Welt in jedem Zeitraum Treffer, wenn Sie nur oft genug auf Reload drücken. Also das ist auch wieder ein ideales Tool für Verschwörungstheoretiker. Also Sie können damit wirklich jede Verschwörungstheorie belegen, weil Sie immer für das, was gerade passiert ist in der Vergangenheit, Belege finden. Also sozusagen, wenn Sie das Gefühl haben, dass die Welt von außen kontrolliert wird, ist Google Trends optimal. Es ist jetzt übrigens auch von vielen im Zusammenhang mit dem, ich glaube, mit dem Palästina-Konflikt und so, gab es auch wieder viele Verschwörungstheoretiker, die nach genau diesem Prinzip oder nee, oder auch mit unterschiedlichste Fälle. Immer haben sie in Israel jemand gefunden, der schon davor danach gegoogelt hatte und die ganze Welt wird also aus Israel gesteuert und der gleiche Ansatz ist eben im ZDF dann auch gefahren worden mit Russland. Und das ist natürlich schon eine wilde Geschichte. Also sozusagen man allein die Grundidee, also okay, wir haben da eine Reihe von Anschlägen in Deutschland.

SPEAKER_01 25:29

Aber ich muss mal kurz nachfragen, wie hat denn das ZDF reagiert? Haben die sich dann entschuldigt und alles richtig gestellt?

SPEAKER_03 25:35

Natürlich nicht, keinesfalls. Also es gab, es gab, es ist mir zugespielt worden, manchen Leute hatten sich beschwert, also beim ZDF oder beim Intendanten über dieses Vorgehen. Und es gab einen Brief, wo also auch dann wieder eine Unwahrheit drin stand, der dann diesen Zuschauern zurückgeschickt wurde. Die Unwahrheit war nämlich, dass dieser Scharlatan schon mal dazu beigetragen hätte, einen Mordfall aufzuklären. Oder nämlich es ging um diesen Lücke-Fall, dass der angeblich durch genau diesen Trick auch gelöst worden wäre. Da ist ein Funkenwahrheit dabei. Dieser Typ hatte sich wohl damals an die Polizei gewandt mit seinem Hinweis, weil der hätte das eben auch, hat er dann auch wieder auf Google Trends geguckt und es gab einen alten Spiegelartikel, hatte ich gewonnen, da wurde tatsächlich erwähnt, dass der sich mit der Polizei in Verbindung gesetzt hatte. Aber natürlich hat das nicht gestimmt und natürlich hat er nicht, wie das ZDF behauptet, den Fall gelöst, sondern der Fall ist damals durch, wenn ich es richtig in Erinnerung habe, durch eine DNA-Probe gelöst worden, also einen genetischen Fingerabdruck. Und dieses Google-Trends hat natürlich nicht funktioniert, weil es nicht funktionieren kann. Aber auch da wurden also wieder die Leute in die Irre geführt mit einer schlicht unwahren Behauptung. Der Typ hatte nicht den Fall gelöst, sondern der hatte sich vielleicht tatsächlich damals an die Polizei gewandt. Aber ja, und was mich jetzt besonders eben irritiert, aber das ist konsistent mit dem, was ich bisher auch oft von öffentlich-rechtlichen Medien sehe, es existiert absolut nicht die geringste Fehlerkultur. Also es ist keinerlei Bereitschaft, da irgendetwas zu korrigieren. Das Höchste der Gefühle ist, dass sie irgendwas klammheimlich löschen, aber selbst das haben sie in diesem Fall nicht gemacht.

SPEAKER_02 27:23

Nee, die Geschichte steht bis heute noch. Es war eine groß angelegte Recherche von Terra X History und die wurde dann eben auch tatsächlich im Heute-Journal und auf heute eben auch entsprechend gepostet. Wobei mich interessiert, hat denn das ZDF auf Ihre Kritik sich nochmal gemeldet und das mit Ihnen diskutiert? Oder gab es da überhaupt keinen Austausch?

SPEAKER_03 27:50

Nein, gar nicht. Ich hatte ja auch gegenüber der Zeitung Die Welt, hatte ich nochmal sozusagen zusammengefasst, wie die Lage ist. Auch selbst wenn Sie auf Twitter nicht aktiv sind, hätten Sie es in der Zeitung lesen können. Aber nein, es gab keine Rektion. Warum auch? Also sozusagen, ich habe ja auch sehr offensiv Ihnen gesagt, Leute, das ist absoluter Unsinn. Und wenn ihr weiter das verbreitet, ist das für mich eine Lüge. Und es ist ja auch kein komplett irrelevantes Thema, sondern es ist ja ein ganz zentrales Thema der aktuellen Politik. Wie ist das Verhältnis zu zur islamischen Emigration? Und da ging es ja um islamistische Anschläge zum Teil, wobei das alles sehr unterschiedliche Hintergründe waren von diesen Tätern, und dann jetzt dem Putin auch zu unterstellen, dass er dafür verantwortlich war. Ich mag dem Putin auch nicht, aber das erinnert so ein bisschen an diese, ich glaube, bei der erste Irakkrieg, da wurde also von einer PA-Agentur diese Geschichte erzählt, dass die irakischen Soldaten die Neugeborenen aus den Brutkästen gezogen hätten, also um die Kriegsbereitschaft zu erhöhen. Und da wird genau auf die gleiche Art einfach eine komplette frei erfundene Geschichte in die Welt geblasen, die natürlich das Narrativ stützt, wir müssen jetzt irgendwie bald ein Krieg führen gegen Russland. Und selbst bei so einer doch wichtigen Frage wird einfach nicht die geringste Bereitschaft, da ein bisschen auf journalistische Standards Rücksicht zu nehmen, sondern da wird einfach die Geschichte rausgeblasen. Und ich habe tatsächlich in der Verwandtschaft eine ältere Dame, die mich darauf angesprochen hat, dass doch der Putin hinter diesen Anschlagen stehen würde. Also die Reichweite von solchen Verschwörungstheorien über die klassischen Medien ist natürlich viel, viel größer als die Reichweite von irgendwelchen Spinnern auf X.

SPEAKER_01 29:56

Lassen Sie uns doch mal über künstliche Intelligenz im Journalismus reden. Ich bin zuletzt gestolpert über einen Beitrag, den haben zwei, also den hat der Ministerpräsident von Thüringen verfasst für die Welt, gemeinsam mit dem Spitzenkandidaten der CDU Schulze von Sachsen-Anhalt, wo sie geworben haben, es soll doch mehr deutsche Musik im Radio gespielt werden. Und dann kam das irgendjemand verdächtig vor und hat eine Anfrage gemacht an die Staatskanzlei und die haben zugegeben, ja, ja, das ist mit KI geschrieben worden. Und Herr Vogt findet auch das gar nicht problematisch, woraufhin dann Journalistenkollegen von Frag den Staat doch nochmal sich das näher angesehen haben und auf die Idee gekommen sind, Mensch, vielleicht hat Mario Vogt denn des Öfteren schon mal, beziehungsweise seine Mitarbeiter in der Staatskanzlei die KI angeworfen, um auch Reden und so weiter zu generieren. Und siehe da gibt es doch einige sehr verdächtige Auftritte, sogar bei Beerdigungen, wenn ich das richtig weiß, und auch eben bei zwei Gedenkreden in Buchenwald und Auschwitz, wo man das ja schon als pietätlos bezeichnen kann, deiner KI-generierte Rede zu verbreiten. Jetzt kann man das noch ganz gut erkennen, dass so ein Text möglicherweise KI-generiert ist. Wie lange wird es denn dauern, bis man das gar nicht mehr erkennen kann?

SPEAKER_03 31:27

Das ist eine schwierige Frage. Also, beim heutigen Stand ist es tatsächlich so, dass diese KI-generierten Texte sehr, sehr auffällige Merkmale aufweisen, häufig, also wenn man sich nicht Mühe gibt, das zu verschleiern. Und zwar gilt das eigentlich unabhängig davon, ob man akademische Texte generieren lässt oder ob man sie so Zeitungsstil mit ganz kurzen Sätzen und ganz vielen Punkten drin generiert. Aber zum Beispiel ein Muster, was auch in diesen Mario-Vogt-Fällen jeweils immer aufgefallen ist, war dieses, dass man erst etwas verneint und das dann dadurch verstärkt, dass man es sagt, also es war nicht dies, es war jenes. Er hat nicht das gemacht, er hat das gemacht, es ist nicht so, sondern anders. Dieses kontrastive Verstärken, dadurch, dass man es erst verneint und dann das Gegenteil schreibt, das ist ein ganz, ganz häufiges Muster, was ich also auch sehe, wenn ich mich mit ChatGVT mich unterhalte und was einem inzwischen wirklich ins Auge springt. Also gerade auf Twitter gibt es extrem viele lange Tweets, die ganz eindeutig KI generiert sind und die genau dieses Muster aufweisen. Also das ist so ein Merkmal, was man heute gut erkennen kann. Man könnte es natürlich auch beseitigen lassen. Also wenn ich einen Text KI generieren lasse und anschließend der KI sage, mach dieses Muster raus, dann ist es weg. Dann kann er das schon auch umformulieren. Aber wenn man das sozusagen sorglos macht und einfach nur das Erste nimmt, was rausfällt, dann ist das Muster drin. Ob man das, also das ist sozusagen die eine Seite, was auch bei Frag den Staat sozusagen diese Muster erkannt werden, ist ja auch noch, fand ich ja noch netter, in diesem Papstwerk über künstliche Intelligenzzyklika oder was das, wie sich das nennt, da war ja, ist ja auch, hat einer relativ ausgiebig drauf geguckt, hat auch nachgewiesen, ja, eigentlich ist das KI generiert. Also da waren ganz viele von diesen Wendungen auch drin und ganz viele Gedankensprüche und so, die alle noch nie vorher in diesen Dokumenten vorgekommen waren. Also auch dieses Papstwerk über KI wirkte sehr stark, KI generiert. Der zweite Weg, wie man es eben prüfen kann, ist immer, das sind so automatische Detektoren. Der Beste, den es im Moment gibt, nennt sich Pandram, der wirklich aus meiner Sicht eine ganz gute Quote hat, wobei ich das eben auch immer nur anekdotisch sagen kann. So richtig stabile Zahlen dazu gibt es auch nicht, wie gut das funktioniert. Aber der ist schon, der bestätigt immer meinen Verdacht. Also wenn ich das Gefühl habe, da ist was KI generiert, dann kriege ich in der Regel auch, dann sagt er das normalerweise auch. Und auf alten, auf Texten, die also nicht KI generiert sein können, liefert er eigentlich immer 0% Wahrscheinlichkeit dafür, dass es KI generiert ist. Zurzeit untersuchen wir das in einer Masterarbeit noch ein bisschen systematischer, auch mit alten Arbeiten vor und nach der oder mit akademischen Arbeiten vor der ChatGPT-Zeit und Texten, die wir dann selbst KI generieren, auf unterschiedliche Art, um rauszukriegen, wie gut kann man das noch erkennen. Ich nehme an, es wird immer so einen vielleicht einen Wettlauf bleiben. Also so ein Tool wie Pangram kann wahrscheinlich immer, wenn man es immer auf den aktuellsten Modellen nachtrainiert, wahrscheinlich schon noch was leisten. Das ist also ein ziemlich komplexes Klassifikationsverfahren, was selbst wieder ein neuronales Netz ist. Und was auch darauf optimiert ist, eben keine Falsch-Positiven zu liefern. Also da ist so eine Schleife im Trainingsprozess, immer wenn es, was nicht KI generiert ist, wieder als KI-generiert fälschlich klassifiziert, wird das nochmal wieder mit ins Training genommen und verstärkt, sodass man, dass die versuchen also die Falsch-Positivrate sehr gering zu bekommen. Aber gerichtsfest ist es natürlich trotzdem nicht. Also es ist im Moment kann man sagen, okay, du hast die und die Wendungen verwendet, die typisch für KI sind. Und Pandram sagt auch, das sieht nach 100% KI aus. Aber ob man jemanden vor Gericht damit das nachweisen könnte, hätte ich meine Zweifel.

SPEAKER_02 35:51

Also mich erinnern ja diese gesamte Diskussion um solche Tools wie Pandram oder ähnliches, immer an die Diskussion, die es ja vor etlichen Jahren zu den Butometern gab. Würden Sie sagen, die sind auf einem anderen Niveau oder ist da nicht doch Skepsis angebracht?

SPEAKER_03 36:08

Skepsis immer angebracht, aber bei dem Butometer war ja das spezielle Problem, dass die dieses Bottometer auf ein Problem trainiert haben, was gar nicht existiert hat. Also die hatten gar keine, die hatten ja gar keine Ground Truth. Also die hätten ja sozusagen, die hätten, um sozusagen so einen Klassifikator wie Brutometer zu trainieren, hätte man irgendwie Bots gebraucht. Also die jetzt dieser dementsprechend, was man glaubt, was in Social Bodies, die gab es ja nicht. Also haben die stattdessen irgendwelche Spam-Accounts von 2008 oder so fürs Training genommen, die überhaupt nicht automatisiert waren. Wahrscheinlich, die nichts mit politischen Bots in irgendeiner Form zu tun hatten. Das war ein Teil des Trainings und dann haben sie natürlich, dann haben sie irgendwelche Studenten beauftragt, Tweets danach zu bewerten, ob die jetzt wie Bot klingen oder nicht. Also da gibt es auch wissenschaftliche Studien dazu. Naja, je mehr die Meinung von dem meiner widerspricht, desto mehr halte ich das Ding für einen Bot. Und deswegen sind also schon diese ganzen Trainingsdaten absurd. Also die haben keine Ground Truth, wie wir sagen, also die haben gar keine Referenz, wo man weiß, was es ist oder auf denen man sinnvoll trainieren hätte können. Deswegen ist das von vornherein zum Scheitern gewesen mit diesem Botometer. Bei dem Pangramm ist es anders. Da kann man ja tatsächlich trainieren. Wir wissen ganz sicher, dass alle Texte, die vor 2022 entstanden sind, nicht mit KI erzeugt worden sind. Und wir wissen, und wir können auch KI-generierte Texte erzeugen auf unterschiedliche Art. Man kann natürlich einfach sagen, schreib den und den Text oder formuliere das um. Es ist im Detail ein bisschen komplizierter, wenn man zum Beispiel, man kann so einem Generator eine gewisse Person geben. Also schreib jetzt so, als wärst du ein leicht legasthenischer Informatikstudent im zweiten Semester mit vielleicht mit Migrationshintergrund oder so aus dem und dem Land, sodass man dann den Stil noch versuchen kann, ein bisschen von dem normalen Chat-GPT-Stil wegzulenken. Deswegen ist es im Grenzbereich nicht immer leicht zu sagen, ob es dann wirklich funktioniert. Aber zumindest ist es wissenschaftlich möglich. Also ich kann eine Studie machen, ich kann überprüfen, wie gut es ist und am Ende kann ich auszählen, wie gut es funktioniert hat, zumindest auf einem eingeschränkten Teil der Realität. Und weil Brutometa war es einfach von vornherein kompletter Unsinn.

SPEAKER_01 38:30

Aber helfen Sie mir mal so als absoluten Technikleien oder Deppen. Wenn ich jetzt Journalist bin und die KI einsetzen möchte, wo ist es sinnvoll und wo ist es weniger sinnvoll?

SPEAKER_03 38:47

Ja, das ist eine große Frage. Also die schließt natürlich an die Frage ein, was ist KI überhaupt oder was kann KI nicht, was wir können. Und mein Gefühl ist eben doch, dass die KI-Modelle sich rasant in einen Bereich bewegen, wo sie uns in allen kognitiven Bereichen überlegen sein werden. Ich glaube heute schon, dass die meisten, selbst Grog, was jetzt wirklich ein relativ schlechtes Modell ist, verglichen mit den besten, aber wenn ich Grog zu irgendeinem aktuellen Thema frage, kriege ich meist schon mehr Substanz, als ich jetzt wahrscheinlich in der typischen DPA-Meldung sehen würde. Also der kann innerhalb von Sekunden geht der 20 Artikel durch und recherchiert das und liest die alle und liefert mir eine kurze Zusammenfassung davon.

SPEAKER_01 39:37

Also nur kurz dazwischen geworfen, Krog ist die Variante von Elon Musk auf X, ne?

SPEAKER_03 39:41

Genau, das ist sozusagen die, das wird, der wird sozusagen, den kann man auf zwei Arten nutzen. Man kann ihn einfach nutzen wie ChatGPT in der App oder man kann ihn eben auch dadurch sozusagen rufen in einem Twitter, in einer Twitter-Diskussion, dass der dann direkt wie ein Diskussionsteilnehmer sich in die Diskussion einmischt. Aber wie gesagt, das ist natürlich nur der Groc ist wirklich nur ein ganz, ganz kleiner Schatten von dem, was mit wirklich guten Modellen möglich ist. Also wenn Sie so einen 100-Dollar-Account bei OpenAI haben und Sie wollen irgendeine Information zu einem bestimmten Thema haben. Also egal, also zum Beispiel, wenn ich jetzt zu den Anschlägen in Mannheim und sowas wissen wollte, was war da los, da würde ich Chat Mitty fragen, was da los war, würde das eben pro Modus starten und dann würde vielleicht 20 Minuten recherchieren und hunderte von Quellen dabei lesen und würde mir am Ende ein Ergebnis liefern, in das ich weitaus mehr Vertrauen hätte als in alle heutigen journalistischen Produkte. Also deswegen ist die Frage schon ganz fundamental. Aber es betrifft eben nicht nur den Journalismus, es betrifft auch mich. Also selbst in meinen, also gut, vielleicht ein paar Nischenthemen, wo sehr, sehr viele falsche Sachen in der Zeit umstanden, also zum Beispiel dem Thema Social Bots, da glaube ich, da weiß ich noch deutlich mehr drüber als ChatGPT. Aber so wenn es um meine, was ich meistens so in der Vorlesung mache, irgendwie, wie funktioniert so ein Live-Language Model or solution, da kann ich nicht mithalten mit Chat-GPT. Da weiß Chat-GPT viel, viel mehr drüber als ich in viel, viel größerer Tiefe, kann viel, viel schneller, viel, viel komplexer Fragen lösen, kann viel besser programmieren als ich. Deswegen ist es ja die ganz grundsätzliche Frage: We can damage um, that this thing so in Irland wahnsinnig viel schneller und schlauer und besser informiert ist als wir. Und für Journalisten sieht es schwierig aus. Also ich glaube, Journalismus in der Form, wenn sich das mal rumgesprochen hat, wie gut diese Technologie is, kann nur noch funktionieren mit wenn man es irgendwie mit einer Persönlichkeit verknüpft, sozusagen, dass man, dass die Leute gerne bestimmt stil von irgendeiner Person leben, die dann auch lesen, die dann vielleicht auch reale Dinge tut und erlebt und sich irgendwie irgendwie Teil der Geschichte ist, weil alles andere kann Jet-GBT. Also wenn ich einfach nur recherchieren will, was passiert ist, und das als öffentlich zugänglichen Quellen verfügbar ist, dann braucht man keinen Journalismus mehr. Also Journalismus wird dann eben, oder man fängt eben da an, wo man wirklich recherchiert und Dinge ans Tageslicht fördert, die nicht öffentlich verfügbar sind.

SPEAKER_01 42:30

Da muss ich nochmal nachfragen. Okay, also es sind ja zwei verschiedene Dinge. Einmal zum Schreiben kann ich sie einsetzen, da können wir ja auch nochmal drüber sprechen. Aber wir sind jetzt bei der Recherche, da habe ich jetzt ja schon ganz oft gehört, ich soll zur Recherche einsetzen, da ist die so toll. Also habe ich das jetzt auch ausprobiert verschiedentlich. Und tatsächlich natürlich, die Geschwindigkeit übertrifft meine Geschwindigkeit, die ich jetzt als Journalist beim Recherchieren hätte. Allerdings muss ich auch sagen, mir fällt natürlich auf in Gebieten, wo ich mich, glaube ich, ganz gut auskenne, dass mir dann eben doch auffällt, dass einige Dinge veraltet sind oder eben nicht exakt sind. Wenn ich das jetzt aber nicht weiß, dann falle ich natürlich darauf rein. Ich weiß ja gar nicht, dass das überprüfen muss. Also ich müsste ja sozusagen alle 100 Quellen nochmal ansteuern, um sie zu überprüfen, was ja keinen Sinn ergibt, dann kann ich es ja gleich selber machen. Wie kann ich denn sowas ausschließen oder sind das einfach nur so Anfängerfehler und das wird in ein paar Monaten nicht mehr der Fall sein?

SPEAKER_03 43:24

Also die Entwicklung ist ja rasant. Also noch vor eineinhalb Jahren gab es überhaupt noch keine Reasoning-Modelle. Da gab es nur so diese GPT, die hat dann einfach geantwortet und irgendwas runtergeplaudert, also so ohne Nachdenken und ohne hat irgendeine halbwegs plausibel klingende Antwort produziert. Und inzwischen haben wir eben die Situation mit diesen Reasoning-Modellen, die wirklich intensivst recherchieren. Und ja, die liefern auch manchmal Sachen, die nicht stimmen, eben dann, wenn ganz viel Zeug nicht stimmt. Also wenn das, was in der Wikipedia steht, nicht stimmt und wenn die, und wenn das Zeug, was in der Zeitung steht, nicht stimmt, dann Da steht es, man muss ja nur den, nehmen wir den Ballfall mit Google Trends oder so. Selbst da liefert da irgendwie, ja, okay, er hat schon das kennt, wahrscheinlich ist das ein bestimmtes nicht so richtig oder so, aber eine klare Aussage, dass das einfach kompletter Homebook ist, weil sie von Chat-GPT auch nicht kriegen, weil das eben so oft falsch überall in der Zeitung und in den Medien stand, dann verarbeitet er das natürlich auch. Aber da unterscheiden wir uns ja nicht von Chat-GPT als Menschen. Wenn wir etwas oft genug falsch in den Medien lesen, dann fangen wir auch an, es zu glauben. Also das ist kein grundsätzlicher Unterschied. Und so wie die Entwicklung ist und wie die, so rasant wie die läuft, spätestens in einem halben Jahr oder so ist, kann fast niemand mehr auf irgendeinem Gebiet mitteilen. Wie gesagt, ich habe noch meine kleinen Spezialgebiete, wo ich weiß, dass ich, wo ich glaube, dass ich immer noch ein bisschen mehr weiß als ChatGPT. Aber ich fürchte, das wird bald vorbei sein.

SPEAKER_02 44:58

Nee, ich denke auch in der Recherche, da müssen Journalisten einfach lernen, damit gut umzugehen, natürlich skeptisch zu bleiben. Und ein Punkt ist für mich der Aufbau von entsprechenden Wissensbasen in Verlagen. Also mein Buch über digitale Kriminalität, da habe ich auf alle Quellen zurückgegriffen, die in über 40 Jahren Berufstätigkeit entstanden sind. Und da habe ich mir einfach Olama runtergeladen und Olama mit den Dingen, die auf meiner Festplatte eben, waren irgendwie 5.000 oder 6000 Dokumente oder sowas, also meine eigenen Beiträge, die recherchiert waren, die Quellen referenziert waren. Und wenn ich dann eine konkrete Frage zu bestimmten Sachen hatte, weil ich im Kapitel gerade nicht weiterkam, dann habe ich eben den entsprechenden Prompt bei Olama geschrieben und dann bekam ich auch Auskünfte, die natürlich stimmten. Also ich wäre der Meinung, so in die Richtung müssten auch Journalisten sich mit dem Einsatz von KI-Tools anfreunden. Oder bin ich da ganz falsch unterwegs?

SPEAKER_03 45:52

Ja, Olama heißt natürlich, dass Sie das lokal laufen lassen, das Modell bei Ihnen auf dem Rechner, was natürlich im Moment mit erheblichen Einschränkungen verbunden ist. Also wenn man einen, klar, wenn man hat den Vorteil, Sie können damit mit vertraulichen Dokumenten arbeiten und sie brauchen das nicht, irgend auf irgendwelche Server hochzuladen in den USA. Aber Sie müssen sich natürlich auch klar sein, das ist ein Weltenunterschied an Intelligenz und an Fähigkeiten, die die Modelle, also wenn sie sowas wie, wie jetzt, wie dieses Mythos-Modell, also dieses genannt, egal, also jedenfalls diese leicht kastierte Variante von dem Mythos-Modell, die da erschienen ist von Entropic, oder wenn Sie das aktuelle Modell von OpenAI haben, dieses GPT 5.5, 5.5, dann haben Sie das ist wie der Unterschied zwischen einem, sag ich mal, einem begabten Doktoranden und einem Praktikanten, der gerade sein Abitur gemacht hat oder so. Also das ist doch ein deutlicher Unterschied in der Qualität und Leistungsfähigkeit. Und natürlich, also gerade wenn sie sowas wie diese identischen Systeme haben, wie es im Moment gibt, also Codex zum Beispiel von OpenAI, da ist ja der Punkt schon vorbei, dass man einfach irgendwo irgendeine Frage stellt und die dann beantwortet wird, sondern man gibt dem Ding einen Auftrag. Also schreib mir ein 50-seitiges Dokument, was dieses Thema abschließend oder ausgiebig diskutiert und suche alle Quellen, die du dazu finden kannst und behandel das für und wieder. Dann macht ihr das. Dann schreibt ihr in Stunden oder zum Teil tagelanger Arbeit dieses Dokument und leistet dabei wahrscheinlich mehr als ein Mensch in einem Monat leisten könnte. Und das ist, ja, ich glaube, die meisten Leute haben noch nicht verstanden, wie gut das Zeug ist. Also das ist vielleicht so ein Punkt, wenn wir bei Medienkritik sind. Den Medien wird immer mit großer Begeisterung aufgegriffen, wenn irgendeine Studie rauskommt, wo festgestellt wurde, dass KI irgendetwas nicht kann. Diese Studien sind dann meistens zweieinhalb Jahre alt, weil der Veröffentlichungsprozess so lange dauert. Also wir reden dann eigentlich immer irgendwie über Modelle von Anfang 2023 oder Mitte 2023 oder so. Und ich glaube, dass die dadurch unterschätzen viele Leute, die es noch nicht benutzt haben, gewaltig die Möglichkeiten von diesen Systemen. Also ich generell zum Thema KI, was bedeutet das für die Welt, was bedeutet das für den Arbeitsmarkt, wie funktioniert das, wie wir in einer Welt, wo wir intellektuell nur noch die zweite Geige spielen, ich kann mich nicht einen journalistischen Beitrag dazu gelesen haben zu haben, der mich auch nur am Rande angesprochen hat oder interessiert hätte, der sich mit diesen Fragen wirklich ernsthaft auseinandergesetzt hätte.

SPEAKER_01 48:49

Machen wir es doch mal ganz praktisch. Was würden Sie denn Hörern, Zuschauern raten, wenn Sie jetzt gerne recherchieren wollen oder freiberuflich als Journalist arbeiten? Was wäre denn eine praktikable Variante? Wie viel muss ich investieren und welches System hat im Moment für die Recherche aus Ihrer Sicht die Nase vorn?

SPEAKER_03 49:10

Also ich würde, wenn Sie es nicht zu oft gebrauchen, dann kommen Sie wahrscheinlich mit dem 20-Dollar-Account von Entropic oder von OpenAI sehr weit. Also das eine ist dann Claude und das andere ist ChatGPT in der Bezahlversion. Und bei diesem, wenn Sie mit dem Chat-GPT zum Beispiel sprechen, dann können Sie dem schreiben, kann man immer einstellen, welches Modell er nutzen soll. Und Sie sollten unbedingt sicherstellen, dass er mindestens auf Thinking steht. Also man kann, also beim Impro-Account, den ich habe für 100 Dollar im Monat, kann man auch noch auf Pro stellen. Das ist dann noch eine Stufe höher. Aber viele Leute nutzen das nur zum ChatGPT, aber stellen nicht auf Thinking. Und das führt dazu, dass man diesen quasi dieses unrecherchierte Geplapper bekommt, wo er sofort antwortet, was sehr häufig nicht viel mit der Realität zu tun hat. Also deswegen unbedingt auf Thinking stellen, das führt dazu, dass er meistens schon eine Minute oder zwei oder so braucht, aber dafür dann eben auch tatsächlich was recherchiert und eine brauchbare Antwort gibt. Und wenn ich professionell arbeiten würde im Journalismus und irgendwie leisten kann, würde ich mir wahrscheinlich tatsächlich die 100 Euro oder ein bisschen mehr als 100, glaube ich, wenn es umrechnen, aber um diesen 100-Dollar-Account gönnen. Weil das ist schon brutal, was der macht. Und dann eben immer nur im Pro-Modus rechnen, wenn es die Zeit zulässt, das ist in fast allem wahrscheinlich um Klassen besser, als ein akademischer, ein Absolvent eines akademischen Studiengern bringen könnte an der Stelle.

SPEAKER_02 50:52

Wird es denn noch in drei oder vier Jahren so etwas wie diesen Podcast dieses Gespräch ergeben oder wird das dann einfach von irgendeinem generativen KI-Tool erstellt worden sein?

SPEAKER_03 51:06

Naja, das ist eine Frage, das weiß ich nicht. Also es gibt, es gibt, äh, ich tue mich ganz schwer damit im Moment Prognosen zu machen, über wie die Welt aussehen. Ich habe mich schon immer ein bisschen schwer getan mit Prognosen. Ich habe mich einmal dazu überreden lassen, eine Prognose zu machen für die damalige Wired in, die hat sich, äh, die hat sich 2019 eine Serie herausgebracht von KI-Experten über die Frage, wo KI im Jahr 2029 steht. Das war 2029, war das Jahr, wo Ray Kutzweil schon seit seit fast 30 Jahren voraussagt, bis dahin an dem, in dem Jahr haben wir eine Menschen, äh eine dem Menschen gleichwertige oder überlegene künstliche Intelligenz. Die meisten haben ihn immer für vollkommene Idioten gehalten. Und ich bin das 2018 gefragt worden, habe dazu also auch einen Artikel geschrieben dann für die Wild. Und da haben sie die Überschrift, da war dann etwas zugespitzt über dich von mir. In 2029 wird es keine KI geben, die diesen Namen verdienen. Ich habe zwar richtig gelegen, was die Technologie angeht. Ich habe schon gesagt, okay, es wird natürlich das Deep Learning sein und es wird, es wird eine Fortsetzung sein von dem, was wir schon haben. Und damals, ich habe ja schon Google Translate und so, es war schon ein bisschen erkennbar, wo es hingeht, aber ich habe das Tempo auch vollkommen unterschätzt. Also ich finde, ich hätte eine große Summe Geld gegeben, dass ich das, dass zumindest bis 20, vielleicht wahrscheinlich bis 2035 es keinem nichts geben wird in der Leistungsklasse von ChatGPT. Also da war ich sozusagen diesen Sprung habe ich überhaupt nicht gesehen. Deswegen bin ich jetzt wirklich vorsichtig, wenn es um Prognosen geht in dem Bereich. Ich habe übrigens damals auch schon den einleitenden Absatz, habe ich, habe ich mich nur mit der Schwierigkeit von Prognosen in diesem Bereich befasst, weil eben sehr viele Prognosen vollkommen falsch waren, aber in die falsche Richtung. Also es gab ganz viele Leute wie der Minsky oder so, die schon Anfang der 70er Jahre geglaubt haben, dass das Thema künstliche Intelligenz in fünf Jahren gelöst sein würde. Oder sowas auch natürlich auch Hanebüchinger Unsinn war im Nachhinein und das lag auch vollkommen falsch. Und ich habe dann versucht, vorsichtig zu sein aus dieser Lehre und lag dann wieder falsch, weil es eben doch viel schneller ging, als ich geglaubt hatte. Also deswegen, ja, also ich gucke mal, ich versuche mir ein Bild zu machen, was im Moment passiert. Es gibt sehr, sehr unterschiedliche Szenarien. Es geht von dem Szenario, dass die Welt untergehen wird, weil die KI alles übernimmt und einfach viel schlauer ist als wir und nicht beherrschbar ist. Also zum Beispiel der Touring Award-Gewinner Geoffrey Hinton vertritt so ein bisschen diese Ansicht. Wobei es ein bisschen optimistischer klingt, der gemeint ist, vielleicht haben wir doch eine Chance noch zu überleben, aber so richtig überzeugend ist es auch noch nicht. Und dann gibt es andere, die sagen, naja, es ist nur sowas wie es Internet oder so wie es iPhone und es wird sich nicht groß verändern und wir werden neue Arbeit finden und wir werden und das Leben wird eigentlich sehr schön werden und wir leben im absoluten Reichtum wie im Flagaffenland, weil die KI alles für uns macht. Und das sind so die, und da gibt es natürlich noch andere Szenarien wie, ja, die KI wird Biowaffen erfinden und in der Hand von Terroristen allen möglichen großen Schäden anrichten, wird Cyberangriffe ermöglichen, die wir uns noch gar nicht vorstellen können. Also auch eins von den und durchaus realistischen Szenarien aus meiner Sicht, die ja auch in der praktischen Diskussion mit KI eine große Rolle spielen. Ja, es ist schwierig. Also ich, ich, das Einzige, wo ich mir ganz sicher bin, dass es nicht passieren wird, ist, dass das irgendwie wieder weggehen wird und dass wir dann schon, dass die menschliche Intelligenz dann schon noch irgendwie überlegen ist und wir haben noch besondere Fähigkeiten, die diese Maschinen nicht haben, da glaube ich nicht dran.

SPEAKER_01 54:59

Wenn Sie so die Medienwelt als Konsument beobachten, was sind denn, jetzt wird ja ganz viel rumexperimentiert mit der KI in den Redaktionsstuben und die einen überschätzen das Instrument, die anderen unterschätzen es. Was sind denn die häufigsten Fehler, die Ihnen so auffallen?

SPEAKER_03 55:17

Ja, also wie gesagt, für mich sind die meisten Artikel, die ich über KI lese, vollkommen trivial. Also die im Sinne, es geht um irgendwelche trivialen Aspekte, was mache ich damit, wenn ich mich in mein KI-Bot verliebe oder so Zeugs oder wie kann ich meinen KI-Bot einsetzen, um die Steuererklärung zu machen und stimmt das dann, was da gemacht hat und so Zeugs? Das sind alles so so, ja, ich meine, das sind ja ganz große Fragen da, die da dranhängen, die wahrscheinlich, wenn man auf X ist und den richtigen Leuten folgt, dann sieht man was, die Leute in Kalifornien und auch was dort von sehr ernsthaften Leuten, die sehr, sehr viel wissen über das Thema und die auch sehr, sehr intelligent sind, was die sich für Fragen stellen. Also wie funktioniert eine Gesellschaft, in der menschliche Intelligenz ersetzbar ist durch eine Maschine, die das nahezu kostenlos macht? Wie funktioniert Wertschöpfung? Wie verteilt man das Geld, was auf diese Art verdient wird? Das wird ja auch zum Beispiel von den CEOs der großen KI-Firmen in Amerika durchaus sehr erstaunlicherweise offensiv angesprochen. Also wir brauchen irgendwie sowas wie eine Art Einkommen für die Leute, die auf der Strecke bleiben werden durch diese Technologie, also so eine Art Grundeinkommen, oder auch der Elon Musk spricht, von einem Grundeinkommen, was es braucht in so einer Welt. Und für Deutschland stellen sich natürlich noch ganz andere Fragen als in den USA, weil in den USA kann man sich vorstellen, dass man das Problem mit so einer Art Umverteilung hinbekommt, wenn also die erfolgreichen Firmen wie OpenAI und Entropic und XAI und Google, die sitzen ja alle in den USA. Also da könnte man sich vorstellen, okay, wenn die richtig viel Geld machen damit und das dann wieder den Leuten zufließt über irgendwelche, über den Staat, dann kann man das vielleicht irgendwie, da kann das tatsächlich der absolute Wohlstand ausbrechen. Für Deutschland ist es schwieriger, weil wir haben weder die Technologie noch die Energie, die man bräuchte überhaupt, um solche Rechenzentren zu betreiben. Und das heißt, diese ganze, das, was heute ein Softwareingenieur in Deutschland verdient, wenn der tatsächlich ersetzbar wird durch so eine KI, dann fließt dir das Geld erstmal nach Amerika. Es ist also gar nicht so leicht davon, was hier festzuhalten und es an die Leute zu verteilen, die dann keine Arbeit mehr haben. Das sind so die Fragen, über die ich seit ein paar Jahren nachdenke und die, wo ich extrem wenig darüber in der Zeitung lese. Und ich glaube, die Fragen stellen sich sehr kurzfristig.

SPEAKER_02 57:55

Die Frage ist, haben wir denn auch die Journalisten, die diese Fragen stellen und diskutieren können? Also Deutschland hatte ja mal in den 1980er Jahren, sagten dann auch die amerikanischen Kollegen, einen sehr gut ausgebauten, sehr gut ausgebildete Technikjournalisten. Gerade mit ihrer Kritik, die ich gerade so gehört habe an der Berichterstattung über KI, wenn es dann doch eher um mich verliebe, ich immer eine KI oder sowas geht, scheint das ja nicht mehr der Fall zu sein. Können wir da noch was ändern oder ist das einfach so ein hinnehmbares Schicksal?

SPEAKER_03 58:25

Ja, ich bin gar nicht sicher, ob es in dem Fall so dass den Fachjournalisten sozusagen kaum mehr gibt, also der ist ja gerade im Computerbereich oder so, ist ja vieles einfach nur liegt, ist wahrscheinlich nicht mehr finanzierbar. Aber das sind ja noch größere Fragen, wo man, glaube ich, so Leute bräuchte, die, also so wie den Schirmacher oder so, so Leute, die ein bisschen über ihre Nische hinausdenken, die so die, die die wirtschaftliche und die politische und die globalpolitische Welt zusammenbringen können, mit dieser technologischen Perspektive, dass der Mensch sozusagen ersetzbar wird, oder zumindest seine kognitive Leistungsfähigkeit ersetzbar wird, da braucht man, glaube ich, so ein bisschen, ja, das traditionell würde ich sagen, das muss irgendwie der Herausgeber von den großen Zeitschriften sein, der diese Debatte überhaupt mal eröffnet, weil aus der Politik kommt ja nichts. Also die sind ja, da wird über das Rentenniveau 2045 diskutiert, ob das drei Punkte höher ist oder niedriger. Ich habe keine Ahnung, wie der im Arbeitsmarkt in fünf Jahren funktionieren wird. Also ich bin das immer sehr optimistisch, da wird einfach der Status quo sozusagen extrapoliert. Und ich glaube, wir stehen an einer Schwelle, wo das nicht mehr funktionieren wird.

SPEAKER_01 59:43

Ich bin ja mal völlig verblüfft. Auf der einen Seite heißt es, wir brauchen Masseneinwanderung nach Deutschland, um die Sozialsysteme zu sichern, weil wir eben durch die Demografie sonst ein Riesenproblem bekommen. Auf der anderen Seite heißt es eben, wir bekommen Massenarbeitslosigkeit durch den technologischen Fortschritt. Also da passt für mich irgendwas nicht zusammen. Aber vielleicht habe ich auch was verpasst. Also Prognosen sind ja irgendwie immer schwierig in die Zukunft, ja. Ich erinnere mich aber auch daran, dass es schon immer Versprechungen gab, ja auch in den vergangenen Jahrzehnten mit technologischem Fortschritt, dass wir jetzt dann alle arbeitslos werden oder dass wir übernommen werden von Maschinen. Und ganz so ist es ja nie eingetreten. Auch wenn natürlich unsere Freizeit kontinuierlich zugenommen hat, das ist ja nachgewiesen. Trotzdem fühlen wir uns alle immer noch gestresst und arbeiten, wie verrückt. Also wie sicher sind Sie denn, dass wir tatsächlich dann und dass die KI das ändern wird?

SPEAKER_03 1:00:53

Also ich bin nicht sicher, dass das so kommen wird, dass wir alle arbeitslos sind. Es ist sozusagen die Idee ist, es gibt, es gibt, es gibt das, was in Amerika AGI genannt wird. Die übliche Definition ist, das Ding kann alles, was ein Mensch kann. Also alles, insbesondere die OpenAI-Definition ist, es kann jeglichen Computerarbeitsplatz übernehmen, also sozusagen jegliche reine Computerarbeit ersetzen und automatisieren. Also nicht nur Callcenter, sondern auch der typische Ingenieur, der am Schreibtischstützen und irgendwelche irgendwas in den Trick hält oder der typische Mathematiker, also den klassischen Schreibtischjob kann man ersetzen, dann spricht man von AGI. Und wenn man dann, das kann man natürlich sagen, okay, es hat sich immer wieder ein neuer Job gefunden, als das Internet gekommen ist, neue Berufs entstanden, Beruf entstanden, zum Beispiel Search Engine Optimizer, die gab es vorher nicht. Aber wenn es diese AGI gibt, dann kann die ja jeden Job ersetzen per Definitionen. Also wenn ich sozusagen, wenn ich jetzt sozusagen, keine Ahnung, 60.000 Euro im Jahr verdienen will für irgendeine Tätigkeit und TatGPT erledigt das für 100 Euro, dann muss ich irgendwie diese 59.900 Euro Unterschied rechtfertigen. Und wenn das jetzt, wenn es AGI gibt, dann ist das ja sofort naheliegend, dass ich genau das, was diesen Unterschied ausmacht, auch noch automatisiere. Sonst ist es keine AGI. Das ist das Problem bei der Geschichte. Jetzt könnte man natürlich alle sagen, okay, dann werden wir alle Handwerker. Ich habe irgendwie schon, als ich ChatGPT ausprobiert hatte, ein paar Tage lang, habe ich meinen Tweet geschrieben, Handwerker hat goldenen Boden, weil man das sozusagen, das schieben wir erstmal der verbleibende Ausweg. Aber auch da gibt es natürlich inzwischen mit der Robotik, ja, die macht Fortschritte, die ist noch lange nicht so weit, dass sie einen Installateur oder so ersetzen könnte. Also da fehlt es noch an allen Ecken und Enden. Also ich glaube, wir haben zumindest auf einige Jahre sind handwerkliche Tätigkeiten auf jeden Fall nicht automatisierbar. Aber es heißt eben, was im Moment wirklich bedroht, ist der klassische Schreibtischjobs, der auch keine große Interaktion mit Menschen hat. Also zum Beispiel bei Ärzten oder so mache ich mir keine großen Sorgen. Natürlich ist KI viel besser als jeder Arzt, was Diagnostik angeht, aber trotzdem braucht man irgendwie noch einen Menschen, der einem den Blutdruck misst und der einem gut zuredet und was so ein bisschen. Also ich glaube, der computerisierte Arzt, der Vollkomputerisierte, der wird so schnell nicht kommen. Und bei vielen anderen Berufen ist es auch so, dass der menschliche Aspekt noch irgendwie eine Rolle spielt. Aber da, wo das nicht der Fall ist, glaube ich, wird radikal, wenn diese Jobs automatisiert werden. Und die Firmen, die das nicht machen, die werden ersetzt durch Firmen, die von vornherein so gebaut wurden, dass sie diese Revolution gar nicht brauchen.

SPEAKER_02 1:03:56

Das heißt, der Journalist kann dann auch nur überleben, indem er tatsächlich sehr stark den Kontakt zu seinem Publikum sucht, mit denen gemeinsam Geschichten entwickelt und eben das macht, was eben noch nirgendwo steht, oder?

SPEAKER_03 1:04:10

Genau, also das, äh, es darf nicht, also er muss recherchieren, das ist die eine Möglichkeit. Also wenn ich tatsächlich Leute anrufe und mit denen spreche und pipapo, das ist so schnell nicht automatisiert, weil wenn mich irgendein Automat anruft und mich was fragt, werde ich wahrscheinlich wieder auflegen. Also da habe ich auch keine Lust drauf. Also es müsste schon, also wer wirklich, wer wirklich recherchiert, hat noch ein, ist auf jeden Fall nicht ersetzbar. Und man hat eben, und man baut diesen menschlichen Aspekt auf, dass ich sozusagen als Person irgendwie auftrete, man sollte eine gewisse Figur schaffe, die ich dann wiederholt in meinen Artikeln verwende und die Leute erinnern sich an mich und wollen vielleicht spezifisch den Artikel lesen, weil mein Name drüber steht. Also das ist, das ist, glaube ich, eine Art Marke zu werden. Das ist, glaube ich, kann ich mir auch gut in einer Welt mit allgemeiner künstlicher Intelligenz vorstellen, dass ich trotzdem irgendeinen Journalisten sympathisch finde und sein Zeug lesen will.

SPEAKER_01 1:05:00

Sie haben vorhin eine Frage, eine Reihe von Fragen aufgeworfen, die im Zusammenhang mit der KI stehen und wo Sie denken, es lohnt sich, darüber nachzudenken. Für mich wäre noch eine, aber vielleicht bin ich da auch auf dem Holzweg. Wer programmiert das? Also irgendjemand hat ja sozusagen die Hebel in der Hand, das zu steuern, was wir wie lesen sollen. Und das ist ja, wenn ich jetzt richtig verstehe, sind jetzt ja nur wenige Menschen oder ist es leichter auch manipulierbar, ist das eine Gefahr oder sehen Sie das aus Demokratiegesichtspunkten nicht als Problem an?

SPEAKER_03 1:05:34

Ja, sozusagen das Szenario, dass es eine Firma gibt, die sozusagen eine KI baut, die alles kontrolliert, ist natürlich sehr, sehr schwierig. Also sozusagen, wenn sich da ein Monopol bilden würde und das ist wirklich ein dystopisches Szenario, dass sozusagen alles, was auf der Welt an Intelligenzleistung passiert in einem Server, irgendwo passiert von einer Firma und diese eine Firma auch noch alles kontrolliert. Im Moment ist die Entwicklung nicht so aus. Wir haben mindestens vier Firmen, die einigermaßen auf dem gleichen Niveau sind, die Konkurrenzprodukte anbieten, wo sie auch das, die auch sich preislich Konkurrenz machen, die sich leicht unterscheiden in ihren Fähigkeiten. Und wir haben natürlich die Chinesen mit ihren Open Source Modellen, die auch nur wenige Monate hinterher sind. Also die Gefahr der Monopolisierung sehe ich im Moment nicht. Also wir haben, ich glaube, KI wird schon, es wird immer oder wahrscheinlich wird es immer mehrere Anbieter geben und jeder, der sich jetzt zu stark irgendwie einmischen würde oder der zu stark kontrollieren will, was die KI macht, der wird sofort vom Markt verschwinden. Ein schönes Beispiel haben wir im Moment mit diesem Mythos-Modell von Entropic, wo die jetzt aus Angst davor, dass dieses Modell Biowaffen erfindet oder Cyberangriffe unterstützt, das Modell sehr, sehr stark eingeschränkt haben. Also wenn man dem irgendwas, wenn man das irgendwas fragt, was mit Biologie zu tun hat, dann sagt man, ja, kann ich nicht, du kriegst jetzt nur noch das dünnere Modell. Aber das gibt jetzt so ein Backlash gerade. Also alle sagen, ey, ein Traffic, ihr, das könnt ihr nicht machen. Und ja, ich glaube, dass so, diese Konkurrenzsituation finde ich im Moment ganz angenehm. Dadurch ist, ich glaube ich, die ein bisschen, also zumindest bei eine der möglichen Gefahren von KIs auf die Art, auf absehbare Zeit zumindest zumindest für mich nicht erkennbar. Das kann natürlich auch sich ändern. Also ein Szenario ist, dass wir, was immer wieder auch erwähnt wird, auch in den Börsenunterlagen von Entropic zum Beispiel und OpenAI, das nennt sich Recursive Self-Improvement. Also die Idee, dass so ein KI-Modell irgendwann so gut wird darin, KI-Forschung zu machen, dass es eben die Forscher besser ist als die Forscher selbst, die das im Moment machen. Das sind alles Leute, die vielleicht siebenstellige Beträge im Jahr verdienen. Also das sind wirklich die Besten, der Besten, der Besten, die in diesen Firmen arbeiten. Aber in dem Moment, wo diese Modelle mal besser sind als diese Forscher und sich sozusagen selbst verbessern können, deswegen eine rekursive Selbstverbesserung, könnte es trotzdem noch passieren, dass eine Firma sozusagen einen kleinen Vorsprung in einen gigantischen Vorsprung ausweitet, dadurch, dass sie eben nur diese Firma Zugriff auf dieses leistungsfähige Modell hat, was sich dann selbst wieder verbessert. Und deswegen ist auch dieses Monopolszenario für mich noch nicht ganz so vom Radar verschwunden.

SPEAKER_02 1:08:38

Ja, dann hoffen wir mal auf eine multilaterale Welt, sodass zumindest aufgrund von geopolitischen Vorgaben diese Monopolstellung weltweit eben nicht eintreten kann. Herzlichen Dank, Herr Professor Galwitz. War ein spannendes Gespräch.

SPEAKER_03 1:08:49

Gerne.

SPEAKER_01 1:08:50

Genau, herzlichen Dank und herzlichen Dank auch fürs Lauschen. Wenn ihr uns einen Gefallen tun wollt, dann abonniert doch den Kanal, empfehle ihn weiter, kommentiert die Folge und ansonsten bleibt uns gewogen. Tschüss. Tschüss.