#145 Wer keine KI nutzt, verliert Tempo. Wer sie falsch nutzt, verliert Vertrauen - AI im Journalismus

In dieser Folge von Sophies Next AI Talk sprechen wir mit Journalist Reto Vogt über den Einsatz von KI im Journalismus und die Balance zwischen Innovation und Vertrauenswahrung. Wir diskutieren, wie Künstliche Intelligenz als wertvolles Werkzeug für Qualitätssteigerung genutzt werden kann, während gleichzeitig potenzielle Risiken wie Halluzinationen und Faktenerfindung berücksichtigt werden müssen.

• Reto nutzt Custom-GPTs als kritischen Sparringspartner für Textfeedback
• KI kann Texte qualitativ verbessern durch bessere Übergänge und treffendere Formulierungen
• Der Fokus sollte auf Qualitätsverbesserung statt reiner Effizienzsteigerung liegen
• Bei der Recherche sind spezialisierte KI-Tools wie ELICIT für wissenschaftliche Studien nützlicher als allgemeine Modelle
• Eine BBC-Studie zeigt: KI fasst in 50% der Fälle Medieninhalte falsch zusammen oder erfindet Zitate
• Transparenz beim KI-Einsatz ist essenziell, um das Vertrauen der Leserschaft nicht zu verlieren
• Motto zum Mitnehmen: "Wer keine KI nutzt, verliert Tempo, wer sie falsch nutzt, verliert Vertrauen"

Chapters

• 0:27 Einführung ins Thema KI im Journalismus
• 2:19 Erste Reaktionen auf KI im Journalismus
• 4:25 KI als tägliches Werkzeug für Journalisten
• 7:25 Feedback-Schleifen mit Custom-GPTs
• 10:13 Einsatz von KI für Recherche
• 12:58 Die dunkle Seite der KI
• 16:00 Fazit: Vertrauen, Transparenz und KI-Zukunft

Transcript

Speaker 1: 0:15

Herzlich willkommen zur nächsten Folge von Sophies Next AI Talk. Heute habe ich eine Premiere Ich darf einen Journalisten interviewen und nicht ein Journalist interviewt mich. Insofern, Reto, herzlich willkommen in meinem Podcast. Danke, dass du dabei bist.

Speaker 2: 0:32

Danke, dass ich hier sein darf.

Speaker 1: 0:34

Das zweite Danke geht an meine Podcast-Partner. Die findet ihr alle Informationen in den Shownotes. Und ja, wie ihr Zuhörer schon erraten könnt, wird es heute um das Thema KI im Journalismus gehen. Reto und ich haben uns ganz kurz schon mal nicht abgesprochen, aber zu dem Thema unterhalten, würde ich sagen und sehen. Das glaube ich, beide sehr ähnlich. Ki ist ein sehr sinnvolles Werkzeug, aber natürlich mit Bedacht eingesetzt.

Speaker 1: 1:00

Reto hat da im Hinblick auf den Journalismus noch viel mehr Einblicke, was alles geht und was absolute No-Gos sind. Ich bin selber sehr gespannt, was du berichten wirst. Einsteigen möchte ich aber mal und da weiß ich gar nicht, wie stark du darüber informiert bist um 2020. Ich kann mich noch sehr gut erinnern 2020 habe ich meine zweite Konferenz zum Thema KI veranstaltet, und fast zur gleichen Zeit hat OpenAI einen ersten Artikel, komplett von GPT formuliert, veröffentlicht. Es gab ein Riesenaufsehen, und so wie ich das noch in Erinnerung habe, war vor allen Dingen das Aufsehen aus dem Journalistenbereich, weil die natürlich wahnsinnige Angst um ihre Jobs hatten. Ich habe es dann so beobachtet, das war dann mal so ein Hype, so typisch Medien Entschuldigung, nicht böse gemeint ist dann wieder abgeflacht, nachdem die nächste Wahl oder nächste Krieg, wie auch immer, kam, und wir haben gar nicht mehr darüber geredet, bis dann ChatGPT zwei Jahre später für alle frei verfügbar war. Jeder Journalist, aber auch jeder andere konnte es mal testen. Kannst du dich noch an diese Phase erinnern? Wie hast du das erlebt?

Speaker 2: 2:07

Ja, ich habe das ähnlich erlebt, wie du es jetzt beschrieben hast. Da war sehr viel Angst im Spiel, und ich sehe diese Angst bis heute zu weinen, dass viele Journalistinnen und Journalisten das Thema KI nicht bis nach ganz unten verstehen letzten Endes und deshalb auch wirklich Angst davor haben, dass es breit zum Einsatz kommt. Ein bisschen zu Recht, auch, weil es durchaus sehr viele Gefahren mit sich bringt, wenn man KI im Journalismus einsetzt, insbesondere was den Vertrauensverlust oder den möglichen Vertrauensverlust bei den Leserinnen und Lesern angeht. Aber KI ist tatsächlich auch ein sehr, sehr wertvolles Hilfsmittel, das ich bei meiner täglichen Arbeit als freier Journalist, aber auch als Studienleiter am Medienausbildungszentrum in Luzern täglich einsetze und es mir nicht mehr ohne vorstellen könnte. Aber um das wirklich jeden Tag nutzen zu können, als Journalist oder als Studienleiter in meinem Fall, weil das muss man sich der Chance und der Gefahren bewusst sein, die KI mit sich bringt, und ohne dieses Wissen kann man es nicht nutzen, vertrauensvoll finde ich.

Speaker 1: 3:16

Finde ich sehr, sehr guten Punkt, dieses reine Wissen. Also mir liegt es auch immer sehr am Herzen, dass wir, bevor wir in die Tiefe gehen das kannst du machen, das kannst du machen, weil so die Basis legen den Zuhörern erklären, wie funktioniert ein Chat-GBT, wie funktioniert ein LLM. Liebe Zuhörer, wir werden das jetzt heute nicht nochmal erklären, ihr könnt vorherige Folgen hören. Aber wenn ihr an dieser Stelle schon sagt boah, eigentlich weiß ich gar nicht, was ChatGPT eigentlich macht, dann ist, glaube ich, dieses erste Learning wahnsinnig wichtig, um dann zu verstehen. und da bin ich jetzt gespannt Reto, wie nutzt du denn ChatGPT täglich? Das hast du ja schon angesprochen. Oder ich sag mal ChatGPT, vielleicht bist du auch eher der Gemini Perplexity oder SwissGPT-Fan, das darfst du dir dann aussuchen. Aber alle Tools kochen ein bisschen mit Wasser.

Speaker 2: 3:58

Ja, also ich finde, auch die Tools sind mehr oder weniger austauschbar. Man muss das Tool finden, das für einen selbst am besten passt und am besten funktioniert. Für mich selbst sind es JetGPT und Cloud, die ich beide in der Bezahlversion nutze, und ich nutze sie vor allem als Sparringspartner, um mir Feedback für meine Arbeit, für meine Texte geben zu lassen. Ich habe ein CustomGPT gebaut, der mir kritisches Feedback für meine Texte gibt, stärken und Schwächen der Texte aufzählt, quasi mit Bullet Points, und dann auch Vorschläge für mögliche Verbesserungen machen. Dann gehe ich Punkt für Punkt durch und schaue mir die Vorschläge an, was ich besser machen könnte.

Speaker 2: 4:42

Manches finde ich gut, und manches finde ich. Das habe ich jetzt selber besser formuliert. Dann nehme ich die Punkte an, die ich gut finde, und lese die ab, wo ich finde, das ist jetzt nicht wirklich ein guter Vorschlag. Ich habe festgestellt, dass mit dieser Kritik, die dann von Chad, gpt oder von Claude kommt, sind meine Texte besser geworden. Sie sind flüssiger zu lesen, sie haben bessere Übergänge, bessere Zwischentitel oder auch mal ein Synonym, was mir nicht in den Sinn gekommen ist. Weiß, die Maschine hat ein besseres, je nachdem.

Speaker 1: 5:15

Jetzt hast du mir gerade eine Riesenfreude gemacht, ohne das wahrscheinlich zu wissen, aber ich bin ja großer Fan von den Custom-GPTs, und ich finde sie wahnsinnig nützlich. Liebe Zuhörer, wenn ihr nicht ganz sicher mehr seid, was das ist, dann schaut euch bei meinem YouTube-Channel bitte mal das eine oder andere Video dazu an. Das sind sozusagen eigene Chat-GPTs, die man sich für genaue Anwendungsfälle erstellen kann. Reto, was genau hast du denn da im Custom-GPT mitgegeben? Vielleicht kannst du da kurz nochmal ein bisschen in die Tiefe gehen. Ich glaube, dann wird das auch für die, die noch nie ein Chat-GPT oder ein Custom-GPT gebaut haben, sehr verständlich.

Speaker 2: 5:51

Also, ich habe zuerst einmal meine Meinung an sich nach besten Texte hochgeladen als Referenz, einmal meine Ansicht nach besten Texte hochgeladen als Referenz, und dann habe ich gesagt, er sei ein Experte für Journalismus und wisse, wie ein journalistischer Text funktioniert und wie der aufgebaut ist, und so weiter. Ich habe ihm gesagt, wer das Zielpublikum ist Schweizerinnen und Schweizer jetzt, in meinem Fall, weil ich ausschließlich für Schweizer Medien schreibe und ich habe ihm mitgegeben, dass er unbedingt kritisch sein soll und auch wirklich auch Dinge sagen soll, wo er findet, dass ich das falsch gemacht habe. Wenn man es nicht macht, ist die Chat-GPD immer viel zu nett, zumindest zu mir. Deshalb habe ich getont, dass die Maschine kritisch sein soll mit mir und sich nicht zurückhalten soll mit Kritik.

Speaker 1: 6:36

Finde ich einen guten Punkt. Ich nutze es manchmal für Feedback zu Papers. Natürlich muss ich da immer ein bisschen aufpassen, welche Teile meiner Forschung ich chattypisch und nennend und welche nicht. Aber eben dieses Kritische sehr, sehr gut. Ich habe auch schon mal gesagt, dass er mich gar nicht mögen würde. Oder als ich in einen besonderen Forschungskreis einreichen wollte, habe ich gesagt, die wissen alle, dass ich Newcomer bin, und deshalb schauen sie besonders kritisch auf mich. Dann immer so fiktive Beispiele, die ich noch dazu entwickelt habe. ja, Das heißt, du nimmst es vor allen Dingen für Verbesserungen und sagst, die Texte sind dadurch besser, du findest Anonyme, die du sonst nicht gefunden hattest. Jetzt mal eine Frage von mir Versuchst du anhand dessen trotzdem noch selbstständig deinen eigenen Schreibstil zu verbessern, oder denkst du dir gut, eigentlich muss ich ja gar nicht mehr schreiben lernen können, kann jetzt Chat-GPT, ist mir egal. Oder versuchst du, die Antworten, die er dir gibt, auch wirklich so ein bisschen verinnerlichen beim nächsten Mal selber besser zu machen?

Speaker 2: 7:32

Ja, auf jeden Fall. Ich halte das für ganz wichtig, dass man das nicht an die Maschine delegiert und sagt, ab jetzt muss ich mir keine Mühe mehr geben oder so, sondern ich versuche, vom Feedback auch zu lernen und mir das fürs nächste Mal vorzunehmen, das besser zu machen oder mir die Synonyme wenn wir über diesem Beispiel bleiben wollen mir zu merken und mir dann diese beim nächsten Mal von Anfang an richtig einzusetzen. Und was ich auch mache, ist, dass ich das Feedback von ChatGPT manchmal mit Claude dann challenge und so die beiden KI-Modelle miteinander gemeinsam mir Feedback geben zu lassen, zuerst von ChatGPT, dann von Claude, und das Endprodukt ist dann der fertige Text. Aber ich versuche schon, das mir persönlich zu verinnerlichen und meinen Schreibstil und meine Schreibe besser werden zu lassen, auch dank der Inputs der Maschinen.

Speaker 1: 8:22

Sehr gut. Also, das heißt, du hast auf jeden Fall einen Qualitätsvorteil erlebt, erlebst du auch sowas wie Effizienz?

Speaker 2: 8:33

Nicht unbedingt, weil Effizienz wieder heißt, ich delegiere das Schreiben von ganzen Abschnitten an die Maschine, und das ist etwas, was ich jetzt nicht unbedingt machen wollen würde, weil ich behaupte, das ist meine Kernkompetenz, und das ist das, was ich seit 20 Jahren mache und kann, und ich möchte nicht meine Kernkompetenz an die Maschine outsourcen. Darum geht es mir nicht primär um Effizienz, sondern es geht um Qualität. jetzt in diesem Fall, und wo es um Effizienz geht, ist bei den Kursprogrammen für meine Kurse am Mars jetzt zum Beispiel. Da versuche ich aus meinen Notizen und meinen Gedanken dann eine Kurserschreibung formulieren zu lassen, und das sind häufig Texte, die mehr Marketing, etwas, wo ich mich natürlich auch von der Maschie helfen lassen will, weil es nicht meine Kernkompetenz ist, solche Texte zu formulieren.

Speaker 1: 9:37

Vielen Dank, ja, sehr interessant, wie du da dieses Thema angehst, gerade auch Thema Effizienz beziehungsweise Qualität. Ich glaube, das unterschätzen viele, dass KI auch wirklich für Qualitätssteigerung eingesetzt wird, nicht eben nur, um noch schneller, besser und so weiter zu werden. Nutzt du es denn auch wirklich schon für Recherchen oder da noch gar nicht so?

Speaker 2: 10:02

Ich habe es mehrfach getestet für Recherchen, aber die Ergebnisse sind jetzt nicht wahnsinnig befriedigend für meinen Fall. Ich habe es mit Deep Research probiert, ich habe es mit Perplexity probiert, und es dient höchstens als Grundlage, um dann weiter zu recherchieren mit richtigen Suchen und richtigen Recherchen, sei es mit Google zum Beispiel, weil in meinen Augen ersetzt KI keine Google-Suche, weil es halt eine einzige allgemeingültige Antwort vorgibt, und Google macht das nicht. Google gibt. Wenn man jetzt die KI-Übersicht überspringt und bei den Resultaten anfängt, hat man eine Auswahl an Links, die man sich anschauen kann und die man lesen kann, die man dann gut finden oder schlecht finden kann. Aber die KI versucht ja, mir eine einzige allgemeingültige Antwort zu geben.

Speaker 2: 10:52

Und auch die Quellen sind teils biased, bei ChatGPT zum Beispiel, weil Verlage, mit denen OpenAI Kooperationen hat, werden bevorteilt, und andere Verlage, mit denen OpenAI nicht zusammenarbeitet, die werden abgestraft oder kommen erst weiter unten. Deshalb verlasse ich mich da sehr, sehr ungern auf Chat-GPT. Aber was bei der KI-Recherche meiner Ansicht nach noch zu wenig gemacht wird, dass man sich auf hochspezialisierte KI-Anbieter verlässt, wie zum Beispiel ELICIT. Das ist eine KI-Suche für wissenschaftliche Studien, und die generiert dann ein Report, wo all die relevanten Studien zu meinem Thema zitiert werden, und das ist eine hervorragende Ausgangslage, um sich die Studien anzuschauen und daraus zu zitieren. Jetzt für die journalistische Arbeit. Das mache ich. Wenn ich zum Beispiel über Cybersecurity schreibe, dann suche ich mir passende Studien zum Bereich Cyber Security mit LSIT, und da bietet KI sehr, sehr viel und sehr, sehr gute Möglichkeiten für uns JournalistInnen.

Speaker 1: 12:00

Sehr guter Hinweis zum Thema spezifische KIs. Grundsätzlich bin ich nicht so ein Fan davon, dass man 20 verschiedene Tools und Lizenzen im Einsatz hat, aber ich glaube, hier macht das wirklich Sinn, wenn man eben in diesem Bereich arbeitet, dann das ein oder andere spezifische Tool zu haben. Ich finde es sehr cool, wie du das nutzt, gerade das Thema Feedback eben wahnsinnig wichtig. Jetzt hast du ja auch gesagt, es gibt gewisse Risiken, sachen zu beachten. Wollen wir noch ganz kurz über die dunkle Seite reden.

Speaker 2: 12:26

Ja, sehr gerne, Ja, sehr gerne. Die darf nicht vergessen werden. Und wenn ich KI-Workshops gebe oder an Podien oder Keynotes über KI spreche, spreche ich immer die erste Hälfte über die dunkle Seite und erst im zweiten Mal über die positiven Seiten, also jetzt gerade umgekehrt, wie wir sie jetzt gemacht haben. Und ich finde es essentiell wichtig, dass man die dunkle Seite kennt und versteht, bevor man sich die Chancen selber zunutze macht in seinem Alltag. Die dunkle Seite ist halt, dass die KI halluziniert und den erfindet.

Speaker 2: 13:04

Es gibt mehrere Studien, die sagen, dass gerade im Umgang mit Medieninhalten die Halluzinierung noch viel stärker vorkommt als in anderen Bereichen. Und die BBC hat eine Studie gemacht mit eigenen News-Inhalten von der BBC selbst, und die KI hat in der Hälfte der Fälle die Inhalte falsch zusammengefasst oder falsch wiedergegeben oder Zitate erfunden, erfunden. Und gerade im journalistischen Bereich ist es halt dramatisch schlimm, weil es zum Vertrauensverlust der Medien beitragen kann und diesen verstärken kann, den es ohnehin schon in vielen Teilen der Bevölkerung gibt. Ja, ich glaube eh nichts mehr, was die schreiben, das höre ich regelmäßig, und KI macht die ganze Geschichte nicht besser, leider.

Speaker 1: 13:50

Ja, gebe ich dir sehr viel Recht. Vielen Dank, was sind so deine Maßnahmen dagegen, abgesehen davon, dass man sich besser ausbildet dazu, oder was empfiehlst du jetzt den Zuhörern, oder wo möchtest du gerne anhalten?

Speaker 2: 14:07

Ich finde, dass die Zuhörerinnen und Zuhörer sich Medien suchen sollen oder Journalistinnen und Journalisten suchen sollen, denen sie vertrauen, denen sie glauben, was sie schreiben und was sie publizieren, und dass sie halt prima diese Medien und diese Journalistinnen konsumieren, empfehle ich vor allem den Medienhäusern, ki mit A mit Bedacht einzusetzen in der Text und Bildproduktion, und B größtmögliche Transparenz walten lassen.

Speaker 2: 14:36

Wenn sie KI eingesetzt haben, muss das unbedingt deklariert werden nach außen, dass die Leserinnen und Leser verstehen, wo KI zum Eins gekommen ist und wie, und häufig treffe ich die Transparenz an, es sogar die Generierung des kompletten Textes, und der Mensch hat es bestenfalls noch gelesen vor der Publikation. In diesem Spektrum bewegen wir uns, wenn wir über den KI-Einsatz im Journalismus reden, und ich glaube, wir sind aktuell in einer Phase, wo mehr Transparenz wichtiger ist denn je. Und es kann sein, dass das mit der Zeit, mit den Jahren abnimmt, weil KI zum de facto Standard werden kann. Das kann ich mir vorstellen. Aber jetzt, im Moment, wo wir ziemlich am Anfang stehen, obwohl es KI schon ein paar Jahre gibt, ist es wichtig, den Lesern und Lesern zu zeigen, was jetzt KI zu diesem Text beigetragen hat.

Speaker 1: 15:52

Finde ich sehr, sehr wichtig. Wie signalisierst du das mit dem Thema Feedback? Wie sei es dann nach einer Erweiterung von ChatGPT-Feedback? wurde dieser Artikel veröffentlicht, oder wie genau gehst du da vor?

Speaker 2: 16:05

Ich gehe so vor, dass ich das als wie soll ich das sagen? Also, ich mache es nicht transparent den Leserinnen und Lesern gegenüber, weil es nur in Anführungsstrichen eine Feedback Schlaufe ist und ich keine Zeile Text von der KI generieren lasse und das dann in meinem Text übernehme, sondern das Endprodukt ist ein Text von mir, der zwar eine Feedback-Schlaufe durchlaufen hat, aber solange ich keine textgenerierten Bausteine von der KI1 übernehme, glaube ich und bin ich überzeugt davon, dass es mein Endprodukt ist und ich das entsprechend nicht kennzeichnen muss.

Speaker 1: 16:38

Dann wäre das in die Richtung. Ich habe ein Lektorat eingesetzt. Ich habe einen Freund gefragt, wie er den Artikel findet. Ich habe meinen Sitznachbarn gefragt, in die Richtung oder?

Speaker 2: 16:47

Genau so sehe ich das ja und Genau so sehe ich das. Es ist ein Tool. es ist drei Fälle, wo das, insbesondere bei Bildern, vergessen ging, und das sorgt für Aufregung. Und ich finde es gut, dass es für Aufregung sorgt, weil die Leute verstehen müssen, die das lesen, dass das nicht passieren darf, so wie es passiert ist.

Speaker 1: 17:28

Ich finde das ein sehr berechtigtes Feedback. Ich finde, auch diese Diskussion KI hat was geschrieben. das muss signalisiert werden. Ich habe mit KI diskutiert, als ob ich mit meinem Freund diskutiere. Sehr guten Punkt. Ich glaube, das waren schon sehr, sehr viele Inhalte für unsere Zuhörer. Ich fand es sehr interessant und freue mich vor allen Dingen auch über deine Nutzung von den Custom-GPTs. Ich gebe meistens das letzte Wort meinen Interviewpartnern, somit würde ich auch dir heute sehr gerne das letzte Wort übergeben, bevor ich mich bei dir bedankt habe, bei meinen Partnern, wo alle weiteren Informationen und Links in den Shownotes sind, Und natürlich auch vielen Dank an alle Zuhörer.

Speaker 2: 18:03

Ich habe mir so ein kleines Motto überlegt, und zwar geht das so, dass ich sage wer keine KI nutzt, verliert Tempo, wer sie falsch nutzt, verliert Vertrauen. Und ich glaube, das fasst die ganze Geschichte beim KI-Einsatz im Journalismus ziemlich gut zusammen. Es gehört zum journalistischen Alltag jetzt von allen Journalistinnen und Journalisten, weil es einen besser macht, und es kann einen auch effizienter machen, weil man nicht auf den Kollegen warten muss, der den Text liest und Feedback gibt, sondern der Kollege ist immer da und kann den Text lesen. Wer aber die KI falsch nutzt, weil er sie nicht versteht, wie es funktioniert, weil er nicht weiß, dass sie halluzinieren kann, der wird Vertrauen verlieren gegenüber den Leserinnen und Lesern. und das ist das höchste Gut, was wir JournalistInnen haben, das Vertrauen der Leser, und das dürfen wir nicht aufs Spiel setzen.

Speaker 1: 18:50

Finde ich einen sehr, sehr tollen Slogan. Motto Abschluss Vielen vielen Dank Danke auch hat Spaß gemacht.