Helga Solopodcast 29 Juli

 Wenn die KI Märchen erzählt: Was steckt hinter Halluzinationen? 

Heute bin ich wieder solo am Mikrofon unterwegs! Ich widme mich in dieser Folge einem Thema, das mir in meinem Alltag als Trainerin und Beraterin ständig begegnet: den Halluzinationen der KI. Das sind diese Momente, in denen dir die KI mit voller Überzeugung und stotterfrei erfundene Zahlen, nicht existente Quellen oder ein Gerichtsurteil präsentiert, das es nie gegeben hat.

Ich erkläre dir in dieser Episode, was eine Halluzination überhaupt ist, warum Sprachmodelle so plausibel flunkern und welche 5 konkreten Praxistipps ich dir mitgebe, damit du Fakes ab morgen in deinem Arbeitsalltag sofort entlarvst.

Worüber ich in dieser Folge spreche:

• Die Falle der Souveränität: Warum wir so leicht auf die KI hereinfallen. Wenn wir Menschen unsicher sind, zögern wir oder senken den Blick. Die KI tut das nicht. Sie berechnet stotterfrei das nächste wahrscheinliche Wort und klingt dabei extrem überzeugend – egal, ob die Aussage stimmt oder nicht.
• Die drei Arten von Halluzinationen: Von frei erfundenen Fakten über plausibel klingende Fach-Quellen (wie erfundene Buchtitel oder Aktenzeichen) bis hin zu den gefährlichsten Fakes: Aussagen, die zu 90 Prozent stimmen, aber bei den entscheidenden 10 Prozent falsch liegen.
• Warum die KI überhaupt halluziniert: Ein Blick hinter die Kulissen der Modell-Hersteller. Die Sprachmodelle wurden im Training oft dafür belohnt, eine Antwort zu „raten“, anstatt schlicht zuzugeben, dass sie etwas nicht wissen.
• Aktuelle Daten & Benchmarks: Warum die Websuche die Halluzinationsrate laut Studien von fast 80 Prozent auf rund ein Drittel senken kann – und warum wir selbst bei verlinkten Quellen genau hinsehen müssen.
• Der Fall Pixonimie: Eine abenteuerliche Geschichte über ein erfundenes Krankheitsbild (inklusive Star-Trek-Anspielungen im Text), das von verschiedenen KI-Systemen eineinhalb Jahre lang als echte Diagnose ausgegeben wurde und sogar in der wissenschaftlichen Fachliteratur landete.

Meine 5 Tipps für dich gegen KI-Halluzinationen:

1. Gib der KI eigenes Material (RAG): Stelle der KI Dokumente, PDFs oder Texte zur Verfügung. Wenn sie aus deinen Daten liest statt aus ihrem freien Gedächtnis, sinkt die Halluzinationsrate drastisch.
2. Schalte die Websuche ein: Bei aktuellen und faktenbasierten Anfragen solltest du immer die Live-Websuche aktivieren.
3. Erlaube der KI die Unsicherheit: Sag der KI im Prompt ganz explizit: „Wenn du dir nicht sicher bist, gib es zu oder nenne mir eine Prozentzahl für deine Unsicherheit.“
4. Frage ein zweites Modell (Wisdom of the Crowds): Stelle dieselbe Frage zwei verschiedenen KIs (z. B. ChatGPT und Claude). Wo die Antworten voneinander abweichen, liegt meistens die Wissenslücke.
5. Prüfe alles, was Konsequenzen hat: Zahlen, Verträge, Zitate, Rechtliches und Medizinisches musst du immer selbst verifizieren. Die KI liefert uns den Entwurf – aber die Verantwortung und die Haftung liegen ganz allein bei uns!

Bist du auch schon einmal auf eine besonders gut getarnte KI-Halluzination hereingefallen? Und wie prüfst du die Ergebnisse im Alltag?

Abonniere den Podcast, hinterlasse Heidi und mir eine Bewertung auf deiner Lieblingsplattform und lass mich auf LinkedIn wissen, welche Erfahrungen du gemacht hast!

Transcript

Begrüßung Und Thema Halluzinationen

SPEAKER_00 0:01

Wie KI-Worte wirken. Das ist ein Podcast für effiziente Arbeit und moderne Kommunikation im Zeitalter der künstlichen Intelligenz.

SPEAKER_01 0:13

Herzlich willkommen! Heute der Mikrofon Helga Boss. Wieder einmal solo zu dem Thema Die Halluzinationen der KI. Also der Moment, in dem dir die KI mit voller Überzeugung etwas erzählt, was schlichtweg nicht richtig ist. Das kann eine erfundene Quelle, eine erfundene Zahl oder aber auch ein Gerichtsurteil, das nie ein Gericht je gefällt hat sein. Das heißt, was besprechen wir heute? Was sind diese Halluzinationen überhaupt? Wie und warum entstehen diese? Und wie kannst du ab morgen damit umgehen und diese vermindern?

Was Eine KI-Halluzination Ist

SPEAKER_01 0:52

Also starten wir mal. Was ist denn so eine Halluzination überhaupt? Eine Halluzination, das ist eine plausible, aber schlichtweg falsche Aussage. Und das Plausible, das ist hier das Gefährliche. Weil die KI, die stottert nicht, die zögert nicht, die klingt extrem souverän, egal ob sie Recht hat oder nicht. Und genau deshalb fallen wir ja so gern drauf herein. Wenn wir untereinander reden, wir Menschen, dann erkennen wir in der Regel Unsicherheit in der Sprache, ja, das Gegenüber zögert und nachher nehmen wir an, dass die Person das vielleicht nicht so genau weiß. Oder man senkt den Blick nach unten und ist sie vielleicht nicht ganz sicher. Und wir erkennen das in unserem Umgang miteinander. Aber das ist das, was die KI macht, die zögert nie. Die ist dann immer extrem überzeugend und schreibt es dann so richtig plausibel hin, dass wir das gerne glauben. Was ist denn jetzt so eine Halluzination? Und die KI, die kennt ja keinen Unterschied zwischen Wissen und Vermuten. Weil was tut die KI, wenn wir eine Anfrage stellen, die macht eine Wahrscheinlichkeitsrechnung. Was ist das nächste wahrscheinliche Wort? Und wenn dann eine Anfrage gestellt wird, wo in den Trainingsdaten vielleicht nicht so viel hinterlegt wird oder im Netz nicht so viel gefunden wird, dann biegt die KI in der Wahrscheinlichkeitsrechnung einfach irgendwo ab, nämlich beim nächsten plausiblen Wort. Die KI checkt ja nicht, ist es richtig oder nicht, weil sie macht ja nur Wahrscheinlichkeiten. Weil an dieser Stelle sprachlich das nächste Wort gerade am wahrscheinlichsten ist.

Drei Halluzinationsarten Mit Beispielen

SPEAKER_01 2:38

Und was gibt es denn da für Halluzinationen? Da haben wir erstens erfundene Fakten, Zahlen, Daten, Ereignisse, die es nie gab. Aber für die KI ist es halt plausibel. Zweitens, was auch immer wieder vorkommt, und das lese ich sehr gerne in Bachelor- oder Projektarbeiten von Studierenden, erfundene Quellen. Also Studien, Artikel, Urteile, die so perfekt klingen, aber gar nicht existieren. Also die KI gibt dir dann eine Quelle, ein Buch, einen Autor, ein Paper, das es so nie gegeben hat, aber total plausibel klingt. Und dann die dritte Sorte von Halluzinationen, und das sind die Fiesen. Das sind die, die sind zu 90% richtig, aber 10% stimmen eigentlich nicht in dieser Aussage, die die KI getätigt hat. Und die erkennt man nur, wenn man sie da voll gut auskennt in dem Thema und weiß, dass das nicht richtig sein kann. Und da liegt das Risiko, weil komplett absurde Antworten, die erkennen wir sofort. Aber eine fast richtige, die rutscht halt dann durch. Und wir alle kennen mittlerweile diese Geschichten von Anwältinnen und Anwälten, die dann mit der KI die Schriftsätze erstellt haben und dann kommen vielleicht ein Präzedenzfall und der fliegt dann aber vor Gericht auf, weil es denen so nie gegeben hat. Diese zitierten Urteile haben Aktenzeichen, Daten, alles drum und dran gehabt, aber es hat sie halt nie gegeben. Und das ist jetzt mittlerweile kein amerikanisches Einzelfänomen mehr, sondern es gibt Fälle in all unseren Ländern. Und mit ziemlicher Sicherheit haben wir in unserer Umgebung auch ein Unternehmen, in dem ein Bericht oder Angebot mit halluzinierten Zahlen drinnen ist. Es hat halt nur noch niemand gemerkt.

Warum Raten Im Training Belohnt Wird

SPEAKER_01 4:26

Warum passiert denn das in diesem Ausmaß mit den Halluzinationen? Und OpenAI hat dazu selber eine Studie gemacht, um das besser zu verstehen. Das muss man sich einmal überlegen. Ausgerechneter Hersteller sagt, schauen wir uns das einmal ehrlich an, warum unsere eigenen Systeme Dinge erfinden. Und die Kernaussage ist verblüffend einfach. Die Sprachmodelle halluzinieren, weil in ihrem Training das Raten belohnt wurde. Das ist circa so wie bei mir früher an der Uni. Wir haben ganz viele Multiple-Choice-Fragen gehabt. Du kriegst eine Frage und hast vier Antwortmöglichkeiten. Wenn du auf die Frage nichts antwortest, weil du sie schlichtweg nicht weißt, kriegst du null Punkte. Wenn du aber A, B, C oder D ratest, dann hast du zumindest eine 25%ige Wahrscheinlichkeit, einen Punkt zu bekommen. Und genau so denkt sich das die KI. Die sagt du, wenn ich sage, ich weiß es nicht, dann kriege ich keine Belohnung. Wenn ich aber rate und es ist vielleicht richtig, dann kriege ich ja Belohnung. Und so sind die KI-Modelle trainiert und bewertet worden. Das heißt, die KI hat gelernt, wenn ich dann eine Antwort erfinde oder was Plausibles hinschreibe, dann werde ich eher belohnt, als wenn ich nichts hinschreibe. Ich werde dann oft gefragt, du, Helga, wie viel halluziniert denn die KI wirklich? Und da gibt es aber jetzt keinen richtigen und keinen falschen Prozentsatz. Es kommt auf das Thema an, es kommt auf das Datenmaterial darauf an, es kommt aber vielleicht auch darauf an, wie anspruchsvoll die Aufgabe ist.

Halo Hard Benchmark Und Websuche

SPEAKER_01 6:07

Anfang 2026 haben Forscher und Forscherinnen aus unterschiedlichen Instituten eine neue Benchmark vorgestellt, die nennt sie Halo Hard. Ja, das ist die Benchmark der Halluzinationen. Und die testen nicht nur brav die Quiz-Fragen, sondern haben mehrstufige offene Gespräche, die sehr anspruchsvoll sind und die Modelle haben die Behauptungen mit den Quellen belegen müssen. Das ist das, was wir tagtäglich tun, wenn wir recherchieren. Wir recherchieren, wir kriegen vielleicht ein Ergebnis im Web, dann schlicken wir uns durch, dann lesen wir nach und schauen, ist das eine gute oder eine schlechte Quelle und agieren halt so. Das Ergebnis der Forschenden hat dann gezeigt, dass die Halluzinationen signifikant höher waren, wenn die Websuche ausgeschaltet war. Das heißt, wenn die KI sich nur auf ihre Trainingsdaten bezieht, dann sind die Halluzinationen bei 60 bis 80% gelegen. Also das ist schon sehr hoch. Wenn man aber dem Modell erlaubt hat, auch im Web zu suchen, dann lag die Rate bei 30%. Das heißt, die Halluzination minimiert sich auf ein Drittel von fast zwei Drittel, wenn wir die Websuche einschalten. Das Spannende an dieser Studie war dann auch noch, die KI findet echte Quellen, aber die Herausforderung ist dann, dass die KI die Quelle angibt, aber die Aussage, die sie vermeintlich aus der Quelle zieht, die ist einfach schlichtweg falsch, die ist erfunden und halluziniert. Das heißt, es ist auch wichtig, dass man innerhalb dieser Quellen dann überprüft, wo findet sich denn diese Aussage. Und auch das ist eine Halluzination, eine sehr, sehr gut getarnte. Darum gilt es hier wirklich aufzupassen. Die gute Nachricht aus dieser Studie, wenn man der KI eine Datengrundlage gibt, also ein Dokument oder Verlinkung, also etwas, wo die KI zugreifen kann und soll, dann werden die Ergebnisse schon sehr zuverlässig. Also da kannst du nachher der KI sagen und vermutlich machst du das auch schon, du schau mal, da hast du ein PDF, such mir da bitte die Informationen heraus. Und da funktionieren die Modelle schon sehr, sehr gut und man kann sie auch schon ziemlich gut drauf verlassen. Was heißt es jetzt für uns zusammengefasst? Die KI die ist schon richtig gut, wenn du ihr das Material gibst und die Aufgabe dann auch sehr klar und eng führst. Gefährlich wird es eher, wenn die KI aus ihren eigenen Trainingsdaten, aus dem eigenen Gedächtnis arbeitet und wir

Fünf Schritte Gegen Halluzinationen

SPEAKER_01 8:40

ihr blind vertrauen. Und gerade zwischen diesen zwei Polen spielt sich tatsächlich unser Arbeitsalltag ab. Und was sind jetzt die fünf Dinge, die du ab morgen machen kannst, damit du im Arbeitsalltag die Halluzinationen vermindern und verringern kannst. Wie kannst du damit umgehen? Punkt Nummer eins, ein sehr großer Hebel ist, gib der KI das Material, gib ihr ein PDF, gib ihr eine verlinkte Quelle, füge einen Text ein und dann kann die KI aus diesem Material arbeiten und nicht aus dem eigenen Gedächtnis. Das senkt die Rate der Halluzinationen schon mal signifikant. Man nennt es auch Retrieved Augmented Generation in kurz RAG. Auf Deutsch war es das quasi abrufgestützte Texterzeugung und das klingt jetzt sperrig, ist aber simpel. Du sagst der KI, sie darf nicht frei aus dem Gedächtnis und aus ihren Trainingsdaten antworten, sondern sie muss auf diese Dokumente, auf diese Quellen zugreifen. Und dann baut die KI die Antworten daraus aus dem, was sie da gefunden hat. Zweiter Punkt, der in dieser Studie Anfang 2026 zu signifikant besseren Ergebnissen geführt haben, nämlich ein Drittel weniger Halluzinationen, ist die Websuche. Das heißt, alles, was du aktuell und faktenlastig suchst, schalt die Websuche ein und dann steigt die Qualität der Ergebnisse. In der Regel verlinken dann die Tools die Ergebnisse und du kannst relativ schnell überprüfen, stimmt es, wo ist die Quelle, wo wird das gesagt. Punkt Nummer 3 ist eigentlich einer meiner Lieblingspunkte. Du gibst der KI ganz klare Anweisungen und in dieser Anweisung hebelst du dieses Anreizsystem der Belohnungen aus. Das heißt, du erlaubst der KI ehrlich zu sein. Du erlaubst der KI zu sagen, wenn du es nicht weißt, gib es zu. Oder du sagst, wenn du dir bei deiner Angabe nicht sicher bist, gib es zu. Oder gib im Prozent an, wie sicher oder wie wahrscheinlich diese Aussage stimmt. Das klingt total banal, aber damit hebelst du dieses Anreizproblem aus. Also sagt der KI ganz klar, sie darf dich anlügen. Vierter Punkt, wie du ab morgen deine Halluzinationen minimieren kannst. Frag ein zweites Modell. Also die KI erfindet nicht immer denselben Fehler. Diese Wissenslücken werden jedes Mal anders gefüllt. Das heißt, wenn du dieselbe Frage an zwei oder drei Modelle stellst, also zum Beispiel ChatGPT, Claude und Gemini, und die Antworten gehen genau an einem Punkt auseinander, dann hast du deine Lücke gefunden. Und genau dort prüfst du nach und schaust einmal genauer hin. Die Studien zeigen, dass es da bis zu 8% Genauigkeitsgewinn gibt durch dieses simple Vorgehen. Das wird dann auch Wisdom of the Crowds genannt, also diese Klugheit der Masse, aber eben mit Maschinen. Und ganz viele Unternehmen machen das intern schon längst systematisch und geben den Modellen die Ausgaben gegenseitig, um diese zu bewerten. Und das kannst du ganz leicht händisch in zwei Minuten für dich selber machen. Und der fünfte Punkt, und der ist tatsächlich für mich sowieso indiskutabel, prüf alles, was Konsequenzen hat. Zahlen, Namen, Zitate, Rechtliches, Medizinisches, alles, was im Angebot, Vertrag oder in deine Kundenkommunikation wandert. Und das ist wirklich, wirklich wichtig. Die KI liefert uns nur den Entwurf, aber wir haben die Verantwortung. Wir können die Arbeit delegieren, aber nicht die Haftung. Und vor allem auch, wenn du Führungskraft bist und du hörst jetzt gerade zu. Das gehört auf jeden Fall in eure KI-Guidelines schriftlich hinein. Wer prüft was, bevor es rausgeht? Wer übernimmt die Verantwortung? And das sind jetzt die fünf Tipps, die du ab morgen anwenden kannst. Gib der KI dein Material, schreut die Websuche ein, erlaub der KI die Unsicherheit, frag ein zweites Modell und prüf alles, was Konsequenzen hat. Und damit sind wir jetzt noch nicht einmal am Ende der Diskussion angelangt, wie wir mit den Ergebnissen der KI umgehen.

Bixonimanie Und Die Frage Nach Quellen

SPEAKER_01 13:09

Als schwedische Forscherin hat sie im Frühjahr 2004 eine Augenkrankheit ausgedacht. Bixonimanie. Und dann hat sie zwei gefakte Papers, zwei gefälschte Arbeiten dazu auf einer akademischen Plattform veröffentlicht, um zu testen, ob die Sprachmodelle offensichtliche Fehlinformationen schlucken und als seriösen Gesundheitsratschlag wieder ausspucken. In den Texten waren aber bewusst Warnsignale, ja. Es waren fiktive Autoren, absurde Danksagen, Star Trek-Anspielungen, inklusive Dank an die Starfleet Academy und deren Labor an Bord der USS Enterprise und einem Satz im Fließtext, dass der gesamte Artikel erfunden sei. Was ist passiert? Mitte April hat Co-Pilot diese Krankheit schon mal als seltene Erkrankung ausgegeben. Ende April hat Perplexity die Angabe ausgegeben, dass 90.000 Menschen betroffen seien. ChatGPT hat Nutzer und Nutzerinnen dann im April darauf hingewiesen, dass die Symptome auf diese Krankheit hindeuten könnten. Also diese Diagnose lief jetzt anderthalb Jahre lang und dann haben sie das in einem Fachjournal veröffentlicht, haben die Modelle korrigiert, haben den Artikel zurückgezogen und es ging im Endeffekt darum, wie geht denn die KI um, wenn falsche Informationen hinterlegt sind. Und die Fälschung wurde einfach von den Chatbots übernommen und hat aber dann auch Eingang gefunden in echte peer-reviewed Fachliteratur und ist dort als Quellenangabe aufgeschienen. Und das ist schon etwas, über was wir weiterdenken dürfen. Also es geht nicht nur um die Halluzinationen der KI, es geht auch darum, die Quellen zu bewerten, aus denen die KI die Informationen nimmt. Und das ist das, was unsere Aufgabe ist als Menschen. Diese Bewertung, ist das eine gute Quelle, ist das eine akademische Quelle, ist das eine erfundene Quelle? Wie gehen wir damit um? Und das sorgt uns ja eigentlich der Hausverstand, wenn wir ein wissenschaftliches Paper lesen, wo drinnen steht, diese Studie ist frei erfunden, das auch dann für uns zu sagen, okay, das ist keine gute Quelle.

Fazit Und Verabschiedung

SPEAKER_01 15:32

In diesem Sinne hoffe ich, du hast ganz viel mitnehmen können aus dieser Podcast-Folge über das Thema die KI und ihre Halluzinationen. Und ich freue mich aufs nächste Mal, wenn's wieder heißt, wie KI-Worte wirken. Bis dann!

SPEAKER_00 15:52

Wie KI-Worte wirken, der Podcast für effiziente Arbeit und moderne Kommunikation im Zeitalter der künstlichen Intelligenz. Als Gastgeberinnen sind Helga Boss und Heidi Winsauer verantwortlich. Weitere Informationen findest du auf unserer Webseite kIwarte.com