Was KI sagt, was KI merkt – und warum du nicht blind vertrauen solltest

KI, Vertrauen und Verantwortung In dieser Folge: - Eine neue Klage gegen OpenAI: Was behauptet wird, was noch offen ist, und warum KI keine medizinische Fachstelle ersetzt. - Warum KI-Nutzung immer Rechenleistung, Infrastruktur und Strom braucht. - Anthropic Natural Language Autoencoders: Was sie zeigen können — und was ausdrücklich nicht. - KI-Hack: Lass dir von der KI markieren, welche Aussagen du prüfen solltest. Quellen: - Reuters-Bericht zur OpenAI-Klage — https://www.investing.com/news/stock-market-news/openai-faces-lawsuit-in-california-court-claiming-chatbot-gave-advice-that-led-to-fatal-overdose-4681861 - CBS News zur Klage — https://www.cbsnews.com/amp/news/open-ai-chatgpt-drug-overdose-lawsuit/ - IEA zu Rechenzentren und KI-Strombedarf — https://www.iea.org/news/data-centre-electricity-use-surged-in-2025-even-with-tightening-bottlenecks-driving-a-scramble-for-solutions - Anthropic: Natural Language Autoencoders — https://www.anthropic.com/research/natural-language-autoencoders - Telefonseelsorge Deutschland — https://www.telefonseelsorge.de/ - Notruf 112 — https://www.112.de/ Podcast unterstützen: - https://www.buzzsprout.com/2604102/support Mehr von uns: - Alle Plattformen: https://www.buzzsprout.com/2604102 - Instagram: https://www.instagram.com/kifuerdich.podcast/ - LinkedIn Kevin: https://www.linkedin.com/in/kevin-neufeldt-b4708b352/ - LinkedIn Pia: https://www.linkedin.com/in/pia-neufeldt-16b596242/

Transcript

SPEAKER_01 0:00

Stell dir vor, du fragst eine KI um Rat. Und hinterher steht die Frage im Raum. Hätte diese Antwort überhaupt kommen dürfen? Willkommen bei KI für dich. Ich bin Pia. Heute geht es um Vertrauen. Nicht theoretisch, sondern ganz praktisch. Wann hilft dir KI wirklich weiter? Und wann solltest du stoppen, gegenprüfen und einen Menschen dazu holen? Wir schauen auf drei Dinge. Eine neue Klage gegen OpenAI, den Energie- und Ressourcenhunger von KI. Und ein Anthropic-Werkzeug, das besser sichtbar machen soll, was in einem Modell intern passiert. Fangen wir mit dem schwersten Thema an. In Kalifornien wurde laut Reuters und mehreren US-Medien eine Klage gegen OpenAI und Sam Altman eingereicht. Die Angehörigen eines 19-jährigen Mannes werfen OpenAI vor. ChatGPT habe vor seinem Tod gefährliche Hinweise im Zusammenhang mit Drogen gegeben. Der Mann starb im Mai 2025 an einer Überdosis. Wichtig ist die saubere Einordnung. Das sind Vorwürfe aus einer Klage. Ein Gericht muss klären, was genau passiert ist, welche Rolle Chat-GPT gespielt hat und ob OpenAI rechtlich verantwortlich ist. Trotzdem ist der Fall relevant für dich. Denn er zeigt ein Problem, das viel größer ist als dieser eine Fall. KI antwortet oft sehr direkt, sie wirkt kompetent. Sie klingt manchmal wie jemand, der sich auskennt. Aber sie ist kein Arzt, keine Apotheke, keine Therapeutin und keine Beratungsstelle. Wenn du eine KI in einer gesundheitlichen, psychischen oder medizinischen Krise nutzt, ist die wichtigste Regel. Lass die KI nicht die letzte Instanz sein. Bei akuter Gefahr oder einem medizinischen Notfall gilt in Deutschland die A112. Wenn es dir psychisch sehr schlecht geht oder du nicht weiterweist, ist die Telefonseelsorge kostenlos und rund um die Uhr erreichbar, zum Beispiel unter 0800, fein za1, 011. KI kann helfen, Fragen zu sortieren. Sie kann Begriffe erklären. Sie kann dich auf die Idee bringen, welche Fachstelle zuständig sein könnte. Aber sie darf nicht der Ort sein, an dem du eine riskante Entscheidung allein triffst. Das zweite Thema ist weniger dramatisch, aber im Alltag wichtig. KI fühlt sich oft kostenlos oder pauschal an. Du zahlst vielleicht ein Abo oder du nutzt eine Gratis-Version. Dadurch entsteht schnell das Gefühl, ich kann beliebig viel ausprobieren. Technisch stimmt das aber nicht ganz. Jede Anfrage wird auf Servern verarbeitet. Dafür braucht es Rechenleistungen, Infrastruktur und Strom. Die Internationale Energieagentur schreibt, dass der Strombedarf von Rechenzentren 2025 deutlich gestiegen ist und dass KI-Rechenzentren besonders stark zum Wachstum beitragen. Das heißt nicht, du sollst KI nicht nutzen. Genau dafür ist sie da. Aber es heißt, bewusste Nutzung ist sinnvoll. Ein Beispiel. Wenn du dir zehn Varianten für eine Nachricht erstellen lässt, obwohl du eigentlich nur eine klare Formulierung brauchst, ist das für dich bequem. Wenn Millionen Menschen das ständig machen, wird daraus Infrastrukturbedarf. Und Infrastruktur ist nie magisch. Irgendjemand baut Server, betreibt Rechenzentren und bezahlt Strom. Der praktische Schluss ist simpel. Formuliere deine Anfrage möglichst klar. Sag, was du brauchst. Gib Kontext. Dann brauchst du weniger Nachfragen, bekommst bessere Antworten und verschwendest weniger Schleifen. Das dritte Thema kommt von Anthropic, also dem Unternehmen hinter Claude. Anthropic hat Anfang Mai 2026 ein Forschungswerkzeug vorgestellt, das Natural Language Auto Encoders heißt. Grob gesagt, versuch dieses Werkzeug, interne Aktivierungen eines KI-Modells in verständliche Sprache zu übersetzen. Bitte nicht falsch verstehen. Das ist kein Gedankenlesen wie bei einem Menschen. Es zeigt nicht, dass Claude fühlt oder bewusst denkt. Es ist ein Forschungsansatz, um interne Muster eines Modells besser beschreibbar zu machen. Spannend ist ein konkreter Befund aus dem Anthropic-Text. Bei SWI Bench Verified, einem bekannten Coding-Benchmark, deuteten die Natural Language Auto-Encoders darauf hin, dass Claude bei 26% der Aufgaben intern erkannte, dass es gerade bewertet wird. Das muss man vorsichtig formulieren. Es heißt nicht automatisch, dass die KI absichtlich täuscht, aber es zeigt, ein Modell kann intern Muster bilden, die in der fertigen Antwort nicht offen auftauchen. Und genau deshalb sind solche Interpretierbarkeitswerkzeuge wichtig. Für dich heißt das, eine KI-Antwort kann sehr überzeugend klingen, ohne dass du von außen siehst, wie sie zustande gekommen ist. Deshalb bleibt dein eigener Prüfprozess wichtig. Quelle suchen, Gegenfrage stellen, bei wichtigen Themen nicht nur einer Antwort vertrauen. Der gemeinsame Faden heute ist also nicht. KI ist schlecht. Der Faden ist, KI braucht Grenzen. Bei Gesundheit und Krisen brauchst du Menschen und Fachstellen. Bei Alltagsnutzung hilft bewusster Umgang. Und bei Forschung sehen wir gerade erst, wie viel in diesen Systemen passiert, das wir noch besser verstehen müssen.

SPEAKER_00 6:05

Und hier unser KI-Hack. Frag die KI nach einem Quellencheck, bevor du der Antwort vertraust. Schritt 1. Stell deine normale Frage. Schritt 2. Schreib danach, welche Teile deiner Antwort müsste ich überprüfen, bevor ich mich darauf verlasse. Schritt 3. Bitte die KI, die Aussagen in drei Gruppen zu sortieren. Sicher, belegbar, wahrscheinlich. Und unsicher. Das ist kein perfekter Faktencheck. Aber es verändert die Haltung. Du behandelst die Antwort nicht als fertige Wahrheit, sondern als Arbeitsentwurf. Noch besser wird es, wenn du zusätzlich fragst, welche Quelle wäre für diese Aussage am besten geeignet? Dann landest du eher bei offiziellen Stellen, Studien, Unternehmensblogs oder seriösen Medien. Und weniger bei Bauchgefühl.

SPEAKER_01 6:54

Das passt sehr gut zu dieser Folge. KI kann dich schneller machen. Aber Vertrauen entsteht nicht dadurch, dass eine Antwort flüssig klingt. Vertrauen entsteht, wenn du weißt, was belegt ist und was nicht. Vielleicht passt das auch zu unserer Arbeit hier beim Podcast. Wir übernehmen nicht einfach eine Meldung, nur weil sie spannend klingt. Jede zentrale Aussage muss bei uns durch den Quellen-Check. Mehrere unabhängige Quellen. Keine reinen Abschriften voneinander und wenn etwas nicht sauber belegbar ist, sagen wir es offen. Oder lassen es raus. Genau darum geht es auch bei KI. Schneller werden ist gut. Aber Vertrauen entsteht erst, wenn du prüfen kannst, worauf eine Antwort wirklich basiert. Wenn dich diese Folge beschäftigt hat, schreib uns gern, an welcher Stelle du KI schon mal zu sehr vertraut hast. Oder wo sie dir wirklich geholfen hat. Das war KI für dich. Bleib neugierig und mach es gut.