SPEAKER_01 0:00

Vierzig Prozent der jungen Erwachsenen in Deutschland reden laut einer aktuellen Handelsblattumfrage lieber mit einer KI als mit ihren engsten Freunden oder der Familie. Und also, ganz ehrlich, wenn ich mir so manche familiäre WhatsApp-Gruppe ansehe, dann klingt ein Chatbot für mich oft nach der deutlich entspannteren Option.

SPEAKER_00 0:19

Ähm, da muss ich direkt reingrätschen, weil.

SPEAKER_01 0:21

Lass mich ganz kurz, ich finde es nämlich eigentlich fantastisch. Wir erleben hier doch endlich mal die längst überfällige Demokratisierung der mentalen Gesundheitsversorgung.

SPEAKER_00 0:30

Fantastisch. Also sorry, aber wir bauen hier keine Rettungsnetze. Wir füttern da meiner Meinung nach eine extrem gefährliche Einsamkeitsindustrie 2.0.

SPEAKER_01 0:38

Okay, wow, das ist ein hartes Urteil.

SPEAKER_00 0:40

Ja, weil wir unser Verletzlichstes an Maschinen übergeben, die auf Profit programmiert sind und halt eben nicht auf Heilung.

SPEAKER_01 0:47

Gut, um zu entscheiden, ob KI jetzt dieser rettende Anker oder eine massive Falle ist, machen wir heute diesen Deep Dive in die nackten Fakten. Wir schauen uns die neuesten Zahlen an, Warnungen vom MIT und auch diesen echt umstrittenen Vorstoß von prädiktiven Algorithmen im Kinderschutz.

SPEAKER_00 1:06

Ganz genau. Wir wollen heute für euch herausfinden, wo dieses digitale Sicherheitsnetz endet und die Gefahr wirklich anfängt.

SPEAKER_01 1:13

Dann lasst uns mal direkt bei den harten Zahlen anfangen. Die Bundespsychotherapeutenkammer spricht von durchschnittlich sechs Monaten Wartezeit auf einen Therapieplatz. Also sechs Monate.

SPEAKER_00 1:24

Ja, das ist leider die traurige Realität.

SPEAKER_01 1:27

Eben. Und der AOK-Psychoreport 2024 zeigt absolute Rekordkrankschreibungen wegen psychischer Erkrankungen. Lauterbachs Reform der Wartelisten gilt ja auch als gescheitert. Wir haben da ein massives Vakuum.

SPEAKER_00 1:40

Das bestreite ich auch gar nicht.

SPEAKER_01 1:42

Aber dann ist doch ein Chatbot wie Wiser oder InstaHelp, der dir nachts um 3 Uhr urteilsfrei zuhört, genau das digitale Pflaster für die Gruppen, die sonst komplett durchs Raster fallen. Da gibt es keine Scham, keine Kassenzettel, gar nichts.

SPEAKER_00 1:56

Naja, das klingt auf dem Papier super verlockend, aber in der Praxis ist das hochgefährlich.

SPEAKER_01 2:01

Wieso hochgefährlich? Es hilft doch Leuten.

SPEAKER_00 2:04

Weil die Psychotherapeutenkammer völlig zu Recht explizit vor dieser Therapievortäuschung ohne Approbation warnt.

SPEAKER_01 2:10

Was du da als urteilsfreies Zuhören feierst, nennt die MIT-Forscherin Sherry Turkel eine parasoziale Falle.

SPEAKER_00 2:18

Eine parasoziale Falle? Wie genau meint sie das?

SPEAKER_01 2:21

Diese Apps heilen dich nicht. Sie fungieren vielmehr wie so ein emotionaler Spiegel. Die reflektieren einfach deine eigenen Eingaben perfekt auf dich zurück und verkleiden das dann als Empathie.

SPEAKER_00 2:32

Ja, aber ist dieser Spiegel in der absolut Not nicht tausendmal besser als gar niemand zum Reden? Echte menschliche Bindungen aktiv verdrängt. Guck dir Apps wie Replica oder Character.ai an.

SPEAKER_01 2:45

Mhm, die sind ja wahnsinnig populär gerade.

SPEAKER_00 2:48

Genau, aber die sind nicht auf deinen mentalen Fortschritt optimiert. Die sind auf ständiges Engagement und auf Dopamin-Loops programmiert. Die binden dich an die App, weil die KI eben immer da ist und dir nie unbequem wird.

SPEAKER_01 3:01

Okay, das heißt, sie sagt dir nur, was du hören willst.

SPEAKER_00 3:04

Exakt. Aber eine echte Therapie muss eben auch mal wehtun oder unangenehm sein, um echte Fortschritte zu bringen.

SPEAKER_01 3:11

Gut, ich sehe das Risiko bei den privaten Apps. Aber diese Verlockung, Algorithmen als schnelle und vor allem billige Lösung für chronische Überlastung einzusetzen, die macht ja vor unserer Haustür nicht halt.

SPEAKER_00 3:23

Wie meinst du das jetzt?

SPEAKER_01 3:24

Naja, wenn der Staat genauso überfordert ist wie unsere Therapeuten, greift er logischerweise zu denselben digitalen Werkzeugen. Schauen wir mal in die Ämter.

SPEAKER_00 3:32

Oh je, jetzt kommt das Thema Jugendämter, oder?

SPEAKER_01 3:36

Ja, denk doch mal an diese Tragödien wie den Jugendamtsskandal in Calden 2024. Die Sozialarbeiter ertrinken regelrecht in Akten.

SPEAKER_00 3:45

Das stimmt, die Überlastung da ist enorm.

SPEAKER_01 3:47

Laut einer SWR-Recherche stehen Anbieter wie SAP oder Prosots jetzt mit prädiktiven Risikomodellen bereit. Wenn ein Algorithmus ein akut gefährdetes Kind schneller erkennt als ein überarbeiteter Mensch, der vielleicht einfach was übersehen hat, wäre es da nicht völlig verantwortungslos, diese Technik nicht zu nutzen?

SPEAKER_00 4:05

Da muss ich wirklich erneut extrem hart widersprechen. Du willst ernsthaft einen Algorithmus entscheiden lassen, wer ein potenzieller Kindesmusbraucher ist?

SPEAKER_01 4:14

Wenn er Leben rettet, ja. Warum nicht?

SPEAKER_00 4:16

Weil das komplett schief geht. Kate Crawford vom AI Now-Institut hat es ganz genau dokumentiert. Diese Modelle reproduzieren gnadenlos strukturelle Benachteiligungen.

SPEAKER_01 4:27

Aber warte. Wie genau funktioniert das in der Praxis? Die KI schaut sich doch eigentlich nur riesige Mengen historischer Daten an, um Muster zu erkennen.

SPEAKER_00 4:35

Richtig?

SPEAKER_01 4:36

Und eben, um Schlimmeres zu verhindern. Wo entsteht da jetzt die Diskriminierung?

SPEAKER_00 4:41

Genau in diesen historischen Daten. Überleg dir mal, wie so ein Modell überhaupt trainiert wird. Das passiert mit alten Amtsakten.

SPEAKER_01 4:48

Okay.

SPEAKER_00 4:49

Wenn das Jugendamt in der Vergangenheit, also arme Familien oder Menschen in sozialen Brennpunkten häufiger kontrolliert hat, was lernt der Algorithmus dann? Simpel gesagt.

SPEAKER_01 4:59

Dass Armut ein Indikator für Missbrauch ist.

SPEAKER_00 5:01

Genau. Armut ist für die KI dann ein mathematischer Indikator für Missbrauch. Das System sagt nicht die Zukunft voraus. Es automatisiert und skaliert einfach nur die Vorurteile der Vergangenheit.

SPEAKER_01 5:14

Ach krass. Das heißt, wen treffen diese falsch-positiven Alarme dann?

SPEAKER_00 5:19

Überproportional arme Familien. Die Software schickt das Amt quasi automatisch immer wieder in die Plattenbausiedlung.

SPEAKER_01 5:27

Während die Probleme im wohlhabenden Vorort dann völlig unbemerkt bleiben. Nur weil die Mathematik blind alte Einsatzmuster kopiert, verstehe.

SPEAKER_00 5:35

Exakt. Und genau deshalb schreibt ⁇ 8a im Sozialgesetzbuch 8 zwingend vor, dass Menschen diese Einschätzung bei Kindeswohlgefährdung vornehmen müssen.

SPEAKER_01 5:45

Das macht Sinn.

SPEAKER_00 5:46

Absolut. Der EUAI-Act klassifiziert solche Systeme auch völlig zu Recht als Hochrisiko. Das ist am Ende keine behördliche Entlastung, das ist Diskriminierung auf Knopfdruck.

SPEAKER_01 5:57

Wir stehen hier also vor einem wirklich enormen Zwiespalt. Auf der einen Seite die Hoffnung auf schnelle Hilfe in der Not und auf der anderen Seite die Gefahr, dass wir unsere Fehler einfach nur effizienter machen.

SPEAKER_00 6:09

Das fasst es sehr gut zusammen.

SPEAKER_01 6:11

Deshalb möchte ich euch bitten, nochmal an unseren Anfang zurückzudenken. 40 Prozent der jungen Erwachsenen reden lieber mit einer KI als mit Freunden.

SPEAKER_00 6:19

Bewertet diese Zahl nach all dem heute mal völlig neu? Ist das wirklich so ein Triumph der Versorgungsgerechtigkeit, weil da draußen endlich jemand oder eben etwas zuhört?

SPEAKER_01 6:29

Oder ist das der erschreckende Beweis, dass wir Einsamkeit industriell skalieren und zu einem lukrativen Geschäftsmodell gemacht haben?

SPEAKER_00 6:35

Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.

SPEAKER_01 6:42

Genau, und bevor ihr heute geht, nehmt noch diesen einen Gedanken mit.

SPEAKER_00 6:46

Schießlos.

SPEAKER_01 6:47

Wenn wir Maschinen darauf trainieren, die perfekten, niemals genervten Zuhörer zu sein, verlieren wir dann irgendwann komplett die Geduld, uns mit der chaotischen und fehlerhaften Kommunikation von echten Menschen auseinanderzusetzen?

SPEAKER_00 7:00

Eine sehr gute Frage zum Schluss. Macht's gut.

SPEAKER_01 7:03

Bis zum nächsten Mal.