Kann KI erklären, warum?

Funkes Brückenmaschine lobt geheimnisvolle „Brückenhaftigkeit“. Kevin und Funke suchen stattdessen echte Spuren, verständliche Gründe und ehrliche Grenzen hinter einem Ergebnis.

Neuer Begriff: Nachvollziehbarkeit – verstehen können, welche wichtigen Spuren zu einem Ergebnis geführt haben.
Mission ohne Bildschirm: Drei Papierbrücken nach vorher festgelegten Regeln vergleichen und eine Begründung nur aus echten Messspuren schreiben.

Zum Weiterfunken
- Welcher genannte Grund lässt sich wirklich prüfen?
- Woran merkt ihr, dass eine Erklärung nur gut klingt, aber nicht zur Entscheidung passt?

Mini-Tipp für Erwachsene: Fragt bei einer Erklärung nach konkreten Belegen und verändert testweise eine entscheidende Angabe; bewegt sich das Ergebnis nicht, war die genannte Spur vielleicht bedeutungslos.

Für Erwachsene: Eine brauchbare Erklärung zeigt wichtige echte Gründe verständlich und nennt Grenzen. Ein nachträglich erzeugter plausibler Text muss nicht den tatsächlichen Rechenweg wiedergeben und kann selbst falsch sein. Faktencheck: 24.08.2026.

Quellen: NIST – Four Principles of Explainable AI: https://www.nist.gov/publications/four-principles-explainable-artificial-intelligence, UNICEF – Guidance on AI and Children: https://www.unicef.org/innocenti/reports/policy-guidance-ai-children

Transparenz: Skript, Faktencheck, Auswahl und Freigabe liegen bei Kevin und Pia. Für einzelne Produktionsschritte werden freigegebene KI-Werkzeuge eingesetzt. Die Stimmen beruhen auf den mit Zustimmung erstellten Stimmenmodellen von Kevin und Pia. Funke ist eine gespielte Podcastfigur, kein Chatbot und kein privater Gesprächsdienst.

Wenn euch die Folge geholfen hat, gebt sie gern an andere vertraute Erwachsene weiter – in Familie, Kindertagespflege, Betreuung, Nachbarschaft, Verein, Bibliothek oder Schule. Eine Kinderfrage könnt ihr als erwachsene Begleitperson über die offizielle Kontaktmöglichkeit schicken – bitte anonym und ohne Fotos, Sprachaufnahmen, Schulnamen oder andere persönliche Daten von Kindern.

Mehr KI für Erwachsene

Wer aktuelle KI-Themen ausführlicher einordnen möchte, findet „KI für Dich – der Podcast“ hier:
Spotify: https://open.spotify.com/show/50JoOAsHTSj9LLpeXPvIGd
YouTube: https://www.youtube.com/playlist?list=PLCgFvxwtJ0Xn-NwSvI84Q0VKqzlWV3-bQ

Transcript

Copy Transcript Copied

SPEAKER_01 0:04

Meine Brückenmaschine hat Modell B gewählt. Begründung. Diese Brücke besitzt ausgezeichnete Brückenhaftigkeit.

SPEAKER_00 0:13

Das klingt wichtig und erklärt fast nichts.

SPEAKER_01 0:16

Ich habe nachgefragt. Jetzt sagt sie: Modell B überzeugt durch überzeugende Eigenschaften.

SPEAKER_00 0:23

Eine Erklärung muss mehr leisten als schöne Kreiswörter. Wir brauchen Nachvollziehbarkeit.

SPEAKER_01 0:28

Also eine Spur, der ich vom Ergebnis zurückfolgen kann.

SPEAKER_00 0:32

Genau. Welche Informationen waren wichtig? Welche Regel wurde angewendet? Wo liegen Grenzen oder Unsicherheiten?

SPEAKER_01 0:39

Bei meinen Papierbrücken könnten Länge, Zahl der Stützen und getragenes Gewicht zählen.

SPEAKER_00 0:45

Sehr gut. Eine brauchbare Erklärung könnte lauten, Modell B trug im Test das größte Gewicht und erfüllte die Längenvorgabe.

SPEAKER_01 0:53

Das kann ich mit Messkarten prüfen. Brückenhaftigkeit kann ich nur ehrfürchtig anstarren.

SPEAKER_00 1:00

Genau. Eine Erklärung sollte Belege oder Gründe nennen, die zur echten Entscheidung passen.

SPEAKER_01 1:05

Kann ein Sprachmodell nicht einfach hinterher erklären, was die KI gedacht hat.

SPEAKER_00 1:11

Vorsicht! Ein gut klingender Erklärungstext kann ebenfalls erfunden sein. Er muss nicht den tatsächlichen Rechenweg des anderen Systems wiedergeben.

SPEAKER_01 1:20

Dann brauche ich eine Verbindung zwischen Erklärung und echter Systemspur.

SPEAKER_00 1:26

Richtig. Manche Systeme zeigen wichtige Merkmale, Regeln oder Belege. Bei komplizierten Modellen bleibt eine vollständige Alltagserklärung oft schwierig.

SPEAKER_01 1:36

Dann soll die Erklärung auch ihre Grenze nennen.

SPEAKER_00 1:39

Genau. Diese drei Merkmale waren wichtig, kann eine ehrliche Grenze sein. Ein vollständigen inneren Rechenweg darf das System nicht vortäuschen. Eine Erklärung wird außerdem mit Testfällen geprüft. Zeigt sie bei ähnlichen Ergebnissen dieselben wichtigen Spuren? Ändert sie sich sinnvoll, wenn eine entscheidende Angabe wechselt?

SPEAKER_01 2:01

Ich entferne eine Stütze. Wenn die Erklärung trotzdem vier Stützen lobt, stimmt ihre Spur nicht.

SPEAKER_00 2:08

Genau, dann beschreibt der Text vielleicht nur eine passende Geschichte, aber nicht diese Entscheidung.

SPEAKER_01 2:13

Brauchen alle Menschen dieselbe Erklärung?

SPEAKER_00 2:16

Nein, eine Entwicklerin braucht technische Angaben. Eine Lehrkraft braucht vielleicht Testgrenzen. Ein betroffenes Kind braucht klare Gründe und den nächsten Schritt.

SPEAKER_01 2:26

Gleiche Entscheidung. Verschiedene Taschenlampen für verschiedene Fragen.

SPEAKER_00 2:31

Schönes Bild. Die Erklärungen dürfen verschieden tief sein. Sie dürfen sich aber nicht widersprechen oder Wichtiges verstecken.

SPEAKER_01 2:38

Was gehört zu einer guten Kindererklärung?

SPEAKER_00 2:41

Kurze Sätze, konkrete Gründe und keine Schuldzuweisung. Außerdem, wer kann helfen? Wie lässt sich ein Fehler melden? Was passiert danach?

SPEAKER_01 2:51

Das erinnert an Verantwortung. Nur diesmal untersuchen wir die sichtbare Spur zwischen Ergebnis und Grund.

SPEAKER_00 2:58

Genau. Nachvollziehbarkeit hilft Menschen beim Prüfen. Sie macht ein schlechtes oder unfaires System, aber nicht automatisch gut.

SPEAKER_01 3:07

Ein falsches Ergebnis mit hübscher Erklärung bleibt falsch.

SPEAKER_00 3:10

Richtig. Darum vergleichen Menschen Erklärung, Daten, Test und echte Situation. Sie prüfen auch Gegenbeispiele. Was müsste sich ändern, damit das System ein anderes Ergebnis liefert?

SPEAKER_01 3:23

Dann sehe ich, ob die genannte Spur wirklich etwas bewegt.

SPEAKER_00 3:28

Genau. Eine bedeutungslose Spur verändert nichts.

SPEAKER_01 3:31

Und wenn ein System seine Grenzen nicht erklären kann?

SPEAKER_00 3:34

Dann ist es für manche wichtige Aufgaben vielleicht ungeeignet. Je größer die Folgen, desto wichtiger sind verständliche Belege, menschliche Prüfung und ein Korrekturweg.

SPEAKER_01 3:47

Huch, ein Prüffunke, da gibt's was zu checken.

SPEAKER_00 3:50

KI-Check. Stimmt das wirklich?

SPEAKER_01 3:53

Eine kurze Erklärung kann nützlich sein, obwohl sie nicht jede einzelne Berechnung zeigt.

SPEAKER_00 3:59

Was denkst du? Ja, sie muss die wichtigen echten Spuren korrekt und verständlich zeigen. Außerdem nennt sie Grenzen. Ein nur plausibel klingender Text reicht nicht. Für verschiedene Menschen kann sie unterschiedlich ausführlich sein. Der Kern der Gründe bleibt aber derselbe.

SPEAKER_01 4:19

Kurz für mich, genauer für die Prüferin. Ehrlich für beide.

SPEAKER_00 4:24

Perfekt. So unterstützt eine Erklärung wirklich die Prüfung.

SPEAKER_01 4:27

Gute Erklärung, passende Spur, verständliche Wörter, ehrliche Grenze.

SPEAKER_00 4:34

Genau. Damit lässt sich ein Ergebnis besser prüfen. Für deine Mission baut ihr drei Papierbrücken. Legt vorher zwei Regeln fest. Etwa Länge und getragenes Gewicht. Wählt danach ein Modell aus. Schreibt eine Begründungskarte mit den echten Messspuren. Eine andere Person prüft. Passt jeder genannte Grund zu eurer wirklichen Auswahl? Streicht reine Schmuckwörter.

SPEAKER_01 5:04

Ausgezeichnete Brückenhaftigkeit kommt in die Schublade für glitzernde Nebel.

SPEAKER_00 5:09

Heute hast du entdeckt, Nachvollziehbarkeit zeigt wichtige Spuren hinter einem Ergebnis. Eine gute Erklärung ist verständlich, überprüfbar und ehrlich über ihre Grenzen.

SPEAKER_01 5:20

Modell B gewinnt wegen vier Stützen und acht Bauklötzen Tragkraft. Das ist endlich eine Brückenspur.