KI entscheidet mit – aber wer zieht für dich die rote Linie?

KI braucht rote Linien In dieser Folge: - KI in sensiblen Entscheidungen: Werkzeug oder Entscheidungskette? - KI, mentale Gesundheit und kreative Trainingsdaten - KI-Hack der Woche: Die rote-Linien-Frage Links und Quellen: - Telefonseelsorge Deutschland — https://www.telefonseelsorge.de/ - Ärztlicher Bereitschaftsdienst — https://www.116117.de/ - EU AI Act Überblick — https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai - Urheberrecht: Bundesministerium der Justiz — https://www.gesetze-im-internet.de/urhg/ KI-Hack der Woche: - ChatGPT — https://chatgpt.com/ - Anleitung: Ergänze vor wichtigen Prompts: „Nenne zuerst drei Grenzen deiner Antwort.“ Bitte danach um eine sichere Version, zum Beispiel ohne Diagnose, Rechtsberatung oder Stilkopie echter Personen. Podcast unterstützen: - https://www.buzzsprout.com/2604102/support Mehr von uns: - Alle Plattformen: https://www.buzzsprout.com/2604102 - Instagram: https://www.instagram.com/kifuerdich.podcast/ - LinkedIn Kevin: https://www.linkedin.com/in/kevin-neufeldt-b4708b352/ - LinkedIn Pia: https://www.linkedin.com/in/pia-neufeldt-16b596242/ Feedback? Schreibt uns auf LinkedIn oder per E-Mail an kifuerdich.podcast@gmail.com

Transcript

SPEAKER_00 0:00

KI ist längst nicht mehr nur der kleine Helfer für Einkaufslisten. Sie taucht bei Musik, mentaler Gesundheit und sogar in sensiblen Entscheidungsbereichen auf. Genau deshalb geht es heute um eine einfache Frage. Wann hilft KI dir wirklich? Und wann braucht sie eine klare rote Linie? Hey, willkommen bei KI für dich. Ich bin Kevin. In dieser Folge schauen wir auf drei sehr unterschiedliche Bereiche, die aber denselben Kern haben. KI wird persönlicher, mächtiger und sichtbarer. Zuletzt ging es unter anderem darum, ob KI produktiver macht und warum sich trotzdem vieles komisch anfühlen kann. Heute drehen wir das ein Stück weiter. Denn die neue Frage ist nicht nur, spart KI Zeit? Sondern wo lassen wir KI mitdenken, mitfühlen oder sogar mitentscheiden? Erster Bereich: KI in besonders sensiblen Entscheidungsketten. Grog ist ein KI-Chatbot von XAI. Ein Chatbot ist ein Programm, mit dem du in natürlicher Sprache schreiben kannst, fast wie in einem Gespräch. Bei KI-Systemen, die in Planung, Analyse oder Bewertung eingesetzt werden, ist die entscheidende Frage, welche Rolle spielt das System genau? Liefert es nur eine Zusammenfassung? Sortiert es Informationen vor? Gibt es Empfehlungen? Oder wird es so stark eingebunden, dass Menschen den Vorschlägen am Ende nur noch folgen? Von außen ist dabei oft schwer zu erkennen, wie ein KI-System technisch genutzt wurde, welche Daten eingeflossen sind und welche Menschen an welcher Stelle entschieden haben. Deshalb ist eine saubere Unterscheidung wichtig. Aus dem Einsatz oder der Erprobung von KI folgt nicht automatisch, dass eine KI eigenständig Ziele ausgewählt oder Entscheidungen befohlen hat. Was aber bleibt, je folgenreicher ein Bereich ist, desto wichtiger sind menschliche Kontrolle, nachvollziehbare Zuständigkeiten und klare Grenzen. Was heißt das für dich? Vielleicht denkst du jetzt, Kevin, ich habe weder Raketen im Keller noch ein Pentagon im Wohnzimmer. Hoffe ich zumindest. Aber der Punkt ist näher an deinem Alltag, als er klingt. Die Kernfrage lautet, ist KI nur ein Werkzeug, das Vorschläge macht? Oder wird sie zu einem Teil der Entscheidungskette? Das betrifft nicht nur Hochsicherheitsbereiche. Das betrifft auch Bewerbungen, Versicherungen, Kreditentscheidungen, Schulbewertungen oder medizinische Einschätzungen. Eine KI kann große Datenmengen sortieren, Muster erkennen und Texte oder Vorschläge liefern. Aber sie hat kein Gewissen. Sie übernimmt keine Verantwortung. Und sie versteht nicht, wie ein Mensch, was ein Fehler für ein Leben bedeuten kann. Ein guter Alltagsvergleich ist ein Navi. Dein Navi sagt dir, biege rechts ab. Wenn da aber ein Fluss ist, fährst du hoffentlich nicht rein. Du nutzt die Empfehlung, aber du bleibst verantwortlich. Alltagsbeispiel, du bekommst einen Brief von einer Behörde, deiner Krankenkasse oder deinem Vermieter. Du kopierst den Text in eine KI und fragst, was bedeutet das in einfachen Worten? Das kann helfen. Aber wenn die KI dann sagt, du musst nicht reagieren, solltest du das nicht blind übernehmen. Besser ist, lass dir erklären, welche Fristen, Forderungen und offenen Fragen im Text stehen. Dann prüfst du selbst oder fragst eine Beratungsstelle. KI darf hier Übersetzer sein, nicht Richterin. Nehmen wir an, du bekommst einen sperrigen Versicherungsbrief. Die KI kann den Ton vielleicht gut vereinfachen. Aber bei einer Frist könnte die Antwort trotzdem ungenau bleiben. Wenn du konkret nach Datum, Handlung und Risiko fragst, wird es eher brauchbar. Genau da liegt der Unterschied. KI kann dir beim Verstehen helfen. Entscheiden solltest du bewusst. Zweiter Bereich: KI und mentale Gesundheit. KI-Chatbots können Gespräche simulieren, Fragen stellen, Texte zusammenfassen oder Übungen erklären. Deshalb liegt es nahe, dass Menschen sie auch dann nutzen möchten, wenn sie belastet sind, sich sortieren wollen oder gerade niemand erreichbar ist. Wichtig ist dabei die Einordnung. Eine KI kann unterstützende Impulse geben. Sie kann aber keine Therapeutin, keinen Arzt und keine Krisenhilfe ersetzen. Besonders bei starken Belastungen, Selbstgefährdung oder akuten Krisen braucht es menschliche Unterstützung. Was heißt das für dich? Eine KI kann ein Tagebuch mit Antwortfunktion sein. Sie kann dir helfen, Gedanken zu sortieren. Sie kann Atemübungen erklären. Sie kann dich fragen, was genau hat dich heute belastet. Das kann sich entlastend anfühlen, aber KI ist kein Therapieersatz. Therapie bedeutet nicht nur nette Worte. Therapie heißt Ausbildung, Verantwortung, Einordnung, Krisenerkennung und menschliche Beziehung. Eine KI kann falsch liegen, zu sicher klingen oder dich in deinen Gedanken bestätigen, obwohl du gerade Widerspruch oder echte Hilfe brauchst. Wenn du in einer akuten Krise bist, dich selbst verletzen könnt oder nicht mehr sicher bist, dann ist KI der falsche Ort als einzige Hilfe. Dann zählt menschliche Unterstützung. Eine vertraute Person, ärztlicher Bereitschaftsdienst, Telefonseelsorge oder im Notfall die 1612.

SPEAKER_01 5:42

Der KI-Hack heißt heute die rote Linienfrage. Du kannst sie immer nutzen, wenn du eine KI um etwas Persönliches, Wichtiges oder Kreatives bittest. Nimm deine normale Frage. Zum Beispiel: erkläre mir diesen Brief meiner Krankenkasse. Oder Hilf mir nach einem Streit, meine Gedanken zu sortieren. Oder schreib mir ein Geburtstagslied. Dann ergänzt du vorher diesen Satz. Bevor du antwortest, nenne mir bitte drei Grenzen deiner Antwort. Das klingt trocken, ist aber stark. Die KI soll benennen, wo ihre Antwort unsicher sein kann. Bei Recht, Gesundheit, Fristen, Gefühlen oder Urheberrecht. Urheberrecht bedeutet, Regeln dafür, wem ein Werk gehört und wer es verwenden darf. Danach bittest du um eine sichere Version, zum Beispiel. Erkläre es einfach, markiere offene Fragen und sag mir, wann ich einen Menschen fragen sollte. Ich habe das ausprobiert und die Antworten wurden weniger großspurig. Weniger, ich weiß alles. Mehr. Hier ist Hilfe. Aber bitte prüfe diesen Punkt. Wenn du es direkt testen willst, nimm eine harmlose E-Mail, etwa von deinem Stromanbieter, ersetze echte Namen, Kundennummern und Adressen durch neutrale Wörter. Dann frag die KI, erkläre mir diese Nachricht in einfacher Sprache. Nenne zuerst drei Grenzen deiner Antwort. Markiere Fristen, Kosten und Dinge, die ich prüfen sollte. So wird KI nicht nur schneller, sondern vorsichtiger.

SPEAKER_00 7:18

Wenn dir genau solche kleinen Checks helfen, abonniere KI für dich gern und empfiehl die Folge an jemanden weiter, der KI im Alltag besser einordnen möchte. Ist dir so etwas schon passiert, das eine KI sehr überzeugend klang? Du aber später gemerkt hast, Moment, ganz so einfach war es nicht. Schreib uns, welches KI-Thema dich gerade beschäftigt. Das war es für heute von KI für dich. Bleib neugierig und mach es gut.