KI Espresso
KI Espresso ist dein täglicher KI-Podcast für Künstliche Intelligenz, AI News und Tech News aus Deutschland und der Welt. In 5 bis 7 Minuten bekommst du die wichtigsten KI-News, klar eingeordnet und auf den Punkt. Für alle, die verstehen wollen, wie KI Arbeit, Wirtschaft und Alltag verändert. Neue Folgen von Montag bis Freitag.
KI Espresso
200 Mio. Geldfragen — ChatGPT will dein Konto
Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.
Mehr als 200 Millionen Menschen stellen ChatGPT jeden Monat Finanzfragen. Jetzt will OpenAI direkt an ihr Konto, aber wer haftet, wenn ein KI-Assistent mit echten Kontodaten einen schlechten Rat gibt?
SPEAKER_00Ja, genau das ist der Punkt, an dem wir heute ansetzen müssen.
SPEAKER_01Richtig, wir schauen uns in dieser Debatte nämlich mal die aktuellen Berichte zu OpenAIs Finanzplänen an und auch den EUAI-Act. Und ich bin ganz ehrlich, ich bin von dieser Entwicklung erst einmal absolut begeistert.
SPEAKER_00Warte mal, echt jetzt? Begeistert?
SPEAKER_01Ja, total. Also für Pronutzer in den USA startet jetzt nämlich Finances in ChatGPT. Die binden da über Plate.
SPEAKER_00Also diese digitale Brücke für Bankdaten, meinst du?
SPEAKER_01Genau, diese App-Schnittstelle. Darüber binden die mal eben mehr als 12.000 Banken, Broker und Kreditkartenanbieter an. Also ich finde, das ist doch der ultimative Shortcut, um Abos, Budgets und das ganze Nettovermögen im Blick zu behalten.
SPEAKER_00Nee, also sorry, da muss ich sofort reingrätschen und dir echt scharf widersprechen.
SPEAKER_01Wieso das denn? Das ist doch super komfortabel.
SPEAKER_00Es geht hier überhaupt nicht um Komfort oder so einen netten Überblick. Wir sprechen hier über einen massiven und extrem riskanten Kontrollverlust.
SPEAKER_01Kontrollverlust? Weil die meine Ausgaben sehen, oder was?
SPEAKER_00Ja, genau. Wenn du dieses Feature aktivierst, bekommt das System tiefe, absolut intime Einblicke. Wir reden hier über dein Gehalt, deine Miete und, naja, sogar über Krisen in deinem Leben.
SPEAKER_01Okay, aber.
SPEAKER_00Das lässt sich alles ganz nüchtern an Kontobewegungen ablesen. Das ist kein harmloser Shortcut, das ist ein beispielloser Datenstrip, Diesel.
SPEAKER_01Also Moment, schauen wir uns das doch mal genauer an. Ich glaube, du malst da gerade echt ein bisschen den Teufel an die Wand.
SPEAKER_00Finde ich überhaupt nicht.
SPEAKER_01Naja, Europa ist doch durch diese PSD-2-Richtlinie längst an den Kontozugriff durch Drittanbieter gewöhnt. Das Konzept ist also absolut nicht neu.
SPEAKER_00Ja, aber OpenAI ist doch kein normaler Drittanbieter.
SPEAKER_01Lass mich kurz den Punkt machen. OpenAI verteidigt sich da selbst sehr klar, ich zitiere hier mal wörtlich, die Grenzen des Systems. ChatGPT kann nicht handeln, kein Geld bewegen, keine Rechungen bezahlen, keine Trades machen, keine Steuern einreichen.
SPEAKER_00Ja, toller Satz.
SPEAKER_01Also wo ist dann bitte das Problem? Der Nutzer entscheidet doch am Ende selbst. OpenAI ist laut eigenen Angaben ja kein Anlage- oder Steuerberater.
SPEAKER_00Aber genau das ist es doch. Was hier wirklich faszinierend ist, genau in dieser Disclaimer-Logik liegt die gefährliche Haftungslücke. Wie meinst du das? Die handeln doch gar nicht. Weil reine Leserechte unweigerlich menschliche Handlungen auslösen. Stellt euch vor, ChatGPT sieht euer Gehalt, eure Miete, eure Schulden und eure ETF-Positionen. Es sagt nicht, ich entscheide für dich. Es sagt nur, das wäre ein sinnvoller Plan. Ihr folgt dem Plan, drei Monate später ist der Markt gefallen, der Dispo teurer, die Steuerfrage komplizierter. Und plötzlich fragt ihr nicht mehr, war die Antwort hilfreich, sondern wer war eigentlich verantwortlich?
SPEAKER_01Puh, okay. Das ist rechtlich wahrscheinlich wirklich eine ziemliche Grauzone.
SPEAKER_00Absolut.
SPEAKER_01Aber selbst dann sind wir doch mündige Bürger, die dieses Tool lieben werden, weil es eben praktisch ist. Wobei ich zugeben muss, das wirft echt eine spannende Frage auf.
SPEAKER_00Welche?
SPEAKER_01Naja, wie bewerten eigentlich Regulierer in Europa so ein Tool, das dein Finanzverhalten ja faktisch ständig im Hintergrund auswertet?
SPEAKER_00Genau da wird es regulatorisch hochbrisant. Wenn eine KI aus deinen Ausgabenmustern ableitet, dass du einen bestimmten Plan brauchst. Also um Schulden abzubauen zum Beispiel. Richtig. Dann analysiert die nicht nur Zahlen. Sie erstellt faktisch ein Risikoprofil von dir. Das ist exakt der Mechanismus eines Creditscores.
SPEAKER_01Verdecktes Credit Scoring sozusagen.
SPEAKER_00Genau das. Und der EU AI-Act stuft KI-Systeme für die Kreditwürdigkeit ganz klar als High-Risk ein. Die Grenze zwischen harmlosen Assistenten und Scoring verschwimmt da rapide.
SPEAKER_01Krass, das hatte ich so gar nicht auf dem Schirm.
SPEAKER_00Und um den wahren Datenhunger der Branche mal zu belegen, müssen wir uns nur das aktuelle XAI-Beispiel anschauen. Also Grog.
SPEAKER_01Ah, die Elon Musk-KI.
SPEAKER_00Ja, genau. Laut Bloomberg Law hat XAI seine eigenen Mitarbeiter gebeten, für 420 Dollar ihre Steuererklärungen als Trainingsdaten einzureichen.
SPEAKER_01Echte Steuererklärungen für 420 Dollar.
SPEAKER_00Ja. Und sie haben das Geld monatelang nicht einmal ausgezahlt. Echte Finanzdaten sind eben pures Gold für diese Modelle.
SPEAKER_01Wow. Okay, das rückt diesen ganzen Komfort natürlich in ein ganz anderes Licht? Naja. Lasst uns dafür einen Moment genau zu unserem allerersten Satz zurückkehren.
SPEAKER_00Den 200 Millionen Nutzern.
SPEAKER_01Richtig. Denkt mal einmal über diese 200 Millionen Menschen nach. Wenn Millionen von ihnen bald blind den Empfehlungen eines Kontodaten lesenden Bots folgen, steuern wir dann unsere Finanzen oder steuert die KI uns?
SPEAKER_00Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.
SPEAKER_01Denkt mal in Ruhe darüber nach und bis zum nächsten Mal.