KI Espresso

Cambridge Analytica 2.0 — jetzt made in DACH

Episode 61

Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.

0:00 | 5:33
SPEAKER_00

18 Monate brauchte der EU AI-Akt bis zum Einkraft treten, bevor die Bundesregierung heute den Schutzschild wieder aushöhlte.

SPEAKER_01

Das ist wirklich ein harter Schlag.

SPEAKER_00

Also, wir stützen uns für unsere Analyse heute auf den geleakten Inside Global Tech Report vom 12. Mai. Dazu offizielle Regierungserklärungen und aktuelle Marktanalysen. Unsere Mission ist klar. Wir wollen für euch entschlüsseln, was hier gerade wirklich passiert. Retten wir die europäische Wirtschaft oder verkaufen wir unsere Bürgerrechte?

SPEAKER_01

Genau das ist die große Frage.

SPEAKER_00

Weil wenn man sich die Wirtschaftsdaten ansieht, argumentieren die Branchenvertreter ja, dass es höchste Zeit für diesen KI-Omnibus-Kompromiss war. Die sprechen von einem absoluten Kollaps, also wirklich.

SPEAKER_01

Moment, Kollaps? Das ist doch exakt das Narrativ der Lobbyisten, dass.

SPEAKER_00

Naja, aber guck dir Aleph Alpha an, unser deutsches KI-Aushängeschild. Die wurden gerade von Coher geschluckt. Ja, aber. Und das warum ist hier entscheidend. Nicht, weil die Technik irgendwie schlecht war, sondern weil Startups plötzlich Unsummen, also wirklich Unsummen für externe Audits, Zertifizierungen und streng lokalisierte Serverarchitekturen ausgeben mussten.

SPEAKER_01

Okay, das mit den Kosten, das bestreitet ja niemand, aber.

SPEAKER_00

Das Compliance-Budget hat einfach das aufgefressen, was eigentlich für Rechenpower, also für GPUs, gebraucht wurde. Deep Elf hat 250 Stellen abgebaut, Mistral sitzt auf 830 Millionen Euro Schulden. Die alte Regulierung war einfach wie ein Tempolimit von 10 Kilometer H auf der Datenautobahn. Vielleicht sicher ja, aber die europäische Wirtschaft bleibt da komplett auf der Strecke.

SPEAKER_01

Da muss ich jetzt aber wirklich hart widersprechen. Dieses Innovationsargument lehne ich komplett ab. Kritiker sehen in dieser sogenannten Rettung der Wirtschaft einen reinen Vorwand, um einen beispiellosen demokratischen Bypass zu rechtfertigen.

SPEAKER_00

Bypass? Das ist jetzt aber ein starkes Wort.

SPEAKER_01

Naja, das ist im Grunde ein Ausverkauf der Demokratie. Der Inside Global Tech League, also dieser Bericht vom 12. Mai, der zeigt doch im Detail, was hier abläuft. Die strengen Schwellenwerte dafür, was rechtlich als Hochrisiko-KI gilt, die wurden eben nicht transparent im Parlament gelockert. Sondern? Die wurden heimlich aufgeweicht, durch sogenannte Kommissionsguidelines. Das bedeutet mechanisch, man ändert einfach die technischen Definitionen in den Anhängen des Gesetzes, ohne, und das ist der Punkt, ohne die gewählten Abgeordneten, überhaupt abstimmen zu lassen.

SPEAKER_00

Ah, okay.

SPEAKER_01

Die Dokumente zeigen das ganz klar als massiven Triumph der Bitkom- und ITI-Lobby-Achse, die hier komplett an der demokratischen Kontrolle vorbeigeht.

SPEAKER_00

Worter dagegen, wie willst du denn demokratische Abstriche oder ein Festhalten an diesen extrem starren Regularien rechtfertigen, wenn uns die Bürokratie buchstäblich lähmt? Wir haben 73 Millionen ungenutzte EPA-Akten, weil man sich jahrelang in extrem komplexen, überlappenden Datenschutzvorgaben verheddert hat.

SPEAKER_01

Ja, die EPA war ein Problem, aber.

SPEAKER_00

Statt ein funktionierendes System zu bauen, das ist doch das Kernargument. Überregulierung führt zu komplettem Stillstand. Kanzler Merz nannte den heutigen Kompromiss den Weg zurück in die KI Champions League.

SPEAKER_01

KI Champions League, ja sehr medienwirksam.

SPEAKER_00

Aber für Giganten wie SAP, Siemens oder Bosch bedeutet das doch ganz konkret, wenn ihre Systeme nicht mehr in die Hochrisikokategorie fallen, dann sparen die sofort Milliarden an sinnlosen Zertifizierungskosten.

SPEAKER_01

Milliarden, ja.

SPEAKER_00

Genau, Milliarden, die endlich in die echte technologische Entwicklung fließen können.

SPEAKER_01

Aber genau diese Effizienzverteidigung greifen die Datenschutzexperten extrem scharf an. Sie warnen, dass wir bei all den bejubelten Ersparnissen gerade die Infrastruktur für ein Cambridge Analytica 2.0 in der Dachregion aufbauen.

SPEAKER_00

Cambridge Analytica 2.0. Ist das nicht etwas hysterisch?

SPEAKER_01

Überhaupt nicht. Lass uns das mal an dem konkreten Beispiel durchspielen, das die Quellen anführen. SAP Joel.

SPEAKER_00

Okay, das Assistenzsystem.

SPEAKER_01

Richtig, das ist ein System, das in Unternehmen unter anderem bei automatisierten Kreditwürdigkeitsprüfungen oder HR-Entscheidungen, also beim Aussortieren von Bewerbungen, eingesetzt werden kann.

SPEAKER_00

Standard eigentlich heutzutage.

SPEAKER_01

Ja. Aber wenn man nun durch diese Hinterzimmerguidelines die rechtliche Definition heimlich so verschiebt, dass Joule plötzlich aus der Hochrisikoklasse fällt, dann verliert der Bürger seine grundlegenden Rechte.

SPEAKER_00

Was heißt das konkret für mich?

SPEAKER_01

Wenn die KI deine Bewerbung ablehnt, hast du rechtlich null Anspruch mehr auf eine Erklärung oder einen Einspruch. Um mal auf deine Metapher von vorhin zurückzukommen.

SPEAKER_00

Die Datenautobahn.

SPEAKER_01

Genau. Ein Tempolimit aufzuheben, ist eine Sache. Aber hier warnen die Experten, dass gerade die Bremsen für 73 Millionen Bürger einfach ausgebaut werden.

SPEAKER_00

Das ist ein extrem hartes Bild. Und genau das bringt uns zu dem Punkt, den ihr, die jetzt zuhören, für euch selbst bewerten müsst.

SPEAKER_01

Unbedingt.

SPEAKER_00

Ich möchte, dass ihr unseren Eröffnungssatz und diese Zahl von 73 Millionen Akten noch einmal völlig neu betrachtet? Ist das der Preis, den man zahlen muss, um technologisch überhaupt noch zu überleben?

SPEAKER_01

Oder ist es die exakte Anzahl an Bürgern, deren Schutzrechte heute auf dem Altar der Industrie geopfert wurden?

SPEAKER_00

Das ist wirklich die Frage.

SPEAKER_01

Ja. Denn wenn die Schwellenwerte für Hochrisiko-KI ab sofort heimlich in Brüsseler hinter Zimmerrichtlinien verschoben werden, wer steuert dann eigentlich die Algorithmen, die morgen über euren Behandlungsplan im Krankenhaus entscheiden?

SPEAKER_00

Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso. Jeden Tag eine neue KI-Debatte in sechs Minuten.