KI Espresso

50 Millionen Akten — Cambridge Analytica 2.0 im NHS

Episode 59

Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.

0:00 | 6:51
SPEAKER_00

Stell dir mal vor, 50 Millionen Patientenakten, also von deiner letzten Krebsvorsorge bis hin zur extrem seltenen Erbkrankheit in der Familie, die tauchen plötzlich auf den Bildschirmen von Subunternehmern eines US-Rüstungskonzerns auf.

SPEAKER_01

Ja, und das völlig ohne, dass sich jemals jemand nach einer expliziten Erlaubnis gefragt hätte.

SPEAKER_00

Genau. Und damit willkommen zu unserer heutigen Analyse. Wir knöpfen uns heute mal diesen ja wirklich unfassbaren 5-Milliarden-Fund-Vertrag des britischen Gesundheitssystems, also dem NHS, mit der Datenfirma Palantir vor.

SPEAKER_01

Richtig. Und unsere Mission heute ist es, diesen ultimativen Zielkonflikt zu entschlüsseln. Also auf der einen Seite haben wir diese unglaublich effiziente, lebensrettende KI. Und auf der anderen Seite den totalen Verlust der eigenen Datensouveränität.

SPEAKER_00

Für unsere eigene elektronische Patientenakte im Dachraum bedeutet. Also lass uns direkt reinspringen, warum macht der NHS so einen Deal überhaupt? Und das auch noch ohne öffentliche Ausschreibung.

SPEAKER_01

Also der NHS stand da quasi vor einer tickenden Zeitbombe. Wir reden hier von über 1200 veralteten, komplett voneinander isolierten IT-Silos.

SPEAKER_00

1200? Wahnsinn.

SPEAKER_01

Ja, Wahnsinn, oder? Das führt in der Praxis dazu, dass ein Krankenhaus in London schlichtweg nicht wusste, welche Blutgruppe ein Notfallpatient hat, der normalerweise in Manchester behandelt wird.

SPEAKER_00

Das ist ja echt lebensgefährlich im Zweifel.

SPEAKER_01

Absolut. Und hier kommt eben Palantir Software namens Foundry ins Spiel. Man darf sich das jetzt nicht wie eine riesige neue Festplatte vorstellen, auf die einfach alles kopiert wird.

SPEAKER_00

Okay, sondern.

SPEAKER_01

Ah, okay. Das ist ja im Grunde genau die Weiterentwicklung von diesem britischen Covid-19-Data Store.

SPEAKER_00

Genau der.

SPEAKER_01

Da hat man ja damals in nur 72 Stunden die ganzen nationalen Datenströme so krass gebündelt, dass die Beatmungsgeräte exakt dorthin geliefert werden konnten, wo die Infektionswellen gerade am höchsten waren.

SPEAKER_00

Richtig, das war damals extrem effektiv.

SPEAKER_01

Und das Tony Blair-Institut, auf das wir uns hier auch beziehen, das rechnet bei diesem neuen Systemwechsel jetzt mit massiven Optimierungen. Also bei Bettenbelegungen, Medikamenten und so weiter. Die sprechen von Einsparungen von 1,5 Milliarden Pfund pro Jahr.

SPEAKER_00

Ja, das ist eine gewaltige Summe. Und jetzt kommt ja von den Befürwortern dieses Deals dieses eine Argument. Wenn diese KI-gestützten Analysen jetzt plötzlich seltene Kinderkrankheiten aufspüren, die menschliche Ärzte bei Routine-Screenings über Jahre übersehen haben, ist es dann nicht irgendwie ethisch unverantwortlich, aus reinen Datenschutzbedenken auf diese Technologie zu verzichten?

SPEAKER_01

Ja, das ist das Hauptargument. Aber die Kritiker, darunter zum Beispiel der britische Ärzteverband BMA und auch Privacy International, die ziehen da eine völlig andere Bilanz.

SPEAKER_00

Okay, was sagen die?

SPEAKER_01

Die warnen ganz massiv vor einem Cambridge Analytica 2.0. Das eigentlich Brisante steckt nämlich in der Architektur von diesem Vertrag.

SPEAKER_00

Inwiefern?

SPEAKER_01

Wir sprechen hier von Unlimited Access, also wirklich unbeschränktem Zugriff. Das Systemdesign zwingt den NHS nicht nur dazu, Palantir selbst gewähren zu lassen. Es erlaubt auch, dass eine ganze Kette von unkontrollierbaren Subunternehmern direkt an diesen intimen Datenstrom andockt.

SPEAKER_00

Moment mal, das heißt, die spucken nicht nur ein anonymes Analyseergebnis aus, sondern geben direkten Zugang zu den intimsten Rohdaten.

SPEAKER_01

Exakt. Die Rohdaten verlassen quasi die staatliche Kontrolle.

SPEAKER_00

Krass. Und das Konstrukt gibt die Datenkontrolle ausstaatlicher Hand ab. Und wir reden hier wohlgemerkt von Palantir. Deren Gründer Peter Thiel ist ja extrem tief in die US-Politik verstrickt.

SPEAKER_01

Ja, besonders mit der Regierung um JD Vance.

SPEAKER_00

Genau. Und Edward Snowden weint, genau deshalb vor der geopolitischen Dimension. Man muss sich das mal auf der Zunge zergehen lassen. Ein ausländischer Konzern mit direkten Verbindungen zum US-Militär baut die digitale Infrastruktur für die Gesundheitsdaten einer ganzen Nation.

SPEAKER_01

Und das bringt uns direkt zur Situation bei uns, also im Dachraum und speziell in Deutschland. Hier wählt man bisher nämlich eine völlig andere Architektur.

SPEAKER_00

Gott sei Dank, oder?

SPEAKER_01

Naja, die Bundeswehr fährt hier die sogenannte Wildbergerlinie. Das bedeutet eine strikte Ablehnung von Palantirsystemen. Die haben einfach Angst vor Backdoors.

SPEAKER_00

Also eingebauten Hintertüren?

SPEAKER_01

Genau, durch die dann US-Geheimdienste unbemerkt Daten abgreifen könnten. Auch das Bundesverfassungsgericht hat ja die Polizeisoftware von Palantir massiv in ihren Funktionen beschnitten.

SPEAKER_00

Aber im Gesundheitswesen, da tickt die Uhr ja gewaltig. 2025 startet die Gematik, also die Nationale Agentur für digitale Medizin, mit der elektronischen Patientenakte für alle.

SPEAKER_01

Richtig. Und da versucht man, dieses Palantir-Szenario aus Großbritannien durch ein sogenanntes Datentreuhandmodell zu verhindern. Das funktioniert konzeptionell komplett entgegengesetzt.

SPEAKER_00

Wie kann ich mir das vorstellen?

SPEAKER_01

Stell dir vor, deine Daten liegen in einem hochsicheren Tresor bei deiner Krankenkasse. Wenn eine KI jetzt Analysen fahren will, bekommt die keinen Generalschlüssel.

SPEAKER_00

Okay, das ist schon mal gut.

SPEAKER_01

Stattdessen muss der Algorithmus quasi als Besucher in den Tresorraum kommen, führt dort seine Berechnungen durch und darf am Ende wirklich nur das nackte Ergebnis wieder mit nach draußen nehmen. Ohne die eigentlichen Akten zu sehen.

SPEAKER_00

Moment, da muss ich jetzt aber mal kurz reingrätschen. Wenn der Algorithmus in den Tresorraum geht, klingt es in der Theorie natürlich super sicher. Aber wenn der britische NHS mit seinem, ich nenne es mal, Tür auf für alle Modell plötzlich Milliarden spart und die medizinische Forschung durch diesen unregulierten Rohdaten-Input komplett explodiert, wie lange hält denn diese deutsche Firewall da noch? Wir sehen doch jetzt schon diesen massiven Technologie-Lobbyismus in Berlin.

SPEAKER_01

Das ist die große Frage. Es ist quasi ein offener Wettlauf. Die kommenden Jahre werden zeigen müssen, ob dieser enorme wirtschaftliche und medizinische Druck den Architekturschutz unserer Datensouveränität irgendwann einfach überrollt.

SPEAKER_00

Okay, das ist echt heftig. Also wenn demnächst die elektronische Patientenakte auf dein Smartphone wandert, kennst du jetzt zumindest die Machtkämpfe, die da im Hintergrund ablaufen.

SPEAKER_01

Absolut.

SPEAKER_00

Wir haben hier wirklich zwei Realitäten auf dem Tisch liegen. Einerseits diese KI-Technologie, die messbar Menschenleben rettet, und andererseits die beispiellose Privatisierung unserer intimsten Datenströme.

SPEAKER_01

Deshalb kann man es nicht zusammenfassen.

SPEAKER_00

Lass das am Ende mal kurz auf dich wirken. Wenn eine KI deine unerkannte lebensbedrohliche Krankheit in wenigen Sekunden diagnostizieren und heilen könnte, der Preis für dieses System aber die permanente Übergabe all deiner medizinischen Geheimnisse an einen ausländischen Rüstungskonzern ist, wo genau ziehst du für dich ganz persönlich die rote Linie?