Kriegs-OS: Wer hat im Ernstfall Zugriff?

Wem gehört die Kriegs-OS? ⏰ Timestamps: 0:00 — Die nächste Waffe sieht nicht aus wie eine Waffe. 0:21 — Moderne Verteidigung leidet doch massiv unter diesem fragmentierten, völlig... 0:55 — Das wird zur faktischen Souveränitätsschicht. 1:15 — Das sind doch positive Blaupausen wie Lattice von Anduril und Palantir. 1:36 — Aber wir haben doch gar nicht die Zeit, auf irgendwelche perfekten... 1:57 — Mh, absolut. Die Interoperabilität. 2:18 — Ein Staat denkt, er sei souverän, nur weil die Rohdaten physisch auf seinen... 2:38 — Du mietest ihn. Puh. Okay, ich verstehe die Sorge vor dem Vendor-Lock-in. 2:58 — Das verhindert doch exakt diese Abhängigkeit. 3:19 — Du meinst also, die Modularität an der Oberfläche täuscht über die tiefer... 3:41 — Wir müssen fragen. Wer kontrolliert die Daten? 4:09 — Ja, absolut. Aber das verkennt die Realität einer echten offenen Architektur... 4:30 — Richtig, das ist die Theorie. 4:59 — Ein Trojanisches Pferd? Naja. 5:35 — Ja, aber die KI lernt doch nicht völlig frei im luftleeren Raum. 6:11 — Puh, das mag in der Theorie über Ontologien ja wunderbar strukturiert sein. 6:48 — Okay. Und exakt in diesem Moment pusht das Cloud-System des Anbieters ein... 7:27 — Und Air-Gaps, ja? Genau, Air-Gaps. 7:50 — Hm. Wenn der Technologieanbieter ausfällt oder sich geopolitisch... 8:10 — dass ein isolierter Edge-Server nach drei Tagen ohne Cloud-Anbindung... 8:44 — Wenn Software zur Kriegs-OS wird, besitzt der Staat seine Entscheidung oder... 💡 3 Empfehlungen: 1. Frag den Stack: Wer besitzt Rohdaten und abgeleitete Daten? 2. Prüfe die Schnittstellen: Kann der Staat Modell, Ontologie und API auditieren? 3. Verlange Kontrolle: Wer entscheidet über Updates, Human Stop und Provider Exit? 🔁 Mehr Kontext: • EP091 — Europa lernt Krieg als Datenrennen https://youtu.be/liE212iMix8 📖 Quellen: • [1] https://www.palantir.com/offerings/defense/army/ • [2] https://www.anduril.com/news/anduril-and-palantir-to-accelerate-ai-capabilities-for-national-security • [3] https://www.anduril.com/lattice/ • [4] https://www.palantir.com/platforms/aip/defense/ • [5] https://www.icrc.org/en/statement/we-cannot-let-AI-be-deployed-on-battlefield-without-oversight-and-regulation • [6] https://blogs.icrc.org/law-and-policy/2024/09/04/the-risks-and-inefficacies-of-ai-systems-in-military-targeting-support/ • [7] https://www.nato.int/en/about-us/official-texts-and-resources/official-texts/2024/07/10/summary-of-natos-revised-artificial-intelligence-ai-strategy 🎙️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. 🎧 Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #MilitaerKI #DefenseAI #Automatisierung

Transcript

SPEAKER_00 0:00

Die nächste Waffe sieht nicht aus wie eine Waffe. Sie sieht aus wie ein Betriebssystem. Wir diskutieren heute ein Konzept, das die Realität militärischer Führung gerade radikal verändert. Das militärische OS. Und ich vertrete hier ganz klar die Position, dass so eine Plattform, naja, unsere einzige Überlebenschance ist. Moderne Verteidigung leidet doch massiv unter diesem fragmentierten, völlig isolierten System. Ein echtes militärisches OS vereint endlich alles: Sensoren, die Data Fabric, Ontologien für eine gemeinsame Sprache, KI-Modelle, Audit und Updates. Alles in einem einzigen Commander-View. Das bringt eine beispiellose Geschwindigkeit und Interoperabilität.

SPEAKER_01 0:43

Ich verstehe deinen Ansatz, aber da muss ich fundamental widersprechen. Du sprichst von Überlebenschance, aber ich halte genau diese Plattform für eine extrem gefährliche Falle. Das wird zur faktischen Souveränitätsschicht. Wer diese Architektur baut, der definiert doch die Realität auf dem Schlachtfeld.

SPEAKER_00 1:03

Warte kurz, aber schau dir doch mal die Praxis an. Initiativen wie CGADC2, Open Dagild oder auch Project Maven. Ja, genau die. Das sind doch positive Blaupausen. Oder Lattes von Andorr und Palantir. Die liefern uns heute schon die Geschwindigkeit, die wir also zwingend brauchen.

SPEAKER_01 1:22

Nee, Moment, das ist genau mein Punkt. Diese Anbieter sind perfekte architektonische Beispiele dafür, wie tiefgreifend Wehrkontrolle auslagern. Du gibst das an private Tech-Konzerne. Die Algorithmen dieser Unternehmen filtern die Daten und filtern damit letztlich die Realität des Kommandanten.

SPEAKER_00 1:42

Aber wir haben doch gar nicht die Zeit, auf irgendwelche perfekten staatlichen Eigenentwicklungen zu warten. Gerade hier in Europa. Wenn wir uns die Lehren aus der Ukraine anschauen, dieser europäische Flickenteppich an nationalen Systemen, auch in Deutschland, Österreich, der Schweiz, das ist absolut tödlich. Absolut. Die Interoperabilität. Wir brauchen NATO-Interoperabilität und schnelle Beschaffung. Das ist schlichtweg überlebenswichtig, wenn ein deutsches Radar nicht sofort mit einer amerikanischen Drohne reden kann.

SPEAKER_01 2:15

Da bin ich ja bei dir. Aber zu welchem Preis? Weißt du, wir geben uns hier einer sehr gefährlichen Eigentumsillusion hin. Ein Staat denkt, er sei souverän, nur weil die Rohdaten physisch auf seinen eigenen Servern in Berlin oder Wien liegen. Aber das ist ein Trugschluss. Wenn du Daten besitzt, aber Modell, Audit, Update und Exit nicht kontrollierst, besitzt du nicht den Loop. Du mietest ihn.

SPEAKER_00 2:40

Puh. Okay, ich verstehe die Sorge vor dem Vendorlogin. Aber genau deshalb, also als Pushback, setzen wir doch mittlerweile auf Open Architectures.

SPEAKER_01 2:50

Na ja.

SPEAKER_00 2:52

Das sind wie so modulare Steckkästen. Du hast eine offene Grundstruktur und wenn dir das KI-Modul von Firma A nicht mehr passt, ziehst du es raus und steckst Firma B ein. Das verhindert doch exakt diese Abhängigkeit.

SPEAKER_01 3:07

Ein offenes System löst diesen Login aber nicht automatisch. Das ist ein Mythos. Ja, du tauscht vielleicht ein Lego-Stein aus. Aber wenn die zentralen Update-Regeln und vor allem die APIs, also die Schnittstellen, wie die Steine zusammenklicken, weiterhin bei einem externen Leitanbieter liegen, dann steuert der das Haus.

SPEAKER_00 3:26

Du meinst also, die Modularität an der Oberfläche täuscht über die tiefer liegende strukturelle Abhängigkeit hinweg.

SPEAKER_01 3:33

Ganz genau. Und deshalb brauchen wir ab sofort einen knallharten Prüftest für jede militärische Software. Wir müssen fragen. Wer kontrolliert die Daten, wer kontrolliert das Modell und den Audit-Log? Wer steuert die Updates und den Exit-Weg? Und das Wichtigste überhaupt, wer hat den Human Stop? Also die tatsächliche menschliche Abbruchfunktion. Ein Punkt fehlt noch. Datenrechte allein reichen nicht. Also wir diskutieren hier über die Zukunft militärischer Betriebssysteme. Und viele haben ja regelrecht Angst vor so einem geschlossenen monolithischen Tech-Käfig. Ja, absolut. Aber das verkennt die Realität einer echten offenen Architektur völlig. Ich meine, wir reden hier über ein Ökosystem. Sensoren, Data Fabrics, also diese unterliegenden Datenschichten, die verschiedenste Systeme physisch verknüpfen und KI-Modelle. Die kommunizieren alle in Echtzeit. Richtig, das ist die Theorie. Das ist keinkäfig. Wenn eine Aufklärungsdrohne ein Ziel erfasst, übersetzt das System das im Bruchteil einer Sekunde in Feuerleitlösungen für Artillerie oder Bodentruppen. Das ist die zwingende mechanische Grundlage für Agilität, nicht irgendeine Fessel.

SPEAKER_00 4:46

Moment, das rahmt das Problem aber völlig falsch. Diese nahtlose Integration, von der du sprichst, ist in der Praxis doch ein trojanisches Pferd für geistiges Eigentum.

SPEAKER_01 4:57

Ein trojanisches Pferd?

SPEAKER_00 4:59

Naja. Doch überleg mal, dass die Rohdaten beim Militär bleiben, also die puren GPS-Koordinaten eines Panzers, das ist vertraglich eh gesichert. Aber was passiert mit den abgeleiteten Daten? Der sogenannten Derive Data? Hm, okay. Wenn die KI des Tech-Konzerns aus tausenden Puppenmanövern lernt, wie man taktisch optimal reagiert, Parameter anpasst, neue Einsichten generiert. Wem gehört dann dieses Rezept für den Sieg? Dem Militär natürlich. Eben nicht zwängend? Gehört es dem Verteidigenden Staat oder dem Silicon Valley-Unternehmen, das den Algorithmus trainiert hat?

SPEAKER_01 5:37

Ja, aber die KI lernt doch nicht völlig frei im Luftleerenraum. Wir setzen Ontologien und standardisierte APIs ein. Okay, aber lass mich kurz. Das bedeutet mechanisch etwas ganz Konkretes. Wir zwingen dem Code ein striktes militärisches Vokabular auf. Der Algorithmus bekommt exakte, vom Militär definierte Leitplanken. Zum Beispiel. Wie er beispielsweise einen feindlichen Konvoi von zivilen Fahrzeugen unterscheiden muss. Das Militär behält die volle semantische Kontrolle über diese Struktur. Die Daten fließen also nicht einfach formlos ab und verschwinden in einer proprietären Blackbox des Anbieters.

SPEAKER_00 6:15

Puh, das mag in der Theorie über Ontologien ja wunderbar strukturiert sein. Aber was passiert in der Praxis, wenn diese Blackbox zurückschlägt? Was meinst du mit zurückschlagen? Naja, können staatliche Prüfer diese APIs, die Modelle und vor allem die Audit-Logs überhaupt noch tiefgehend und völlig unabhängig inspizieren? Das ist eine vertragliche Frage. Es ist eine handfeste technische Frage. Vertrauen wir am Ende blind auf die technische Dokumentation des Anbieters? Stell dir vor, ein Panzerbataillon steht in einer hochkritischen Operation unter Beschuss. Okay. Und exakt in diesem Moment pusht das Cloud-System des Anbieters ein erzwungenes Software-Update. Wo ist in dieser hochintegrierten Architektur der Human Stop? Das würde so nicht passieren. Wer hat denn das physische oder digitale Recht, das Update zu blockieren und das System sofort auf den Stand von gestern zurückzurollen, wenn da Fehler auftreten?

SPEAKER_01 7:13

Also man verlässt sich im Feld natürlich nicht auf das Gutdünken eines Cloud-Administrators in einem weit entfernten Rechenzentrum. Ein echtes militärisches Betriebssystem löst das durch lokale Edge-Server. Und Airgaps, ja? Genau, Airgaps. Ein Update lässt sich schlichtweg nicht erzwingen, wenn der Kommandeur vor Ort die physische Datenverbindung kappt. Dann läuft sein lokales System autark weiter.

SPEAKER_00 7:38

Aber für wie lange?

SPEAKER_01 7:40

Lange genug. Und genau dieses Szenario, der sogenannte Provider Exit, muss ohnehin vorab rigoros simuliert werden. Wenn der Technologieanbieter ausfällt oder sich geopolitisch zurückzieht, muss der nahtlose Wechsel auf diese Notlaufsysteme garantiert sein. Lange bevor der erste Schuss fällt.

SPEAKER_00 7:59

Aber genau da zerfällt das Konstrukt doch wieder. Wieso? Ein Airgap nützt dir wahnsinnig wenig, wenn das System so tief verwoben ist, dass ein isolierter Edge-Server nach drei Tagen ohne Cloud-Anbindung schlicht unbrauchbar wird.

SPEAKER_01 8:14

Das ist ein Worst-Case-Szenario.

SPEAKER_00 8:16

Ein realistisches. Ein simulierter Provider-Exit bleibt oft reine Theorie auf dem Papier. Wenn ein Betriebssystem so fundamental in das operative Überleben eingreift, was muss zwingend erfüllt sein, bevor ein Zuhörer, ein Angestellter, ein Unternehmen oder eine staatliche Institution diesem System in der Praxis wirklich vertrauen sollte? Letztlich bleibt es bei dem einen Schlussgedanken. Wenn Software zur KriegsOS wird, besitzt der Staat seine Entscheidung oder nur den Bildschirm, auf dem sie erscheint?

SPEAKER_01 8:50

Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI-Espresso jeden Tag eine neue KI-Debatte in sechs Minuten. Das war KI Espresso.