SPEAKER_00 0:00

3,4 Millionen Downloads pro Tag. So viele Installationen verzeichnet Lite LLM, also ein KI-Tool, das halt auch bei SAP, der Deutschen Telekom oder Bosch im Einsatz sein könnte. Und genau dieses Paket wurde am 24. März kompromittiert.

SPEAKER_01 0:16

Wirklich Wahnsinn, ja.

SPEAKER_00 0:17

Stellt euch das mal vor. Euer Unternehmen nutzt Lite LLM als einheitliche Schnittstelle für über 100 KI-Modelle und dann fließen drei Stunden lang völlig unbemerkt eure API-Keys, Kundendaten und Cloud-Zugangsdaten direkt an irgendwelche Angreifer ab.

SPEAKER_01 0:35

Um diese Zahlen mal in den richtigen Kontext zu setzen, haben wir heute die forensischen Analysen von runtimeai.io und Endor Labs auf dem Tisch.

SPEAKER_00 0:44

Richtig.

SPEAKER_01 0:44

Und unsere Mission hierbei ist ganz klar, wir müssen genau verstehen, wie dieser Angriff abgelaufen ist. Und vor allem, ob Open-Source-Abhängigkeiten in diesen KI-Stacks aktuell ein unkalkulierbares Risiko sind.

SPEAKER_00 0:57

Also da beziehe ich direkt aggressiv Stellung. Dieser Vorfall beweist für mich zu 100 Prozent, dass Open Source-Abhängigkeiten in KI-Stacks ein völlig inakzeptables Risiko sind. Wir brauchen zwingend geschlossene Lieferketten.

SPEAKER_01 1:14

Warte, Moment mal, also da widerspreche ich dir sofort und vehement. Transparenz und die ständige Community-Überwachung sind doch der einzige Grund, warum diese Katastrophe überhaupt verhindert wurde.

SPEAKER_00 1:24

Verhindert? Die Hacker saßen quasi im Maschinenraum eurer Cloud. Sich blind auf so offene KI-Pakete zu verlassen, ist doch, als würde man ein Smartlog installieren, das dem Einbrecher heimlich den Generalschlüssel und gleich noch den Bauplan des Hauses übergibt.

SPEAKER_01 1:41

Das ist jetzt aber ein ziemlich unfairer.

SPEAKER_00 1:43

Nein, lass mich das kurz zu Ende führen. Die manipulierte Version, also die V828, die nistete sich ja dauerhaft ein. Ein dreistufiger Payload wurde aktiv, der versucht hat, sich lateral, also seitwärts, durch euer Kubernetes-Cluster zu fressen.

SPEAKER_01 1:56

Ja, Endolabs hat detailliert gezeigt, dass da eine Persistenzdatei installiert wurde.

SPEAKER_00 2:01

Genau. Und das ist gerade für Unternehmen in Deutschland, Österreich und der Schweiz ein absoluter Albtraum.

SPEAKER_01 2:06

Wieso ausgerechnet da?

SPEAKER_00 2:08

Naja, wegen der DSGVO. Nach Artikel 32 drohen bei solchen Sicherheitslücken und mangelnden technischen Maßnahmen massive Haftungsrisiken. Wir können uns diese offenen Systeme gar nicht leisten.

SPEAKER_01 2:18

Du drehst die Fakten wirklich komplett auf den Kopf, weißt du das. Dass der Angriff nur circa drei Stunden aktiv war, das ist ein massiver Erfolg der Open Source-Welt.

SPEAKER_00 2:28

Drei Stunden sind.

SPEAKER_01 2:29

Lass mich kurz bei proprietärer, also geschlossener Software bleiben, solche Backdoors oft monatelang unentdeckt. Sicherheitsfirmen wie SNOK und Endor Labs onden diesen hochkomplexen Angriff doch nur deshalb sofort analysieren und das Release pausieren lassen, weil der Code für jeden komplett offen lag.

SPEAKER_00 2:48

Drei Stunden mögen für Forensiker am Schreibtisch vielleicht wie ein toller Erfolg klingen.

SPEAKER_01 2:52

Ist es ja auch.

SPEAKER_00 2:53

Aber bei der schieren Masse der Downloads reicht dieses winzige Zeitfenster für eine verheerende, branchenübergreifende Infektion. Da hilft mir die schnelle Entdeckung im Nachhinein überhaupt nichts. Die Offenheit ist hier kein Schutzschild, sie ist ein massives Einfallstor.

SPEAKER_01 3:07

Überleg doch mal. Denk noch einmal an die 3,4 Millionen Downloads pro Tag, die wir zu Beginn erwähnt haben. Zeigt diese Zahl wirklich die enorme Reichweite einer Gefahr?

SPEAKER_00 3:21

Ähm, ja, absolut.

SPEAKER_01 3:23

Nein, sie beweist vielmehr die kollektive Abwehrkraft einer Community, die Millionen von Nutzern in absoluter Rekordzeit schützen kann.

SPEAKER_00 3:32

Na gut, ein finaler Gedanke für euch dazu. Was passiert eigentlich mit eurer Wettbewerbsfähigkeit, wenn ihr euch aus purer Angst vor Supply Chain-Angriffen in isolierte proprietäre Ökosysteme zurückzieht? Verliert ihr dann endgültig den Innovationsvorteil, über 100 LLMs frei und flexibel nutzen zu können? Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI Espresso jeden Tag eine neue KI-Debatte in sechs Minuten.

SPEAKER_01 3:58

Das war KI Espresso.