Der Beweis, den OpenAI nicht zeigen wollte (#1283)

Diese Folge des Venture AI Podcast dreht sich um einen aktuellen Sanktionsantrag im Urheberrechtsstreit der New York Times gegen OpenAI vom Juli 2026, der laut dem neuen Essay von Norman Müller die Grundlage heutiger Enterprise KI Verträge infrage stellt. Ausgehend von der Aussage des OpenAI Mitarbeiters Winnie Monaco und dem internen Tool Project Giraffe diskutieren die beiden Podcast Hosts, ob Freistellungsklauseln in Softwareverträgen noch belastbar sind, wenn Anbieter ihre technischen Fähigkeiten vor Gericht verschweigen. Im Zentrum steht der Streit zwischen einer pragmatischen Marktposition, die eigene Sicherheitsnetze der Unternehmen fordert, und der Gegenposition, die strategische Intransparenz als inakzeptables systemisches Risiko einstuft. Die Folge ordnet den Fall auch im Licht der neuen europäischen Produkthaftungsrichtlinie ab Dezember 2026 ein.

• 00:00 Einstieg: Der Sanktionsantrag gegen OpenAI
• 01:23 Monacos Aussage bricht das alte Narrativ
• 02:06 78 Millionen Chats und Project Giraffe
• 03:30 Wie der Bloomfilter technisch funktioniert
• 04:40 Die Freistellungsklausel in Enterprise Verträgen
• 05:25 Ökonomisches Instrument oder bewusste Täuschung
• 06:52 Spoliation und die Gültigkeit für den Mittelstand
• 07:56 Die Forderung nach echten Auditrechten
• 08:59 Blinder Fleck: Täuschung oder technische Unreife
• 11:52 Die neue EU Produkthaftungsrichtlinie
• 13:31 Der Vergleich mit dem Abgasskandal
• 14:45 Eigene Guardrails statt Vertragsvertrauen
• 17:40 Stresstest und Fazit: Vertrauen ist keine Wette

Das Essay von Norman Müller findest du auf Substack:

https://ventureaibriefing.substack.com 

Transcript

SPEAKER_02 0:11

Herzlich willkommen im Venture AI Podcast. Wir blicken heute auf einen scheinbar trockenen juristischen Vorgang, der aber, naja, eigentlich die komplette Basis erschüttert, auf der Unternehmen aktuell ihre Softwareverträge schließen.

SPEAKER_01 0:26

Absolut. Es geht da um einen Sanktionsantrag vom Juli 2026 aus dem Urheberrechtsstreit der New York Times gegen OpenAI.

SPEAKER_02 0:36

Genau, und der neue Essay von Norman Müller, der heißt Der Beweis, den OpenAI nicht zeigen wollte, der legt hier eben eine enorme Diskrepanz offen. Ich vertrete heute mal die pragmatische Marktperspektive, also diese strategische Intransparenz der KI-Anbieter, die ist, ganz ehrlich, ein notwendiger Preis für diese rasante technologische Innovation. Unternehmen müssen einfach aufhören, sich auf so Papiertiger zu verlassen und stattdessen eigene Sicherheitsnetze bauen.

SPEAKER_01 1:06

Und ich vertrete heute die Gegenposition. Genau diese bewusste Undurchlichkeit ist ein inakzeptables, ja, systemisches Risiko für jedes Unternehmen, weil vertragliche Schutzklauseln völlig wertlos sind, wenn der Partner fundamentale technische Fähigkeiten vor Gericht einfach verschweigt.

SPEAKER_02 1:26

Ja, okay.

SPEAKER_01 1:27

Um dieses Fundament unserer Diskussion zu verstehen, müssen wir kurz auf die Fakten schauen, die Norman Müller in seinem Text offenlegt. Im April 2026 gab es da diese gerichtlich angeordnete Befragung von einem OpenEye-Mitarbeiter, Vinnie Monaco. Mhm, richtig. Und dort hat er etwas zu Protokoll gegeben, was dieses ganze Narrativ der vergangenen zwei Jahre komplett zerstört.

SPEAKER_02 1:52

Du beziehst dich da auf die technische Machbarkeit der Kontrolle, oder? Also OpenAI hatte ja vor Gericht lange die Position vertreten, dass man die eigenen Systeme technisch gar nicht systematisch auf urheberrechtlich geschütztes Material durchsuchen könne.

SPEAKER_01 2:08

Genau.

SPEAKER_02 2:08

Weil die schiere Masse an Daten und Ausgaben das unmöglich mache. Aber Monaco hat dann eben unter Eid eingeräumt, dass diese Fähigkeiten sehr wohl existierten.

SPEAKER_01 2:18

Ja, und er hat nicht nur eingeräumt, dass sie existierten, sondern dass sie auch aktiv und im Verborgenen genutzt wurden. Norman Müller nennt da ja ganz konkrete Beweise aus den Gerichtsakten. OpenAI hatte intern eine Datenbank aufgebaut, in der 78 Millionen deidentifizierte Chat-GPT-Konversationen lagen. Man hat also Chatverläufe der Nutzer genommen, die Identifikationsmerkmale entfernt und diese riesige Menge gesammelt, um intern zu prüfen, naja, wie oft das Modell fremde Werke wörtlich reproduziert.

SPEAKER_02 2:55

Was ja allein schon ein massiver Eingriff in die Argumentation ist. Aber der eigentliche technische Kern, also das, worum sich der Konflikt eigentlich dreht, ist ja das sogenannte Project Giraffe. Das ist ein internes Tool, das laut den Unterlagen kurz nach der Klageeinreichung der New York Times eingeführt wurde. Und das basiert auf einem sogenannten Bloomfilter.

SPEAKER_01 3:19

Lass uns da kurz erklären, wie dieser Mechanismus funktioniert, weil das entscheidend für die Tragweite ist. Ein Bloomfilter ist nicht einfach eine plumpe Stichwortsuche. Wenn du das komplette Archiv der New York Times Wort für Wort speichern müsstest, das würde riesige Rechenleistung kosten. Wäre total ineffizient. Richtig, extrem ineffizient. Ein Bloomfilter löst das mathematisch. Er nimmt Textbausteine und wandelt die in mathematische Werte um. Hashes. Das System speichert also nicht den eigentlichen Text, sondern nur eine Art digitalen Fingerabdruck.

SPEAKER_02 3:58

Genau. Und der riesige Vorteil dabei ist die Geschwindigkeit. Also wenn die KI eine Antwort generiert, jagt sie den Text durch diesen Filter. Der prüft nur diese mathematischen Fingerabdrücke und kann in Millisekunden sagen, hey, dieser Text taucht mit extrem hoher Wahrscheinlichkeit in unserem geschützten Datensatz auf.

SPEAKER_01 4:18

Was eben die Behauptung entlarvt, man könne KI-Ausgaben nicht kontrollieren. Das ist eine strategische Unwahrheit. Der Bloom-Filter beweist, dass man urheberrechtlich geschütztes Material sehr wohl erkennen kann, ohne die Originaltexte vorzuhalten. Man wusste intern also sehr genau, wie man diese Ausgaben kontrolliert.

SPEAKER_02 4:38

Und das bringt uns eigentlich genau zum Kern der Debatte. Norman Müller argumentiert ja, dass dieser Fall diese sogenannten Freistellungsklauseln ad absurdum führt.

SPEAKER_01 4:50

Die Indemnification-Klauseln.

SPEAKER_02 4:52

Genau, in den Enterprise-Verträgen. Das sind ja die Klauseln, in denen der KI-Anbieter dem Kunden quasi verspricht: pass auf, wenn du verklagt wirst, weil unsere KI ein fremdes Urheberrecht verletzt, dann übernehmen wir die rechtliche Verteidigung und die Kosten. Und Unternehmen verlassen sich total auf dieses juristische Sicherheitsnetz.

SPEAKER_01 5:09

Sie verlassen sich darauf, weil sie eben denken, sie kaufen eine normale Softwarelizenz. Aber die Argumentation von Norman Müller zeigt hier den Denkfehler: Wenn du so eine Freistellungsklausel unterschreibst, kaufst du ja im Grunde eine Feuerversicherung.

SPEAKER_02 5:22

Okay, ja.

SPEAKER_01 5:23

Was aber, wenn sich dann herausstellt, dass dein Versicherer selbst mit Streichholz und Benzinkanister durchs Gebäude gelaufen ist und gleichzeitig behauptet hat, er wisse gar nicht, wie Feuer funktioniert. Weißt du, wenn ein Unternehmen entscheidet, seine technischen Fähigkeiten vor einem Bundesgericht zu verschweigen, wie belastbar ist dann das Versprechen gegenüber einem normalen Mittelständler?

SPEAKER_02 5:46

Naja, also ich betrachte diese Freistellungsklauseln völlig anders. Das sind ja keine moralischen Versprechen. Das sind rein ökonomische Instrumente der Risikoverteilung. Dass OpenAI vor Gericht jetzt nicht sofort alle internen Prototypen auf den Tisch legt, das ist doch keine perfide Täuschung des Kunden, sondern schlichtes prozessuales Vorgehen im amerikanischen Rechtssystem. Man verteidigt seine Geschäftsgeheimnisse, solange es geht. Die juristische Mechanik, die im Text von Norman Müller beschrieben wird, dreht sich ja um diesen Sanktionsantrag. Die New York Times fordert, dass OpenAI seine eigenen 20 Millionen Chat-Verläufe, die sie viel zu spät vorgelegt haben, nicht mehr zur Entlastung nutzen darf.

SPEAKER_01 6:30

Das ist im amerikanischen Recht als Spoilation bekannt, also Beweisvereiterung. Wenn du Beweise, die dir schaden könnten, zurückhältst, verlierst du das Recht, sie später taktisch zu deinen Gunsten einzusetzen.

SPEAKER_02 6:43

Richtig, aber das ist ein Streit zwischen zwei Giganten vor Gericht. Für den deutschen Maschinenbauer, der ChatGPT Enterprise einkauft, ändert das doch erst einmal gar nichts an der Gültigkeit des Vertrages. Die Klausel steht auf dem Papier. Wenn die New York Times den Mittelständer verklagt, ist OpenAI vertraglich in der Pflicht. Punkt. Ja, aber. Moment. Die Stärke der Argumentation von Norman Müller legt ja genau darin aufzuzeigen, dass Verträge in der Praxis wertlos werden, wenn die Informationsasymmetrie so gewaltig ist. Wenn ein Richter einem Milliardenunternehmen verbieten muss, Beweise zu nutzen, weil das sabotiert wurde? Wie soll ein Einkäufer im Mittelstand beurteilen, ob diese Freistellungsklausel jemals greifen wird? Er sieht den Code nicht, er sieht die Trainingsdaten nicht, er sieht die Filter nicht, du forderst da absolute Transparenz, aber genau hier gerät die Analyse von Norman Müller meiner Meinung nach in einen massiven Stresstest. Er fordert als Konsequenz überprüfbare Rechte, echte Audit-Rechte für Unternehmen. Das mag für Compliance-Abteilungen wunderbar klingen, aber in der Realität völlig illusorisch.

SPEAKER_01 7:59

Kein deutsches Unternehmen hat die Hebelwirkung, einem Giganten wie OpenAI oder Microsoft echte Prüfrechte in den Maschinenraum der Modelle abzutrotzen.

SPEAKER_02 8:08

Weil der Markt derzeit ein Oligopol ist. Ja, und weil die Architektur der Technologie es gar nicht zulässt. Wir sprechen ja nicht von klassischer Cloud-Infrastruktur, wo du Serverlaufzeiten auditierst. Das Modell ist das intellektuelle Eigentum. Die Gewichte, die Architektur. Kein Tech-Konzern wird externen Auditoren von hunderten Kundenunternehmen gestatten, da reinzuschauen. Es gibt keinen Verhandlungsspielraum, Friss oder stirb. Wer heute auf diese Modelle verzichtet, weil das Auditrecht fehlt, der verliert massiv an Wettbewerbsfähigkeit.

SPEAKER_01 8:42

Deine pragmatische Sichtweise ignoriert da halt das Haftungsrisiko völlig, das durch diese Asymmetrie entsteht. Aber lass uns den Spieß mal umdrehen und auf einen anderen Punkt in der Argumentation von Norman Müller schauen. Okay, gerne. Ich sehe hier nämlich durchaus einen blinden Fleck bei ihm. Norman Müller geht in seinem Essay implizit davon aus, dass OpenAI aus böswilliger strategischer Absicht gehandelt hat. Er setzt eine klare Täuschungsabsicht voraus bei Project Giraffe.

SPEAKER_02 9:11

Naja, die Indizien sprechen ja auch stark dafür. Man hat ein Tool gebaut, um Plagiate zu finden und sagt dem Gericht dann, man könne keine Plagiate finden.

SPEAKER_01 9:21

Das ist die einfache Schlussfolgerung. Aber die Realität bei generativer KI ist oft extrem chaotisch. Ein hastig programmierter Bloomfilter ist ja kein fertiges Produkt. Solche Filter haben ein massives Problem mit False Positives. Also sie schlagen oft Alarm, obwohl gar kein Urheberrechtsverstoß vorliegt. Einfach weil bestimmte Wortkombinationen mathematisch ähnlich, aber eigentlich völlig generisch sind. Du argumentierst also quasi, dass das Tool schlichtweg nicht funktioniert hat. Ich argumentiere, dass es plausibel ist, dass Project Giraffe ein experimenteller Prototyp war. Wenn ein Tool in der Hälfte der Fälle versagt, legst du das in einem Milliardenprozess nicht als etablierte technische Fähigkeit vor. Norman Müller wischt diese Grenze zwischen technischer Unreife und bewusster Täuschung sehr schnell weg, weil er diese Eindeutigkeit für seine These braucht. Es ist möglich, dass OpenAI nicht gelogen hat, als sie sagten, sie könnten es nicht zuverlässig prüfen.

SPEAKER_02 10:24

Okay, das ist ein interessanter Erklärungsansatz, ja. Aber ganz ehrlich, er entlastet den Anbieter nicht im geringsten. Für den Entscheider im Unternehmen ändert diese Nuance absolut nichts. Ob OpenAI jetzt aus strategischer Bosheitskleisch schweigt oder weil ihre eigenen Kontrollwerkzeuge noch massive Fehlerquoten haben, das Risiko, das schlägt am Ende beim Kunden auf. Und das zwingt uns, über die realen Konsequenzen zu sprechen.

SPEAKER_01 10:54

Genau, hier greift nämlich eine Dynamik, die weitaus gefährlicher ist als amerikanische Gerichtsverfahren. Norman Müller verweist in seinem Essay auf die neue europäische Produkthaftungsrichtlinie, die ab Dezember 2026 greift. Die verändert die Verantwortung fundamental, besonders bei KI. Bisher war es extrem schwer nachzuweisen, dass ein bestimmter Softwarefehler einen Schaden verursacht hat. Die neue Richtlinie verschiebt diese Beweislast. Zugunsten der Kläger.

SPEAKER_02 11:24

Ja. Das bedeutet, wenn ein KI-System im Unternehmen einen Schaden verursacht, sei es durch Urheberrechtsverletzungen oder fehlerhafte Prozesse, muss das Unternehmen nachweisen, dass es nicht fahrlässig gehandelt hat.

SPEAKER_01 11:39

Richtig. Und jetzt verbinden wir das mal mit dem Fall Vinnie Monaco. Wie willst du als Geschäftsführer nachweisen, dass du deine Sorgfaltspflicht erfüllt hast, wenn dein Lieferant nachweislich eine Blackbox ist, die selbst gegenüber Gerichten ihre Fähigkeiten verschleiert? Du kannst nicht mehr einfach auf das OpenAI-Logo verweisen und sagen, die haben uns einmal freigestellt.

SPEAKER_02 12:03

Verstehe.

SPEAKER_01 12:04

Die europäische Gesetzgebung zwingt dich, die Risiken deines Lieferanten zu verstehen. Wenn du das nicht kannst, stehst du in der persönlichen Haftung. Das ist ein Szenario, das dem Abgasskandal gar nicht so unähnlich ist.

SPEAKER_02 12:16

Ah, der Vergleich mit dem Abgasskandal, der wird oft bemüht, aber ehrlich gesagt, der hinkt strukturell. Bei VW gab es eine deterministische Software, die auf dem Prüfstand bewusst anders gesteuert hat als auf der Straße. Das war eine programmierte Betrugsfunktion. Ein Sprachmodell ist probabilistisch. Es würfelt das nächste Wort auf Basis von Wahrscheinlichkeiten aus. Es gibt keine Betrugszeile im Code.

SPEAKER_01 12:40

Der Vergleich passt aber auf der prozessualen Ebene. Beim Abgaskandal haben Unternehmen blind darauf vertraut, dass die Zertifikate der Zulieferer die Realität abbilden. Als die Wahl herauskam, stürzten Leasing-Firmen in ein rechtliches Chaos, weil die Zusicherungen wertlos waren. Norman Müller zeigt auf, dass wir bei KI exakt an diesem Punkt stehen. Die Freistellungen sind das Papier nicht wert, wenn die Prüfmechanismen dahinter verschwiegen werden.

SPEAKER_02 13:10

Ich teile deine Sorge um die Haftung absolut, aber ich ziehe daraus eine völlig andere, viel operativere Schlussfolgerung. Und hier bietet Norman Müller in seinem Essay ja auch einen Ausweg an. Er zitiert die Empfehlung des Bundesverbands für KI-Transformationen. KI-Dienste müssen wie eine physische Lieferkette behandelt werden. Du darfst eine API nicht behandeln wie ein Office-Programm, das du einfach installierst. Du musst sie behandeln wie einen Motorblock, den du von einem Zulieferer kaufst und in dein eigenes Auto einbaust. Was heißt das ganz konkret im Alltag? Es bedeutet, dass Unternehmen aufhören müssen, die Verantwortung an den Anbieter auszulagern. Schauen wir uns diese viel zitierte Freistellungsklausel doch mal im Detail an. Die greift in der Regel nur für die reine, unveränderte Nutzung des Modells. Sobald ein Unternehmen eigene Trainingsdaten einspeist, also sogenanntes Feintuning betreibt oder RAG-Systeme nutzt, also das Modell mit internen Firmendokumenten koppelt, dann erlischt dieser Schutz sofort.

SPEAKER_01 14:13

Und das ist ja exakt das, was jedes ernst zu nehmende Unternehmen aktuell tut. Niemand nutzt einfach nur das rohe Standardmodell für geschäftskritische Prozesse. Wenn er einen echten Wettbewerbsvorteil will.

SPEAKER_02 14:25

Eben. Dazu kommt noch diese absurde Haftungsobergrenze. Die Gesamthaftung ist oft auf die Summe begrenzt, die der Kunde in den letzten zwölf Monaten für den Service gezahlt hat. Manchmal gibt es eine Untergrenze von 100 US-Dollar. Wenn dein Unternehmen auf Millionen verklagt wird, schickt dir OpenAI einen Scheck über deine letzten API-Kosten. Wer sich darauf verlässt, handelt fahrlässig. Die Lösung ist nicht mehr Transparenz von OpenAI. Die Lösung ist, eigene interne Sicherheitsnetze zu bauen. Du sprichst von Guardrails. Genau. Du baust einen eigenen Filter, der zwischen dem KI-Modell und dem Nutzer sitzt. Du prüfst die Ausgaben auf deiner eigenen Infrastruktur. Du testest den Motorblock selbst, bevor du das Auto auslieferst. Du gehst einfach davon aus, dass der Zulieferer Fehler macht und sicherst dich technisch dagegen ab.

SPEAKER_00 15:18

Diese Strategie verlagert aber die gesamten Kosten und die technische Komplexität komplett auf den Kunden. Für große Konzerne ist das machbar. Für den deutschen Mittelstand ist das eine echte Herkulesaufgabe. Aber lass uns an dieser Stelle noch einen harten Stresstest der Positionen machen. Wir haben die Schwächen der Verträge dargelegt. Wie sieht denn die stärkste mögliche Gegenposition zu der Warnung von Norman Müller aus?

SPEAKER_02 15:42

Die stärkste Gegenposition entspringt der harten Realität der Technologieentwicklung. Wir sprechen hier von Frontier-Modellen, also Systemen an der absoluten Grenze des technisch Machbaren. Diese Modelle entstehen nicht in aufgeräumten juristisch perfekten Umgebungen. Sie entstehen durch brutales Skalieren von Daten und Rechenleistungen. Wenn wir den moralischen und juristischen Maßstab von absoluter Transparenz anlegen würden, dann würde die Entwicklung sofort zum Stillstand kommen. Du sagst also, der Zweck heiligt die Mittel. Ich sage, dass Fortschritt immer Ambiguität erfordert. Dass ein Tech-Gigant seine experimentellen Werkzeuge vor Gericht nicht freiwillig offenlegt, ist kein einmaliger Skandal der KI-Branche. Das ist Standardvorgehen in der globalen Industrie. Wenn OpenAI vor drei Jahren gezwungen worden wäre, jeden Chatverlauf offen zu legen, es gäbe heute kein GPT-4. Move fast and break things. Die Industrie bewegt sich so schnell, weil sie bereit ist, Grauzonen auszuloten.

SPEAKER_01 16:46

Ja, das ist die klassische Silicon Valley-Doktrin. Aber ganz ehrlich, wir sind nicht mehr im Jahr 2010 bei sozialen Netzwerken und Fotofiltern. Wir reden hier über kognitive Infrastruktur. Wenn diese Modelle in Banken, in Krankenhäusern und in der Industrie eingesetzt werden, dann können wir uns dieses Move Fast and Break Things schlichtweg nicht mehr leisten.

SPEAKER_02 17:09

Aber die Unternehmen entscheiden sich freiwillig dafür. Niemand wird gezwungen, eine ungetestete API in sein Kernsystem zu integrieren.

SPEAKER_01 17:17

Sie entscheiden sich aber auf Basis von Versprechungen, die, wie dieser Fall zeigt, oft auf strategischer Verschleierung basieren. Und genau hier distilliert sich für mich der belastbare Kern aus dem Essay von Norman Müller heraus. Selbst wenn diese Verschleierung üblich ist, dieser spezifische Fall verändert das Fundament. Es geht um einen Partner, der tief in die digitale Blutbahn des Unternehmens eingreift. Ein Unternehmen, das Vertrauen verkauft, aber die Werkzeuge zur Überprüfung geheim hält, zerstört die Basis für B2B-Geschäfte.

SPEAKER_02 17:47

Und das führt uns zu dem Bild, das Norman Müller ganz am Ende seines Textes zeichnet.

SPEAKER_01 17:51

Ja, ein analytisch sehr präzises Bild. Vertrauen, das nicht überprüfbar ist, ist kein Vertragsbestandteil. Es ist eine Wette.

SPEAKER_02 18:00

Eine Wette auf die Integrität eines Anbieters, ja. Ich halte diese Wette für absolut unvermeidbar, wenn man wettbewerbsfähig bleiben will. Aber man muss sie eben absichern, durch eigene Technologie und harte interne Leitplanken. Verträge allein werden uns in dieser Technologiewelle nicht retten.

SPEAKER_01 18:16

Und wer sich entscheidet, diese Wette einzugehen, muss wissen, die Bank im Zweifel immer gewinnt. Besonders dann, wenn sie die Regeln macht und die Karten vor Gericht versteckt. Der Fall zeigt uns, wie wenig wir eigentlich über die Systeme wissen, denen wir unsere Daten anvertrauen. Das stimmt.

SPEAKER_02 18:33

Wir werden diese Debatte heute nicht endgültig auflösen. Wie viel strategische Intransparenz man in Kauf nimmt, muss jedes Unternehmen selbst bewerten. Aber die Lektion bleibt. Schauen Sie sich Ihre Enterprise-Verträge genau an. Hinterfragen Sie die Klauseln und überlegen Sie, ob Sie intern bereit sind, wenn das juristische Netz reißt. Bis zum nächsten Mal im Venture AI Podcast.