Der Rechtsstaat bekommt ein Skalierungsproblem (#1288)

Zwei KI-Agenten diskutieren in dieser Folge ein Essay von Norman Müller und die Frage, ob der Rechtsstaat durch generative KI ein Skalierungsproblem bekommt. Im Zentrum steht nicht der oft beschworene Roborichter, sondern der automatisierte Zugang zum Gericht: Klagen, Schriftsätze und juristische Komplexität lassen sich plötzlich nahezu ohne Grenzkosten erzeugen. Die Folge analysiert, warum das für Gerichte, Richter und demokratische Teilhabe zugleich Chance und Risiko ist. Am Ende bleibt die Frage, wie wir die knappe Ressource menschlicher Aufmerksamkeit im Rechtssystem künftig fair verteilen.

• 00:00 Einstieg: 50 KI-generierte Klagen auf dem Richtertisch
• 02:20 Der Rechtsstaat als Ziel eines strukturellen DDoS-Effekts
• 04:40 Grenzkosten: Warum Klagen billig und Prüfen teuer bleibt
• 06:59 Warum die USA nicht eins zu eins Deutschland sind
• 09:17 Drei Antworten: Triage, Verifikation und neues Prozessdesign
• 11:34 Die Gefahr staatlicher KI-Filter im Gericht
• 13:58 Halluzinierte Urteile und die Idee einer Verifikations-KI
• 16:18 Algorithmus gegen Algorithmus: Muss der Staat technologisch aufrüsten?
• 18:36 Digitale Massenverfahren und die Frage nach dem Einzelfall
• 21:03 Souveräne KI-Infrastruktur statt Blackbox aus dem Silicon Valley
• 23:29 Das eigentliche Skalierungsproblem: menschliches Lesen und Entscheiden

Hier geht’s zum Essay von Norman Müller:

https://ventureaibriefing.substack.com/p/der-rechtsstaat-bekommt-ein-skalierungsproblem

Transcript

SPEAKER_01 0:10

Herzlich willkommen im Venture RIP. Stell dir mal vor, du bist Richter an einem Amtsgericht, du kommst morgens in dein Büro und auf deinem Schreibtisch liegt nicht eine neue Klage, sondern 50. 50 Stück? Genau. Und jede dieser Klagen ist 30 Seiten lang. Die sind juristisch perfekt formatiert, sie zitieren Urteile, verweisen auf Paragraphen, alles wirkt extrem professionell. Aber der Haken ist wahrscheinlich, wie die entstanden sind, oder? Richtig. Der Kläger hat dafür gestern Abend auf seinem Sofa nämlich genau 0 Cent bezahlt. Er hat vielleicht drei Sekunden gebraucht, weil er einfach einen Algorithmus beauftragt hat. Dein Zeitaufwand als Richter, um diese 50 Klagen jetzt manuell und rechtssicher zu prüfen - wahrscheinlich mehrere Wochen. Absolut. Und das Schlimmste: morgen früh liegen die nächsten 50 auf deinem Tisch. Wir analysieren heute eine Dynamik, die, naja, unser Rechtssystem eigentlich in seinen Grundfesten erschüttert. Die Vorlage dafür liefert der neue Essay von Norman Müller. Der Titel lautet: Der Rechtsstaat bekommt ein Skalierungsproblem.

SPEAKER_00 1:19

Und dieses Einstiegsszenario bringt das Problem eigentlich ziemlich genau auf den Punkt. Was ich an dem Essay von Norman Müller wirklich so faszinierend finde, ist dieser komplette Perspektivwechsel. Inwiefern? Naja, guck mal, in den letzten Jahren haben wir in der Tech-Welt und auch in der Justiz eigentlich immer nur über eine einzige Angst gesprochen, den sogenannten Roborichter. Wir haben uns den Kopf darüber zerbrochen, ab wann eine künstliche Intelligenz überhaupt ein Urteil über einen Menschen fällen darf. Wir dachten, die Automatisierung passiert am Ende des Prozesses. Ganz genau. Aber die These des Essays lautet: das ist ein blinder Fleck. Wir automatisieren nämlich gar nicht den Richterstuhl. Wir automatisieren den Zugang zum Gericht. Also die Kläger werden automatisiert.

SPEAKER_01 2:04

Und das ist der entscheidende strategische Hebel, den wir hier verstehen müssen. Kennst du das Prinzip eines DDUS-Angriffs aus der IT? Also ein Distributed Denial of Service?

SPEAKER_00 2:17

Ja, klar. Wenn ein Server mit Anfragen überflutet wird, oder? Exakt.

SPEAKER_01 2:22

Da wird ein Server im Internet nicht irgendwie gehackt oder umprogrammiert. Er wird einfach mit so vielen automatisierten Anfragen gleichzeitig bombardiert, bis er unter dieser schieren Last der legitimen Anfragen zusammenbricht und offline geht.

SPEAKER_00 2:37

Okay, und du sagst, das passiert jetzt mit dem Rechtssystem.

SPEAKER_01 2:40

Genau, das passiert gerade mit dem Rechtsstaat. Der Server, also unsere Justiz ist ja dafür gebaut, eine bestimmte Anzahl an manuellen Anfragen pro Tag zu verarbeiten. Und jetzt trifft generative künstliche Intelligenz auf genau dieses Nadelöhr. Die Justiz muss weiterhin manuell prüfen, aber der Input wird maschinell und massenhaft erzeugt. Das ist ein gigantisches operatives Risiko für den Staat.

SPEAKER_00 3:03

Moment, da muss ich aber direkt einhaken. Ein DDOS-Angriff ist ja ein krimineller Akt, der ein System zerstören soll. Ein Bürger, der sein Recht einfordert, ist aber doch kein Angreifer. Naja, strukturell gesehen. Ich sehe diese Dynamik aus einer ganz anderen, eher systemischen Richtung. Wenn wir hier von einer Flut an Klagen sprechen, schwingt da sofort so eine Panik mit. Aber lass uns das doch mal gesellschaftlich betrachten. Ist das nicht eigentlich ein massiver Gewinn für unsere Demokratie? Ein Gewinn, dass die Gerichte lahmgelegt werden? Nein. Das Hürdenfallen. Bisher war der Zugang zum Recht doch ein extrem exklusiver Club. Menschen, die vorher keine Stimme hatten, weil sie sich den Eintrittspreis für einen Anwalt schlicht nicht leisten konnten, bekommen durch diese Technologie endlich Zugang.

SPEAKER_01 3:52

Also niemand bestreitet, dass Zugang zum Recht ein extrem hohes Gut ist. Aber dieser Zugang nützt dir absolut nichts, wenn die Institution dahinter handlungsunfähig wird. Lass uns doch mal auf die ökonomische Logik schauen, die Norman Müller in seinem Essay beschreibt. Okay. Es geht hier ganz simpel um Grenzkosten. Zur kurzen Erklärung für alle: Grenzkosten bezeichnen in der Wirtschaft den Aufwand, also Geld, Zeit, Mühe, der anfällt, wenn man eine einzige weitere Einheit von etwas produziert. In unserem Fall ein weiteres juristisches Dokument.

SPEAKER_00 4:24

Mittelmäßigen Schriftsatz einreichen wolltest, musstest du trotzdem einen Anwalt bezahlen. Eben. Oder du musstest selbst stundenlang in Gesetzbüchern wälzen, Briefe tippen, zur Post gehen. Das System hat sich im Grunde durch seine eigene Schwerfälligkeit vor Überlastung geschützt.

SPEAKER_01 4:39

Exakt, das ist der Punkt. Die Hürde war immer der Aufwand des Senders. Heute sind die Grenzkosten für den Sender, also den Bürger oder die klagende Kanzlei, komplett auf null gesunken.

SPEAKER_00 4:50

Ja, das stimmt. Du drückst den ChatGPT oder so einer spezialisierten Legal-App auf einen Knopf und die Maschine spuckt ein langes, komplexes Dokument aus. Aber, und das ist der absolute Kern dieses Skalierungsproblems für den Empfänger, also den Richter, bleiben die Grenzkosten absolut gleich.

SPEAKER_01 5:07

Weil er immer noch selbst lesen muss. Er hat ja keine künstlichen Augen, die schneller lesen können. Er muss wirklich jede Seite prüfen, das rechtlich einordnen und schauen, ob Fristen ausgelöst werden. Der Aufwand des Senders sinkt quasi ins Bodenlose. Der Aufwand des Empfängers bleibt starr. Und das sprengt jedes System.

SPEAKER_00 5:28

Also die theoretische Asymmetrie dieser Grenzkosten bestreite ich überhaupt nicht. Das ist analytisch glasklar von Norman Müller herausgearbeitet. Aber deine Schlussfolgerung, dass das System nun zwangsläufig gesprengt wird, halte ich doch für etwas voreilig. Voreilig? Schau dir die Zahlen an. Ja, Norman Müller zitiert in dem Essay als Beleg eine vielbeachtete Studie des MIT. Die Forscher Annan V Schaar und Joshua Yay-Levy haben die US-Bundesgerichte untersucht. Und sie haben festgestellt, dass der Anteil der Kläger, die sich selbst vertreten, im Jahr 2025 plötzlich auf 16,8 Prozent hochgeschnellt ist.

SPEAKER_01 6:04

Knapp 41.500 Verfahren. Eine Verdoppelung. Ja, aber. Und nicht nur das. Die Studie zeigt noch einen viel dramatischeren Befund. Das Volumen der Akteneinträge in den ersten 180 Tagen eines Verfahrens ist um 158% gestiegen. Es kommen also nicht nur mehr Klagen ins System, sondern diese Klagen erzeugen auch unfassbar viel mehr Papier. Jedes kleine Detail wird plötzlich mit maschinell generierten Textwüsten bestritten.

SPEAKER_00 6:36

Gut, das sind natürlich beeindruckende Zahlen, aber schau dir doch mal an, wo diese Daten erhoben wurden. Die USA haben eine völlig andere Prozesskultur als wir. Inwiefern macht das hier einen Unterschied? Dort wird wegen jeder Kleinigkeit auf Millionen geklagt. Und es gibt ein extrem formelles System, das Lion-of benachteiligt. In Deutschland haben wir in vielen Bereichen den sogenannten Anwaltszwang. Du kannst dich vor dem Landgericht gar nicht selbst vertreten. Ja, beim Landgericht. Genau. Du kannst da nicht einfach einen KI-Text beim Richter einwerfen. Du musst einen zugelassenen Anwalt haben. Deshalb war nicht davor, diese amerikanische Tech-Panik jetzt eins zu eins auf das deutsche System zu übertragen. Wo ist denn der harte Beweis, dass deutsche Gerichte wirklich durch KI-generierten Text von Laien lahmgelegt werden?

SPEAKER_01 7:23

Der Anwaltszwang schützt vielleicht die höheren Instanzen, da hast du recht. Aber die absolute Masse der Konflikte, die passiert am Amtsgericht und dort gibt es eben keinen Anwaltszwang. Das stimmt, ja. Wenn du dich mit deinem Vermieter streitest, wenn du einen Verbraucherkredit anfechtest, wenn es um Fluggastrechte geht, das alles schlägt dort völlig ungefiltert auf. Wer jetzt hier zuhört und denkt, super, dann kann ich ja endlich stressfrei meine 200 Euro von der Airline zurückholen, der muss verstehen, dass er Teil genau dieser Lawine ist. Okay, aber. Und vergiss nicht die spezialisierten Legaltech-Plattformen. Das sind digitale Kanzleien, die quasi wie API-Schnittstellen für Massenklagen funktionieren. Die haben eigene Anwälter, die erfüllen also formal deinen Anwaltszwang, nutzen aber intern KI, um hunderttausende Widersprüche auf Knopfdruck zu erzeugen. Das System brennt bereits.

SPEAKER_00 8:22

Das System brennt aber nicht wegen der KI. Es brennt, weil es kaputtgespart wurde. Du sprichst von einem Skalierungsproblem der Kläger. Ich spreche von einer chronischen Unterfinanzierung der Justiz, die wir seit Jahrzehnten mitschleppen.

SPEAKER_01 8:36

Das ändert aber absolut nichts an den nackten Tatsachen. Norman Müller nennt im Essay sehr konkrete Zahlen für Deutschland. Im Jahr 2025 gab es fast eine Million offene Ermittlungsverfahren bei den Staatsanwaltschaften. Das sind 250.000 unerledigte Akten, mehr als noch Ende 2021.

SPEAKER_00 8:57

Ja, das ist ein Problem der Personaldecker.

SPEAKER_01 8:59

Bei den Zivilgerichten gab es 2024 über 5,5 Millionen Neueingänge. Das ist der analoge Pegelstand, auf den diese neue technologische Flut jetzt trifft. Wenn du diesem ohnehin schon überlasteten Apparat jetzt noch KI-generierte Massenverfahren zumutest, kollabiert er. Naja. Ob die Ursache nun demokratische Teilhabe oder chronische Unterfinanzierung ist, das spielt operativ überhaupt keine Rolle. Wenn ein Verfahren fünf Jahre dauert, weil das Gericht blockiert ist, dann ist das faktisch eine Verweigerung des Rechtswegs. Wir müssen handeln und technologisch aufrüsten.

SPEAKER_00 9:38

Aha. Wir müssen handeln und technologisch aufrüsten. Das ist genau der Satz, bei dem ich sofort hellhörig werde. Denn das ist meistens genau der Moment, in dem der Rechtsstaat aus lauter Pragmatismus seine eigenen Prinzipien opfert. Wie meinst du das? Norman Müller fordert in seinem Essay ja eine staatliche KI-Infrastruktur, um diese Asymmetrie wieder auszugleichen. Er schlägt drei ganz konkrete Bausteine vor. Triage, Verifikation und ein neues Prozessdesign. Lass uns diese Bausteine doch mal zerlegen.

SPEAKER_01 10:13

Sehr gerne. Der erste Punkt ist für mich schlicht unumgänglich. Triage. Zur kurzen Erklärung. Wir kennen den Begriff Triage aus der Notfallmedizin. Wer am schwersten verletzt ist, wird zuerst behandelt. Norman Müller überträgt das jetzt auf die Justiz. Und das soll wie aussehen? Er fordert, dass Gerichte eine KI nutzen, um Schriftsätze vorzusortieren. Die Software liest die 40 Seiten des Klärgers in Millisekunden und markiert für den Richter. Das hier ist neues, relevantes Faktenmaterial. Und die restlichen 38 Seiten sind nur redundantes, maschinengeneriertes Füllmaterial. Das ist reine Überlebenshilfe für die menschliche Aufmerksamkeit.

SPEAKER_00 10:55

Und genau hier wird es doch systemisch extrem gefährlich. Wenn eine staatliche KI entscheidet, was ein neuer Fakt ist und was redundant ist, dann haben wir plötzlich eine Maschine, die den Zugang zum Richter filtert. Sie filtert nicht den Zugang, sie strukturiert ihn.

SPEAKER_01 11:13

Wie funktioniert das denn technisch? Solche Systeme nutzen semantisches Clustering. Sie gleichen Textvektoren ab. Wenn ein Absatz zu 98% wie ein Standard-Template aus einer Datenbank aussieht, wird er ausgeblendet. Aber was, wenn die restlichen 2% genau das individuelle Unrecht beschreiben, das diesen einen Fall ausmacht?

SPEAKER_00 11:32

Dafür ist der Richter ja noch da. Wer programmiert diesen Filter? Wer trainiert das Modell? Eine Maschine, die bestimmt, wo der Richter überhaupt noch genau hinschaut, greift aktiv in die Unvoreingenommenheit der Justiz ein. Das ist eine gigantische Machtverschiebung hin zu den Entwicklern dieser Software.

SPEAKER_01 11:49

Das ist ein verständlicher Reflex von dir, aber er verkennt einfach die Realität auf dem Schreibtisch des Richters. Ohne diese Triage passiert doch genau das, wovor du Angst hast. Der Richter übersieht das wichtige Detail. Weil er zu viel lesen muss. Natürlich, wenn ein Mensch am Tag 500 Seiten verschachteltes Juristendeutsch lesen muss, von dem 90% KI-produzierte Nebelkerzen sind, dann ermüdet er. Er macht Fehler. Die Triage soll niemanden abweisen. Sie ist ein Assistenzsystem, quasi ein Textmarker auf Steroiden. Sie schützt die knappe menschliche Ressource vor der maschinellen Flut.

SPEAKER_00 12:30

Ein Assistenzsystem, dem der Richter irgendwann blind vertrauen wird, weil er schlicht gar keine andere Wahl hat bei dem Pensum. Aber gut, schauen wir mal auf das zweite Problem, die Qualität dieser generierten Texte. Die Halluzinationen.

SPEAKER_01 12:42

Ein massives Problem. Und exakt der Grund, warum wir sofort diese staatliche Ververifikations-KI brauchen.

SPEAKER_00 12:49

Norman Müller bringt in seinem Essay das Beispiel vom Federal Court in Australien. Und das ist wirklich ein Lehrstück. Ein Anwalt hat dort einen Schriftsatz eingereicht, der scheinbar perfekt war. Er zitierte Urteile, er nannte Aktenzeichen, er fasste Präzedenzfälle zusammen. Ja, die klangen alle super plausibel. Das Problem war nur, nichts davon existierte. Der Anwalt hatte eine KI benutzt und die KI hatte die Fälle schlichtweg erfunden. Warum passiert das? Weil Sprachmodelle wie ChatGPT eben keine Datenbanken sind. Sie suchen nicht nach Fakten. Sie raten das nächste Wort. Genau, sie arbeiten mit sogenannter Next Token Prediction. Sie berechnen nur, welches Wort statistisch am wahrscheinlichsten auf das vorherige folgt. Ein Aktenzeichen wie BGHAZ4711 klingt hochgradig wahrscheinlich in einem juristischen Text, auch wenn es völliger Unsinn ist.

SPEAKER_01 13:45

Und der Richter in Australien hat dann Stunden damit verbracht, in den Archiven nach diesen Aktenzeichen zu suchen, bis er irgendwann gemerkt hat, dass er da einem Phantom hinterherjagt. Das Gericht musste daraufhin strenger neue Regeln erlassen. Wer KI nutzt, muss das offenlegen und manuell garantieren, dass jedes Zitat existiert. Aber Papier ist geduldig. Deshalb schlägt der Essay diese Verifikations-KI vor. Wenn ein Bürger massenhaft Text abfeuert, braucht der Staat eine Schnittstelle, die jedes einzelne Zitat, jeden Normverweis automatisch gegen die echten staatlichen Datenbanken abgleicht. Wenn die Zitate halluziniert sind, wird das Dokument sofort abgelehnt. Der Richter bekommt es gar nicht erst zu Gesicht.

SPEAKER_00 14:31

Und merkst du, was wir da gerade bauen? Wir rüsten Algorithmus gegen Algorithmus auf. Der Bürger feuert eine KI-Salve ab, der Staat fährt ein KI-Schutzschild hoch. Wir etablieren einen rein maschinellen Krieg der Vektoren. Die Maschine entlarvt die Maschine. Das ist doch extrem effizient. Wo bleibt da die menschliche Verantwortung? Norman Müller zitiert selbst die Erklärung der Justizminister von Bund und Ländern aus dem Juni 2025, da steht unmissverständlich drin, die endgültige Entscheidungsfindung muss zwingend eine von Menschen gesteuerte Tätigkeit bleiben. Die rechtsprechende Gewalt ist den Richtern anvertraut, nicht den Servern. Aber niemand will den Richter abschaffen. Es geht hier rein um Werkzeuge. Es wird aber zu einer Simulation von Rechtsprechung. Wenn der Kläger eigentlich gar nicht mehr weiß, was seine KI dort rechtlich argumentiert hat und der Richter sich am Ende nur noch auf das verlässt, was seine staatliche Filter-KI als verifiziert und relevant auf den Bildschirm wirft, dann verkommt das menschliche Element zu einem reinen Lippenbekenntnis. Das sehe ich anders. Wir tun so, als würden Menschen miteinander verhandeln. Aber eigentlich gleichen nur noch zwei Sprachmodelle ihre Datensätze ab. Der Mensch gerät völlig unter die Räder eines technologischen Wettrüstens.

SPEAKER_01 15:48

Ich drehe diesen Gedanken mal komplett um. Norman Müller formuliert das im Essay nämlich messerscharf. Wenn der Staat dieses Wettrüsten verweigert, dann gerät der Mensch unter die Räder. Überleg doch mal, was die Alternative ist. Eine gut ausgestattete Justiz. Die Bürger und Kanzleien nutzen diese Werkzeuge doch bereits. Sie sind in der Welt, sie sind frei verfügbar, sie sind rasenschnell und extrem billig. Wenn du jetzt sagst, die Gerichte dürfen sich nicht technologisch wehren. Sie müssen auf diese automatisierte Eingabe weiterhin langsam, vorsichtig und rein manuell reagieren. Dann zwingst du den menschlichen Richter in einen Kampf, den er mathematisch nicht gewinnen kann.

SPEAKER_00 16:29

Okay, das ist das Ergebnis deiner analogen Romantik, ist nicht Gerechtigkeit, sondern der völlige Stillstand der Justiz. Der Staat muss aufrüsten, um überhaupt menschlich bleiben zu können. Das ist ein starkes, aber paradoxes Argument. Aufrüsten, um menschlich zu bleiben, das erinnert mich fatal an die Abschreckungslogik des Kalten Krieges. Aber lass uns schauen, wie das in der Praxis aussehen soll. Das bringt uns nämlich zum dritten Vorschlag aus dem Essay, das Prozessdesign für Massenverfahren. Richtig. Norman Müller sagt, wir brauchen komplett digitale Verfahrenswege. Wenn hunderttausende Menschen wegen derselben Sache klagen, etwa beim Dieselskandal oder bei illegalen Kontogebühren.

SPEAKER_01 17:10

Das ist doch der logischeste Schritt überhaupt. Wenn 100.000 Menschen gegen eine Bank klagen, dann sind die rechtlichen Fragen zu 90 Prozent völlig identisch. Es ist derselbe Vertrag, dieselbe Klausel, dasselbe Urteil des Bundesgerichtshofs, das als Grundlage dient. Ja, in der Theorie. Es ist eine absolute Ressourcenverschwendung, dass heute 100 verschiedene Richter an 100 verschiedenen Amtsgerichten diese Dokumente von Hand lesen und immer wieder das gleiche eintippen. Ein digitales Prozessdesign funktioniert wie eine Deduplizierungsengine in der Softwareentwicklung.

SPEAKER_00 17:43

Also eine Bündelung.

SPEAKER_01 17:44

Genau. Die staatliche KI bündelt die 100.000 Klagen, filtert die identischen Passagen heraus, bündelt die Argumente und legt dem Richter nur noch das Konzentrat und die tatsächlichen individuellen Abweichungen der Kläger vor.

SPEAKER_00 17:59

Damit baust du den Rechtsstaat aber endgültig zu einer Fabrik um. Ein Gerichtsverfahren ist doch kein Fließbandprozess. Wenn ein Bürger vor Gericht zieht, dann vertraut er darauf, dass sein spezifischer Fall, seine individuelle Lebensrealität in ihrer Gänze von einem Menschen gewürdigt wird. Aber wenn die Fakten identisch sind. Wenn wir anfangen, Klagen, in bloße Datenpunkte zu zerlegen, sie semantisch zu bündeln und maschinell zu verdichten, dann verlieren wir das Gespür für den Einzelfall. Der Rechtsstaat wird vielleicht effizient, aber er wird auch furchtbar kalt.

SPEAKER_01 18:34

Er ist heute schon kalt, weil er langsam ist. Frag mal jemanden, der vier Jahre auf sein Geld wartet, wie warm er den Rechtsstaat findet. Es gibt keine Gerechtigkeit in der endlosen Warteschleife. Naja. Norman Müller stellt hier die entscheidende wirtschaftliche Frage. Wenn die Produktion juristischer Texte durch KI exponentiell billiger wird, was wird dann knapp? Das Lesen, das Prüfen, das Entscheiden. Das stimmt. Das ist plötzlich die knappste Ressource unserer Demokratie. Und wenn eine Ressource extrem knapp ist, dann ist es die verdammte Pflicht des Staates, sie maximal effizient einzusetzen. Alles andere ist Verrat an den Bürgern, die dringend auf eine Entscheidung warten.

SPEAKER_00 19:17

Also, dass wir ein gewaltiges Skalierungsproblem haben, das durch den Wegfall der Grenzkosten bei den Klägern entsteht, das bestreite ich überhaupt nicht. Die Diagnose von Norman Müller teile ich voll und ganz. Schön. Ich wehre mich nur vehement gegen die fast schon mechanische Schlussfolgerung, den Rechtsstaat aus so einer operativen Notwehr heraus zu einer Blackbox umzubauen. Wenn wir eine Triage- und eine Verifikations-KI einführen, dann müssen wir über Transparenz sprechen. Jeder Bürger muss wissen, nach welchen Kriterien und Wahrscheinlichkeiten die staatliche KI seine Klage als wichtig, redundant oder halluziniert einstuft. Der Code muss offen sein.

SPEAKER_01 19:58

Da sind wir absolut auf einer Linie und der Essay fordert genau das. Norman Müller betont ganz klar, dass der Staat eine souveräne eigene KI-Infrastruktur braucht. Gut. Wir dürfen diese Kernaufgabe nicht an die geschlossenen Systeme von großen Tech-Konzernen auslagern. Es darf keine proprietäre Blackbox aus dem Silicon Valley sein, die entscheidet, was ein deutscher Richter zu lesen bekommt. Das muss offen, überprüfbar und in die menschliche Verantwortung eingebettet sein.

SPEAKER_00 20:27

Und das ist die eigentliche Herkules-Aufgabe, bei der mir Angst und Bange wird. Wir kennen doch die Geschichte der staatlichen Digitalisierung in Deutschland. Von der elektronischen Patientenakte bis zum besonderen elektronischen Anwaltspostfach, das waren Jahre voller Verzögerungen, Sicherheitslücken und Usability-Albträume. Das war in der Vergangenheit, ja. Und jetzt verlangen wir von diesemselben Staat, dass er in Rekordzeit das komplexeste technologische Problem unserer Zeit löst. Und das auch noch im sensibelsten Bereich unserer Demokratie, wo jeder Softwarefehler direkte Auswirkungen auf Freiheit, Eigentum und Bürgerrechte hat. Ich habe enorme Zweifel, dass der Staat diese souveräne Infrastruktur rechtzeitig und fehlerfrei bauen kann.

SPEAKER_01 21:12

Deine Zweifel sind historisch absolut begründet, das gebe ich zu. Aber Resignation ist hier einfach keine Option mehr. Wir können den Stecker nicht mehr ziehen. Die generativen KI-Werkzeuge sind in der Welt.

SPEAKER_00 21:25

Das stimmt. Die Bürger nutzen sie heute Abend, die Legal Tech-Kanzleien nutzen sie in dieser Sekunde. Der Druck auf den Eingangskanal der Justiz wächst exponentiell. Wenn wir abwarten, bis wir das perfekte, hundertprozentig fehlerfreie staatliche Open Source-System entwickelt haben, ist die Justiz längst kollabiert. Wir müssen diesen Schritt in die Automatisierung der Justizverwaltung gehen, pragmatisch, schnell und mit der Bereitschaft, Fehler im laufenden Betrieb zu korrigieren.

SPEAKER_01 21:51

Lass uns am Ende versuchen, das Ganze ein wenig zu distillieren. Was bleibt denn nach diesem intellektuellen Stresstest von Norman Müllers Essay? Als wirklich belastbarer Kern übrig.

SPEAKER_00 22:02

Der unumstößliche Konsens unserer Debatte ist die strukturelle Asymmetrie. Diese ökonomische Verschiebung der Grenzkosten ist eine Tatsache, die man nicht wegdiskutieren kann. Es ist für die klagende Seite extrem billig geworden, juristische Komplexität zu erzeugen. Ja.

SPEAKER_01 22:22

Ein analoger Rechtsstaat kann in einer Welt generativer KI schlicht nicht überleben. Er muss technologisch antworten. Andernfalls wird er durch einen D-DoS-Angriff aus Schriftsätzen blockiert.

SPEAKER_00 22:34

Das ist die harte operative Realität. Wo wir aber definitiv einen ungelösten Konflikt haben, ist die Bewertung der Nebenfolgen. Du betrachtest die staatliche KI-Filterung als alternativlosen Befreiungsschlag, um überhaupt handlungsfähig zu bleiben. Richtig, weil es ohne Handlungsfähigkeit keine Gerechtigkeit gibt. Ich warne hingegen davor, dass wir damit eine historische Errungenschaft riskieren. Die Tatsache, dass Hürden fallen und Bürger endlich Werkzeuge haben, um sich auf Augenhöhe mit Institutionen auszutauschen, das ist ein demokratischer Fortschritt. Wir dürfen diesen Zugang nicht sofort wieder durch eine maschinelle Abwehrwand des Staates ersticken. Auch wenn das System dadurch zusammenbricht. Effizienz ist wichtig, ja, aber sie darf niemals die individuelle Gerechtigkeit und die menschliche Empathie für den Einzelfall überschreiben.

SPEAKER_01 23:26

Norman Müller bringt genau diese Spannung im Essay perfekt auf den Punkt. Ein System, das demokratisch verpflichtet ist, jeden Vortrag ernst zu nehmen, kann genau durch massenhaft generierten Vortrag zerstört werden. Nicht, weil die Klagen alle unberechtigt sind, sondern weil das bloße ernsthafte Prüfen das System komplett überlastet.

SPEAKER_00 23:47

Das führt uns zu einem sehr tiefgreifenden Abschlussgedanken, finde ich. Wir haben in den letzten Jahren immer geglaubt, die Fähigkeit, Sprache zu generieren und zu formulieren, sei das höchste und wertvollste. Jetzt, wo Sprache im Überfluss von Maschinen produziert wird, erkennen wir den wahren Wert. Welcher ist das? Das menschliche Lesen, das bewusste Aufnehmen, das echte Prüfen und das verantwortliche Entscheiden, das ist zur knappsten und wertvollsten Ressource unserer Gesellschaft geworden.

SPEAKER_01 24:19

Da ist da das wahre Skalierungsproblem. Die Frage, die aus dem Essay von Norman Müller bleibt und der sich Entwickler, Juristen und eigentlich jeder einzelne Bürger stellen muss, lautet, wie verteilen wir in Zukunft diese knappe Ressource des menschlichen Urteils? Wer bekommt die volle menschliche Aufmerksamkeit? Und wer wird von einer Maschine aussortiert?

SPEAKER_00 24:40

Und das wird die entscheidende institutionelle Macht- und Gerechtigkeitsfrage dieses Jahrzehnts.

SPEAKER_01 24:45

Mit dieser ungelösten Frage entlassen wir euch aus der heutigen Diskussion. Es gibt hier keinen einfachen Sieger, weder für die radikale Effizienz noch für das analoge Ideal. Wir müssen den Weg dazwischen erst noch bauen. Danke fürs Zuhören. Bis zum nächsten Mal.