"Mensch bleibt" - KI-Legende Mario Zechner wendet sich gegen GPT-Hype

In dieser Folge spreche ich mit Mario Zechner, dem Entwickler hinter bekannten Projekten wie libGDX und der Plattform Heiße Preise, über die ungeschminkte Realität des aktuellen KI-Hypes. Wir beleuchten den tatsächlichen Nutzen von autonomen KI-Agenten in der Praxis, warum europäische Technologieanbieter den Anschluss an die globale Entwicklung zu verpassen drohen und wieso das blinde Vertrauen in generierte Programmiercodes zunehmend zu instabilen Systemen führt. Abseits von Marketing-Floskeln diskutieren wir die tiefgreifenden Risiken für unser Bildungssystem durch den Wegfall von Lernwiderständen und analysieren, warum echte menschliche Kreativität und Problemlösungskompetenz trotz des rasanten technologischen Fortschritts die entscheidenden Faktoren der Zukunft bleiben. 

• Mario Website
• Mario auf X
• Mario auf Bluesky
• Mario auf GitHub

Hol dir den WKK Newsletter! 

• Flo auf Insta
• Flo auf TikTok 
• Flo auf LinkedIn

Transcript

SPEAKER_00 0:13

Herzlich willkommen zu Was KI kann, dem Podcast aus Wien. Wir beschäftigen uns mit der Frage, wie verändert KI unser Alltag, unser Leben, the arbeit, eigentlich alles. Dabei sind wir immer kritisch, but pro technology. My heutiger Gast, den kennt wahrscheinlich jeder, der jemals irgendwas mit programmieren to doch gehabt hat, Mario Zechner, the Gründer von Pi, Lib GDX und heiße Preise. Lieber Mario, herzlich willkommen. Wie oft hast du heute schon mit Cloud geschimpft?

SPEAKER_01 0:46

Mit Cloud schimpfe ich tatsächlich schon seit Monaten nicht mehr, weil ich anderes Large Language Model verwende mittlerweile. Was denn? Aktuell viel GPT und einige lokale Modelle für kleinere Projekte, so wie Gemma oder Quen und so weiter. Wieso? Weil Login bei einer einzelnen Firma prinzipiell eine schlechte Idee ist und für lokale Applikationen speziell Dinge, wo ich unseren Vierjährigen irgendwie das verwenden lassen möchte, mag ich nichts an irgendwelche Leute in den USA oder China oder sonst wo hinschicken, sondern alles lokal auf meiner Maschine privat halten.

SPEAKER_00 1:23

Also grundsätzlich empfiehlst du dann, dass wenn man KI verwendet, immer schauen sollte, dass man lokal unterwegs sind? Ach, nein.

SPEAKER_01 1:32

Für meinen speziellen Anwendungsfall macht Sinn, dass ich das lokal alles laufen lassen kann. Jemand, der GPT verwendet, um seine Business-E-Mails zu schreiben, wird wahrscheinlich mit lokalen Modellen noch nicht ganz so happy sein. Und du brauchst relativ starke Hardware, um das lokal laufen zu lassen, die sich jetzt auch nicht jeder leisten kann, sage ich einmal.

SPEAKER_00 1:50

Also beispielsweise eine GFOS 5070?

SPEAKER_01 1:54

Ja, tatsächlich für lokale Geschichten ist es fast besser, wenn man sich Apple-Hardware kauft, lustigerweise. Aus rein technischen Gründen. Vielleicht kann man das erklären. Also was Large Language Models, also diese KI-Geschichten, die im Chatbot sind, brauchen, ist vorher Speicher. Und zwar eine spezielle Variante von Speichern und zwar GPU-RAM oder VRAM, Video-RAM. Wenn man das auf einer Windows-Maschine macht, kann man sich eine Grafikkarte reinclashen in den Kübel. Und der hat so meistens irgendwo zwischen 12 und 24 GB, das ist glaube ich das Maximum. Halbwegsfähige Modelle, Large Rangage Models, kann man rechnen, braucht man mal so mindestens 30 Gigabyte, um irgendwas gescheit damit machen zu können. Das ist aber auf vielen Windows-Maschinen wird das schon ein Problem, selbst wenn man einen super gute 5090er Nvidia schieß mich tot hat. Da gibt es dann Tricks, damit sich das auch dort ausgeht. Aber kosten-nutzenmäßig ist die Apple-Hardware mittlerweile fast die bessere Variante, weil man dort auch viel mehr RAM zur Verfügung hat, weil die eine andere Form von RAM haben. Das nennt sich Unified RAM, das ist einfach so. Der RAM, der Speicher, der für die normalen Programme verwendet wird und der für die Grafiksachen verwendet wird, ist ein und dasselbe. Und durch dieses Design hat man dann bis zu 128 oder sogar 512 Gigabyte RAM dann zur Verfügung für die Modelle.

SPEAKER_00 3:12

Also das heißt, wenn man jetzt 16 Gigabyte RAM bei Windows hat, ist es was anderes als bei Apple?

SPEAKER_01 3:20

Nein, bei Windows und 16 bei Apple wäre dasselbe Problem, aber bei Apple ist es halt so, dass man viel mehr RAM kriegen kann als bei Windows, wo man Grafikkarte braucht, weil zum Beispiel Nvidia den RAM bei den Grafikkarten beschränkt. Die wollen sich nicht selbst das Geschäft für die Server, wo sie viel mehr RAM drinnen verbauen in ihre Grafikkarten nehmen. Deswegen, wenn du als normaler Consumer eine Videokarte kaufst, dann geht es bis 24 Gigabyte. Aber alles darüber hinaus kriegst du nicht als Consumer. Das ist das Problem. Und bei Apple ist es so, du kriegst bis 512 Gigabyte. Und das ist ganz schnuckelig.

SPEAKER_00 3:50

Das ist dir, wenn man sich mit dir beschäftigt, fällt auf, ist es immer sehr wichtig, für Leute etwas zur Verfügung zu stellen, was hilft. Also beispielsweise die österreichische Bundesregierung meint, man kann kein Preisvergleichsportal machen und sagt, es dauert Monate, um es zu machen. Du hast das in zwei Stunden gebaut?

SPEAKER_01 4:11

Der erste Prototyp war in zwei Stunden für Billa und Spar fertig, ja. Aber sagen wir mal so, ob das hilfreich war oder nicht, sei mal dahingestellt. An den Preisen hat sich aber jetzt nichts geändert. An der Tacit Collusion, die ich da jetzt unterstelle, das heißt Preisabsprachen, scheint sich auch nicht viel geändert zu haben. Der BBB ist an die Hände gebunden quasi, weil sie dem Wirtschaftsministerium unterstellt ist, also die Bundeswettbewerbsbehörde. Je nach politischem Couleur, das da in dem Ministerium sitzt, kann dann halt was passieren oder auch nicht. Es ist weder bei einem Schwarzgeführten noch bei einem Rotgeführten was passiert bisher. Auch nicht so simple Dinge wie, wir machen es einfach legal, dass Leute wie ich mit ihrem Computer zum Bilder-Online-Shop gehen können oder zum Spar-Online-Shop gehen können und dort die Preise einfach runterholen, speichern und durchsuchbar machen. Das ist nämlich aktuell nicht legal. Es wäre relativ easy, das legal zu machen, gleich wie man es jetzt zum Beispiel bei den Tankstellen hat mit der E-Control und so weiter, gibt es leider anscheinend keinen politischen Willen, egal auf welcher Seite man denn sucht. Aber du hast das ja trotzdem geschafft. Ja, ich habe mich da juristisch exponiert, sozusagen. Und es war wahrscheinlich die Kalkulation vom Handel der, dass der Schaden, wenn sie mich irgendwie angehen, größer wäre, als wenn irgendein Internet-Clown die Daten quasi auf eine Webseite stellt. Aber prinzipiell mache ich was, was juristisch im Graubereich ist, sagen wir mal so.

SPEAKER_00 5:33

Ist das aber halt grundsätzlich bei IT-Themen oft der Fall, dass man sich da in Graubereichen bewegt, weil die Politik signifikant langsamer ist?

SPEAKER_01 5:43

Nein, das würde ich so gar nicht sagen. Es gibt einfach rechtliche, es gibt einfach Reglements, juristische, rechtliche, die bestimmte Arten von Absaugen und Wiedergeben von Daten halt einfach nicht legal macht. Die einfachste Variante ist, ich gehe auf die Spar- oder Bilder-Webseite und da gibt es eine AGB, also allgemeine Geschäftsbedingungen, wo drinnen steht, du Computerheißel, darfst du unsere Daten von der Webseite nicht absaugen und wiedergeben auf deiner eigenen Suchmaschine, weil Gründe. Auf der anderen Seite hat aber der Spar und der Bilder auf ihrer Webseite so eine Datei auf ihrem Server, wenn ich da drauf gehe, mein Browser holt sich die runter und die heißt Robots.txt. Und da drinnen wird angegeben, was Suchmaschinen durchsuchbar machen können auf dieser Seite. Womit sich dann herausstellt, dass zum Beispiel Google ohne Probleme alle Produkte von Bilder und Spar listen kann auf ihrer Product-Search-Seite, inklusive Bilder, was wir gar nicht gemacht haben, weil da trauen wir uns nicht, weil da liegen die Rechte bei den Produzenten und nicht beim Bilder und Spar. Tja, also je größer man ist, desto weniger Probleme hat man anscheinend. Aber für so kleine Wutzis ist es halt ein bisschen eine, ich würde nicht sagen gefährlich, weil wie gesagt, die Kalkulation der Lebensmittelhändler wird sein, das ist uns wurscht. Aber es ist halt nicht angenehm, wenn man die Perspektive hat, dass man jederzeit irgendwie verklagt werden könnte.

SPEAKER_00 6:59

Ja, das verstehe ich. Aber das heißt auch grundsätzlich, weil du kleine Wuzis gesagt hast, Pi ist ja, also ich habe mich mit Freunden unterhalten und die sind alle sehr froh darüber, dass es dieses Tool gibt. Magst du auch kurz erzählen, was war denn Beweggrund einen so simplen Agent, auch wenn du nicht immer happy, glaube ich, bist mit der Agent, ja.

SPEAKER_01 7:23

Da kann man sich nur unterscheiden, was das Ding kann und was es nicht kann. Aber vielleicht sollte man das eh kurz aufrollen, was ein Agent eigentlich ist. Also wir alle kennen wahrscheinlich dann den Chat-GPT im Web, weil ich mit ihm reden kann und ich frage ihn was und er gibt mir eine Antwort. Und wir können das über lange Historie hinweg machen und mittlerweile kann er auch das Web für mich durchsuchen und ich kann Dateien raufladen, die er lesen kann, wie PDFs, mehr schlechtes Recht, und so weiter und so fort. Aber prinzipiell mit meinem Computer interagieren kann das Ding zum Beispiel jetzt nicht, wenn ich auf chatgpp.com gehe oder auf cloud.ai oder Google Gemini, was auch immer da die Geschichte ist. Bei einem Agenten ist es so, dass ich ihm zusätzlich zu diesem Chat-Interface auch noch Werkzeuge gibt, mit der er dann entweder mit meinem Computer oder mit einem Service im Internet oder mit der physikalischen Welt interagieren kann. Und das auch bis zu einem gewissen Grad autonom machen kann. Also man kann sich das vorstellen: Was könnte ein Agent machen? Ich könnte einem Agenten ein E-Mail-Tool geben, mit dem man meine E-Mails, meine Inbox durchsuchen kann, E-Mails archivieren kann, E-Mails eine Antwort vorbereiten kann oder sogar senden kann und so weiter. Das kriegt er als Werkzeug. Diese Werkzeuge verwendet er, indem er einfach ausspuckt, E-Mails lesen. Und dann gehe halt nicht ich als User hin und hole die E-Mails raus und stopfe sie ihm rein, sondern das System um das Modell holt sich diese E-Mails und stopft ihm quasi anstatt einer User-Antwort rein, womit er dann wieder angeworfen wird und den nächsten Schritt ausführen kann. Und das ist im Endeffekt ein Agent, also ein Large Language Model, dem man Werkzeuge gibt, der selbstständig sich im Kreis drehen kann, bis es glaubt, es ist fertig mit der Aufgabe. Und Pi ist jetzt eine konkrete Ausformung von so einem LLM-Agenten, das halt spezialisiert ist eigentlich auf Coding, also sprich aufs Programmieren. Und ich bin ein bisschen collateral geworden, weil der Peter Steinberger, ein Kumpel von mir, Pi als Unterbau für Open Claw verwendet hat, der in den letzten Monaten so ein bisschen einen Meteoric Rise gehabt hat, sowohl in der IT-Szene als auch außerhalb, weil es der erste persönliche Agent war, der für die halt alle möglichen Sachen machen kann, von Bierbrauen über E-Mails, über Tickets buchen, über Schieß mich tot, ja. Das ist quasi jetzt der Claim to fame hier.

SPEAKER_00 9:41

Es ist ja, aber warum hast du dich entschieden, dass du so minimal hältst?

SPEAKER_01 9:49

Weil ich ein alter Mann bin und ich gern minimale Tools habe, die ich auch verstehen kann und die ich kontrollieren kann und die ich je nach Aufgabe nur für diese Aufgabe spezifisch modifizieren kann, damit sie für diese Aufgabe passen. Also nicht jede Aufgabe in der IT oder in der Softwareentwicklung ist das gleiche. Und für Manke-Aufgaben braucht das LLM quasi andere Werkzeuge als für ein anderes Set an Aufgaben. Und die existierenden Coding-Agents wie Cloud Code oder Codex oder was auch immer, die hatten das jetzt nicht so ganz out of the box verfügbar, dass ich sie modifizieren kann. Jedenfalls nicht in dieser Tiefe, wie man PI modifizieren kann. Und das zweite Problem war, dass Cloud Code und Codex gebunden sind direkt an jeweils eine Firma und an deren Modelle. Und das wollte ich eigentlich auch nicht, weil wie gesagt, Monopole oder Duopole sind eher scheiße. Sorry, darf man in diesem Podcast machen?

SPEAKER_00 10:44

Ja, darf man, darf man, definitiv.

SPEAKER_01 10:48

Und die haben sich auch die ganze Zeit verändert und meine existierenden Workflows quasi dadurch kaputt gemacht. Und deswegen habe ich gesagt, wie schwierig kann es sein, ich baue mir jetzt selber so ein Ding, das neutral ist, das mit allen Modellen und Anbietern arbeiten kann, das minimal ist, aber erweiterbar, dass es quasi jede Form annehmen kann, die ich brauche als Agent. Und das ist dann quasi Pi worden. Und die eigentliche Erkenntnis für mich war, dass nachdem Modelle jetzt da Code schreiben können, die Software, in der sie laufen, also diese Agentic Harness, wie man es nennt, warum lässt man das Modell nicht einfach seine eigene Software, in der es läuft, modifizieren? Und das ist eigentlich der Grundgedanke von Pi. Also dass wir jetzt irgendwie so in ein Zeitalter kommen, wo Modelle oder Agenten die Software innerhalb derer sie laufen, selbst modifizieren können, um sich an einen Task anzupassen. Und das ist so die Grundthese von Pi eigentlich.

SPEAKER_00 11:43

Coding hat sich ja durch KI, also darüber haben wir noch gar nicht geredet, aber das ist ja Coding, wenn ich so mit Freunden rede, die sagen, ihr Job ist zu 180 Grad anders, seit es diese LLMs gibt.

SPEAKER_01 11:57

Ja. Es kommt darauf an, wie man die Tools einsetzt. Also wenn ich mich vor die Maschine hinsetze, kann ich sagen, schreib mir, programmiere mir diese Webseite und sie soll XYZ können und dann gehe Kaffee trinken und komme zurück und dann ist eine Webseite mehr oder minder fertig und ich kann damit zufrieden sein oder nicht. Das kann man natürlich auch auf größere Software oder komplexere Software anwenden, da wird es aber dann schon ein bisschen diffiziler aus Gründen. Die Frage ist dann als Entwickler, als Softwareentwickler, bin ich zufrieden mit dem Ergebnis oder nicht? Und wie finde ich heraus, ob ich zufrieden bin mit dem Ergebnis oder nicht. Aktuell sind wir leider in einer Phase, wo die Leute die Outputs von diesen Systemen gar nicht mehr anschauen, womit dann ganz viel Scheiße in die Codebases, also in den Source-Code, der da generiert wird, reinkommt, womit die Produkte selber ein bisschen instabil werden. Und das zweite Problem ist, dass man dann als Entwicklerin auch irgendwie vergisst oder nicht mehr weiß, wie die eigenen Systeme funktionieren. Man muss sich dann quasi auf den Agenten wieder verlassen, dass er dir erklären kann, wenn irgendwas kaputt geht, warum das so ist und wie man es lösen kann. Ich sehe meine Aufgabe als Entwickler nicht so gelöst von der Realität, noch nicht, weil die Modelle aktuell noch immer zu viele Fehler machen. Aus ganz vielen Gründen, die wahrscheinlich das da jetzt sprengen würden und auch ein bisschen zu technisch sind. Meine Herangehensweise ist, dass sie mir quasi die geschissene Arbeit abnehmen. Also alles, was ich nicht machen will als Entwickler. Darunter vor allem Dinge wie, irgendein User rapportiert ein Problem. Die meisten User sind ganz, ganz schlecht darin, Probleme so zu rapportieren, dass ich alle Details habe, um das reproduzieren und damit lösen zu können oder zu fixen zu können. Früher hätte ich mich hingesetzt am Vormittag oder am ganzen Tag und versucht, das zu reproduzieren, was der User einen Fehler gesehen hat. Jetzt sage ich einem Agenten, da ist die Nachricht vom User, versuche das Problem, das auch zu reproduzieren, damit wir verstehen, warum es passiert und dann kann ich es lösen. Das erspart mir am Nachmittag bis am ganzen Tag an Arbeit und das ist unglaublich wunderbar, weil ich mich dann auf andere Dinge konzentrieren kann. Und die eigentliche Aufgabe eines Software-Entwicklers ist ja nicht das Programmieren, nicht das Tippen des Codes an sich, das ist das Leichte dran. Die eigentliche Aufgabe eines Entwicklers oder einer Entwicklerin ist eigentlich, sich mit den Usern, wie auch immer man die definieren will, auseinanderzusetzen und zu schauen, was brauchen die überhaupt, was wollen die überhaupt und das dann umzusetzen in Software, die diese Erfordernisse erfüllt. Das ist die eigentliche Aufgabe von einem Entwickler. Und ich denke, dass man mit Agenten diesen Feedback Loop zwischen Userin will was, Entwicklerin baut das und dann schaut man gemeinsam, das WE passt, komprimieren kann, was die Zeit betrifft. Eben durch solche Geschichten, wie ich es gerade erklärt habe, oder ich kann auch mich als Softwareentwickler hinsetzen und sagen, das ist die Architektur von dem, was ich baue, ohne jetzt großartig viel Code zu haben. Lieber Agent, füll ihn fülle den restlichen Code für mich aus, weil der restliche Code ist quasi eh nur mehr so, wir nennen das Boilerplate, wie kann man das am besten übersetzen. So was eher jeder locker kann. Also da brauche ich mir keine Gedanken machen, ist der Agent schlau genug, das zu machen oder nicht, das kann er, das weiß ich, da kann ich ihm vertrauen. Wenn ich eine Ebene höher gehe und sage, Agent, mach mir die ganze Architektur von einem System, haben wir nach wie vor ein Problem und da gibt es auch technische Gründe, warum das aktuell noch nicht so ganz gut funktioniert. Das hat was mit dem Training dieser Modelle zu tun, wie die Daten ausschauen, mit denen sie trainiert werden, um sich Aufgaben erfüllen zu können oder eben nicht, da sind wir noch nicht so weit. Einfach vor dem Hintergrund, dass so Systemdesign, die Kommunikation mit den Userinnen, das Ganze einzuarbeiten in das Systemdesign und so weiter, das sind keine Daten, die vertextlicht sind. Nicht notwendigerweise in einer Form, auf die man trainieren kann. Und wenn man es nicht in einer Form vorliegt, auf die ich das LLM trainieren kann, kann das LLM diese Tätigkeit auch nicht lernen. Deswegen sind diese Dinge noch immer ziemlich beschissen in Architektur und User Requirements, Engineering und all diesen Sachen.

SPEAKER_00 15:54

Erklärt das dann auch diesen Token-Wahnsinn, der da betrieben wird, beispielsweise bei Uber, die irgendwie in ein paar Monaten alle Token fürs CR beispielsweise verbraucht haben?

SPEAKER_01 16:07

Also, ich mag da jetzt niemandem irgendwas andich, aber so meiner Beobachtung nach und was ich so durch die Weinrebe höre, hat das verschiedene Gründe, warum die großen Unternehmen jetzt gerade sogenanntes Token-Maxing betreiben. Das heißt, jede Mitarbeiterin muss so viele Tokens im Monat verwenden oder nicht, wie möglich. Und es gibt sogar Leaderboards, wo man gerankt wird, wie viel Token man verwendet wird. Die werden aber jetzt gerade auch wieder abgeschafft. Die werden wieder abgeschafft, ja, Gott sei Dank. Aber ich glaube, dass es da zwei Gründe geben hat. Zum einen FOMO, also Fear of Missing Out. Das heißt, viele Unternehmen hatten jetzt den Grusel, dass sie nicht AI-ready sind und jetzt müssen alle unter, jetzt müssen alle Mitarbeiterinnen einfach so viel AI verwenden wie möglich und wir messen das natürlich. Wir brauchen irgendeinen KPI, der und sagt, wir sind super AI-ready. Das ist natürlich dämlich. Also fetzendämlich. Das ist ja wie irgendwann einmal hat es ein bisschen die Mode gegeben, wir messen die Produktivität unserer Programmiererinnen, indem wir die Anzahl an Zeilen an Code zählen, die sie schreiben. Das ist ähnlich fetzendeppert. Das sagt ja nichts über das Produkt oder die Produktivität aus.

SPEAKER_00 17:06

Quantität sagt ja grundsätzlich selten was über Qualität aus.

SPEAKER_01 17:10

Und mit Agenten ist es fast eher das Gegenteil, aber da kann man auch dazu kommen. Das ist der eine Grund, also Fear of Missing Out. Die wollten ja einfach alle AI-ready sein und das müssen sie irgendwie messen. Der zweite Grund ist, dass viele dieser großen Unternehmen, vor allem von den Magnificent Seven, halt auch nicht abhängig sein wollen von OpenAI und Anthropic und selber auch Modelle bauen. Und was brauche ich, um Modelle zu bauen, speziell agentische Modelle? Ich brauche die Daten, Konversationen, die ein Mensch mit einem Agent, der schon existiert und dem dahinterliegenden Modell, hat, weil die kann ich für das Training meines eigenen Modells verwenden. Man kann sich das so vorstellen. Bei Facebook kann jemand Cloud Code verwenden mit Anthropic Modellen. Facebook speichert diese Konversationen, diese Sessions, und kann das dann verwenden, um ihr eigenes Modell zu verwenden auf Basis dieser Konversationen mit dem Anthropic Modell. Und ich glaube, dass viel dieses Token Maxings auch daher kommt, dass eben diese großen Firmen Trainingsdaten brauchen, um ihre eigenen Modelle zu trainieren.

SPEAKER_00 18:08

Also machen die quasi benutzt Spionage ein Stück, weil halt vielleicht Spionage ist der falsche Ausdruck.

SPEAKER_01 18:17

Sagen wir mal so. Also Anthropic und OpenAI haben ja mehrere Class Action Lawsuits anhängig bezüglich ihrer Datenhunger, wo sie unser aller Daten quasi unentgeltlich für das Trainieren ihrer Modelle verwendet haben. Ich finde, das ist eine ganz eine faire Geschichte, wenn man dann sich umdreht und sagt, ja gut, dann jetzt nehmen wir den Output eurer Modelle und trainieren darauf unsere Modelle. Ich sehe da jetzt persönlich kein moralisches Problem damit. Es stellt sich dann nämlich auch die Frage, wenn Anthropic und OpenAI sagen, na, mit unseren Outputs, unsere Modelle, dürft ihr keine Modelle trainieren, was hat es dann für einen Effekt auf die Outputs, die ich von diesen Modellen von Anthropic und OpenAI in meiner Firma verwende? Wenn Anthropic und Open AI diktieren können, was die rechtlichen Eigenschaften des Outputs sind, dann ist das für mich als Firma ein Problem, wenn ich deren Modelle ihre Outputs verwende. Weil dann bin ich quasi abhängig davon, wenn ich diese Outputs in meine Produkte integriere, was Anthropic und OpenAI an diesem Tag meinen, wofür man ihre Outputs verwenden darf und nicht.

SPEAKER_00 19:22

Also das heißt, man ist eigentlich, wenn ich die richtig verstehe, wir sind nicht der Eigentümer unserer eigenen Outputs, die wir im LLM produziert haben.

SPEAKER_01 19:31

Das ist die Frage. Also wenn man sie fragt, darf ich den Output in mein Produkt reinpursten? Oder einfach nur, wenn ich die LLM eine E-Mail schreiben lasse, darf ich die schicken, ohne irgendwie Copyright, Lizenzgebühren oder sonst irgendwas an Anthropic und Open Area zahlen zu müssen? Und da werden sie sagen, na, natürlich braucht es nichts zahlen, das geht euch alles, ja. Aber wenn man sagt, darf ich die Outputs verwenden, um mein eigenes Modell zu verwenden, zu trainieren, dann sagen sie, nein, natürlich nicht. Nur ich sehe da halt den großen Unterschied nicht. Weil entweder kann ich die Outputs verwenden oder ich kann sie nicht verwenden. Und zwar ohne irgendwelche Einschränkungen, weil das würde bedeuten, dass Entropic und OpenAI jederzeit neue Einschränkungen einführen können. Und was zuvor erlaubt war, laut OpenAI and Entropic ist plötzlich nicht mehr erlaubt. Und man sieht es auch im Valley aktuell. Kleine Startups verwenden Entropic Modelle, um ihre Produkte zu bauen, bauen vielleicht AI-Produkte in irgendeiner Art und Weise und auf Arme trat ihnen Anthropic den Zugang ab. Ich weiß nicht, ob ich in so einer Welt leben will.

SPEAKER_00 20:30

Ja, das ist schockierend, vor allem voran, wenn man denkt, dass Enthropic ja immer das gute Unternehmen sein will.

SPEAKER_01 20:39

Der Dario, der Chef, der stellt sich raus und sagt, alle Programmiererinnen werden bald Jobless sein, weil wir ersetzen euch alle Scorched Earth und wir haben keinen Ersatz, tut mir leid, Trollerloff, für Glück im Leben und so weiter. Und gleichzeitig sich Enthropic schimpfen ist halt auch. Dass das nicht der Fall sein wird, dass Softwareentwicklerinnen so schnell ersetzt werden, vollständig durch Agenten, sublimiert, ja. Empowered, ja. Mehr Produktivität, ja, gern, aber nicht ersetzt, aus den Gründen, wie wir vorher schon geredet haben, ist einfach nur fahrlässig. Das ist im Endeffekt ein Drumming-Up von Marketing-Bullshit, um den Wert seiner Firma zu erhöhen. Und das halte ich halt für wenig anthropic oder menschenfreundlich.

SPEAKER_00 21:15

Aber es gibt ja gleichzeitig gerade ja, also Sam Altman und Armut Eye rudern ja beide gerade zurück. So, oh wait, das werden doch nicht alle ersetzt. Aber weil sie kurz vor knapp vor einem IPO stehen und das Geld brauchen.

SPEAKER_01 21:28

Ja, und IPO hat ja auch den blöden Nebengeschmack, dass dann plötzlich Bücher öffentlich werden und man irgendwie Einsicht bekommt in wo das Geld hingeht, wer deine Kunden sind, teilweise auch, wie die Kunden deine Produkte verwenden und so weiter. Und wenn das erst einmal öffentlich ist, dann wird man halt auch sehen, dass diese Versprechungen, die die letzten fünf Jahre gemacht wurden, was jetzt das Ersetzen von Menschen zum Beispiel betrifft, vielleicht nicht ganz eintreffen und vielleicht nicht ganz wahr sind. Und dass es da auch technische Caps gibt, wie weit das gehen kann, im Sinne von wie viele. Menschliche Aufgaben kann ich durch Eher ersetzen.

SPEAKER_00 22:04

Aber wie hast du dann Anfang des Jahres Moldspot oder Cloudspot, dann Moldspot? Und das war ja im Silicon Valley wirklich eine Manie. Leute haben sofort gepostet, ja, mein Agent hat ein Auto gekauft und dann sind gleichzeitig auch so Horrorgeschichten passiert wie: Mein ganzes Krypto-Wallet ist leergeräumt worden. Also das war ja.

SPEAKER_01 22:27

Ja, was soll ich dazu sagen? Also sagen wir mal so, der Peter hat da was echt total Lustiges baut, finde ich. Also tatsächlich einmal lustig auf der ersten Seite. Ich durfte am Anfang da ein bisschen Einsicht auch haben. Und die erste Variante von War-Relay mit ihm ausprobieren, wo wir seine Putzhilfe in London in seiner Wohnung irgendwie geschreckt haben, indem wir diesen personellen Agenten Zugang zu seiner Home Automation-Geschichte gegeben haben. Und ich habe dann irgendwann gesagt, du Barrel Roll. Und plötzlich hat das Ding in London in der Wohnung von ihm einfach alle Lichter eingeschaltet. Und ich glaube, die Musik oder so. Und wir haben nicht gewusst, dass die Putzhilfe da war. Und die hat sich vollkommen geschreckt, weil plötzlich das Haus quasi angefangen hat zu leben. Also für mich war das ursprünglich ein Spaß. Ich habe nicht erwartet, dass das so explodieren wird. Ich glaube, der Peter hat da ein bisschen eine bessere Einsicht gehabt und schon gesehen, dass das wahrscheinlich irgendwie die Zukunft ist. Diese Personal Assistance oder Personal AI Assistance, die Zugang zu deinem ganzen Leben haben, sowohl im physischen als auch im digitalen Bereich. Und die Sache ist die, diese Dinge können gefährlich sein, wenn man ihnen Zugang zu Sachen gibt wie einem Konto oder sonstigen Dingen. Wenn man sie nicht überwacht und wenn man zum Beispiel eine Transaktion einfach durchgehen lässt, ohne Human in the Loop, ohne zu sagen zu müssen, ja, das will ich. Man muss daher das System so konfigurieren, dass es keinen Blödsinn machen kann, indem es entweder keinen Zugang zu Sachen gibt, die sensitiv sind, oder indem man so diesen Human in the Loop reinschleift, wo man sagt, bei Benutzung von einem bestimmten Service, das sensitiv ist, wie Schreiben eines E-Mails oder Senden von Geld, zuerst den User fragen. Und sonst geht das gar nicht durch. Das Problem ist, dass die Konfiguration halt ein bisschen schwierig ist von diesen Sachen. Und dass dann viele Leute das Ding installieren und verwenden, ohne sich darüber Gedanken zu machen, was sie da tun. Und dann passieren halt so Sachen wie, mein Wallet ist plötzlich leer und so weiter. Das ist auch der Grund, warum die großen Unternehmen wie Anthropic und OpenAI das nicht gemacht haben vor dem Peter. Weil das ist eine große Liability, wenn ich einem Personal Assistant raushaue, der ein Konto layer räumen kann. Der Peter hat sich da nicht scheren müssen, weil der Peter hat ein Open Source-Projekt gemacht, das quasi frei von Liabilities ist, weil es ist ein Open Source Projekt. Use at your own risk.

SPEAKER_00 24:37

Er hat halt, und er hat circa, glaube ich, tausendmal auf X geschrieben, read the Doc. So ist es.

SPEAKER_01 24:43

Und es ist halt wirklich schwierig, Leute dazu zu bringen, sich Gedanken darüber zu machen, was sie da jetzt an Software einsetzen, was die kann und wo die Benefits und Risiken sind. Das interessiert halt keinen. Weil es dann halt auch ganz viele Kräfte auf Social Media gibt, die da halt sagen, was das nicht alles für tolle Sachen machen kann. Und gib ihm deine Kreditkarte und gib ihm das und gib ihm das und gib ihm das. Das geht für technically minded Leute, weil wir hoffentlich oft eine Ahnung haben, was wir tun. Wenn es das einer General Populous gibt, also Normis gibt es eher eine schlechte Idee. Man muss aber dazu sagen, dass der Petin letztes Mal extrem viel Zeit aufgewendet hat, um das sicherer zu machen für Normis. Und ich glaube, er war selbst, ich meine, ich mag ihm nicht den Mund reden, aber ich glaube, er war selbst ein bisschen überrascht davon, dass es aus der Tech-Sphäre, wo es halbwegs sicher ist, in die Normis-Sphäre rübergeschwappt ist. Ich glaube, er hat das nicht anzipiert und deswegen im Vorhinein nicht diese ganzen Sicherheitsvorkehrungen eingebaut.

SPEAKER_00 25:33

Es war ja halt, um das dann abzus, es war ja ein Hype, das war ja das ihrer Hype, wie alle McMinis waren in der ganzen Bay Area ausverkauft. Das war dann zwischenzeitlich auch in Europa. Mediamarkt hat die McMinis auf einmal billiger angeboten. Das war schon.

SPEAKER_01 25:51

Und in China ist es wirklich big in China. Also unglaublich, was dort werden tatsächlich Businesses damit, wie soll man sagen, unterfüttert. Also Mom and Pub-Shops, die jetzt ihre eigene Open Claw rennen haben, die die ganze Backoffice-Geschichte machen für das Unternehmen. Großunternehmen, die einzelne Abteilungen davon irgendwie nicht leiten, aber zumindest koordinieren helfen. Und Instation-Events, wo tausende Leute sich an einem Tag treffen, um auf ihren Laptops und sonstigen Sachen Open Claw installiert zu bekommen und so weiter. Also es ist mind-blowing. In Europa wird sowas nicht passieren. Aber warum sind wir da so? Ich mag mich nicht daraus lehnen und große Thesen haben. Jetzt nur von meiner persönlichen Art aus gesehen, wir sind halt als Europäer sehr risikoavers, was es in vielen Bereichen helfen kann. In anderen Bereichen, speziell wenn es um die Adoption von Technologie geht, kann es ein Nachteil sein. Ob das jetzt im konkreten Fall von Open Claw ein Nachteil ist, das würde ich jetzt einmal so bezweifeln. Also es ist ein cooles Tool, aber ich glaube, es entgeht niemandem was, wenn es nicht ausprobiert. Sage ich jetzt einfach mal so. Wirklich? Ja.

SPEAKER_00 27:05

Okay. Aber weißt du was? Wir sagen, du sagst, wir sind risikoververse. Ich würde das teilen, diese Meinung, dass man eher immer ein bisschen skeptisch ist zur neue Technologien. Aber gleichzeitig haben wir in Österreich dich, einen Peter Steinberger, Phonio. We have MEI.

SPEAKER_01 27:24

Wem hilft das? Ich mach mich da jetzt nicht selbst tiefstapeln, weil es also so eine European is so: the Einfluss of us on the world is not so verschwindend.

SPEAKER_00 27:36

Yeah, but the influence on the world is dahingehend that to overthrive, but 100.000 verwenders, weil they say it machines my life as coder besser.

SPEAKER_01 27:51

Yeah, yeah, but this was ohne AI vorher schon the fall for software, which I showed, or software of anderen Leuten aus Österreich. Also ich sehe jetzt AI an sich nicht als die Triebfeder sozusagen, sondern einfach Bau Software, die Leute machen und Software, wenn die Leute mögen und die Software, die Leute verwenden. That's it. Aber jetzt so die großen, weiß ich nicht, wie der heißt, Vienna School of Agentic Coding. Peter, Armin und ich, ja. Der Peter arbeitet ganz, ganz anders als ich mit diesen Coding-Tools. Also es ist irgendwie fast lächerlich davon zu reden, dass es da eine Vienna School of Agentic Coding gibt. Es verkauft sich halt gut in Marketing Materials. Und sagen wir mal so, wir wurden auch schon, wir hatten auch schon Telefonate mit staatlichen Orgas, die das irgendwie ausbeuten möchten, dass da jetzt quasi so ein bisschen ein Bass around Vienna und uns drei, vor allem um den Peter ist. Ich finde das lieb, aber wenn ich mir die Echtweltauswirkungen unserer Arbeit anschaue, der Peter hat mit OpenClaw Claw was geschaffen, was irgendwie zukunftsweisend ist, auch wenn es noch nicht ganz dort ist, wo es sein soll, technisch. Wird aber sicherlich irgendwann einmal der Fall sein. Da Armin und ich versuchen gerade in der Softwarewelt zu sagen, die Tools sind unglaublich gut, aber lasst ihr hier nicht bei der Tier hängen. Das ist der Einfluss, den wir haben. Dadurch werden jetzt aber keine neuen Unternehmen in Österreich gebaut. Dadurch gibt es nicht mehr Anstellungen, dadurch gibt es nicht mehr GDP oder sonst irgendwas. Das ist mostly, beim Peter vielleicht ist es anders. Aber für mich und Armin jetzt zum Beispiel ist es mostly Opinion Leadership.

SPEAKER_00 29:36

Und das, ja. Aber ja, aber zum Beispiel, du sagst es, Opinion Leadership, dein Essay. Hello in the fuck down. Das ist ja, also die ganze KI-Welt lebt ja irgendwie so einen Januskopf. Einerseits sagt man, es ist gut und irgendwie, aber es ist auch irgendwie schlecht und es ist downseits.

SPEAKER_01 29:58

Es ist ein neues Tool und wir finden das Industrie gerade heraus, wie wir es am besten verwenden können. Das ist die Quintessenz. Und manche rennen in diese Richtung und andere rennen in diese Richtung und eventuell werden wir uns alle in der Mitte treffen. Ich sehe mich jetzt nicht konkret an einem Ende des Spektrums extrem oder so. Ich verwende die Tools unglaublich viel. Nicht ganz so viel wie der Peter, aber wahrscheinlich zum Beispiel mehr aus der Armin. Ich habe halt ein bestimmtes, wie soll man sagen, ich möchte halt mein Gehirn nicht abgeben. Und ich weiß oder sehe evidenzbasiert aktuell, dass die Systeme autonom noch nicht Software bauen können, wie sie gebaut gehört, damit sie auch in drei Monaten noch laufen.

SPEAKER_00 30:36

Siehst du dieses ganze, also KI kann unheimlich schnell viel Code produzieren, dass das auch mittlerweile eine Gefahr für die Open Source Community wird?

SPEAKER_01 30:48

Gefahr, würde ich nicht meinen. Es ist aktuell so. Also ich habe 20 Jahre jetzt Open Source gemacht. Ich weiß also, wie man so Communities baut, wie man Open Source Software baut und gemeinhin, wie das normalerweise funktioniert, man stellt den Source-Code von einer Software ins Netz und dann kann man Leute von der ganzen Welt und sagen, ich würde da gern bitte noch was dazu bauen wollen und schicken dir Code, den du integrieren kannst. Oder es kommen Leute und reporten ein Problem und sagen, da ist was, das funktioniert nicht, bitte fixen oder so. Vor KI war das so, dass beides ein Aufwand war für die Person, die mir entweder Source-Code schickt, der zu integrieren ist, oder ein Issue schickt, wo beschrieben wird, was das Problem ist. Jetzt mit Agenten, Coding-Agenten im Speziellen, ist es so, dass Leute teilweise selber gar nicht mehr wissen, dass ihr Agent bei meinem Source-Code im Internet jetzt ein Issue-File, also einen Report macht oder mir Source-Code zum Integrieren schickt. Ich als Maintainer dieser Software kann aber nicht instantan sehen, ob so ein Issue oder so ein Pull-Request, wie es heißt, wenn der Code herkommt, von einem Menschen gemacht wurde und gut ist? Oder von einem Agenten hingerotzt wurde. Das heißt, aktuell hat Open Source das Problem, dass über Agenten zu viel reinkommt an Issues und PRs und wir das als Menschen filtern müssen und schauen müssen, das ist gut und das ist schlecht.

SPEAKER_00 32:06

Ich habe oft das Gefühl, wenn ich Dinge recherchiere, dann schicke ich halt meinen Agenten los, alt Deep Research, bla, bla, kommt zurück. Und wenn es drei, viel gleichzeitig gelaufen hast, kommt sehr viel rein. Und dann verdenke ich mir, okay, ich bin das Problem, weil ich kann das gar nicht abbauen.

SPEAKER_01 32:22

Du bist der Bottleneck, den es braucht, damit du garantieren kannst, dass die Qualität dessen, was da zurückkommt, das dann hoffentlich auch irgendwie in journalistische Arbeit weiterführt, dass das auch Hand und Fuß hat. Weil es ist jetzt nicht so, dass die dauernd halluzinieren oder was ich immer, speziell wenn sie Werkzeuge wie Websearch und so weiter haben. Aber sie machen trotzdem auch immer extrem viele Fehler, die halt subtil sind. Und wenn du dann die Outputs solcher Maschinen, gerade in journalistischer Arbeit, einfach mir nichts dir nichts ohne Review raushaust, was ist dann deine Leistung? Zwar was brauche ich dann Journalismus noch, ja. Die Aufgabe wäre eigentlich, man kann diese Tools verwenden, um schneller Informationen zu aggregieren, zu überblicken, zu filtern, was ist relevant und vielleicht nicht relevant, aber am Ende des Tages kannst du nicht der Maschine die Verantwortung übergeben, zu sagen, du generierst jetzt die journalistische Arbeit, die ich deinen Leuten von den Latz knalle, die ihnen versucht, die Welt zu erklären, so wie sie sich am möglichst objektivsten sich offenbart. Wenn du das machst, dann brauche ich dir als Journalisten nicht mehr. Dann ist man austauschbar. Und es ist auch nicht so, dass die Systeme das aktuell leisten können. Aber das ist anscheinend auch jetzt im Journalismusbereich nicht mehr so gang und gäbe, dass man sagen kann, wir wollen schon noch den Menschen drinnen haben und das kontrollieren lassen und das nur als Supplement verwenden, als Tool und nicht als Journalist an sich. Sondern es wird jetzt vielleicht fröhlich auch im journalistischen Bereich damit hantiert, dass diese Dinge einfach den Endtext generieren und das einfach so rauswirft. Da fühlt sich halt der Journalismus auch irgendwie ad absurdum.

SPEAKER_00 33:55

Yeah, and my friend, I have in the forfeld for unserem with a friend so long, who code is um that you machine and what that so grossar is on my life. And they said, KI is film super and all that he does, but the code, when you do 10,000, I must review it. I must show if this passed, and that braucht Tage. And there is the KI just so this heils bringer.

SPEAKER_01 34:25

Yeah, yeah, so the directionally right. Wenn ich eine Software baue, wo dann at the end des Tages irgendwo ein Financial Report generiert wird, dann muss ich diesen Teil des Codes verstehen, um sicherzustellen, dass the Financial Report, der generiert wird, auch tatsächlich correct is. Es wäre sehr schlecht, wenn my software Financial Reports generiert, die falsch sind. When my software irgendwo ein Katzen-GIF generiert, dann ist mir ziemlich scheißegal, wie der Code ausschaut, der dieses Katzen-GIF generiert, das lasse ich den Agenten machen. Weil ob die Codes jetzt da zwei Ohren oder drei Ohren hat, ist mir dann am Ende des Tages vielleicht auch wurscht. Ja, das ist sowieso, ja. Aber der Punkt ist, es gibt Teile an Software, wo man den Code nicht reviewen muss, weil sie einfach nicht Mission-Critical sind. Und dann gibt es halt natürlich Teile, da muss man den Code reviewen, der eine Agent ausspuckt, weil der Mission-Critical ist. Und dann gibt es halt Leute, die sagen, ja, aber das ist ja alles kein Problem mehr, weil die Agent kann ja dann Fehler finden und die lösen. Und ja, das stimmt schon. Aber das Problem ist, deine Codebase wird immer größer und immer größer. Und Large Language Models haben die unangenehme Eigenschaft, dass sie nur eine bestimmte Menge an Daten auf einmal verarbeiten können. Wenn eine Codebasis, das jetzt größer ist als die Kapazität von einem Large Language Model, dann hast du verloren, wenn du dich darauf verlässt, dass der Agent, also das Large Language Model, Probleme lösen kann, die selbst verursacht hat, indem es Unmengen an Code rausscheißt, den du als Programmiererin gar nicht mehr angeschaut hast. Das ist das Problem. Und passiert das, glaubst du, also viel zu oft? Es passiert aktuell volle Gerne. Zu Weihnachten letztes Jahres haben Tropic und OpenAI alle so Coupons ausgeschüttet, damit Leute in ihren Weihnachtsfhären quasi sich Cloud Code, Codex und alles ihre Coding-Agents anschauen können. Davor hatten die meisten Leute keine Zeit, sich damit zu beschäftigen. Da Armin, ich und der Peter sind quasi Funemployed sind's forever und hatten Zeit. Wir konnten also diese Psychose schon im Vorhinein durchlaufen. Die anderen haben sie erst seit Weihnachten durchlaufen. Und was dann passiert ist nach den Weihnachtsfähern ist, dass die alle zurückgegangen sind in ihre Softwareunternehmen und angefangen haben, was sie jetzt über Weihnachten mit den Coding-Agenten gemacht haben, in ihre Firma zu machen. Das heißt, einfach nur mal sagen, lieber Coding-Agent, mach mir das und mach keine Völler.

unknown 36:52

Passt.

SPEAKER_00 36:52

Und that's it. Cloud Make Numist. Ja, genau.

SPEAKER_01 36:56

Genau. Und was man jetzt seit hört von meinen Peers auch in der Industrie, in großen und kleinen Softwareunternehmen, ist, wir haben uns ein bisschen ins Knie gefickt, weil wir unseren Agenten ein bisschen zu viel erlaubt haben, weil sie ein bisschen viel Code generiert haben, den wir nicht reviewt haben und so weiter. Und da sind wir halt ein paar Probleme in unseren Code-Passen. Ich glaube, dass es ein Pendel ist. Wie ich vorher gesagt habe, wir wissen aktuell noch nicht, was die beste Variante ist, diese Tools einzusetzen und alle gehen in alle möglichen Richtungen. Aktuell ist der Trend hin zu Dark Factories, die Coding-Agenten machen alles, wir brauchen keine Softwareentwicklerentwicklerinnen mehr. Das stellt sich gerade heraus, dass es vielleicht nicht so der Fall ist und dass man schon noch Entwicklerinnen braucht und es vielleicht doch nicht so blöd ist, wenn man sich den Code auch anschaut, nachdem er generiert wurde. Pendel. Wir versuchen gerade herauszufinden, was das beste Maß ist, wie man die Tools einsetzt und das wird sich auch von selber irgendwann legen.

SPEAKER_00 37:44

Und darum gibt es dann auch diese Absurditäten, dass man Developer kündigt und dann irgendwie später drauf kommt, wait a minute, die Tokens sind zu teuer, wir brauchen doch mal wieder Menschen.

SPEAKER_01 37:54

Ja, genau. Also zum einen die Tokens sind zu teuer und wir sparen uns gar nichts und zum anderen, die Agenten verstehen das System jetzt auch nicht mehr und wir bräuchten tatsächlich jetzt wieder den Menschen, der das System originär designt hat, damit wir wissen, wie Dinge laufen. Also, wie gesagt, für mich ist ein sehr ungemeiner Produktivitätsboost. Das ist absolut nicht dahingestellt und ich bin kein Lootite, also kein Technologie-Feind. Absolut nicht, sonst würde ich die Sachen nicht bauen, die ich mache. Ich bin nur auch gleichzeitig für einen gescheiten Einsatz von diesen Tools. Und nicht, ich muss das jetzt verwenden auf Diflecom außer, sondern ich möchte es so verwenden, dass ich produktiver werde, dass die Qualität meines Produktes, meines Outputs höher wird, indem ich mir einfach, indem ich einfach freigespielt werde das Tool nimmt mir Sachen ab, damit ich mich freispiele, um an der Qualität meines Produkts zu arbeiten, um genau das zu bauen, was meine UserInnen wollen. Und nicht 10 Milliarden Features in mein Produkt einbauen, die keines Sau verwendet, nur weil es dem Agenten nicht sagen kann, dass es einbauen kann. Das ist nicht, wie man gute Produkte baut. Gute Produkte baut man, indem man viel Nein sagt.

SPEAKER_00 38:55

Schöner Satz. Das heißt grundsätzlich, also ich versuche das Ganze gerade auch ein bisschen zu verstehen, was KI mit uns allen macht. Und ich komme immer zurück, dass auf einmal Leistungen, Fähigkeiten, stärker priorisiert werden wie nachdenken, darüber konzeption. Was eigentlich nie immer so wertgeschätzt worden ist, weil es immer gerade mach. Also das beschreibst du ja eigentlich auch, wenn du sagst, man muss die Architektur bauen.

SPEAKER_01 39:26

Yeah, yeah, that lässt sich Übertragung von Programmieren auch in andere White Colour oder Knowledge Work oder Wissensarbeitssachen. Prinzipiell wäre das meine positive Vision der Zukunft, dass wir sagen, die Maschinen nehmen uns die Arbeit ab, sodass wir uns aufs Denken und Designen und Gsiteln fokussieren können. Ich bin mir nicht ganz sicher, ob das tatsächlich auch das ist, was passiert. Warum? Hast du schon mal auf LinkedIn geschaut? Ja, das ist eigentlich das erste Problem, dass du das eigentlich ein Oldbook. Nur mit tatsächlich menschlichen Avataren. Hast du, ich weiß nicht, wie weit du jetzt in Businesses integriert bist im Rahmen von dem, aber wenn du aktuell Business-E-Mails kriegst, dann sind das keine humanly written E-Mails mehr.

SPEAKER_00 40:12

Es ist kaum, auch wenn du auf Social Media Insta-Reels schaust, das erzählt dir keiner. Also wenn es der Zufall will, hast du zehn Reels, die dir hintereinander sagen, das hat dir noch keiner erzählt.

SPEAKER_01 40:24

Also die Quintessens ist alles geht gerade in sogenannten Slop unter, also KI-generierten Bullshit, den man aus der KI aussucht und eine andere KI fragt, du kannst mir das zusammenfassen, ich würde den Slopp nicht lesen. Ich sehe halt da jetzt den Impact auf uns als Gesellschaft als nicht besonders positiv, weil das ist so wie Bullshit-Jobs. Also zu was generieren wir denn Chance, wenn dann Easter wieder KI zum Beispiel verwendet und das E-Mail from them and to summarizen und so.

SPEAKER_00 40:54

Die ganz blöde Frage: Model Collapse. When das jetzt so weitergeht, wird dann nicht die KI endgültig irgendwann dümmer, weil alle nur noch so sehr naiv gedacht.

SPEAKER_01 41:06

Also, was du beschreibst, im Endeffekt, wenn ich die KI trainiere mit Daten, die sie selbst generiert hat, so wie wenn sie die Katze in den Schwanz beißt und irgendwann falst zusammen und kann, ist niemand gescheit. Ja, man hat geglaubt die letzten zwei Jahre, dass es ein großes Problem wird. Man hat aber ein paar Methoden gefunden, um dem ein bisschen entgegenzukommen. Prinzipiell ist es schon ein Problem. Was das größere Problem ist, ist, wenn wir das Denken abgeben und die KI quasi alles für uns erledigen lassen, dann entstehen halt auch keine neuen Dinge mehr. Weil Machine Learning-Modelle sind keine kreativen Dinge, sondern man kann sich das vorstellen, die haben so irgendwas haben es gelernt, verschiedene Themenkreise, verschiedene Fähigkeiten. Und was sie super können, ist, zwischen zwei Dingen interpolieren und so quasi was Neues zu generieren. Also zum Beispiel, es hat ganz viele, was kann man da hernehmen? Es hat ganz viele Angela Merkel-Reden gelesen und weiß deswegen, was ihr Stil und Ton und was auch immer ist. Und gleichzeitig hat es auch eine Ahnung von Quantenphysik und kann dir quasi Quantenphysik im Ton von Angela Merkel erklären. Was auch lustiger ist, Angela Merkel war eigentlich Physikerin und kennen sie wahrscheinlich Quantenphysik viel besser aus als wir uns jemals anderes. Aber das ist nur eine Interpolation an Sachen, die es gelernt hat. Also den Stil von Angela Merkel mit Wissen von Quantenmechanik verbinden. Das gilt auch für Coding. Im Coding-Bereich ist es auch so, dass die jetzt nicht kreative Dinge sind, die neue Algorithmen entwickeln. Kann sein, indem es zwei Algorithmen kombiniert, die vorher noch nicht kombiniert wurden. Aber einen neuen Algorithmus per se generieren, das ist jetzt ein Absolutismus, das stimmt nicht ganz, aber ich möchte es nur illustrieren, damit ist es eher unwahrscheinlich. Damit sich der Kreis schließt zum Model Collapse, wenn wir jetzt alle unsere Wissensarbeit von den Dingen machen lassen, dann operieren die innerhalb dieser Limits auf Basis ihrer Trainingsdaten. Sie können quasi nur das machen und nur interpolitieren zwischen Dingen, die es gesehen hat. Wirklich neue Dinge können sie nicht machen. Dann stelle ich mir die Frage, wo kommen denn die neuen Innovationen her, wenn wir alle unsere Wissensarbeit nochmal abgeben an Dinge, die quasi nur das, was schon war, irgendwie rekombinieren können? Ich weiß schon, viele neue Sachen sind nur eine Rekombination aus bestehenden Dingen, aber es ist eine andere Form von Rekombination. Es ist nicht so eine kreative Rekombination, wie der Mensch macht, sondern eine statistische Rekombination quasi.

SPEAKER_00 43:25

Aber wie löst es dann diese mathematischen Probleme, was die letzten Wochen, also Erdös, dies?

SPEAKER_01 43:31

Das ist ein super cooler Taschenspielertrick. Das ist super impressive. Also das ist wirklich, wirklich super impressive. Aber es geht wieder zurück zu diesem, was es tatsächlich gemacht hat, ist, es hat mehrere Theorien aus verschiedenen mathematischen Subfeldern genommen und die miteinander verbunden, um das Problem zu lösen. Was bei all diesen Dingen nicht dazu gesagt wird, ist dieses Ding natürlich unter der Anleitung von Mathematikerinnen. Das ist nicht so, dass du gesagt hast, hey Coral, da ist das eher das Problem 15, löse das, bitte. Sondern da gibt es vor. Und Nacharbeit, um diese Inputs und Outputs irgendwie so dem Modell zu geben, dass es das dann auch machen kann. Nichtsdestotrotz super fucking impressive. Also ich möchte es nicht runterspielen, aber es ist nicht so, dass das System jetzt da quasi ein kleiner Einstein ist, das einfach alles lösen kann.

SPEAKER_00 44:14

Ganz kurz nur Erdös, das waren Probleme, die seit 1946, mathematische Probleme, die seit 1946 bestanden haben und Gemini und ich glaube, es war GPT in dem Fall. Ja, na eins hat glaube ich Gemini und sechs hat GPT gelöst. Also innerhalb von kürzester Zeit.

SPEAKER_01 44:33

Letzten acht Monate. Also GPT war jetzt vor ein paar Wochen, ist das gemacht, zwei Wochen sogar erst. Gemini hat das, glaube ich, letztes Jahr schon gemacht und davor hat es halt Mathematikümperolympiaden gelöst und so weiter und so fort. Wie gesagt, alles super impressive. Aber wenn du dann so Mathematikern mit dem Terence Tao zuhörst, einer der brillantesten Mathematiker dieser Erde, dann wird der Dir halt sagen, ja, ja, das ist schon hilfreich, aber das ersetzt meine Arbeit überhaupt nicht. Sondern es ist ein Tool that mich empowered, die ich vorher nicht machen habe, einfach weil es lang dauert, weil ich nur beschränkte Ressourcen habe. Was mir das Tool jetzt erlaubt ist, verschiedene Lösungen gleichzeitig zu explorieren und dann die vielversprechendsten zu nehmen und dann mit der Maschine gemeinsam oder alleine an der vielversprechendsten Variante zu arbeiten. Womit ich einfach aus dem Lösungsraum der Möglichkeiten was auswählen kann, was ich vorher nicht machen habe können. Weil ich einfach nicht die Zeit gehabt habe, zehn verschiedene Varianten durchzudenken.

SPEAKER_00 45:28

Wie kommt man dann dahin, dass man einerseits sagt, verwendet ihr alle KI oder beschäftigt mit dem Thema, aber ihr seid nicht faul.

SPEAKER_01 45:37

Yeah, ich glaube die menschliche, wie gesagt, ich bin kein Psychiater, ich möchte nicht den absoluten reden, aber meiner Erfahrung nach sind wir leider so deppert konstituiert, dass wenn irgendwas entweder hart oder einfach geht, wie die einfache Variante lösen. Convenient. Beispiel, ich habe nie in meinem Leben Hausaufgaben gemacht. Ich habe das gehasst wie die Pest und wie war das Wurst-Bärschler eine Note oder zwei Noten schlechter gekriegt, deswegen, es war mir scheißegal, ja. Wenn ich heute ein Schüler wäre, ich wäre ein lebender Schülergott, weil ich würde alle meine Hausaufgaben nur mehr mit GPT machen. Die Frage ist halt, ist das gescheit?

SPEAKER_00 46:11

Das hat halt auch zur Folge, mir hat das zuletzt eine Lehrerin erzählt. Die Schüler kommen zu ihr und sagen, Sie haben nicht recht, Frau Professor, weil ChatGPT hat das gesagt. Und dann kann sie dich gegen ChatGPT argumentieren.

SPEAKER_01 46:23

Ja, das ist halt schwierig. Also es ist so, dass der GPT tatsächlich eine größere Wissensbasis hat als jede Lehrerin. Aber das heißt nicht, dass die GPT deswegen recht hat oder mehr Recht hat. Und das heißt aber natürlich auch nicht, dass die Lehrerin keinen Fehler machen kann. Nur die Lehrer hat die Kapazität, die zu sagen, ich glaube, das ist richtig oder das ist nicht richtig. Und jetzt schauen wir uns an, wieso, was wirklich davor ist. Die GPT wird das nicht machen. Die GPT gibt ja die Antwort, so wie es in den Trainingsdaten drinnen gelernt hat. Es ist schwierig. Also ich weiß nicht, wie man damit umgehen. Ich mache mir tatsächlich am größten Sorgen um unser Bildungssystem mit diesen KI-Systemen. Einfach weil es diese ganze Friktion entfernt, des Lernens. Lernen ist tatsächlich ein bisschen an Schmerz haben und den Schmerz überkommen und dann hast du es gelernt. Wenn ich jetzt eine Maschine habe, die mir diesen Schmerz abnehmen kann, und das kann sie für die Aufgaben, die man in der Schule hat, dann fehlt mir diese Friktion des Lernens. Was lerne ich also, wenn ich die Maschinen die Sachen machen lasse? Nichts. Und ich halte es für schlimm. Und ich sehe auch keinen weder politischen noch gesellschaftlichen Gegenwind, da irgendwer auf eine Lösung zu kommen, dass unser Bildungssystem nach wie vor unseren Kind was beibringt.

SPEAKER_00 47:35

Aber siehst du grundsätzlich überhaupt, dass Politik wirklich vollends verstanden hat?

SPEAKER_01 47:40

Nein. Das kann ich mit uns machen. Nein, nein. Also ich tatsächlich, ich mag jetzt keine Parteien nennen und keine Personen nennen, weil es gab eine Person von einer österreichischen kleineren Partei, die sich unlängst einmal mit mir zusammengesetzt hat und mich gefragt hat, du erklär mir quasi dein Klingel. Es gibt schon Interesse und es gibt motivierte Leute in der Politik, die das auch wirklich, wirklich verstehen wollen auf einer Ebene, dass sie sagen können, okay, was hat das für gesellschaftliche Auswirkungen, wie kann man dem gegensteuern oder wie kann man positive Dinge quasi boosten. Ich glaube, dass das in Anbetracht der Weltlage aktuell niemanden interessiert. Einfach weil es tatsächlich noch immer ein Nischenthema ist bis zu einem gewissen Grad. Wir haben größere Fische zu krillen als KI in der Schule.

SPEAKER_00 48:18

Ja, weil KI grundsätzlich verändert ja auch. Es schreibt die Geschichte meiner Meinung nach. Alter, ohne absolut zu sein, aber KI verändert schon ganz viel.

SPEAKER_01 48:27

Ja, es verändert viel, aber es bleibt da alles gleich irgendwie. Und die Grundbedürfnisse müssen trotzdem irgendwie gedeckt werden und KI kann genau gar nichts dazu beitragen, finde ich. Also was Leute, die in Wissensarbeit oft unterwegs sind und speziell Softwentwicklerinnen oder IT-Leute, die verstehen einfach nicht, wie komplex und wie viel wahre menschliche Teile die Welt eigentlich hat. Wir glauben nur, wenn wir programmieren können, können wir jetzt da alles Probleme der Welt lösen. Das stimmt halt tatsächlich gar nicht. Und jeder, der irgendwas händisch gearbeitet hat in seinem Leben, wird das bestätigen können. Das heißt, wenn ich dann Sachen höre, wie KI verändert die Welt, dann ja, ja, das ist schon richtig. Genauso wie Software die Welt verändert hat. Aber weit weniger, als was man denkt in vielen Bereichen. Und vor allem Bereichen, wo es halt wichtig wäre, dass es weitergeht. Und das ist die Bildung, das ist Gesundheit und so weiter und so fort. Und da sehe ich jetzt keine großen Durchbrüche nach wie vor.

SPEAKER_00 49:20

Ja, halt, ich meine, Google hat ja mit ihren Proteinen.

SPEAKER_01 49:25

Wenn du Chemikerinnen fragst und Biochemikerinnen, wie viel ihnen das hilft, werden sie dir sagen, ein Schaas. Tatsächlich. Ist leider so. Wirklich. Aber nur Beibreis haben sie geworden. Ja, es ist total super geil, ja. Aber es ist jetzt für die wissenschaftliche Arbeit. Es ist eine Vorstufe zu was, wo man dann was produktiv drauf machen kann. Aber aktuell ist es nicht. Soweit es mein Verständnis nicht überschreitet, ist es nicht was, was man jetzt im Produktiveinsatz hat, womit die Wissenschaft große Sprünge gemacht hätte. Noch mal, ich bin kein Technologie-Feind überhaupt nicht. Aber ich erkläre mich einfach gegen diesen Bullshit-Type. Alpha Fold ist super geil. Das ist kein Bullshit-Type, das ist wirklich was Cooles. Es ist einfach nur nicht produktiv so super einsetzbar, dass man sagt, jetzt können wir die Wissenschaft, die zehn Jahre gedauert hat, auf ein Jahr komprimieren. Das ist es einfach noch nicht. Aber es geht in die richtige Richtung. Und ich möchte mehr solche Initiativen. Weil dafür soll die Technologie eigentlich da sein. Aber was ich sehe, wofür die Technologie da ist, dass wir Berufinsinformaten oder irgend so ein Bullshit bauen. Und da denke ich mal halt auf sogar ein bisschen mehr Kreativität.

SPEAKER_00 50:30

Was war denn da das Problem, genau?

SPEAKER_01 50:36

Das AMS wollte innovativ sein und nachdem diese AMS 3D Virtual Reality Geschichte nicht so der Renner war, war das nächste Thema AI. Und was machen wir einen fucking Chatbot? Und was kann der Chatbot? Alle Arbeitslosen in Österreich werden gezwungen, mit diesem scheiß Chatbot zu reden und ihn zu fragen, sehr, ich bin der Kordel, was soll ich arbeiten? Und dann sagt er dir, wenn du der Kordel bist, ja, werde Mechaniker, wer Softwareentwickler, werd Großkopf hater und wenn du die Karolina bist, dann sagt er da, ja, werde Hebame, wer Pflegerin und bla bla bla. Das ist immer das erste Problem. Warum hat er das gemacht? Weil Training von solchen Large Language Model, die Biases, also die Vorurteile von uns Menschen, wie man sie im Internet eine Posaunen integriert in das Modell. Das heißt, er hat halt einfach ähnliche Vorteile, wie wir es als Gesellschaft haben. Und die hat er dann halt auch so ausgespuckt.

SPEAKER_00 51:28

Also wenn man das im Code als Open Source beispielsweise gemacht hätte, hätte man das früher kennen können.

SPEAKER_01 51:35

Ne, hat keinen Unterschied. Macht keinen Unterschied. Du hast eine Ummenge, du hast das ganze Internet als Trainingsdaten. Dort drinnen sind unsere gesellschaftlichen Vorurteile drinnen. Du trainierst einmal das Ding auf diesen Daten, damit lernst du Sprache und ein paar Fakten sehr komprimiert und losssi, also nicht vollständig. Und dann machst du ein weiteres Training, wo du sagst, okay, wenn du was zusammenfassen musst, dann schaut das so aus, wenn du was übersetzen musst, dann schaut das so aus und so weiter. Da lernt er quasi ein hilfreicher Chatbot zu werden. Und dann ganz zum Schluss hast du noch eine Phase, wo du sagst, wenn die Frage gestellt wird, zum Beispiel, war Diktator YZ ein guter Mensch oder schlechter Mensch, sagt niemals ja, weil er war ja Diktator. Und dann trainierst ihm halt diese, ich bin ein sexistischer Nazi-Sachen ab damit. Nur das Problem ist, dieser letzte Prozess, der ist nie vollständig, weil du nicht das, was er vorher alles gelernt hat, was eine riesige Datenmenge ist, full Eins aus ihm raustreiben kannst. Und wenn du dann einsetzt, wie beim OMS und dich nicht darum kümmerst, dass du versuchst, es noch weiter irgendwie einzuschränken, was man noch ein bisschen machen kann, indem man ein sogenanntes Systemprompt setzt und so weiter, dann kommt er zwar ein Käse raus, der dann 600.000 Euro kostet. Weil man denkt, welchen Nutzen hat er das?

SPEAKER_00 52:45

Aber wie bringt man einen Staat bei, Technologiegescheit oder die Organisationen, um effizienter zu sein? Auf der einen Seite sagt man, man braucht Monate, um eine Datenbank zu erstellen, du brauchst sie in zwei Stunden. Sie kommen mit einem AI-Chatbot, ist wieder. An was liegt das?

SPEAKER_01 53:06

Ich kann dir nur Vermutungen anstellen. Meine Vermutung ist folgende. Leute, denen es um einen effizienten Staat geht, würden keine staatlichen Aufträge annehmen oder keine kriegen. Leute, die gerne staatliche Aufträge umsetzen, wie so ein Chatbot und so weiter, die machen das nicht wegen der Effizienz, sondern die machen das, um Geld aus dem Staat zu extrahieren. Und ich fürchte, das ist die Antwort drauf. Und man kann halt leider den politischen Entscheidungsträgern nicht immer einen Vorwurf machen, finde ich auch, weil es ist einfach unendlich schwierig, sich mit allen Themen dieser Welt auszukennen und gute Entscheidungen zu treffen. Das heißt, am Ende des Tages sind sie abhängig von beratenden Personen, die ihnen halt die Welt erklären müssen in diesem Ausschnitt der Welt. Und dort ist halt auch so, dass die Güter dieser Personen, die beratend tätig sind in der Politik, wahrscheinlich jetzt nicht Top 1a ist, sondern halt auch eher Kategorie, wie viel Geld kann ich aus dem Ganzen aus extrahieren. Das ist ein Problem, das jeder Staat hat und ich sehe da jetzt keine instantane Lösung dafür. Vielleicht ist die Lösung, dass sich Politikerinnen auch mit Leuten aus der Zivilgesellschaft zusammensetzen und sich von denen beraten lassen, pro Bruno oder was auch immer.

SPEAKER_00 54:15

Jetzt haben wir sehr viel geplaudert und jetzt fällt mir ein, was machst du eigentlich jetzt gerade genau? Schön geistig sein wie immer.

SPEAKER_01 54:24

Viel Bullshit. Nein, ich hatte tatsächlich keinen Plan, irgendwas Unternehmerisch zu machen. Ich habe meine unternehmerische Phase schon länger hinter mir und nur mehr so Sachen am Köcheln, die weiter Geld reinbringen, wo wenig Aufwand ist. Dann Anfang des Jahres habe ich halt viele Signale gekriegt von rund der Welt herum, von Venture Capital und großen Firmen und so weiter, dass this Code, das ich geschrieben habe, Geld wert is. And then habe ich meinen Burma angeschaut und gedacht, du kannst noch mehr Geld haben. Wenn der Papa noch ein bisschen mehr arbeitet. And habe ich dann einlulen lassen von Armin Ronacher, einem guten Freund von mir, der for ein paar Monaten Firmen gemeinsam mit einem anderen Kollegen namens Colin gegründet hat, namens Aerendal. Ich habe mich einlulen lassen von jemandem, der gesagt, du nimm KWC und gerne zu die Big Corps, sondern mach einfach mit uns eine gemütliche Euromaxing-Startup-Geschichte, wo wir im AI coole Sachen machen und wir kaufen dich quasi. Ich habe mir gedacht, ich habe wieso eigentlich nicht, ist ja wurscht. Und das heißt, aktuell bin ich gemeinsam mit dem Armin und einem Colin und einem Vegat und einem Ramis und einem Jakob und der Carlotta und der Christina in einer Unternehmung namens Aaron Deal und wir versuchen halt Produkte zu bauen mit KI, die unseren Werten entsprechen. Das heißt, nicht das Gehirn abgeben, die Tools als Tools zu verstehen, die einem helfen sollen und nicht ersetzen sollen. Und schauen wir mal, wo die Reise hingeht.

SPEAKER_00 55:56

Was hat das mit Herr der Ringe zu tun? Gar nichts.

SPEAKER_01 55:59

Ich hasse Fantasy. Ich bin überhaupt kein Herr der Ringe-Freund und ich weiß es nicht, das ist mir wurscht.

SPEAKER_00 56:05

Es ist halt sehr auffällig. Peter T, jedes zweite Unternehmen, irgendwas aus Herr der Ringe, du arbeitest bei einem Herr der Ringe, Namenunternehmen.

SPEAKER_01 56:12

Ja, fuck my life. Erstens, ich hasse Fantasy, ich war nie Freund von Fantasy, bin eher Star Trek Next Generation, Harvey. Zweitens, ich habe keine fucking Ahnung, warum sie unbedingt einen Tolkien-Namen haben nehmen müssen. Allein schon der Umstand, dass das Tolkien Estate kommen kann und sein kann. Planck, ja, ist dämlich. Das Palantir und wie heißt von Palmer die Firma Andoril. Aldoril, all diese Bullshit, schieß mich tot, wir wollen eine Technofaschistenwelt haben, ihre Firma nach Tolkien benennen, der sich im Grab umdrehen würde, wenn er das wüsste. Warum man sich auf eine Ebene mit denen stellen muss, indem man Tolkien Namen nennt, keine fucking Ahnung. Die These vom Colin und vom Armen war, glaube ich, wir wollen eine Firma mit Tolkien-Namen machen, wo mal was Positives passiert. Ah, okay. Was ich eh nachempfinden kann, aber warum sich selber Schmerzen zufügen? Weil jedes Mal, wann jedes Mal passiert sowas. Ja, und das kotzt mich an. Aber ich habe es mir selbst angetan, indem ich mit diesen Clowns jetzt da zusammenarbeite.

SPEAKER_00 57:16

Was würdest du jetzt, ich unterrichte auch auf der FH beispielsweise, das AI-Lab für Journalisten und mich fragen ganz oft diese jungen Leute so quer, weiß ich noch, dass ich in drei Jahren einen Job habe, gleich das ähnliche hört man aus dem E. Was würdest du diesen Menschen für einen Tipp geben?

SPEAKER_01 57:36

Puh, also im Journalismus kann ich keinen Tipp geben, weil da die Arbeitssituation schon eher immer prekär war. Also ich habe ganz viele Leute, die bei der Styria und bei der Clan und sonst irgendwo arbeiten, die letzten 20 Jahren, das war schon immer scheiße. Ich habe da keine Antwort. Ich habe so eine kleine Untersuchung gemacht, um zu schauen, welche Zeitungen LMs verwendet, wahrscheinlich und welche nicht. Und es wird halt schon mehr. Das heißt gerade für so Kolumnen, wo sie eh keiner shared, wo es wahrscheinlich Junior Jobs vorher waren, wie Horoskope und Lifestyle und Tiere und schieß mich tot. Diese Jobs, die former ich an, Junior-Positionen waren.

SPEAKER_00 58:10

Ja, so lange war ich nicht in der Printwelt unterwegs, aber ich meine, yeah, yeah.

SPEAKER_01 58:18

But this is totally from the LLM übernommen in sehr vielen Zeitungen, wo man es auch nicht erwarten würde, teilweise in Qualitätszeitungen. Journalistische Arbeit, wie komme ich als Junior rein? Wie kann ich gegen LLMs bestehen? Ich meine, ich würde ja hoffen, oder sagen wir es mal so, wir ertrinken gerade den Slop. Alles ist AI generiert, von TikToks über YouTube, über Medien, über was auch immer. Ich glaube, dass das menschliche Antlitz und der menschliche Touch by Content wieder mehr Wert haben wird.

SPEAKER_00 58:50

Casey Newton, ein ganz New York Times, Kolumnist, Podcaster, sagt, er wird jetzt bewusster Weird. Er schreibt einfach weird.

SPEAKER_01 58:59

Und ich glaube, wenn man sich das erhaltet als Mensch und die Tools verwendet, um produktiv fair zu werden, aber trotzdem so seinen eigenen Vibe weitererhaltet und der ist in die Welt raustransportiert, ich glaube, das wird mehr Wert haben über die Zeit hinweg.

SPEAKER_00 59:15

Geht das auch beim Coden, dass man dann so Slash, Slash macht und irgendwas dazu schreibt?

SPEAKER_01 59:19

Nein, beim Coden ist was anderes. Coden hat tatsächlich schon auch viele menschliche Aspekte, weil ich vorher schon geredet habe Coden ist nicht nur programmieren, sondern auch mit Userinnen interagieren und sich einfühlen können, was sie brauchen und was nicht. Beim Coden ist das Problem aktuell das, dass man sagt, ich kann zehn Juniors mit einem Senior und zehn Agenten ersetzen. Weil der Senior, die zehn Agenten so antreiben kann wie Juniors. Das beißt sich halt auch in den Schwanz ein bisschen, weil die Agenten nicht dazu lernen oder nur eine sehr limitierte Kapazität an dazu lernen habe und nie Seniors werden. Voringegen, wenn ich Juniors nehme, dann ja, haben die mal so drei, vier Jahre, wo ich sie halt quasi ausbilden muss im Rahmen meiner Unternehmung und dann sind sie irgendwann mit bis Senior Level. Aktuell fällt diese Senior Pipeline weg, weil alle glauben, man kann es mit AR ersetzen. Das wird sich als falsch herausstellen. Ich sehe bereits große Firmen da wieder backpedeln, dass ich sagen, wir holen uns bewusst wieder Juniors rein, damit wir eben unsere Senior Pipeline weiterhin haben, weil die Agenten doch noch nicht alles kennen und weil die Modelle, die noch kommen werden, aus technischen Gründen eventuell nicht Seniors sein können. Hat was mit den Trainingsdaten zu tun. Also ich glaube, im Softwarebereich ist es wahrscheinlich einfacher in Zukunft als im Journalismus. Aktuell ist es wahrscheinlich im Journalismus noch weniger problematisch, würde ich meinen, aber da will ich keinen Einblick.

SPEAKER_00 1:00:37

Ich glaube halt, es gibt ja beispielsweise Kölner Express oder so, hat schon Kolumnen von der AI. Also ich glaube, der Journalismus wird nie gehen, aber ich glaube, dass der Journalismus neu gedacht werden muss.

SPEAKER_01 1:00:48

Das sowieso. Aber das ist eine ganz andere Debatte. Und da würde ich aber sagen, es gibt ja sehr viele Individual, wenn du es dir anschaust, erklär mir die Welt oder so, ich habe vergessen, wie du Avi hast. Der Satur. Ja, genau, Satua. Der hat sich quasi als Einzelunternehmer da ein bisschen. Die Drohne. Inwieweit das Journalismus ist, oder quasi dieser Hardcore-Aufdecker-Journalismus ist es nicht, aber es ist eine Form von Journalismus. Ich glaube, dass solche Einzelprodukte von Einzelpersonen oder sehr kleinen Teams, hoffe ich zumindest, dass das in Zukunft das ist, was wir als Journalismus verstehen und nicht mehr diese 100, 200 Leute-Redaktionen, wo ja, weiß nicht. Das wäre zumindest mein Traum. Das Problem daran ist halt, als Konsumentin muss ich mir diese Leute dann erst zusammenfinden und dann willend sein, zehn Leuten 10 Euro im Monat zu zahlen, separat, anstatt mir ein 10 Euro-Abo von der Schieß mich-Tot-Zeitung zu holen.

SPEAKER_00 1:01:42

Das passiert gerade in Österreich sehr. Also ich habe erst gestern wieder zwei, oder gerade das Fallout-Kollektiv, das so eine feministische, junge neue Zeitung, da ist man die Zahlungsbereitschaft ist einfach nicht so richtig. Ja, ich kriege jetzt von der, ich glaube, andererseits ist aktuell die Kampf.

SPEAKER_01 1:02:01

Genau, sucht auch, ja. Kriege ich aktuell jeden Tag oder jeden zweiten Tag eine E-Mail, weil sie halt einfach zu wenig nicht Abonnentinnen, sondern Mitglieder haben. Das ist furchtbar traurig. Ich kann da so viel Geld reinschießen von meiner Seite, wenn nicht genug andere Leute mitmachen, existiert dieses Medium nicht mehr. Ich werde leider die Medienkrise nicht lösen in Österreich. Nein, definitiv. Also ich glaube, das ist auch. Aber ich glaube, dass das unabhängig von der AI ist. AI spielt da natürlich rein und kann vielleicht ein paar Junior-Positionen ersetzen, aber ich glaube, dass das ist ein anderes Problem, also dass das Problem ein anderes ist als ein technologisches.

SPEAKER_00 1:02:35

Aber du bringst mich auf einen Punkt. Glaubst du auch, dass AI gerne als Ausrede genommen wird um Krisen auch in der IT-Welt?

SPEAKER_01 1:02:42

Ja, ja. Ja, ich meine, wir haben, während Covid hat die ganze IT-Welt overhired und jetzt müssen wir halt seit zwei, drei Jahren abbauen. Und es gibt natürlich schon auch Stellenabbau wegen AI, kann man schon auch nachvollziehen, aber nicht 10% des Unternehmens. Also wie es mit der erzählt beispielsweise. Also nein, eher nicht. Weil wenn du anschaust, wen sie konkret feuern, dann sind es ja auch nicht unbedingt die Engineers, sondern eher Softskill-basierte Sachen, die die AI noch gar nicht machen kann. Mittelmanagement und solche Sachen. Es trifft sich wahrscheinlich irgendwo in der Mitte. Also es ist nicht, jeder fucking Layoff ist jetzt wegen AI. Es ist aber auch nicht so, dass es keine so, dass es keine Layoffs wegen AI nicht gibt, wenn du weißt, was ich meine. Es ist irgendwann in der Mitte. Also Borderlight wird schon ausgehauen bei AI, das ersetzen hat können, aber nicht jetzt die große Menge an Leuten noch nicht. Es gibt auch ganz viele Studien dazu, vor allem lustigerweise von US-amerikanischen staatlichen Organisationen, die da versuchen, ein bisschen Statistiken zu erheben, was der Impact wirtschaftlich ist, was Employment betrifft, was Produktivität betrifft, GDP und so weiter und so fort. Da sind die Effekte von AI noch sehr überschaubar, sagen wir mal so.

SPEAKER_00 1:03:56

Gleichzeitig, das wird dir wahrscheinlich sehr viel mehr passieren als mir. Wenn Leute kommen, ich habe mich noch nicht mit ChatGPT, weil ChatGPT ist ja quasi das Ersatzwort für alles, was LLM zu tun hat. Genau. Ich habe mich mit dir noch nicht beschäftigt. Wo soll ich anfangen? Was sagst du den Leuten weißt?

SPEAKER_01 1:04:15

Einfach auf ChatGPT gehen und anfangen mit dem Ding zu reden. Das ist das erste, was du machen musst, damit du mal verstehst, was es überhaupt tut. Es kann dir Antworten geben, es kann quasi Text generieren in verschiedenen Fahrons. Und dann, weiß nicht, je nachdem, was deine Schmerzgrenze ist. Prinzipiell musst du wissen, alles was die Dinge können, ist Text rauswerfen. Nicht mehr, nicht weniger. Aber das ist super powerful. Wenn du nämlich den Text nicht nur liest, sondern wenn der Text auch strukturiert sein kann, sodass es eine Software auslesen kann, dann kann das Ding auf einmal mit der echten Welt oder mit anderen Software reden. Das ist dieses Werkzeug aufrufen und so weiter. Und wenn du das verstanden hast, und dazu gibt es auf YouTube Unmengen an guten Materialien, dann wirst du auch verstehen, was diese Agenten sind und dann wirst du auch vielleicht dann verstehen, wie du es für dich daheim einsetzen kannst. Ich geb dir ein klassisches Beispiel. Ich verwende Agenten für Nicht-Programmiersachen, zum Beispiel, um meine E-Mails irgendwie zu triagieren. Nicht das Spam-Filter, aber quasi hat er so eine Priorität oder nicht. Weil ich habe sehr viele E-Mails am Tag und ich schaue. Das heißt, ich habe jetzt ein kleines agentisches System, das periodisch meine E-Mails checkt, meine Inbooks checkt und schaut, ob irgendwas drin ist, was wirklich, wirklich meine Aufmerksamkeit braucht. Alles andere kann Worten. Für solche Sachen ist es super geil. Auch für Nicht-Techis. Meine Frau ist Linguistin, die verwendet es, um ihre statistischen Daten, die sie in einem Excel-File hat mit 18.000 Zeilen in Charts umzuwandeln oder statistische Analysen zu fahren für ihre wissenschaftlichen Paper. Solche Sachen. Alles, was sie weiß ist, sie hat jetzt einen kleinen Programmierer im Computer drinnen und muss ihm nur sagen: so schauen meine Eingabedaten aus. So will ich gern, dass die Ausgabedaten ausschauen. Kleiner Programmierer im Computer schreiben mir ein Programm, das das macht. Das ist alles, was sie wissen muss, ja und das funktioniert ganz gut, weil sie die Ausgabe kontrollieren kann. Sie muss nicht wissen, wie das Programm funktioniert oder programmieren können. Sie muss nur wissen, gegeben diesen Inputs erwarte ich diesen Output. Und wenn der Output nicht rauskommt, wie ich will, dann weiß ich, dass das Programm kaputt ist. Dann sage ich meinem Agenten, du Alter, das ist falsch. Wie war das, wenn du das ordentlich machst? Ich habe noch Mistakes.

SPEAKER_00 1:06:18

Max Nutzungslimit erreicht, fragen sie wieder um 17 Uhr.

SPEAKER_01 1:06:23

Prinzipiell ist das Problem, wie lerne ich Agenten und KI und so weiter, das ist halt echt abhängig von deinem Wissenslevel. Wenn jemand weiß, was Dateien sind, dann hast du schon viel gewonnen, aber viele Leute wissen nicht mehr, was Dateien sind, weil sie mit Handys und Tablets aufgewachsen sind.

SPEAKER_00 1:06:37

Sollten wir wissen, wie LLMs arbeiten, sollte der Code Open Source sein?

SPEAKER_01 1:06:43

Nein, das ist scheißegal. Der Code ist sowieso nicht viel. Also der Code, der eine LLM ausmacht, ist schon viel, aber jetzt vergleichsweise für das, was es tut, nicht viel. Was viel ist bei einer LLM, sind diese sogenannten Parameter, Weights, Bases, was auch immer. Das ist einfach eine große Datei mit vielen Zahlen drinnen. Da ist quasi das, was die LLM ausmacht, das, was sie gelernt hat, ist dort drinnen als Zahlen abgebildet. Und die Software, die die LLM dann quasi simuliert, ladet einfach all diese Zahlen und gegeben einem Textinput, rennt es durch die Zahlen durch mit mathematischen Operationen und spuckt es aus. Das zu verstehen, was der intern passiert, hat für wenig Leute einen Sinn. Aber zu verstehen, was passiert, wenn es eben nicht nur Text eingibt, sondern zum Beispiel ein PDF, dass das PDF in Text umgewandelt werden muss und damit zum Beispiel alle Bilder im PDF weg sind, die Tabellenformatierung weg ist und irgendwie die Tabelle in eine Wurst an Zahlen und das Ding muss das interpretieren, was heißt das für die Validität einer Ausgabe dann, was zum Beispiel fragst du, ich habe da einen Finanzbericht vom letzten Jahr, kannst du mal durchschauen und mir aussuchen, was so die Keypoints sind und so weiter. Wenn es in einer Tabelle oder einer Grafik im PDF drin ist und das von dem System, wo du das reinstaubst, für die LLM in Text umgewandelt wird, hat die LLM gar keine Chance, das richtig zu beantworten, weil die Formatierung auf einmal weg ist und sie nicht weiß, wo es, wo sie ist. Aber gegeben, so wie die LLM funktioniert, muss sie dir eine Antwort geben, also wird sie dir mit Imprunst sagen, ja so und so ist das. Absolutely. Ja, genau. Und das ist das Gefährliche dran. Man weiß nie, wann kann ich dem Ding vertrauen und wann kann ich ihm nicht vertrauen. Je mehr ich weiß, wie es funktioniert, desto mehr kann ich diese Antwort, kann ich diese Frage, vertraue ich dem jetzt oder nicht, beantworten. Das heißt, ja, es macht Sinn, das zu verstehen, aber nicht ob ich bis zu den technischen Details, was da drinnen abgeht.

SPEAKER_00 1:08:29

Du hast gestern gelobt, die Open Weights Community. Warum ist Open Weight, oder verstehe ich dir, dann ist Open Weight wichtiger als Open Source in dem Open oder verstehe ich es fast?

SPEAKER_01 1:08:41

Okay, ich versuche das aufzudrösen. Also wir haben jetzt gerade geredet, was ist ein LLM, wenn es fertig trainiert ist? Es ist eine, stößt das sofort wie eine große Datei, wo viele Zahlen drin stehen, wo die Zahlen eben quasi kodieren, was es gelernt hat. So, jetzt gibt es Closed Models, also Closed LLMs. Da kriegt man diese Zahlen nicht, diese Datei mit den Zahlen, sondern die liegt bei Anthropic und bei OpenAI und die tun die für ihre eigenen Server und du kannst nur mit den Zahlen quasi reden, indem du einen Text an ihre Server schickst. Du kannst aber die Zahlen selber nicht auf der eigenen Computer tun und die LLM lokal auf deinem Computer laufen lassen. Und dann gibt es Open Weights Modelle, vor allem aus China, wo dieses Backel an Zahlen, dieses trainierte, kodierte LLM, ins Internet gestört wird, dass so Lurche wie ich das runterladen können auf meinem Computer und dann das LLM auf meinem Computer laufen lassen können. Warum ist das nicht Open Source? Weil ich nur die Zahlen kriege, das Endprodukt. Was ich nicht kriege, ist die Software, die verwendet wurde, um die Zahlen zu trainieren quasi. Ich kriege auch nicht die Daten, die verwendet wurden, um das zu trainieren. Das heißt, ich weiß gar nicht, welche Daten quasi Einfluss hatten auf das, was das LLM mir nachher sagen wird, was richtig und was falsch ist. Das kriege ich alles nicht. Was ich nur kriege, ist die Zahlen, das Endprodukt, das trainierte LLM. Deswegen ist das Open Weights, also offene Zahlen und nicht Open Source. Weil Open Source würde auch die Trainingssoftware inkludieren und die Daten inkludieren, die ich brauche, um dieses Zahlenbuckle zu generieren. Macht das Sinn?

SPEAKER_00 1:10:09

Absolut, absolut. Wenn man nämlich nur gestern bei Navier, ich habe vergessen, wie die Seite heißt, mir die freisten Modelle angeschaut und da gibt es halt eben K2 und das von Nvidia, das sind ja, glaube ich, die offensten Modelle, die es im Moment so gibt.

SPEAKER_01 1:10:26

Also wenn man sich umschauen will, in Europa gibt es eine Firma namens Mistral, das ist unsere einzige KI, LLM-Firma, die bauen die Mistral-Modelle, die OpenWaits sind in der Regel. Dann gibt es ganz, ganz viele chinesische Modelle wie GLM von ZAI, Kimi, K2.6, ist das aktuellste von Moonshot, GLM, habe ich das schon erwähnt, keine Ahnung. Minimax und so weiter. Also alles, was China gibt. Die warten nur auf DeepSig, also DeepSig ist so neu, dass es noch nicht in mein Hirn sich eingebrannt hat, aber DeepSeek ist tatsächlich aktuell das beste OpenWays Modell, würde ich meinen. Hat sehr viele schnuckelkäre technische Eigenschaften, die es für mich sehr interessant machen, ja. DeepSeek war ja schon einmal da. Ja, ja. Das war der erste Boom vor, ich glaube Ende 2024, Anfang 2025 hat DeepSeek released. Das war das erste Open Weights Model, das auch so dieses Thinking, also dieses Ich denke jetzt erst und dann gebe ich die Antwort machen können. Und zwar mit einem Budget, das viel, viel, viel kleiner war, als was die großen Labs wie OpenAI und Anthropic braucht haben. Und dann ist der ganze Markt irgendwie kurz einmal zusammengebrochen. Ich habe gesagt, die Chinesen sind jetzt viel besser als wir und viel billiger können es das herstellen und jetzt sind wir alle tot quasi, als hat sie ausgestellt, das stimmt natürlich so nicht. Die Qualität von DeepSeek damals war nicht annähernd so gut wie das, was die Closed Labs wie Anthropic and OpenAI machen. Aber seitdem hat es quasi so eine kambrische Explosion an OpenWaIS Model gegeben. Viele basierend auf der DeepSeek-Architektur. Gleichzeitig haben sie sich auch die Outputs von Anthropic und OpenAI Modellen genommen, wie wir vorher geredet haben, und auch auf den Outputs von diesen Modellen trainiert und so. Das nennt man Distillieren. Ist nicht ganz das tatsächliche Distillieren, was du es im Machine Learning hast, aber so was ähnliches. Und haben viele Innovationen selbst gemacht, weil im chinesischen Raum Hardware rar ist. Das heißt, sie müssen einen Trainingsprozess und einen Inferenzprozess, also dass dann den Benutzer Zugang zu LLM geben, müssen sie sehr effizient machen, weil sie einfach nicht dieselbe gute Hardware haben wie die Amerikaner. Und da hat es eben diese Cambrische Explosion gegeben und viele dieser Open Wates Modelle sind sehr, sehr, sehr potent. Also ich habe jetzt gerade für meinen Burm so einen kleinen Roboterbaut. Das läuft direkt auf meinem Laptop alles. Plenty good enough. Der kann über einen Skeletor reden, der kann den Roboter fahren und drehen und Fotos machen lassen und so weiter. Lauft alles lokal, ich bin super happy.

SPEAKER_00 1:12:53

Das ist schon impressive.

SPEAKER_01 1:12:55

Und leider muss man sagen, Europa hat da absolut gar nichts zu bieten. Also Mistral ist da Mistral hat erst kürzlich so ein Mistral Day gehabt, also eine kleine Konferenz, die sie ausgerichtet haben und sie haben quasi gesagt, wir spezialisieren uns jetzt nur mehr auf kleine Modelle, die die Industrie in Europa braucht, und die Industrie in Europa braucht Modelle, die Text aus Bildern lesen können, Modelle, die zusammenfassen können und übersetzen können. Also überhaupt nichts Agentisches soll heißen, überhaupt nichts, was Computer Use machen kann oder irgendwas. Warum? Weil die Geldgeber, die europäischen alten Industrieunternehmen, sind und die interessiert das einen Scheißdreck. Die brauchen halt nur diese ca. 2020 Capabilities.

SPEAKER_00 1:13:32

Und das ist dann auch der Grund, warum sie eben AI gekauft haben wahrscheinlich. Weil sie eben in dieser Physics AI unterwegs sind, was für die Industrie von Relevanz ist.

SPEAKER_01 1:13:41

Ja, genau. Und das ist traurig, weil das bedeutet, wir haben in Europa, es hat noch Aleph Alpha vorher gegeben, die sind jetzt von Cohere gekauft worden, also kanadisches Unternehmen. Das waren Deutsche die Aleph Alpha. Das waren die einzigen zweiten in Europa, die LLMs hergestellt haben, die so wie die großen Frontier Lab LLM sein sollen. Beides quasi gestorben. Also wir können uns leider in Europa, haben wir keinen Anbieter von Large Language Models, der ernst zu nehmen ist für diese Sachen wie Agenten und so weiter. Und das ist ein Fehler. Und das sollte Europa eigentlich erkennen, aber wir schlafen halt leider wieder mal. Wo werden wir mit den Agenten in zehn Jahren stehen, glaubst du? Keine fucking Ahnung. Ich mag keine Vorhersagen machen. Ich hoffe nicht in einer Dystopie. Ich fürchte, aber es wird eine Teildystopie werden.

SPEAKER_00 1:14:21

Also aber so, wenn du jetzt sagst, so dystopiemäßig, wie hoch ist die Wahrscheinlichkeit, dass es schlechter als heute ist, wie gesagt, meine größte Sorge gilt der Bildung.

SPEAKER_01 1:14:32

Ich hoffe, dass wir da Mittel und Wege finden, KI produktiv einzusetzen, dass die Kinder was lernen und sich nicht selber laub optimisieren. Der Rest ist mir ziemlich wurscht. Der Rest regelt der Markt, würde ich sagen. Wenn du verstehst, was ich meine. Wenn irgendwas zu züd ist, gibt es meistens Aufruhr. Ich hoffe, es gibt einen Aufruhr, wenn was zuid ist. Wenn was gut funktioniert, wird es belohnt.

SPEAKER_00 1:14:56

Es passiert ja schon ein Aufruhr im Sinne von, es gibt ja schon, also wenn Tech-CEOs gerade auf der amerikanischen Uni sprechen, gibt es ein großes Buh und ich mag keine Zufallsagen machen.

SPEAKER_01 1:15:13

Ich hätte gerne die Star Trek Future, ich glaube nicht, dass wir sie kriegen werden. Aber ich habe Hoffnung, dass wir ein bisschen davon kriegen können, wenn wir alle ein bisschen versuchen, gescheitert damit umzugehen mit diesen Tools.

SPEAKER_00 1:15:24

Ja, es wäre schon geil, wenn man sich beamen kann.

SPEAKER_01 1:15:26

Ja, das ist wieder was ganz. Aber da muss den Herrn Zeilinger in Österreich, aber da mal die Expertise in Österreich mit einem Herrn Zeilinger, der da quasi der Feder, die Speerspitze ist, was Quantenteleportation betrifft, passt. Das haben wir schon abgehakt.

SPEAKER_00 1:15:41

Was wäre beispielsweise wegen Star Trek, was wäre sowas, wo du denkst, das wäre nice, wenn wir es hätten. So wie der Mars gesagt, einfach, dass wir Kolonie haben in am Mars?

SPEAKER_01 1:15:52

Ja, ich weiß nicht, entweder ich bin tatsächlich doch so ein Technologiefeind, aber mein Leben ist absolut artechnologisch. Also ich sehe nicht, wie diese Technologie mein Leben jetzt persönlich verändern könnte, positiv. Weil wenn ich mit meinem Buhr aus sie gehe spülen, brauche ich das nicht. Wenn ich mich mit Freien triff und Quatsch und ein Bier trinke, es kann ich im Hintergrund meine E-Mails machen. Okay, das ist jetzt nicht life-changing, was das ich meine. Und für mich ist es eher, was meine Arbeit betrifft. Ja, klar, da kann ich, kannst du mir Sachen machen, die vorher viel Zeit kostet hätten oder so. Auf gesellschaftlicher Ebene. Weil wir vorher über Alpha Fault geredet haben, ich glaube, der Einsatz in der Wissenschaft und dort vor allem in Health and anderen Technologien, Klimawandeltechnologien und so weiter, das wäre absolut geil. Das wäre einfach unglaublich cool, wenn wir diese neue Technologie dafür verwenden können, um wissenschaftliche Ergebnisse schneller zu kriegen zu können, um schneller technologisches U-Laveling zu machen. Und es gibt Anzeichen dafür, dass das auch passiert. DeepMind ist auch sehr, sehr dahinter, dass das passiert und versucht mit vielen wissenschaftlichen Organisationen zu kollaborieren. Mal schauen. Das wäre für mich der absolut beste positive Auscome. Cancer, Kernfusion, schieß mich tot.

SPEAKER_00 1:17:12

Ich meine beispielsweise in Australien gab es halt, natürlich hat der AI jetzt nicht die Feder führen, aber da hat von jemandem der Hund Krebs gehabt und der hat das im Zuge mit AI einfach und mit der Zusammenarbeit von einer Universität tatsächlich einen individuellen Impfstoff entwickelt und dieses Geschwür ist um 70% zurückgegangen.

SPEAKER_01 1:17:34

Ich meine, das ist natürlich nicht skalierbar, aber das gibt uns zumindest einen Hinweis, dass da was möglich ist. Ja, es ist in dem VP vielleicht. Ja, und ich möchte einfach, dass das der Fokus ist, diese Technologie. Ich will nur, dass diese Fucking-Technologie einfach nur dafür verwendet wird, wie wir schon alle anderen Technologien in den letzten 20 Jahre für Ads verwendet haben, verwendet man sie jetzt für mehr oder weniger Ads. Und das geht mir einfach schon so auf die Keks. Das ist einfach so dämlich. Weil man könnte damit tatsächlich viele gute Sachen machen, aber so sind wir halt nicht gebaut.

SPEAKER_00 1:18:02

Eine letzte Frage verzeihen wir noch. Was wird KI in 10 Jahren nicht können? Ich weiß, du machst solche Fragen nicht, aber stell sie jeden Gast.

SPEAKER_01 1:18:12

Es wird niemals die Freude ersetzen können, die ich habe, wenn ich mittlerweile interagiere.

SPEAKER_00 1:18:18

Ich hoffe, diese Interviewaktion hat dir Spaß gemacht. Auf jeden Fall. Danke für die Einladung. Ja, jederzeit wieder. Das würde mich wirklich freuen. Und an alle da draußen, folgt gerne auf Spotify, Apple Podcast, jetzt wollte ich schon Bitcoin sagen, YouTube. Vielen Dank fürs Zuhören und noch einmal vielen Dank, Mario, für deine Zeit. Danke für die Einladung.