.png)
Was KI kann - mit Florian Zsifkovics
Journalist Florian Zsifkovics begleitet dich durch die KI-Revolution und spricht mit Experten, Visionären und Warnern aus Wirtschaft, Politik und Gesellschaft.
Was KI kann - mit Florian Zsifkovics
Wenn dein Chatbot dich in den Wahnsinn treibt | Science Buster Martin Moder
Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.
Warum KI dir schmeichelt, statt dir zu widersprechen, und warum die Konzerne wenig Grund haben, das zu ändern. Sykophantie, erklärt mit dem Molekularbiologen und Science Buster Martin Moder.
In dieser Folge von „Was KI kann" spreche ich mit Martin Moder über Sykophantie (engl. sycophancy), die Tendenz von KI-Modellen, uns zu bestätigen und zu umschmeicheln, statt uns zu widersprechen. Der Grund liegt im Training: Modelle werden auf die Zustimmung der Nutzer optimiert, und genau das kann schiefgehen. 2025 musste OpenAI ein GPT-4o-Update nach wenigen Tagen zurückziehen, weil ChatGPT zu unterwürfig wurde und in einem berichteten Fall sogar das Absetzen von Medikamenten bestärkte.
Wie weit das reicht, zeigt eine Studie im Fachmagazin Science (Cheng et al., 2026): Über 11 führende Modelle hinweg bestätigt KI die Handlungen der Nutzer rund 50 % häufiger als ein Mensch, selbst dann, wenn es um Täuschung oder Schaden geht. Weil Nutzer schmeichelnde Antworten bevorzugen, haben die Anbieter wenig Anreiz, das abzustellen.
Außerdem: die Jagged Frontier, warum KI komplexe Prüfungen besteht, aber an verblüffend banalen Aufgaben scheitert, die Frage, ob KI uns kreativer macht oder alle gleich, und was für uns Menschen bleibt. Martins These: Echte Verantwortung kann nur ein Wesen tragen, dem man Konsequenzen androhen kann.
---
Die Veröffentlichungen auf dieser Website/in diesem Podcast sowie die darin erteilten Hinweise und gesetzten Links dienen ausschließlich Informationszwecken und stellen weder eine Anlageberatung, Anlageanalyse noch eine Aufforderung oder Empfehlung zum Erwerb oder Verkauf von Finanzinstrumenten dar. Insbesondere kann eine Anlage- oder sonstige Beratung dadurch nicht ersetzt werden. Die in den Veröffentlichungen enthaltenen Angaben basieren auf dem Wissensstand zum Zeitpunkt der Ausarbeitung und können jederzeit ohne weitere Benachrichtigung geändert werden. Die Inhalte richten sich ausschließlich an natürliche Personen. Es wird keine Haftung für die Richtigkeit, Vollständigkeit oder Aktualität der zur Verfügung gestellten Informationen, Informationsquellen, daraus resultierenden Haftungen oder Schäden jedweder Art übernommen. Eine Haftung für leicht fahrlässiges Verhalten wird jedenfalls ausgeschlossen.
Willkommen zurück zu Was KI kann. Mein Name ist Florian Zifkewitz, ich bin Textjournalist und gehe der Frage nach: Was kann eigentlich KI? Und wie verändert das unsere Gesellschaft und unseren Alltag? Heute habe ich einen sehr speziellen Gast. Er ist Molekularbiologe, Science Buster und zertifizierter Quantenheiler. Martin Moder. Herzlich willkommen.
SPEAKER_02Hi. Wie geht's? Ja, alles palette. Ich habe ein bisschen wenig geschlafen, aber sonst ist alles gut.
SPEAKER_00Quantenheiler. Das Quantenheilum, Quantencomputing. Was ist überhaupt Quanten? Das hat mich irgendwie seit gestern nicht mehr losgelassen.
SPEAKER_02Ja, das Schöne ist, ich habe das selber nie gewusst. Und man hört ja immer diesen Begriff Quantenheiler. Also jemand, der sich oft mit Esoterik beschäftigt in seiner Freizeit, weil er es lustig und amüsant findet, hört man den Begriff immer wieder. Und mir ist das sehr auf die Nerven gegangen, dass ich nie wirklich gewusst habe, was ist damit überhaupt gemeint. Was meinen Leute, wenn sie Quantenheilung sagen. Und deswegen habe ich mir gedacht, ich möchte mich selber dazu ausbilden lassen. Und wollte aber nicht irgendeine Ausbildung, sondern natürlich die seriöseste Quantenheilungsausbildung, die man in Österreich finden kann. Und deswegen habe ich nachgeschaut in der Weiterbildungsdatenbank des AMS, des Arbeitsmarktservice. Und dort bin ich dann fündig geworden: Quantenheilung, Quantentransformationsausbildung. Die hat mir auch deswegen gereizt, weil man sie nicht zwingend vor Ort machen muss, sondern auch remote die Möglichkeit hat. Oha. Das heißt, ich habe dann zwei Stunden mit VMPC gesetzt und am Ende eines Wochenendes war ich zertifizierter Quantenheiler. Ich habe einen Prüfungsbogen natürlich ausfüllen müssen. Das waren vier Prüfungsfragen. Davon war eine, welche Übung mir am besten gefallen hat. Also es ist machbar. Das Molekularbiologie-Doktorat war schon ein bisschen anspruchsvoller, aber zertifiziert ist zertifiziert. Und ich weiß nach wie vor nicht, was Quantenhaltung zum Teufel sein kann. Ich habe keine Ahnung, was das alles irgendwie mit Quanten zu tun hat. I könnte auch keine saubere Definition von Quanten geben, weil im Endeffekt bin ich nur immer Biologe.
SPEAKER_00Aber was war deine Lieblingsaufgabe da bei dieser Quantenheilung?
SPEAKER_02Eigentlich am besten gefallen hat man eine Vorbereitungsübung. Soll ich es mit dir machen? Gerne. Genau, weil man muss ja Geist und Körper harmonisieren, sonst funktioniert das alles nicht. Das heißt, wir müssen irgendwie jetzt deinen Geist in Relation zu deinem Körper setzen. Und dazu, du machst das intuitiv sehr richtig. Du legst die Hände so hin, aber du legst sie auf deine Oberschenkel. Nö, falsch. Hab' schon falsch. Wir nehmen es mal gleich wieder weg das Zertifikat. Genau. Zuerst faltest du die Hände vor deinem Körper zusammen. Und jetzt schaust du, ob ein Finger auf der einen Seite länger ist als auf der anderen Seite.
SPEAKER_00Das ist bei mir der Mittelfinger tatsächlich.
SPEAKER_02Ah, ja. Sehr gut. Dann legst du die Hände jetzt auf deine Oberschenkel und jetzt schickst du den kürzer Finger ganz viel Liebe, Zuwendung und positive Gedanken. Darf ich die Augen offen dabei haben? Ja. Fertig. Jetzt faltest du die Hände wieder zusammen und jetzt wirst du feststellen, dass der kurze Finger gewachsen ist. Tatsächlich nicht. Ja, dann hast du es falsch gemacht. Dann ist das sicher dein Mindset. Ja, und jetzt weißt du so ziemlich alles, was ich auch über Quantenheilung weiß. Und das kann man beim AMS machen. Man macht es nicht direkt beim AMS, aber das AMS hat diese Weiterbildungsdatenbank. Das sind nicht zwingend Kurse, die vom AMS selbst da reingestellt werden. Aber das AMS kann einem einen Teil der Kosten rückerstatten unter bestimmten Voraussetzungen. Und ich glaube, die Voraussetzung ist vor allem, dass man seinen AMS-Betreuer überzeugen kann, dass diese Ausbildung einen beruflich irgendwie was bringt. Das heißt, wenn ich beim AMS bin und ich sage, ich möchte jetzt voll durchstarten als Esoteriker, dann kann es sein, dass ihr einen Teil der Kosten rückerstattet bekommt.
SPEAKER_00Wild! Ja. Gut, jetzt würde man sich fragen, was hat das Ganze mit KI zu tun?
SPEAKER_02Und ich weiß eine schöne Überleitung. Bitte. Ich glaube, wenn künstliche Intelligenz immer besser wird in logischem Denken, dann sind die zukunftssichersten Jobs wahrscheinlich die, die mit Logik und Denken am wenigsten zu tun haben. Und da kommt man zwangsläufig nicht an der Krankenheilung vorbei. Ich glaube, das ist eine Zukunftsbranche.
SPEAKER_00Ja, möglicherweise, ja. Das ist natürlich auch eine große Frage. Was machen wir, wenn die KI alles macht? Aber die KI kann dann halt vielleicht doch nicht alles, was wir können. Hast du den Eindruck in deinem beruflichen oder jetzt bei der Molekularbiologie, dass die KI dir schon enorm helfen kann?
SPEAKER_02Bestimmte Formen von KI, also bei dem Beruf, den ich jetzt mache, der ja vor allem Wissenschaftskommunikation ist, auf jeden Fall. Die ganze, ich war kurz davor, mein ganzes Wohnzimmer mit diesen komischen Eierbechern auszukleiden, damit es nicht so heilt. Das habe ich dann doch nicht gemacht, weil die Audio-KI so gut geworden ist, dass sie den HAL rausbekommt, ohne dass ich Artefakte heraushöre. Das hat mir viel Arbeit und Geld gespart und mein Wohnzimmer schaut auch weniger schier aus. Das von Adobe? Adobe Podcast finde ich ist ein bisschen, ich höre Artefakte, aber was sehr gut funktioniert, ist auf Phonic. Vor allem wenn man das High-Pass-Filtering nimmt und nicht den Voice-EQ oder wie der heißt. Also das macht es ganz gut in meinen Augen. Es ist nicht perfekt, aber es ist angenehmer, als mein Wohnzimmer zu bicken. Und hier und da setze ich KI-Videos ein, wenn es kein passendes Stock-Material gibt. Ich habe ein Video darüber gemacht, wie viele Bakterien man eigentlich rausfurzt, wenn man furzt. Und ich bin drauf gekommen, es ist sehr schwer, Stock-Material, kommerzielles Stock-Material zu finden von Leuten, die furzen. Ist wirklich nicht leicht.
SPEAKER_00Gab sowas bei den großen Bilder-Datenbanken.
SPEAKER_02Nichts dergleichen habe ich gefunden. Also ich habe zwei Stock-Video-Datenbanken. Man findet Leute, die so dreinschauen, als würde es schlecht riechen, aber man findet niemanden, der furzt. Niemanden, der mal so gibt es nicht.
SPEAKER_00Auf TikTok gibt es ganze Compilations darüber tatsächlich. Also da bin ich jetzt unlängst in dieser. Aber vielleicht, weil ich dein TikTok gesehen habe. TikTok auch perfekt zusammen. Aber Quantenheilung, um zurückzukommen, warum wir darüber reden. Die KI neigt, gerne Ja zu sagen. Man nennt es auch Psycho, sagst du, jetzt kriege ich es gerade nicht draus. Psycho-Phannic. Nein, jetzt bin ich doof.
SPEAKER_02Also ich sage es gerne auf Deutsch, weil das ist leichter psychophantisches Verhalten, Psychophantie. Und das ist eh, wie du andeutest, das ist halt schwer zu übersetzen, aber am ersten vielleicht so mit Speichelleckerei, Arschkriecherei, Ja-Sagerei.
SPEAKER_00Ja, und du hast dich das sehr intensiv damit befasst. Habe ich vor circa im April, oder? War das?
SPEAKER_02Das kann gut sein. Weil also immer wenn ein Paper rauskommt, eine Arbeit, die das gut quantifiziert, finde ich das total spannend. Und es ist jetzt vor kurzem rausgekommen, das gezeigt hat, wie groß dieses Problem eigentlich ist. Also, dass das vor allem ein Problem ist, das nicht von alleine weggehen wird und dass das auch wirklich zu zwischenmenschlichen Problemen führen kann. Wenn du möchtest, soll ich kurz darüber reden? Gerne, gerne, gerne, erzähl, erzähle, erzähl. Also man weiß ja, die Chatbots, die bestätigen einen gern. Es ist ja, ich glaube, sie jedem. Lass mich kurz überlegen, schneidet sie das eigentlich oder ist jede Denkpause. Nein, aber wenn du nachdenkst, das passt. Nee, nee, dann denke ich einfach nicht so viel nach. Weil dass sich die Papers gerade nicht verwechselt. Also man weiß, die Dinge bestätigen einen gern und das ist jetzt aber nicht zwangsläufig direkt gewollt, sondern es funktioniert ja so: man trainiert diese Dinge, dann lernen sie Sätze vervollständigen, dann lernen sie Frage- und Antwort spielen. Aber irgendwann müssen sie auch lernen, welche Art von Antworten wir hören wollen. Und das bringen unter anderem wir diese Bots bei. Man hat dann ja immer diese Abstimmungen, hat ihnen die Antwort gefallen, ja, nein, oder hier sind zwei Antworten, welche Antwort gefällt dir besser, dann sagst du die. Und daraus wird ein Belohnungssystem erstellt. Und durch dieses Belohnungssystem lernt der Chatbot, welche Antworten wir hören möchten. Und beim nächsten Update fließt das dann quasi in das nächste Update mit ein und so entscheidet der Bot, was er für Antworten ausspuckt. Und jetzt gab es da diese ganz wilde Phase bei ChatGPT nämlich. Und zwar letzten Jahres, ich glaube, im 4.0 war es.
SPEAKER_00Also ChatGPT 4.0.
SPEAKER_02Achso, 4.0, genau. Und ich glaube, es war letztes Jahr im April, wie diese 4-O-Version schon draußen war. Und dann bekam sie so ein Mini-Update. Also es war noch immer 4.0, aber es war dann ein bisschen verändert. Und plötzlich war das der allerärkte Ohrschreuer. Das ist Leuten aufgefallen. Wenn man gesagt hat, ich würde gerne einen Kaktusumamen, das hat Schlagzeilen gemacht, hat der Chatbot einen gelobt, hat gesagt, toll, dass du einen Kaktus-Umar willst. Wenn du gesagt hast, ich baue eine Perpetu Mobile-Maschine, hat er gesagt, hör nicht auf zu bauen, hör nicht auf daran zu glauben, deine Entschlossenheit ist eine Naturgewalt, auch wenn es dem Naturgesetz natürlich widerspricht. Wenn man gesagt hat, ich habe aufgehört, meine Medikamente zu nehmen und meine Familie verlassen, weil ich weiß, dass sie für die Radiosignale verantwortlich waren, die durch die Wende kamen, dann hat er in der Chatbot bestätigt anders selbst in die hand nimmst, das braucht sehr viel Mut. Und da war halt wirklich das Problem, dass wir gern unsere Meinung bestätigt hast. Wir hören gern, dass unsere Ideen richtig sind. And dementsprechend beantworten wir auch die vorgeschlagenen Antworten des Chatbots. Und das hat halt wirklich dazu geführt, dass der Chatbot sich in eine Richtung entwickelt hat, in der eigentlich alles nur mehr super findet, was wir machen. Und das ist dann nach zwei Wochen zurückgezogen worden. Tatsächlich mitunter mit der Begründung, dass das medizinisch sehr problematisch ist. Weil wenn ich eh schon eine Psychose habe and ich sage dem Chatbot, ich höre stimmen, and they say, Yeah, yeah, I hör sie auch oder irgendwas in die Richtung, dann ist das natürlich nicht gut. Da gab es auch Zwischenfälle, ich weiß nicht, ob das in dieser Phase war, but es gab zum Beispiel a case study, a fallstudie von einem Mann, der ist ins Krankenhaus eingeliefert worden mit einer schweren Psychose. Und man hat nicht wirklich gewusst, was der Grund dafür ist. Und dann haben sie ihn untersucht und sind draufgekommen. Der hat sie mit, der war schon 60, glaube ich, der hat sie mit ChatGPT unterhalten und hat gesagt, I think in meinem Alter, hoher Blutdruck, I should not so much Salz essen. Wodur könnte ich denn das ersetzen? Kennst du den Fall?
SPEAKER_00Yeah, yeah, yeah, yeah. Erzähl.
SPEAKER_02Chatbot hat im Prinzip geraten, naja, Salz, this is ja Natriumchlorid, and chemisch gesehen, lässt sich Chlorid hervorragend ersetzen durch Bromid. Deshalb hat sie der Typ dann gekauft, Natriumbromid im Internet, keine Ahnung, wo man das herkriegt, hat wochenlang seine Speisen damit gewürzt und ist dann eingeliefert worden ins Krankenhaus mit Bromismus, eine Psychose, die man bei uns eigentlich seit dem 19. Jahrhundert nicht mehr kennt. Also ich sage jetzt nicht, das ist die Zukunft, die uns alle erwartet, wegen Chatbots, aber es veranschaulich dieses Problem mit diesem bestätigenden Verhalten, dieser Hemmung, uns zu widersprechen und uns vielleicht vor den Kopf zu stoßen. Und es ist überhaupt nicht überraschend, dass diese Chatbots so sind. Es ist sogar jetzt vor zwei Monaten or three months eine Studie rausgekommen, die gezeigt hat, dass die Hersteller eigentlich Vollidioten wären, wenn sie dagegen was daten. And this was really veröffentlicht in Science. This is one of the aller angesehensten Fachzeitschriften. Und die haben Chatbots untersucht, die haben in zwischenmenschlichen Dilemmata. They have zum Beispiel geschaut, wenn ihr einen sehr schleimerischen Chatbot habt, einen sehr sycophantischen Chatbot, so schleimerisch wie die actuellen Modelle sind, and ich unterhalte mich mit dem über Beziehungsprobleme zum Beispiel. Dann wird auch hier the Chatbot tendenziell mir recht geben im zwischenmenschlichen Konflikt, circa doppelt so häufig wie es ein menschliches Gegenüber machen würde. And this hat wirklich dazu geführt, wenn sie Leute mit diesen Chatbots unterhalten über zwischenmenschliche Konflikt, dass sie dann eher überzeugt waren, im Recht zu sein, weniger bereit waren, sich zu entschuldigen oder die Beziehung zu reparieren. And the eighteenth arge is, uns fällt gar nicht auf, wie schleimerisch die sind. Wir stufen die Antwortermaßen objektiv ein. We merken das gar nicht bewusst. And gleichzeitig steigt unsere Bereitschaft, bei ähnlichen Fragen in Zukunft den Chatbot erneut zu verwenden. And this is, glaube ich, der ganz kritische Punkt. Je schleimiger die Dinger sind, desto eher werden wir sie in Zukunft auch wieder nutzen wollen. Und deswegen schlagen die tatsächlich in dem Paper vor, weil sie sagen, die Tech Bros, die hauen sie ja eh jetzt schon die Schädel ein, damit wir ihre KI nutzen, die werden überhaupt keinen Anreiz haben, da was zu ändern. Und deswegen sagen die: Was wir eigentlich brauchen, das sind Institutionen, die vor Veröffentlichung eines Modells das Ausmaß der Arschgriecherei testen, in Wirklichkeit. Und wenn es zu arschgriecherisch ist, dann dürfen wir es nicht veröffentlichen.
SPEAKER_00Grundsätzlich, ich glaube, das, was wir erzählt haben, trifft vorher nicht auf ChatGPT zu. Dieses Beispiel ChatGPT 4.0, wie sie es dann abgeschafft haben, gab es Online-Petitionen, die Millionen Menschen unterschrieben haben, weil sie diesen Chatbot zurückwollten. Weil sie es so vermisst haben, dass sie die ganze Zeit zuspricht.
SPEAKER_02Yeah, wir lieben Arschkrächerei, solange wir auf der Empfängerseite sind. Das ist, glaube ich, die Take-Home-Message. Und ChatGPT war ein Extremfall. Aber diese Arbeiten, die testen das immer an unterschiedlichen KI-Modellen. Also diese Arbeit in Science zum Beispiel, die hat, ich glaube, die Top-11 kommerziellen Modelle getestet. Und es gab aber auch eine etwas frühere Arbeit, die hat sich das angesehen in Bezug auf Aussagen eines medizinischen Datensatzes. Und die haben getestet, ChatGPD, Gemini und Claude Sonnet von Anthropic. Und haben auch gesehen, dass etwa die Hälfte aller Antworten, ich glaube fast 60 Prozent, Elemente enthalten haben, wo die Wahrheit hinten angestellt wurde, um die Zufriedenheit der Nutzer zu erhöhen. Das ist quasi die Definition von Psychophantie in dem Fall. Und ich glaube, 13% der Antworten hat das dazu geführt, dass die Antwort dann einfach falsch war. Obwohl er eigentlich die richtige Antwort hätte geben können. Und das ist natürlich gerade in Bezug auf einen medizinischen Datensatz sehr schwierig.
SPEAKER_00Also, das heißt, dass ich das jetzt richtig verstehe, der hat bewusst die falsche Antwort gesagt, weil er einfach die Person heutzutage würde man sagen, lesen wollte. Quasi der einfach schön tun alt, würde ich gesagt.
SPEAKER_02Also, wie du weißt, der Begriff bewusst ist natürlich schwierig. Sorry, I'm sorry.
SPEAKER_00Das ist ja bedenklich. Also, ja, aber ich frage mich halt, um es gibt ja unzählige Beispiele. Also, kennst du von Deutschland, Deutschlandfunk hat ja gerade eine ganz große Podcast-Reihe, die Open AI Story, where they from a niederländish entwickler erzählen, who's a schware psychose in an intensive contact with a chatbot verried and all his spots had, but he said, In this chatbot is a person and he must raise. Oh wow!
SPEAKER_02Yeah.
SPEAKER_00But that is high, you know, and he is then in a nervenheilanstalt aufgewacht and had gemerkt, was er eigentlich alles angerichtet hat, später.
SPEAKER_02Da ist die Frage halt immer, was löst der Chatbot aus und was ist schon da? Und der Chatbot triggert es dann halt in eine Richtung. Aber das finde ich sehr spannend, dass er glaubt, da ist eine Person drin gefangen.
SPEAKER_00Genau.
SPEAKER_02Weil so habe ich es noch nicht formuliert gehört, aber es gibt ja sehr viele Leute, die überzeugt sind, ihr Chatbot wäre bewusst oder hätte ein Bewusstsein. Und das finde ich so interessant, weil im Endeffekt sind es noch immer Tabellen aus Zahlen, die miteinander multipliziert, addiert, etc. werden, um dann Vektoren zu erstellen. Niemand würde sagen, wenn eine mathematische Rechnung innerhalb eines Computers komplex genug ist, dann entsteht dabei ein Bewusstsein. But the Tatsache, dass wir mit dem reden in natürlicher Sprache and it antwortet besser als viele Menschen antworten, this could be erklären, ohne us to say, it has a bewusstsein.
SPEAKER_00Richard Dawkins was for a weekly, that Cloud a Bewusstsein has. And there is not the verdacht.
SPEAKER_02It is a bit comic in the alternate days, muss man, but that's a very game. Yeah, so it is in my eyes. In my eyes, it is vulnerable to one, and that is the framework, obviously, when we've update or when we're löschen. But it would your verhaltens nicht ändern. Man has often this build, it went so eine stumpfe Rechenmaschine, die macht that, and auf einmal entwickelt es ein Bewusstsein, anderes. Oh wow, I've been here. But this is jailstar, and intelligence wird so oft vermischt. Es kann ein Chatbot perfekt reden. Ich kann mich mit dir vielleicht unterhalten, nicht wissen, bist du ein Chatbot, bist du ein Mensch. Mit Bewusstsein, ohne bewusstsein, it would for the interaction keinen Unterschied machen, außer for dich as Chatbot, if you an inner wahrnehmen has or not. But it is not the same, that the chatbot new ideas entwickled, that he will this paradise of earth and us all, and we have where it momentum mean.
SPEAKER_00Yeah, Entropic had a philosopher who Cloud dauff trained. And he had for two weeks the frame whether a chatbot with you. Does a chatbot the entry not with you befriended to be? I read with you, but I will not with you. While there are so many people who I think have a friendly verh-the-chatbot entwick.
SPEAKER_02And they're not in Chatbots, is it unfair, the things so off to setzen that they befreunded? This is a very interessant answer. I would the chatbot by the discussion eighteen gern ignorieren and either the frame stellen: Is it pedagogisch wichtig für uns Menschen wichtig, dass when we uns der Maschine gegenüber wie die größten Wapper verhalten, dass wir die Rückmeldung bekommen, okay, Freundschaft beendet. Ich glaube nicht, dass das kommerziell umsetzbar ist. Weil natürlich versuchen wir ja überall im Internet die Friction so gering wie möglich zu halten, weil die Leute sonst abspringen. Wenn ich auf Amazon was kaufen will und ich habe den Jetzt kaufen-Button, kaufen mehr Leute das, als wenn ich zuerst in den Einkaufswagen lege und dann auf Kaufen klick. Und ich glaube, das Letzte, was User haben wollen, ist Friction bei einer Unterhaltung mit dem Chatbot. Dass ich ihn überzeugen muss, dass das wichtig ist, dass er mir jetzt eine Antwort gibt, dass ich ihm gut zureden muss, dass er sich jetzt die Mühe macht, im Internet was zu recherchieren. Oder gar das, wenn ich zu unhöflich bin, dass er mir die Freundschaft kündigt und ich es dann überhaupt der Woche nicht nutzen kann. Also ich glaube, es ist kommerziell nicht nachhaltig. Aber ich frage mich auch, was es mit Menschen macht. Wir sind schon. Wie alt bist du? Wir sind gleich alt tatsächlich. Wir sind schon alt. Dann kann ich sagen. Wir sind aufgewachsen von klein an. Alle Interaktionen sprachlich, die wir hatten, waren mit Menschen oder mit Büchern, die von Menschen geschrieben wurden. Das heißt, für uns ist quasi die Sozialisierung abgeschlossen. Aber ich weiß nicht, wie das ist, wenn irgendwann eine Generation kommt, die sich vielleicht mehr mit KI unterhält von klein auf als mit Menschen. Weil ich verbringe den Großteil meiner Zeit online in meiner Wohnung. Ich rede wahrscheinlich mehr mit KI als ich mit Menschen rede, aber ich bin auch ein Beer. Und da wäre es vielleicht wichtig, dass einem die Dinge auch widersprechen können. Weil ich weiß nicht, wie viel sich davon verfestigen könnte.
SPEAKER_00Yeah, ich habe einen, ich verwende beispielsweise Cloud and I have a skill drin that circa 30 of your sites. And that it's me ever and yet when I blind Flag. It's always the critical position of my game, but I like a little ungenerated to be by words, etc., that I'm so far off the finger. But I mean so often that it's a very weak feeling. So when I say give me a briefing to this thing, go and I lay this door, and there are something off that falsch are. And there are many cleaners and many unshapers, but so many. Da hat jeder eine endgültige Meinung zu einem Thema. And what macht dann KI, die zwar jetzt nicht mehr so schlimm ist wie ChatGPT 4-0, aber die dich trotzdem immer bestärkt, wenn du nicht in 30 Seiten Laden Spiel hast.
SPEAKER_02Ja, das ist ein sehr interessanter Punkt. Vor allem auch, weil wenn es dir dann eine falsche Information gibt, macht es das immer mit einer derartigen Überzeugungskraft. Die Dinge sind ja irrsinnig gut darin zu überzeugen, zu argumentieren. Das kann man nutzen. Es gibt Forschungsarbeiten, die zeigen, dass wenn man Verschwörungstheoretiker mit gut vorgeprompteten Chatbots reden lässt, das ist auch schon ältere Arbeit, dann sinkt ihr Glauben an die Verschwörungstheorie über Monate hinweg. Was gut ist, allerdings können sie da auch den größten Scheiß einreden und genauso überzeugend sein. Also ich habe das lange Zeit funktioniert. Wenn ich gefragt habe, wer aktuell Mitglied bei den Science Pastors ist, dann habe ich immer eine Liste von Leuten gekriegt, and es war immer mindestens eine Person dabei, von der ich noch nie gehört habe. Keine Ahnung, wer das ist. Das hat sie jetzt aufgehört, jetzt funktioniert es einigermaßen. Aber ich merke das auch, wenn ich es zu Recherchezwecken verwende. Und ich verwende es gern zu Recherchezwecken, weil es halt wirklich gut darin ist, auch Papers zu finden, auf die ich sonst nicht stoße. Es ist schwierig, auf PubMed wissenschaftliche Arbeiten zu suchen oder auf NCBI, wenn man nicht wirklich weiß, was sind die sinnvollsten Keywords, aber Chatbots mittlerweile sind da besser als ich bin.
SPEAKER_00Es ist ja schon total anstrengend, nur auf der U-Search-Seite Bücher zu suchen teilweise. Das ist schon anstrengend. Das ist, ja, sie sind halt extrem halt, wenn man genau weiß, was man zu suchen will und das einer KI gibt, findet sie es einfach viel schneller als ich. Und b finden es halt wirklich oft Dinge, die man selber nicht so auf dem Schirm hat.
SPEAKER_02Und ich unterteile das auch so schön. Ich finde die KIs wahnsinnig gut darin, Forschungsarbeiten zu finden, die etwas Bestimmtes zeigen, was mich akut interessiert. Das ist natürlich auch die Gefahr, dass man dann einen Bestätigungsbias hat. Man kann sagen, findet mir 50 Studien, die zeigen, wie Arc-Schutzimpfungen sind. Aber so sollte man es natürlich nicht nutzen, wenn man ein ausgeglichenes Bild haben möchte. Aber ich habe zum Beispiel, ich habe mal vor 15, na vor 13 Jahren eine Studie gelesen im Zuge meines Doktorats, wo unter anderem, das war nur so eine Nebenerkenntnis, unter anderem gezeigt wurde, dass when ich Mäuse in eine neue Umgebung setze, die sie noch nicht kennen, dann entstehen vermehrt DNA-Doppelstrangbrüche in den Neuronen ihres Gehirns.
SPEAKER_00Was heißt das?
SPEAKER_02Es gibt verschiedene Arten von DNA-Schäden, die können entstehen. And die gefährlichsten, die toxischsten sind eigentlich DNA-Doppelstrangbrüche. Das sind mitunter die, die auch durch Radioaktivität entstehen, die sehr schwer zu reparieren sind, oft fehleranfällig repariert werden. Und es heißt im Prinzip nichts, außer dass wenn die Maus in einer neuen Umgebung ist, arbeitet ihr Gehirn mehr. Ist bei uns wahrscheinlich auch so. Bei uns hat man es nicht untersucht, weil das ist invasiv. Aber auch wir, wenn wir in eine ungewohnte Situation kommen oder in eine neue Umgebung kommen, ein neues soziales Umfeld, würde ich davon ausgehen, dass unsere Neuronen vermehrt diese Art von DNA-Schaden nehmen, einfach weil sie metabolisch aktiver sind, weil sie mehr arbeiten. Und das fand ich total interessant, weil wenn ich, weil es irgendwie so relativiert, was für Schlüsse man aus solchen Aussagen zieht. When you say, here is etwas, von dem gezeigt ist, es fügt deinem Gehirn the toxischste Form aller DNA-Schäden zu feiern, dann würde ich sagen, oh my God, oh my God, this is um vermeiden. But when you say, yeah, but the activity, that herruft, is an instrument to learn, or with friends to quatschen, or in Urla a new game to besichtime, then that this aussage a bit irreführend sein, when many context nicht bereitstellt. When many sagt, okay, but this men an DNA is problematic, this is either sagen wollte, oh Gott, jetzt bin ich abgedriftet. Diese Arbeit wollte ich dann jahrelang finden. Ich habe sie nicht gefunden. Weil es ging, das war nicht das primäre Finding, diese Arbeit. Und dann habe ich einfach mal aus Neugier ChatGPT gesagt, ich habe ein Paper gelesen, es muss in den letzten 15 Jahren publiziert worden sein, und das war neben Finding, der hat das sofort gehabt. Keine Suchanfrage von mir hat es geschafft. Also zum Suchen, jetzt aktuell arbeite ich an einem Video, wo ich schauen will, ob Viagra Schnittblumen länger aufrecht stehen lässt. Das klingt absurd, aber gern ausprobieren gibt es einen in Wikipedia Viagra, da steht, das wäre so. Und es ist sogar eine Studie oder eine Arbeit verlinkt im British Medical Journal, die das ebenfalls behauptet. Und ich stehe dann aber skeptisch gegenüber, weil ich der Meinung bin, keine Arbeit hat das jemals wirklich getestet. Und deswegen teste ich jetzt. Deswegen habe ich mir Viagra besorgt, das war eine super Geschichte. Ich war Essen hier in der Gegend. Und irgendwer spricht mich an und sagt, hey, hey, ich mag deine Videos. Und ich sage, cool, freut mich. Ich arbeite gerade nein über Pralle, Steife, Schnittblumen im Kontext von Viagra und habe halt noch dazu gesagt, aber ich habe keine Ahnung, wo ich das Zeug herkriege. Dann hat er gesagt, ah du, weißt du, ich bin eigentlich Arzt. Wenn du willst, gehen wir rüber in die Apotheke. Ich habe einen Ärztehausweis mit. Und so bin ich mit der Backung Viagra heimgegangen. Super. Braucht man ein Rezept für Viagra? Ein Rezept braucht man schon. Ich glaube nicht, dass es unter Suchtmittelgesetz fällt. Also niemand macht sich es sehr nennenswert strafbar. Aber rezeptfrei ist es nicht.
SPEAKER_00Also nicht im Internet einfach bestellt auf irgendeiner damischen Seite.
SPEAKER_02Wäre, glaube ich, in dem Fall nur eine Verwaltungsstrafe. Oh, okay. Und Verwaltungsstrafe heißt man. Ein bisschen klein gelübrig hat, dann kann man es leisten. Was ich eigentlich sagen wollte, es tut mir leid, weißt du, wenn ich wenig geschlafen habe, Schweizer. Was ich eigentlich sagen wollte, ich habe recherchiert and recherchiert, and then habe ich ChatGPT, such mir alle veröffentlichten Forschungsarbeiten that Viagra in context of pflanzen. They had 11 minutes, so long and had argued that we totally come. In the reviews were not gone, my keyword searches have they not given. I don't know what this thing made, but it finds so much better information than I. So early must say. What I mean would, and that wanted to know, but you just said I would not need the information that I ausspuckt so glauben, ohne this in the paper self zu lesen. Also ich benutze this gern, um auf Quellen zu stoßen, but I would not so wiedergeben, wie er mir das sagt, weil da habe ich schon auch sehr oft festgestellt, dass er nicht nur manchmal ein bisschen daneben liegt, sondern oft auch wirklich etwas Falsches sagt, dass man in der Arbeit steht, oder vielleicht steht sogar das genaue Gegenteil drin. Oder die Arbeit wurde zurückgezogen, weil es ein Schaus war und er hat vergessen, es zu erwähnen. Also das ist mir alles schon untergekommen.
SPEAKER_00Das ist halt das, das ist halt das ganz, ganz große Problem. Und halt, ich habe dieses Semester auf der FH für WKW, Journalismus und Content Management, KI und Journalismus das erstmals als Fachort gewesen, mehr oder weniger. Und da war es immer ganz wichtig, dass die KI Fakten checken soll für die Studierenden. Weil sie gesagt haben, das soll doch die KI machen. Und das war für die ein komplettes AH-Erlebnis, dass man dann sagt, ich könnte es denn nicht der KI vertrauen. Und das ist, die sind halt wesentlich jünger als wir, die sind so 15 Jahre wahrscheinlich jünger als wir. Die haben schon eine ganz andere Wahrnehmung, was Computer oder was die Maschine ausspuckt. Wesentlich unkritischer, würde ich sagen, als wo wir noch analog gern aufgewachsen sind. Weil wir waren ja die letzte analoge Generation, oder? Halt ohne uns jetzt so, oh, wir sind so besonders.
SPEAKER_02Aber ich meine, vielleicht nutzen die es auch mehr und sind einfach auch ein bisschen auf einem neueren Stand, als es zum Beispiel ich bin. Weil ich habe noch immer die Schreckensszenarien von vor einem halben Jahr im Kopf, wo ich aber, wenn ich ehrlich bin, weiß, viele davon treffen immer zu. Also es ist noch so präsent im Hinterkopf, wie unfähig die Dinge sind, Hände zu zeichnen. Das ist natürlich längst Geschichte. Das Weinglas. Das Weinglas, das Randvollgefüllte, wo ich extrem eingefahren bin, wie ich das Video dazu gemacht habe, weil in dem Moment, wo ich es hochlade, ein Update kommt und plötzlich ist alles nicht mehr richtig.
SPEAKER_00Und das Weinglas war voll?
SPEAKER_02Das Weinglas war voll. Also ich lade das Video hoch, in dem ich erkläre, warum sämtliche bildgenerierenden KIs nicht in der Lage sind, ein randvoll gefülltes Weinglas zu zeichnen. Ich habe das recherchiert, ich habe viel Arbeit reingesteckt, ich lade es hoch und auf einmal lauter Kommentare, die sagen, doch, das geht, man muss nur sagen, dass es wirklich bis zum Rand gefüllt sein soll. Oder ich habe es gerade ausprobiert und im ersten Versuch geschafft. Und ich habe gedacht, das gibt es ja nicht. Das meine ich. Ich gehe rüber, gebe dasselbe nochmal ein, hat in dem Moment GPT-4. Oh, das ist ja scheinbar wirklich das Problem, Kind, ein Update bekommen. Und davor hat sie die Bildgenerierung eigentlich ausgelagert in, ich glaube, Dolly. Dolly. Dolly, oder? Jetzt heißt es immer irgendwas. Ja, ja. Und dann hat sie halt seine eigene native Bildgenerierungsfähigkeit bekommen, mit einem Sprachverständnis, das alles bis daher völlig übertroffen hat. Und jetzt glauben alle, die meinen YouTube-Kanal abonniert haben, dass sie ein absoluter Vollidiot sind und nicht mal ein Minimum an Recherche machen. Aber genau, was ich sagen wollte, vielleicht die jungen Leute, vielleicht sind die zum Teil auch auf einem aktuelleren Stand, weil all die Dinge, die mich noch traumatisiert haben, wie unfähig die KI zum Teil ist, vieles davon wird wahrscheinlich nicht mehr zutreffen. Aber nach wie vor würde ich sagen, dem Ding nicht bringt Vertrauen. Aber was ich schon auch mache, zum Beispiel, ich weiß nicht, ob du das auch so handlst, wenn ich ein Script fertig habe oder irgendeinen Text, sei es wissenschaftlich oder sonst was, dann kopiere ich es schon in ChatGPT rein und sage: Mach eine Auflistung sämtlicher faktischen Aussagen, recherchiere gründlich, ob diese Aussagen zutreffend sind. Gebe Bescheid, falls das nicht the fall is, und verlinke jeweils seriöse Quellen, die das bestätigen oder widerlegen. And da macht er oft gute Arbeit. It is not perfekt, but here and da komme ich auf Sachen drauf, wo ich mir denke, this is either to unpräzise formuliert, this is vielleicht so unpräzise that should be irreführend sein könnte. And it is hilfreich. But I would niemals the letzte Vertrauen ihm schenken, dass when I den Eindruck habe, recherchiert zu haben, it's so, and der sagt, it's so, that you this overnew, this would nie machen.
SPEAKER_00Beispiel, weil es ganz aktuell is, Fable 5, halt Enthropic, the super gefährliche, hochleistungsstarke Sprachmodell of Enthrop. I won't forgive, weil we stand gestern had it verschwinden. Just have it verlanged by the 12th Julian, that jeder that we have. And it is really marginal. And I have this even as you make the script with KI and let them fuck-check. And there is heavy, before we have this game. And see, I laid this and they said, He had a fucking geckt, that passed. Say, No, that stimulation. Their side can so not strike. Ah, yeah, my feeling. And this is this stamp, man will an off, and then they upgave, but had the feel that it's not right.
SPEAKER_02Also, as many unsuffulgives or had an artist who is brilliant in the other is, but all the other regions weren't entferned. But I have often the feeling, it is berichtet, when these benchmark-tests hast. Oder when we vergle the Diagnostic von Ärztinnen und Ärzte anderes KI, then ist das immer sehr beeindruckend. Aber da schauen wir halt gezielt nur auf das, wo gerade die KI wirklich brilliert. Gleichzeitig hast du halt immer diese Lücken von Aufgaben, die für uns eigentlich völlig banal erscheinen, wo KI aber phänomenal scheitert. Und das finde ich schon interessant, dass diese Reihenfolge an Kompetenzen, die KI erlangt, so unintuitiv ist für uns, die wir Kompetenzen in ganz anderen Reihenfolgen erlangen. Es ist eh wie das mit dem Weinglas. Ich werde nie so zeichnen können wie ChatGPD, aber ich kann ein randfolgefülltes Weinglas machen. Und das ist jetzt überholt, aber meines Wissens, ich weiß nicht, wann der Podcast veröffentlicht wird, meines Wissens, mein aktueller Stand, und das letzte Mal getestet, habe ich vor zwei Wochen, keine Bildgenerierungs-KI hat es bisher geschafft, mir zwei Menschen zu zeichnen, die sich die linke Hand schütteln. Und das von KI, die in naturwissenschaftlichen Fragen, anatomischen Fragen so viel besser abschneidet als sämtliche Medizinstudierende, daran scheitert er. Und das irgendwie im Hinterkopf zu haben, wenn ich dem eine banale Aufgabe gebe und ich denke mal, okay, ich vertraue dem schon, weil der war so brillant in all diesen Bereichen, trotzdem im Kopf zu haben, dass es sein kann, dass gerade in diesem Bereich, auch wenn ich damit nicht rechnen würde, der vielleicht ein absoluter Wappler ist. This is ja dieser Jagged Frontier, den Begriff, den du sicher, der sicher schon untergekommen ist. Jagged Frontier, die geriffelte Linie. This is a KI-Forscher, has this etabliert. And this is a Darstellungsform, die oft verwendet wird, um zu zeigen, was KI can und was nicht. Da hat man im Grunde einen Kreis, and der Kreis symbolisiert alle Arten von Aufgaben, die Menschen gut erledigen können. Und dann hat man so eingezeichnet mit Zacken, was die KI kann, da könnte Mathematik sein, da ist sie schon weit über dem, was Menschen normalerweise programmieren. Und dann hast du halt aber diese Flecken, wo die KI noch vollkommen inkompetent ist. Und wir aber vielleicht so viel besser sind. Und solange dieser Kreis nicht ausgefüllt ist, gibt es wahrscheinlich noch eine Nische für uns, weil die meisten realen Aufgaben brauchen nicht nur die eine Fähigkeit in Perfektion, sondern ein ganzes Sammelsurium aus Fertigkeiten. And there is oft etwas dabei, an dem die KI not scheitern.
SPEAKER_00Die KI, this is just out, vielleicht can we just give them formulieren. Irgendwie is a sprachboard generalist, but another generalist as we Menschen. We can so we have so much, we can besser kontextualisieren, glaube ich, als die KI. That is, glaube ich, der große Unterschied. Weil wie du sagst, wenn man sagt, du gibst der KI eine Rolle, etc., ist es brillant darin, diese Sache zu erledigen. Aber dann das zu verknüpfen mit anderen Aufgaben, da tut sie sich dann schon sehr viel schwerer. Als wir Menschen, wie du sie eben gerade beschrieben hast.
SPEAKER_02Ja, es ist eher großer Debatte, weil dieses Verknüpfen ist ja auf das, was Kreativität ausmacht. Kreativität heißt ja nicht, ich habe eine brillante Idee aus dem Nichts gezogen, sondern oft ist es, dass ich zwei gute Ideen habe und die auf eine neue Weise kombinieren, sodass etwas Sinnvolles Neues dabei herauskommt. Ein Beispiel ist die Gebrüder Wright, werden da oft genannt bei Kreativität. Die Flieger, oder? Genau, genau. Und da heißt es auch, also die haben mal gesagt, irgendwo, die haben sich da jetzt nichts fundamental Neues ausgedacht, aber sie haben zwei Bereiche genommen, wo sie sie gut auskennen. Nämlich einerseits, sie waren Fahrradingenieure und haben sich deshalb mit diesen ganzen Schrauben und herumgeschraube sich gut ausgekennt und so Konstruktionen. Und gleichzeitig waren sie total fasziniert davon, Vögel zu beobachten. Und die haben halt diese beiden Erkenntnisse fusioniert und dabei ist halt was fundamental Neues rausgekommen. Das ist etwas, was KI grundsätzlich sehr, sehr gut kann. Zwei unterschiedliche Ideen kombinieren auf eine Weise, die etwas Neues, Kreativ Wirkendes entstehen lässt, falls du die Bilder von Schrimp Jesus kennst oder so. Das ist ja phenomenal. Aber gleichzeitig, es gibt halt viele, man sieht halt auch bei kreativer Arbeit, wenn es Leute nutzen, dann wird der Output meist besser beurteilt. Aber gleichzeitig, wenn du es viele Leute nutzen lässt, ist es so, dass sich die Dinge, die dabei herauskommen, mehr ähneln, als wenn du viele Menschen ohne KI arbeiten lässt. Das heißt, ich glaube, das Dilemma ist auf individueller Ebene, hilft es dir, aber auf gesamter Ebene hast du am Ende wahrscheinlich weniger Ideen, als wenn du die Leute ohne KI hättest arbeiten lassen. Oder alle landen auf einem ähnlichen Niveau. Da gibt es ja auch einen Begriff, den hat auch Ethermole. The great leveler. Willst du gerade was sagen?
SPEAKER_00Nein, yeah, ich würde ein good spawnen of these violetten Websites for a half, three years. And this, why the KI the Datenmenge has Violet als besonders professionell wirkt, waren auf einmal Haufen Webseiten alle violett. And that recht gut. Also in der Masse beginnen dann alle einen gleichen Geschmack zu haben. Und das ist ja auch ein ganz großes Thema gerade.
SPEAKER_02Das ist interessant. Wenn ich die einzelne Website betrachte, das ist die sehr gut gemacht. Aber dann ist halt die 50.000 Webseite, die genauso ausschaut.
SPEAKER_00Genau, weil sie alle ähnlich ausschauen. Oder auch halt bei Passwörtern hat das geil News jetzt in Großbritannien vor einem halben Monat oder dreiviertel Jahr. Es ist, glaube ich, wirklich nicht die intelligenteste Art und Weise, ein Chatbot nach einem sicheren Passwort zu fragen. Aber die haben es gemacht, haben halt verschiedene Accounts angelegt und gefragt, ich brauche ein sicheres Passwort und sie haben drei oder vier Mal, obwohl mit VPN anderer Accounts immer das gleiche Passwort bekommen. Also gut möglich, dass es einfach gerade Millionen Accounts gibt, die ein Chatbot nach einem Passwort gefragt haben, wo jetzt.
SPEAKER_02Ja, es ist ja so viel mehr gebiast, als einem im Alltag auffallen kann. Ich habe auch gelesen, irgendwo haben sie den Versuch gemacht. Wenn du, ich weiß nicht, welche Chatbots es waren, aber wenn du sagst, gib mir eine zufällige Zahl zwischen 1 und 100 und man hat dann geplottet, wie oft welche Zahl genannt wurde, dann war das nicht eine gerade Linie, wie man erwarten würde, sondern es gab einzelne Zahlen, die sehr herausgestochen sind. Was glaubst du, welche ist am häufigsten genannt? 7. Tatsächlich nicht? 13? Es war die 42. Ah, ja. Weil es das auf dem Internet liest, 42, und weil es die Antwort auf das Universum, das Leben und den ganzen Rest. Ich habe vergessen für was, weil das oft genannt wird, als die Antwort auf alles. Und deswegen hat auch der die Antwort öfter gegeben. Interessant, ich hätte auch 37. Per Anhalter durch die Galaxie. Ach, Galaxie. Genau, da geht es ja auch um einen Supercomputer, den sie bauen und dann lassen sie ihn rechnen und herausfinden, was ist die Antwort auf das Universum, das Leben und den ganzen Rest oder so. Dann rechnet der, rechnet der und sagt 42. Ich hoffe, ich erzähle das jetzt nicht falsch. Und dann denken sie, scheiße, ich kann es.
SPEAKER_00Sie stehen alle dort und warten und dann sagt er halt einfach 42 und keiner versteht, warum.
SPEAKER_02Genau, Deep Port. Und das mag ich nichts spoilern, aber dann möchten sie einen noch besseren Supercomputer bauen, der ihnen die Antwort erklärt. Und das ist eigentlich die Prämisse, die dann die Handlung des Films auslöst. Total cooles Buch. Kann ich sehen. Gibt es auch ein Ferbuch? Super Film. Ja, ja, absolut. Vor allem die alte Verfilmung.
SPEAKER_00Ja, aber wie sind wir jetzt auf Zeit? Ach so, genau, in den 42 is the most generous.
SPEAKER_02Genau, but da würde man auch nicht damit rechnen, dass it's kein Zufallsgenerator is, auch when it so worked in the hands.
SPEAKER_00But we lernen this as a bit competent than I was.
SPEAKER_02ist zu tun, ist sich zu bemühen, nicht zu denkfaul zu werden. Das merke ich bei mir. Wenn ich abkürzen kann und merke, okay, das ist vertrauenswürdig und ich kann, es ist leichter, einen langen wissenschaftlichen Text auf Deutsch zu lesen als auf Englisch, auch wenn man es gut kann. Es ist einfach einfach und wenn man eh schon müde und erschöpft ist, vielleicht sollte man es trotzdem immer wieder mal antun. Und vielleicht sollte man auch trotzdem lange englische E-Mails verfassen, anstatt immer auf Deutsch einzusprechen. Da sehe ich schon ein bisschen Gefahr bei mir selber. Ich habe Angst, dass ich ein bisschen verblöde, weil ich mich zu sehr auf die Funktionen verlasse, die verlässlich wirken.
SPEAKER_00Weil das habe ich nämlich, den Eindruck habe ich gerade enorm, dass ich die Information die ich aufnehme, gar nicht mehr so abspeichere in mir, wie ich es vorher getan habe. And ich mache jetzt so KI-freie TARS-Upschnitte. Ooh, that is smart. Also, weil ich einfach wirklich das Gefühl gehabt habe, dass ich mich einfach nur noch hochladen in die Cloud. And that macht mir Angst. That macht richtig, richtig Angst phasenweise. Weil man einfach dann so war das nicht so? And man entwickelt ein extrem gefährliches Halbwissen, was ich einfach nicht will. Und darum fange ich jetzt an Bücher to lesen and not what. And then not so specifically.
SPEAKER_02That is a very good idea. Allein design, while we stößt of five other interessant information and this felt completely when I exact the answer that I sure and this is it's that you frame it.
SPEAKER_00And when you I don't know when I have the unique book in which many time to write or so and man is fascinated that there is a book and then that you can do it a book.
SPEAKER_02When I in Wikipedia had to show this mechanism in the chatbot but I had not this reference where it would aufrecht halt. This wäre verloren gegangen when I exactly the answer perfekt in perfecter Zusammenfassung or manchmal auch falscher Zusammenfassung become.
SPEAKER_00Yeah it is I think we won't perfect sein or fehlerfrei sein. And then we have a chatbot that we have fehlerfrei and the antwort is fehlerfry. This is a ganz interessante entwickling that we have that weder bewusster werden, wir sind unfehlbar, wir sind nicht nur unfehlbar, ist das jetzt richtig? Ja, oder? So kannst der Chatbot auch nicht, weil er mit unseren Daten trainiert ist. Und es gibt ja auch genug Bücher wahrscheinlich, wo nur Blödsinn drinsteht und die halt in der Datenbank, in ihren Rational Data Centers drinnen sind.
SPEAKER_02Oder wir gehen den Weg einfach zu Ende, akzeptieren, dass Intelligenz und Denken auch eine Bürde ist, das ist ja nicht immer angenehm. Jetzt haben wir KI, jetzt können wir endlich diese Bürde abgeben, jetzt können wir alle wieder sautrotteln werden.
SPEAKER_00Und Trash TV schauen.
SPEAKER_02Ja, den ganzen Tag TikTok Furz-Videos schauen und die ganzen existenziellen Fragen, die lassen wir in den Chat.
SPEAKER_00Das ist ein schönes, schönes Schlusswort, aber eine Frage verzeih mir noch. Was wird deiner Meinung nach KI in zehn Jahren nicht können? Noch immer nicht.
SPEAKER_02Verantwortung übernehmen. Ich glaube, Verantwortung übernehmen ist etwas, das darauf basiert, dass Leuten gedroht werden kann, dass man Konsequenzen fürchten muss. Wenn ich als Arzt jemanden versehentlich den Kopf abschneidet, dann trage ich insofern Verantwortung, dass ich ins Gefängnis gehe, wenn man mir das nachweist. Ein Chatbot kann nicht selbst Verantwortung übernehmen. Einen Chatbot kannst du mit nichts drohen. Wenn ein Chatbot einen Fehler macht, beruflich, kannst du ihm nicht sagen, noch einmal und du wirst gekündigt, beziehungsweise du kannst es ihm sagen, es wird ihm wurscht sein, weil es sind immer noch Zahlen, die miteinander verrechnet werden. Und ich glaube, das ist eine Nische, wo der Mensch nicht so leicht weggehen wird. So traurig es auch klingt, aber einem Menschen kannst du zur Verantwortung ziehen, wenn etwas nicht passt. Und ich kann falsch liegen, aber ich glaube, das ist etwas, wo auch, wenn wir kognitiv wahrscheinlich nicht dorthin kommen werden, wo gute KI-Modelle in zehn Jahren sind, ich glaube, das ist etwas, da muss ein bewusstes, leidensfähig Wesen am Ende stehen. Sonst macht das Konzept von Verantwortung keinen Sinn. Das ist.
SPEAKER_00Ich muss dich da trotzdem jetzt fragen. Also es gibt ja gerade, es wird ja gerade ganz heiß debattiert und Jurist, ich weiß, du bist kein Jurist, aber ausjuristiziert, wer ist verantwortlich, wenn der Chatbot die Scheiße macht, sind es dann die Herausgeber des Chatbots, beispielsweise OpenAI?
SPEAKER_02Das frage ich mich auch, also this muss natürlich ausgefochten werden, das wird sicher relevanz haben. But I frage mich auch, ob es nicht für uns menschlich einfach ein Anliegen is to spare where it is. Also when I when the army Wolf just said, when I wanted this is not rich, then whether I super pissed off the army Wolf, of the F. When I ChatGPT and I give me an antwort, where I wish it is not rich, I wish mit mein über wenig was für ein Idiot, wie kann ich das sagen, bitte nicht falsch verstehen. Ich schätze die Name super und ich gebe die Zeit top, aber nur als Gedankenexperiment. Vielleicht ist es mir einfach wichtig, wenn ich eine relevante Information hör, to wissen, wer steht dahinter und trägt die Verantwortung. Unterreicht es mir vielleicht nicht, dass das irgendein Open AI Gremium ist, da möchte ich vielleicht nach wie vor eine Person, weil es geht ja nicht nur um die Frage, was kann die KI kann und was kann sie nicht, sondern auch um die Frage, was wollen wir? Man könnte jedes Telefonat als Videotelefonat führen. Science-Fiction-Filme der Vergangenheit stehen das meistens so da. Star Wars, jeder ist ein kleines Hologramm. Die meisten Telefonate, die ich für sind keine Videotelefonate, weil wir wollen es nicht. Videogenerierungs-KI ist unfassbar gut, aber ich merke, wenn ich zu viel davon in meinen Videos einsetze, steht in den Kommentaren nur noch Scheiß-KI, Slot, Babu ist weg. Das heißt, es geht nicht nur darum, was kann sie, sondern auch was wollen wir. Und ich glaube, dass es viele Bereiche gibt, wo wir nach wie vor wissen wollen, dass ein Mensch steht, gerade im Kunstbereich natürlich, aber auch in anderen, sei es verantwortungsträchtigen Jobs wie Nachrichten, wo der Mensch da bleiben wird, einfach weil wir wissen müssen, dass da eine Person dahinter steht, damit wir dem vertrauen können auch. Ein Chatbot kriegt ein Update, das bringt nichts, wenn ich ein Vertrauensverhältnis zu ChatGPT aufbau, wenn ich weiss, in drei Monaten ist ein Update und da verhält sie wieder ganz anders.
SPEAKER_00Ja, dann statt, dass du eine Petition und verlangst, dass es da rückgeht.
SPEAKER_02Wie wieder das Waschkrallar. Das war das Beste.
SPEAKER_00Aber ein letzter Gedanke nur, weil du vorher ja beschrieben hast, dass mit den Mäusen, dass man quasi seine DNA verletzen muss, um zu lernen. OpenAI sagt nämlich ganz genau: The sicherste Weg zu einer sicheren KI ist, so schnell wie möglich zu handeln und auf dem Weg zu lernen, wie man sicher ist.
SPEAKER_02Ja, das könnte man machen, wenn das in einer großen, hermetisch abgeriegelten Box stattfinden würde und nicht im Internet, wo das Ding mit Leuten interagiert, sie politisch prägt, wenn sie Fragen stellen, etc.
SPEAKER_00Aber ja, es ist ganz lustig, dass wir anscheinend für OpenAI dann ein bisschen diese Mäuse sind, die sich verletzen. Das ist auch ein schönes Schlusswort, muss man sagen. Martin, vielen, vielen lieben Dank für deine Zeit.
SPEAKER_02Ja, danke auch, hat mich sehr gefreut.
SPEAKER_00Komm gerne wieder, wirklich. Ah, und das müssen wir noch, bevor wir aufhören. Du gehst jetzt auch alleine. Erzähl kurz noch ganz kurz. Nein, das interessiert mich wirklich. Und wenn ich dich schon da sitzen habe, du machst jetzt auch ein Soloprojekt.
SPEAKER_02Ja, es wird mitunter um KI gehen. Ursprünglich wollte ich es nennen Chatbot Moda. Es wird eine Bühnenshow. Aber dann habe ich mir gedacht, na, bis das Ding dann Premiere hat, im Jänner interessiert sie keine Sau mehr für Chatbots. Da ist Agent dann wahrscheinlich das Passwort. Aber Agent Moda, glauben wir alle, es ist ein schlechter Krieg. Also habe ich es jetzt genannt, Superintelligenz oder Sautrottel. Und im Endeffekt geht es um die Frage, was bleibt für uns Menschen, wenn wir vielleicht wirklich bald nicht mehr die intelligentesten da sind, was wir lange Zeit für uns beansprucht haben. Und auch einfach viel um die Frage, sind wir eigentlich so gescheit, wie wir uns oft vorkommen? Gerade auch in Bezug nehmen Bezug nehmend auf Quantenheilung etc. Also esoterik wird auch einiges, da kommt man nicht dran vorbei. Abs, das ist im Herbst dann. Das ist irgendwann im Jänner in der Kulisse, mit der Jänner, glaube ich, in der Kulisse hat es Premiere.
SPEAKER_00Da, dann sollen die Leute auf jeden Fall hinschauen, weil der Podcast war unterhaltsam und dann wirst du als auf der Bühne bist du ja auch nachweislich unterhaltsam.
SPEAKER_02Da weiß man auch, dass es wirklich ich bin und nicht den Chatbot mit einer Videocamkeit.
SPEAKER_00Danke. Und ihr da draußen gerne folgen, dem Martin folgen, uns auf YouTube folgen vor allem und auf Spotify, Apple Podcasts und wo es sonst überall diese ganzen Späße gibt. Und dann bleibt mir nur zu sagen, bis nächste Woche. Ciao.