KI-Massenüberwachung: China ist erst der Anfang - eine Warnung | Corinna Milborn

Künstliche Intelligenz bricht die physischen Grenzen der Massenüberwachung, da Algorithmen nun Datenmengen in Echtzeit auswerten können, für die Staaten früher Armeen von Personal benötigt hätten. Gemeinsam mit der profilierten Journalistin Corinna Milborn beleuchte ich in dieser Episode, wie die extrem hohe Machtkonzentration bei wenigen US-Tech-CEOs und die fortschreitende KI-Entwicklung unsere demokratischen Grundfesten bedrohen. Wir analysieren das chinesische Sozialkreditsystem, das vieldiskutierte Software-Unternehmen Palantir sowie das augenscheinliche Versäumnis der europäischen Politik, rechtzeitig digitale Souveränität aufzubauen und wirksame Regeln gegen das Monopol aus dem Silicon Valley durchzusetzen. Am Ende steht die drängende Frage, wie ein digitaler Humanismus aussehen kann, der Technologie wieder in den Dienst der Menschen stellt, anstatt uns zu gläsernen Bürgern zu machen.

• Corinna auf Bluesky 
• Corinna auf Insta

Hol dir den WKK Newsletter! 

• Flo auf Insta
• Flo auf TikTok
• Flo auf LinkedIn

---

Die Veröffentlichungen auf dieser Website/in diesem Podcast sowie die darin erteilten Hinweise und gesetzten Links dienen ausschließlich Informationszwecken und stellen weder eine Anlageberatung, Anlageanalyse noch eine Aufforderung oder Empfehlung zum Erwerb oder Verkauf von Finanzinstrumenten dar. Insbesondere kann eine Anlage- oder sonstige Beratung dadurch nicht ersetzt werden. Die in den Veröffentlichungen enthaltenen Angaben basieren auf dem Wissensstand zum Zeitpunkt der Ausarbeitung und können jederzeit ohne weitere Benachrichtigung geändert werden. Die Inhalte richten sich ausschließlich an natürliche Personen. Es wird keine Haftung für die Richtigkeit, Vollständigkeit oder Aktualität der zur Verfügung gestellten Informationen, Informationsquellen, daraus resultierenden Haftungen oder Schäden jedweder Art übernommen. Eine Haftung für leicht fahrlässiges Verhalten wird jedenfalls ausgeschlossen.

Transcript

SPEAKER_01 0:00

Und die KI ändert bei der Massenüberwachung wirklich alles. Wenn du die Straße überquerst, bei Rot, Punkteabzug. Wenn du deine Eltern im Altersheim nicht besuchst, ist übrigens ein Gesetz in China. Punkteabzug. Wissen sie wegen den Standortdaten?

SPEAKER_00 0:14

Eine der größten Gefahren für die westlichen Demokratien sind die CEOs von großen Konzernen.

SPEAKER_01 0:20

You would prefer the human race to endure, right?

SPEAKER_00 0:25

Well, I don't know. I would hesitate.

SPEAKER_01 0:31

Ich glaube, die sind schon lang mächtiger als Staaten. Bisher hat man sich immer noch gedacht, ist mir halt egal, wenn Google meine Daten hat. Der Datenschutz wurde einfach missachtet durch die Globalisierung im Internet. Alle sind irgendwie so im KI-Hype und jeder muss KI verwenden. In jedem Unternehmen soll KI implementiert werden. Zweifel daran zu haben, ist ein bisschen uncool.

SPEAKER_00 1:05

Herzlich willkommen zu Was KI kann, dem Podcast aus Wien, wo wir der Frage nachgehen, wie KI unseren Alltag verändert, unsere Gesellschaft and unsere Welt. Immer kritisch, immer concret and vor allem interessiert uns die Frage, what can KI not? My name is Florian Zifkewitz, I am Tech and Wirtschaftsjournalist and I am with my mission with KI better to understand. My health guest is Corinna Milborn, one of the profiled journalists in Österreich. Why have we ever entered so much to give from us?

SPEAKER_01 1:42

Yeah, but it's bequem is and why none of them so to make that we should. It is so that we need the world. That's why when the world with handys function, the standard data with all these teams, and when we have a website gets the constant cookies and wish what you are, what you machin, and so on. Then you need the one that's an almost and say, I should schaffe and zie mich aller communication. But this is for the masse unrealist. This function.

SPEAKER_00 2:34

Nein, ich frage mich halt, ich lebe sehr intensiv im Internet, and ich frage mich auch oft, wann dieser Moment war, dass wir einfach gesagt haben, okay, Firma X, there has these Daten, and we gave for zehn Jahren schon with Edward Snowden den Skandal der Massenüberwachung, it has nichts geändert. And jetzt kommt eine technologie, die perfekt verknüpfen kann, wie man in Minnesota sieht, wo an Software anbietet.

SPEAKER_01 3:04

But the moment war nie da, weil wir nie zugestimmt. That man Ja drücken muss, and that automatisch macht, wenn man es auf jeder Website machen muss, is ja neu. Früher war das einfach so. We have niezugestimmt, we have nie gewusst, we wissen bis heute nicht, wer unsere Daten hat. And this is natürlich ganz, ganz anders als so Datenschützer-Dinge des 20. Jahrhunderts, wo es um den Staat ging, der Daten von den Burgern sammelt. Da kann man sich leicht wehren, and da kannst du dich damit beschweißen, was macht meine Regierung mit meinen Daten. But when die Daten irgendwo auf der Welt auf irgendwelchen Servern liegen und du hast keine Ahnung, wo sie sind, wie willst du dich wehren? Also es gab nicht diesen einen Punkt, wo wir vergessen haben, auf unseren Datenschutz zu achten, sondern der Datenschutz wurde einfach missachtet durch die Globalisierung im Internet.

SPEAKER_00 3:52

Warum wurde das möglich, deiner Meinung nach, dass man einfach sagt, ihr wärt jetzt einfach nicht mehr gefragt, wie machen wir jetzt?

SPEAKER_01 4:00

So wie sich das ganze Internet entwickelt hat. This is a Wilder West, who from the what they can. And when the Regeln gibt in the analog asked, Silicon Valley is southern, and so many of these Silicon Valley forcers think this yeah. Beta Thiel says this. Mark Zuckerberg move fast and break things, his motto for long years. Had it to ignore and this ignorant, so this breaking the gets to nutrients, a monopolstelling, and then later, Google has been. So they have to ignore it and said, we have a lot of internet for us not. And sich dad doch Monopolstellungen aufgebaut. Und dann einige haben ja viel Strafe gezahlt, gerade in Europa, aber nichts im Vergleich zu dem, was sie verdient haben damit.

SPEAKER_00 5:01

Das Spannende ist ja, die USA ist ja eigentlich sehr berühmt dafür, große Unternehmen zu zerschlagen. Also wenn man in die Geschichte schaut, die haben, sobald ein Unternehmen zu groß geworden ist, wurde es zerschlagen. Aber bei den großen Tech-Konzernen neigt man einfach dazu, immer wieder ein Auge zuzudrücken.

SPEAKER_01 5:17

Ja, das ist wirklich erstaunlich, weil Wettbewerbsrecht ist ein Grundrecht im Kapitalismus. Also Kapitalismus ohne Wettbewerb funktioniert nicht. Monopole sind schlecht für Wettbewerb sind schlecht für die Wirtschaft. Deswegen waren die wirklich immer sehr genau, genau als Europäer eigentlich, dabei auf Wettbewerb zu achten. Und da funktioniert es nicht. Man muss aber auch sagen, dass gerade so soziale Netzwerke auch durch das, was man Netzwerkeffekt nennt, so eine natürliche Tendenz zum Monopol haben. Weil dort, wo einige sind, sind dann alle. Weil es hat halt keinen Sinn, auf irgendeinem Netzwerk zu sein. Nennen wir keine Namen, wo sonst niemand ist. Das heißt, man geht dorthin, wo auch alle deine Freunde sind, weil sonst hast du nichts davon. Und das führt wiederum dazu, dass die die meisten Daten haben und das bessere Produkt haben. Das heißt, es ist so eine natürliche Monopolbildung oder zumindest so eine Oligopolbildung eingebaut in der Funktionsweise von dieser Art von Internet, wie wir es jetzt haben. Was ja anders ist als das Internet, wie man es sich vorgestellt hat in den 1990ern und 2000er Jahren, wo man sich gedacht hat, das ist jetzt der große freie Raum und jeder hat seinen Blog und das ist alles frei, jeder kann machen, es gibt keine Gatekeeper mehr, also keine großen Unternehmen, die Informationen kontrollieren. Gelandet sind wir im genauen Gegenteil, es ist ärger als je zuvor. Wir haben jetzt nur eine kleine Handvoll Leute, die alles kontrollieren. Und von der großen Freiheit im Internet ist nichts mehr übrig, weil dort ist niemand mehr.

SPEAKER_00 6:40

Oder wann warst du das letzte Mal auf so einem Blog einfach von jemandem? Tatsächlich gestern, aber zufälligerweise. Aber es stimmt, es ist einfach ein, es haben sich einfach vier, fünf Firmen durchgesetzt, die, ich glaube, Google Chrome hat eine Verwendung von 95 Prozent. Also die Chromium-Basis.

SPEAKER_01 6:58

Die, die die meisten Daten haben, haben immer auch das beste Produkt, weil die wissen am besten, was du willst. Das ist am bequemsten. Das sind meine Freunde dort, die spielen dir die Werbung ein, die du haben willst, eventuell, nicht immer, aber so halbwegs zumindest. Und keine, die dich gar nicht interessiert. Und das heißt, wer größer ist, wird automatisch noch größer. Das macht es ja schwierig, da die Wettbewerbsregeln anzuwenden bei anderen. Aber es wäre überhaupt nicht unmöglich. Man könnte natürlich Wettbewerbsregeln anwenden. Man könnte zum Beispiel diese großen Firmen dazu zwingen, dass sie als Infrastruktur gelten und dass andere sich auch darauf bewegen können. So wie man trennt zum Beispiel die Eisenbahnschienen, von denen die drauf fahren. Oder die Telefonnetze von den Anbietern. Oder man könnte sagen, alles, was man dort macht, muss man mitnehmen können, überall anders hin. Und sich überall frei bewegen können. Das wäre auch eine Möglichkeit. Aber so derzeit haben die wirklich eine Macht, wie es glaube ich noch nie vorgekommen ist in der Geschichte der Menschheit, dass so many Personen tatsächlich, not nur Unternehmen, sondern Personen so viel Macht über die gesamte Welt haben. So etwas hat es noch nicht gegeben.

SPEAKER_00 8:09

Bei der Neubestellung der britischen Geheimdienstchefin, heißt einer der größten Gefahren für die westlichen Demokratien sind die CEOs of großen Konzernen, weil die bald mächtiger als Staaten sind.

SPEAKER_01 8:20

I think they are schon lange mächtiger als Staaten. When you überlegst, dass Meta Milliarden Menschen mit Information versorgt, die Infrastruktur has, auf der Information fließt, the data has over all these million and beyond the way controlliert. And that so viel macht had not kept the world.

SPEAKER_00 8:50

And that's we have an US-President that's auffällignist, würde ich. They have a good verhnis zu diesem President. Beispielsweise hat sich letzten September Meta und Google eben so Trust, also ob sie zerschlagen werden sollen oder nicht. Was hat Mark Zuckerberg gemacht? Er hat sich eine Villa in Washington, die sie um 30 Millionen gekauft, um möglichst nahem US-Präsidenten zu sein.

SPEAKER_01 9:22

Und eine große Spende für seinen Balsaal getätigt, zum Beispiel, und für alle anderen möglichen und unmöglichen Trump-Projekte, die er sich so einbildet.

SPEAKER_00 9:30

Sie kaufen halt, ohne jetzt unfair zu sein, aber letzten Endes ist Jedi Vines Vizepräsident geworden, weil es eine Personengruppe aus Silicon Valley gab, die hohes Interesse hatten.

SPEAKER_01 9:42

Die das wollte. Genau. Und Jady Vines fährt jetzt in Europa herum und versucht, Viden zu beeinflussen. Was mir nicht gelingt, glücklich. Wir haben tatsächlich eine Machtkonzentration, die noch nie da gewesen ist, und diese Machtkonzentration ist noch dazu im Medienbereich tätig. Wenn man sich ansieht, die Liste der reichsten Männer sind alles Männer der Welt, dann sind die Top 6 Medienunternehmer. Elon Musk hat X, dann kommen die Jeff Bezos Amazon mit Prime, die Google-Gründer sind beide drin. Mark Zuckerberg is drinnen mit Meta. And Larry Allison, der TikTok in den USA, also auf dem Wunsch von Trump had, and then the new merger, the wichtigest Nachrichtenkanal the world, also CNN, besides with Warner Brothers. And this is astounding. And all the mediences are, and these seven people are not so nice to US-Präsident day, that for Europa and for euro and Werte ja keine gute Nachricht ist.

SPEAKER_00 10:57

Ja, es ist halt die Frage: what can man als Europa machen dagegen? Weil wir nutzen ja genauso die Dienste, we are the konsumstärkste Markt der Welt.

SPEAKER_01 11:08

Ich finde es unglaublich, wie wenig Europa macht dagegen. Ich beschäftige mich schon lange damit, ich habe ein Buch darüber geschrieben, über die Macht von sozialen Medien, und die ganze Zeit schon frage ich mich, wie kann Europa das zulassen, dass die Informationsinfrastruktur, das heißt also die Grundlage von Demokratie, weil ohne Information kann es keine Demokratie gemacht, dass die Grundlage of Demokratie in den handen PowerS-Konzern and then with TikTok einem chinesischen Konzern liegt. It is mir rätselhaft. And this macht kein other Machtblock der Welt so. China als Diktatur has even all this upgedreht, das von außen kommt, weil die wissen genau, what your system kaputt, when there are Platformen aus den USA tätig sind. And the USA have TikTok abgedreht, weil sie gemerkt haben, wenn ein chinesisches Unternehmen tätig ist, dann unterwandert das ihr politisches System. Und die haben das abgedreht und gesagt, wir drehen es ab oder wir kaufen es, aber auf jeden Fall, das wird amerikanisch. Sehr, sehr schnell. Nur Europa lasst einfach alles zu. Und das führt dazu, dass die Hauptinformationsquelle von Europäern, vor allem von unter 40-Jährigen, jetzt Medien sind, die in den USA sitzen und einem dieser reichsten Männer der Welt gehören und zunehmend TikTok, das aus China kommt.

SPEAKER_00 12:28

Wie lösen wir das? Also, was müsste die Politik oder was können wir als Menschen dagegen machen? Wir können natürlich dann kleinere Dienste nehmen, aber das haben wir auch schon vorher festgestellt. Unrealistisch, ja.

SPEAKER_01 12:41

Unrealistisch. Deswegen, ich glaube, genau das ist doch die Aufgabe von Politik. Dafür zu sorgen, dass Gesellschaft funktioniert. Und die versagt da komplett. Ein Grund, den ich festgestellt habe in den letzten 15 Jahren, in dem ich mich damit beschäftige und mich frage, warum lässt du das zu, ist, glaube ich, ganz simpel Lobbying. Weil sehr viele Gesetze dazu müssten in Brüssel gemacht werden. It has no sin, europawit zu machen, wenn jedes einzelne Land funktioniert nicht. Too gross is unternehmen. And in Brüssel haben diese amerikanischen Platforms unfassbar viel Lobbying. The hundred person so vielen Politiker and Politikerinnen oder Kommissionsmen gegenstehen, die Regeln schreiben. Das heißt, they have dutzendweise auf jeder einzelne Person drauf, schreiben Text, erklären ihre Position, sind sehr, sehr, sehr, sehr gut im Lobbying. Während the eurogesellschaftlichen Organisationen, europäische Medien, die extrem betroffen sind and all draufgehen wegen dieser Konkurrenz, haben in Brüssel niemanden. Da gibt es niemanden, der sich darum kümmert, jetzt so ein paar kleinere Verbände, aber jetzt niemanden, der da Gewicht reinwirft. Ich glaube auch einfach so ein bisschen aus einer Naivitation, dass das nichts mit uns tool had, wie es lang war. And they have this iron geschafft in few years to vermitting, so okay, they're done to say, this is cool. Silicon Valley is cool. There was this phase in the middle of the 2010, where all the Turnschwon and Hoodies to Silicon Valley marsched, and Facebook and Google anges have the European Manager and Politiker. And all that's offrechthalten. So this thing to vermitteln, so, this is the Zukunft. And when we bremst, man Fortschritt, and then uncool and gestric and boomer. And we have not unserenced Datenschutz, not unsere Medienlandschaft unter die Räder kommen lassen, but tatsächlich die Sicherheit Europas aufs Spiel gesetzt. And I think this is a geopolitisch, sicherheitspolitische Frage, vor der wir da stehen.

SPEAKER_00 14:42

Es sind jetzt ganz viele Punkte, die ich gerne einhaken würde. But the erste is, man sieht ja halt geopolitisch. Man sieht ja mittlerweile, dass Rumänien is a good idea, wie social media to beinflugen. We went to hear not, which are coordinated in social media agenda. And all have listened to it. Yeah, but it was a bit like when the mächtigest political people who we in Europe have 20 years a technology that 20 years ago is said, It's a neuland for us. Let's tie it.

SPEAKER_01 15:35

Let's do it. And I think a bit so. And I have the eindruck, that just erst Politiker and Politiker darüber reden, über Dinge, die schon 2014, 2015 klar waren. Also wo schon völlig klar war, über Social Media wird Demokratie zerstört. And then 2016 Brexit. Also es gibt so viele Untersuchungen darüber, welchen Einfluss Social Media damals hat Facebook darauf gehabt, wie gewählt wurde und wie einfach es war zu manipulieren, wie einfach es für Russland war, da zu manipulieren. Die erste Wahl von Trump 2016. Da ist im Müller-Report ganz genau aufgelistet, was da alles geschehen ist anderes damals auch Russland genommen auf diese Wahl über Social Media. Das heißt, das liegt alles schon seit zehn Jahren am Tisch, and jetzt beginnen Politikerinnen und Politiker darüber zu machen, hat an den Eindruck. And jetzt sind wir aber in einer Phase, in der das für Europa gar nicht mehr so einfach ist. Man merkt es immer, wenn die EU-Kommission versucht, etwas von den Regeln, die für uns alle gelten in Europa, für alle europäischen, auf Amerikanische anzuwenden, kommt eine so massive Antwort aus den USA, dass sie wieder zurückziehen. And the massive antwort is tatsächlich, okay, when you this machine, then ziehen wir die Raketen up and then fell to Russland. Also really militär. A military. And it feels to us that the EU Commission, the American Republic, that the explicit deal had, the EU to grab and to underwander and a regime change in Europa, we should not talk to you. And she thought, yeah, you can violate a part of Zollerleichterungen. Und ich frage mich echt, wie kann es sein, dass in einem Europa that jetzt John gecheckt hat, dass die Sicherheit des Kontinents nicht so irgendwie etwas Gott gegebenes ist, sondern dass man sich darum kümmern muss, in diesem wichtigsten Ding, nämlich Information völlig aufgegeben hat. Und da war man noch gar nicht bei KI.

SPEAKER_00 17:48

Ja, es ist halt, findest du halt, es gibt beispielsweise, ich hatte zuletzt ein Gespräch mit einem bekannten Medienmanager, der meint, Social Media wird wieder vorbeigehen. Und der arbeitet in einem großen österreichischen Medienunternehmen, der sagte im Jahr 2020, Social Media ist nur ein Hype. Haben wir Angst vor Technologie oder warum tun wir uns so schwer?

SPEAKER_01 18:15

Ich meine, es kann schon sein, dass die jetzigen Unternehmen mal verschwinden werden und andere kommen. Aber zu sagen, das geht wieder weg, damit befassen wir uns nicht. Das erinnert wirklich an die 90er Jahre, wo auch Medienmanager gesagt haben, ach, das ist das Internet. Das wird nichts. Das war halt, es ist so eine Naivetät und so ein solcher Scheuklappen, mit denen manche Leute durch die Welt gehen und dabei den Boden unter den Füßen verlieren. Weil österreichische Medien, ich weiß jetzt nicht, mit welchem Medium du gesprochen hast, aber es gibt kein österreichisches Medium, das nicht existenziell betroffen ist davon. Mehr als die Hälfte der Werbegelder, inzwischen zwei Drittel fast, gehen in die USA und ein bisschen zu TikTok, aber gehen auf jeden Fall noch außerhalb von Österreich und Social Media. Das heißt, vom Werbekochen, der ungefähr gleich geblieben ist, sind zwei Drittel weg. Und ein Drittel ist noch zur Finanzierung österreichischer Medien da. Deswegen diese vielen Journalistenkündigungen, die wir gesehen haben in den letzten ein, zwei Jahren.

SPEAKER_00 19:12

Ja, es ist, ich verstehe es halt nicht. Also es ist auch nicht. Es ist eine Technologie da. Also man kann nicht sagen, man ist irgendwie beim Internet hinten her, dann kommt Social Media, man ist wieder hinterher, sagt in der Gegenwart: eine Person glaubt noch immer nicht, dass Social Media is gekommen, um zu bleiben. Und jetzt steht aber vielleicht eine der lost industriellen Revolutionen mit KI vorbei.

SPEAKER_01 19:39

We stehen mittendrin. And genau in dem Thema wird das auch sicherheitspolitisch ein Riesending. Weil wir haben jetzt diese Kombination von einer US-Regierung, die Europa nicht wohlgesondet is, and that explicit in ihre Sicherheitsstrategie reinschreibt, dass sie the EU problematisch finden, lieber einzelne Staaten reden, also the EU underwandern wollen, and a regime change in Europe has also more nationalism with rechten Parties together, European find they not good, but Christmas finds good. This is the doctrine of the USA that the same USA controls the people who the information controlled. They are all the friends of Trump, we have fascist. And they control the KI Unternehmen and this ended not allowed. There are not Beamte sitzen, sort of function in Echtzeit. And when many zusammt, then is this so grundlegende existenzielle Bedrohung for unsere Gesellschaft that it for me mind-blowing is, wie wenig ich davon hör von der Politik, was ich vorher zu tun habe. Nämlich nichts. Ich hör nichts.

SPEAKER_00 21:25

Also gibt es halt mehrere Beispiele, wo man das gut beweisen kann, dass nichts passiert. Enthropic veröffentlicht ein Modell, which the country in Rage is and in Europa so Ah, okay, cool. Ja, what machen wir? It interessiert keinen, oder Anfang des Jahres with Elon Musk, who is a KI reinweise, who laughed when the mother seiner betroffen is. It dauert.

SPEAKER_01 21:54

Wobei was so angribar and clear. That had either reaged. There had a gets given and given. I think this is either one of the best, because it's a long time. But this is that all the great AI labs in the USA sites and events all the friends of Trump are, and that Europe completely off the angle is.

SPEAKER_00 23:05

Ewig weit hinten. Schaut echt nicht so aus.

SPEAKER_01 23:17

Wer gross ist, wird größer. Wer die meisten Daten hat, wer die größten Serverfarmen hat, der hat einfach mehr Power, um noch besser zu leven and the next Modell rauszuhauen. That all the man no besser Daten and that's where it's in this Rennen. Derze that Rennen zwischen den USA and China. The beiden have an enormous Rennen and investigate unfassbaran. While it is very clear, who the bigger KI had dominated the world, where that's nice the military dominated. The front will say that in the world, bzw. we have Iran, where has the KI that wine, where the drone fliegen and the best data has, and they win over the other. And by these rennen is Europa voting hinten. The Forschung is good. Also es gibt viel gute KI-Forschung in Europa.

SPEAKER_00 24:10

Sepp Hochreiter sitzt in der UK. JKU Linz, das ich rausbringe.

SPEAKER_01 24:16

Auch auf der TU, also that is alles okay. Aber this Machtgefälle that is, dafür finde ich, gibt es zu wenig Bewusstsein. Eigentlich müsste man ja sagen, man wird super protektionistisch. Aber die Europäer haben so eine Arroganz als ehemalige Kolonialmacht zu denken, dass wenn handel frei ist und alles frei fließt, am Ende sie gewinnen. Weil die anderen immer so ein bisschen hinterher sind. Und die historische Erfahrung Europas ist: freier Handel und gleiche Regeln für alle heißt Europa gewinnt.

SPEAKER_00 24:54

Und Menschenrechte.

SPEAKER_01 24:55

In dieser Zeit, ja, Menschenrechte auch immer mit einem Fragezeichen, dort, wo sie sich im Ausland bewegen. Das ist die historische Erfahrung. Aber die Gegenwart ist eine völlig andere. Also diese Dominanz Europas, die Europäer immer noch so verspüren in sich und immer noch denken, sie sind die Herren der Welt, das stimmt einfach nicht mehr. China hat das dermassen überholt und die USA sind einfach nicht mehr dieser freundliche Handelspartner, mit dem man sich alles besprechen kann und denen dann auch noch beschützt, weil er the free world beschützen will. Das ist einfach das vorbei.

SPEAKER_00 25:30

Das macht ja neuerdings ein Unternehmen, das sagt, sie wollen die Free World beschützen, mit Palantir, die ja, glaube ich, einfach mittlerweile zeigen mit einer enormen Datenmenge und mit KI, was möglich ist.

SPEAKER_01 25:45

Ja, Palantir ist ein interessantes Unternehmen, weil das ja Peter Thiel gehört, der einer der zentralen Figuren im Silicon Valley ist. Peter Thiel ist so der Philosoph dieser Silicon Valley-Philosophie und dieser ganzen Tech Bros und hat viel früher, noch als alle anderen, ganz, ganz klar gesagt, was er meint. Es gibt einen Blogpost von Peter Thiel, das ist schon aus den 2000ern, wo er schreibt, dass Kapitalismus nicht nur funktioniert, seit Frauen wählen dürfen und Sozialhilfeempfänger wählen dürfen. Weil so funktioniert es halt nicht. Und dass deswegen kapitalistische Unternehmen ausweichen müssen, dorthin, wo es keine Gesetze gibt, also ins Weltall. Gute Erklärung, warum alle Raketen bauen. Oder zum Beispiel Deep Sea, das heißt, er wollte sich so Inseln bauen, die außerhalb jeder Jurisdiktion liegen, damit sie sich nicht an Gesetze erhalten will. So ein Dipster.

SPEAKER_00 26:36

Also das wird jetzt gerade sehr gepusht von Balacci. Nachnamen kann ich leider nicht aussprechen, Vorname ist Balachi, der sitzt in Singapur, hat sich dort eine Insel gekauft und plant gerade, wie man solche fahrenden Inseln in internationalen Gewässern baut.

SPEAKER_01 26:52

Ja, beziehungsweise versuchen sie auch in verschiedenen Staaten der Welt, solche sowas wie Freihandelszonen zu machen, die aber zum Beispiel in Mittelamerika gibt es da Versuche, in denen keine Gesetze gelten, wo sie machen können, was sie wollen. Das ist die Philosophie von Petatil. Und Palantir ja auch interessant, der Name. Ich weiß nicht, hast du Herr der Ringer gelesen? Das ist ja dieser allwissende Stein. Das heißt, etwas, das weiß, was jeder jederzeit tut, und genau das ist auch, was Palantir macht. Die sammeln Daten von überall, analysieren die Daten, stellen sie Regierungen zur Verfügung und tragen so zu Massenüberwachung auf der ganzen Welt bei.

SPEAKER_00 27:31

Ja, die Ice Rates wären ja ohne der Palantir Software, ich glaube, sie heißt Elite. Also, das ist ja auch das ganz Spannende an Palantir, der Name, wie du sagst. Die haben dann so Softwaren, die nennen sich Gotham OS. Das soll dann für die Stadt überwachen. Gotham ist ja auch wieder die Stadt, die von Bad.

SPEAKER_01 27:49

Sie verschleiern nicht, was ist, was sie wollen, das muss man wirklich sagen.

SPEAKER_00 27:53

Das ist ja sehr, sehr beeindruckend.

SPEAKER_01 27:55

Ja, nicht nur die Ice Rates, also die Ice Rates, das sind diese Razzien der Einwanderungsbehörden under Trump, die waren ja in Minnesota, wo so group of irregular Iwan are paper. Da hat Palantir, weil they have so many data, where loud in the schools or in the highs. There were these long, long ratio where so many demonstrations given, and the confrontation with the police. There was Palantir dahinter. But in Iran. Also im Iran-Krieg, the Auswah, who bombarded, mitbestimmed. But Palantir ist ganz tief drinnen mit den Daten.

SPEAKER_00 28:47

Ja, offenbar, weil ich das, das habe ich kürzlich gelesen, dieser Vorfall mit dieser Mädchenschule, die scheint ein Datenfehler gewesen sein zu sein.

SPEAKER_01 28:56

Es war ein Datenfehler, das haben sie, glaube ich, sogar schon zugegeben.

SPEAKER_00 28:59

Ah, mittlerweile, okay.

SPEAKER_01 29:01

Also zumindest wird es offen so besprochen in den USA. Und im Zuge dieser Diskussionen ist auch eine Zahl genannt worden, und zwar 60% Accuracy. Das heißt, zu 60% sind sie sich sicher, dass es stimmt. Welches Ziel sie auswählen, das ist ja ein Wahnsinn.

SPEAKER_00 29:19

Das ist ja zynisch, oder?

SPEAKER_01 29:20

Das heißt, 40% der Bomben sind irgendwo hingefallen. Das Versprechen ist, einen präzisen Krieg zu führen, wo man nur genau die bombardiert, die man erwischen will, also zum Beispiel die iranische Führung. Aber das Ergebnis ist, dass wegen eines alten, veralteten Datensatzes eine Mädchenschule getroffen wird. And das ist so ein Trauma im Iran, dass das, glaube ich, tatsächlich eines der Hauptstärkungsmittel für das Regime dort geworden ist. Dass dieser Fehler geschehen is, and dieser Fehler war ein KI-Fehler. Jetzt ist zwar immer noch eine Person dahinter, das heißt, es muss immer die letzte Entscheidung eine Person treffen. Es ist noch nicht so, dass man mit KI direkt eine Waffe lossenden darf in den USA, sondern es muss eine Person draufdrücken. But the Entscheidungen werden in 86-Secunden-Takt getroffen. Das heißt, alle ungefähr eineinhalb Minuten spuckt die KI ein neues Ziel aus. Beziehungsweise waren ja tausend in den ersten Tagen. Keine Person kann da was anderes machen als okay sagen, weil sie müsste eigentlich bei allen Nein sagen. Weil um das zu überprüfen, müsste man ja Geheimdienstdaten auswerten, Karten anschauen, Leute anrufen, die verschiedenen Agenten vor Ort kontaktieren. Das würde ja dauern, das wäre ein Krieg wie früher quasi. Das wird Wochen dauern für jede einzelne dieser Entscheidungen. Das heißt, dieser Human in the Lop, dass dann noch eine Person sitzt und sagt, ja, okay, mach das, ist einfach nur pro former da. Und so passieren auch solche Dinge wie die Mädchenschule. Und wir wissen ja auch nicht, was sonst noch alles passiert ist. Weil es ist ein Krieg, dass wir bombardiert worden. Wir wissen nicht, was davon die USA wirklich wollten. Bei der iranischen Führung weiß man es, okay, das wollten sie, das haben sie getroffen. Aber was von den vielen Dingen, die sie bombardiert haben, wollten sie vielleicht nicht, wenn sie selbst sagen, 60% Accuracy.

SPEAKER_00 31:07

Ja, das ist ja schütternd, oder? Weil das ist ja fast 50-50. Also halt gut sind 10%.

SPEAKER_01 31:14

Ein bisschen mehr als 50-50. Und das ist halt ein Krieg, und dann nehmen sie halt in Kauf. Flächen bombert man alles schlimmer sozusagen, also das ist zumindest präzise, auch wenn die Hälfte halt die Falschen trifft. Das ist wirklich ein erschreckendes Ich wollte das Szenario sagen, aber es ist ja kein Szenario, sondern dieser Krieg passiert ja schon jetzt. Also das sind ja schon Wochen, die wir das erleben und zusehen können. Und das war ja ein Grund für diesen Streit zwischen Anthropic and the Pentagon. Anthropic had we wollen rotating for the KI. We wollen erstens that automatically direct from the KI losgeschickton, while the KI is not good. Also unsere Massenüberwachung, denn es war ihnen egal, but from American. And that was designed without the Pentagon and Bulk Data given. Das heißt also, große Massen of Daten, die sie aus allen möglichen Quellen zusammengesammelt haben, should be a problem wollte for Massenauswertung von Daten. And they said, that won't be. And da sind wir bei einem Riesenproblem für uns. Weil OpenAI, who then reingegangen is, hat zwar auch gesagt, okay, Massenüberwachung von Amerikanern machen wir nicht. But keiner von den beiden hat irgendwas über unsere Daten gesagt. That heisst, massenüberwachung von European Daten, and we produz genauso viele Daten wie Amerikaner. Also von uns weiß man auch immer what we are, with what we to do, what we think, what we feel. That is for the all right. Sowohl for the KI Firmen als auch for the Pentagon. And that's a riesenproblem.

SPEAKER_00 32:58

Zusätzlich haben die USA tatsächlich ein Gesetz, that we can so viel Datenschutz und dergleichen have what we wollen. But when it's im Interesse des amerikanischen Staates, können sie jederzeit auf unsere Daten zugreifen.

SPEAKER_01 33:15

Ja, und tun das auch ganz sicher. Also sie tun ja nicht einmal so, als würden sie es nicht machen. Also ich traue ja jeden Geheimdienst, das ist ja die Aufgabe von Geheimdiensten, sowas trotzdem zu machen und Daten zu sammeln. Aber sie sagen ja sogar, dass sie es tun. Und sie haben ja reingeschrieben in ihrer Sicherheitsstrategie, dass sie in Europa einen Regime Change haben wollen, also dass sie unsere politischen Systeme ändern wollen. Und das bedeutet jetzt, sie haben nicht nur die Informationsinfrastruktur mit den Plattformen, die Daten, weil wir denen dauernd liefern und die alle auf OS-Servern liegen, sondern sie haben auch die KI. Und die KI ändert bei der Massenüberwachung wirklich alles. Das ist auch so ein Thema, das kommt mir vor, wir reden jetzt über Dinge, die vor zehn Jahren wichtig waren, nämlich so, könnten Social Media unsere Demokratie unterwandern. Hat er 2014 auch schon gewusst. Aber jetzt sollten wir darüber reden, sollte man es gelöst haben und darüber reden, was bedeutet das bedeutet, wenn Staaten, ausländische, aber auch unsere eigenen, die Möglichkeit haben, jede Bürgerin und jeden Bürger zu jedem Zeitpunkt in Echtzeit zu überwachen. Weil das so sind unsere politischen Systeme nicht ausgelegt. Das ist eine Macht, die Staaten da in der Hand haben, die wir ihnen eigentlich nie geben wollten. Bisher gab es ja so eine natürliche Grenze dafür, wie viel Massenüberwachung möglich ist, weil es einfach die Grenze war, wer setzt sich hin und werdet es aus. Das heißt, man musste sich überlegen, wen überwache ich jetzt und dann einen richterlichen Befehl einholen und so weiter. Aber selbst wenn man es jetzt ohne Befehl machen wollte, es gab einfach die Grenze des Personals. Du kannst nicht hinter jedem Bürger einen Geheimpolizisten hinstellen, der eben auf Schritt und Tritt nachgeht und dazu noch seine Gedanken liest. Aber jetzt geht das, weil die KI kann das einfach. Und zugleich haben wir diese enormen Mengen an Daten, die unsere Handys produzieren, aber auch noch viel mehr als aus dem ganzen Internet liegen lassen. Überwachungskameras, ganz wichtig mit Gesichtserkennung. Auf der ganzen Welt sind überall Überwachungskameras, die alle sehr, sehr leicht gehackt werden können, beziehungsweise sowieso ihre Daten irgendwo hinliefern. Und dann einfach Bewegungsdaten und Technologien, wie zum Beispiel, dass man an Gesichtern inzwischen mit genauso hoher Genauigkeit wie eine klassische, aufwändige psychologische Testung, jede psychische Störung, Trauma, sexuelle Orientierung und so weiter ablesen kann. Und das alles zusammengenommen ist irgendwie ein Szenario, mit dem sich eigentlich jeder Politiker, jede Politikerin die ganze Zeit beschäftigen sollte.

SPEAKER_00 35:52

Und wenn es die Politik nicht macht, dann bleibt es am Ende bei uns Zivilpersonen?

SPEAKER_01 35:59

Ja, ich glaube, es ist wichtig, jetzt mal darauf hinzuweisen, dass das geschieht. Das kommt mir immer so ein bisschen komisch vor, weil es ist ja kein Geheimwissen. Andererseits merke ich dann, wahrscheinlich hören nicht alle anderen zwei bis drei Stunden am Tag irgendwelche KI-Podcasts aus den USA und wissen es wahrscheinlich dann doch nicht. Wir sind halt dann doch die Nerds und die Info-Junkies in dem Thema. Und vielleicht ist es einfach denen, die die Regeln machen und die das als das Mega-Sicherheitsrisiko Nummer eins sehen sollten, vielleicht ist es dann gar nicht bewusst. Vielleicht merken sie es gar nicht.

SPEAKER_00 36:33

Ja, halt da könnte, das ist natürlich auch nur meine persönliche Evidenz, aber ich hatte die Ehre, in Straßburg zu sein vor einem Monat. Und da habe ich mehrmals junge EU-Parlamentarier gefragt und Parlamentarierinnen, wie schaut es denn aus? Verstehen denn überhaupt eure Kollegen und Kolleginnen? Die sagen nein. Also die lassen sich das alles nur von Lobbyisten erklären, wie die Dinge laufen.

SPEAKER_01 36:56

Und es gibt, glaube ich, bei Staaten auch so ein bisschen ein Bedürfnis, das für sich selbst zu nützen. Palantir ist ja auf der ganzen Welt unterwegs und verkauft übrigens mit Hilfe einer ehemaligen österreichischen sozialdemokratischen Politikerin, Laura Rudasch, verkauft die Dienstleistungen an Regierungen, an Polizeistationen und so weiter. Und Staaten wollen das schon auch haben für sich. Wenn wir immer alles wissen, was jeder macht, das macht dann, also aus Sicht von Polizei, denkst du dir dann, boah, ich kann jeden Drone Dealer so farm automatisch erwischen anders a Throne hinschicken anders mit dem Deal and fertig. It is so attractive for Machthaber. But I think it is so wichtig, wie unfassbar viel Macht a start has, that one can be Albtraum, dystopischer Albtraum.

SPEAKER_00 37:54

Yeah, but is it then so? I throw me: leben wir dann bald in dieser George Orwell's Welt, wo man dann dieses Wahrheitsministerium, das braucht man ja alles nicht mehr. Das braucht man ja alles nicht mehr.

SPEAKER_01 38:07

Man kann einen Blick nach China werfen und da sieht man, wie das ausgehen kann. Das sind natürlich eine Diktatur, eine kommunistische Diktatur, wenn auch sehr kapitalistisch. Und die haben halt ein ganz anderes Verfassungssystem als wir in Europa. Dort haben die nicht große Hemmungen, die Bevölkerung zu überwachen, weil sie sagen, so für das Wohl des gesamten Volkes überwachen wir alle, um Abweichler festzustellen. Die haben schon vor Jahren, schon vor zehn, zwölf Jahren, dieses System der Sozialkredite angefangen zu testen. Das heißt, du wirst überall überwacht und bekommst für Wohlverhalten Punkte und für Nicht-Wohlverhalten werden da welche abgezogen. Und da sind so Dinge drinnen wie wenn du die Straße überquerst bei Rot, Punkte Abzug, weil überall Kameras sind. Wenn du deine Eltern im Altersheim nicht besuchst, ist übrigens ein Gesetz in China, dass man das machen muss, Punkteabzug. Wissen sie wegen den Standortdaten, ob du dort warst oder nicht. Wenn du jemanden hilfst, wenn wir über die Straße gehen, kriegst du einen Punkt. Wenn du sonst irgendwann ein Wohlverhalten setzt, einen Müll aufhebst, bekommst du einen Punkt. Wenn du einen Müll fallen lässt, wird der Punkt abgezogen. Und das wird die ganze Zeit automatisch mitgetrackt. In China sind jetzt 600 Millionen Kameras installiert. Das ist eine unfassbare Zahl. Und die tracken dauernd alles mit, was Menschen machen. In der Zeit, wo jetzt die Masken gekommen sind bei Covid, ist es mit der Gesichtserkennung nicht mehr so gut gegangen. Und da haben sich sehr, sehr schnell eine Technologie entwickelt, wie man der Körperhaltung und am Gang genauso akkurat feststellt, wer es ist, wie durch Gesichtserkennung. Das haben die schon seit 2020, seit Covid. Und die haben das durchgezogen. Und das heißt, du lebst dort in einer Gesellschaft, wo du einen gewissen Punktescore hast in deinem Sozialkreditsystem, der bestimmt über dein Leben, der bestimmt, ob du eine Wohnung bekommst oder nicht, ob du einen Job bekommst oder nicht, auch ob du reisen kannst oder nicht. Also wenn du einen niedrigen Sozialkreditscore hast, kannst du kein Flugzeug nehmen zum Beispiel. Und das ist die Endausbaustufe von dem, was möglich ist. Und da war, der große davon ist noch ohne KI passiert oder ohne gute KI. Jetzt haben sie diese sehr mächtige KI, die sie in China eben entwickeln, dazu. Das heißt, es kann jetzt viel flächendeckender ausgeholt werden. Weil lange Zeit waren das ja nur so Modellregionen, wo sie das gemacht haben. Und man sieht auch jetzt, dass ein großer Teil dieser 600 Millionen Kameras ist im Gebiet der Ugun. Das heißt, es geht sehr, sehr stark darum, politisch zu überwachen. Das ist das, was möglich ist. Das ist auch das, was Enthropic gesagt hat. Dafür stehen wir nicht zur Verfügung in den USA. Woraufhin das Pentagon gesagt hat, wofür wir Technologie benutzen, werden jetzt nicht die Entscheidung, sondern wir. Und Anthropic rausgeschmissen haben und so ein nationales Sicherheitsrisiko erklärt haben. This is also what in the last two months. Also, this is the most important. And our good start must in this new world set. Well, by the underneath have it for one, we am an exactly. They have this all. Nur die geben uns halt eine bestimmte Werbung dafür oder sie entscheiden, ob wir auf Rechnung zahlen dürfen oder nicht. Das ist in Wien zum Beispiel den Favoriten, kann man kaum auf Rechnung bestellen, in Wäring schon, weil die Wahrscheinlichkeit, dass jemand den Favoriten nicht zahlt, größer ist. Also solche Dinge, das sind schon Sachen, die jetzt schon über Unternehmen Einfluss auf unser Leben haben. Aber wenn es jetzt einen Staat hat, dann hat es nochmal eine ganz andere Dimension, weil der Staat das Gewaltmonopol.

SPEAKER_00 42:03

Aber wie soll ein Staat halt, ich frage mich, seit ich auf der Welt bin, habe ich nicht das Gefühl, dass der Staat sich schnell bewegen kann. Und jetzt gibt es hier eine Technologie, bei der sich gefühlt all two months new had.

SPEAKER_01 42:22

Yeah, and unsere Gesetzgebungsprozesse have a Geschwindigkeit, sind wahnsinnig viel langsamer as the technological entwickling. And niemand said so, stop, before we the regions gemacht. Einmal gab es kurz anlauf von Elon Musk ausgerechnet, who said, We stopped all our KI-Entwicklungen and unsere Regeln, weil sonst bringen wir uns all. Hat aber nicht lang gehalten. This is just in the USA the growth. Weil what the Pentagon macht hat ja kein Backing. Das ist ja nicht, also niemand erlaubt eigentlich auf this Krieg zu führen, weil the Gesetzgebungsprozess viel zu langsam is. Und schon gar nicht hat jemand erlaubt, uns alle zu überwachen. Wahrscheinlich doch sie es aber.

SPEAKER_00 43:12

Also it steht ja auch, wenn man sich jetzt einen klassischen Chatbot nimmt bei ChatGPT oder wie auch immer, da kann man ja ein- und ausschalten, ob die Daten verwendet werden. Aber für was genau die Daten dann verwendet werden, das kann man nicht finden. Das ist absurd einfach. Also das kann Theorien sein.

SPEAKER_01 43:35

Die haben sie halt. Und dann können sie sie verwenden. Aber wofür? Ist die Frage. Und bisher hat man sich ja immer noch gedacht, ist mir halt egal, wenn Google meine Daten hat. Es ist eh besser, wenn ich nicht Werbung für, weiß ich nicht, alte Männer bekomme. Weil interessiert mich nicht. Aber wenn es dann darum geht, dass es wirklich Einfluss auf dein Leben hat, dann ist es anders. Und ich finde, das sollten wir noch besprechen. Warum soll es uns eigentlich interessieren?

SPEAKER_00 44:00

The bias, oder? Als grundsätzlich.

SPEAKER_01 44:03

Und bias ist auch eine wichtige Frage. Aber ich wollte zuerst noch diese Pentagon plus KI plus soziale Netzwerke. Warum soll uns das als Europäer interessieren? Weil die USA gerade in einer Politik, die jeden offen auf den Kopf fallen anders auf den Kopf fallen kann. Jeden Einzelnen, that sieht man schon daran, wie die USA mit Einreiseverboten umgehen. This is a deutsche organization that gives Hass im Netz and arbeited, that the euro from Meta and Google eingehalten wird, die Einreiseverbot bekommen. Weil die USA sagen, sie beschränken die Meinungsfreiheit auf amerikanischen Plattformen, that is ihr Ziel, and deswegen sind sie Vereine der USA, die dürfen nicht mehr einreisen. Da sieht man schon mal, das betrifft jemanden ganz direkt. Das heißt, auch zum Beispiel bei uns beiden, wenn wir uns mit diesen Themen beschäftigen, wird künftig wirklich die Frage sein, kommst du überhaupt durch, wenn du in den USA einreisen willst? Weil nach den neuen Einreisebestimmungen musst du alle deine Social Media offenlegen und mit den neuen KI-Möglichkeiten, die sie gerade nämlich für Border Control verwenden, musst du jetzt nicht mehr ein, so wie jetzt die letzten Jahre, irgendein Beamter eventuell sagen, so bitte entsperr mir das und ich scroll ein bisschen durch dein Facebook und du kannst vorher halt das löschen, was problematisch ist. Sondern die wissen das schon, die wissen schon, was du gemacht hast. Und das ist schon mal, wenn du hinreisen willst. Wenn du nicht hinreisen willst, dann kannst du trotzdem total problematisch sein. Und das sieht man im Fall von diesem französischen Richter, der am Europäischen Gerichtshof in Den Haag, am internationalen Gerichtshof in Den Haag tätig ist und etwas dort in Gang gebracht hat, was die USA gestört hat. Dem haben die USA Sanktionen übergestülpt, and it bedeutet, der kann gar nichts mehr machen im Internet. Der kann keine Kreditkarte verwenden, der kann keine Buchung machen, der kann keine E-Mail machen, weil alles über irgendeinen amerikanischen Server läuft. Das heißt, wenn du von einer KI eingestuft wirst als Sicherheitsrisiko, dann kann es sein, dass du einfach aus deinem digitalen Leben ausgeschlossen wirst. Und dann kannst du einfach in dieser Welt fast nichts mehr machen. Dann bist du wirklich auf der All mit den Schafen.

SPEAKER_00 46:22

Ja, erschreckend, also.

SPEAKER_01 46:25

Und vielleicht noch als drittes, was man sich auch, sorry, wenn ich so lange rede. Na, gerne, gerne. Das Thema liegt mir am Herzen, wie du merkst. Noch ein dritter Punkt ist so etwas wie dass die USA Antifa as terrororganization bezeichnet anders. Also Antifa, Antifa, wie Trump sagt, is dort a terror organization. When a KI euroforced and this eingebaut has, what bedeutet that in Europa? We in Europa is in all Fassungen Antifaschism as a grundsat, weil we have the Erfahrung von Faschismus on the continent. And Antifaschism is either the basis of the European Union, the Fassungen that is overall drinks, and it is quite Pflicht, antifaschist to KI unterscheiden, obviously Antifa in Trump bist or what you want, or if you have a Gedenkdienst in a concentrations machine and antifascist machines, or school workshops to Antifascism, which we in Europe. That is not none, that we says the grenadesbeam nicht. That we know that the sanction ausspricht, weil it macht die KI for sich selbst and they erklärt ja nicht, wie it to a bestimmten score comes. That we niemand, this programming. Bis zu einem gewissen Punkt hat man sich denken können, okay, zumindest die, die es programmiert haben, also ich lasse es so bis so vor zehn Jahren, vielleicht sogar fünf Jahren, habe ich gesagt, irgendjemand gibt es in dieser Organisation, der hat das Ding programmiert und der kann vielleicht noch nachvollziehen, wie das zu Entscheidungen kommt. Wenn es wahrscheinlich auch Jahrzehnte brauchen wird, bis sie die Daten durchfassen wird, aber zumindest theoretisch weiß es noch jemand, der Zug ist abgefahren. Es ist so lustig, dass bei Anthropic, die ja tatsächlich so viel psychologische Forschung mit ihrer eigenen KI machen, um irgendwie zu ergründen, auf welcher Basis die Entscheidungen trifft und zu versuchen, ein moralisches Grundgerüst mitzugeben. Weil du kannst sie nicht regeln für jede Entscheidung gemacht. Die Welt is so complex dafür. Du musst dir so ein moralisches Grundgerüst gemacht. And dazu musst du mal wissen, wie tickt die. Das heißt, die, die selbst entwickeln, so als würden sie in der Tiefstrauchen, wie funktioniert this ding eigentlich? Wie trifft das Entscheidung an? Aber die treffen dann Entscheidungen, ob wir einreisen können oder nicht. Oder ob man eine Kreditkarte verwenden kann oder nicht, ob man eine Buchung machen kann oder nicht.

SPEAKER_00 49:08

And entscheidet halt leider auch, wo die Rakete hinfällt.

SPEAKER_01 49:11

Und entscheiden, wo die Rakete hinfällt. Und das erleben wir schon. Oder eben, wenn es eingesetzt wird von der Polizei, dann kommen diese ganzen Daten rein, die eine unfaire Welt abbilden, in der zum Beispiel Menschen mit dunkler Hautfarbe öfter in Gefängnissen sind als Menschen mit heller Hautfarbe. Was ein Ausdruck von einer unfairen Gesellschaft ist. Oder Frauen weniger verdienen als Männer oder ihnen weniger zugetraut wird. All diese Sachen fließen da rein, und auf dieser Basis werden dann aber Entscheidungen getroffen. Das heißt, wenn eine KI entscheiden muss, bis er ein Verbrecher oder nicht, dann spielt die Hautfarbe eine Rolle. Aber es ist nicht mehr so, dass da ein Mensch ist, der es reflektieren kann, sondern er spuckt beim Computer eine Entscheidung aus, an die sich dann jeder hält, weil niemand weiß, wie sie zustande gekommen ist.

SPEAKER_00 50:02

In den Niederlanden haben sie ja für den Sozialhilfeempfänger auch einen Algorithmus eingesetzt und der hat automatisch Personen eher in den Verdacht gestellt, dass sie Sozialbetrug begehen, wenn sie Doppelstaatsbürger sind. Weil die Statistik sagt, Doppelstaatsbürger haben um 0,4% eine höhere Wahrscheinlichkeit, als ich erinnernde Zahl.

SPEAKER_01 50:24

Genau, weil sie die Statistik nehmen aus einer unfairen Welt nehmen.

SPEAKER_00 50:27

Genau.

SPEAKER_01 50:28

Und das übertragen auf Entscheidungen, die Behörden ja eigentlich treffen sollten, ohne Rücksicht auf Geschlecht, Religion, Hautfarbe. Wenn du solche Entscheidungen in einer KI nimmst, die an Daten, an unfairen Daten mit einem Bias drin, dann trainiert worden, dann trifft die Entscheidung plötzlich rassistische, sexistische, behindertenfeindliche Entscheidungen, obwohl sie das nicht darf. But es gibt niemanden, der sagen kann, warum it so.

SPEAKER_00 50:58

It is irgendwie so objektiviert, wenn man einen Computer ausspuckt. Man hat so einen Technik-Glauben, oder? Wenn die KI sagt, it stimmt das passiert. Let's say that they're denial and scholar diskutieren, weil they come and sagen, ChatGPT has me this gesagt, but they sagen was anderes. ChatGPT hat sicher geklappt. They glauben immer Chat-GPT mehr. Before they the Menschen glauben, yeah.

SPEAKER_01 51:24

Yeah, but it's ironic so eine Instanz. Wenn es ChatGPT ausspuckt, obwohl es ja wirklich so wahnsinnig viel Blödsinn ausspuckt, ist ja unfassbar. Unfassbar. Also immer wenn ich mich auskenne, ist es falsch eigentlich. Wobei noch schlimmer sind diese Google-Schnell-KI-Ergebnisse. Die sind echt unglaublich schlecht. Aber die, das verwenden, glauben dem. Aber eine Behörde, die so eine Einschätzung verwendet oder ein Militär, das es verwendet, um Ziele festzulegen, die verwendet es dann einfach. Weil die setzt ja deshalb ein, damit nicht jemand die ganzen Daten selber durchforsten muss, Leute anrufen, auf die Straße gehen, jemanden verfolgen. Das heißt, die können das gar nicht überprüfen.

SPEAKER_00 52:01

Weil das, ja, wie gehen wir, aber was ist die Lösung? Weil einerseits natürlich, wir haben auch gesagt, früher hat man ur viele Menschen braucht und diese Datenmenge ist da, wir wollen informiert sein, das ist ja auch letzten Endes ein menschliches Bedürfnis, habe ich in einem Zucken. Klar, natürlich. Dass man irgendwie alles wissen will und dass man ein Sicherheitsgefühl hat. Aber gleichzeitig verlieren wir gerade vielleicht unsere Demokratie.

SPEAKER_01 52:23

Für die Plattformen, also für die, die Information verteilen und generieren und damit sehr, sehr viel Einfluss auf Demokratie haben können und werden. Das wissen wir in der Vergangenheit gehabt, anders. Für die gibt es eigentlich sehr einfache Möglichkeiten, das zu regulieren. Das muss man einfach nur machen. Zum Beispiel müsste man sie ganz schlicht so behandelt, wie man jedes andere Medium in Europa auch behandelt, dass sie für den Inhalt verantwortlich sind. Dann müssten sie es checken, was sie rausspielen, und dann wäre es viel schwieriger, dass es zum Beispiel Russland einfach verwendet for Propaganda and um Lügen und Fakes and so weiter zu verbreiten, weil dann werden sie haftbar dafür.

SPEAKER_00 53:02

Magst du kurz erklären, warum Social Media Plattformen nicht wie Medien gleichbar, warum es da keine Gleichbarkeit gibt?

SPEAKER_01 53:10

Das geht zurück auf Mitte der 90er und Bill Clinton tatsächlich. Ja, sehr lange her. Damals hat Silicon Valley, war gerade so im Aufschwung, ist ja gegründet worden, auch mit öffentlichem Geld. Das waren Militärinteressen, amerikanische dahinter, die haben da sehr viel reingepumpt. Und dann waren da diese neuen Unternehmen und die wollten von der US-Regierung mehr Freiheit, damit sie sich schnell entwickeln können. Und die hat ihnen Clinton gegeben. Und die Argumentation damals war, dass sie so sind wie die Post. Weil die Post tragt den Brief aus, aber sie ist nicht verantwortlich, was drinnen steht, weil sie nicht reinschaut. Weil sie ist ja nur die Infrastruktur, die den Brief austragt. Und so haben die gesagt, so sind wir im Internet auch. Wir übermitteln nur die Information, wir sind dann nur die Datenautobahn und wir wollen es gar nicht anschauen. We wollen nicht verantwortlich sein. Und so haben die dieses sogenannte Haftungsprivileg bekommen. Das heißt, dass sie anders als alle anderen, die Information verbreiten, nicht verantwortlich sind. Und das war damals schon falsch, finde ich, aber es war noch irgendwie so okay. Seid ihr so wie die Telefonen, sind wir so wie die Telefonanbieter reguliert. But seit es Social Media gibt es, is it falsch. Weil wenn du auf TikTok a video siehst, dann siehst du es ja nicht, weil du jemanden folgst, sondern weil es der TikTok-Agorithmus gibt. When you auf Instagram ein Reading siehst, dann can du jemanden folgst, wahrscheinlich aber nicht. Wahrscheinlich weil es dir einfach der Algorithmus gibt. That heisst, it is genows when a Chefredakteur in einem Medium that auswählt, what mein Publikum heute wohl sehen, nur noch viel präziser, weil sie jeden individuell nach den jeweiligen Daten. Aber sie geben die Information raus. Und deswegen funktionieren sie genau wie Medien. Sie machen einfach Massenmedien. Und Massenmedien sind reguliert, weil die Massenverbreitung von Informationen wahnsinnig schädlich sein kann.

SPEAKER_00 55:05

Und verantwortungsvoll sein sollte.

SPEAKER_01 55:08

Ja, und halt einfach auch Gesetze haben. Also zum Beispiel eine Verleumdung zu verbreiten, ist verboten. Und wenn das ein österreichisches Medium macht, dann kann man dagegen klagen und dann zahlt das Strafe. Und deswegen muss man prüfen, was man rausschickt. Wenn aber Instagram eine Verleumdung verbreitet, ist Instagram nicht verantwortlich dafür. Obwohl das das Medium ist, das die massenhafte Verbreitung macht und es den Schaden anrichtet damit. Und das zu ändern, wäre wirklich einfach. Aber ist ein totales Tabu. Also ich weiß, ich fand das immer.

SPEAKER_00 55:41

Sonst werden uns die Raketen weggenommen.

SPEAKER_01 55:43

Ja, sonst werden uns die Raketen weggenommen, genau. Es gibt ja wieder so Anläufe, aber das ist nicht mal in Diskussion.

SPEAKER_00 55:50

Was machen? Also was können wir, wir leben ja in unheimlich spannenden Zeiten eigentlich. Also mittlerweile bin ich ja positiver als wenn ich es so in Vergleich stellen muss. Was können wir machen als Einzelne, als Medienschaffende, dass auch mehr Aufmerksamkeit auf diese Themen gelenkt werden?

SPEAKER_01 56:11

Ja, wahrscheinlich braucht es halt doch wieder so etwas wie eine große zivilgesellschaftliche Bewegung für Menschenrechte, für Bürgerrechte. Und ich muss sagen: gerade in Wien bildet sich da etwas, das gut klingt. Und zwar unter dem Titel Digitaler Humanismus. Die Idee dahinter ist, diese Technologie ist großartig. Und ich meine, gerade wir nützen sie ja dauernd. Also gerade Leute wie du und ich, die davor warnen, sind ja auch die, die sie wirklich toll finden und gerne nützen. Die Idee von digitalen Humanismus ist zu sagen, diese Technologie ist super, aber sie soll dem Menschen dienen und nicht umgekehrt. Und darüber nachzudenken, wie kann man die Regeln so gestalten, dass das gewährleistet ist, dass Menschenrechte gewahrt sind, dass Demokratie geschützt ist, dass individuelle Rechte, die wir uns erarbeitet haben über Jahrhunderte, zum Beispiel, dass der Staat nicht unterscheiden darf nach Hautfarbe, gewahrt ist. Und ich glaube, an so etwas muss man weiterarbeiten. Und ich glaube, viele Leute sollten viel Energie reinsteigen. Ich persönlich bin Journalistin und beschränke mich darauf, zu versuchen, die Information mal unter die Leute zu bringen, was da passiert anders zu recherchieren, was passiert. Weil tatsächlich passiert jeden Tag so viel, dass man allein da, das weißt du mit deinem TikTok-Kanal, it is one day was neues. And alright, the information to verbite is wrong, glaube ich.

SPEAKER_00 57:29

And it is halt auch mittlerweile die Herausforderung, weil so viel passiert. And we all, I think we spent a lot. All have a bit of sorry, what is it? And that the people so good to begin. We have a new entwicked, that ended all this, but then it ends up so much. And that I'm learning personally as journalist or content creator. That's all.

SPEAKER_01 58:08

Yeah, enormous disruptive. They ended all this. Also, vielleicht, was this year: Technologieänderungen. This will really in jeden. And umso wichtiger ist, dass man uns Gedanken über die Regeln machen rechtzeitig. Weil wenn ich mir anschaue, wie es mit Social Media war, so etwas darf uns nicht nochmal passieren. Dass alle denken so, ach, this is das Neue, das ist das Coole, da will man dabei sein und wenn man dagegen ist, dann ist man irgendwie uncool. So ist es ein bisschen mit KI jetzt auch. Alle sind irgendwie so im KI-Hype und jeder muss KI verwenden, in jedem Unternehmen soll KI implementiert werden. Und Zweifel daran zu haben, ist ein bisschen uncool. Und das darf uns nicht nochmal passieren. Wobei meiner Erfahrung nach tatsächlich die Begeisterten nicht unbedingt die sind, die sich am meisten auskennen. Die, die sich damit beschäftigen, sind wirklich skeptisch.

SPEAKER_00 59:06

Ja, es ist, ja, es ist so ein unfassbar, mir fällt es irgendwie wirklich mittlerweile schwer zu sagen, was noch alles auf uns zukommen wird, weil es wird einfach nicht mehr so sein wie vorher. Das ist, glaube ich, das Einzige, was ich mich im Moment sagen darf.

SPEAKER_01 59:26

Ja, wir bewegen uns halt in so Sphären, die vor noch vor zehn Jahren Science Fiction waren. Die so Black Mirror-Folgen gewesen wären. Wo man sich so irgendwie so vorstellen hat, können wie wäre, wenn, aber jetzt sind wir halt mittendrin. Und das nächste ist halt AGI, also the general intelligence. Und dieses Rennen, das da stattfindet, zwischen USA und China, eine Intelligence zu entwickeln, die wirklich nicht nur so einzelne Dinge super kann, sondern so wie Menschen quasi oder besser als Menschen, so insgesamt Dinge gut kann das.

SPEAKER_00 1:00:00

Je nach Definition also.

SPEAKER_01 1:00:01

Ja, je nach Definition, ja. Das ist dann noch die nächste Stufe. Die ist immer zwei bis drei Jahre entfernt und ich glaube, die bleibt ja eine Zeit lang auch noch zwei bis drei Jahre entfernt. Weiß man auch nicht, weil es sind ja jetzt keine Menschenwerte, die das programmieren. Dieser Bruch war letztes Jahr da. Bis letztes Jahr waren Menschen die besten Programmierer, aber ich glaube, im Dezember war es so, dass KIs bessere Programmierer als der beste menschliche Programmierer waren und seitdem programmieren natürlich KIs. Weil wieso sollten es noch Menschen machen? Das heißt, so richtig einen Einblick haben wir nicht mehr.

SPEAKER_00 1:00:31

Ja, ein Freund von mir ist Programmierer, der gibt teilweise Vorschläge, geht schlafen und steht in der Frühjahr an und schaut sich einen Code an und das ist seine neue Realität.

SPEAKER_01 1:00:41

Ja. Und sehr viele wird es dann einfach auch nicht mehr geben, weil die braucht keinen Schlaf und ist schneller und repariert sich besser. Und das geht aber halt nicht nur für Programmierer, sondern für ganz viele Branchen. Es wird sehr, sehr viel KI übernehmen. Und es wird sehr viel KI übernehmen, das wirklich Einfluss auf unser tägliches Leben hat. Also wo Entscheidungen getroffen werden. Darfst du das Auto mieten oder nicht? Bekommst du die Kreditkarte oder nicht? Wie teuer ist deine Gesundheitsversicherung, deine private Zusatzversicherung oder vielleicht auch deine gesetzliche, wird dir auch überlegt, ob man da Stufen einführt, dass alle diese Entscheidungen KIs treffen, wo sie es noch nicht tun. Und deswegen ist es so notwendig, dass wir die Regeln jetzt festlegen, damit die jetzt schon so trainiert werden, dass sie den Regeln folgen, weil sie selber entwickeln tun sie sie natürlich nicht.

SPEAKER_00 1:01:34

Jetzt haben wir gehört, was alles KI schon kann und wie sie unseren Staat eigentlich korrumpiert ein Stück weit, wenn wir das so sagen. Was glaubst du, wird KI in den nächsten zehn Jahren nicht können?

SPEAKER_01 1:01:46

Naja, menschliche Interaktion. Und tatsächlich, ich glaube auch so grundsätzlich kreative Leistungen. Auch wenn zum Beispiel, wenn man sich ansieht, Musik, das ist schon ein Wahnsinn, was da rauskommt. Aber ich bin jetzt auch nicht Musikerin. Ich bin total begeistert davon, ich sage, wow, das hat eine KI gemacht, das klingt total gut. Aber vielleicht kann ich es auch nicht einschätzen. Weil zum Beispiel bei Text, das kann ich einschätzen, weil das ist mein Beruf zu schreiben, da ist es schon schlecht eigentlich. Das ist das, wo man sich gedacht haben: so, wow, die kann besser schreiben als jeder irgendwas. Und tatsächlich stellt sich heraus, man erkennt es halt immer doch nach zwei Sätzen und es ist halt doch nicht so gut geschrieben. Man muss so viel prompten, damit etwas gut geschrieben ist, dass man es auch schon selber schreiben kann. Und je mehr die sich an sich selber trainieren und einfach nur schlechte AI-Texte haben, um zu lernen, wie man textet, umso schlimmer wird es. Also vielleicht ist auch so grundlegende kreative Leistung etwas. Und dann, was sie tatsächlich, glaube ich, nicht können, ist genau das darüber nachdenken, was die richtigen Regeln sind. Weil eine KI sich ja immer nur an der bestehenden Realität bedienen kann. Also die sammelt ja, ich meine, die ist ja nicht echt Intelligenz, sondern sie sammelt halt Daten und haben Wahrscheinlichkeiten und spucken dann Texte aus. Aber tatsächlich drüber nachzudenken, in welche Richtung die Welt gehen sollte, das werden schon Menschen machen müssen. Und dann ist natürlich der ganze Bereich, wo es einfach menschliche Hände braucht.

SPEAKER_00 1:03:15

Das heißt Sozial für Pflege.

SPEAKER_01 1:03:21

Der Teil von Medizin, wo es direkten menschlichen Kontakt braucht. Also jetzt nicht die Diagnostik, die ist schon lange KI und das ist gut so, Bildgebung und so. Aber so das direkte. Und Handwerk.

SPEAKER_00 1:03:36

Sollen wir alle Maurer werden?

SPEAKER_01 1:03:38

Die KI wird uns nicht unseren Abfluss entstopfen.

SPEAKER_00 1:03:40

Genau, und Innstuer, ja.

SPEAKER_01 1:03:41

Tatsächlich. Oder noch lange nicht.

SPEAKER_00 1:03:45

Dann zurück zu den Basics bei mir. Zurück und Bau. Ja.

SPEAKER_01 1:03:50

Nein, du musst weiter drüber nachdenken. Ich habe mich auch echt gefreut über die Einladung in den Podcast, weil so beim Durchschauen, wer in Österreich sich mit den Themen beschäftigt, komme ich immer auf dich. Du bist wirklich einer der wenigen, der an diesen Entwicklungen dran ist. Das gibt sonst in den USA viele, im deutschsprachigen Raum ganz wenige. In Österreich, ich hoffe, ich tue jetzt niemandem Unrecht, den ich total nicht sehe. Aber du bist der, der die ganzen neuen Entwicklungen aufgreift und kommentiert und aus einer gesellschaftspolitisch relevanten Perspektive kommentiert. Nicht nur, das gibt es jetzt neu, sondern was könnte das für uns bedeuten.

SPEAKER_00 1:04:30

Ja, weil ich mir sehr gut.

SPEAKER_01 1:04:31

Also du musst das weitermachen, nicht Installateur werden.

SPEAKER_00 1:04:37

Ich habe, aber ich muss auch ehrlich sagen, ich habe Tage gebraucht, dich zu anzurufen, schreibe ich dir. Das war eine der schwierigsten Aufnahme. Nicht, dass du schwierig zu erreichen wirst, weil ich hatte ja deine. Ich habe ja deine Nummer. It was so eine Ich schreibe Corinna Milborn, ob die eh kommen oder.

SPEAKER_01 1:05:01

Nein, ich freue mich voll, weil es gibt wirklich wenig Gelegenheit, über die Themen zu reden. Und das ist wirklich, was mich am meisten beschäftigt. Ich komme aus einem Menschenrechts-Background. Und ich meine, in vergleich dazu is alles, was sich so tagespolitisch, innenpolitisch tut, wirklich nicht wahnsinnig interessant.

SPEAKER_00 1:05:21

Ja, es ist, aber ich glaube, das ist auch so eine österreichische Mentalität, oder? Dass man sich über kleine Dinge sehr ausführlich beschweren kann.

SPEAKER_01 1:05:30

Yeah. Aber es gibt schon noch so eine philosophische Tradition in Österreich. Die sollte man vielleicht wieder aufgreifen. Deswegen gefällt mir diese Initiative Digitaler Humanismus recht gut. Ich finde, das wäre kein schlechter Ort, um so ein Denkzentrum zu gründen. Derzeit läuft es ein bisschen unterm Radar und viele Leute kriegen nicht mit, dass es diese Initiative gibt überhaupt. Aber es wäre kein schlechter Ort, um solche Dinge zu machen.

SPEAKER_00 1:05:53

Auf jeden Fall werde ich mich da informieren und vielleicht sitzt da ja bald wer von Digital. Ja, würde mich interessieren.

SPEAKER_01 1:05:59

Ich würde gerne hören, was da ist. Machen.

SPEAKER_00 1:06:01

Dann vielen, vielen herzlichen Dank. Das hat mich wirklich sehr, sehr gefreut.

SPEAKER_01 1:06:05

Danke für die Einladung.