Folge 100 mit Helga Boss und Heidi Winsauer

100 Folgen! Von LinkedIn-Robotern, Thermomix-Prinzipien und dem Verlernen von Kompetenzen

Wir feiern Jubiläum – 100 Folgen „Wie KI-Worte wirken“! Eigentlich wollten wir in dieser Episode den technologischen Fortschritt gebührend feiern. Doch wir biegen direkt in eine tiefgründige Debatte ab: Was passiert eigentlich mit unserer ganz persönlichen Stimme und unserer Ausdrucksweise, wenn wir die Formulierung unserer Gedanken komplett an ChatGPT und Co. auslagern? Eine Folge über das Risiko, im KI-Hype die eigene Authentizität beim Sprechen und Kommunizieren zu verlieren. 

Inhaltliche Highlights

• Die textlose Generation: Warum Helgas Schulungsteilnehmer plötzlich feststellten, dass sie keine einzige E-Mail mehr selbst verfassen – und warum Heidi ganz bewusst mit Stift und Papier analog dagegenhält.
• Die Roboter-Bubble auf Social Media: Das Schreckensszenario vollautomatisierter LinkedIn-Postings und autonomer KI-Kompetenzen, die sich gegenseitig bespielen. Wer liest das am Ende noch?
• Vorsicht beim Arztbesuch (EU AI Act): Warum das Mitschneiden von Patientengesprächen via Dialekt-Diktiermaschine ein datenschutzrechtliches Hochrisiko-Szenario (biometrische Daten) darstellt, bei dem wir hellwach sein müssen.
• Die KI als digitaler „Ja-Sager“: Wie die Wahrscheinlichkeitsrechnung hinter Sprachmodellen funktioniert, warum Halluzinationen entstehen und warum uns die Maschine immer nur gefallen will.
• Das Thermomix-Prinzip: Warum Maschinen perfekt sind, wenn uns das „Gefühl“ für eine Routine fehlt – und warum wir aufpassen müssen, durch die Bequemlichkeit der Technologie nicht unsere eigenen Fähigkeiten zu verlernen.

„Wir sind die erste Generation, die das Leben vor und nach der KI kennt. So einen Wandel in unserer Gesellschaft hat es noch nie gegeben – nicht mit der Elektrifizierung und nicht mit der Erfindung des Rades.“„Wenn wir alles an die KI abgeben, dann kann es halt am Ende auch nur noch die KI – und wir selber verlernen es.“

100 Folgen „Wie KI-Worte wirken“ – Danke für deine Treue! 

Abonniere den Podcast, hinterlasse uns eine Bewertung und schreib uns dein Feedback!

Transcript

Begrüßung Und Kernfrage

SPEAKER_02 0:01

Wie KI-Worte wirken. Das ist ein Podcast für effiziente Arbeit und moderne Kommunikation im Zeitalter der künstlichen Intelligenz. Herzlich willkommen zur 100. Podcast-Folge. Yeah! Heute mit den MacherInnen, Helga Boss und Heidi Windsauer. And we have in the forfeld diskutiert, lass uns über die 100. Folge reden. And my statement war, das interessiert kein Mensch, Helga, lass uns über was Gescheites reden. And then hast du was Interessantes gesagt, Helga, nämlich in deine Schulungen geht es darum, dass man die KI personalisiert, dass die KI deine Stimme findet. Und dann haben deine Teilnehmer was festgestellt? Dass sie keine E-Mails mehr haben, die sie selber geschrieben haben. Und das hat mich dann doch ziemlich staunend hinterlassen. Bitte, Helga, erklär mir, wie ich so weit kommen kann, dass Menschen keine eigenen E-Mails mehr schreiben.

Wenn Niemand Mehr Selbst Schreibt

SPEAKER_00 1:06

Ja, das ist die Entwicklung, die wir momentan sehen. Aber Heidi, du hast selber gerade gesagt, wir sehen das ja auf LinkedIn, oder? Jeder beschwert sich, dass nur mehr KI generierte Postings da sind. Und jetzt sind wir eigentlich schon genervt, dass wir nur mehr Postings haben, die sie über KI-generierte Postings aufreden. Und eigentlich nicht mehr über die Sache reden. Und ja, es ist wirklich so, in meinen Schulungen ist die erste Übung immer, du schau mal, wie du kommunizierst, was sind so deine Sprachmuster. Das ist ja sehr individuell, wie wir kommunizieren, ja. Mit Smiley ohne Smiley, mit Bindestrich, ohne Bindestrich, sagst du du. Ich habe letztes Mal dann wieder geschrieben, boah, da muss ich jetzt lang nachdenken, oder? Also ich schreibe ja manchmal wirklich so, wie ich rede, in meinen E-Mails. Und es war dann echt spannend, weil die Teilnehmenden gesagt haben, Helga, ich finde gar keine E-Mail mehr, das ich selber geschrieben habe. Weil sie halt jede E-Mail quasi durch die KI lassen und sagen, du formulier mir das um, wie würdest du das schreiben? Schreib mir, findet ihr eine Antwort drauf.

SPEAKER_02 2:09

Für mich völlig unvorstellbar. Also für mich ist die KI eine, sagt man, die erweiterte Rechtschreibprüfung, weil ich tatsächlich enorme Schwierigkeiten mittlerweile mit der Rechtschreibung habe. Seit es diese roten Wellenlinien gibt, sind meine Kompetenzen weg, was sich dramatisch am Flipchart im Live-Seminar zeigt. Einfachste Wörter weg sind. Aber dass man so gar keinen eigenen Schreibstil mehr hat. Wobei jetzt immer in dem Moment, wo ich mit dir, wo ich mit dir darüber spreche, merke ich gerade, es gibt ja auch Menschen, die gar keine eigene Handschrift mehr haben, weil sie nur noch tippen. Also nenn mich jetzt ewig altbacken, aber ich mache echt tatsächlich die Gegenbewegung. Also ich schreibe bewusst von Hand, regelmäßig, zehn Minuten den Wecker stellen, einfach schreiben. Ich mache bewusst

LinkedIn Als Bot-Spielplatz

SPEAKER_02 3:10

den Rückzug aus LinkedIn. Ich habe das gestern gepostet. Es wird hier keine Tipps mehr geben, aber ich lade die Leute zu mir in mein Büro ein. Weil ich finde das echt bedenklich, dieses Masse statt Klasse und dieses Unpersönliche. Aber eigentlich wollten wir doch die KI feiern.

SPEAKER_00 3:33

Eigentlich hätte sie uns doch das Leben erleichtern sollen. Obwohl ich das ist auch Schatten, oder? Und ich meine, finde ich viel cool. Punkt Nummer eins, wie war die Response? Schon Rückmeldungen, schon Anmeldungen? Ich komme zu dir ins Büro.

SPEAKER_02 3:45

Voll gut. Wunderbar. Also ich habe ja nur neun Plätze, aber es sind schon vier weg. Und zwar so.

SPEAKER_00 3:54

Und das ist nämlich auch meine These, dass wir uns wieder viel mehr treffen werden und miteinander kommunizieren. Weil im Endeffekt, Heidi, nehmen wir es die Stufe weiter und das wird sehr spannend, was mit den sozialen Medien passiert. Ich poste was mit der KI, vielleicht schreibt es die KI, die kann es mittlerweile auch vollautomatisiert machen, oder? Ich gebe ein Thema vor, die KI schreibt das Posting, er stellt ein Bild dazu und schickt es auf LinkedIn. Also da braucht es mich nur mehr als, hey, schreib mal was über Effizienz. In der Theorie. Und dann hast du deinen KI-Bot und der tut dann automatisiert antworten, damit der Algorithmus anspringt und du fleißig postest. Und irgendwann tut halt meine KI-Assistent und dein KI-Assistent machen unsere LinkedIn-Kommunikation. Das ist total unspannend. Ich meine, da schaue ich zwei Roboter dazu, wie sie irgendwas tun. Aber das ist. Alles in mir sträubt sich. Ja, aber das ist so, wo es gerade sich hinzuentwickelt. Und das wird jetzt sehr spannend, wie die Plattformen dann drauf reagieren. Weil wenn nur mehr automatisierte KI-Agen miteinander kommunizieren, wer liest das dann noch?

SPEAKER_02 5:04

Niemand. Genau. Was ich schon spannend finde, ich war gestern beim Arzt und der hat

Diktieren Beim Arzt Und Datenspur

SPEAKER_02 5:15

nebenher, also neben dem Besuch von mir dort, lässt der eine Tiktiermaschine mitlaufen. Und das Ding kann sogar im Dialekt erfassen, um was es geht. Und er hat dann sofort nach dieser Konsultation ein Protokoll mit meiner Erklärung der Symptome. Und er sagt sogar, die Zukunft geht dahin und es geht so, dass das erwähnte Rezept, dass er dann sagt, er nicht mal mehr tippen muss, sondern sofort auf die ICard raufgeht. Das fand ich einerseits cool für ihn, bedenklich für mich, weil ich mir gedacht habe, wer hört das noch alles? Also ich stelle mir da immer wieder die Sicherheitsfrage, wieso meinen wir, dass die KI so sicher ist? Das ist ja irgendwo gespeichert. Aber da habe ich mir dann schon wieder gedacht, boah, praktisches Tool, sinnvoll. Aber auch da wieder unbedenklich. Sehr bedenklich, nicht unbedenklich, genau das Gegenteil, sondern sehr bedenklich.

SPEAKER_00 6:20

Das ist ja das, wo ich ganz genau hinschauen würde. Liebe Grüße vom EU AIEC, wir sind ja in einer Hochrisiko-KI, ist erlaubt, aber nur unter gewissen Bedingungen. Und unsere Stimme ist biometrisch. Das heißt, wenn der Arzt jetzt deine Stimme abspeichert, dazu sagt, das ist die Heidi Windsauer, dann ist es wie wenn du deinen Fingerabdruck abgibst. And then geht es darum, wo werden die Daten gespeichert, wie lange und zu welchem Zweck. Und im Sinne des UE-Acts hätte dich der Arzt darüber aufklären sollen. Und dich fragen sollen, ob es für dich in Ordnung ist, dass er das aufzeichnet, was er sicher getan hat. Hata!

SPEAKER_01 7:04

Glaube ich.

SPEAKER_00 7:07

Aber es öffnen oft einmal die Stolperfallen, oder? Auch wenn wir im Businessbereich jetzt Besprechungen aufzeichnen und nachher zuordnen, das ist die Helge, das ist die Heidi, ist biometrisches, also Datenmaterial. Wo geht das hin? Wie wird das verarbeitet? Wo wird es gespeichert? Ah, zum Beispiel, es ist ein bisschen eine Stolperfalle, die EU Ajeckt, wenn ich Entscheidungen trifft, die Menschen beeinflussen und auf das Leben dieser Menschen Einfluss hat, ist das ein Hochrisiko-KI, gell? Weil wie trifft denn die KI-Entscheidungen?

EU AI Act Und Hochrisiko

SPEAKER_00 7:35

Wenn ich sage, du, hey, KI, überleg, ob ich die Heidi befördern soll oder nicht befördern soll, dann hat das einen Einfluss auf dein Leben. Und solche Entscheidungen bespriche ich mit einer KI, wo ich nicht weiß, wie die trainiert ist und was die für Hintergründe hat.

SPEAKER_02 7:50

Welche Daten gibst du in die KI ein und wo sagst du, nein? Wenn du sagst, es ist so hochrisiko. Und du bist ja echt ein totaler Fan.

SPEAKER_00 8:00

Ja, bei mir ist es Daten meiner Studierenden, oder? Also ich überprüfe Bachelorarbeiten, ich liese Bachelorarbeiten, ich darf die bewerten und benutzen, ich darf sie aber auch begleiten in der Erstellung ihrer Bachelorarbeit. Und dann ist mir natürlich mal kurz ein Gedanke gekommen, du geht das eigentlich, kann ich da jetzt die Bachelorarbeit reingeben und die KI bewertet mir diese, oder? Dann muss ich vielleicht nicht so genau lesen oder muss ich vielleicht gar nicht lesen. Und das ist zwar ein klassisches Beispiel, die KI entscheidet über das Leben eines anderen Menschen. Und das geht nicht. Punkt. Da ist meine Grenze, ich gebe gar nichts rein, also ich lese sie leidenschaftlich gern, die Bachelor arbeiten. Ich kontrolliere händisch die Quell. Das tue ich einfach gern und da kriege ich ja auch noch ein bisschen was mit, was macht die Wissenschaft und so. Das ist so meine Grenze. Es ist extrem spannend, meinen Blutbefund in die KI einzugeben, oder? Aber da muss ich halt vorher meinen Namen durchstreichen, oder? Aber natürlich kann dir die KI das erklären, was da diese Zahlen bedeuten. Anonymisieren ist da das Codewort.

SPEAKER_01 9:08

Du schau. Den Blutbefund gibst du der KI. Anonymisiert hinterher, okay. Spannend.

SPEAKER_02 9:19

Brauchst du da und hast du da nicht die Sorge, dass die KI da fantasiert?

Grenzen Bei Entscheidungen Über Menschen

SPEAKER_00 9:28

Nein, weil die Halluzinationen schon relativ gut im Griff sind. Also wir haben Halluzinationen zwischen 3 und 8 Prozent und es kommt auf das Thema an. Und da ist jetzt die Frage. Genau, was ist eine Halluzination, oder? Und wir dürfen nicht vergessen, unsere KI ist weder ein Mensch nur irgendein intelligentes Leben gewesen. Die KI ist eine riesengroße Wahrscheinlichkeitsrechnung. Die KI ist mit allen Daten, die wir bis jetzt veröffentlicht haben, trainiert worden, oder das ist ein Hund, das ist ein Hund, das ist ein Hund, das ist eine Blume, Hund, Blume, Hund. Und so hat die KI gelernt, in diesen riesen Datenmengen das nächste Wort mit einer Wahrscheinlichkeit zu berechnen. Das heißt, wenn ihr jetzt eine Frage stelle, liebe KI, was bedeutet diese Zahl bei meinem Eisenwert, dann rechnet die KI die Wahrscheinlichkeit aus, was das nächste Wort ist. Und die KI möchte immer plausible Antworten geben. Das heißt, wenn sie einen Kontext hat, wenn sie mit diesen Daten trainiert ist, die man hineingibt, dann kann sie eine plausible Antwort geben, die richtig sein kann. Wenn sie aber nichts Plausibles findet, ist die KI leider auch so programmiert, dass sie uns gefallen will. Die KI ist der größte Ja-Sager unseres Lebens. Die KI will, dass wir bei ihr bleiben. Das ist wie die Social Media, die drauf programmiert sind, dass sie uns Dopaminschübe geben, dass wir auf diesen Plattformen bleiben, genauso ist die KI auch programmiert worden. So, jetzt sagt die KI nicht, du Helga, ich habe keine Ahnung, das war nicht in meinen Trainingsdaten, sondern die KI

Blutbefund, Anonymisieren, Halluzinationen

SPEAKER_00 10:55

macht mir dann eine Wahrscheinlichkeit, die für sie plausibel klingt, eine Antwort. Und das sind diese Halluzinationen. Die kannst du minimieren, indem du sagst, antworte mir nur, wenn du zu 99% sicher bist, oder wenn du keine Antwort auf diese Frage hast, sei ehrlich. So kann man das ein bisschen minimieren, aber nur mal die Antwort einer KI ist eine Wahrscheinlichkeitsrechnung. Und das muss man einfach auch so sehen.

SPEAKER_02 11:22

Okay, und jetzt springe ich zu dem Anfang unseres Gesprächs. Das heißt, diese ganzen automatisierten Social Media Beiträge, da entwickelt sich eine Bubble aus Ja-Sagern. Ja. Und dümpelt im eigenen Saft.

SPEAKER_00 11:40

Genau, das ist so eine der Gefahren der KI. Die KI wird immer nett sein zu dir, außer du sagst, ihr sei nicht nett. Or sei kritisch oder analysiere nicht. Also ich habe gestern einen Newsletter gemacht, wo es genau darum geht, zu sagen, hey, KI, what is eigentlich, wenn du jetzt schon länger die KI nutzt, was weißt du über mich? Wie schätzt du mich ein? Was sind meine blinden Flecken? And yeah, what west du über mich? And this is so spannend, wie viel die KI analysieren kann mit dem context dieser Lerndaten and den Analysen. Musst du probieren. Also das ist ja. And eine der Gefahren ist, dass die KI uns immer gefallen will. Man muss das halt alles in Relation bringen. Und Punkt Nummer zwei, die KI lernt natürlich nur aus vorhandenen Daten. Alles, was vorhanden ist, wird wieder aufgewälzt. Und ich finde, dass soziale Medien wie LinkedIn vielleicht einmal von einem neuen Gedanken profitieren. Du machst ja Gedanken, wie geht das weiter, was passiert da, oder? Also Menschen sind ja kreativ, das ist unsere Superkraft. Wir erschaffen Neues, wir schaffen Kunst, wir erschaffen Bilder, wir schaffen Worte.

KI Als Ja-Sager Und Kreativitätsfalle

SPEAKER_00 12:55

Die KI können nur aus bereits vorhandenen Mustern zusammenfassen und neu erstellen.

SPEAKER_02 13:04

Naja, gewisse Kreativität kann man da schon. Aber es geht immer um täuschende Echtheit bei der KI interessanterweise.

SPEAKER_00 13:15

Genau. Plausible Echtheit. Also es klingt dann so plausibel und das zeigen auch die Studien, je plausibler die Antwort der KI, umso weniger überprüfen wir sie.

SPEAKER_02 13:30

Also ich bleibe dabei. Ich weiß, wie KI-Worte wirken, lautet unser Podcast. Aber ich erkenne immer mehr, dass uns die KI ermahnt, hellwach zu sein. Im Sinne von, überleg dir echt gut, was machst du selber. Was verlernst du, wenn du es anderen aufträgst oder einer Maschine aufträgst. Wie zum Beispiel, wenn ich nur noch tippe, habe ich keine Handschrift mehr. Wenn ich nur noch die KI irgendwelche Briefe schreiben lasse, habe ich keinen Schreibstil mehr. Wenn ich nur noch die KI, die Social Media Beiträge machen lasse, dann wissen die Leute ja gar nicht mehr, mit wem sie es eigentlich zu tun haben.

SPEAKER_01 14:13

Genau.

SPEAKER_02 14:14

Für was ich es schon gerne und wirklich gerne verwende, sind Übungsaufgaben in Seminaren. Genau. Aber da würde ich ja auch von letzter Woche das herausziehen oder vom letzten Jahr und das halt irgendwie anpassen.

SPEAKER_00 14:31

Das ist die, ich finde, die Herausforderung an unserer Zeit, nicht einfach zu sagen, boah, das ist ein cooles Tool, das nehme ich jetzt oder das implementiere in my Firma

Thermomix-Prinzip Statt Kompetenzverlust

SPEAKER_00 14:40

oder in my Business, sondern zuerst zu überlegen, was sind meine Prozesse, kann ich die optimieren und wo ist dieser Moment, wo ich vielleicht eine Automatisierung oder eine KI hinzuschalte. Und nicht sagen, die KI ist cool, das mache ich jetzt bei mir so. Also schau dieses, und egal ob jetzt Business ist, auch im persönlichen Leben, oder? Also wie reagiere ich da und wo hätte ich gerne eine KI dazu oder wo nicht, oder? Und ich glaube, ich wiederhole mich, weil mein Lieblingsrezept ist ja, oder meine Lieblings-KI-Nutzung ist, ich liebe KI, das ist ein lässiges Rezept. Wie koche ich das mit dem Thermomix? Das ist keine Werbeeinfreibung. Nein, aber ich kann ja nicht kochen. Also darum ist das super unwunderbar für mich. Der Thermomix ist auch nicht für jeden was, oder? Es gibt Menschen, die kochen gerne und die brauchen keinen Thermomix. Ich brauche ihn jetzt, weil ich nicht. Aber das weiß ich, diese Klarheit habe ich koche nicht gerne. Ich möchte aber einigermaßen geschmackvoll and gesund kochen. Und dann finde ich vielleicht ein lässiges Rezept, das ist aber nicht da drinnen, dann frage ich halt die K, ich rechne es um. That is my process.

SPEAKER_02 15:43

Wobei, with a clear personal anecdote, I this up. And then we shouldn't have a sight. My mother came near me when I met the Thermomix koche and had an outspoken gedanken. Mai, is this show that you just regularly kochstone? Then I said I to my mama: Yeah, Mama, that's a good one. When I'm talking about, then has said, This machine. This blöde said aufs Gramm, wie viel Salz, wie viel Mehl, wie viel Zucker there rein muss. Also wer lesen kann, can kochen. And that was für mich auch wieder so, anders rundet this Folge up. Ich kann ein Gefühl für etwas nur entwickeln, wenn die Routine, wenn die Erfahrung da ist, habe ich es nicht. Brauche ich eine Maschine, die mir sagt, mach jetzt das. Jetzt das hinein. Lesen, machen, weiter. And da schließt sich der Kreis für mich, insofern, wenn wir alles der KI abgeben, dann kann es halt auch nur die KI und wir selber verlernen es. Genau. Und darum? Hey, cool.

SPEAKER_00 16:54

Ja, darum. Es ist wichtig, dass die KI für uns wie ein Thermomix ist.

SPEAKER_02 17:01

Ich will jetzt endlich mal so eine Gratis-Maschine haben, für das, was wir da ständig Werbung machen. Coole 100.

Schlussgedanken Und Ausblick

SPEAKER_02 17:10

Sendung. Danke, ja. Wir bleiben weiter dran. Wie KI-Wort wirken, ist nämlich tatsächlich, ich dachte ja wirklich, das ist so ein oberflächliches Ding, aber nein, das hat extrem viel tief gegangen, weil es sehr viel mit uns anderem alltäglichen Tun and where we are to tun hat.

SPEAKER_00 17:30

And we nicht wo die Reise hingeht. Wir sind die erste Generation that das Leben davor and danach kennt. And we beschreiten jetzt die Wege, wie die KI unser Leben beeinflusst. Wir sind jetzt die Pioniere in einer Zeit in which die Forscher sagen, so einen Wandel in unserer Gesellschaft hat es nie gegeben. Nicht mit der Elektrifizierung, nicht mit der Erfindung des Rades, also wir beschreiten jetzt einen Weg, der uns einfach sehr verändern wird.

SPEAKER_02 18:01

Schönes Schlusswort. Danke, Helga. Bis zum nächsten Mal. Wie KI-Warte wirken. Der Podcast für effiziente Arbeit und moderne Kommunikation im Zeitalter der künstlichen Intelligenz. Als Gastgeberinnen sind Helga Boss und Heidi Winsauer verantwortlich. Weitere Informationen findest du auf unserer Webseite kwarte.com