Warum deutsche Unternehmen bei KI gerade einen fatalen Fehler machen. (#1284)

Philipp Starke spricht in dieser Folge über eine der entscheidenden Führungsfragen der KI-Transformation: Wie gelingt KI im Unternehmen so, dass sie nicht nur schnell eingeführt, sondern dauerhaft sicher, verantwortungsvoll und steuerbar betrieben wird? Im Gespräch mit Norman Müller geht es um KI-Managementsysteme nach ISO 42001, um AI-Act-Readiness, um Verantwortlichkeiten in Unternehmen und um die Frage, warum Governance kein Innovationshemmnis sein muss. Die Folge richtet sich an Entscheider, die KI nicht bloß testen, sondern strukturiert und belastbar in ihre Organisation überführen wollen.

00:00 Einführung ins Thema KI zwischen Aufbruch und Überforderung
00:31 Vorstellung von Philipp Starke und mITSM
02:49 Der erste Denkfehler beim Wunsch nach mehr KI-Tempo
06:33 Was ein KI-Managementsystem eigentlich ist
09:28 Für wen ISO 42001 sinnvoll ist und wie der Einstieg gelingt
12:06 Wo KI-Verantwortung im Unternehmen aufgehängt sein muss
15:35 Warum KI langfristig das Geschäftsmodell verändert
17:49 Die größte Gefahr ist fehlende Wettbewerbsfähigkeit
20:48 Welche Fähigkeiten Unternehmen intern wirklich brauchen
24:53 Warum Tool-Schulungen und KI-Zertifikate oft nicht reichen
32:32 Welche Risiken entstehen, wenn Unternehmen nur aufs Tempo setzen
35:09 Braucht es ISO 42001 wirklich oder ist das nur Bürokratie
40:11 Was Entscheider in den nächsten 90 Tagen konkret tun sollten
42:38 Die unbequeme Wahrheit über KI im Unternehmen
45:04 Die größte Fehlannahme beim AI Act und bei KI-Governance
46:56 Schlussgedanke: Warum mehr Menschlichkeit entscheidend bleibt

Hier geht's zu den Shownotes:
https://ventureaibriefing.substack.com 

Transcript

SPEAKER_01 0:12

So, es ist wieder Zeit für eine neue Folge hier im Venture AI Podcast. Wir reden heute über ein Thema, das in vielen Unternehmen gerade zwischen Aufbruch und Überforderung liegt. Alle wollen KI nutzen, aber nur wenige haben sauber geklärt, wer sie verantwortet, wer Risiken bewertet und wer am Ende den Einsatz wirklich steuert. Genau an dieser Stelle wird aus Technologie sehr schnell Führung. Die spannende Frage lautet also, braucht erfolgreiche KI im Unternehmen vor allem Tempo oder zuerst ein belastbares Betriebssystem aus Regeln, Rollen und Verantwortung. Darüber spreche ich mit meinem heutigen Gast von MITSM in München. Er ist dort Dozent, Berater und Auditor für KI-Compliance und KI-Management-Systeme nach ISO 42001. Schön, dass du da bist und herzlich willkommen Jan-Philipp Starke. Hi, Norman. Vielen Dank für die Einladung. Freue mich. Sehr gerne. Philipp, bevor wir uns reinstürzen, unser Vergnügen heute, um mal zu klären, inwieweit wir noch mit Tools arbeiten in den Unternehmen oder vielleicht schon aufs nächste Level kommen, kannst du vielleicht dich selbst nochmal kurz vorstellen und auch vielleicht so ein paar Sätze darüber verlieren, wer ist eigentlich MITSM?

SPEAKER_02 1:27

Klar, sehr gerne. Ja, Philipp Starke, mein Name. Wie du schon gesagt hast, ich arbeite als Trainer bzw. Dozent, Berater und Auditor bei MITSM. Wir sind ein Schulungs- und Beratungsunternehmen mit Sitz in München und es gibt seit über 20 Jahren und wir schulen eben zu allen möglichen Digitalkompetenzen von ITEL 5 über Informationssicherheit bis natürlich hin auch jetzt zu KI, was, wie du dir vorstellen kannst, ziemlich im Fokus steht aktuell. Und dieses Thema verantworte ich auch bei uns und habe daher auf Einblick eben in viele Kunden aus ganz Deutschland. Manche stehen noch ganz am Anfang, manche sind schon ein bisschen weiter, nutzen Dutzende von KI-Tools, bauen vielleicht ihre eigenen. Und ja, je nachdem, wo die Unternehmen stehen, holen wir eben sie ab, sei es die ganze Belegschaft oder eben Spezialrollen. Und ein Fokusbereich von uns ist eben das von dir schon erwähnte KI-Management-System nach ISO 42.001.

SPEAKER_01 2:33

So, darauf gehen wir gleich nochmal genauer ein. Auch noch zu erwähnen ist natürlich, und darüber freue ich mich besonders, dass ihr Mitglied bei uns im Bundesverband seid und auch kuratierter Partner für diverse Weiterbildungsprogramme, die man bei uns in der Venture AI Academy findet. Also da auch nochmal den Hinweis, bei uns auf der Website oben menü.academie anklicken und da findet ihr einen kleinen Auszug. Ihr habt ein Riesenportfolio, das haben wir jetzt nicht alles auf die Website laden können. Aber ihr seid da wirklich auch marktführend in Deutschland. Also ganz große Empfehlung hier. Nicht nur, weil ihr unser Partner seid, sondern wenn wir uns das auch angeschaut habt und wir uns total gefreut hat, dass ihr auch mit uns zusammenarbeitet. Das ist ja auch nochmal ein ganz wichtiger Punkt. Vielleicht meine erste Frage an dich, wenn heute viele Unternehmen sagen, wir müssen bei KI vor allem schneller werden, das Tempo habe ich ja im Intro schon erwähnt, was ist für dich der erste Denkfehler bei diesem Satz?

SPEAKER_02 3:35

Ich würde diesem Satz tatsächlich grundsätzlich erstmal zustimmen, aber der Denkfehler wäre halt, dass Schnelligkeit natürlich nicht wie das ist sozusagen das entscheidendste Kriterium von Albes, weil du kannst auch mal schnell in die falsche Richtung loslaufen. Das Ganze sollte natürlich aufbauen auf einer fundierten Strategie. Du solltest wissen, wo willst du hin, ja, vielleicht sogar nicht nur irgendwelche Tools einführen, sondern direkt dir überlegen, wie ist dein ganzes Geschäftsmodell betroffen. Und aus der Unternehmensstrategie erarbeitest du dann eine KI-Strategie und aus der KI-Strategie kannst du dann wirkliche Use Cases auch erarbeiten. Und so geht es dann erstmal los. Und dann, wenn du das Ganze eben nicht tust, dann führst du am Ende Dinge ein, automatisierst Dinge, wo du dir Risiken reinholst, die du überhaupt nicht bedacht hast und die du vielleicht auch nach einem halben Jahr wieder über Bord werfen musst, weil du merkst, das unterstützt gar nicht das, wo wir langfristig hinwollen.

SPEAKER_01 4:45

Da geht es ja auch um Investitionssicherheit, also nicht nur um die Investitionen, die ich jetzt, unter denen ich vielleicht das verstehe, dass ich jetzt Copilot-Lizenz über alle Mitarbeiter gekauft habe, sondern natürlich auch, wenn ich es denn ernsthaft in Betracht ziehe, damit wirklich ein Asset im Unternehmen aufzubauen und vor allen Dingen den holistischen Ansatz, also nicht nur die Effizienz eines Einzelnen, sondern auch teilungsübergreifend das Ganze denke. Mir kommt jetzt gerade nur eine Situation in den Kopf, die ich letztens, ich weiß nicht mehr, ich versuche gerade krafthaft herauszufinden, wer mir das erzählt hat, aber irgendeinen Vorstand eines großen Automobilunternehmens hat irgendwie gesagt, guckt mal hier, was ich auf meinem Handy machen kann mit ChatGPT, mache ich meine Marketinggeschichten ab sofort selber. Und da habe ich mich so dabei erzappt, dass ich so gedacht habe, okay, krasse Haltung. Also das bedeutet ja, dass diese Person dann auch sagt, naja, ihr Mitarbeiter, holt euch halt ChatGPT, ja, und dann könnt ihr das ja auch machen. Und dann habe ich gedacht, okay, krass, das ist ein völlig falscher Ansatz, ja. Da fehlt ja komplett die Richtung, wie machen wir das? Aber es hat mir ja eben auch gezeigt, dass so eine App auf dem Handy ja eher die Wirkung eines Tools hat, ja, und das haben wir, glaube ich, alle so auch in den Anfängen von ChatGPT erlebt. Und wir uns jetzt schwer tun, so die Kurve zu kriegen, das eine professionelle Strategie, vor allen Dingen auch zukunftsgerichtet, zu überführen.

SPEAKER_02 6:12

Ja, es sind ja auch völlig andere Qualitätsanforderungen, die du da hast, ob du jetzt ein Tool privat nutzt oder ob du das wirklich in deine Prozesse integrieren möchtest. Und gerade Marketing, Außenwirkung muss halt sitzen. Also sonst hast du dir halt ganz schnell irgendwelche Reputationsschäden reingeholt, wenn sofort erkennbar ist, jegliche Webseiten, Inhalte, Social Media Posts etc. sind von Claude geschrieben. Also ja.

SPEAKER_01 6:43

Ja. Oder mein letztes Vorstandsprotokoll ist dummerweise jetzt auf dem, liegt auf einem amerikanischen Zauber. Blöde. Ja, das auch, genau. Jetzt sagst du, ein KI-Management-System ist für Unternehmen irgendwann, also keine Kür mehr, sondern wirklich eine Führungsnotwendigkeit. Bevor du die Frage beantwortest, würde mich noch interessieren. Oder vielleicht können wir da nochmal gesondert drauf eingehen. Was bedeutet eigentlich KI-Managementsystem? Vielleicht können wir das für die Hörer noch ein bisschen auseinandernehmen.

SPEAKER_02 7:11

Ja, toll. Also vielleicht kennt der ein oder andere das schon aus einem anderen Kontext, zum Beispiel ein Informationssicherheitsmanagementsystem oder ein Qualitätsmanagementsystem, das ist ja so die Mutter aller Managementsysteme. Es ist alles im Prinzip das Gleiche. Es geht darum, du hast bestimmte Regeln, du hast Prozesse, du hast Verantwortlichkeiten und auf diese Art und Weise lenkst du eben das, was an KI-Aktivitäten in deiner Organisation passiert. Dass du zum Beispiel sowas verhinderst wie Schatten-KI, dass du einen Freigabeprozess hast, dass jemand auf die Konformität mit dem AI-Act schaut. All diese Themen, es geht auch dann in Richtung verantwortungsvollen KI-Einsatz, dass also keine negativen Konsequenzen aus deiner KI entstehen. Es geht auch ganz viel um Risikomanagement, aber auch darum, die Chancen systematisch zu erkennen. Also du siehst schon, so ein KI-Management-System kann sehr viele Zielrichtungen haben und die Ziele erreicht man eben systematisch und dauerhaft, indem ich das Ganze in einen Prozess gieße, in eine Verantwortlichkeit gieße und eben Regeln definiere, nach denen ich mich orientieren möchte.

SPEAKER_01 8:33

Ist das eine Software? Wie stelle ich mir das operativ vor? Oder ist das ein Word-Dokument, was 62 Seiten hat, ähnlich wie damals als Social Media irgendwie en voupa, dass wir da unsere ganzen Richtlinien formuliert haben, was dann keiner mehr durchgelesen hat?

SPEAKER_02 8:49

Ja, also du kannst es natürlich in einer Software machen. Es gibt auch spezialisierte Anbieter für sowas. Aber im Grunde genommen ist es, das ist auch gerade die Herausforderung daran, dass das dann immer zu kommunizieren. Es ist etwas, das kannst du nicht so richtig greifen, denn es geht darum, welche Aktivitäten du in deiner Organisation hast, die mit KI zusammenhängen. Und die Summe aus all diesen Aktivitäten, aus diesen Prozessen, das ist dann die Art und Weise, wie du dich managst. Das ist dein Managementsystem. Und die ISO-Norm, die ISO 42.001 in dem Fall, die gibt halt uns eine Orientierung, die gibt uns einen Leitfaden, worauf wir achten müssen, was sind denn die Prozesse, die wir brauchen, was sind die Verantwortlichkeiten, die wir brauchen und so weiter.

SPEAKER_01 9:38

Okay, das vielleicht, wenn du das in ein paar Schritten beschreiben müsstest, wie führe ich sowas ein? Also, wir haben oft das Problem in den Unternehmen, zum einen, für wen ist das interessant, ab welcher Unternehmensgröße, und wie mache ich so die ersten Schritte? Wo muss das aufgehängt sein, das Projekt? Kannst du dazu noch ein bisschen was sagen?

SPEAKER_02 10:02

Ja, absolut. Also ich gehe sogar noch einen Schritt zurück und sollte vielleicht noch kurz ein Wort dazu sagen, für wen ist so ein KI-Managementsystem wirklich sinnvoll? Denn wenn ich jetzt auf dem Stand bin, ich habe gerade Microsoft Co-Pilot eingeführt, ja, und das ist das Einzige an KI, was ich irgendwie mache, dann ist das noch einigermaßen übersichtlich. Dann brauche ich vielleicht an dem Punkt noch kein volles KI-Management-System, schon gar kein zertifiziertes. Wenn ich jetzt aber weitergehe und, wie du sagst, ein eigenes Assets aufbaue mit KI, Dinge automatisiere und vielleicht mehr als nur zwei, drei KI-Tools mehr einkaufe und verwende, dann fängt das Ganze an, halt auch gefährlich zu werden. Dann verliere ich die Übersicht. Ich muss schauen, dass ich mir, dass ich keine Rechtsverstöße begehe, dass ich mir keine Haftung, keine Reputationsschäden und alles, was damit einhergeht, ins Haus hole. Und dann macht es eben Sinn, zu sagen, okay, jetzt lenke ich das in geordnete Bahnen. Und dann fange ich erstmal an. Einer der allerersten Schritte wäre eben, ich setze erstmal ein KI-Register auf und verschaffe mir einfach einen Überblick, welche KI-Systeme habe ich im Einsatz, wer ist der Owner, welche Use Cases deckt, welche beabsichtigten Verwendungszwecke, also Use Cases das KI-System abdecken soll und darf und auch verschiedene andere Dinge, die ich eben in diesem KI-Register sammle. Und dann geht es eben darin, da geht es eben weiter. Ich verfasse eine KI-Leitlinie, die ich intern an jeden kommuniziere. Ich definiere klare Ziele, die ich mit der KI erreichen möchte. Ich mache ein sinnvolles Risikomanagement, wo ich eben dann auf eine wirklich systematische Art und Weise gucke, was sind die wirtschaftlichen, was sind die rechtlichen, was sind die sicherheitsrelevanten Risiken. Und so siehst du, da kommt ein Element zum nächsten und alle Elemente in Summe, die ergeben sozusagen das Managementsystem, das KI-Managementsystem. Aber der erste Schritt wäre meine Empfehlung KI-Register erstellen. Erstmal einen Überblick verschaffen.

SPEAKER_01 12:16

Okay, das ist immer eine gute Idee. Dann ergeben sich ja auch schon die ersten Engpässe unter Umständen. Aber nochmal zu den Verantwortlichkeiten im Unternehmen. Wo würdest du das aufhängen im Unternehmen?

SPEAKER_02 12:30

Also empfohlenerweise gibt es jemanden, der für das KI-Management-System in Gänze die Verantwortung trägt. Die sollte, der sollte oder diejenige sollte als Stabsstelle unter der Geschäftsführung oder der obersten Leitung wäre jetzt das Word-Ding von der ISO angeordnet sein, weil es eben nicht nur Sache von zum Beispiel der IT-Abteilung ist, ja, sondern es ist ja was, das betrifft ja alle Organisationseinheiten, alle Abteilungen. Deswegen muss es auch relativ hoch aufgehängt sein. Und das funktioniert auch nicht ohne die Unterstützung der Geschäftsführung. Da muss also auch der Culls at Draht dann natürlich vorhanden sein, damit das sinnvoll funktioniert.

SPEAKER_01 13:10

Da geht es ja auch um die Ernsthaftigkeit. Ich habe gerade vor unserem Gespräch hier bei LinkedIn gelesen, dass die Bundesregierung jetzt plant eine KI-Taskforce plant. Also wir meinen es jetzt ernst, sagen sie, mit sehr ambitionierten Zielen in den nächsten Monaten. Und ich habe mir überlegt, werde ich jetzt auch ein Essay zu dem Thema schreiben müssen. Ich habe mir überlegt, das wieder aufgeführt in dem Artikel, bei heiße, glaube ich, welche Arbeitsgruppen es jetzt wieder gibt. Und da denke ich mir, okay, jetzt haben wir wieder ein Gremium oder Taskforce, müssen wir es nicht ernsthafter betreiben? Also muss es nicht ein KI-Ministerium geben, wenn wir das wirklich wollen, also auch mit Investitionen und Budget. Und das ist aber auch ein Abbild davon, wie das in Unternehmen oft gehandhabt wird. Dass es so einen kleinen Arbeitskreis vielleicht gibt von Interessierten, die ChatGPT-Begeisterten, die dann sagen, wir müssen jetzt mal was machen, ja. Aber genau wie du es jetzt gerade sagst, mit Stabstelle das wirklich einzuordnen und vielleicht auch, ich habe das mit so einer Art Inkubator gemacht, dass ich gesagt habe, okay, das ist jetzt nicht nur, das ist jetzt nicht nur so eine Arbeitsgruppe, sondern das ist halt wirklich, wenn du so willst, ein In-house-Startup mit eigenen Regeln, mit eigenem Budget, ihr dürft auch Fehler machen, mit einer eigenen Fehlerkultur, ja, im Reporting an die Geschäftsführung oder an den Vorstand, ja, aber das hat sehr gut funktioniert, diese Geschichte. Aber diese Ernsthaftigkeit, die muss dann halt eben auch gegeben sein.

SPEAKER_02 14:42

Ja, das glaube ich auch. Ich denke, das, was du beschreibst, das ist auch gut dazu geeignet, dann wirklich größere Umbrüche zu, oder ja, Chancen zu erkennen und auch dann zu nutzen. Also wenn du wirklich dein Geschäftsmodell für die Zukunft fit machen möchtest, dann musst du das so machen. Was natürlich, das trifft natürlich jetzt nicht auf jede Organisation zu. Also manche Geschäftsmodelle werden in der Zukunft schon auch noch weiter funktionieren, vielleicht auch mit kleineren Modifikationen nur. Es braucht halt beides. Du musst halt das, was existiert, musst halt auf deine Kernprozesse, auf deine unterstützenden Prozesse schauen und überlegen, wie kannst du dort KI für dich leveragen und dann eben zusätzlich gerne auch nochmal so ein Start-up im Unternehmen selbst zusätzlich haben. Das KI-Management-System würde sich jetzt eher tatsächlich auf die existierenden Abläufe fokussieren, würde ich sagen.

SPEAKER_01 15:45

Ich meine, wenn wir uns mal die Herangehensweise, wenn ich jetzt gerade am Anfang stehe, dann werde ich natürlich erstmal die kleinen Use Cases haben. Ich werde die kleinen Effizienzgewinne haben. Ja, ja. Ich will mich aber bewusst ganz weit aus dem Fenster lehnen mit der These, dass wenn wir über den transformativen Gedanken sprechen und KI ernsthaft einsetzen, mit einem KI-Management-System, dann wird das unmittelbar einen Impact, in welcher Form auch immer, aufs Geschäftsmodell haben. Immer. Weil das einfach eine, also wenn es nur eine Software wäre wie SAP, ERP-Systeme oder solche Geschichten, okay, ja, dann tangiert das vielleicht nicht alle Bereiche in meinem Unternehmen. Aber dadurch, dass es so weitreichend und tiefgründig ist, werde ich das auf jeden Fall erleben. Nicht am Anfang, wie du sagst. Am Anfang sind wir erstmal froh, dass es Leute verwenden und vielleicht nicht sabotieren und es nicht verwenden wollen, weil sie vielleicht sagen, hey, es kostet mich meinen Job vielleicht. Können wir die Medien gerade lesen. Aber es wird, wenn ich es ernsthaft betreibe, in jedem Fall, und das ist ja auch eine tolle Nachricht, irgendeine Auswirkung aufs Geschäftsmodell haben. Neue Zielgruppen erreichen, neue Märkte, neue Produkte entwickeln, neue Vertriebsstrechnologien.

SPEAKER_02 17:01

Bin ich bei dir, ja. Langfristig auf jeden Fall. Und das ist auch tatsächlich, was bei meinen Kunden oder unseren Kunden bemerke ich auch viel Angst natürlich vor diesem Unbekannten und vor dieser Veränderung. Beides die Urengste des Menschen. Und KI wird eben nach wie vor ganz häufig als Risiko gesehen. Und das ist eben auch das, was die Leute davon abhält, so schnell sich damit zu beschäftigen, wie sie eigentlich sollten. Und was ich dann gerne als Reframing mache, ist, Leute selbst, also wenn ihr euch so darauf fokussiert, Risiken zu vermeiden. Und deswegen macht ihr nichts mit KI und überlegt euch nicht, wie sich euer Geschäftsmodell in den nächsten Jahren verändert, dann überseht ihr das größte Risiko von allem, nämlich dem, dass ihr irgendwann nicht mehr wettbewerbsfähig seid. Und über diese Argumentation, übers Risiko, kommt man dann ja auch eben an diese veränderungsaversen Führungskräfte etc. ein bisschen ran. Aber das ist, was mir so noch, ich mir noch mehr wünschen würde, ist eben die Lust auf die Veränderung und die Chancen, die sich daraus ergeben aus dieser Technologie. Ja, das kann ja auch was ganz Spannendes sein.

SPEAKER_01 18:25

Na klar, vor allem dann, wenn dein Job sicher ist, weil wir beide uns jetzt gerade um dieses hochaktuelle Thema kümmern. Also ich kann diese Angst schon verstehen. Und ich verstehe auch, dass ein Mitarbeiter eines Unternehmens sagt, ja, Wettbewerbsfähigkeit hin oder her. Ja, das ist ja nicht mein Unternehmen, ich will, dass mein Job sicher ist. Mein Vorschlag wäre ja, dass ich Geschäftsführung, Vorstände mal überlegen, welche Garantien kann ich aussprechen an meine Mitarbeiter. Dass ich dann sage, hey, dein Job ist definitiv sicher, in welcher Form auch immer ich diese Garantie geben kann. Aber wenn ich Sicherheit geben kann, wenn ich meinen Mitarbeitern sage, hey, wir führen das Ding hier ein, wir transformieren unseren Laden hier und das machen wir gemeinsam und dir wird keiner seinen Job verlieren. Wenn ich diese Garantie, wenn ich dieses Commitment geben kann von ganz oben, dann habe ich auch die Leute, die mitmachen. Ja, unbedingt.

SPEAKER_02 19:19

Ja, aber das kannst du natürlich nur, wenn du als Geschäftsführer auch das Thema KI wirklich in Angriff nimmst. Weil sonst sind die Versprechungen nämlich leere Versprechungen. Wir machen so weiter wie bisher, ihr behaltet alle euren Job und irgendwann ist es nicht mehr in der Entscheidungsmacht der Geschäftsführung, weil einfach die Kunden wegbleiben. Also genau, dieses Versprechen und diese Sicherheit, die kann man nur geben, wenn man KI auch langfristig erfolgreich nutzt.

SPEAKER_01 19:45

Da schließt sich der Loop zu dem, was du vorhin gesagt hast, dass wir im Grunde, wir brauchen die Unternehmenslenkerinnen und Lenker, die das mittragen, die es nicht operativ umsetzen müssen, aber die es mittragen und im Grunde die Stabsstelle oder meinetwegen den Inkubator schützen, denen eigene Möglichkeiten geben, Handlungsfähigkeit machen, also Handlungsfähigkeit geben, wie die Taskforce der Bundesregierung, wenn die kein Budget hat, dann können wir Gremienarbeit machen, noch und löcher, hilft uns nicht. Aber das ist, also über diese Garantien würde ich auf jeden Fall nachdenken. Das ist sicher von Unternehmen zu Unternehmen unterschiedlich, welche Möglichkeiten es da gibt. Aber wenn ich diese Sicherheit geben kann, dann ist das auf jeden Fall der Run.

SPEAKER_02 20:30

Ja, und zwar sowohl, wie du sagst, als allgemeine Aussage sozusagen als Versicherung an die Belegschaft, aber dann auch für jedes KI-Projekt einzeln ein sinnvolles Change Management zu haben, dass du eben da auch die Leute frühzeitig ins Boot holst und eben Widerständen und Ängsten eben vorbeugt, auch bei den jeweiligen KI-Projekten, die du durchführst. Ich glaube, beides in Kombination brauchst du. Und noch ein Punkt, wir reden jetzt ja viel darüber, was sozusagen auf einer höheren, auf der Leitungsebene passieren muss. Es braucht dieses Bewusstsein, was sind die Chancen und Risiken von KI. Es braucht das Verständnis, um daraus auch eine Vision zu entwickeln und eine Strategie. Und dann braucht es aber natürlich auch die Fähigkeiten, das Ganze umzusetzen. Und da reicht da natürlich, die Geschäftsfunk kann natürlich nicht alles machen, da kommen dann wir auch ins Spiel und müssen dann eben die Mitarbeiter enablen, die in den jeweiligen Organisationseinheiten, in den Fachabteilungen tatsächlich das Ganze dann auch implementieren und umsetzen. Und zwar einerseits in der technischen Hinsicht, aber andererseits auch eben, es braucht jemanden, der eben Compliance sicherstellt, also der juristisch sich ein bisschen auskennt. Es braucht jemand, der auf die Governance schaut, also den Freigabeprozess und die KI-Richtlinie und das Register. Also all das, was diese ISO 42.001 regelt. Und da sind dann die unterschiedlichen, da kommt dann quasi ein Blumenstrauß an Fähigkeiten, der plötzlich gebraucht wird und dann zusammenspielen muss, damit diese Vision dann tatsächlich auch umgesetzt werden kann in der Praxis. Und da kommen dann natürlich auch wir als MATSM ins Spiel mit unseren Weiterbildungen.

SPEAKER_01 22:22

Es gibt ja diesen schönen Begriff lebenslanges Lernen, ja. Oder ich hatte mal einen Artikel veröffentlicht, lernt um euer Leben. Die Idee ist nämlich eigentlich nicht zu, also zu verstehen, dass es nicht darum geht, ich mache jetzt einen Kurs, ja, beim Philipp und beim Team. Ja, und dann bin ich fertig, sondern wir merken ja jetzt schon immer die letzten zwei, drei, vier Jahre, ja, was sich alles und wie schnell sich das Ganze verändert. Da gibt es den EU AI-Act, ja, dann kenne ich mich am besten auch noch mit dem US-Cloud-Act aus, um klar zu werden, was ich hier einsetzen darf und was nicht und so weiter, bis hin zu ethischen Aspekten. Ich glaube, auch das muss Teil des Mindsets in den Unternehmen, Teil der Unternehmenskultur sein, dass ich einfach Lernen als kontinuierlichen Prozess verstehe und dass ich auf die Anforderungen, auf gesetzliche Anforderungen, auf Marktanforderungen und so weiter, auf technische Anforderungen einfach reagiere und das vielleicht auch in meiner HR-Abteilung direkt mit einpreise, dass ich einfach für jeden Mitarbeiter pro Jahr ein Budget brauche, damit die kontinuierlich am Laufenden bleiben. Das ist das ist das, was sich verändert hat.

SPEAKER_02 23:35

Also XC muss ich nur einmal lernen. Ja, es stimmt dir total zu. Dieses Mindset, dass du am Ball bleibst, das ist wichtiger als jeder Kurs, den du besuchen kannst. Was wir, ich sag immer, wenn ihr gerade loslegt mit KI und ihr seid bei uns in der Schulung, ja, oder ihr habt schon ein bisschen was und kommt dann in unsere Schulung, ihr lauft den Marathon und wir helfen euch halt einige Kilometer weiter, ja. Ihr seid auf dem Plateau, wir bringen euch auf den nächsten Schritt. Aber ihr müsst auch danach alleine weiterlaufen. Und natürlich ist das auch was, was wir dann thematisieren, ja, wie kann man da am Wald bleiben, welche Methoden gibt es, welche Fähigkeiten man aufbaut. Aber im Grunde genommen führt da kein Weg dran vorbei, wie du sagst, jedes Jahr ein gewisses Budget zu haben und auch außerhalb von Weiterbildungen, die sind natürlich wie so ein Beschleuniger. Ich gehe in eine Weiterbildung drei Tage und in der Zeit habe ich geschafft, wofür ich sonst vielleicht zwei Monate gebraucht hätte, neben der Arbeit her. Wenn es überhaupt passiert wäre. Aber ja, man kann natürlich jetzt nicht auch jeden Monat drei Tage in eine Schulung gehen, das ist auch klar. Und deswegen, wie du sagst, muss man auch selber dabei bleiben.

SPEAKER_01 25:04

Vor allen Dingen darf man ja auch sagen, es kommt ja auch auf die richtige Schulung an. Was mich ehrlich gesagt, das ist auch eine Meinung, die ich schon sehr oft vertreten habe, was mich ehrlich gesagt total genervt hat, war diese KI-Manager-Schulung der Industrie- und Handelskammer. Also da darf man ja auch ein bisschen kreativer werden. Das Angebot fand ich gut, aber es hat den Unternehmen suggeriert, dass wenn ich meine Mitarbeiter in so ein Tool-Lehrgang schicke mit Prompt Engineering, die dann mit einer Prompt-Bibliothek wieder nach Hause kommen, und es hat halt suggeriert, dass die Unternehmen sich jetzt wettbewerbsfähig fühlen. Wir haben jetzt Copilot am Start, wir haben alle das Zertifikat bekommen von der IRK, das hängt hinter uns an der Wand. So, und jetzt rein wir los. Und das ist halt im Grunde das Erwachen, wo wir jetzt stehen, wo die jetzt unseren Podcast hören und sagen, was reden die da? Wir sind doch schon ready. Und wir sagen, nee, weil allein schon das KI-Managementsystem fehlt. So, das brauchst du.

SPEAKER_02 26:07

Ja, Miguel ist also so eine Schulung, wie du gerade beschrieben hast, das ist der Start. Und es ist natürlich auch total wichtig, um die Leute erstmal zum Laufen zu bringen. Wir haben auch zum Beispiel Grundlagen der KI-Anwendung als eine zweitägige Schulung. Natürlich, wenn du bei Null anfängst, dann brauchst du das auch. Das ist wichtig, aber es darf, wie du sagst, da halt nicht aufhören. Das ist genauso wie wenn ich jetzt, was ich auch ganz, ganz häufig sehe, ist, so langsam sind die Unternehmen mitbekommen, es gibt aus dem EUAI-Act in Artikel 4 diese Schulungspflicht. Die wird zumindest als solche bezeichnet. Genau genommen ist es eher eine, wenn man im Wort laut bleiben will, eine Kompetenzsicherstellungspflicht. Und was machen die Unternehmen? Sie machen ein E-Learning, 20 Minuten oder meinetwegen eine Stunde. Und dann glauben sie, ja, jetzt bin ich ja konform. Jetzt habe ich ja den Artikel 4 erfüllt. Was kaum jemand macht, ist halt mal weiter zu lesen, das zu Ende zu lesen. Ja, jetzt nerd ich hier ein bisschen juristisch ab, aber im Artikel 3 Nummer 56 steht halt auch die Definition, was ist denn KI-Kompetenz überhaupt? Den hat schon mal kaum jemand gelesen. Da geht es dann nämlich darum, dass du das Bewusstsein, das Verständnis und die Fähigkeiten hast, die Chancen und Risiken von KI zu erkennen und eben die jeweiligen Pflichten, die du halt als Mitarbeiter hast, auch zu erkennen. Und zwar in Abhängigkeit davon, was deine Rolle ist. Also was sind die Betroffenen, was ist der Verwendungszweck vom KI-System. Und wenn du jetzt jemanden im Recruiting hast, der nutzt eine KI, die scannt automatisch die Bewerber, bist du im Hochrisikobereich. Versus du hast jemanden, der macht einen LinkedIn-Post mit KI mit ChatGPT, und beide kriegen die gleiche Schulung, das ist nicht compliant. Also das ist nicht das, was der ATT4 will. Und das ist mal jetzt so die eine Seite, es ist aber auch nicht das, was aus unternehmerischer Sicht Sinn macht. Also dieses Rollen- und kontextspezifische Weiterbilden, das ist das, wo dann, ich würde mich mal aus dem Fenster lehnen und sagen, 98% der Unternehmen aussteigen, beziehungsweise bis jetzt noch nicht dort angekommen sind.

SPEAKER_01 28:31

Gib uns doch mal eine Empfehlung. Selbständisches Unternehmen, 50 Mitarbeiter. Was wäre ein Lehrgang bei euch, wo du sagst, hey, da müsst ihr euch auf jeden Fall anmelden. Damit fangen wir mal an. Also, das Unternehmen hat vielleicht ChatGPT mal ausprobiert, vielleicht Copile-Lizenzen gekauft. Ich denke mal, das ist so der Standard, den wir jetzt gerade haben. Okay.

SPEAKER_02 28:55

Das kommt drauf an, wer von dem Unternehmen jetzt zu uns kommt. Wenn es jetzt der durchschnittliche Mitarbeiter ist, entweder eintägige Schulung KI-Führerschein oder wenn es ein bisschen fundierter sein soll, Grundlagen der KI-Anwendung, zweitägig. Das wäre mal so die Basis. Wenn du jetzt aber auf die Rollenspezifischen schaust, dann brauchst du halt jemanden, der so KI-Projekte auch anleiten können, der eine Führungsposition übernehmen kann, der eine Ahnung haben muss von ein bisschen Strategie und vor allem auch Change Management, der KI-Management-System nach ISO 42.001 kennen muss, der ein bisschen zumindest einordnen können muss, was kann ich rechtlich tun und was ist verboten, der sollte in unseren KI-Manager gehen. Der dauert vier Tage, das ist natürlich was. Also da ist man dann schon mal eine Zeit sozusagen aus dem Alltag raus, aber das brauchst du halt auch, wenn du es ernst meinst. Und deswegen Führungskräfte in den KI-Manager. Oder dann brauchst du noch Einzelpersonen, jemand, der eben Juristisch Test hat, das ist bei uns der KI-Compliance-Beauftragte, oder eben der das KI-Management-System einführt, das ist der ISO 42001 KI-Beauftragte. Deswegen, so ganz pauschal kann ich deine Frage nicht beantworten. Was ist die eine Schulung? Es hängt halt sehr davon ab, welche Rolle hast du denn denn im Unternehmen?

SPEAKER_01 30:15

Das war eine super Antwort, weil die macht nämlich klar, dass du wahrscheinlich nicht, nimm mal so ein mittelständisches Unternehmen, dann überlegst du dir, okay, wer ist mein Führungsteam, ja, da hast du halt einen Vertriebsverantwortlichen, einen Marketingverantwortlichen, vielleicht noch HR, ja. Aber es zeigt eigentlich, wenn du es wirklich ernst meinst mit dieser Nummer, mit dem Thema KI in meinem Unternehmen und wir erinnern uns, langfristig hat das eine Wirkung auf mein Geschäftsmodell, dann brauchst du tatsächlich eine Stabsstelle. Dann ist das auf der Laien, Vertrieb, Marketing, da hast du deinen, weiß ich nicht, AI-Officer oder wie auch immer wir den dann nennen wollen oder KI-Beauftragten im Unternehmen, aber du brauchst einen, der das federführend macht, der nicht nach vier Tagen aus eurer Schulung kommt und dann eigentlich wieder in seinen Alltag verschickt. Und dann kommt es nicht in die Umsetzung.

SPEAKER_02 31:11

Ja. Ja, ich denke, es kann nur funktionieren, wenn es halt sowohl Top-Down als auch bottom-up ist. Also du hast, du hast oben deine Stabstelle oder deinen KI-Hub, wo du Kompetenzen bündelst, die du organisationsweit brauchst. Du brauchst nicht in jedem Team oder jeder Abteilung jemanden, der KI-Compliance-Beauftragter ist. Aber du brauchst zumindest eine Person, die dir sagen kann, wenn jemand aus den Fachabteilungen kommt, hier ist mein Vorschlag für ein KI-Projekt oder ein Tool oder eine Automatisierung oder was auch immer. Meine Ersteinschätzung, ja, kannst du machen oder nein, ist rechtlich nicht möglich. Du brauchst jemanden, der sich mit dem Governance-Thema auseinandersetzt. Also es gibt Kompetenzen, die hast du da oben bei der Stabsstelle oder im Hub und dann brauchst du eben natürlich pro Organisationseinheit, also in den jeweiligen Fachabteilungen, man kann das nennen, wie man will, vielleicht Champions, die dann die Projekte auch wirklich zum Laufen bringen können, die operativ arbeiten können und die auch so eine Kommunikationsschnittstelle zu, also nach oben zu dem Hub sind. Die also zum Beispiel die Ideen, die die Mitarbeiter, die täglich am Produkt arbeiten, am Kunden arbeiten, die haben ja oft die besten Ideen, auch nach oben kommunizieren. Dann können die da bewertet werden, dann wird es freigegeben und dann ab geht's. Und man rennt später nicht in irgendwelche Risiken, die man vorher übersehen hat. Also ich finde, die Kombination macht Sinn, ja. Das ist das Managementsystem.

SPEAKER_01 32:42

Ja, ja, das ist super. Lass uns mal über die Risiken sprechen. Ich gehe jetzt mal in die Gegenposition. Jetzt höre ich uns beiden hier mal zu. Und der Philipp und der Norm, die reden da über eine Normarchitektur, ja. Ich will schnell sein, ich möchte das schnell einsetzen, ich will, dass meine Leute schnell effizient sind und dass sie nicht die Lust verlieren. Wir brauchen klare Use Cases, einen gesunden Menschenverstand. Was sind die Risiken, wenn ich mich eher dem hingebe, um vermeintlich Tempo aufzunehmen? Weil ich vielleicht von meinen Kumpels am Tennisplatz gehört habe, die sind alle schon viel weiter als ich selber. Jetzt muss ich mit meiner Firma Gas geben. Also womit muss ich unter Umständen rechnen, mittel- bis langfristig? Ja.

SPEAKER_02 33:27

Die Risiken sind so zahlreich, dass es total, also da könnte ich jetzt nicht überlegen. Das MIT RISP Repository hat zum Beispiel, also das ist eben die weltweit umfangreichste Sammlung an KI-Risiken, die vom MIT gesammelt wird, 2420 Risiken oder sowas haben die inzwischen gelistet. Ein bisschen übersichtlicher, praxisorientierter wären zum Beispiel die Oberst Top Ten für agentische KI, die Oberst Top Ten für LLMs. Ja, da kriegt man eine erste Idee. Es sind im Prinzip Risiken aus den vier Bereichen wirtschaftliche Risiken, rechtliche Risiken, also alles, was in Richtung Haftung und Bußgäler geht, ethische Risiken, womit dann natürlich auch Reputationsverluste und damit Umsatzeinbrüche einhergehen können. Also es kann dann auch wieder zu einem wirtschaftlichen Risiko werden. Und eben sicherheitsrelevante Risiken. Und das ist auch etwas, was noch viel zu wenig Awareness hat. Also innerhalb der Cyber Security Bubble in Deutschland ja. Jeder weiß inzwischen, dass gute Cyber Security nur noch mit KI funktionieren kann, weil die Angreifer auch KI nutzen. Also man macht sich einfach verwundbar für die Angriffe. Vermutlich würde ich sogar dort aktuell den Schwerpunkt setzen, also das größte Risiko sehen, einfach eben im Bereich von Safety und Security. Also sowohl sozusagen Vermeidung von Fehlfunktionen der KI-Systeme selber, wenn es ist eben nicht rein regelbasiert, 100% verlässlich, als auch eben die Security von außen sich angreifbar zu machen.

SPEAKER_00 35:13

Ich denke, das fasst vielleicht ganz gut zusammen.

SPEAKER_01 35:18

Ich bin immer noch in der Gegenposition. Brauche ich diese ISO 42001 wirklich? Oder ist es nur ein Ausdruck, so einer deutsch-europäischen oder eines deutsch-europäischen Reflexes? Also neue Technologien immer dann zu begegnen und zu sagen, wir machen jetzt erstmal einen Prozess, ja, dann dokumentieren wir das Ganze und dann fangen wir das operativ an.

SPEAKER_02 35:44

Ja, super berechtigte und wichtige Frage. Es gibt einen Riesenunterschied, ob ich nach der ISO 42001 arbeite oder gemäß damit. Also ob ich mich quasi, ob ich 100% konform sein möchte und mich vielleicht sogar zertifizieren lassen möchte, oder ob ich das Ganze nur als Leitfaden nutze, wo ich mir cherry-picking-mäßig die wichtigsten Elemente, die ich für mich brauche, um den Risiken zu begegnen, so rauspicke. Wenn ich jetzt zum Beispiel SAP bin, oder ein KI-Startup, was eben einfach nur KI-Tools verkauft, dann ist so ein Zertifikat vielleicht sinnvoller. Das waren jetzt auch tatsächlich reale Beispiele, die sind beide ISO 42.001 zertifiziert. Denn dann habe ich natürlich mit einem Zertifikat auch nochmal einen Wettbewerbsvorteil, der mein Produkt gegenüber anderen Produkten attraktiver macht, weil die Kunden eben wissen, der arbeitet verantwortungsvoll und sicher mit KI und da sind auch meine Daten sicher und so weiter. Wenn ich jetzt aber der von dir vorhin erwähnte klassische 300 Mann, Frau, Mittelständler bin, der nicht selber KI-Systeme entwickelt und vertreibt, dann brauche ich vielleicht nicht unbedingt die Zertifizierung, sollte mich aber trotzdem mit den Inhalten beschäftigen. Und dann muss ich vielleicht nicht jede Dokumentation auch machen. Übrigens, auch das ist eigentlich wieder eine Fehlvorstellung von allen, dass ich nur zertifiziert werde, wenn ich hunderte Seiten Dokumentation habe. Denn die alte Norm sagt eigentlich nur, ich brauche die angemessene Dokumentation, aber das nur so als Randbemerkung. Ja, also ich denke, das ist wesentlich, ich sollte mich mit der Norm auseinandersetzen. Am besten muss vielleicht nicht die KI-Beauftragten-Schulungen sofort sein, aber zumindest mal in die Foundation gehen zu ISO 42001, dass ich mir die wichtigsten Themen wie zum Beispiel Risikomanagement und Chancenmanagement rauspicken kann und bei mir implementieren kann, weil das brauche ich sowieso unbedingt, egal ob ich mich zertifizieren lasse oder nicht.

SPEAKER_01 37:59

Okay. Ich sag mal, du hast mir überzeugt, die Frage ist jetzt für mich heute: woran erkenne ich vielleicht als Geschäftsführung, als Vorstand nach zwölf Monaten, dass dieses System echt bessere Entscheidungen hervorgebracht hat als nur auditfähige Ordner oder ich erkenne es daran, wenn ich zum Beispiel ein gutes Chancenmanagement habe, dass ich neue Use Cases für KI entdeckt habe, die ich sonst übersehen hätte, weil ich nicht das gemacht habe, was mir zuallererst in den Sinn gekommen ist, sondern weil ich das mit System identifiziert habe, analysiert habe, wo sind die großen Chancen, das bewertet habe, priorisiert habe, die Ressourcen entsprechend investiert habe und jetzt habe ich mein positives Outcome.

SPEAKER_02 38:52

Ich erkenne es, und das ist jetzt der schwierige Teil. Risiken, die sich nicht verwirklicht haben, kann ich nicht erkennen. Aber das ist auch einer der größten Vorteile von so einem KI-Management-System, dass ich eben Vorfälle, die ich sonst gehabt hätte, Haftungsfälle, Bußgelder, Reputationsschäden, was auch immer, nicht hatte. Das lässt sich natürlich jetzt nicht quantifizieren, ist aber eben auch ein großer Benefit.

SPEAKER_01 39:26

Spannend. Also, das eröffnet einfach auch nochmal zusätzliche Perspektiven, an die ich vielleicht auch aus meiner Perspektive nicht gedacht habe. Und wenn ich auch diese KI-Kompetenzen nicht im Unternehmen habe, die mir aber aneigne, weil ich in euren Lehrgängen und Weiterbildungsprogrammen bin, dann habe ich eine ganz andere Sicht auf die Dinge. Das geht uns ja immer so. Also wenn ich aus einem Seminar rauskomme, aus einer Weiterbildung rauskomme, dann gucke ich ja ganz anders auf das Thema drauf. Und das ist im Grunde der ähnliche Effekt, dass ich dann nochmal andere Perspektiven dazu bekomme. Wenn jetzt hier Geschäftsführerinnen und Geschäftsführer zuhören und vielleicht noch kein sauberes KI-Betriebssystem oder Managementsystem am Start haben, was muss in den nächsten 90 Tagen passieren?

SPEAKER_00 40:16

Oder was sollen sie konkret entscheiden?

SPEAKER_02 40:22

Also nochmal das KI-Managementsystem mit seinen verschiedenen Prozessen und Regeln und Verantwortlichkeiten macht dann ganz besonders viel Sinn, wenn ich bereits eine Vision habe, wo mein Geschäft hingehen soll. Das ist das Allerwichtigste. Und wenn ich eben auch erste Use Cases realisiert habe. Also ich würde sagen, das wäre erstmal das Wichtigste, tatsächlich ins Tun zu kommen. Also es wäre jetzt, natürlich könnte ich jetzt sagen, Leute, ihr braucht von Anfang an ein KI-Managementsystem in vollem Umfang. Aber das wäre nicht ehrlich, sondern es geht wirklich zuerst mal darum, ins Tun zu kommen und sich zu überlegen, wo will ich hin, und dann eben das Ganze in eine KI-Strategie zu gießen und auf eine systematische Art und Weise dann meine Use Cases zu identifizieren, die Ziele zu definieren. Ja, und wenn es dann eben aber in Richtung Governance gehen soll, da ging ja dann auch deine Frage hin, dann KI-Register, ein Risikomanagement-Prozess, ein Chancenmanagement-Prozess, ein Freigabeprozess ist auch super wichtig, nach welchen Kriterien entscheide ich, welche KI-Tools gebe ich frei und welche nicht. Und auch sowas wie Kompetenzprofile, wo, an welchen Positionen brauche ich, welches Bewusstsein, welche Fähigkeiten, welche Kenntnisse.

SPEAKER_01 41:49

Ja, das ist nur mal gut, dass du das sagst, dass ich bei das, sorgt vielleicht nicht unmittelbar für Angst, aber man schreckt doch so ein bisschen davor, wenn du so vor so komplexen Systemen auf einmal stehst, ja. Also um das mit dem Bild mit meiner Tochter, wir haben so Playmobil, da gibt es so ein Prinzessinenschloss, das ist gewaltig, ja. Und ich denke mir, wenn ich das bauen soll, da werde ich eine Woche dran arbeiten. Ja, und wir haben jetzt mal angefangen, so mit dem Pferdestall, weißt du? Also man kann ja erstmal in kleinen Clustern arbeiten, mit dem Ziel, dass irgendwann dieses Schloss und Pferdestall auch fertig ist. Aber dass man sich, und das ist ja oftmals der beste Tipp oder Trick, ja, dass man die Komplexität rausnimmt, indem man es in kleine Bausteine zerlegt und sagt, wir fangen jetzt einfach mal an. Und da ist ja auch ein guter Tipp bei euch vorbeizuschauen oder da mal nachzufragen. Lieber Philipp, ich gucke so ein bisschen auf die Uhr. Ich habe noch drei Fragen oder eine drei Fragen-Plus-Bonusfrage an dich. Okay. Und zwar, was ist die wichtigste unbequeme Wahrheit über KI im Unternehmen, die viele Führungskräfte noch verdrängen?

SPEAKER_00 43:05

Wichtigste unbequeme Wahrheit. Da muss ich auf das wieder zurückkommen von vorhin.

SPEAKER_02 43:18

Es ist, dass Augenverschließen nichts daran ändert, dass große Transformationen des eigenen Geschäftsmodells, nicht nur immer die anderen, sondern auch die eigenen, ins Haus stehen können, wenn man das Thema KI nicht angeht. Das ist inzwischen bekannt, aber es ist nach wie vor etwas, das ist so ein bisschen wie beim Klimawandel oder anderen langsamen Entwicklungen, die nicht sofort greifbar sind, dass man immer denkt, ach, ich selber bin bestimmt nicht betroffen, so wie es bei uns gerade gut läuft, das geht bestimmt auch noch die nächsten zehn Jahre so weiter. Und dabei ist man selber genau derjenige oder das Unternehmen, was dann vielleicht doch betroffen ist. Ich denke, das ist die unbequemste. Wahrheit.

SPEAKER_01 44:02

Wir haben ja eine sehr hohe Dichte in Deutschland an so Hidden Champions. Weltmarktführer im Leaschen. Dieses Never Change a Winning Horse, ja, also ich ist doch gut gelaufen in den letzten 40 Jahren, warum sollen das in den nächsten 10, 20 Jahren nicht so laufen? Jetzt gucken wir mal, da können die anderen erstmal sich austoben, ja, und dann schauen wir mal, was an Lösungen übrig bleibt, ja, oder hinten runterfällt, die wir dann auch verwenden können. Und ich glaube auch, genau wie du, das wird nicht mehr funktionieren. Also es war vielleicht früher eine gute Strategie, bei der Einführung von Word oder so, ja, oder Windows. Ja, aber ich glaube, dass diese Veränderungen dramatisch sind. Es wird vielleicht nicht morgen sein, aber nächste Woche kommt halt ein Startup irgendwie am Wochenende, saß auf einem Kasten Bier mit einem Laptop auf dem Knien und hat dann irgendwie an einem Geschäftsmodell gedreht und auf einmal erreiche ich meine Kunden nicht mehr direkt, ja, sondern muss das über das Startup machen. Also gibt es ja die verrücktesten Sachen.

SPEAKER_02 45:05

Ja, die Automobilbranche sollte uns da ein Warnschluss sein. Warum sollte es jetzt vor anderen Branchen halt machen?

SPEAKER_01 45:14

Genau, ja. Sollte alle treffen. Okay, die nächste Frage. Was ist die hartnäckneckigste Fehlannahme beim Thema AI-Act und KI-Governance?

SPEAKER_00 45:29

Oh, da gibt es viele. Die hartnäckigste Fehlannahme.

SPEAKER_02 45:45

Also beim AI-Akt ist es, glaube ich, die Annahme, ich selber entwickle ja keine KI-Systeme, also habe ich auch keine Pflichten. Also es ist zwar richtig, dass die Anbieter, so das ist das Wording aus dem AI-Act, dass die Anbieter von KI-Systemen die meisten Pflichten haben, aber selbst dann, wenn ich mir nur irgendein KI-Tool einkaufe, bin ich schon Betreiber und auch damit gehen gewisse Pflichten einher, die dann davon abhängen, ob ich halt im Bereich Hochrisiko bin oder Begrenzrisiko. Also ich denke, das ist eine Fehlannahme. Ich entwickle ja gar keine KI oder ich stelle sie ja gar nicht meinen Kunden bereit, dann richtet sich das auch nicht an mich. Und ich glaube, was Governance angeht, die größte Fehlannahme oder eben ISO 42001, wäre, dass die Norm nur was für mich ist, wenn ich mich zertifizieren lassen möchte und dieses Alles- oder Nichts-Prinzip. Also entweder ich mache, setze jede kleinste Vorschrift aus der Norm um, oder ich fasse sie nicht an, dass das beides in den meisten Fällen nicht der passende Weg.

SPEAKER_01 47:07

Super. Das war auch nochmal ein sehr guter, sehr guter Hinweis, wie so viele hier in dieser Podcast-Folge. Und deswegen würde ich sagen, wir machen den Sack zu. Ich bedanke mich sehr für dieses Gespräch und würde dir auch die Abschlussfrage als Schlusswort überlassen. Stell dir vor, Philipp, du hast die Macht dieser Welt, du kannst alles verändern, was du möchtest. Was wäre das eine Ding, was du verändern wollen würdest, wenn du könntest?

SPEAKER_00 47:43

Das hat nichts mit KI zu tun.

SPEAKER_02 47:46

Ich denke, es wäre einfach mehr Compassion für uns untereinander, also mehr Nächstenliebe würde man jetzt sozusagen als christlichen Wert vielleicht heranziehen. Und dazu gehört eben Empathie, andere Positionen zu verstehen und den Menschen eben im Fokus zu behalten, auch wenn die KI-Technologie hier und da vielleicht den Menschen ersetzen könnte, aber oder auch den Menschen eben unterstützt. Ich glaube, es ist wichtig, dass wir als Menschen untereinander uns weiterhin im Fokus behalten.

SPEAKER_01 48:34

Schön. Das lassen wir genauso stehen. Vielen Dank, lieber Philipp, für das tolle Gespräch. Und ich freue mich auf ein Wiedersehen.

SPEAKER_02 48:41

Es hat mir sehr viel Spaß gemacht. Danke für die Einladung. Und ja, genau, vielleicht sehen wir uns dann wieder.