Folge 108, Helga Boss über KI-Agenten

Agenten. Was sie können, was nicht.

Alles ist plötzlich ein Agent. Der Chatbot, die Automatisierung, das E-Mail-Tool. Gartner hat dafür sogar einen Begriff geprägt: Agent Washing. In dieser Folge räume ich auf: Was ist wirklich ein KI-Agent, was können Agenten heute schon richtig gut, und wo scheitern sie, und zwar messbar.

Du erfährst in dieser Folge:

• Die kürzeste Definition, die du brauchst: Ein Agent bekommt ein Ziel, kein Kommando
• Die drei Stufen Chatbot, Automatisierung, Agent und woran du echte Agenten erkennst
• Wo Agenten heute glänzen: Programmieren, Recherche, Kundenservice
• Vier Anwendungsfälle, die ohne Millionenbudget funktionieren: Terminvereinbarung, Rechnungsprüfung, Wissensarbeit im Kundenservice, Lernstrecken in der Lehrlingsausbildung
• Warum 95 Prozent der KI-Pilotprojekte die Erwartungen verfehlen und was die Mathematik der verketteten Schritte damit zu tun hat
• Die vier Fragen, mit denen du jedes Agenten-Angebot in zwei Minuten einordnen kannst

Mein Merksatz aus der Folge: Die Frage ist nicht, ob du einen Agenten brauchst. Die Frage ist, ob dein Prozess schon so gut ist, dass ihn ein Agent übernehmen kann. Erst der Prozess, dann die KI.

Quellen zur Folge:

MIT Project NANDA (2025): The GenAI Divide. State of AI in Business 2025 https://mlq.ai/media/quarterly_decks/v0.1_State_of_AI_in_Business_2025_Report.pdf

Gartner (Juni 2025): Prognose zu Agentic-AI-Projektabbrüchen bis 2027 und Begriff Agent Washing https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027

Camunda (Jänner 2026): State of Agentic Orchestration and Automation 2026 https://camunda.com/state-of-agentic-orchestration-and-automation/

Forrester Consulting im Auftrag von Boomi (Juli 2026): The Agentic AI Readiness Gap https://boomi.com/de/resources/resources-library/agentic-chaos-forrester-study/

Fraunhofer IAIS / HNFIZ (2026): KI-Agenten verstehen und anwenden, Konzept Agentic Level https://www.iais.fraunhofer.de/de/publikationen/studien/2026/download_hnfiz-studie_ki-agenten.html

Prodigal Tech: Why most AI agents fail in production. The compounding error problem https://www.prodigaltech.com/blog/why-most-ai-agents-fail-in-production

Du willst wissen, wo dein Unternehmen steht? Alle Infos zur Standortanalyse findest du auf www.helgaboss.com

Transcript

Warum Gerade Alle Von Agenten Reden

SPEAKER_00 0:01

Wie KI-Worte wirken. Das ist ein Podcast für effiziente Arbeit und moderne Kommunikation im Zeitalter der künstlichen Intelligenz.

SPEAKER_01 0:12

Es gibt gerade ein Wort, das verkauft sie einfach besser als jedes andere in der KI-Welt. Agent. Alles ist plötzlich ein Agent. Der Chatbot auf der Website, ein Agent. Die Automatisierung, die deine Rechnungen ablegt, ein Agent. Oder das Tool, das dir E-Mails vorformuliert, natürlich auch. Und weil dieser Podcast ja wie KI-Worte wirken heißt, schauen wir uns heute ganz genau dieses Wort an. Denn dahinter steckt ein Phänomen, für das es sogar schon einen Fachbegriff gibt.

Agent Washing Und Was Dahintersteckt

SPEAKER_01 0:54

Agent Washing. Diesen Begriff hat das Marktforschungsunternehmen Gartner geprägt. Gemeint ist, Chatbots und ganz normale Automatisierung werden als Agenten umetikettiert, weil sich das Wort einfach besser verkauft. Heute schauen wir uns einmal an. Was ist wirklich ein Agent und was können die denn heute tatsächlich gut? Und wo scheitern die und zwar messbar? Und am Ende gibt es nur eine Checkliste mit vier Fragen, mit der du jedes Agent-Angebot in zwei Minuten einordnen kannst. Heute Mikrofon Helga Boss und ich freue mich auf diese Folge mit euch.

Chatbot Automatisierung Agent Im Vergleich

SPEAKER_01 1:36

Was ist denn ein Agent und was ist keiner? Die kürzeste Definition, die ich aktuell kenne, ist folgende. Ein Agent bekommt ein Ziel und kein Kommando. Was heißt es? Stell dir mal drei Stufen vor. Stufe 1 ist der Chatbot. Der antwortet, wenn du fragst. Du stellst eine Frage, bekommst eine Antwort, fertig. Die Stufe 2 ist dann die Automatisierung. Ja, da wird dann eine Wenn-Dann-Regel ausgeführt. Wenn eine Rechnung per Mail kommt, dann leg sie bitte in diesem Ordner ab. Verlässlich und sturm. Denkt nicht, führt aus. Wenn dann. Die Stufe 3, das ist dann der Agent. Der bekommt ein Ziel. Das kann sein, sorge dafür, dass unser Lager nie leer läuft. Und dann plant der Agent die Schritte dorthin. Der schaut in die Warnwirtschaft, vergleicht Lieferanten, merkt, dass ein Lieferant Lieferschwierigkeiten hat, weicht auf den zweiten Lieferanten aus und legt ihr am Ende einen Bestellvorschlag zur Freigabe hin.

Fünf Merkmale Eines Echten Agenten

SPEAKER_01 2:50

Was sind jetzt die fünf Merkmale von einem echten Agenten? Erstens, er bekommt ein Ziel. Zweitens, er plant selbstständig. Drittens, er nutzt Werkzeuge, also Datenbanken, E-Mails und andere Programme. Viertens, er prüft sein Zwischenergebnis und korrigiert sich. Und sechstens, der Agent entscheidet selbst, wann er fertig ist oder wann er lieber einen Menschen fragt. Der Punkt, der alles verändert. Eine Automatisierung automatisiert einen Schritt. Ein Agent automatisiert Entscheidungen. Und genau da ist diese Frage, würdest einem System Entscheidungen überlassen? Das ist keine Technikfrage, das ist ein Prozess, das ist eine Frage, wie du mit diesen Dingen umgehst. Und das kennen wir ja schon. Ein Mensch, der einen chaotischen Prozess übernimmt, der fragt nach. Wenn der Agent aber so einen chaotischen Prozess bekommt, der fragt er nicht nach, der entscheidet auf Basis von dem, was da ist. Und wenn die Grundlage Chaos ist oder vielleicht nicht ganz so gute Kundendaten, dann entscheidet er auch auf Basis dieses Chaos. Das Fraunhofer-Institut hat 2026 eine Studie veröffentlicht und da ein Stufenmodell eingeführt, das sogenannte Agentic Level. Damit kann man bewerten, ob ein System überhaupt als Agent gilt und welche Risiken damit verbunden sind. Und wie wir schon vorher gesagt haben, der Agent bekommt ein Ziel und kein Kommando. Und ja, echte Agenten gibt es. Und in manchen Bereichen sind die richtig, richtig gut. Da gibt es Muster, wo die glänzen und wenn man das Muster selber versteht, kann man einschätzen, was bei einem selber auch funktionieren würde.

Wo Agenten Heute Wirklich Glänzen

SPEAKER_01 4:46

Welches Muster sehen wir da? Erstens, die Aufgabe ist klar umrissen. Man muss einfach wissen, welche Aufgabe ich dem Agenten gebe. Zweitens, ich kann das Ergebnis überprüfen und zwar sofort. Und drittens, und das ist schon recht wichtig, der Schaden, falls ein Fehler auftritt, der ist begrenzt, beziehungsweise es gibt Menschen, die immer vor dem letzten Schritt drüber trauen und auch sehen, ob das ein Fehler ist oder nicht oder ob das richtig ist oder nicht. Das aktuelle Paradebeispiel ist ja das Programmieren. Wenn wir jetzt Claude Code oder Codex von ChatGPT anschauen, dann sind es sogenannte Coding-Agenten. Und denen gibt ja Aufgabe. Zum Beispiel ein Fehlerbeheben in einem Programmiercode. Und dann liest der Agent den Code und plant die Änderung, der schreibt sie, der lässt einen Test laufen. Wenn der Test fehlschlägt, korrigiert sich die KI und dann liefert sie wieder ab. Und warum funktioniert das so gut? Der Code ist sofort überprüfbar und entweder der Test läuft oder der Test läuft nicht. Das zweite Beispiel sind diese Rechercheaufgaben. Die kennen wir ja mittlerweile alle, die Deep Research-Funktionen, die großen KI-Anbieter haben das und das sind echte Agenten. Ich gebe eine Frage ein und die KI plant dann die Recherche, durchsucht die Dutzenden und Hunderten Quellen, checkt, wo sich die Quellen widersprechen, sucht dann gezielt nach und baut mir dann einen riesigen Bericht. Und das sind Minuten, teilweise sogar 45 Minuten selbstständige Arbeit, ohne dass du irgendwas dran machst. Das dritte Beispiel ist Kundenservice. Da können die das auch schon recht gut, diese Agenten. Diese modernen Service-Agenten beantworten nicht nur Fragen, teilweise lösen sie richtige Fälle. Also sie können Bestellungen nachschauen, sie können Retouren anlegen, sie können Rückerstattungen anstoßen. Und das ist der entscheidende Teil. Sie eskalieren an Menschen, wenn sie unsicher sind. Also ein guter Agent kennt seine Grenzen und sagt nachher, okay, jetzt braucht es an Menschen. Ein schlechter Agent kennt ihr nicht und nachher habt ihr die Fehler im Außen bei euren Kunden. Was sind denn so die Anwendungsfälle, die funktionieren, also für ein normales Unternehmen ohne Millionenbudget. Schauen wir mal an, was heute schon realistisch funktioniert. Und die Anwendungsfälle, die wir gleich sehen, die folgen dem Muster, das ich gerade beschrieben habe. Diese klar umrissene Aufgabe, das überprüfbare Ergebnis und der Mensch im letzten Schritt. Erstes Beispiel ist die Terminvereinbarung. Das heißt, ein Agent liest eingehende Anfragen, schaut dann in den Kalender, schlagt die freien Slots vor und bucht nach einer Bestätigung. Klarer Rahmen und der kleine Schaden, wenn was schief geht, nämlich maximal ein verschobener Termin. Zweitens ist die Rechnungsprüfung. Da werden die schon richtig gut. Der Agent vergleicht die Eingangsrechnung mit der Bestellung und du bekommst eigentlich nur die Abweichungen. Das heißt, der Agent entscheidet nicht über die Zahlungen, aber er sortiert vor. Also diese 90% der Routine übernimmt er und die 10% der Ausnahmen, die kriegst du halt am Tisch. Das dritte Beispiel ist die Wissensarbeit im Kundenservice. Der Agent zieht zu jeder Anfrage die Historie, die Bestelldaten und die passenden Wissensartikel zusammen und dann kriegt die Mitarbeiterin oder der Mitarbeiter einen fertigen Antwortentwurf. Die Entscheidung bleibt beim Menschen, aber diese Vorarbeit mit dem Recherchieren, die schrumpft einfach von 10 Minuten auf 30 Sekunden und funktioniert sensationell. Ich habe das zum Beispiel ganz oft, wenn ich mit dem Co-Piloten arbeite und ich habe einen Termin, dann kann ich sagen, hey, bereite mir den Termin vor und ich sehe dann alle Informationen aus meinem System zu dem kommenden Termin. Das ist ein wunderbarer Anwendungsfall. Und das vierte Beispiel ist eines, das habe ich aus einer KI-Werkstatt mitgenommen, Lernstrecken in der Lehrlingsausbildung. Also das System beobachtet dann den Lernfortschritt, entscheidet, welcher Inhalt als nächstes kommt, was man vielleicht noch nicht so gut kann, wird wieder vorgelegt, das Tempo wird angepasst. Also das agentische Verhalten ist mehrstufig, zielorientiert und auch selbst korrigierend. Aber, und das ist mir persönlich wieder wichtig, die Lernziele, die Inhalte und die Qualitätskriterien, die kommen vom Menschen. Der Agent steuert den Weg und nicht das Ziel. Und was uns jetzt in diesen vier Fällen schon auffallen darf, ist, keiner der Agenten ersetzt einen Menschen. Er räumt uns vielleicht den Weg frei, er macht Vorbereitungen anders anders. And so good, these agenten, die wir jetzt besprochen haben. Wo sind denn diese Anwendungsfälle, die vielleicht schwierig wird? And that are the dinge that vergess man oft, wenn man sagt, ist so lässig, da ist so ein KI-Tool, das sollte man unbedingt haben.

Warum So Viele Agentenprojekte Scheitern

SPEAKER_01 10:12

Aber schauen wir uns das einmal an. Die erste Zahl: 95%. Das MIT hat 2025 untersucht, was denn aus diesen KI-Pilotprojekten in den Unternehmen passiert ist. Also die haben 150 Interviews gemacht, 350 mitarbeitenden Befragungen, 300 Projekte analysiert. And das war so spannend. 95% dieser Pilotprojekte haben nicht die erwarteten Ergebnisse gebracht. 95%. Also umgedreht nur 5% der umgesetzten KI-Projekte sind wirklich effizient und erfolgreich umgesetzt worden. Und dann haben wir den zweiten Punkt, 71 zu 11. Also es gibt den Community Report von 2026, und der besagt, 71% der Unternehmen setzen KI-Agenten ein, aber tatsächlich erreichen nur 11% Produktionsreife. Das heißt, ganz viel dann noch pilotieren, experimentieren und nachher verläuft es wieder im Sand. Und da sind wir wieder bei diesem Begriff Agent Washing. And Gartner, die den ja geprägt haben, prognostizieren, dass 40% dieser Agentenprojekte bis Ende 27 abgebrochen werden. Weil wahrscheinlich die Kosten so steigen, weil vielleicht aber der Nutzen unklar ist und vor allem weil die Risikokontrolle fehlt. And last but not least, warum wird das so sein? Wir werden in der Regel zu 95% zuverlässige Agenten haben. Klingt jetzt einmal nicht so schlecht. Aber wenn wir zum Beispiel fünf Schritte haben bei diesen Agenten, dann sinkt die Gesamterfolgsquote auf 77%. Wenn jetzt 20 Schritte verkettet sind, dann sind wir bei rund einem Drittel. Das heißt, jeder Schritt, den die Agenten machen, multipliziert das Risiko und es senkt die Wahrscheinlichkeit, dass das Ergebnis korrekt ist. Die Demos laufen super, die haben vielleicht drei bis fünf Schritte und so schön weiter gefahrt. Aber in der Realität, wo die Prozesse mehr Schritte haben, wo es Ausnahmen gibt, wo es Sonderfälle gibt und vielleicht aber auch Daten, die von einer Qualität her nicht passen, da stimmt dann einfach der Output nicht. Und da sind wir jetzt schon wieder beim zweiten Thema. Das hat die Forrester-Studie herausgefunden. 86% der Unternehmen haben vielleicht schon einen KI-Agenten eingeführt, aber nur 34% vertrauen ihnen. Und das ist dieses Agenten-Chaos. Viele Agenten, wenig Vertrauen, keine Integration und vor allem auch kein Commitment zu den Agenten. Das Problem sind nicht die Modelle, das Problem ist nicht die Technik. Aber die Agenten sind nicht sauber mit Systemen und Prozessen verbunden. Und das haben wir wieder immer bei dem, was wir eh schon so oft sagen, ein chaotischer Prozess wird mit einem Agenten nur schneller chaotisch. Aber chaotische Prozesse automatisieren Chaos. Also wenn wir uns das nun mal zusammengefasst anschauen, ja, die Agenten sind real und keine Zukunftsmusik. Und bei klar umrissenen Aufgaben mit überprüfbarem Ergebnis sind die heute schon mega stark. Beim Programmieren, bei der Recherche, Vorsortieren, Terminorganisationen, Lernbegleitung, so diese Standards, wo aber auch nicht viel passieren kann, wenn jetzt mal was schief läuft und das halt einfach geht. Aber bei allem, wo wir vielleicht mehr Schritte haben, wo es ein bisschen komplexer wird, wo wir aber schlechte Datenbasen haben und echte Verantwortung notwendig ist, da sind die Agenten noch nicht das Gelbe von Ei. Und wenn wir wirklich seriös darüber sprechen, dann laufen diese Agenten momentan noch nicht wirklich gut. Und die Unternehmen kommen, und das sehen wir in den Studien, außen pilotieren, nicht raus. Also echte Agenten haben wir, aber die Seriösen laufen an alleine und nicht selbstständig.

Vier Fragen Für Deine Agenten-Checkliste

SPEAKER_01 14:34

Und bevor ihr bei euch im Unternehmen und im Arbeitsablauf über Agenten nachdenkt, stattzeichen einmal vier Fragen. Erstens ist der Prozess dokumentiert, weil wenn du den nicht aufschreiben kannst, dann kann den auch kein Agent übernehmen. Also wenn ich den Prozess nicht in zehn Minuten meinen Mitarbeitenden erklären kann, dann kann ich es auch keinem Agent übergeben. Zweitens, gibt es Entscheidungsregeln. Ein Agent, der braucht Kriterien, der hat kein Bauchgefühl, der hat keine Erfahrung, der braucht klare Entscheidungsregeln und über die müsst ihr euch im Klaren sein. Drittens stimmen die Daten, Shit in, Shit out. Ein Agent auf schlechten Daten ist einfach der Turbo-Boost in Richtung Fehler. And viertens ist es klar, wer die Verantwortung trägt. Wer verantwortet das Ergebnis des Agents bzw. kontrolliert das, ist das richtig oder nicht? This braucht einen Menschen. And du einen Agenten brauchst. It is the frame, ob dein Prozess schon so gut ist, dass ein Agent übernehmen kann. Den Agenten kannst du auch erst erstellen, wenn du den Prozess hast. And in diesem Sinne wünsche ich dir wieder ganz viel Freude and Spaß mit dieser Folge und mit dem Überlegen, wo deine Aufgaben und Prozesse sind, die du vielleicht schon einem Agenten übergeben kannst. Bis zum nächsten Mal!

SPEAKER_00 16:07

Wie KI-Worte wirken, der Podcast für effiziente Arbeit und moderne Kommunikation im Zeitalter der künstlichen Intelligenz. Als Gastgeberinnen sind Helga Boss und Heidi Winsauer verantwortlich. Weitere Informationen findest du auf unserer Webseite kIwarte.com.