Wenn der Agent der Firma gehoert

Wenn der Agent der Firma gehoert. ⏰ Timestamps: 0:00 — Der Firmenagent ist nicht böse, er optimiert nur das Ziel der Firma und also... 0:32 — Weise, wie wir unsere Arbeit erledigen? 1:08 — Der KI-Agent lernt ja nicht durch starre Programmierung, sondern durch bloße... 1:40 — und diese wirklich sinnlose Copy-Paste-Arbeit effektiv eliminiert. 2:16 — optimiert der Agent am Ende doch nur so eine sterile... 2:36 — und diese absurde manuelle Bürokratie endlich zu reparieren. 3:10 — Schauen wir doch mal auf das Narrativ der Digital Labour, das Microsoft... 3:31 — naja manuelles Abtippen kompensieren müssen. 3:55 — nur weil wir uns vor dem Werkzeug fürchten? 4:24 — Die KI speichert nicht einfach ein Video deines Bildschelbs ab. 4:54 — Okay. Und Mitarbeiter B weicht davon ab, scrollt länger und holt sich noch... 5:27 — eine absolute Illusion. 6:00 — Rodaten dürfen nur extrem kurz im Speicher bleiben. 6:34 — Nehmen wir an, deine Leitplanken funktionieren und die Mitarbeiter sind... 6:56 — Es ist also, als würdest du einem externen Dienstleister das einzige... 7:19 — Verlässt du die Plattform, verlierst du dein gesamtes digitalisiertes... 7:46 — Richtig. Es zwingt uns dazu, extrem kritisch zu hinterfragen, 8:07 — Wenn der Agent die echte Arbeitsweise deiner Firma bis ins kleinste Detail... 💡 3 Empfehlungen: 1. Frag vor dem Rollout: Wem gehoeren Kriterien, Workflow-Daten und Prozessgedaechtnis? 2. Trenne Training und Bewertung: keine Leistungsbewertung aus Assistenzdaten. 3. Verlange Exit: Export, Loeschrecht, Auditlog und Betriebsrat-Veto vor dem ersten Klick. 📖 Quellen: • [1] https://www.theverge.com/tech/916681/meta-ai-agents-employee-tracking • [2] https://www.businessinsider.com/meta-new-ai-tool-tracks-staff-activity-sparks-concern-2026-4 • [3] https://assets-c4akfrf5b4d3f4b7.z01.azurefd.net/assets/2025/04/2025-wti-one-pager-042325-rw_68094b4da3c89.pdf • [4] https://developers.openai.com/api/docs/guides/agents • [5] https://www.anthropic.com/news/model-context-protocol • [6] https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3 • [7] https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai 🎙️ KI Espresso — Jeden Tag eine neue KI-Debatte in sechs Minuten. 🎧 Podcast hören: • Apple Podcasts: https://podcasts.apple.com/podcast/id1885621764 • Alle Plattformen: https://www.buzzsprout.com/2603567 𝕏 @KIEspresso #Openai #Anthropic #Meta

Transcript

SPEAKER_02 0:00

Der Firmenagent ist nicht böse. Er optimiert nur das Ziel der Firma. Und also genau deshalb muss Enterprise-KI echte Workflow-Daten sehen. Genau, deshalb ist das kein Silicon Valley-Thema. Also für Deutschland, die Schweiz, Österreich, ja, letztlich für ganz Europa ist dieser Einsatz von Firmenagenten halt eine fundamentale Frage der Arbeitssouveränität. Ja, absolut. Ich meine, es ist doch die simple Frage, wer hat eigentlich die Kontrolle über die Art und Weise, wie wir unsere Arbeit erledigen? Die zentrale Streitfrage, vor der wir da stehen, lautet einfach, wer besitzt die Kriterien, die Workflow-Daten und am Ende das gelernte Betriebshandbuch.

SPEAKER_01 0:42

Richtig, weil wir sprechen hier ja über Softwaresysteme, die quasi permanent im Hintergrund laufen und buchstäblich jeden Mausklick, jede Tastatureingabe aufzeichnen. Jede kleine Entscheidung.

SPEAKER_02 1:01

Ja, aber genau da müssen wir doch ansetzen. Der Mechanismus dahinter ist einfach, naja, bahnbrechend. Der KI-Agent lernt ja nicht durch starre Programmierung, sondern durch bloße Beobachtung. Weißt du, wenn das System sieht, dass ein Mitarbeiter jeden Tag 50 Mal Daten aus einem uralten SAP-System kopiert und in eine Excel-Tabelle einfügt.

SPEAKER_01 1:22

Was in deutschen Büros ja oft genug passiert.

SPEAKER_02 1:25

Was ständig passiert. Dann erkennt die KI dieses Muster und baut vollautomatisch eine Brücke zwischen diesen Programmen. Also, so werden diese ganzen kaputten Prozesse, diese starre Bürokratie und diese wirklich sinnlose Copy-Paste-Arbeit effektiv eliminiert.

SPEAKER_01 1:44

Naja, aber.

SPEAKER_02 1:45

Lass mich kurz, ich warne da wirklich eindringlich davor, diese Werkzeuge jetzt aus einem rein europäischen Reflex heraus direkt wieder zu blockieren.

SPEAKER_01 1:52

Ein Reflex ist das aber nicht. Das ist eine berechtigte Sorge. Diese reine Effizienzprämisse.

SPEAKER_02 1:57

Fix, Tappwechsel, diese zahllosen informellen Freigaben, die wir jeden Tag machen.

SPEAKER_00 2:03

Ja. Moment, aber damit er echte Arbeit versteht, muss er echte Arbeit sehen. Und genau da beginnt nämlich schon die Machtverschiebung.

SPEAKER_02 2:11

Naja, aber wenn wir der KI diese Rohdaten verweigern, optimiert der Agent am Ende doch nur so eine sterile PowerPoint-Fantasie-Version davon, wie Prozesse im Unternehmen angeblich laufen. Reale Arbeit ist halt messy. Absolut. Sie ist voller Workarounds, weil die interne Software ständig hakt. Workflow-Lernen ist der absolut einzige Weg, um diese dysfunktionalen Systeme und diese absurde manuelle Bürokratie endlich zu reparieren.

SPEAKER_01 2:39

Ich verstehe den Reiz, klar. Aber die Gefahr ist ja nicht dieser eine isolierte, gespeicherte Klick. Die Gefahr entsteht doch wenn, wenn Millionen solcher Klicks plötzlich als Benchmark definieren, was als normales Arbeiten gilt. Aber das ist doch ein ganz anderer Use Case. Aus einem harmlosen KI-Training für einen Assistenten wird so schleichend ein Performance Review. Und das mündet am Ende in knallharten Personalentscheidungen.

SPEAKER_02 3:07

Du tust da gerade so, als wäre das primäre Ziel eine automatische Mitarbeiterüberwachung. Schauen wir doch mal auf das Narrativ der Digital Labor, das Microsoft gerade massiv vorantreibt.

SPEAKER_01 3:19

Okay.

SPEAKER_02 3:19

Da geht es im Kern darum, Menschen von monotonen Brückenarbeiten zu befreien. Also genau die Momente, in denen wir den fehlenden API-Zugang zwischen zwei Programmen durch manuelles Abtippen kompensieren müssen. Das ist die Marketingperspektive, ja. Nimm stark regulierte Branchen. Krankenhäuser, Logistik. Ein Agent, der den echten Workflow kennt, kann Medikationspfade oder Supply Chain-Checks massiv beschleunigen. Sollen wir aus einem reflexhaften Datenschutz heraus Menschen dazu zwingen, ewig in fehleranfälligen Systemen festzusitzen, nur weil wir uns vor dem Werkzeug fürchten?

SPEAKER_01 3:57

Also niemand fürchtet sich vor dem Werkzeug an sich, sondern vor der Architektur dahinter. Schau dir Metas aktuelle Model-Capability-Initiative an. Mhm, das US-Programm? Genau. Da werden auf den Laptops von US-Mitarbeitern Mausbewegungen und Screenshots aufgezeichnet, um KI-Modelle zu trainieren. Offiziell heißt es natürlich nicht für die Leistungsbewertung.

SPEAKER_02 4:20

Richtig.

SPEAKER_01 4:20

Aber technisch passiert da etwas viel Tiefgreifenderes. Die KI speichert nicht einfach ein Video deines Bildschirms ab. Sie übersetzt deine spezifische Arbeitsweise in mathematische Muster, sogenannte Embeddings. Lass uns das kurz greifbar machen.

SPEAKER_02 4:35

Diese Embeddings verknüpfen einzelne Aktionen in einen Kontext.

SPEAKER_01 4:40

Stimmt das so? Exakt. Die KI weiß dann nicht nur, dass du Excel geöffnet hast, sondern sie erkennt ein ganzes Verhaltenscluster. Sie sieht also, Mitarbeiter A braucht für diesen Prozess drei Klicks und fünf Sekunden. Okay. Und Mitarbeiter B weicht davon ab, scrollt länger und holt sich noch Infos aus einem anderen Tab. Plötzlich hast du messbare Prozesscluster. Wenn das Management ein halbes Jahr später fragt, welches Team vom KI-Normal abweicht, liefert das System die fertige Antwort. Das initiale Training war nur der erste Schritt zur Kontrolle. Der EUAI-Act stuft in Annex 3 Arbeitskontexte völlig zu Recht als Hochrisiko ein. Die angebliche Zustimmung der Mitarbeiter zur Datenfreigabe ist in der Praxis doch eine absolute Illusion. Warum eine Illusion? Weil dein Gehalt, deine Karriere, das Vertrauen deines Managers, das hängt alles im selben Machtgefüge. Da sagst du nicht einfach nein.

SPEAKER_02 5:37

Ja, aber das Problem bei dieser Argumentation ist, dass du ein technologisches Potenzial unweigerlich mit dystopischem Management gleichsetzt. Die Antwort auf dieses Risiko von abgeleiteten Daten darf doch nicht technologische Blockade sein. Sondern Die Antwort ist robuste Governance. Wir müssen das System technisch und organisatorisch richtig bauen. Das bedeutet eine absolute kryptografisch gesicherte Trennung von Training und Leistungsbewertung. Rohdaten dürfen nur extrem kurz im Speicher bleiben. Und diese abgeleiteten Prozesscluster, von denen du da sprichst, müssen nach dem Modelltraining gelöscht oder streng auditiert werden. Ein Betriebsrat muss ein hartes Vetorecht haben, bevor überhaupt der erste Klick gesammelt wird. Mit diesen Leitplanken überwickt der Nutzen die Risiken einfach enorm.

SPEAKER_01 6:24

Selbst bei perfekter Governance übersiehst du da das viel größere strategische Risiko, nämlich den Vendorlogin. Inwiefern? Nehmen wir an, deine Leitplanken funktionieren und die Mitarbeiter sind geschützt. Der Drittanbieter lernt nun jeden Workaround, jeden informellen Prozess, jede spezifische Eigenheit deines Unternehmens. Das System baut ein perfektes Prozessgedächtnis auf. Und das ist doch exakt das, was wir wollen. Eine KI, die das Unternehmen wirklich versteht. Ja, aber dieses Verständnis liegt beim Anbieter. Es ist also, als würdest du einem externen Dienstleister das einzige Exemplar der DNA deiner Firma übergeben. Wenn der Anbieter die Preise verzehnfacht oder die strategische Richtung ändert, kannst du nicht mehr wechseln. Naja, es gibt ja. Der Agent ist dann kein Tool mehr, er ist zur unverzichtbaren Infrastruktur geworden. Verlässt du die Plattform, verlierst du dein gesamtes digitalisiertes Prozesswissen. Schlimmer noch, deine Mitarbeiter sind dann an ein Normal gekettet, das von einer externen Firma definiert und kontrolliert wird.

SPEAKER_02 7:30

Technische Souveränität, also die Möglichkeit, Modelle lokal laufen zu lassen oder Trainingsdaten zu exportieren, das ist architektonisch lösbar. Aber lass uns den Bogen zurück zu unserem Ausgangspunkt spannen. Der Firmenagent optimiert nur das Ziel der Firma. Richtig. Es zwingt uns dazu, extrem kritisch zu hinterfragen, was passiert, wenn er dieses Ziel wirklich erreicht. Repariert er den zugrunde liegenden, fehlerhaften Prozess oder zwingt er die Menschen schleichend dazu, sich der Maschine und ihrer starren Definition von Normalität anzupassen?

SPEAKER_01 8:04

Und genau an diesem Punkt entscheidet sich die Zukunft unserer Arbeitswelt. Wenn der Agent die echte Arbeitsweise deiner Firma bis ins kleinste Detail lernt, bleibt am Ende nur eine einzige entscheidende Frage: Wem gehört dieses gelernte Betriebshandbuch?

SPEAKER_02 8:19

Wenn euch diese Debatte zum Nachdenken gebracht hat, abonniert KI-Espresso. Jeden Tag eine neue KI-Debatte in sechs Minuten.

SPEAKER_01 8:27

Das war KI Espresso.