Wissen Ihre Mitarbeitenden, dass sie mit KI-Agenten zusammenarbeiten?
Bewusstseinslücke: Viele Mitarbeitende wissen nicht, dass KI-Agenten in ihrem Arbeitsumfeld tätig sind, was zu Misstrauen und Verwirrung führt.
Bedeutung von Transparenz: Governance-Rahmen gehen von menschlicher Überwachung aus, aber fehlendes Mitarbeiterbewusstsein gefährdet die Verantwortbarkeit.
Vertrauensverlust: Viele Beschäftigte empfinden KI-Systeme als unzuverlässig, da 62 % Bedenken bezüglich der Vertrauenswürdigkeit von KI-Agenten äußern.
Mitarbeiterbeteiligung: Offenlegung ist entscheidend; Mitarbeitende müssen die Rolle der KI verstehen, um Systeme effektiv zu überwachen und zu steuern.
Schulungsdefizit: Nur 38 % der Unternehmen bieten Schulungen zu KI-Tools an, was das Gefühl der Überflüssigkeit bei Mitarbeitenden verstärkt.
Die meisten Mitarbeitenden wissen nicht, neben wem sie eigentlich arbeiten.
Agentische KI hat die Pilotphase längst hinter sich gelassen und routet nun Kundenserviceanfragen, markiert Performance-Ausreißer, plant Vorstellungsgespräche und fasst Meetings zusammen – bevor jemand überhaupt ausgeloggt hat.
In einer wachsenden Zahl von Organisationen formuliert sie Antworten und trifft eigenständig Entscheidungen mit geringem Risiko für Mitarbeitende, denen nicht einmal mitgeteilt wurde, was passiert.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Der Einsatz ist der Offenlegung vorausgeeilt. Laut einer im April veröffentlichten Umfrage der Cloud Security Alliance haben 82 % der Unternehmen im vergangenen Jahr bislang unbekannte KI-Agenten in ihren IT-Umgebungen entdeckt – viele davon mehrfach. Das ist ein Problem der IT-Übersichtlichkeit. Das mangelnde Bewusstsein auf Mitarbeitendenebene sitzt noch tiefer.
Laut der globalen Workday-Studie 2025, für die fast 3.000 Entscheider:innen aus Nordamerika, APAC und EMEA befragt wurden, fühlen sich nur 24 % der Mitarbeitenden wohl dabei, wenn KI-Agenten im Hintergrund ohne ihr Wissen arbeiten.
Von einem Randthema kann keine Rede sein, wenn drei von vier Beschäftigten klare Grenzen ziehen – und das meist, ohne genau zu wissen, wo diese Grenze im eigenen Arbeitsumfeld tatsächlich verläuft.
Transparenz und geteilte Grundannahmen
Das ethische Argument für mehr Transparenz ist eindeutig: Beschäftigte haben ein legitimes Interesse daran zu verstehen, welche Systeme ihre Aufgabenverteilung, Arbeitsbelastung und im Zweifel auch die Leistungsbewertung beeinflussen. Aber das operationelle Argument ist für die Entscheider:innen womöglich noch überzeugender.
Governance-Rahmenwerke – darunter das AI Risk Management Framework der NIST, Transparenzpflichten nach EU KI-Verordnung und zahlreiche KI-Richtlinien in Unternehmen der letzten zwei Jahre – gehen von einer gemeinsamen Grundannahme aus: Der Mensch bleibt im Prozess eingebunden.
Nicht nur Führungskräfte oder Compliance-Teams, sondern diejenigen, die die Arbeit tatsächlich ausführen. Menschliche Aufsicht stellt sicher, dass Fehler eines Agenten — seien es Fehlentscheidungen, Falschergebnisse oder wenn er vom Sollverhalten abweicht — erkannt werden. Und der Mensch, der das meistens bemerkt, steht an der Front, nah genug am Geschehen, um zu erkennen, wenn etwas aus dem Ruder läuft.
Wenn Beschäftigte nicht wissen, dass ein Agent handelt, entfällt diese Kontrolle strukturell. Die Architektur der Verantwortlichkeit basiert auf einem Bewusstsein, das in solchen Fällen fehlt.
Was passiert, wenn sie davon erfahren?
Der Vertrauensbruch, wenn er auftritt, ist meist persönlich. Rund acht Monate vor dem Gespräch mit People Managing People hat Mike Rolfe, VP of Product bei Outbuild – einer Plattform für Terminplanung im Bauwesen – ein agentisches System im Customer Success eingeführt, das eigenständig die Kontogesundheit überwacht, im Namen der CSMs Termine vereinbart und ohne Auslöser Erneuerungsrisikoberichte erstellt.
Das Führungsteam war informiert, aber das restliche Customer-Service-Team nicht – unter anderem deshalb, weil intern weiterhin von "Automatisierung" statt von dem gesprochen wurde, was es tatsächlich war.
Ein CSM ging in einen Kundentermin und der Kunde erwähnte ein Meeting, das bereits vereinbart worden war, welches der CSM jedoch nie angesetzt hatte.
Der Vertrauensschaden im Team brauchte Wochen zur Heilung. Seine heutige Regel ist: Sobald ein KI-System eine Aktion ausführt, die von jemand anderem gesehen wird, muss die Person, deren Name mit der Aktion verbunden ist, vorher Bescheid wissen.
Sein Team verzichtet mittlerweile komplett auf das Wort „Automatisierung“ und nutzt stattdessen konkrete Beschreibungen. Zum Beispiel: „Das System wird in deinem Namen Meetings vereinbaren und den Kunden informieren“.
Gerade in der Baukultur stiftet vage Technik-Sprache keine informierte Einwilligung, sondern den Nährboden für genau jene Überraschungsmomente, wie sie sein CSM erlebt hat.
Verantwortung bleibt menschlich
Steven Betito, COO und Datenschutzbeauftragter bei Elestio, hat dies ebenfalls aus erster Hand erlebt.
Als sein Team agentenbasierte KI in die täglichen Abläufe integrierte, wurde Offenlegung von Anfang an eingebaut. Jeder Agent hatte eine dokumentierte Rolle und wurde dem Team ausdrücklich als KI vorgestellt, sodass niemand je unsicher war, womit er es zu tun hatte. Was sie jedoch nicht früh genug etablierten, war eine klare Eskalationsstruktur.
In den ersten Monaten haben wir keine Eskalationswege formalisiert. Ein menschliches Teammitglied schrieb einem Agenten eine mehrdeutige Anfrage per E-Mail, der Agent interpretierte sie bestmöglich und das Ergebnis landete manchmal ohne klare menschliche Überprüfung in der Produktion.
Die Lösung war einfach, als das Problem erkannt wurde. Jede Agentenhandlung über einem definierten Schwellenwert benötigt nun einen benannten menschlichen Genehmiger – aber die Lektion bleibt: Transparenz darüber, was ein Agent ist, erzeugt nicht automatisch Verantwortlichkeit für das, was er tut. Das sind getrennte Probleme, die getrennte Lösungen brauchen.
Vertrauen ist nirgends zu finden
Asanas Bericht „Globaler Stand der KI am Arbeitsplatz 2025“, für den mehr als 2.000 Wissensarbeiter in den USA und Großbritannien befragt wurden, ergab, dass 62 % KI-Agenten als unzuverlässig ansehen.
Viel aussagekräftiger ist, was hinter dieser Zahl steckt: 82 % der Beschäftigten sagen, dass eine angemessene Schulung entscheidend für den effektiven Einsatz von KI-Agenten ist, doch nur 38 % der Unternehmen haben diese bereitgestellt.
Das Problem besteht nicht so sehr darin, dass Angestellte KI-Agenten ablehnen, sondern sie navigieren zwischen dem, was sie erhalten haben und dem, was sie gelernt haben – und fühlen sich in Zeiten beschleunigter Einführung zunehmend weniger relevant.
Wenn Mitarbeitende durch einen Kollegen, eine Prozessänderung oder durch ein Ergebnis, das sie nicht erklären können, erfahren, dass KI-Systeme in ihren Workflows laufen, ist die Reaktion meist keine Neugier. Es ist das spezielle Misstrauen, das entsteht, wenn man sich mehr verwaltet als einbezogen fühlt. Und dieses Misstrauen beschränkt sich nicht nur auf das Thema KI.
Ein Teil des Problems ist die Definition. „Agentenbasierte KI“ hat es längst nicht in die meisten Mitarbeiterhandbücher oder Führungskräfteschulungen geschafft, auch wenn die Tools es getan haben. Viele Unternehmen haben Agenten unter den Produktnamen von Anbietern eingeführt – Workflow-Assistenten, CRM-Integrationen, Terminplanungsplattformen – ohne die zugrundeliegende Autonomie offen zu legen.
Ein Mitarbeiter, der einer Fallrouting-Empfehlung folgt, weiß womöglich gar nicht, dass dieses Routing nicht von einem Manager oder einer festen Regel, sondern von einem KI-Agenten vorgenommen wurde.
WalkMes Arbeitsumfrage 2025 ergab, dass 78 % der Angestellten KI-Tools verwenden, die ihnen ihr Arbeitgeber nicht zur Verfügung stellt, und fast die Hälfte hat ihre KI-Nutzung am Arbeitsplatz verschwiegen, um einem Urteil zu entgehen. Schattenadoption und institutionelle Intransparenz befeuern sich gegenseitig.
Das zu beheben ist keine einmalige Kommunikationsmaßnahme. Wirksam ist, Offenlegung beim Rollout zu verankern, indem man erklärt, was ein System tut und was nicht, bevor es im Team zum Einsatz kommt; indem fortlaufende Transparenz darüber geschaffen wird, wo Agenten agieren; und indem Beschäftigte einen klaren Kanal erhalten, mit dem sie Auffälligkeiten melden können.
Gerade dieser letzte Punkt ist wichtiger, als viele Einführungspläne für KI anerkennen.
Mitarbeitende sind nicht nur das Publikum für Offenlegung. Sie sind die wichtigste Fehlerdetektionsschicht für jedes agentenbasierte System in ihrem Aufgabenbereich. Wenn sie wissen, was eingesetzt wird, und verstehen, was zu tun ist, wenn etwas schiefläuft, funktionieren Steuerungsmechanismen wie vorgesehen. Ist das nicht gegeben, bleiben solche Strukturen theoretisch.
