Wissen Ihre Mitarbeitenden, dass sie mit KI-Agenten zusammenarbeiten?
Bewusstseinslücke: Viele Mitarbeitende wissen nicht, dass KI-Agenten in ihrem Unternehmen im Einsatz sind, was zu Misstrauen und Verwirrung führt.
Bedeutung von Transparenz: Governance-Rahmen setzen menschliche Aufsicht voraus, doch ein Mangel an Bewusstsein bei Mitarbeitenden gefährdet die Verantwortlichkeit.
Vertrauensverlust: Viele Beschäftigte halten KI-Systeme für unzuverlässig, da 62 % Bedenken hinsichtlich der Vertrauenswürdigkeit von KI-Agenten äußern.
Einbindung von Mitarbeitenden: Offenlegung ist entscheidend; Mitarbeitende müssen die Rolle der KI verstehen, um Systeme effektiv zu überwachen und zu nutzen.
Schulungslücke: Nur 38 % der Unternehmen bieten Schulungen zu KI-Tools an, was das Gefühl der Überflüssigkeit bei den Mitarbeitenden verstärkt.
Die meisten Mitarbeitenden wissen nicht, womit sie eigentlich zusammenarbeiten.
Agentische KI ist inzwischen weit über die Pilotphase hinaus und routet Kundendienstfälle, markiert Leistungsausreißer, terminiert Vorstellungsgespräche und fasst Besprechungen zusammen, bevor jemand sich ausgeloggt hat.
In immer mehr Organisationen verfasst sie Antworten und trifft Entscheidungen mit geringem Risiko stellvertretend für Mitarbeitende, die gar nicht informiert wurden, was geschieht.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Die Einführung hat die Offenlegung überholt. Laut einer im April veröffentlichten Umfrage der Cloud Security Alliance entdeckten 82 % der Unternehmen im letzten Jahr bislang unbekannte KI-Agenten in ihrer IT-Umgebung, viele davon sogar mehrfach. Das ist ein Problem der IT-Transparenz. Das Problem der Mitarbeitenden-Bewusstheit reicht tiefer.
Die globale Studie von Workday für 2025, in der knapp 3.000 Entscheidungsträger*innen aus Nordamerika, APAC und der EMEA-Region befragt wurden, ergab, dass nur 24 % der Mitarbeitenden sich damit wohlfühlen, wenn KI-Agenten im Hintergrund arbeiten, ohne dass sie davon wissen.
Es ist kein Randthema, wenn drei von vier Beschäftigten eine klare Grenze ziehen – und die meisten tun dies ohne vollständige Information darüber, wo diese Grenze in ihrem eigenen Unternehmen tatsächlich verläuft.
Transparenz und gemeinsame Annahmen
Das ethische Argument für die Schließung dieser Lücke ist eindeutig. Mitarbeitende haben ein berechtigtes Interesse daran zu verstehen, welche Systeme ihre Aufgabenverteilung, Arbeitslast und teils auch Leistungsbewertungen beeinflussen. Doch das operative Argument ist für die entscheidungsbefugten Führungskräfte oft leichter nachvollziehbar.
Governance-Rahmenwerke – etwa NISTs AI Risk Management Framework, die Transparenzanforderungen des EU AI Acts oder die meisten KI-Richtlinien von Unternehmen aus den letzten zwei Jahren – beruhen auf der gemeinsamen Annahme, dass Menschen weiterhin eingebunden bleiben.
Nicht nur Führungskräfte oder Compliance-Teams, sondern die Menschen, die tatsächlich arbeiten. Menschliche Aufsicht bedeutet, dass Fehler von Agenten, falsch zugewiesene Fälle, fehlerhafte Rubriken oder Abweichungen vom vorgesehenen Verhalten erkannt werden. Diese Person ist fast immer ein Mitarbeitender an der Front, der nah genug an den Ergebnissen ist, um Unstimmigkeiten zu erkennen.
Wenn Beschäftigte nicht wissen, dass ein Agent handelt, verschwindet diese Aufsicht strukturell. Die Architektur der Verantwortlichkeit hängt von einem Bewusstsein ab, das gar nicht vorhanden ist.
Was passiert, wenn sie es herausfinden?
Wenn es zum Bruch kommt, ist das Erlebnis meist persönlich. Etwa acht Monate bevor er mit People Managing People sprach, führte Mike Rolfe, VP of Product bei Outbuild – einer Plattform für Bauzeitplanung – ein agentisches System im Customer Success ein, das eigenständig Gesundheitsprüfungen von Accounts durchführte, im Namen der CSMs Termine vereinbarte und Erneuerungsrisikoberichte erstellte – alles, ohne dass jemand dies anstieß.
Das Führungsteam war informiert, das allgemeine Kundenservice-Team jedoch nicht – auch weil intern alle immer noch von „Automatisierung“ sprachen statt von dem, was es tatsächlich war.
Ein CSM kam in einen Kundentermin und der Kunde erwähnte ein Meeting, das bereits geplant war, das der CSM aber nie vereinbart hatte.
Der Vertrauensschaden im Team dauerte Wochen, um ihn zu beheben. Seine Regel heute lautet: Sobald ein KI-System eine Aktion ausführt, die von einer anderen Person gesehen werden kann, muss die Person, unter deren Namen diese Handlung läuft, vorher darüber informiert werden.
Sein Team verzichtet inzwischen komplett auf das Wort „Automatisierung“ und setzt auf klare Beschreibungen wie: „Das System wird Termine für dich buchen und den Kunden unter deinem Namen benachrichtigen.“
Gerade in der Bau-Branche stiftet unklare Techniksprache nämlich kein informiertes Einverständnis, sondern schafft die Voraussetzungen für genau jene Erlebnisse wie das seiner CSM.
Verantwortung liegt beim Menschen
Steven Betito, COO und Datenschutzbeauftragter bei Elestio, hat dies ebenfalls aus erster Hand erlebt.
Als sein Team agentische KI in die täglichen Abläufe integrierte, setzten sie Offenlegung von Anfang an um. Jeder Agent hatte eine dokumentierte Rolle und wurde dem Team ausdrücklich als KI vorgestellt, sodass niemand je unsicher war, womit er es zu tun hatte. Was sie nicht früh genug aufgebaut hatten, war eine klare Eskalationsstruktur.
In den ersten Monaten haben wir keine Eskalationswege formalisiert. Ein menschliches Teammitglied hat einem Agenten mit einer vagen Anfrage eine E-Mail geschrieben, der Agent interpretierte sie so gut er konnte, und das Ergebnis landete manchmal ohne eindeutige menschliche Überprüfung in der Produktion.
Die Lösung war einfach, sobald sie das Problem erkannt hatten. Jede Agentenaktion oberhalb eines definierten Schwellenwerts benötigt nun einen namentlich genannten menschlichen Genehmiger, aber die Erkenntnis blieb: Transparenz darüber, was ein Agent ist, sorgt nicht automatisch für Verantwortlichkeit für das, was er tut. Das sind verschiedene Probleme, die verschiedene Lösungen erfordern.
Vertrauen ist nirgends zu finden
Der Global State of AI at Work Report 2025 von Asana, der mehr als 2.000 Wissensarbeiter in den USA und Großbritannien befragte, ergab, dass 62 % KI-Agenten als unzuverlässig betrachten.
Noch aufschlussreicher ist, was hinter dieser Zahl steckt, denn 82 % der Beschäftigten gaben an, dass eine angemessene Schulung für einen effektiven Einsatz von KI-Agenten essenziell ist, aber nur 38 % der Unternehmen haben diese bereitgestellt.
Das Problem ist nicht so sehr, dass Arbeitnehmer KI-Agenten ablehnen, vielmehr navigieren sie durch eine Diskrepanz zwischen dem, was sie bekommen haben, und dem, was sie gelernt haben – und fühlen sich immer weniger relevant, während die Einführung beschleunigt wird.
Wenn Mitarbeitende durch einen Kollegen, eine Prozessänderung oder ein Ergebnis, das sie nicht erklären können, herausfinden, dass KI-Systeme in ihren Workflows laufen, ist die Reaktion selten Neugier. Es ist das spezifische Misstrauen, das entsteht, wenn man sich eher gesteuert als einbezogen fühlt. Und dieses Misstrauen beschränkt sich nicht auf die KI-Frage.
Ein Teil des Problems ist die Definition. "Agentische KI" taucht bisher in den meisten Mitarbeiterhandbüchern oder Managertrainings nicht auf – wohl aber die Tools selbst. Viele Organisationen haben Agenten unter Anbieternamen wie Workflow-Assistenten, CRM-Integrationen, Terminplanungstools eingeführt, die die zugrundeliegende Autonomie nicht erkennen lassen.
So hat ein Mitarbeiter, der einer Fallzuweisungsempfehlung folgt, möglicherweise keine Ahnung, dass diese Zuweisung von einem KI-Agenten und nicht von einem Manager oder einer festen Regel getroffen wurde.
WalkMes Workplace Survey 2025 hat ergeben, dass 78 % der Mitarbeitenden KI-Tools nutzen, die nicht vom Arbeitgeber bereitgestellt wurden, und fast die Hälfte hat ihre KI-Nutzung am Arbeitsplatz verschwiegen, um einer Bewertung zu entkommen. Schattenadoption und institutionelle Intransparenz verstärken sich gegenseitig.
Das zu beheben, ist keine einmalige Kommunikationsmaßnahme. Erfolgsversprechend ist es, Offenlegung in die Einführung zu integrieren, zu erläutern, was ein System tut und was nicht, bevor es in den Team-Workflow übernommen wird, dauerhafte Sichtbarkeit darüber zu schaffen, wo Agenten handeln, und Mitarbeitenden einen klaren Kanal zu bieten, um zu melden, wenn etwas falsch läuft.
Gerade dieser letzte Punkt ist wichtiger, als die meisten Einführungspläne für KI zugeben.
Mitarbeitende sind nicht nur die Adressaten der Offenlegung. Sie sind die primäre Fehlerdetektionsschicht für jedes agentische System in ihrem Zuständigkeitsbereich. Wenn sie wissen, was im Einsatz ist, und verstehen, wie sie reagieren müssen, wenn etwas schief läuft, funktioniert Governance wie vorgesehen. Wenn nicht, bleiben diese Rahmenwerke Theorie.
