Es gibt einen Namen für das, was mit dem Urteilsvermögen Ihrer Mitarbeitenden passiert
Übermäßige Abhängigkeit: Eine zu starke Abhängigkeit von KI-Tools kann zu erheblichen negativen Auswirkungen auf die Belegschaft führen.
Kompetenzabbau: Die Abhängigkeit von KI kann das kritische Denkvermögen schmälern und die Fähigkeit der Mitarbeitenden, Informationen eigenständig zu analysieren, verringern.
Auswirkungen auf die Belegschaft: Organisationen müssen die Auswirkungen des KI-Einsatzes auf Mitarbeitende bei ihrer technologischen Entscheidungsfindung berücksichtigen.
Es finden Veränderungen bei Mitarbeitenden statt, während sich KI-Tools in Organisationen verbreiten. Irgendwann stellt sich die Frage: Verfügt Ihr Führungsteam über eine Sprache für das, was geschieht?
Keine Sorge. Ein Bericht, der letzten Monat von MIT Sloan Management Review und der Boston Consulting Group veröffentlicht wurde, bringt Klarheit.
Die Studie, „Jenseits des Modells: Warum verantwortungsvolle KI auch die Auswirkungen auf die Belegschaft adressieren muss“, ist die fünfte jährliche Untersuchung der beiden Institutionen zu verantwortungsvoller KI. Sie stützt sich auf internationale Führungskräftebefragungen sowie kuratierte Expertengremien.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
In den Vorjahren konzentrierte sich die Forschung auf Governance-Reife, Risiken durch Dritte und Verantwortlichkeitsstrukturen. In diesem Jahr richtete sich der Fokus der Forscher auf etwas Unmittelbareres: die Auswirkungen, die der KI-Einsatz im Unternehmen auf die Nutzenden hat.
Sie benannten fünf Effekte.
- Übermäßiges Vertrauen
- Verlust von Fähigkeiten
- Entmachtung
- Arbeitsverdichtung
- „KI-Gehirn-Überlastung“
Die Argumentation der Autor:innen Elizabeth Renieris, David Kiron, Steven Mills und Anne Kleppe ist eindeutig: Das sind keine hypothetischen Risiken oder Einzelfälle. Es handelt sich um messbare Ergebnisse für die Belegschaft, die in die Entscheidung für oder gegen ein KI-Tool einfließen sollten, noch bevor die Organisation sich auf ein bestimmtes Produkt einlässt.
Diese Sprache der Produktbewertung ist bewusst gewählt. Die Autoren sagen: Auswirkungen auf die Mitarbeitenden gehören in die gleiche Analyse wie technische Leistungsfähigkeit, Compliance und Gesamtkosten – und bisher fließen sie kaum ein.
Was die Forschung zeigt
Der präziseste der fünf Effekte ist das, was sie „KI-Gehirn-Überlastung“ nennen – ein Begriff, der im März erstmals durch eine Studie von BCG und der University of California, Riverside in der Fachliteratur erschien und in der Harvard Business Review veröffentlicht wurde.
Die Forscher:innen definierten dies als mentale Erschöpfung durch übermäßigen Gebrauch, Interaktionen oder Überwachung von KI-Tools, die die kognitive Kapazität von Beschäftigten übersteigen.
Die Zahlen aus dieser Studie zeigen, dass 14 % der KI-Nutzenden dies berichteten.
Beschäftigte mit Gehirn-Überlastung machten 39 % mehr schwerwiegende Fehler als jene ohne. Die Produktivität sank, wenn Mitarbeitende mehr als drei KI-Tools gleichzeitig nutzten. Die kognitiv anspruchsvollste Form der KI-Nutzung war nicht die Komplexität der Prompts oder die Menge der Resultate, sondern die Überwachung. Mitarbeitende, die KI-Systeme überwachten, berichteten von 12 % mehr mentaler Erschöpfung als jene, die dies nicht taten, und einem 19 % stärkeren Gefühl von Informationsüberflutung.
Am stärksten betroffen waren Beschäftigte im Marketing, in der Softwareentwicklung, im Personalwesen, im Finanzwesen und in der IT. Das sind keine Randfunktionen.
Das von den Forschenden identifizierte Paradox ist für jede:n COO oder CHRO mit Blick auf die Personalplanung bedeutsam. Denn am meisten gefährdet für Gehirn-Überlastung sind die Early Adopters, also die am stärksten an KI interessierten Beschäftigten.
Sie nutzen mehr Tools, überwachen mehr Ergebnisse und tragen dabei mehr kognitive Belastung. Die Technologie, die eigentlich ihre Arbeit erleichtern soll, erhöht in der Praxis den Druck.
Eliza Jackson, Chief Operating Officer bei ButcherBox, schildert das Phänomen aus eigener Erfahrung.
Am Ende fragt man sich: ‘Was habe ich eigentlich getan? Habe ich gerade auf 800 Chats geantwortet? Habe ich Entscheidungen getroffen, die nicht wohlüberlegt waren? Habe ich mich mit dem beschäftigt, was ich entschieden habe?'
Sie fügte hinzu, dass ihr Unternehmen aktiv daran arbeitet, mehr Raum für Reflexion zu schaffen, aber an der Umsetzung noch feilt.
Der Verlust von Kompetenzen wirkt sich langsamer aus. Eine Studie von Microsoft Research und der Carnegie Mellon University, die letztes Jahr auf der CHI-Konferenz vorgestellt wurde und auf 936 Praxisbeispielen von 319 Wissensarbeiter:innen basiert, ergab: Größeres Vertrauen in KI-Tools stand stets im Zusammenhang mit weniger kritischem Denken.
Mitarbeitende verzichteten nicht auf Analyse – sie vertrauten den Ergebnissen und machten weiter. Die Studie fand auch, dass KI-Nutzung das Wesen des kritischen Denkens verschiebt: weg von der Erstellung von Analysen, hin zur Überprüfung. Das klingt nach Anpassung, ist aber eine Verengung. Wenn die KI irrt, stellt sich die Frage, ob die Beschäftigten noch genug eigenes Urteilsvermögen besitzen, um es zu erkennen.
Die klinische Version dieser Dynamik ist in der Praxis bereits dokumentiert worden. Vivienne Ming, theoretische Neurowissenschaftlerin und KI-Forscherin, verweist auf eine Studie von Gastroenterologen, die KI-gestützte Koloskopiesysteme verwendeten. Als diese Systeme ausgeschaltet wurden, schnitten die Ärztinnen und Ärzte messbar schlechter ab als vor dem Einsatz der KI.
Es macht sie besser, solange sie es verwenden, aber danach sind sie deutlich schlechter.
Das Risiko betrifft nicht nur die aktuelle Leistung, sondern die Fähigkeiten, die unbemerkt im Hintergrund erodieren, während das Tool die Arbeit übernimmt.
Übermäßiges Vertrauen ist das Muster, das beiden zugrunde liegt. Wenn Beschäftigte auf die KI-Ergebnisse setzen, selbst wenn das Tool unzuverlässig ist oder außerhalb seiner Kompetenz arbeitet, summieren sich individuelle Fehler. In einer Belegschaft, die sich gleichermaßen auf identische Ergebnisse stützt, potenzieren sie sich.
Auf individueller Ebene ist das ein Leistungsproblem. In einer Belegschaft, die dieselben Tools zur selben Zielerreichung nutzt, ist es ein systemisches.
Die Governance-Frage
Der MIT Sloan-Bericht empfiehlt Maßnahmen, die strukturelle Auswirkungen darauf haben, wie CHROs und COOs in KI-Entscheidungen eingebunden werden. Auswirkungen auf die Belegschaft müssen als Teil der Business Cases für den KI-Einsatz bewertet, in die Umsetzungsplanung aufgenommen und bereits vor einer Beschaffung bedacht werden. So laufen die meisten Entscheidungen derzeit jedoch nicht ab.
Die Forschenden begreifen dies als Verpflichtung, nicht als Empfehlung. Organisationen sollten offen mit ihren Mitarbeitenden darüber kommunizieren, wie KI ihre Aufgaben verändern oder ablösen wird, wie die Unterstützung beim Übergang aussieht und wie diese Entscheidungen getroffen wurden. Das ist laut Bericht kein Gefallen, sondern eine zentrale Governance-Aufgabe.
Die dadurch entstehende Verantwortungslücke ist real. CHROs verantworten typischerweise die Ergebnisse der Mitarbeitenden, sitzen aber selten am Tisch, wenn KI-Tools ausgewählt werden. Technologieverantwortliche verwalten den Technologie-Stack, jedoch nicht den schleichenden Kompetenzverlust in der Belegschaft beim Einsatz der Tools.
Leitende im operativen Geschäft verfolgen Leistungsindikatoren, haben aber oft keinen Rahmen, um den Kompetenzabbau zu überwachen, der Leistungsrückgängen vorausgeht.
Die von MIT Sloan eingeführten Begriffe sind deshalb hilfreich, weil sie spezifisch genug sind, Zuständigkeiten festzulegen, und granular genug, um sie messbar zu machen.
Übermäßiges Vertrauen ist nicht dasselbe Risiko wie Entmachtung. Beide benötigen eine unterschiedliche Beobachtungsweise, andere Fragen bei Einführung und eine andere verantwortliche Person im Unternehmen.
Für die meisten Unternehmen gibt es diese Verantwortlichen bislang nicht.
Die Forschung gibt kein Organigramm vor. Was sie jedoch tut – klar und mit dem Gewicht von fünf Jahren verantwortungsvoller KI-Forschung im Rücken – ist, die Lücke zu benennen.
Go/No-Go-Entscheidungen sind die Momente, in denen diese Fragen auftauchen sollten. Bevor der Vertrag unterschrieben wird, vor dem Rollout, vor der ersten Schulung sollte jemand in der Organisation fragen, was dieses Tool mit dem Urteilsvermögen der Menschen, die es benutzen, macht.
Derzeit hat die Mehrheit der Organisationen keine Antwort darauf, wer diese Rolle übernehmen soll.