Es gibt einen Namen für das, was mit dem Urteilsvermögen Ihrer Mitarbeitenden passiert
Übermäßiges Vertrauen: Eine zu starke Abhängigkeit von KI-Tools kann zu erheblichen negativen Auswirkungen auf die Belegschaft führen.
Fähigkeiten verkümmern: Die Abhängigkeit von KI kann das kritische Denken schwächen und die Fähigkeit der Mitarbeitenden, Informationen eigenständig zu analysieren, verringern.
Auswirkungen auf die Belegschaft: Organisationen müssen die Auswirkungen der KI-Einführung auf ihre Mitarbeitenden als Teil ihrer Technologieentscheidungen bewerten.
Es gibt Entwicklungen, die Mitarbeitende betreffen, während KI-Tools sich in Organisationen ausbreiten. Irgendwann stellt sich die Frage: Hat Ihr Führungsteam überhaupt eine Sprache dafür, was geschieht?
Keine Sorge. Ein im letzten Monat von MIT Sloan Management Review und Boston Consulting Group veröffentlichter Bericht liefert sie.
Die Studie mit dem Titel „Beyond the Model: Why Responsible AI Must Address Workforce Impact“ ist bereits die fünfte jährliche Untersuchung der beiden Institute zu verantwortungsvoller KI, basierend auf globalen Umfragen unter Führungskräften sowie ausgewählten Expertengremien.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
In den Vorjahren lag der Fokus der Forschung auf Governance-Reife, Risiken durch Drittanbieter und Verantwortungsstrukturen. In diesem Jahr wendeten sich die Forschenden etwas Unmittelbarerem zu: Dem Einfluss der KI-Einführung auf die Menschen, die sie nutzen.
Sie identifizierten fünf Auswirkungen.
- Übermäßige Abhängigkeit
- Fähigkeiten-Verlust
- Entmachtung
- Arbeitsintensivierung
- „KI-Gehirn-Überlastung“
Das Argument der Autor:innen Elizabeth Renieris, David Kiron, Steven Mills und Anne Kleppe ist eindeutig: Das sind keine hypothetischen Risiken oder Randfälle. Es handelt sich um messbare Auswirkungen auf die Belegschaft, die in Go/No-Go-Entscheidungen einfließen sollten, bevor eine Organisation sich auf ein bestimmtes KI-Tool festlegt.
Diese Produkttest-Sprache ist bewusst gewählt. Die Autor:innen sagen, dass Auswirkungen auf Mitarbeitende in die gleiche Analyse gehören wie technische Leistung, Compliance und Gesamtkosten — was bisher nicht der Fall ist.
Was die Forschung zeigt
Am präzisesten messbar von den fünf Effekten ist das, was sie „KI-Gehirn-Überlastung“ nennen – ein Begriff, der im März durch eine Studie von BCG und University of California, Riverside Eingang in die wissenschaftliche Literatur fand, veröffentlicht in der Harvard Business Review.
Die Forschenden definieren das als mentale Erschöpfung durch übermäßige Nutzung, Interaktion oder Überwachung von KI-Tools jenseits der kognitiven Leistungsfähigkeit der Mitarbeitenden.
Die Zahlen dieser Studie zeigen, dass 14 % der KI-Nutzer:innen dies bereits erfahren haben.
Mitarbeitende mit KI-Gehirn-Überlastung machten 39 % mehr schwerwiegende Fehler als jene ohne diese Belastung. Die Produktivität begann zu sinken, sobald mehr als drei KI-Anwendungen gleichzeitig genutzt wurden. Die kognitiv anstrengendste Form des KI-Einsatzes war dabei nicht die Komplexität der Prompts oder die Menge der Ergebnisse, sondern die Aufsicht. Mitarbeitende, die KI-Systeme überwachten, berichteten von 12 % mehr mentaler Ermüdung und einem 19 % höheren Informationsüberfluss verglichen mit Kolleg:innen ohne diese Aufgabe.
Am stärksten betroffen waren Teams in Marketing, Softwareentwicklung, Personalwesen, Finanzen und IT – also keine Randbereiche.
Das von den Forscher:innen identifizierte Paradox ist für jede COO oder CHRO relevant, die sich mit Workforce Planning befasst. Am meisten gefährdet für Gehirn-Überlastung sind die Early Adopters, diejenigen, die am meisten Begeisterung für KI zeigen.
Sie nutzen mehr Tools, überwachen mehr Ergebnisse und nehmen dabei immer mehr kognitive Last auf sich. Die Technik, die ihre Arbeitslast reduzieren soll, erhöht sie in Wahrheit.
Eliza Jackson, Chief Operating Officer bei ButcherBox, beschreibt das Phänomen aus dem Inneren.
You end up thinking ‘What did I even do? Did I just respond to 800 chats? Did I make any decisions that weren’t thoughtful? Did I think about anything I decided?
Sie ergänzt, dass ihr Unternehmen aktiv daran arbeitet, mehr Zeit für Reflexion zu schaffen, räumt jedoch ein, dass dies noch im Prozess ist.
Fähigkeiten-Verlust wirkt sich eher langfristig aus. Eine Microsoft Research- und Carnegie Mellon University-Studie, präsentiert auf der CHI-Konferenz im letzten Jahr und basierend auf 936 Praxisbeispielen von 319 Wissensarbeiter:innen, konnte zeigen: Höheres Vertrauen in KI-Tools war durchweg mit weniger kritischem Denken verbunden.
Mitarbeitende verzichteten dabei nicht auf Analyse. Sie vertrauten einfach dem Output und machten weiter. Die Studie zeigte auch, dass die Benutzung von KI die Art des kritischen Denkens verschiebt - von Eigenanalyse hin zur Überprüfung. Das klingt zwar nach Anpassung, ist aber eine Verengung: Wenn die KI falsch liegt, bleibt die Frage, ob die Mitarbeitenden noch genug Eigenurteil besitzen, um dies zu erkennen.
Die klinische Variante dieser Dynamik ist bereits in der Praxis dokumentiert worden. Vivienne Ming, theoretische Neurowissenschaftlerin und KI-Forscherin, verweist auf eine Studie über Gastroenterolog:innen, die KI-gestützte Koloskopiesysteme verwenden. Wurden diese Systeme abgeschaltet, schnitten die Ärzt:innen messbar schlechter ab als vor dem Einsatz der KI.
Es verbessert ihre Leistung während der Nutzung, aber danach sind sie deutlich schlechter.
Das Risiko betrifft nicht nur die aktuelle Leistung, sondern auch die Fähigkeiten, die im Hintergrund erodieren, während das Tool die Arbeit übernimmt.
Übermäßiges Verlassen auf die Technologie ist das zugrunde liegende Muster beider Fälle. Wenn Beschäftigte auf KI-Ausgaben vertrauen, selbst wenn das Tool unzuverlässig ist oder außerhalb seines Kompetenzbereichs arbeitet, summieren sich individuelle Fehler. In einer Belegschaft, die gleichermaßen Entscheidungen nach den gleichen Ausgaben trifft, potenziert sich der Effekt.
Auf individueller Ebene ist das ein Leistungsproblem. In einer Belegschaft, die dieselben Tools auf dieselben Ergebnisse ausrichtet, wird es zum systemischen Problem.
Die Governance-Frage
Der Bericht vom MIT Sloan gibt eine Empfehlung, die strukturelle Auswirkungen darauf hat, wie CHROs und COOs in KI-Entscheidungen eingebunden werden. Die Auswirkungen auf die Belegschaft müssen als Teil der Business-Case-Betrachtung für den KI-Einsatz evaluiert, in die Einführungspläne integriert und vor der Beschaffung berücksichtigt werden. In den meisten Fällen geschieht das bislang nicht.
Die Forschenden formulieren dies als Verpflichtung, nicht als Empfehlung. Organisationen sollten offen mit den Mitarbeitenden kommunizieren, wie KI Aufgaben verändern oder eliminieren wird, wie die Unterstützung beim Übergang aussieht und wie diese Entscheidungen getroffen wurden. Nicht als Höflichkeit, schreiben sie, sondern als zentrale Governance-Verantwortung.
Die dadurch entstehende Verantwortungslücke ist real. Personalleitungen (CHROs) verantworten üblicherweise die Ergebnisqualität für Menschen, sind aber selten beteiligt, wenn KI-Tools ausgewählt werden. Technologieführende verantworten den Technologie-Stack, jedoch nicht den Kompetenzverlust in der Belegschaft, die damit arbeitet.
Operations-Verantwortliche überwachen die Leistung, haben aber oftmals keinen Rahmen, um die Degradierung von Fähigkeiten frühzeitig zu erkennen.
Die von MIT Sloan benannten Begriffe sind deshalb nützlich, weil sie konkret genug sind, um Verantwortlichkeiten zuzuordnen, und detailliert genug, um gemessen zu werden.
Übermäßige Abhängigkeit ist nicht dasselbe Risiko wie Entmündigung. Jede erfordert unterschiedliche Governance-Fragen zur Einführungszeit – und jeweils eine andere Zuständigkeit innerhalb der Organisation.
Bei den meisten Unternehmen gibt es diese Verantwortlichen bislang überhaupt nicht.
Die Forschung schlägt kein Organigramm vor. Was sie jedoch klar benennt – gestützt durch fünf Jahre Daten verantwortungsvoller KI – ist die Lücke.
Go-/No-Go-Entscheidungen sind der Moment, in dem diese Fragen aufkommen sollten. Bevor ein Vertrag unterschrieben, bevor ein Rollout gestartet, bevor die erste Schulung beginnt, muss jemand in der Organisation fragen, wie dieses Tool das Urteilsvermögen der Mitarbeitenden beeinflussen wird und KI-Nutzung davon abhalten, zum Leistungsmaßstab zu werden.
Momentan wissen die meisten Organisationen nicht, wer dieser jemand ist.
