Was KI-Überwachung Ihnen nicht über Ihre Mitarbeitenden sagen kann
Niemand macht sich daran, ein System zur Überwachung der Belegschaft aufzubauen. Meist kommt es als Optimierung, Produktivität, Wohlbefinden oder Effizienz verkleidet daher. Doch während KI es möglich macht, alles zu überwachen – von Tastatureingaben und Mausbewegungen bis hin zu Emotionen und körperlichem Verhalten –, wird die Grenze zwischen legitimer Messung und invasiver Überwachung immer schwerer zu ignorieren.
In dieser Folge spreche ich mit Lynn Parramore, Direktorin für besondere Projekte am Institute for New Economic Thinking, darüber, was verloren geht, wenn Führungskräfte davon ausgehen, dass alles Wertvolle bei der Arbeit messbar ist. Wir gehen der Frage nach, warum permanente Überwachung Vertrauen untergräbt, wie Algorithmen menschliches Verhalten aus seinem Kontext reißen, warum jüngere Beschäftigte gute Gründe haben, KI skeptisch gegenüberzustehen, und warum Führungskräfte sich nicht nur praktisch, sondern auch philosophisch damit auseinandersetzen müssen, welchen Platz diese Technologie einnehmen sollte.
Was Sie lernen werden
- Wie man legitime Überwachung am Arbeitsplatz von invasiver Überwachung unterscheidet
- Warum mehr Daten über Beschäftigte nicht zwangsläufig zu besseren Managemententscheidungen führen
- Wie permanente Überwachung Vertrauen, psychologische Sicherheit und intrinsische Motivation untergraben kann
- Warum Algorithmen Schwierigkeiten mit Absichten, Urteilsvermögen, Kontext, Kreativität und implizitem Wissen haben
- Wie die Einbeziehung von Beschäftigten in Entscheidungen über Überwachung zu besseren Ergebnissen führen kann
- Warum die Einführung von KI von Führungskräften verlangt, ethische und gesellschaftliche Folgen zu berücksichtigen, nicht nur Effizienz
Die wichtigsten Erkenntnisse
- Messen Sie zu einem legitimen Zweck, nicht nur, weil Sie es können. Überwachung kann sinnvoll sein, wenn sie eng mit Sicherheit, Ergonomie, Cybersicherheit oder einem anderen klaren Bedarf verbunden ist. Daten zu sammeln, nur weil die Technologie es ermöglicht, ist der Weg, auf dem Optimierung still und leise zu Überwachung wird.
- Mehr Einblick kann weniger Vertrauen bedeuten. Permanente Überwachung vermittelt unausgesprochen die Botschaft: Wir vertrauen Ihnen nicht, solange wir Sie nicht überprüfen können. Das ist ein kostspieliger Tausch, wenn Vertrauen die Grundlage für Engagement, Innovation, Bindung und die Bereitschaft der Menschen bildet, ihr Urteilsvermögen einzusetzen.
- Daten erfassen Verhalten. Sie erklären es nicht zwangsläufig. Dass ein Beschäftigter länger mit einem Kunden telefoniert, mag einem Algorithmus ineffizient erscheinen, obwohl er tatsächlich genau das tut, was Sie sich wünschen: an einem schwierigen Problem dranzubleiben, bis es gelöst ist. Informationen ohne Kontext sind kein Verständnis.
- Der Wert menschlicher Arbeit lässt sich nicht sauber in einer Übersicht abbilden. Einer Kollegin zu helfen, über ein schwieriges Problem nachzudenken, moralischen Mut zu zeigen, gutes Urteilsvermögen einzusetzen oder einfach ins Leere zu starren, während sich eine Idee entwickelt, kann alles wie unproduktive Zeit aussehen. Manchmal ist nicht der Beschäftigte das Problem, sondern die Tabelle.
- Auch rund um Überwachung werden Menschen ihr Verhalten optimieren. Frederick Taylors Arbeiter manipulierten seine Uhren. Moderne Beschäftigte verwenden Mausschüttler – und offenbar sogar strategisch platzierte Ananas. Wenn die Kennzahl zum eigentlichen Auftrag wird, lernen Menschen, die Kennzahl zu erfüllen.
- Halten Sie Menschen dazu fähig, die Maschine zu überstimmen. Ein Algorithmus sollte eine Hilfe sein, kein unsichtbarer Vorgesetzter. Wenn Beschäftigte automatisierte Bewertungen nicht anfechten können – selbst wenn ihr berufliches Urteilsvermögen ihnen sagt, dass das System falsch liegt –, erweitern Sie die Expertise nicht. Sie setzen sich über sie hinweg.
- KI-Skepsis ist nicht zwangsläufig technikfeindlich. Jüngere Beschäftigte sind inmitten von Technologie aufgewachsen und haben zugleich erlebt, wie Unternehmen ihre Daten sammelten, Versprechen brachen und ihr Leben nach Geschäftsmodellen ausrichteten, für die sie sich nicht entschieden hatten. Führungskräfte sollten diese Skepsis nicht abtun. Sie sollten sich das Vertrauen verdienen, um das sie bitten.
- Erkennen Sie, wann es Zeit ist, innezuhalten. Sich am schnellsten zu bewegen, bedeutet nicht automatisch, gut zu führen. Wenn Sie die Folgen eines KI-Systems für Beschäftigte, Gemeinschaften oder die Gesellschaft nicht verstehen, kann eine Verlangsamung die intelligentere Geschäftsentscheidung sein.
Kapitel
- 00:00 — Wenn Überwachung zur Kontrolle wird
- 02:31 — Die Grenze ziehen
- 04:58 — Das Panoptikum bei der Arbeit
- 07:33 — Emotionen von Beschäftigten verfolgen
- 09:43 — Was Daten nicht messen können
- 11:54 — Die Kosten permanenter Überwachung
- 15:00 — Information vs. Verständnis
- 17:33 — Der Aufstieg der Überwachung am Arbeitsplatz
- 21:08 — Das System ausreizen
- 23:57 — Was Algorithmen nicht sehen können
- 27:12 — Vertrauen erfordert Ungewissheit
- 28:27 — KI als unsichtbarer Vorgesetzter
- 31:12 — Die Ethik der KI
- 34:04 — Die KI-Skepsis der Generation Z
- 37:12 — Algorithmen vs. menschliches Urteilsvermögen
- 40:21 — Beschäftigte durch die KI-Zeit begleiten
- 45:07 — Wofür sind Unternehmen da?
- 47:02 — Wissen, wann man innehalten sollte
Unser Gast
Lynn Parramore ist leitende Forschungsanalystin und Direktorin für Sonderprojekte am Institut für neues wirtschaftliches Denken (INET), wo sie die Zusammenhänge zwischen Wirtschaft, Geschichte, Kultur und Psychologie untersucht. Als Kulturhistorikerin, Autorin und Journalistin übersetzt sie komplexe wirtschaftswissenschaftliche Forschung in zugängliche Darstellungen zu Ungleichheit, Unternehmensmacht, Arbeit und wirtschaftlicher Gerechtigkeit. Lynn hat an der New York University promoviert und ist Autorin von Die Sphinx lesen sowie Mitherausgeberin von Wie die Occupy-Bewegung Amerika verändert. Ihre Kommentare und Texte sind in zahlreichen großen Medien erschienen und bringen eine multidisziplinäre Perspektive in Debatten über die Wirtschaft und ihre Auswirkungen auf das alltägliche Leben ein.
Verwandte Links:
- Der Community von People Managing People beitreten
- Den Newsletter abonnieren, um unsere neuesten Artikel und Podcasts zu erhalten
- Mit Lynn auf LinkedIn vernetzen
- Lynns Buch ansehen — Die Sphinx lesen: Das alte Ägypten in der literarischen Kultur des neunzehnten Jahrhunderts
Verwandte Artikel und Podcasts:
David Rice: Niemand macht sich wirklich mit dem Ziel auf, ein Überwachungssystem für die Belegschaft aufzubauen. Es beginnt mit Optimierung, Produktivitätssteigerung und Zeitmanagement. Klingt zunächst grundsätzlich positiv, oder? Und dann überschreitet man allmählich, ohne dass irgendjemand eine bewusste Entscheidung trifft, eine Grenze. In der heutigen Sendung spreche ich mit Lynn Parramore, Direktorin für besondere Projekte am Institute for New Economic Thinking, darüber, wo diese Grenze liegt und warum KI sie schwerer erkennbar macht.
Lynns zentrale These lautet, dass die Überwachung am Arbeitsplatz auf einer fehlerhaften Annahme beruht: Alles Wichtige bei der Arbeit sei messbar. Einer Kollegin oder einem Kollegen zu helfen, gutes Urteilsvermögen, moralischer Mut und Kreativität tauchen in keinem Protokoll von Tastatureingaben auf, sind aber oft genau das, was jemanden wirklich wertvoll macht. Wenn man Menschen auf Sammlungen von Datenpunkten reduziert, verändert man, was man tatsächlich steuert.
Und Überwachung ist nicht neutral. In dem Moment, in dem man beschließt, jemanden ständig zu beobachten, hat man bereits eine Annahme über diese Person getroffen, und Mitarbeitende spüren das. Es untergräbt Vertrauen. Vertrauen wiederum, wie Lynn erklärt, ist der Dreh- und Angelpunkt für alles Weitere: Engagement, Innovation und Bindung. Heute sprechen wir also darüber, wo legitime Überwachung endet und Überwachung im problematischen Sinne beginnt, warum die Annahme, dass alles Wichtige messbar sei, fehlerhaft ist, über den umgekehrten Zusammenhang zwischen Überwachungsintensität und Vertrauen und darüber, warum Führungskräfte in Bezug auf KI philosophisch denken müssen – nicht nur praktisch.
Ich bin David Rice. Dies ist People Managing People. Wenn Ihre Organisation die Überwachung der Belegschaft als Produktivitätsinstrument behandelt, ist dieses Gespräch Ihre Zeit wert. Beginnen wir also.
Wenn Sie ein Kleinunternehmen führen und Ihre erste Mitarbeiterin oder Ihren ersten Mitarbeiter einstellen, kann die Lohnabrechnung ein großer Schritt sein. QuickBooks Workforce erleichtert dies, indem es Lohnabrechnung, Direktüberweisung und die Verwaltung von Mitarbeiterdaten an einem Ort vereinfacht. Ihre Mitarbeitenden können über ein Selbstbedienungsportal auf ihre eigenen Gehaltsabrechnungen und Steuerformulare zugreifen, wodurch Sie Zeit und Papierkram sparen. Wenn Sie weniger Zeit mit der Lohnabrechnung und mehr Zeit mit dem Wachstum Ihres Unternehmens verbringen möchten, sehen Sie sich QuickBooks Workforce an.
Lynn, willkommen in der Sendung!
Lynn Parramore: Danke für die Einladung.
David Rice: Wir haben vor der Sendung darüber gesprochen, dass wir Arbeit schon immer auf irgendeine Weise gemessen haben. KI verändert jedoch grundlegend das Ausmaß und wirklich auch die Intimität dessen, was möglich ist.
Mich würde Ihre Meinung interessieren: Ab welchem Punkt geht es beim Messen von Arbeit nicht mehr darum, die Leistung zu verbessern, sondern wird einfach zu Überwachung?
Lynn Parramore: Das ist eine Frage, mit der wir uns wohl alle auseinandersetzen – sowohl aufseiten der Beschäftigten als auch aufseiten der Arbeitgeber. Zunächst möchte ich sagen, dass es einige sinnvolle Anwendungen algorithmischer Überwachung oder KI-gestützter Überwachung gibt, wie auch immer man es nennen möchte.
Nehmen wir zum Beispiel die Erkennung von Ermüdung. Wir könnten uns vorstellen, dass ein Pilot tragbare Geräte verwendet, um Müdigkeit zu erkennen. Ich denke, die meisten von uns würden sagen: In Ordnung, das ergibt Sinn. Es gibt KI-Geräte, die beim ergonomischen Training helfen können. Wenn jemand schwere Lasten hebt, können sie erkennen, welche Bewegungen eher zu Verletzungen führen.
Es gibt auch Anwendungen im Bereich der Cybersicherheit. Es gibt also Situationen, in denen diese Technik nützlich sein kann und nicht wie ein Eingriff in die Privatsphäre wirkt. Sie muss jedoch erstens einen klaren, legitimen Zweck haben, und der Arbeitgeber sollte nur die notwendigen Daten erheben – nicht behaupten, sie für einen Zweck zu sammeln, und sie dann für einen anderen verwenden.
Für die Beschäftigten sollte transparent sein, welche Daten gesammelt werden, wie sie gesammelt werden und wie sie gespeichert werden. Außerdem sollte bei allen Entscheidungen, die aus dieser Datenerhebung entstehen könnten – ob Beförderung, Disziplinarmaßnahme oder Kündigung – ein Mensch beteiligt bleiben.
Man sollte die Daten nicht dazu verwenden, automatisch Konsequenzen anzuwenden. Genau dort wird es für viele von uns problematisch: bei ständiger Überwachung durch die Webcam, beim Erfassen jedes einzelnen Tastaturanschlags oder jeder Mausbewegung oder beim Anfertigen von Bildschirmfotos alle zwanzig Sekunden.
Das sind Anwendungen, die in die Kategorie des Eingriffs in die Privatsphäre fallen und die Leistung von Beschäftigten wirklich negativ beeinflussen können.
