Er is een naam voor wat er met het beoordelingsvermogen van uw werknemers gebeurt
Overmatige afhankelijkheid: Te sterk vertrouwen op AI-tools kan leiden tot aanzienlijke negatieve gevolgen voor het personeelsbestand.
Verschraling van vaardigheden: Afhankelijkheid van AI kan kritische denkvaardigheden ondermijnen, waardoor werknemers minder goed in staat zijn om informatie zelfstandig te analyseren.
Impact op het personeelsbestand: Organisaties moeten de effecten van de inzet van AI op werknemers evalueren als onderdeel van hun besluitvormingsproces rond technologie.
Er gebeuren dingen met werknemers naarmate AI-tools zich binnen organisaties verspreiden, en op een gegeven moment rijst de vraag: heeft je leiderschapsteam woorden voor wat er gebeurt?
Geen zorgen. Een rapport dat vorige maand werd gepubliceerd door MIT Sloan Management Review en Boston Consulting Group heeft die wel.
Het artikel, "Voorbij het model: waarom verantwoorde AI de impact op de beroepsbevolking moet aanpakken," is het vijfde jaarlijkse onderzoek naar verantwoorde AI van de twee instellingen, gebaseerd op wereldwijde enquêtes onder leidinggevenden en samengestelde panels van experts.
Create a Free Account to Keep Reading—and Keep Leading Smarter
Unlock this piece and join a community of forward-thinking leaders discovering tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
In voorgaande jaren richtte het onderzoek zich op de volwassenheid van governance, risico's bij derden en verantwoordingsstructuren. Dit jaar richtten de onderzoekers zich op iets directers: wat de inzet van AI binnen organisaties doet met de mensen die deze gebruiken.
Ze benoemden vijf effecten.
- Overmatige afhankelijkheid
- Verschraling van vaardigheden
- Minder zeggenschap
- Intensivering van het werk
- "AI-hersenmoeheid".
Het argument van auteurs Elizabeth Renieris, David Kiron, Steven Mills en Anne Kleppe is direct wanneer ze zeggen dat dit geen hypothetische risico's of uitzonderingsgevallen zijn. Het zijn meetbare uitkomsten voor de beroepsbevolking die moeten worden meegewogen in go/no-go-beslissingen voordat een organisatie zich aan een specifieke AI-tool verbindt.
Die taal voor productevaluatie is bewust gekozen. Ze zeggen dat de impact op de beroepsbevolking in dezelfde analyse thuishoort als technische prestaties, nalevingseisen en totale kosten, en dat dit momenteel niet gebeurt.
Wat het onderzoek laat zien
Het meest nauwkeurig gemeten van de vijf effecten is wat zij "AI-hersenmoeheid" noemen, een term die in maart via een onderzoek van BCG en de University of California, Riverside, dat in Harvard Business Review werd gepubliceerd, zijn intrede deed in de onderzoeksliteratuur.
De onderzoekers definieerden dit als mentale vermoeidheid door overmatig gebruik van, interactie met of toezicht op AI-tools, tot voorbij de cognitieve capaciteit van een werknemer.
Uit de cijfers van dat onderzoek blijkt dat 14% van de werknemers die AI gebruikten, meldde dit te hebben ervaren.
Werknemers met hersenmoeheid maakten 39% meer grote fouten dan werknemers die daar geen last van hadden. De productiviteit begon af te nemen toen werknemers meer dan drie AI-tools tegelijkertijd gebruikten. De cognitief meest belastende vorm van AI-gebruik was niet de complexiteit van prompts of de hoeveelheid uitvoer, maar het toezicht. Werknemers die AI-systemen monitoren, meldden 12% meer mentale vermoeidheid dan werknemers die dat niet deden, en 19% meer informatie-overbelasting.
De groepen die het meest werden getroffen, werkten in marketing, softwareontwikkeling, personeelszaken, financiën en IT. Dat zijn geen perifere functies.
De paradox die de onderzoekers vaststelden, is relevant voor elke COO of CHRO die nadenkt over personeelsplanning. De werknemers die het grootste risico op hersenmoeheid lopen, zijn doorgaans de vroege gebruikers: de mensen die het meest enthousiast zijn over AI.
Ze gebruiken meer tools, houden toezicht op meer uitvoer en krijgen daardoor meer cognitieve belasting te verwerken. De technologie die is ontworpen om hun last te verlichten, maakt die in de praktijk juist zwaarder.
Eliza Jackson, operationeel directeur bij ButcherBox, beschreef het verschijnsel vanuit haar eigen ervaring.
Uiteindelijk denk je: ‘Wat heb ik eigenlijk gedaan? Heb ik zojuist op 800 chats gereageerd? Heb ik beslissingen genomen waar ik goed over heb nagedacht? Heb ik nagedacht over iets wat ik heb besloten?
Ze voegde eraan toe dat haar organisatie actief probeert meer tijd voor reflectie in te bouwen, maar erkende dat ze nog uitzoeken hoe.
Verschraling van vaardigheden werkt volgens een langzamer tijdschema. Uit een onderzoek van Microsoft Research en Carnegie Mellon University, dat vorig jaar op de CHI Conference werd gepresenteerd en gebaseerd was op 936 praktijkvoorbeelden van 319 kenniswerkers, bleek dat meer vertrouwen in AI-tools consequent samenhing met minder kritisch denkvermogen.
Werknemers zagen niet af van analyse. Ze vertrouwden op de uitvoer en gingen verder. Uit het onderzoek bleek ook dat AI-gebruik het karakter van kritisch denken verandert: van het genereren van analyses naar het verifiëren ervan. Dat klinkt misschien als aanpassing, maar het is een vernauwing. Wanneer de AI het bij het verkeerde eind heeft, is de vraag of werknemers nog voldoende zelfstandig beoordelingsvermogen hebben om dat op te merken.
De klinische variant van deze dynamiek is in de praktijk al gedocumenteerd. Vivienne Ming, theoretisch neurowetenschapper en AI-onderzoeker, verwijst naar een onderzoek onder gastro-enterologen die AI-ondersteunde colonoscopiesystemen gebruiken. Toen die systemen werden uitgeschakeld, presteerden de artsen aantoonbaar slechter dan voordat ze überhaupt AI gebruikten.
Het maakt hen beter wanneer ze het gebruiken, maar daarna zijn ze dramatisch slechter.
Het risico betreft niet alleen de huidige prestaties, maar ook de bekwaamheid die op de achtergrond afneemt terwijl de tool het werk doet.
Overmatige afhankelijkheid is het onderliggende patroon bij beide. Wanneer werknemers zich verlaten op AI-uitvoer, zelfs wanneer de tool onbetrouwbaar is of buiten zijn competentie opereert, stapelen individuele fouten zich op. Binnen een personeelsbestand dat dezelfde uitvoer volgt naar dezelfde beslissingen, schalen ze op.
Op individueel niveau is dat een prestatieprobleem. Binnen een personeelsbestand dat dezelfde tools gebruikt voor dezelfde uitkomsten, is het een systemisch probleem.
De governancevraag
Het rapport van MIT Sloan doet een aanbeveling met structurele gevolgen voor de manier waarop CHRO's en COO's worden gepositioneerd bij AI-beslissingen. De gevolgen voor het personeelsbestand moeten worden geëvalueerd als onderdeel van de businesscase voor AI-gebruik, worden ingebouwd in implementatieplannen en vóór de aanschaf worden meegewogen. Zo werken de meeste beslissingen momenteel niet.
De onderzoekers formuleren dit als een verplichting, niet als een suggestie. Organisaties moeten werknemers openlijk informeren over hoe AI hun taken zal veranderen of overbodig zal maken, hoe ondersteuning bij de overgang eruitziet en hoe die beslissingen tot stand zijn gekomen. Niet als een vorm van hoffelijkheid, schrijven ze, maar als een kernverantwoordelijkheid op het gebied van governance.
De verantwoordelijkheidskloof die hierdoor ontstaat, is reëel. CHRO's zijn doorgaans verantwoordelijk voor resultaten op het gebied van mensen, maar zitten zelden aan tafel wanneer AI-tools worden geselecteerd. Technologieverantwoordelijken beheren de technologiestack, maar niet de daaruit voortvloeiende erosie van vaardigheden binnen het personeelsbestand dat deze gebruikt.
Operationeel leidinggevenden volgen prestaties, maar beschikken vaak niet over een kader om de achteruitgang van bekwaamheden te monitoren die aan een prestatiedaling voorafgaat.
De termen die MIT Sloan heeft benoemd, zijn juist nuttig omdat ze specifiek genoeg zijn om eigenaarschap toe te wijzen en gedetailleerd genoeg om te meten.
Overmatige afhankelijkheid is niet hetzelfde risico als machteloosmaking. Voor elk van beide zijn op het moment van implementatie andere governancevragen nodig, evenals een andere verantwoordelijke binnen de organisatie.
Bij de meeste bedrijven bestaan geen van die verantwoordelijken nog.
Het onderzoek schrijft geen organisatiestructuur voor. Wat het wel doet, duidelijk en met het gewicht van vijf jaar gegevens over verantwoorde AI erachter, is de leemte benoemen.
Bij go/no-go-beslissingen zouden deze vragen aan de orde moeten komen. Voordat het contract wordt ondertekend, voordat de uitrol begint, voordat de eerste trainingssessie plaatsvindt, moet iemand in de organisatie zich afvragen wat deze tool zal doen met het beoordelingsvermogen van de mensen die ermee werken en voorkomen dat AI-gebruik een prestatiemaatstaf wordt.
Op dit moment hebben de meeste organisaties geen antwoord op de vraag wie die persoon is.
