Der’er et navn for det, der sker med dine medarbejderes dømmekraft
Overdreven afhængighed: En for stor afhængighed af AI-værktøjer kan føre til betydelige negative konsekvenser for arbejdsstyrken.
Kompetenceforringelse: Afhængighed af AI kan svække kritiske tænkeevner og reducere medarbejdernes evne til at analysere information selvstændigt.
Påvirkning af arbejdsstyrken: Organisationer skal vurdere, hvordan implementering af AI påvirker medarbejderne, som en del af deres teknologiske beslutningsproces.
Der sker ting med medarbejderne, efterhånden som AI-værktøjer spreder sig i organisationer, og på et tidspunkt bliver spørgsmålet, om jeres ledelsesteam har et sprog for det, der sker?
Der er ingen grund til bekymring. En rapport, der blev offentliggjort i sidste måned af MIT Sloan Management Review og Boston Consulting Group, har svaret.
Artiklen, "Ud over modellen: Hvorfor ansvarlig AI skal tage højde for påvirkningen af arbejdsstyrken," er den femte årlige undersøgelse af ansvarlig AI fra de to institutioner og bygger på globale spørgeskemaundersøgelser blandt ledere samt kuraterede ekspertpaneler.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
De foregående år fokuserede forskningen på modenhed inden for styring, risici hos tredjeparter og ansvarlighedsstrukturer. I år rettede forskerne blikket mod noget mere umiddelbart: Hvad gør implementeringen af AI i virksomheder ved de mennesker, der bruger den?
De identificerede fem effekter.
- Overdreven afhængighed
- Færdighedsnedbrydning
- Tab af handlekraft
- Intensivering af arbejdet
- "AI-hjerneoverbelastning."
Argumentet fra forfatterne Elizabeth Renieris, David Kiron, Steven Mills og Anne Kleppe er direkte, når de siger, at dette ikke er hypotetiske risici eller særtilfælde. Det er målbare resultater for arbejdsstyrken, som bør indgå i beslutninger om, hvorvidt man skal gå videre eller lade være, før en organisation forpligter sig til et bestemt AI-værktøj.
Dette sprog fra produktevalueringer er bevidst valgt. De siger, at påvirkningen af arbejdsstyrken bør indgå i den samme analyse som teknisk ydeevne, overensstemmelse med krav og samlede omkostninger, og at den i øjeblikket ikke gør det.
Hvad forskningen viser
Den mest præcist målte af de fem effekter er det, de kalder "AI-hjerneoverbelastning", et begreb, der kom ind i forskningslitteraturen i marts gennem en undersøgelse fra BCG og University of California, Riverside, som blev offentliggjort i Harvard Business Review.
Forskerne definerede det som mental træthed som følge af overdreven brug af, interaktion med eller overvågning af AI-værktøjer ud over en medarbejders kognitive kapacitet.
Tallene fra undersøgelsen viser, at 14 % af de medarbejdere, der brugte AI, angav, at de havde oplevet det.
Medarbejdere med hjerneoverbelastning begik 39 % flere alvorlige fejl end dem, der ikke oplevede det. Produktiviteten begyndte at falde, når medarbejderne håndterede mere end tre AI-værktøjer samtidigt. Den mest kognitivt krævende form for AI-engagement var ikke kompleksiteten af instruktionerne eller mængden af output, men overvågningen. Medarbejdere, der overvågede AI-systemer, rapporterede 12 % mere mental træthed end dem, der ikke gjorde, samt 19 % større informations-overbelastning.
De mest berørte grupper arbejdede inden for marketing, softwareudvikling, personale, økonomi og IT. Det er ikke perifere funktioner.
Det paradoks, forskerne identificerede, er vigtigt for enhver COO eller CHRO, der overvejer planlægning af arbejdsstyrken. De medarbejdere, der har størst risiko for hjerneoverbelastning, har en tendens til at være de tidlige brugere, altså de mennesker, der er mest begejstrede for AI.
De bruger flere værktøjer, overvåger mere output og påtager sig i processen en større kognitiv belastning. Den teknologi, der er designet til at reducere deres byrde, øger den i praksis.
Eliza Jackson, driftschef hos ButcherBox, beskrev fænomenet indefra.
Man ender med at tænke: ‘Hvad har jeg overhovedet lavet? Har jeg lige svaret på 800 chats? Har jeg truffet nogen beslutninger, der ikke var velovervejede? Har jeg tænkt over noget af det, jeg besluttede?
Hun tilføjede, at hendes organisation aktivt forsøger at indarbejde mere tid til refleksion, men erkendte, at de stadig arbejder på at finde ud af hvordan.
Færdighedsnedbrydning foregår over længere tid. En undersøgelse fra Microsoft Research og Carnegie Mellon University, som blev præsenteret på CHI-konferencen sidste år og byggede på 936 eksempler fra den virkelige verden blandt 319 vidensarbejdere, viste, at større tillid til AI-værktøjer konsekvent var forbundet med mindre kritisk tænkning.
Medarbejderne fravalgte ikke analyse. De stolede på outputtet og gik videre. Undersøgelsen viste også, at brugen af AI ændrer den kritiske tænknings karakter fra at generere analyser til at verificere dem. Det lyder måske som tilpasning, men det er en indsnævring. Når AI'en tager fejl, er spørgsmålet, om medarbejderne stadig har tilstrækkelig selvstændig dømmekraft til at opdage det.
Den kliniske version af denne dynamik er allerede blevet dokumenteret i praksis. Vivienne Ming, teoretisk neuroforsker og AI-forsker, henviser til et studie af gastroenterologer, der anvender AI-assisterede koloskopisystemer. Da disse systemer blev slået fra, præsterede lægerne målbart dårligere, end de havde gjort, før de overhovedet begyndte at bruge AI.
Det gør dem bedre, når de bruger det, men bagefter er de markant dårligere.
Risikoen handler ikke kun om den aktuelle præstation, men også om de evner, der gradvist forringes i baggrunden, mens værktøjet udfører arbejdet.
Overafhængighed er det underliggende mønster i begge tilfælde. Når medarbejdere stoler på AI-resultater, selv når værktøjet er upålideligt eller arbejder uden for sit kompetenceområde, forstærkes de individuelle fejl. På tværs af en arbejdsstyrke, der følger de samme resultater frem mod de samme beslutninger, bliver de opskaleret.
På individniveau er det et præstationsproblem. På tværs af en arbejdsstyrke, der bruger de samme værktøjer til at nå frem til de samme resultater, er det et systemisk problem.
Spørgsmålet om styring
MIT Sloan-rapporten kommer med en anbefaling, der har strukturelle konsekvenser for, hvordan CHRO'er og COO'er indgår i AI-beslutninger. Konsekvenserne for arbejdsstyrken skal vurderes som en del af forretningsgrundlaget for brugen af AI, indarbejdes i implementeringsplanerne og overvejes før indkøb. Det er ikke sådan, de fleste beslutninger træffes i dag.
Forskerne fremstiller dette som en forpligtelse, ikke et forslag. Organisationer bør kommunikere åbent med medarbejderne om, hvordan AI vil omforme eller eliminere deres opgaver, hvad støtte til overgangen indebærer, og hvordan disse beslutninger blev truffet. Ikke som en høflighed, skriver de, men som et centralt ansvar for styring.
Det ansvarlighedsgab, som dette skaber, er reelt. CHRO'er har typisk ansvaret for resultater, der vedrører medarbejderne, men sidder sjældent med ved bordet, når AI-værktøjer vælges. Teknologiledere har ansvaret for teknologistakken, men ikke for den efterfølgende forringelse af kompetencerne hos den arbejdsstyrke, der bruger den.
Driftsledere følger resultaterne, men mangler ofte en ramme til at overvåge den forringelse af kompetencer, der går forud for et præstationsfald.
De begreber, MIT Sloan har identificeret, er nyttige netop fordi de er tilstrækkeligt specifikke til at placere ansvaret og tilstrækkeligt detaljerede til at kunne måles.
Overafhængighed indebærer ikke den samme risiko som myndighedstab. Hver af dem kræver forskellige spørgsmål om styring på implementeringstidspunktet og en anden ansvarlig internt i organisationen.
For de fleste virksomheder findes ingen af disse ansvarlige endnu.
Forskningen foreskriver ikke et organisationsdiagram. Det, den gør, klart og med vægten af fem års data om ansvarlig AI bag sig, er at tydeliggøre gabet.
Go/ikke-go-beslutninger er det sted, hvor disse spørgsmål bør komme frem. Før kontrakten underskrives, før udrulningen begynder, før den første træningssession har nogen i organisationen brug for at spørge, hvad dette værktøj vil gøre ved dømmekraften hos de mennesker, der anvender det, og forhindre, at brugen af AI bliver en præstationsmåling.
Lige nu har de fleste organisationer ikke noget svar på, hvem denne person er.
