Det finns ett namn för det som händer med dina medarbetares omdöme
Överdrivet beroende: Ett alltför stort beroende av AI-verktyg kan leda till betydande negativa konsekvenser för arbetskraften.
Försvagade färdigheter: Beroende av AI kan urholka det kritiska tänkandet och minska medarbetarnas förmåga att analysera information självständigt.
Påverkan på arbetskraften: Organisationer måste utvärdera hur AI-implementering påverkar medarbetarna som en del av sin tekniska beslutsprocess.
Det händer saker med medarbetare när AI-verktyg sprids inom organisationer, och vid någon punkt blir frågan: har ert ledningsteam ett språk för det som händer?
Oroa er inte. En rapport som publicerades förra månaden av MIT Sloan Management Review och Boston Consulting Group har det.
Rapporten, "Bortom modellen: varför ansvarsfull AI måste hantera påverkan på arbetskraften," är den femte årliga studien om ansvarsfull AI från de två institutionerna och bygger på globala enkäter bland företagsledare samt utvalda expertpaneler.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Tidigare år fokuserade forskningen på styrningsmognad, tredjepartsrisker och ansvarsstrukturer. I år riktade forskarna blicken mot något mer omedelbart: vad implementering av AI i företag gör med de människor som använder den.
De identifierade fem effekter.
- Överdriven tillit
- Försvagade färdigheter
- Minskad egenmakt
- Intensifierat arbete
- "AI-hjärntrötthet."
Författarna Elizabeth Renieris, David Kiron, Steven Mills och Anne Kleppe är tydliga när de säger att detta inte är hypotetiska risker eller specialfall. Det är mätbara konsekvenser för arbetskraften som bör vägas in i beslut om huruvida man ska gå vidare eller avstå, innan en organisation satsar på ett specifikt AI-verktyg.
Detta språk för produktutvärdering är avsiktligt. De menar att påverkan på arbetskraften hör hemma i samma analys som teknisk prestanda, efterlevnad och totalkostnad, och att den för närvarande inte gör det.
Vad forskningen visar
Den mest exakt uppmätta av de fem effekterna är det som de kallar "AI-hjärntrötthet", ett begrepp som kom in i forskningslitteraturen i mars genom en studie från BCG och University of California, Riverside, publicerad i Harvard Business Review.
Forskarna definierade det som mental trötthet till följd av överdriven användning av, interaktion med eller övervakning av AI-verktyg bortom en medarbetares kognitiva kapacitet.
Siffrorna från studien visar att 14 % av de arbetstagare som använde AI uppgav att de hade upplevt det.
Arbetstagare med hjärntrötthet gjorde 39 % fler allvarliga misstag än de som inte hade det. Produktiviteten började minska när medarbetare hanterade fler än tre AI-verktyg samtidigt. Den mest kognitivt krävande formen av AI-användning var inte komplexiteten i instruktionerna eller mängden utdata, utan övervakningen. Medarbetare som övervakade AI-system rapporterade 12 % mer mental trötthet än de som inte gjorde det, samt 19 % större informationsöverbelastning.
De grupper som påverkades mest arbetade inom marknadsföring, programvaruutveckling, personalresurser, ekonomi och IT. Det är inte perifera funktioner.
Den paradox som forskarna identifierade är betydelsefull för alla operativa chefer eller personalchefer som funderar på personalplanering. De medarbetare som löper störst risk för hjärntrötthet tenderar att vara tidiga användare, alltså de personer som är mest entusiastiska över AI.
De använder fler verktyg, övervakar fler resultat och tar samtidigt på sig en större kognitiv belastning. Tekniken som är utformad för att minska deras börda gör i praktiken bördan större.
Eliza Jackson, operativ chef på ButcherBox, beskrev fenomenet utifrån sina egna erfarenheter.
\u0022Till slut tänker man: ‘Vad gjorde jag ens? Svarade jag precis på 800 chattar? Fattade jag några genomtänkta beslut? Tänkte jag över något av det jag beslutade?\u0022
Hon tillade att organisationen aktivt försöker skapa mer tid för reflektion, men medgav att de fortfarande försöker komma fram till hur.
Försvagade färdigheter utvecklas över en längre tidsperiod. En studie från Microsoft Research och Carnegie Mellon University, som presenterades vid CHI-konferensen förra året och byggde på 936 verkliga exempel från 319 kunskapsarbetare, visade att större tillit till AI-verktyg konsekvent var förknippad med mindre kritiskt tänkande.
Arbetstagarna valde inte bort analys. De litade på resultatet och gick vidare. Studien visade också att AI-användning förändrar det kritiska tänkandets karaktär, från att skapa analyser till att verifiera dem. Det kan låta som anpassning, men innebär en begränsning. När AI:n har fel är frågan om medarbetarna fortfarande har tillräckligt gott självständigt omdöme för att upptäcka det.
Den kliniska versionen av denna dynamik har redan dokumenterats i praktiken. Vivienne Ming, teoretisk neurovetare och AI-forskare, hänvisar till en studie av gastroenterologer som använder AI-assisterade koloskopisystem. När dessa system stängdes av presterade läkarna mätbart sämre än de hade gjort innan de över huvud taget började använda AI.
De blir bättre när de använder det, men sedan är de dramatiskt sämre efteråt.
Risken handlar inte bara om den aktuella prestationen, utan om den förmåga som i bakgrunden urholkas medan verktyget utför arbetet.
Överdriven tillit är det underliggande mönstret i båda fallen. När medarbetare förlitar sig på AI-resultat även när verktyget är opålitligt eller används utanför sitt kompetensområde, ackumuleras individuella fel. När en hel arbetsstyrka följer samma resultat mot samma beslut skalas felen upp.
På individnivå är det ett prestationsproblem. För en arbetsstyrka som använder samma verktyg för att nå samma resultat är det ett systemproblem.
Frågan om styrning
MIT Sloan-rapporten innehåller en rekommendation som har strukturella konsekvenser för hur CHRO:er och COO:er positioneras i AI-beslut. Påverkan på arbetsstyrkan måste utvärderas som en del av affärsunderlaget för AI-användning, byggas in i implementeringsplanerna och beaktas före upphandling. Så fungerar de flesta beslut inte i dag.
Forskarna beskriver detta som en skyldighet, inte ett förslag. Organisationer bör öppet kommunicera med medarbetare om hur AI kommer att förändra eller eliminera deras arbetsuppgifter, vilket omställningsstöd som erbjuds och hur besluten fattades. Inte som en artighet, skriver de, utan som ett centralt ansvar för styrningen.
Det ansvarsgap som detta skapar är verkligt. CHRO:er ansvarar vanligtvis för personalrelaterade resultat men har sällan en plats vid bordet när AI-verktyg väljs. Teknikansvariga ansvarar för teknikstacken men inte för den efterföljande kompetensförlusten hos den arbetsstyrka som använder den.
Operativa ledare följer upp prestationen men saknar ofta ett ramverk för att övervaka den försämrade förmågan som föregår prestationsnedgången.
De begrepp som MIT Sloan har definierat är användbara just eftersom de är tillräckligt specifika för att tilldela ansvar och tillräckligt detaljerade för att kunna mätas.
Överdriven tillit är inte samma risk som förlust av handlingskraft. Var och en kräver olika styrningsfrågor vid implementeringen och en annan ansvarig inom organisationen.
För de flesta företag finns ingen av dessa ansvariga ännu.
Forskningen föreskriver inget organisationsschema. Det den gör, tydligt och med tyngden från fem års data om ansvarsfull AI bakom sig, är att synliggöra gapet.
Beslut om att gå vidare eller avstå är där dessa frågor bör komma upp. Innan avtalet undertecknas, innan utrullningen börjar och innan den första utbildningen, måste någon i organisationen fråga vad detta verktyg kommer att göra med omdömet hos de personer som använder det och förhindra att AI-användning blir ett prestationsmått.
Just nu har de flesta organisationer inget svar på vem denna person är.
