Det finnes et navn på det som skjer med de ansattes dømmekraft
Overdreven avhengighet: For stor avhengighet av AI-verktøy kan føre til betydelige negative konsekvenser for arbeidsstyrken.
Svekkede ferdigheter: Avhengighet av AI kan svekke kritiske tenkeferdigheter og redusere de ansattes evne til å analysere informasjon selvstendig.
Påvirkning på arbeidsstyrken: Organisasjoner må vurdere hvordan AI-implementering påvirker de ansatte, som en del av beslutningsprosessen for teknologi.
Det skjer ting med ansatte når AI-verktøy sprer seg i organisasjoner, og på et tidspunkt blir spørsmålet om ledergruppen din har språk for det som skjer?
Ingen grunn til bekymring. En rapport publisert forrige måned av MIT Sloan Management Review og Boston Consulting Group har det.
Artikkelen «Utover modellen: Hvorfor ansvarlig AI må ta hensyn til påvirkningen på arbeidsstyrken,» er den femte årlige studien om ansvarlig AI fra de to institusjonene, basert på globale undersøkelser blant ledere og kuraterte ekspertpaneler.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Tidligere år har forskningen fokusert på styringsmodenhet, risiko knyttet til tredjeparter og ansvarsstrukturer. I år vendte forskerne oppmerksomheten mot noe mer umiddelbart: hva implementering av AI i virksomheter gjør med menneskene som bruker teknologien.
De identifiserte fem effekter.
- Overdreven avhengighet
- Ferdighetsforvitring
- Avmakt
- Intensivering av arbeidet
- «AI-hjernetrøbbel».
Argumentet fra forfatterne Elizabeth Renieris, David Kiron, Steven Mills og Anne Kleppe er direkte når de sier at dette ikke er hypotetiske risikoer eller særtilfeller. Det er målbare resultater for arbeidsstyrken som bør inngå i beslutninger om hvorvidt man skal gå videre eller ikke, før en organisasjon forplikter seg til et spesifikt AI-verktøy.
Dette språket fra produktvurderinger er bevisst valgt. De sier at påvirkningen på arbeidsstyrken hører hjemme i den samme analysen som teknisk ytelse, samsvar med regelverk og totalkostnad, og at den i dag ikke er inkludert der.
Dette viser forskningen
Den mest presist målte av de fem effektene er det de kaller «AI-hjernetrøbbel», et begrep som kom inn i forskningslitteraturen i mars gjennom en studie fra BCG og University of California, Riverside, publisert i Harvard Business Review.
Forskerne definerte det som mental utmattelse som følge av overdreven bruk av, samhandling med eller overvåking av AI-verktøy utover en ansatts kognitive kapasitet.
Tallene fra studien viser at 14 % av arbeidstakerne som brukte AI, oppga at de hadde opplevd dette.
Arbeidstakere med hjernetrøbbel gjorde 39 % flere alvorlige feil enn de som ikke hadde det. Produktiviteten begynte å synke når ansatte håndterte mer enn tre AI-verktøy samtidig. Den mest kognitivt krevende formen for AI-bruk var ikke kompleksiteten i instruksjonene eller mengden resultater, men overvåkingen. Ansatte som overvåket AI-systemer, rapporterte 12 % mer mental utmattelse enn de som ikke gjorde det, og 19 % større informasjonsbelastning.
Gruppene som ble mest berørt, arbeidet med markedsføring, programvareutvikling, personalressurser, økonomi og IT. Dette er ikke perifere funksjoner.
Paradokset forskerne identifiserte, er viktig for enhver COO eller CHRO som tenker på planlegging av arbeidsstyrken. De ansatte som har størst risiko for hjernetrøbbel, er ofte de tidlige brukerne – personene som er mest entusiastiske for AI.
De bruker flere verktøy, overvåker flere resultater og tar på seg mer kognitiv belastning i prosessen. Teknologien som er utviklet for å redusere belastningen deres, øker den i praksis.
Eliza Jackson, Chief Operating Officer i ButcherBox, beskrev fenomenet fra innsiden.
Til slutt tenker du: «Hva gjorde jeg egentlig? Svarte jeg nettopp på 800 chatter? Tok jeg noen gjennomtenkte beslutninger? Tenkte jeg over noe av det jeg bestemte?
Hun la til at organisasjonen hennes aktivt forsøker å legge inn mer tid til refleksjon, men erkjente at de fortsatt prøver å finne ut hvordan.
Ferdighetsforvitring skjer over lengre tid. En studie fra Microsoft Research og Carnegie Mellon University, som ble presentert på CHI-konferansen i fjor og bygget på 936 eksempler fra virkeligheten hentet fra 319 kunnskapsarbeidere, fant at større tillit til AI-verktøy konsekvent hang sammen med mindre kritisk tenkning.
Arbeidstakerne valgte ikke bort analyse. De stolte på resultatet og gikk videre. Studien viste også at bruk av AI endrer karakteren til kritisk tenkning, fra å utarbeide analyser til å kontrollere dem. Det kan høres ut som tilpasning, men det innebærer en innsnevring. Når AI tar feil, er spørsmålet om de ansatte fortsatt har nok selvstendig dømmekraft til å oppdage det.
Den kliniske versjonen av denne dynamikken er allerede dokumentert i praksis. Vivienne Ming, teoretisk nevroforsker og AI-forsker, viser til en studie av gastroenterologer som bruker AI-assisterte koloskopisystemer. Da disse systemene ble slått av, presterte legene målbart dårligere enn de hadde gjort før de i det hele tatt begynte å bruke AI.
Det gjør dem bedre når de bruker det, men etterpå er de dramatisk dårligere.
Risikoen gjelder ikke bare nåværende prestasjoner, men også ferdighetene som svekkes i bakgrunnen mens verktøyet gjør jobben.
Overavhengighet er mønsteret som ligger under begge deler. Når medarbeidere stoler på AI-resultater selv når verktøyet er upålitelig eller brukes utenfor kompetanseområdet sitt, forsterkes individuelle feil. Når en hel arbeidsstyrke følger de samme resultatene mot de samme beslutningene, skalerer feilene.
På individnivå er det et prestasjonsproblem. På tvers av en arbeidsstyrke som bruker de samme verktøyene mot de samme resultatene, er det et systemisk problem.
Spørsmålet om styring
MIT Sloan-rapporten kommer med en anbefaling som har strukturelle konsekvenser for hvordan CHRO-er og COO-er involveres i AI-beslutninger. Konsekvensene for arbeidsstyrken må vurderes som en del av forretningsgrunnlaget for bruk av AI, bygges inn i implementeringsplanene og tas i betraktning før anskaffelser. Slik fungerer de fleste beslutninger ikke i dag.
Forskerne fremstiller dette som en forpliktelse, ikke et forslag. Organisasjoner bør kommunisere åpent med medarbeiderne om hvordan AI vil endre eller eliminere arbeidsoppgavene deres, hva støtte i overgangsperioden innebærer, og hvordan beslutningene ble tatt. Ikke som en høflighetsgest, skriver de, men som et sentralt styringsansvar.
Ansvarlighetsgapet som dette skaper, er reelt. CHRO-er har vanligvis ansvaret for resultatene knyttet til medarbeiderne, men sitter sjelden rundt bordet når AI-verktøy velges. Teknologiledere eier teknologistakken, men ikke den påfølgende svekkelsen av ferdighetene i arbeidsstyrken som bruker den.
Operasjonelle ledere følger med på prestasjonene, men mangler ofte et rammeverk for å overvåke svekkelsen av ferdigheter som kommer før prestasjonsnedgangen.
Begrepene MIT Sloan har identifisert, er nyttige nettopp fordi de er tilstrekkelig spesifikke til å plassere ansvar og tilstrekkelig detaljerte til å kunne måles.
Overavhengighet innebærer ikke den samme risikoen som tap av handlingskraft. Hver av dem krever ulike styringsspørsmål på implementeringstidspunktet, og en annen ansvarlig i organisasjonen.
For de fleste selskaper finnes ingen av disse ansvarlige ennå.
Forskningen foreskriver ikke et organisasjonskart. Det den gjør, tydelig og med tyngden av fem års data om ansvarlig AI i ryggen, er å sette navn på gapet.
Beslutninger om å gå videre eller ikke er stedet der disse spørsmålene bør komme opp. Før kontrakten signeres, før utrullingen begynner, før den første opplæringen, må noen i organisasjonen spørre hva dette verktøyet vil gjøre med dømmekraften til menneskene som bruker det, og hindre at bruk av AI blir en prestasjonsmåling.
Akkurat nå har de fleste organisasjoner ikke noe svar på hvem denne personen er.
