Työntekijöidesi harkinnan rapautumiselle on nimi
Liiallinen riippuvuus: Liiallinen tukeutuminen tekoälytyökaluihin voi johtaa merkittäviin kielteisiin vaikutuksiin työvoimassa.
Taitojen rapautuminen: Riippuvuus tekoälystä voi heikentää kriittisen ajattelun taitoja ja vähentää työntekijöiden kykyä analysoida tietoa itsenäisesti.
Vaikutukset työvoimaan: Organisaatioiden on arvioitava tekoälyn käyttöönoton vaikutuksia työntekijöihin osana teknologiaa koskevaa päätöksentekoprosessiaan.
Työntekijöille tapahtuu monenlaista, kun tekoälytyökalut leviävät organisaatioissa, ja jossain vaiheessa herää kysymys: onko johtoryhmälläsi sanoja kuvaamaan sitä, mitä tapahtuu?
Ei hätää. MIT Sloan Management Review’n ja Boston Consulting Groupin viime kuussa julkaisema raportti tarjoaa niitä.
Raportti, ”Mallin tuolla puolen: miksi vastuullisen tekoälyn on huomioitava työvoimavaikutukset,” on instituutioiden viides vuosittainen vastuullista tekoälyä käsittelevä tutkimus, joka perustuu maailmanlaajuisiin johtajakyselyihin ja valikoitujen asiantuntijoiden paneeleihin.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Aiemmat tutkimukset keskittyivät hallinnon kypsyyteen, kolmansien osapuolten riskeihin ja vastuurakenteisiin. Tänä vuonna tutkijat suuntasivat huomionsa johonkin välittömämpään: siihen, mitä tekoälyn käyttöönotto yrityksissä tekee sitä käyttäville ihmisille.
He nimesivät viisi vaikutusta.
- Liiallinen riippuvuus
- Taitojen rappeutuminen
- Vaikutusmahdollisuuksien heikkeneminen
- Työn intensiivistyminen
- ”Tekoälyaivojen ylikuormitus.”
Kirjoittajat Elizabeth Renieris, David Kiron, Steven Mills ja Anne Kleppe esittävät asian suoraan sanoessaan, etteivät nämä ole hypoteettisia riskejä tai poikkeustapauksia. Ne ovat mitattavia työvoimavaikutuksia, jotka pitäisi ottaa huomioon ennen kuin organisaatio sitoutuu mihinkään tiettyyn tekoälytyökaluun ja tekee päätöksen sen käyttöönotosta tai käyttöönotosta luopumisesta.
Tämä tuotteen arviointiin liittyvä sanamuoto on tarkoituksellinen. He sanovat, että työvoimavaikutukset kuuluvat samaan analyysiin teknisen suorituskyvyn, vaatimustenmukaisuuden ja kokonaiskustannusten kanssa – ja että ne eivät tällä hetkellä kuulu siihen.
Mitä tutkimus osoittaa
Viidestä vaikutuksesta tarkimmin mitattu on se, mitä he kutsuvat ”tekoälyaivojen ylikuormitukseksi”. Termi tuli tutkimuskirjallisuuteen maaliskuussa BCG:n ja Kalifornian yliopiston Riversiden kampuksen tutkimuksen myötä. Tutkimus julkaistiin Harvard Business Review’ssa.
Tutkijat määrittelivät sen liiallisesta tekoälytyökalujen käytöstä, niiden kanssa vuorovaikutuksesta tai niiden valvonnasta aiheutuvaksi henkiseksi väsymykseksi, joka ylittää työntekijän kognitiivisen kapasiteetin.
Tutkimuksen lukujen mukaan 14 % tekoälyä käyttävistä työntekijöistä ilmoitti kokeneensa sitä.
Tekoälyaivojen ylikuormituksesta kärsineet työntekijät tekivät 39 % enemmän vakavia virheitä kuin ne, jotka eivät kärsineet siitä. Tuottavuus alkoi laskea, kun työntekijät käyttivät samanaikaisesti yli kolmea tekoälytyökalua. Kognitiivisesti kuormittavin tekoälyn käytön muoto ei liittynyt kehotteiden monimutkaisuuteen tai tuotosten määrään, vaan valvontaan. Tekoälyjärjestelmiä valvovat työntekijät ilmoittivat 12 % enemmän henkistä väsymystä kuin ne, jotka eivät valvoneet niitä, ja heidän kokemansa tietotulva oli 19 % suurempi.
Eniten vaikutuksia kokivat markkinoinnin, ohjelmistokehityksen, henkilöstöhallinnon, rahoituksen ja IT:n parissa työskentelevät. Nämä eivät ole organisaation sivutoimintoja.
Tutkijoiden tunnistama paradoksi on merkittävä jokaiselle operatiiviselle johtajalle tai henkilöstöjohtajalle, joka pohtii työvoimasuunnittelua. Eniten tekoälyaivojen ylikuormituksen vaarassa ovat yleensä varhaiset omaksujat eli ihmiset, jotka suhtautuvat tekoälyyn kaikkein innostuneimmin.
He käyttävät enemmän työkaluja, valvovat useampia tuotoksia ja kuormittavat samalla kognitiivista kapasiteettiaan enemmän. Heidän kuormitustaan vähentämään suunniteltu teknologia itse asiassa lisää sitä.
ButcherBoxin operatiivinen johtaja Eliza Jackson kuvasi ilmiötä omakohtaisesti.
Lopulta huomaat ajattelevasi: ’Mitä minä edes tein? Vastasinko juuri 800 keskusteluun? Teinkö yhtään harkittua päätöstä? Ajattelinko mitään niistä asioista, joista päätin?’
Hän lisäsi, että hänen organisaationsa pyrkii aktiivisesti järjestämään enemmän aikaa pohdinnalle, mutta myönsi, että he vielä selvittävät, miten se toteutetaan.
Taitojen rappeutuminen etenee hitaammin. Microsoft Researchin ja Carnegie Mellon -yliopiston tutkimuksessa, joka esiteltiin viime vuonna CHI-konferenssissa ja joka perustui 936 tosielämän esimerkkiin 319 tietotyöntekijältä, havaittiin, että suurempi luottamus tekoälytyökaluihin liittyi johdonmukaisesti vähäisempään kriittiseen ajatteluun.
Työntekijät eivät jättäneet analysointia väliin. He luottivat tuotokseen ja jatkoivat eteenpäin. Tutkimuksessa havaittiin myös, että tekoälyn käyttö muuttaa kriittisen ajattelun luonnetta: analyysin tuottamisesta siirrytään sen tarkistamiseen. Se saattaa kuulostaa sopeutumiselta, mutta todellisuudessa kyse on ajattelun kaventumisesta. Kun tekoäly on väärässä, ratkaisevaa on se, onko työntekijöillä edelleen riittävästi itsenäistä harkintakykyä virheen havaitsemiseen.
Tämän dynamiikan kliininen versio on jo dokumentoitu käytännössä. Vivienne Ming, teoreettinen neurotieteilijä ja tekoälytutkija, viittaa tutkimukseen, jossa tarkasteltiin tekoälyavusteisia kolonoskopiajärjestelmiä käyttäviä gastroenterologeja. Kun järjestelmät kytkettiin pois päältä, lääkärit suoriutuivat mitattavasti heikommin kuin ennen tekoälyn käyttöönottoa.
Se tekee heistä parempia silloin, kun he käyttävät sitä, mutta sen jälkeen he suoriutuvat dramaattisesti heikommin.
Riski ei liity ainoastaan tämänhetkiseen suoriutumiseen, vaan myös kyvykkyyteen, joka rapautuu taustalla työkalun tehdessä työn.
Liiallinen luottamus on molempien ilmiöiden taustalla oleva toimintamalli. Kun työntekijät luottavat tekoälyn tuottamiin tuloksiin silloinkin, kun työkalu on epäluotettava tai toimii osaamisensa ulkopuolella, yksittäiset virheet kumuloituvat. Kun työvoima noudattaa samoja tuloksia kohti samoja päätöksiä, vaikutukset skaalautuvat.
Yksilötasolla kyse on suoriutumisongelmasta. Kun koko työvoima käyttää samoja työkaluja samojen tulosten saavuttamiseen, kyse on systeemisestä ongelmasta.
Hallintokysymys
MIT Sloanin raportti esittää suosituksen, jolla on rakenteellisia vaikutuksia siihen, miten CHRO- ja COO-johtajat asemoidaan tekoälyä koskevissa päätöksissä. Vaikutukset työvoimaan on arvioitava osana tekoälyn käytön liiketoimintaperustetta, sisällytettävä käyttöönottosuunnitelmiin ja otettava huomioon ennen hankintaa. Useimmat päätökset eivät tällä hetkellä toimi näin.
Tutkijat kehystävät tämän velvollisuudeksi, eivät ehdotukseksi. Organisaatioiden tulisi kertoa työntekijöille avoimesti, miten tekoäly muuttaa heidän tehtäviään tai poistaa niitä, miltä siirtymää tukeva apu näyttää ja miten nämä päätökset tehtiin. Heidän mukaansa kyse ei ole kohteliaisuudesta vaan keskeisestä hallintovastuusta.
Tämän synnyttämä vastuuaukko on todellinen. CHRO-johtajat vastaavat tyypillisesti henkilöstöön liittyvistä tuloksista, mutta heitä harvoin kutsutaan pöytään, kun tekoälytyökaluja valitaan. Teknologiajohtajat vastaavat teknologiapinosta, mutta eivät sitä käyttävän työvoiman osaamisen myöhemmästä rapautumisesta.
Operatiiviset johtajat seuraavat suoriutumista, mutta heiltä puuttuu usein viitekehys sellaisen kyvykkyyden heikkenemisen seuraamiseen, joka edeltää suoriutumisen laskua.
MIT Sloanin nimeämät termit ovat hyödyllisiä juuri siksi, että ne ovat riittävän täsmällisiä vastuun osoittamiseen ja riittävän yksityiskohtaisia mitattaviksi.
Liiallinen luottamus ei ole sama riski kuin vaikutusmahdollisuuksien riistäminen. Kumpikin edellyttää erilaisia hallintokysymyksiä käyttöönoton yhteydessä ja eri vastuuhenkilöä organisaation sisällä.
Useimmissa yrityksissä yksikään näistä vastuuhenkilöistä ei vielä ole olemassa.
Tutkimuksessa ei määrätä organisaatiokaaviota. Sen sijaan siinä nimetään selkeästi – viiden vuoden vastuullista tekoälyä koskevan datan painolla – tämä aukko.
Hyväksymis- tai hylkäämispäätöksissä näiden kysymysten pitäisi nousta esiin. Ennen sopimuksen allekirjoittamista, ennen käyttöönoton aloittamista ja ennen ensimmäistä koulutustilaisuutta jonkun organisaatiossa on kysyttävä, mitä tämä työkalu tekee sitä käyttävien ihmisten harkintakyvylle, ja estettävä tekoälyn käytön muuttuminen suoriutumisen mittariksi.
Tällä hetkellä useimmilla organisaatioilla ei ole vastausta siihen, kuka tämä henkilö on.
