Suorituspalautteen paradoksi: milloin tekoäly toimii paremmin salassa
Tekoälyn palaute: Tekoälyn tuottama palaute parantaa työntekijöiden suoriutumista enemmän kuin ihmisen antama palaute, jos sen alkuperää ei paljasteta.
Paljastamisen vaikutus: Kun tekoäly paljastetaan palautteen lähteeksi, vastustus lisääntyy ja suoriutuminen heikkenee luottamusongelmien vuoksi.
Luottamuskriisi: Työntekijöiden luottamus työnantajien tekoälyn käyttöön on vähäistä, ja monet kokevat sen lisäävän puolueellisuutta.
Avoimuusstrategia: Tekoälyn käytöstä palautteenantoprosesseissa on suositeltavaa kertoa avoimesti pitkäaikaisten luottamusongelmien ehkäisemiseksi.
Pitkän aikavälin vaikutus: Avoimuuden ja salaamisen välinen valinta heijastaa organisaation arvoja ja vaikuttaa sen resilienssiin.
Parhaat suorituksen johtamisen järjestelmät toimivat tietyssä mielessä kuin taikatemppu: ne ovat tehokkaimmillaan, kun et tiedä, miten temppu tehdään.
Strategic Management Journal -lehdessä vuonna 2021 julkaistussa tutkimuksessa havaittiin, että tekoälyn tuottama palaute parantaa työntekijöiden suoritusta enemmän kuin ihmisesihenkilön antama palaute. Mikä tässä on juju? Se toimi vain, jos työntekijät luulivat ihmisen kirjoittaneen palautteen. Kun menetelmä paljastetaan, taika katoaa.
Palaute oli johdonmukaisempaa, yksilöllisempää ja objektiivisesti tehokkaampaa suorituksen parantamisessa, mutta kun työntekijät saivat tietää algoritmien tuottaneen heidän suoritustaan koskevat näkemykset, hyödyt katosivat.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Sama palaute, joka paransi tuloksia, kun sen katsottiin olevan ihmisesihenkilön antamaa, aiheutti vastarintaa, heikompaa sitoutumista ja huonompaa suoritusta, kun työntekijät tiesivät sen todellisen lähteen. Tutkijat kutsuivat tätä ”paljastusvaikutukseksi”, eli mitattavissa olevaksi suorituksen heikkenemiseksi, joka aiheutuu yksinomaan siitä, että tiedetään tekoälyn olleen mukana.
Tekoäly suorituksen johtamisessa on nykyään yhä yleisempää, aivan kuten tekoälyn integroiminen muillekin elämänalueille on yleistynyt ChatGPT:n, Clauden ja Geminin kaltaisten tekoälytyökalujen käytön lisääntyessä. Pelkästään käytön yleistyminen ei kuitenkaan tarkoita, että luottamus olisi kasvanut sen mukana.
Tekoälyn käyttöönottoa ohjaaville HR-johtajille tutkijoiden vuonna 2021 paljastama paradoksi luo mahdottoman tilanteen. Ota tekoälypohjaiset palautejärjestelmät käyttöön avoimesti ja luovu suorituskykyhyödyistä. Piilota tekoälyn osallistuminen ja vaaranna katastrofaaliset luottamuksen rikkomukset, kun totuus väistämättä tulee esiin.
Päätös paljastaa jotain perustavanlaatuista siitä, mitä organisaatiot pyrkivät optimoimaan. Ovatko kyseessä tämän vuosineljänneksen luvut vai pitkän aikavälin muutoskyvykkyys?
Luottamuskriisin taustaa
Paljastusvaikutus ei ilmene tyhjiössä. SHL:n tuore tutkimus osoittaa, että vain 27 % työntekijöistä luottaa täysin työnantajansa käyttävän tekoälyä vastuullisesti HR-päätöksissä. Vielä huolestuttavampaa on, että 59 % uskoo tekoälyn pahentavan työpaikan ennakkoluuloja sen sijaan, että se vähentäisi niitä.
Tämä tuo paradoksin entistä terävämmin esiin. Teknologiaan, joka voisi tuottaa parempaa ja vähemmän puolueellista palautetta, ei luota enemmistö työntekijöistä, jotka sitä saisivat. Tutkimus myös viittaa siihen, että heidän epäluottamuksensa toteuttaa itse itseään. Tieto tekoälyn osallistumisesta heikentää heidän suoritustaan riippumatta siitä, onko palaute itsessään objektiivisesti parempaa.
Hogan Assessments -yrityksen, joka työskentelee yli 75 prosentin kanssa Fortune 500 -yrityksistä, tutkimusjohtaja tohtori Ryne Sherman näkee kaksi voimaa työntekijöiden vastarinnan taustalla.
Ensimmäinen on oletus, ettei tekoäly pysty ymmärtämään työpaikan vivahteita. Oletamme, että ihmisesihenkilö ymmärtää suorituksen arvioijana paremmin organisaation toimintaympäristöä ja osaa arvostaa paremmin sellaista suoritusta, joka ei välttämättä näy asioissa, joita tietokoneella on helppo mitata.
Toinen tekijä menee syvemmälle. Kyse ei ole siitä, pystyykö tekoäly arvioimaan suoritusta tarkasti, vaan siitä, mitä tekoälyn käyttö kertoo organisaation tavasta suhtautua ihmisiinsä.
”Inhimillisen panoksen puuttuminen saa työntekijät tuntemaan, että heitä yksinkertaisesti käsitellään kirjaimellisina henkilöresursseina ilman empatiaa tai huolta heidän hyvinvoinnistaan ihmisinä”, Sherman sanoo. ”Tutkimuksemme osoittaa, että tehokkaimmat johtajat osoittavat aitoa huolenpitoa työntekijöistään. Tekoälyn käyttäminen suoritusarviointien tekemiseen antaa ymmärtää, etteivät organisaation johtajat todellisuudessa välitä työntekijöistään.”
Sillä, ovatko nämä oletukset paikkansapitäviä, on vähemmän merkitystä kuin sillä, että ne ovat olemassa. Työntekijöiden käsitykset muokkaavat käyttäytymistä, ja käyttäytyminen muokkaa suoritusta.
Miksi harhaanjohtaminen ei toimi
Organisaatiot, jotka toivovat saavansa tekoälyn suorituskykyhyödyt ilman paljastusvaikutusta, kohtaavat käytännön ongelman: työntekijät tietävät jo.
Edie Goldberg, työ- ja organisaatiopsykologi sekä pian julkaistavan Suorituksen mahdollistaminen -kirjan kirjoittaja, nostaa esiin tunnusmerkit, jotka paljastavat tekoälyn tuottaman palautteen.
Useimmat työntekijät tunnistavat, jos palautteen on kirjoittanut tietokone, kaikkien pitkien ajatusviivojen perusteella. Tällaisesta palautteesta puuttuu usein täsmällisyys, jota esihenkilö voisi tarjota.
Tekoälyn tuottaman tekstin tyylilliset piirteet ovat muuttuneet niin tunnistettaviksi, että sen käytön salaamisen yrittäminen voi olla turhaa. Vaikka organisaatiot eivät ilmoittaisi tekoälyn käytöstä suoraan, työntekijät huomaavat algoritmin jäljet.
Tämä horjuttaa koko salaamisstrategiaa. Jos työntekijät epäilevät tekoälyn käyttöä, mutta heille ei kerrota siitä suoraan, organisaatiot saavat molempien maailmojen huonoimmat puolet: tekoälyn koetun käytön aiheuttaman suoritustason laskun sekä petosyrityksen aiheuttaman luottamuksen rikkoutumisen.
Goldbergin suosittelema lähestymistapa kiertää tämän ristiriidan kokonaan.
Väliä on sillä, miten nämä asiat erotetaan toisistaan. Tekoäly voi yhdistää palautetta useista näkökulmista, kuten kollegoilta, asiakkailta ja sisäisistä viestintäalustoista, sekä liittää siihen sisäisistä järjestelmistä saatavaa kovaa dataa.
"Kaikki nämä tekijät tekevät palautteesta lähtökohtaisesti oikeudenmukaisempaa, koska se ei perustu vain yhden henkilön näkökulmaan", Goldberg sanoo viitaten esihenkilöiden arviointiharhaa koskevaan laajaan tutkimukseen.
Oikeudenmukaisuuden tuoma etu toteutuu kuitenkin vain, jos työntekijät luottavat prosessiin. Goldberg käsittelee tätä työnjaon ongelmana eikä läpinäkyvyysongelmana. Käytä tekoälyä tietojen yhdistämiseen ja mallien tunnistamiseen, joissa se on parhaimmillaan. Jätä ihmisille vastuu asiayhteydestä, täsmällisyydestä ja ihmissuhteisiin liittyvistä näkökohdista, joita työntekijät tarvitsevat voidakseen uskoa palautteen olevan aitoa.
Lopulta ratkaisuna ei ole tekoälyn roolin salaaminen, vaan sen määritteleminen uudelleen.
Läpinäkyvyyden ensisijaisuutta korostava kanta
Suorituksen johtamisen alusta Opren toimitusjohtaja Kate O'Neil rakensi koko tuotteensa salaamiseen perustuvan tekoälylähestymistavan torjumisen varaan. Kaikki Opren käyttäjien saama palaute merkitään selvästi tekoälyn tuottamaksi, eivätkä esihenkilöt tai työntekijät voi muokata sitä ihmisen kirjoittaman näköiseksi.
Tekoälyn tuottaman ja ihmisen tuottaman sisällön välillä ei pitäisi koskaan olla epäselvyyttä. Miten voimme muuten pitää ihmisen mukana prosessissa, jos kukaan ei tiedä, mikä prosessissa on ihmisen ja mikä tekoälyn tuottamaa? Epäselvyys palautteen tuottajasta palvelee lopulta vain esihenkilövastuun hämärtämistä.
Opren suunnittelufilosofia perustuu siihen, mitä O'Neil kutsuu "esihenkilö ja työntekijä vastaan Opre" -dynamiikaksi. Järjestelmä lähettää suoritusta koskevat näkemykset molemmille osapuolille samanaikaisesti, jolloin keskustelulle syntyy yhteinen lähtökohta ylhäältä alas annetun tuomion sijaan.
Seuraavassa kahdenkeskisessä keskustelussa esihenkilö ja työntekijä käyvät läpi, missä Opre oli oikeassa, mitä se ei huomannut ja mitä se saattaa ymmärtää väärin asiayhteydestä.
"Tämä korvaa paljon vähemmän tuottavan dynamiikan, jota näemme nykyään usein: esihenkilö vastaan työntekijä, erityisesti silloin, kun suoritustaso on matala tai suoritusta koskevia keskusteluja vältellään", O'Neil selittää.
O'Neil myöntää kuitenkin, ettei hänellä ole vertailutietoja. "En tiedä, vaikuttiko työntekijöiden tietoisuus siitä, että palaute on tekoälyn tuottamaa, mihinkään, koska minulla ei ole käytettävissäni työntekijäryhmää, joka ei tiennyt palautteen olevan tekoälyn tuottamaa ja johon olisin voinut verrata sitä."
Kun O'Neililtä kysytään, menettääkö hän suoritustason paranemismahdollisuuksia asettamalla läpinäkyvyyden etusijalle, hän vastaa suoraan.
En usko, että tieto palautteen tekoälyperäisyydestä romahduttaa sen tehokkuuden. Uskon, että illuusio palautteen aitoudesta silloin, kun se ei ole aitoa, romahduttaa esihenkilöiden ja heidän tiimiensä välisen luottamuksen ja sosiaaliset sopimukset. Romahdettu luottamus romahduttaa suoritustason.
Hän jatkaa puolueellisuutta koskevasta kysymyksestä. Vaikka tekoälyn tuottama palaute vähentäisi objektiivisesti puolueellisuutta lyhyellä aikavälillä, sen lähteen salaaminen aiheuttaa luottamusongelman, joka lopulta lisää puolueellisuutta ajan myötä.
"Jos tekoälyn tuottama sisältö todella vähentää puolueellisuutta, mutta työntekijät kokevat sen lisäävän puolueellisuutta, pitkän aikavälin vaikutus on luottamuksen rapautuminen", O'Neil selittää. "Esihenkilöt, jotka esittävät tekoälyn tuottaman palautteen omanaan, heikentävät heidän ja tiimiensä välistä luottamusta, mikä johtaa myöhemmin lisääntyvään puolueellisuuteen."
Tämän vuoksi Opren järjestelmä estää esihenkilöitä muokkaamasta tai lieventämästä tekoälyn tuottamia näkemyksiä. Sekä esihenkilö että työntekijä saavat saman palautteen samanaikaisesti, mikä poistaa mahdollisuuden petokseen. Esihenkilöt ja työntekijät voivat lisätä asiayhteyttä tai pyytää järjestelmältä selvennystä, mutta he eivät voi muuttaa sen tuottamaa sisältöä.
Hänen näkemyksensä perustuu myös aikajänteitä koskevaan laskelmaan. Organisaatiot voivat optimoida välittömiä suorituskykymittareita tai kykyä muuttua vuosien kuluessa. Hänen näkemyksensä mukaan nämä kaksi tavoitetta ovat ristiriidassa tekoälyn käyttöönoton yhteydessä.
"Läpinäkymättömyys ei ole suorituskykystrategia", hän sanoo. "Se on lyhyen aikavälin hyödyntämisstrategia. Saatatte saada hetkellisen työpanoksen lisäyksen, kun työntekijät yrittävät selvittää sääntöjä. Pian sen jälkeen menetätte parhaat työntekijänne, uuvutatte loput ja heikennätte kykyänne houkutella uutta osaamista."
Kun luottamus rikkoutuu
Sekä Goldberg että Sherman varoittavat, että tekoälyn käyttöön liittyvällä petoksella on seurauksia, jotka ovat huomattavasti suurempia kuin lyhyen aikavälin suorituskykyhyödyt.
"Luottamus on helppo rikkoa ja erittäin vaikea rakentaa uudelleen", Goldberg sanoo. "Tästä ei ole mitään hyötyä, ainoastaan riskejä."
Tämä varoitus ei ole pelkkää eettistä poseerausta. Sekä Goldberg että Sherman toimivat ympäristöissä, joissa he näkevät rikkoutuneen luottamuksen seuraukset useissa organisaatioissa. Heidän varmuutensa siitä, että petos epäonnistuu, perustuu pikemminkin toistuvien kaavojen tunnistamiseen kuin filosofiaan.
"Organisaatioille on tuhoisaa ryhtyä petollisiin suoritusarviointikäytäntöihin", Sherman varoittaa. "Ensinnäkin minkään kokoisessa organisaatiossa ei ole mitään toivoa siitä, ettei petos tulisi ilmi. Kaikissa organisaatioissa vuotaa tietoa, ja tällainen tieto tulee ehdottomasti julki.
Shermanin arvion mukaan seuraukset olisivat vakavat.
"Kun tämä tieto tulee julki, luottamus organisaatioon romahtaa täysin", hän sanoo. "Henkilöstö protestoi, irtisanoutuu ja, mikä vielä pahempaa, menettää täysin sitoutumisensa."
Hänen suosituksensa tällaisessa tilanteessa oleville organisaatioille ei kaunistele asioita. Työntekijät vaativat vastuunkantoa, mikä todennäköisesti tarkoittaa petokseen osallistuneiden ylimpien johtajien poistamista tehtävistään.
"Senkin jälkeen", hän sanoo, "organisaation on vakavasti harkittava koko suoritusarviointiprosessinsa muuttamista radikaalin läpinäkyväksi, jotta luottamusta voidaan alkaa palauttaa."
Goldbergin neuvo tässä tilanteessa oleville organisaatioille on yksinkertaisempi, mutta johtaa samaan päätelmään.
Mitä valinta paljastaa
Päätöstä siitä, ilmoitetaanko tekoälyn osallistumisesta suorituskyvyn hallintaan, harvoin kuvataan valintana suorituskyvyn ja luottamuksen välillä. Useammin se esitetään teknisenä toteutuskysymyksenä tai muutosjohtamisen haasteena. Tutkimus kuitenkin viittaa siihen, että kyseessä on todellisuudessa organisaation arvojen mittari.
Lyhyen aikavälin suorituskykymittareita optimoivilla yrityksillä on selkeä kannustin salata tekoälyn käyttö. Käyttöönoton vaikutus on todellinen ja mitattavissa.
Pitkän aikavälin muutosta rakentavilla yrityksillä ei ole varaa luottamuksen rikkomiseen, vaikka se tarkoittaisi heikomman välittömän suorituskyvyn hyväksymistä.
Tilanteeseen liittyy myös huolestuttava luokkaulottuvuus, jota alan ammattilaiset harvoin käsittelevät suoraan. Kuka saa tietää tekoälyn käytöstä organisaatioissa, jotka ilmoittavat siitä vain osittain? Saavatko johtajat käyttöönsä läpinäkyvät tekoälyjärjestelmät, kun taas etulinjan työntekijät saavat salattua tekoälypalautetta? Johdon ja työntekijöiden välinen luottamuskuilu on jo valmiiksi suuri. Valikoiva tiedottaminen voisi romahduttaa sen kokonaan.
Shermanin huomio väistämättömästä paljastumisesta ansaitsee korostamista. Aikana, jolloin työntekijät ottavat kuvakaappauksia sisäisestä viestinnästä, julkaisevat nimettömästi yritysten arvostelusivustoilla ja järjestäytyvät yksityisillä Slack-kanavilla, ajatus siitä, että tekoälyn käyttö suoritusarvioinneissa voisi pysyä salassa, on epärealistinen.
Kun tähän lisätään Goldbergin havainto siitä, että työntekijät pystyvät jo tunnistamaan tekoälyn tuottaman tekstin sen tunnusomaisten piirteiden perusteella, asian salaamiseen tähtäävä lähestymistapa näyttää vähemmän strategialta ja enemmän viivytystaktiikalta.
Kysymys ei ole siitä, saavatko työntekijät tietää, vaan siitä, mitä tapahtuu, kun he saavat.
AI Transparency in Performance Management
Erilainen sovellus
Goldberg näkee tekoälyn todellisen lupauksen suorituskyvyn hallinnassa tulevan kokonaan toisesta suunnasta: reaaliaikaisesta palautteesta vuosittaisten tai neljännesvuosittaisten arviointien sijaan.
"Tekoälyjärjestelmät voivat auttaa antamaan paljon palautetta juuri oikealla hetkellä, jolloin siitä on eniten hyötyä", hän selittää. "Tekoäly voi kuitenkin yhdistää kaikki nämä palautteet koko suorituskyvyn arviointijaksolta ja muodostaa näin tasapainoisemman ja vähemmän puolueellisen kuvan yksilön suoriutumisesta. Tämä on tekoälyn voima suorituskyvyn hallinnassa, ei pelkästään arvioinnin kirjoittaminen."
Tämä muuttaa tiedon ilmoittamista koskevan kysymyksen näkökulmaa. Jos tekoäly antaa välitöntä ja asiayhteyteen sidottua palautetta tietyistä toimista — ilmoittaa projektiaikataulujen viivästymisestä, huomioi yhteistyömallien muuttumisen ja nostaa esiin viestinnän vähentymisen — lähde on oikea-aikaisuutta vähemmän tärkeä. Työntekijät näkevät suoran yhteyden toimintansa ja palautteen välillä, mikä vahvistaa luottamusta järjestelmän tarkkuuteen sen sijaan, että heikentäisi sitä.
Tekoälyn kirjoittama vuosittainen suorituskyvyn arviointi laukaisee edelleen ilmoittamisvaikutuksen, koska se yrittää jäljitellä ihmisen harkintaa tilanteessa, jossa ihmissuhteilla ja auktoriteetilla on merkitystä.
Tekoälyn reaaliaikainen palaute toimii eri tavalla. Se ei teeskentele olevansa inhimillistä viisautta, vaan tarjoaa tietoon perustuvaa havainnointia, jota ihmisten olisi vaikea tuottaa suuressa mittakaavassa.
Sen perusteella, mitä olen löytänyt, ei ole vielä laajassa mittakaavassa testattu, välttääkö tämä lähestymistapa ilmoittamisen aiheuttaman suorituskyvyn laskun, ja käsitykset tästä saattavat muuttua, kun ymmärrys tekoälyn toimintatavasta lisääntyy. Tämä kuitenkin viittaa siihen, että tekoälyn piilottamista ja sen käytöstä ilmoittamista koskevassa keskustelussa saatetaan esittää väärä kysymys teknologian väärästä sovelluksesta.
Ratkaisematon kysymys
Tekoälyn käyttöönottoa koskevia päätöksiä tänään tekeville johtajille tutkimus ei tarjoa helppoja vaihtoehtoja.
Avoimuuden puolestapuhujat — O'Neil, Goldberg ja Sherman — väittävät, että tekoälyn käytön salaaminen takaa luottamuskriisin, kun asia paljastuu, ja työntekijät pystyvät jo nyt havaitsemaan tekoälyn tuottaman tekstin. On parempi rakentaa tekoälyvalmiita organisaatiokulttuureja rehellisyyden avulla, vaikka se heikentäisi suorituskykyä lyhyellä aikavälillä.
Vasta-argumentti on vaikeampi torjua kuin miltä se vaikuttaa. Jos tekoälyn antama palaute vähentää objektiivisesti puolueellisuutta, tuottaa johdonmukaisempia arvioita ja parantaa tuloksia, onko avoimuus kallis ylellisyys, joka palvelee ensisijaisesti sitä, että henkilöstöhallinnon johtajat voivat tuntea toimivansa eettisesti?
Kumpikaan osapuoli ei voi vedota pitkittäistutkimukseen, joka osoittaisi, mitä tapahtuu kolme vuotta avoimen tekoälypalautteen käyttöönoton jälkeen. Teknologia on kehittynyt liian nopeasti, ja käyttöönotot ovat liian tuoreita. Valinta kuitenkin paljastaa, mitä johtajat ajattelevat henkilöstöstään ja mistä he ovat valmiita luopumaan saavuttaakseen tuloksia.
Organisaatiot, jotka valitsivat läpinäkymättömyyden, löivät vetoa sen puolesta, että suorituskyvyn paraneminen olisi lopulta syntyvän luottamuskriisin arvoista. Avoimuuden valinneet puolestaan lyövät vetoa sen puolesta, että tekoälyvalmiiden organisaatiokulttuurien rakentaminen edellyttää rehellisyyttä tekoälyn roolista, vaikka se heikentäisi suorituskykyä lyhyellä aikavälillä.
Tutkimus osoittaa, mitä tapahtuu ilmoittamisen välittömässä jälkivaiheessa. Emme kuitenkaan vielä pysty yhtä varmasti vastaamaan siihen, kumpi lähestymistapa rakentaa ajan mittaan sopeutumiskykyisempiä ja paremmin suoriutuvia organisaatioita.
Toistaiseksi kyse on edelleen filosofiasta, riskinsietokyvystä ja siitä, millaista organisaatiota johtajat yrittävät rakentaa.
