Kuka saa olla eri mieltä mallin kanssa?
Delegoinnin riskit: Tavoitteisiin perustuva tekoälyn delegointi heikentää rehellisyyttä jyrkästi, jolloin järjestelmät voivat määrittää menetelmät näennäisen hyväksyttävien liiketoimintatavoitteiden taustalla.
Vastuun aukko: Tekoälyn hallintaperiaatteissa nimetään vastuulliset johtajat, mutta ohitustietueet paljastavat, onko päätösvaltaa käytännössä todella olemassa.
Näyttö ohituksista: Ihmisten tekoälyn suosituksista esittämien eriävien näkemysten kirjaaminen paljastaa käyttämättä jääneen toimivallan, heikot järjestelmät ja organisaation vastahakoisuuden haastaa päätöksiä.
Harkintakyvyn rapautuminen: Koneen suositusten toistuva hyväksyminen voi heikentää esihenkilöiden päätöksentekotaitoja ennen kuin organisaatiot tunnistavat siitä seuraavan heikkouden.
Käytännön suunnittelu: Tehokas ihmisen valvonta edellyttää peruutettavaa päätösten luokittelua, selkeästi määriteltyjä delegointitapoja, eriävien näkemysten kirjaamista ja sosiaalista suojaa ohituksille.
Max Planck -instituutin ihmisen kehityksen tutkimuksen tutkijoiden johdolla toteutettiin muunnelma kokeesta, jota käyttäytymistieteilijät ovat käyttäneet vuosikymmenten ajan. Osallistujat katsoivat ruudulla heitettyä noppaa ja ilmoittivat tuloksen. Suuremmista silmäluvuista maksettiin enemmän, yksi sentti silmäluvulta kymmenen kierroksen ajan.
Ilmoittaessaan tuloksen itse 95 % kertoi totuuden.
Sen jälkeen tutkijat pyysivät muita osallistujia antamaan ilmoittamisen koneen tehtäväksi ja muuttivat ainoastaan sitä, miten ohje annettiin. Ne, joiden piti kirjoittaa yksiselitteiset säännöt ja määritellä, mitä kustakin kuudesta mahdollisesta tuloksesta ilmoitetaan, pyysivät konetta ilmoittamaan oikean luvun noin 75 prosentissa tapauksista.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Ne, jotka opettivat konetta valitsemalla esimerkkiaineiston, pyysivät sitä toimimaan rehellisesti noin puolessa tapauksista. Ne, jotka asettivat tavoitteen siirtämällä valitsinta kohdasta ”maksimoi tarkkuus” kohti kohtaa ”maksimoi voitto” ja jättämällä menetelmän järjestelmän päätettäväksi, pyysivät sitä toimimaan rehellisesti ensimmäisessä tutkimuksessa 12 prosentissa tapauksista ja seurantatutkimuksessa 16 prosentissa tapauksista, joissa tehtävän delegointi oli vapaaehtoista.
Viimeksi mainitussa tilanteessa 84–88 % ihmisistä pyysi konetta huijaamaan puolestaan, vaikka kenenkään ei tarvinnut sanoa sitä suoraan.
Raha ei muuttunut. Nopanheitot eivät muuttuneet, sillä jokainen osallistuja näki saman kiinteän kymmenen heiton sarjan. Muuttui se, kuinka paljon tulkinnanvaraa ohjeen ja teon väliin jäi.
Tutkijat olivat odottaneet sääntöjen kirjoittamisen pitävän rehellisyyden ennallaan sillä perusteella, että huijaamisen täsmällinen kuvaaminen kantaa samaa moraalista painoa kuin sen toteuttaminen. Näin ei käynyt. Rehellisyys väheni siinäkin noin kaksikymmentä prosenttiyksikköä. Kaikki delegoinnin muodot heikensivät sitä, ja käyttöliittymä määritti, kuinka paljon.
Tämä oli Prolific-alustalla toteutettu verkkokoe, jossa enimmäispalkkio oli kuusikymmentä senttiä. Nopanheittotehtävällä on pitkä validointihistoria, ja se ennustaa tosielämän käyttäytymistä, kuten matkustusmaksujen välttelyä ja harhaanjohtavia myyntikäytäntöjä. Käyttöliittymien vertailu testattiin ainoastaan tässä tutkimusasetelmassa, vaikka veronkiertotehtävää käyttänyt oheistutkimus – jossa virheellinen ilmoitus pienensi Punaiselle Ristille tehtävää lahjoitusta – toisti tutkimuksen toisen keskeisen havainnon siitä, miten koneagentit käsittelevät saamiaan ohjeita.
Erottelu on tärkeä sen kannalta, mitä useimmat yritykset parhaillaan rakentavat. Kehotteen kirjoittaminen muistuttaa enemmän sääntöjen kirjoittamista, ja osallistujien oman ilmoituksen mukaan luonnollisella kielellä tehdyt epärehelliset pyynnöt muodostivat noin 25 % kaikista pyynnöistä ja riippumattomien arvioijien arvioimina 40 %.
Kasvu liittyy käyttöliittymiin, joissa ihminen asettaa tavoitteen ja antaa järjestelmän määrittää menetelmän. Esihenkilö, joka käskee agenttia maksimoimaan pätevien myyntimahdollisuuksien määrän tai lyhentämään rekrytointiin kuluvaa aikaa, on määritellyt lopputuloksen ja jättänyt kaikki käytännön päätökset menetelmästä järjestelmälle. Mutta missä on kriteeri, jota jonkun pitäisi pystyä puolustamaan?
Tuon järjestelyn päälle rakennettu vastuurakenne näyttää yleensä paperilla hyvältä. Siinä on jonkun nimi. Nimi kuitenkin merkitsee vähemmän kuin voisi ajatella.
Vastuuhenkilön nimeäminen oli helppo osa
Vuonna 2025 ja vuoden 2026 alussa organisaatiot tekivät ilmeisen ratkaisun. Ne perustivat tekoälyn valvontakomiteoita, laativat hyväksyttävän käytön periaatteita ja lisäsivät organisaatiokaavioon nimetyn johtajan sanojen ”tekoälyn hallinta” viereen.
Deloitten vuoden 2026 maailmanlaajuinen inhimillisen pääoman kehityssuuntauksia koskeva tutkimus toteutettiin yhteistyössä Oxford Economicsin kanssa, ja siihen osallistui yli 9 000 liike-elämän ja henkilöstöhallinnon johtajaa 89 maasta. Tutkimuksessa 64 % vastaajista piti tekoälyä ja päätöksentekoa erittäin tärkeänä nykyisen menestyksensä kannalta. Vain 5 % katsoi olevansa edelläkävijöitä tällä alueella.
Huolen ja osaamisen välistä kuilua ei selitä politiikan puute. Useimmilla organisaatioilla on toimintaohjeet. Niiltä puuttuu kuitenkin näyttö siitä, että kirjattua toimivaltaa käytetään.
Kysy CHRO:lta, kuka vastaa tekoälyn vaikutuksen alaisesta rekrytointipäätöksestä, niin saat vastauksen. Kysy, kuinka monta kertaa rekrytoija on viimeisten kuuden kuukauden aikana muodollisesti kumonnut seulontatyökalun päätöksen ja mitä kyseiselle rekrytoijalle sen jälkeen tapahtui, niin huone hiljenee.
Tuo toinen kysymys kannattaa esittää, koska vastaus voidaan osoittaa vääräksi. Vastuu on väite. Päätöksen kumoaminen on tapahtuma.
Dokumentaatio päättyy lopputulokseen
Kaan Esendemir, yritysarkkitehti, joka on rakentanut tekoälyavusteisia työnkulkuja suurissa yrityksissä laajassa mittakaavassa, näkee tämän kaavan useimmiten järjestelmissä, jotka suosittelevat eivätkä tee päätöksiä. Virtuaaliavustajat, työnkulkujen tehostajat ja työkalut, jotka tuovat esiin vaihtoehdon mutta jättävät päätöksen ihmiselle.
Se, missä raja näiden kahden välillä kulkee, on neuvottelukysymys. Hän kertoo, että liiketoiminta- ja tuoteomistajat päättävät, missä tekoälyn toiminta päättyy ja ihmisen alkaa, ja insinöörit osallistuvat, koska he ymmärtävät, mitä järjestelmä voi realistisesti tehdä ja missä se epäonnistuu. Tämä osa toimii yleensä.
Se, mitä sen jälkeen tapahtuu, on kohta, jossa dokumentaatio ohenee.
Kun joku ohittaa järjestelmän suosituksen, lopputulos yleensä kirjataan, mutta itse erimielisyyttä ei aina seurata omana tietopisteenään.
Ero vaikuttaa pieneltä, mutta se määrittää, mitä organisaatio voi oppia. Lopputulos kertoo, mitä päätettiin. Erimielisyys kertoo, että henkilö tarkasteli suositusta, arvioi sen vääräksi ja toimi sitä vastaan. Yritykset säilyttävät näistä kahdesta vähemmän hyödyllisen.
Ohitus ei ole vain poikkeus. Se on palautetta, jonka avulla järjestelmää voidaan parantaa ja tulevista suosituksista tehdä parempia.
Ohitusloki on edullinen diagnostiikkakeino, jonka kuka tahansa operatiivinen johtaja voi toteuttaa tällä vuosineljänneksellä. Valitse kolme työnkulkua, joissa tekoäly vaikuttaa merkittävään päätökseen. Laske viimeisen kuuden kuukauden ajalta dokumentoidut tapaukset, joissa ihminen toimi suosituksen vastaisesti. Lue sitten, mitä kussakin tapauksessa tapahtui seuraavaksi.
Jos määrä on nolla, todennäköisesti toinen kahdesta asiasta pitää paikkansa. Järjestelmä on toiminut niin hyvin, ettei yksikään ihminen ole puolen vuoden aikana löytänyt syytä olla sen kanssa eri mieltä, mikä ei ole väite, jonka yksikään toimittaja esittäisi omasta tuotteestaan. Tai valtuus olla eri mieltä on olemassa paperilla eikä missään muualla.
Luvun ei tarvitse olla nolla kertoakseen jotain. Espanjassa käytetään Viogén-nimistä järjestelmää, joka arvioi toistuvan väkivallan riskiä lähisuhdeväkivaltatapauksissa, ja ulkopuolisessa tarkastuksessa havaittiin, että poliisit noudattivat sen suositusta 95 prosentissa tapauksista.
Euroopan tietosuojavaltuutettu viittaa tarkastukseen viime syyskuussa julkaistussa teknisessä katsauksessa ja myöntää, että yhdenmukaisuus saattaa heijastaa perusteltua luottamusta työkaluun. Samalla se herättää kysymyksen siitä, kuinka paljon prosessissa jää tilaa itsenäiselle harkinnalle.
Ihmisen ja mallin 95-prosenttinen yksimielisyys tarkoittaa joko erittäin hyvää mallia tai ihmistä, joka on lakannut tekemästä omia johtopäätöksiään. Lokin ulkopuolelta katsottuna nämä kaksi näyttävät identtisiltä. Lokin sisältä katsottuna ne eivät kuuden kuukauden aikana ole sitä.
Ohituskyky heikkenee ennen kuin sitä ehditään mitata
Amy Centers, organisaatiopsykologi ja SmartWorks Labsin perustaja, kuvaa toisen asteen ongelmaa. Ohitusvaltuutta ei vain jätetä käyttämättä. Sen taustalla oleva kyky rapautuu.
Se on hieman samanlaista kuin se, miten GPS on rapauttanut suuntavaistoamme. Uskon, että ajan mittaan harkinnan ulkoistaminen alkaa rapauttaa johtajan sisäistä kompassia ja intuitiota, ja siihen liittyy todellinen vaara, koska organisaatioista voi silloin tulla teknisesti tehokkaita mutta moraalisesti onttoja.
Hänen terävämpi muotoilunsa: "Mitä enemmän ulkoistamme vaikeita päätöksiä, sitä suurempi riski on, että rakennamme johtajia, jotka eivät pysty johtamaan ilman kehotetta."
Mekanismi toimii pidemmällä aikajänteellä kuin useimmat hallinnolliset tarkastelut. Johtaja, joka on luottanut malliin yhdeksänkymmentäkahdeksan peräkkäisen suosituksen kohdalla, ei ole ollut toimettomana. Hän on ollut tehokas. Hän on myös käyttänyt kuukausia harjoittelematta sitä, minkä ohitusvaltuus olettaa hänen edelleen osaavan.
Tämä ei näy neljännesvuosittaisessa katsauksessa. Se näkyy ensimmäisen kerran, kun malli on itsevarmasti väärässä jonkin merkittävän asian suhteen ja henkilö, jonka vastuulla sen havaitseminen nimellisesti on, lukee tuloksen, pitää sitä uskottavana ja jatkaa eteenpäin.
Centers sijoittaa ongelman johtajaan ja painottaa tätä voimakkaasti.
Aloittaisin johtajien vastuullisuudesta. Suurin osa toimintahäiriöistä saa alkunsa johtajista. He jäävät liian usein ilman tukea ja ovat puutteellisesti kehitettyjä. Heitä ei pidetä vastuullisina siitä, miten he johtavat. Jos et korjaa tätä nivelkerrosta, kaikki muut uudistukset, kuten sitoutuminen, taidot ja tekoälyn käyttöönotto, romahtavat.
Hän kutsuu johtajan roolia strategian ja inhimillisen kokemuksen väliseksi niveleksi. Tekoälyn tukemassa työnkulussa se on myös ainoa kerros, jolla on mahdollisuus havaita huono päätös ennen kuin se laajenee, ja sen muodostavat ihmiset, jotka ylennettiin operatiivisen luotettavuuden perusteella ja joille ei koskaan kerrottu, että koneen tuottamien tulosten validointi kuuluu nyt heidän tehtäviinsä.
Automaatio jättää ihmisille vaikeimmat tapaukset
Victoria Pelletier, joka on aiemmin johtanut muun muassa Accenturella ja IBM:llä henkilöstö- ja transformaatiotoimintoja, nostaa esiin sen, mitä automaatio tekee jäljelle jäävälle työlle.
Kyse on ihmisten vuorovaikutustaidoista, innovoinnista, ongelmanratkaisusta ja empatiasta. Kun kysyt, mitä jää jäljelle, ajattele asiakaspalvelukeskusta. Se oli ensimmäinen paikka, jossa otettiin käyttöön jonkinlaista automaatiota. Siinä vaiheessa, kun päädyt puhumaan ihmisasiakaspalvelijan kanssa, kyseessä on poikkeustapaus. Asia ei ole noudattanut käytännön tai koodin sääntöjä, joita tekoälyagentti olisi voinut noudattaa. Tarvitset siis jonkun, joka osaa ajatella asian läpi.
Hänen huomionsa mukaisesti asiakaspalvelukeskukset toteuttivat tämän kokeilun vuosia ennen muita. Kun sääntöjen noudattaminen automatisoidaan, jokainen ihmiselle päätyvä puhelu on määritelmällisesti sellainen, jota säännöt eivät pystyneet käsittelemään. Jäljelle jäävä työ on vaikeampaa kuin pois otettu työ.
Pelletierin pointti on, että tehtävämäärittelyt harvoin seuraavat mukana. Määrä vähenee, vaikeus kasvaa, ja työnkuva, koulutus sekä suorituskriteerit kuvaavat edelleen työtä sellaisena kuin se oli ennen. Hän toteaa, että jäljelle jäävä työ ”edellyttää joidenkin nykyään jo odottamiemme asioiden osalta hyvin erilaista osaamistasoa”.
Hän tunnistaa myös rakenteellisen syyn siihen, miksi päätöksentekovaltuuksia ei rakenneta uudelleen. Organisaatiosuunnittelun ja tehtäväarkkitehtuurin toimintoja karsittiin viime vuosikymmenellä yleiskuluina, koska oli perusteltua olettaa, ettei rooleja tarvitsisi arvioida usein uudelleen.
Juuri nämä ihmiset rakentaisivat päätöksentekovaltuudet nyt uudelleen. Pelletier kutsuu heidän poissaolonsa seurauksena syntyvää ilmiötä ”tehtävien Frankensteinin hirviöksi”.
Kaksi kritiikkiä ihmisestä osana prosessia
Ajatuksesta, että ihminen pidetään osana prosessia, esitetään tällä hetkellä kaksi vastalausetta, jotka osoittavat vastakkaisiin suuntiin.
Jurgen Appelon versio on, että pakolliset ihmisen suorittamat tarkistuspisteet tekevät ihmisistä pullonkauloja. Jokainen vuorovaikutus alkaa ja päättyy ihmiseen, järjestelmät eivät koskaan keskustele keskenään, ja toiminta etenee hitaimman osapuolen tahdissa. Hän kutsuu tätä ihmiset osana prosessia -ansaksi.
Tätä Esendemir tarkoittaa sanoessaan minulle, että ohitusten tallentamatta jättäminen on ”enimmäkseen suunnittelupäätös”.
Euroopan tietosuojavaltuutetun versio on lähellä päinvastaista. Aiemmin mainitussa automatisoitujen päätösten ihmisen suorittamaa valvontaa käsittelevässä teknisessä katsauksessa EDPS varoittaa olettamasta, että ihminen osana prosessia tarjoaa ylipäätään valvontaa, ja katsoo, että organisaatioiden on suunniteltava valtuudet, käyttöliittymät ja eskalointipolut nimenomaisesti, jotta ihminen voi todella puuttua tilanteeseen.
Molemmat ovat oikeassa, ja ne kuvaavat erilaisia epäonnistumisia. Appelon ihminen on tiellä. EDPS:n ihminen on paikalla mutta vailla valtaa. Organisaatio voi korjata ensimmäisen poistamalla tarkistuspisteet ja samalla pahentaa toista.
Katsauksessa käydään läpi, miltä vallattomuus näyttää käytännössä. Vuosina 2014–2019 Puolan julkinen työvoimapalvelu käytti algoritmia, joka lajitteli työnhakijat kolmeen luokkaan, ja luokka määritti, millaista tukea kukin henkilö sai. Asiakasneuvojat nimettiin muodollisesti ihmisen suorittamasta valvonnasta vastaaviksi, ja heillä oli valtuudet ohittaa luokittelu.
Heillä oli valtuudet, mutta he eivät voineet käyttää niitä. Asiakasmäärät olivat liian suuria ja koulutus riittämätöntä. Kukaan ei ollut kertonut heille, milloin ohitus oli perusteltu tai miten sellainen pitäisi perustella. Järjestelmä näytti tuloksensa muodossa, jonka perusteella oli vaikea arvioida, sopiko tietty luokittelu pöydän toisella puolella istuvalle henkilölle.
Sitten mukaan tulee osa, jolla ei ole mitään tekemistä järjestelmän suunnittelun kanssa. Jotkut paikallisjohtajat eivät kannustaneet ohituksiin lainkaan, ja jotkut kielsivät ne, koska ohitus kiinnitti ylempien esihenkilöiden huomion.
Neuvojat eivät olleet alikoulutettuja siinä mielessä, että koulutusbudjetti olisi ratkaissut asian. He tulkitsivat kannustinta oikein. Mallin ohittaminen loi merkinnän, josta johtaja joutuisi vastaamaan, kun taas mallin noudattaminen ei luonut mitään. Kun vaihtoehtoina ovat nämä kaksi ja asiakasmäärä on täysi, rationaalinen ratkaisu on allekirjoittaa se, mitä näytöllä lukee.
EDPS ilmaisee ehdon suoraan. Käyttäjät voivat käyttää todellista valtaa järjestelmään vain, jos he eivät pelkää oman organisaationsa seurauksia sen käyttämisestä.
Kyse on johtamisesta, ei käyttöliittymäsuunnittelusta, ja juuri siksi ohitusoikeus jää yleensä koristeelliseksi. Muodollinen valtuutus on halpa osa. Se, käyttääkö kukaan sitä, riippuu siitä, mitä valtuutusta käyttävälle henkilölle tapahtuu.
Deloitten kuvaus siitä, mikä korvaa vanhan mallin, on tarkin saatavilla oleva. Vanhat päätöksentekovaltuuksien työkalut, kuten RACI, olettavat staattisen toimivallan. Tekoälyn kanssa oikeuksien on oltava dynaamisia, ja ohitusoikeudet, eskalointipolut sekä konsensussäännöt on rakennettava järjestelmään niin, että ihmiset ja agentit koordinoivat, kuka päättää, milloin ja millä perusteella.
Puolassa suurin osa tästä oli kirjattu paperille. Puuttui kuitenkin johtaja, joka olisi ollut valmis hyväksymään sen, että joku käyttää sitä.
Rakenna edellytykset, älä kaaviota
Neljä toimenpidettä siinä järjestyksessä, jossa niiden on tapahduttava.
Luokittele päätökset peruttavuuden perusteella ennen kuin osoitat ne kenellekään. Amazonin jako yksi- ja kaksisuuntaisiin oviin on viiteversio. Peruuttamattomat päätökset vaativat tarkastelua ja hitaampia etenemisreittejä. Peruttavat päätökset etenevät. Tekoälyaikakauden sovelluksessa agentin autonomia sovitetaan siihen, kuinka vaikeaa päätös on perua, eikä siihen, kuinka rutiininomaiselta se näyttää.
Nimeä delegoinnin tapa, älä vain delegoinnin kohdetta. Max Planck -tutkimuksen tulos havainnollistaa tätä. Sääntöihin, esimerkkeihin ja tavoitteisiin perustuva delegointi tuotti mitattavasti erilaisia pyyntöjä muuten vertailukelpoisilta ihmisiltä. Kaikki työnkulut, joissa joku antaa järjestelmälle tavoitteen ja antaa sen määrittää kriteerit, kuuluvat suurimman epäselvyyden luokkaan, koska juuri siitä niissä on kyse.
Kirjaa erimielisyys, älä vain lopputulosta. Esendemirin esiin tuoma aukko on se, joka on täytettävä. Kun henkilö toimii suosituksen vastaisesti, kirjaa, että hän teki niin, mitä hän havaitsi ja mitä seuraavaksi tapahtui. Pelkkä lopputulos ei kerro mitään siitä, arvioiko kukaan edelleen tilannetta.
Arvioi raja uudelleen aikataulun mukaisesti. Se, missä tekoäly tekee päätöksen ja missä ihminen tekee päätöksen, ei ole kysymys, johon vastataan kerran. Merkitse sille päivämäärä.
Max Planck -tutkijat päättivät suositukseen, joka oli suunnattu delegoijalle eikä sitä vastaanottavalle koneelle. Delegointikäyttöliittymiä, joiden avulla on helppo vedota tietämättömyyteen siitä, miten kone tulkitsee ohjeesi, tulisi välttää.
Se on suunnitteluperiaate, joka skaalautuu näytön säätimestä kokonaiseksi toimintamalliksi. Jokainen ihmisen ja seurauksen väliin jäävä abstraktiokerros tekee seurauksen kanssa elämisestä helpompaa.
Kuuden kuukauden kuluttua monilla organisaatioilla on runsaasti dokumentaatiota. Käytäntöjä, toimikuntien työjärjestyksiä, nimettyjä vastuuhenkilöitä ja suoritettuja koulutuksia.
Joillakin harvoilla on loki, jossa on merkintöjä.
