Hallintokysymykset, joihin vain HR:llä on valmiudet vastata
Amazonin työkalu: Amazon hylkäsi puolueellisen rekrytointityökalun, joka oli koulutettu vuosikymmenen ajan miesvaltaiseen rekrytointiin perustuvilla tiedoilla.
Puolueellisuuteen liittyvät huolet: Tekoälyjärjestelmän arvioinnissa ei keskitytty riittävästi oikeudenmukaisiin lopputuloksiin, mikä johti huomaamatta jääneisiin vinoumiin ja hallinnon aukkoihin.
Hallinnon roolit: HR:llä on keskeinen rooli tekoälyn hallinnassa, jotta työntekijöille voidaan varmistaa oikeudenmukaiset lopputulokset ja läpinäkyvät prosessit.
Korkean riskin tekoäly: EU:n tekoälysäädös luokittelee työllisyyteen liittyvän tekoälyn korkean riskin järjestelmäksi, mikä edellyttää tiukkaa dokumentointia ja valvontaa.
HR:n haaste: HR:llä ei ole tekoälyn hallinnassa riittävää toimivaltaa, joten standardien ja vastuuvelvollisuuden määrittämiseen tarvitaan ylimmän johdon tuki.
Vuonna 2018 Amazon lakkautti koneoppimistyökalun, jota se oli kehittänyt vuosien ajan ansioluetteloiden seulomiseen. Järjestelmä oli koulutettu vuosikymmenen ajalta kerätyillä rekrytointitiedoilla, jotka heijastivat yhtiön historiallista miespuolisten hakijoiden suosimista teknisissä tehtävissä.
Malli oppi tästä toimintatavasta ja toisti sen alentamalla sellaisten ansioluetteloiden arviota, joissa esiintyi sanoja kuten "naisten", sekä rankaisemalla vain naisille tarkoitettujen korkeakoulujen valmistuneita. Amazonin insinöörit yrittivät korjata tilanteen. He eivät pystyneet takaamaan, ettei vinouma ilmenisi muilla tavoilla, joten he sulkivat järjestelmän.
Tarinaan viitataan usein varoittavana esimerkkinä tekoälystä ja vinoumasta. Vähemmälle huomiolle jää rakenteellinen kysymys, jonka se nostaa esiin. Kenen tehtävä oli alun perin havaita tämä?
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Järjestelmää rakentavat tekniset tiimit keskittyivät siihen, toimiko se. Lakiosasto keskittyi todennäköisesti vastuuriskeihin. Kukaan ei ilmeisesti keskittynyt siihen, tuottiko järjestelmä oikeudenmukaisia lopputuloksia seulottaville ihmisille – ainakaan ensisijaisena hallintotehtävänä.
Ongelmaa ei ole ratkaistu useimmissa organisaatioissa. Jos jotain, yritysten tekoälyn käyttöönoton laajentuessa ja nopeutuessa siitä on tullut entistä vaikeammin määriteltävä.
Kaksi kysymystä, joihin nyt vastataan
Useimmat yritysten tekoälyn hallintakehykset rakennettiin vastaamaan kahteen kysymysluokkaan.
Ensimmäinen on oikeudellinen: mitä vastuita syntyy, jos tämä järjestelmä epäonnistuu, tuottaa syrjivän lopputuloksen tai paljastaa säänneltyjä tietoja?
Toinen on tekninen: mitkä ovat mahdolliset vikatilanteet, millä tiedoilla järjestelmä on koulutettu ja missä ovat tietoturva-aukot? Molemmat kysymysluokat ovat tärkeitä. Kumpikaan ei yksinään riitä, koska kumpaakaan ei suunniteltu ensisijaisesti palvelemaan niiden ihmisten etua, joihin järjestelmät vaikuttavat.
Tämä ei ole oikeudellisten tai IT-toimintojen kritiikkiä. Nämä toiminnot rakensivat hallintakehykset vastaamaan kysymyksiin, joihin ne palkattiin vastaamaan. Ongelma on, että yritysten tekoälyn käyttöönotto eteni niin nopeasti, ettei tarkoitukselliselle keskustelulle siitä, kuka vastaa jäljelle jäävistä kysymyksistä, jäänyt aikaa, ja useimmat organisaatiot turvautuivat oletusarvoisesti jo käytössä oleviin kehyksiin.
PwC:n vuoden 2025 vastuullista tekoälyä koskevan tutkimuksen mukaan 56 % johtajista kertoo, että niiden ensimmäisen linjan tiimit – IT, suunnittelu, data ja tekoäly – johtavat nyt vastuullisen tekoälyn pyrkimyksiä. HR ei näy tässä luvussa merkityksellisellä tavalla.
Pacific AI:n vuoden 2025 tekoälyn hallintaa koskevan tutkimuksen mukaan kolme neljästä organisaatiosta on laatinut tekoälyn käyttöä koskevat toimintaperiaatteet, mutta vain 36 % on ottanut käyttöön muodollisen hallintakehyksen, joka tarkoittaa määriteltyjä rooleja, valvontakeinoja ja täytäntöönpanoa. Toimintaperiaateasiakirjan ja toimivan vastuunalaisuuden väliin jäävässä tilassa ihmisiä koskevat kysymykset jäävät juuri vaille vastauksia.
EU:n tekoälyasetus, jonka täytäntöönpanovaatimuksia alettiin ottaa vaiheittain käyttöön vuonna 2024, luokittelee työllisyydessä ja henkilöstöhallinnassa käytettävät tekoälyjärjestelmät luokkansa perusteella korkean riskin järjestelmiksi. Luokitus kattaa rekrytointiin, suoritusten arviointiin, tehtävien jakamiseen ja valvontaan käytettävät työkalut. Pohjimmiltaan kyse on järjestelmäkokonaisuudesta, jota useimmat yritykset ottavat nyt käyttöön laajassa mittakaavassa.
Korkean riskin luokitus tarkoittaa tiukempia dokumentointi-, avoimuus- ja ihmisen suorittaman valvonnan vaatimuksia. Se ei määrittele, kuka organisaation sisällä vastaa näiden vaatimusten täyttämisestä. Tämä kysymys palautetaan yrityksen ratkaistavaksi.
Useimmissa organisaatioissa vastauksena on ollut "se, joka jo vastaa hallinnasta". Se tarkoittaa yleensä lakiosastoa, vaatimustenmukaisuutta tai IT-tietoturvaa – toimintoja, joilla on vakiintuneet kehykset. HR otetaan usein mukaan sidosryhmänä tai sitä konsultoidaan käyttöönoton aikana. Harvoin se johtaa.
Kysymykset, jotka ohitetaan
Kysymykset, jotka määrittävät, vahingoittaako tekoäly todella ihmisiä, eivät sovi siististi oikeudellisten riskien tai teknisten vikojen yhteyteen. Ne edellyttävät erilaista lähtökohtaa.
Tuottaako tämä järjestelmä väestöryhmien välillä vinoutuneita lopputuloksia?
Tähän kysymykseen vastaaminen edellyttää tietoa siitä, miltä oikeudenmukaisuus näyttää tietyssä työllisyyskontekstissa – ei vain siitä, mikä on oikeudellisesti perusteltavissa. Nämä ovat eri standardeja.
Järjestelmä voi olla oikeudellisesti perusteltavissa ja silti tuottaa järjestelmällisesti yhdelle työntekijäryhmälle huonompia lopputuloksia kuin toiselle. Tämän havaitseminen edellyttää henkilöä, joka ymmärtää, miltä oikeudenmukainen työllistämiskäytäntö näyttää, ja jolla on riittävä asema tuoda esiin, kun järjestelmä poikkeaa siitä.
Arvioidaanko työntekijöitä tiedoilla, joita he eivät ymmärrä tai joiden keräämisestä heille ei kerrottu?
Owl Labsin vuoden 2025 työpaikkakyselyn mukaan 20,5 % työntekijöistä ei ole varmoja siitä, tapahtuuko seurantaa lainkaan, ja 12,8 % ei tiedä, mitä seurataan.
Tämä ei ole sivuseikka. 61 % yhdysvaltalaisista yrityksistä käyttää nykyään tekoälypohjaista analytiikkaa työntekijöiden tuottavuuden tai käyttäytymisen mittaamiseen. Se, tietävätkö työntekijät tästä, ymmärtävätkö he, miten se vaikuttaa heidän arviointiinsa ja onko heillä mitään keinoa riitauttaa järjestelmän tuottamat tulokset, ovat kaikki työsuhteeseen liittyviä kysymyksiä. Ne kuuluvat työsuhteesta vastaavalle toiminnolle.
Kuka päättää, milloin tekoälyn suositus ohitetaan ja millä perusteilla?
Organisaatioissa, joissa tekoälytyökalut vaikuttavat rekrytointia, ylennyksiä, suoriutumisarvioita tai työsuhteen päättämistä koskeviin päätöksiin tai antavat niihin tietoa, ohittamista koskeva kysymys on yksi merkittävimmistä hallintopäätöksistä, joita yritys voi tehdä.
Jos asiassa erehdytään yhteen suuntaan, tekoälyn suositukset jäävät tarkistamatta. Jos erehdytään toiseen suuntaan, järjestelmän tuottamia tuloksia kohdellaan näennäisen neuvoa-antavina tai kalliina infrastruktuureina, joihin kukaan ei luota.
Tämän raja-arvon määrittäminen edellyttää sekä työkalun toiminnan että johtajien päätöksenteon ymmärtämistä, sen hahmottamista, missä kohtaa vinoumat tulevat mukaan ihmisten arvioihin, ja sen määrittelyä, miltä vastuu näyttää silloin, kun tulokset kiistetään.
Useimmissa yritysten hallintokehyksissä näille kysymyksille ei ole määritetty vastuuta. Ne edellyttävät toimialaosaamista, joka kuuluu HR:lle ja organisaatiosuunnittelulle, ei lakiosastolle tai tekniselle suunnittelulle.
Vastuunjakokartta
Se, mikä kuuluu HR:lle tekoälyn hallinnassa, ei ole mieltymys- tai organisaatiopolitiikkaa. Se seuraa tehtävästä. HR on yrityksen toiminto, jolla on ensisijainen velvollisuus työntekijöitä kohtaan heidän oikeudenmukaisesta kohtelustaan ja kehittymisestään työsuhteeseen liittyviin oikeuksiinsa asti.
Tämä velvollisuus ei katoa, kun tekoäly tulee mukaan prosessiin, mutta siitä tulee monimutkaisempi.
Useat vastuuta koskevat päätökset kuuluvat luonteensa vuoksi HR:lle eivätkä siksi, että ne olisi sille erikseen määrätty.
Työelämän tekoälyn vinoumien auditointi on selkein esimerkki
Tekniset tiimit voivat testata, toimiiko malli johdonmukaisesti eri syötteillä. Vain HR voi arvioida, muuttuuko johdonmukainen toiminta asiayhteydessä oikeudenmukaisiksi tuloksiksi ja tuottaako suoriutumisen hallintatyökalu, joka arvioi kaikkia saman arviointiperusteen mukaan, käytännössä arvosanajakaumia, jotka asettavat tietyissä tehtävissä, maantieteellisillä alueilla tai väestöryhmissä työskentelevät työntekijät epäedulliseen asemaan.
Tämä edellyttää pääsyä HR-tietoihin, työlainsäädännön ja yhdenvertaisuusstandardien ymmärtämistä sekä organisaation asemaa toimia havaintojen perusteella.
Työntekijöitä koskevat avoimuusvelvoitteet
Työntekijöillä on oikeus ymmärtää, milloin tekoälyä käytetään heitä koskevien päätösten tukena, mitä tietoja käytetään ja miten johtopäätöksiin päädytään.
Joillakin lainkäyttöalueilla heillä on laillinen oikeus näihin tietoihin. Se, täyttääkö organisaatio nämä velvoitteet toimintaperiaatteiden, koulutuksen tai prosessisuunnittelun avulla ja pitääkö se näitä velvoitteita vähimmäistasona vai aidosti noudatettavana standardina, riippuu HR-käytännöistä.
Oikeus ohittaa
Ihmisen mahdollisuus ohittaa tekoälyn päätös on vivahteikkaampi ja merkityksellisempi kuin yleensä ymmärretään. Kysymys siitä, milloin ihminen voi tai hänen täytyy ohittaa tekoälyn suositus, edellyttää sen ymmärtämistä, missä tekoälytyökalut todennäköisesti epäonnistuvat, missä ihmisen arvio on luotettavampi ja miten ohittamista koskeviin päätöksiin rakennetaan vastuu niin, ettei niistä yksinkertaisesti tule uutta vinoumien lähdettä.
Tämä edellyttää henkilöä, joka ymmärtää sekä työkalua että siihen liittyvää organisaation käyttäytymistä. HR, joka toimii tiiviissä yhteistyössä tekoälyä käyttöön ottavien tiimien kanssa, on parhaassa asemassa vastaamaan tästä suunnittelusta.
Työntekijän oikeussuojakeinot
Jos joku uskoo, että tekoälyyn perustuva päätös oli väärä, asia kuuluu HR:n hallintoon. Ei vain siksi, että HR hallinnoi epäkohtien käsittelyprosesseja, vaan koska oikeussuojakeinojen suunnittelu edellyttää sen pohtimista, miten tekoälyn tuottamiin tuloksiin liittyvät riidat tutkitaan, mitä näyttöä on saatavilla ja millaiset hyvitykset ovat mahdollisia.
Laki määrittelee vähimmäistason. Henkilöstöhallinto määrittelee, ottaako organisaatio sen todella vakavasti.
Tekninen asiantuntemus
HR-vetoiseen tekoälyn hallintaan liittyy perusteltu vastaväite, joka on syytä käsitellä suoraan. HR:llä ei aina ole teknistä asiantuntemusta tekoälyjärjestelmien arviointiin.
Se on totta. Hallintovalta ja tekninen arviointi ovat kuitenkin eri asioita. Lakiosasto ei ohjelmoi, eikä talousosasto toteuta niitä teknisiä prosesseja, joita se auditoi.
Hallinnon osa-alueesta vastaavan toiminnon ei välttämättä tarvitse tehdä teknistä työtä, sen on kuitenkin oltava asemassa ja omattava asiantuntemusta standardien asettamiseen, tulosten arviointiin ja muiden saattamiseen vastuuseen.
Johtaakseen tekoälyn hallintaa HR ei tarvitse tietojenkäsittelytieteen tiimiä. Se tarvitsee selkeyden siitä, mihin kysymyksiin sen on vastattava, organisatorisen toimivallan esittää nämä kysymykset sekä pääsyn niiden edellyttämiin teknisiin ja dataresursseihin.
Useimmissa yrityksissä HR:llä on tällä hetkellä kaikista kolmesta vain rajalliset valmiudet. Organisatorista toimivaltaa on usein vaikeinta rakentaa, koska se edellyttää CHRO:ilta sellaisen hallinnan alan ottamista vastuulleen, jonka muut toiminnot ovat oletusarvoisesti vallanneet.
Tämä vaatimus on esitettävä ylimmän johdon tasolla. Kokonaan lakiosaston ja IT:n sisällä toimiva tekoälyn hallintakomitea tuottaa oikeudellisia ja teknisiä riskikehyksiä. HR:n lisääminen osallistujaksi jonkun toisen laatimaan kehykseen ei muuta sitä, kenen kysymyksiin vastataan ensin.
Ne CHRO:t, joiden kanssa keskustelen ja jotka ovat rakentaneet tehokkaan, ihmiset keskiöön asettavan tekoälyn hallinnan, ovat yleensä tehneet sen määrittelemällä HR:n vastuun selkeästi jo ennen käyttöönottopäätösten tekemistä eivätkä yrittämällä jälkikäteen lisätä vaikutusvaltaa prosessiin, joka on jo rakennettu muiden prioriteettien ympärille.
Amazonin rekrytointityökalun epäonnistuminen johtui siitä, ettei sen rakentaneessa organisaatiossa ollut toimintoa, joka olisi selkeästi vastannut kysymyksestä ”ovatko nämä tulokset oikeudenmukaisia seulottaville ihmisille?” Lakiosasto kysyi vastuukysymyksistä. Tekninen tiimi kysyi suorituskyvystä. Kumpikaan kysymys ei tavoittanut sitä, mikä todella meni pieleen.
Yritysten tekoäly tekee tai vaikuttaa nyt päätöksiin siitä, kuka palkataan, kuka ylennetään, miten suoriutumista arvioidaan ja miten työtä valvotaan, mittakaavassa, joka ylittää selvästi sen, mihin yksittäinen esihenkilö pystyisi. Kun työllisyysjärjestelmiä koskevan EU:n tekoälysäädöksen täysimääräinen valvonta alkaa elokuussa, tämä epäselvyys muuttuu vastuukysymykseksi useammalla kuin yhdellä tavalla.
HR palkattiin suojelemaan organisaatioiden sisällä olevia ihmisiä. Tekoälyn hallinta on nyt yksi tärkeimmistä toimintaympäristöistä, joissa tätä velvollisuutta on toteutettava. Toiminnon on joko otettava tämä alue vastuulleen tai luovutettava se kehyksille, jotka on rakennettu vastaamaan erilaisiin kysymyksiin.
