Vastuu ei kuulu kenellekään: tekoälyn vastuuaukon sisällä
Hylkäysten todellisuus: Tekoälyjärjestelmät hylkäävät työhakemuksia ilman ihmisen suorittamaa tarkastelua, mikä herättää kysymyksiä oikeudellisesta vastuusta.
Hallinnon aukko: Tekoälyn hallinnolta puuttuu selkeä vastuu, koska käytännöt eivät määritä päätösten vaikutuksista vastaavaa tahoa.
Tekoälyn vastuullisuus: Tuomioistuimet kyseenalaistavat sen, kenen pitäisi valvoa tekoälyn päätöksiä, ja pitävät työnantajia vastuussa tekoälyyn perustuvista syrjivistä lopputuloksista.
Käytäntöjen ristiriita: Nykyiset käytännöt eivät mukaudu organisaatioiden muutoksiin, mikä johtaa tekoälytyökalujen hallinnollisiin ongelmiin.
Oikeudelliset vaikutukset: Coloradon tekoälylaki luo ennakkotapauksen tekoälyn vastuullisuudelle ja vaikuttaa työllistämispäätöksiin sekä oikeudellisiin standardeihin koko maassa.
Aamuyöllä kello 1.50 Derek Mobley sai hylkäyksen. Hän oli hakenut alle tuntia aiemmin. Yksikään rekrytoiva esihenkilö ei ollut tarkastellut hänen ansioluetteloaan, eikä yksikään rekrytoija ollut arvioinut hänen kokemustaan.
Järjestelmä käsitteli hänen hakemuksensa, teki päätöksen ja siirtyi eteenpäin ennen kuin kukaan yrityksessä oli aloittanut työpäiväänsä. Mobley, joka on musta ja yli nelikymppinen, haki Workdayn alustan kautta yli sataa työpaikkaa, ja hänet hylättiin joka kerta.
Hänen vuonna 2023 nostamansa kanne on nyt hyväksytty valtakunnalliseksi ryhmäkanteeksi, joka voi koskea satoja miljoonia hakijoita. Workday väittää, ettei se ole työnantaja, mikä on teknisesti totta. Työnantajat sanovat, etteivät ne tehneet päätöksiä, mikä on myös teknisesti totta. Liittovaltion tuomioistuin on päättänyt, että juuri näiden kahden tosiasian samanaikaisuus on ongelma.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Kun alusta käyttää harkintaa eikä ainoastaan sovella kriteerejä vaan osallistuu päätökseen, se toimii työnantajan edustajana. Siksi vastuu siirtyy työnantajalle. Tuomioistuimet eivät nyt painota kysymystä siitä, tekikö AI huonon päätöksen. Kysymys kuuluu, kenen olisi pitänyt valvoa sitä.
Tämä kysymys päätyy CHRO:iden pöydille. Ei siksi, että he olisivat ilmoittautuneet vapaaehtoisiksi, eikä varsinkaan siksi, että heillä olisi valtuudet, budjetti tai oikeudellinen infrastruktuuri vastata siihen. Vaan siksi, että jonkun on vastattava, ja he ovat lähimpänä sitä, mitä useimmilla organisaatioilla on AI:n suuressa mittakaavassa synnyttämän henkilöstöön liittyvän riskin omistajana.
Kaikkien omistama, ei kenenkään vastuulla
PEBL:n lakiasiainjohtaja Sean McIntire on seurannut, kuinka organisaatiot rakentavat AI-käytäntöjä aidosti huolellisesti, mutta näkee niiden hajoavan jossain johtoryhmän ja päätöksiä tosiasiassa tekevien ihmisten välillä.
”Kaikkien omistama, jonkun vastuulla”, hän sanoi AI-riskiä käsitelleessä paneelissa Transform-tapahtumassa Las Vegasissa tällä viikolla. Rakenne kuulostaa ratkaisulta. Se ei ole sitä.
Hän vertaa tilannetta GDPR:ään. Kun sääntely saapui, yritykset joutuivat kiireesti reagoimaan. Monilla ei ollut selkeää kuvaa siitä, missä niiden henkilötiedot sijaitsivat, kuka käsitteli niitä tai mitä niiden velvoitteet oikeastaan olivat.
Hämmennys oli todellista, mutta se toimi myös pakottavana tekijänä. Organisaatiot, jotka selvisivät siitä vahvojen tiedonhallintaohjelmien kanssa, eivät ainoastaan muuttuneet vaatimusten mukaisiksi, vaan rakensivat infrastruktuurin, joka osoittautui kestäväksi.
McIntiren näkemyksen mukaan AI on nyt samassa pakottavaa muutosta edeltävässä vaiheessa, ja useimmat yritykset toimivat aivan kuten ennen GDPR:n voimaantuloa: ne reagoivat pinnalla näkyvään uhkaan, vaikka taustalla oleva rakenteellinen ongelma jää ratkaisematta.
Rakenteellinen ongelma on yksinkertaisesti tämä. AI-työkalut tulivat työelämään ensisijaisesti tehokkuuden kautta, joka johti nopeampaan rekrytointiin, automatisoituihin suoriutumista koskeviin signaaleihin, palkkavertailuihin ja jatkuviin palautesykleihin.
Työkalut käyttöön ottaneet organisaatiot käsittelivät hankintaa ja hallintaa erillisinä ongelmina. Lakiosasto tarkasti sopimukset. IT hyväksyi tietoturvan tason. Talousosasto allekirjoitti budjetin. HR:lle annettiin käyttöönotto tehtäväksi ja käskettiin hallinnoida sitä.
Kukaan ei määritellyt selkeästi, kuka vastasi riskistä, kun työkalu teki merkittävän päätöksen, joka aiheutti jollekin vahinkoa.
McIntiren kehystys kuvaa tätä täsmällisesti. AI-hallinto on useimmissa organisaatioissa suunnitellusti hajautunutta. Käytäntö on olemassa. Työryhmä on olemassa. Käyttöohjeet ovat olemassa. Se, mitä ei ole, on nimetty henkilö, jolla olisi sekä valtuudet että resurssit vastata silloin, kun jokin menee pieleen.
Komitea ei ole paikalla kello kahdelta aamuyöllä
Tiedot tekevät tämän konkreettiseksi. Yli 1 800 johtajaa kattaneessa Gartnerin kyselyssä 55 prosenttia organisaatioista ilmoitti, että niillä on nyt AI-lautakunta tai erillinen valvontakomitea. Tämä kuulostaa edistykseltä, kunnes tarkastelee McKinseyn vastaavaa lukua: vain 28 prosenttia organisaatioista sanoo toimitusjohtajan ottavan suoran vastuun AI:n hallinnon valvonnasta.
Hallitukset pärjäävät vielä huonommin: vain 17 prosenttia on sisällyttänyt AI-hallinnon virallisesti komiteoidensa työjärjestyksiin.
Komiteat ovat olemassa. Vastuu ei seuraa mukana.
Juniper Squaren henkilöstötoimintoa johtava Vittoria Reimers on rakentanut yhden keskisuurista yrityksistä todennäköisesti löytyvistä toiminnallisesti vakavimmin otettavista AI-hallintomalleista, mutta hän ei anna pelkille komiteoille suurta painoarvoa.
Ensimmäinen puolustuslinjasi ovat ihmiset ja prosessisi. Hallintokomitea ei yksinkertaisesti ole paikalla siinä sekunnin murto-osan kestävässä päätöksessä, jonka joku tekee kello kahdelta aamuyöllä.
Se, mihin hän viittaa, on organisatorinen todellisuus, jota hallintokehykset harvoin ottavat huomioon. Eniten riskiä aiheuttavia päätöksiä ei tehdä komiteahuoneissa. Niitä tekevät määräajassa mallien toiminnallisuutta rakentavat insinöörit, tekoälyn tuottamien suorituskykylippujen perusteella irtisanomista suosittelevat esihenkilöt sekä rekrytoijat, jotka käyttävät hakijoiden seulontatyökaluja ymmärtämättä täysin niiden taustalla olevaa logiikkaa.
Hallintorakenne toimii abstraktiotasolla, jolla varsinainen työ ei toimi.
Reimers rakensi Juniper Squarella käytännöllisen vastauksen tähän. Hänen tiiminsä loi ryhmän, jota he kutsuivat ACE:ksi. Siihen kuuluu noin kymmenen–kaksitoista eri puolille organisaatiota sijoittunutta työntekijää, jotka toimivat epävirallisina tekoälyneuvonantajina tavallisten tehtäviensä ohella.
Ajatus oli suoraviivainen: jos rakennat jotain etkä tiedä, onko se turvallista tai skaalautuvaa, tule ACEn luo. Vastaanotto yllätti hänet. Ihmiset tulivat jatkuvasti, koska heillä oli viimein käytössään prosessi, joka vastasi heidän kohtaamiinsa todellisiin ongelmiin – eikä heidän yläpuolellaan olevaa käytäntöasiakirjaa.
Käytä paljon aikaa käyttökäytäntöönne, hallintoneuvostoonne ja hallintokomiteaanne," hän sanoi. "Käytä sitten kymmenen kertaa enemmän aikaa ihmisiin panostamiseen – heidän valmiuksiensa kehittämiseen, kouluttamiseensa ja kulttuuriinne.
ACE-malli ei ratkaise organisaation ylimmän tason vastuuvelvollisuuteen liittyvää kysymystä. Se tekee kuitenkin jotain, mihin muodollinen hallintorakenne ei pysty: se siirtää omistajuuden sinne, missä päätökset todella tehdään.
Mitä HR peri
Matt Poepsel on tarkastellut tätä kuilua toisesta näkökulmasta. The Predictive Indexin kykyjen optimoinnista vastaavana varapääjohtajana hän työskentelee tiiviisti HR-johtajien kanssa, jotka navigoivat sen välillä, mitä tekoäly lupaa ja mitä se tuottaa, kun se otetaan käyttöön ilman organisatorista kontekstia.
Hän kertoo ajanjaksosta omalla esihenkilöurallaan, jolloin häneltä puuttui hyvään johtamiseen tarvittava konteksti – jolloin hän teki päätöksiä, joita myöhemmin katui, ei pahantahtoisuudesta vaan puutteellisten tietojen vuoksi.
Hänen mukaansa juuri näin tekoäly toimii parhaillaan suuressa mittakaavassa jokaisessa organisaatiossa, joka otti käyttöön yleiskäyttöisen työkalun ja odotti sen ymmärtävän työvoimansa erityispiirteet.
Sanotaan, että ihminen on pidettävä mukana päätöksenteossa. Minä sanoisin, että henkilöstöhallinto on pidettävä mukana päätöksenteossa. Näen HR:n kamppailevan saman asian kanssa, jonka kanssa minä kamppailin ollessani liian kiinnittynyt yhtälön tekniseen osaan.
Tämä syrjäyttäminen johtuu osittain rakenteellisista ja osittain historiallisista syistä. HR käytti vuosia yrittäessään ansaita paikan liiketoiminnan päätöksentekopöydästä. Kun tekoälytyökalut saapuivat, niitä esitettiin usein keinona, jolla HR voisi osoittaa sijoitetun pääoman tuoton nopeampien rekrytointijaksojen, pienempien vaihtuvuuskustannusten ja automatisoidun vaatimustenmukaisuuden avulla.
Tämä kehystys teki HR:stä tekoälyn käyttöönoton hyödynsaajan, ei sen suunnittelijaa. Hallintoa koskevaan keskusteluun, silloin kun sitä ylipäätään käytiin, osallistuivat yleensä lakiosasto, IT ja taloushallinto. HR sai työkalut. Vastuuvelvollisuus näistä työkaluista jäi muualle – tai ei erityisesti mihinkään.
Poepselin kritiikki on suorasukainen: yleiskäyttöinen tekoäly ei tunne organisaatiotasi. Se ei tunne kulttuuriasi, käyttäytymisen dynamiikkaa, historiaasi tai niitä erityisiä ihmisryhmiä, joita koskevia päätöksiä se tekee.
Sen tuottama sisältö kuulostaa uskottavalta, mutta siitä puuttuu konteksti, jonka kokenut HR-ammattilainen hallitsee vaistonvaraisesti. Kun tekoäly merkitsee suoritukseltaan poikkeavan henkilön, pisteyttää hakijan tai suosittelee palkkaukseen tehtävää muutosta, se perustaa toimintansa malleihin, jotka eivät tunne sen edessä olevaa henkilöä. Kolme vuotta organisaatiossa toiminut HR-johtaja tuntee.
Jos tekoäly pystyy tekemään sen, se on määritelmällisesti tuotteistunutta, Poepsel sanoi. "Se, mitä sinä tuot siihen, on erottautumistekijä.
Se on epämukavaa, mutta tärkeää. Henkilöstöhallinnon arvo tekoälyavusteisessa organisaatiossa ei ole toteutuksessa, sillä työkalut pystyvät siihen nopeammin. Arvo on harkintakyvyssä: siinä, että tiedetään, milloin lopputulos on väärä, milloin asiayhteydellä on merkitystä ja milloin päätöksellä on seurauksia, joita malli ei pysty havaitsemaan.
Juuri tämä harkintakyky puristuu pois organisaatioista, jotka ottavat tekoälyn käyttöön suunnittelematta sen ympärille prosesseja ja rooleja uudelleen.
Lainsäädännön pakottava vaikutus
Coloradon tekoälylaki tulee voimaan 30. kesäkuuta 2026, ja siitä tulee ensimmäinen osavaltion laki Yhdysvalloissa, joka asettaa kattavia hallintavelvoitteita sekä sellaisten tekoälyjärjestelmien kehittäjille että käyttöönottajille, jotka vaikuttavat merkittäviin työllistämispäätöksiin.
Vaatimukset ovat merkittäviä. Työnantajien on ylläpidettävä dokumentoituja riskienhallintaohjelmia, tehtävä vuosittaisia vaikutustenarviointeja, ilmoitettava työntekijöille, kun tekoäly on vaikuttanut heitä koskevaan päätökseen, sekä raportoitava syrjivät lopputulokset osavaltion oikeusministerille.
Laki suosittelee NISTin tekoälyn riskienhallintakehystä käytännön vaatimustenmukaisuuden standardiksi. Sitä sovelletaan työnantajan koosta riippumatta.
Colorado saattaa tässä ylittää vaikutusvaltansa. Muut osavaltiot seuraavat tilannetta, ja kuvernööri Jared Polisin koolle kutsuma sääntelyn työryhmä saavutti yksimielisyyden tarkistuksista vielä tämän kuukauden aikana. Tämä tarkoittaa, että lain lopullinen muoto on yhä liikkeessä, mutta sen kunnianhimo ei.
Mobley osoittaa, miksi tällä on merkitystä Coloradon rajojen ulkopuolella. Tuomioistuimen ei tarvinnut turvautua osavaltion tekoälylakiin todetakseen, että Workday voidaan saattaa vastuuseen alustaa käyttävien työnantajien edustajana.
Edustajuuteen perustuvaa teoriaa, jonka mukaan osallistuminen merkittävään päätökseen synnyttää jaetun vastuun, sovelletaan parhaillaan tekoälytyökaluihin voimassa olevien liittovaltion syrjinnän vastaisten lakien nojalla. Työnantajan ei tarvitse toimia Coloradossa kohdatakseen väitteen siitä, että se siirsi rekrytointipäätöksen järjestelmälle, joka käytti todellista harkintaa ja jonka harkinta johti syrjivään lopputulokseen kello 1.50 aamuyöllä kaikkien muiden nukkuessa.
Oikeudellinen riski palautuu suoraan hallinnon tyhjiöön. Työnantajalla, joka ei pysty osoittamaan, kuka tarkasti tekoälytyökalun ennen käyttöönottoa, kuka valvoo sitä syrjivien mallien varalta ja kuka vastaa sen tuotoksista, ei ole merkityksellistä puolustusta, kun päätös riitautetaan. Komitea piti kokouksen. Kukaan ei valvonut.
Vastuiden uudelleensuunnittelu
Terveydenhuollon tekoäly-yritys Sukista kotoisin oleva Chelsea Gregory johti hiljattain työntekijäkäsikirjan uudistamista. Hän tarjosi Transform-tapahtuman yleisölle käytännönläheisen esimerkin siitä, miten hallinnon aukko ilmenee ennen kuin siitä tulee oikeudellinen ongelma.
Joustava palkallista vapaata koskeva käytäntö toimi hyvin pienemmän tiimin kanssa, mutta yrityksen kasvaessa se alkoi synnyttää yhdenvertaisuutta koskevia valituksia. Esihenkilö hyväksyi uudemmille työntekijöille pidempiä vapaita, kun taas kokeneemmat työntekijät kokivat, että käytäntöä sovellettiin epäjohdonmukaisesti. Mikään ei ollut pahantahtoista. Dokumentaatio ei vain ollut pysynyt organisaation kasvun tahdissa.
Sama ilmiö näkyy tekoälytyökaluissa. Yhtä käyttöönottotilannetta varten suunnitellut käytännöt eivät automaattisesti siirry tilanteeseen, jossa organisaatio kasvaa, henkilöstö muuttuu tai työkalua päivitetään.
Onko teillä asianmukainen dokumentaatio ja asianmukaiset prosessit käytössä? Ja miten varmistatte, että ne ovat paikkansapitäviä ja palvelevat tarkoitustaan?
Useimmissa organisaatioissa kukaan ei ole muodollisesti vastuussa tarkistamisesta.
Aukon sulkeminen edellyttää jotain olennaisempaa kuin parempaa käytäntöasiakirjaa. McIntire kannattaa integrointia eli toisin sanoen sitä, ettei tekoälyriski saisi jäädä yrityksen riskienhallintakehyksen ulkopuolelle erillisenä ja eksoottisena kategoriana. Sen tulisi olla osa nykyistä riskirakennetta, ja sen omistajuuden tulisi olla yhtä selkeä kuin minkä tahansa muun operatiivisen riskin kohdalla.
Kysymys kuuluu sitten, onko nykyisiä riskiprosesseja johtavilla ihmisillä valtuudet, koulutus ja organisatorinen pääsy soveltaa niitä tekoälyyn?
Reimers ja Poepsel päätyvät samaan johtopäätökseen eri suunnista. ACE-malli toimii, koska se sijoittaa vastuun lähelle työtä. Henkilöstöhallinnon kerroinmalli toimii, koska se tekee näkyväksi sen, mitä henkilöstöhallinto tarjoaa ainutlaatuisella tavalla — organisaatiotuntemuksen, käyttäytymiseen liittyvän kontekstin ja kyvyn verrata mallin tuotosta siihen todelliseen ihmiseen, johon se vaikuttaa. Kumpikaan ei korvaa muodollista hallintoa. Molemmat auttavat tekemään muodollisesta hallinnosta merkityksellistä.
Henkilöstöjohtajilta edellytetään tällä hetkellä vastuunkantoa tekoälypäätöksistä ilman valtuuksia hallita niitä, ja kyse on rakenteellisesta epäonnistumisesta, joka tulkitaan virheellisesti osaamisongelmaksi.
Organisaatiot, jotka suhtautuvat siihen jälkimmäisenä, todennäköisesti jatkavat sellaisten komiteoiden kokoonpanojen täydentämistä, joilla ei ole todellista vaikutusvaltaa. Varsinainen työ on hallintovallan jakautumisen uudistaminen ylimmän johdon kesken niin, että vastuu ja valta kulkevat yhdessä.
Gartnerin vuoden 2025 tutkimus kuvaa nykytilaa suoraan: alle yksi neljästä IT-johtajasta sanoo olevansa erittäin luottavainen siihen, että heidän organisaationsa pystyy hallitsemaan generatiivisen tekoälyn työkalujen käyttöönottoon liittyvää hallintaa. Useammilla yrityksillä on muodollisia strategioita paperilla kuin koskaan aiemmin. Hyvin harvat ovat onnistuneet viemään ne käytäntöön.
Politiikan ja todellisen vastuun sisältävän hallintorakenteen väliin jäävä kuilu on se, missä riski piilee. Oikeudenkäyntien kehityksen perusteella juuri siellä tullaan myös nostamaan seuraavat kanteet.
