Tekoälysi ei saavu oikeudelliseen kuulusteluun
Piilevä riski: Tekoälyä hyödyntävät rekrytointityökalut voivat vaikuttaa oikeudenmukaisilta, vaikka ne eivät pysty erottamaan päteviä hakijoita epäolennaisista tai epäpätevästä hakijoista.
Muuttuva vinouma: Toimittajien vinoumatarkastukset eivät voi ennustaa muuttuvia tuloksia, koska malliversiot, tehtävät, nimet ja demografiset tekijät vaikuttavat tuloksiin.
Ihmisen vastuu: Jokaisella tekoälyn tukemalla henkilöstöpäätöksellä on oltava nimetty ihminen, joka vastaa päätöksen perustelemisesta valvontaviranomaisille tai kantajille.
Pätevyyden testaaminen: Organisaatioiden tulisi testata tekoälyä hyödyntävät rekrytointijärjestelmät toisiaan vastaavilla ja avainsanoilla täytetyillä ansioluetteloilla ennen niiden suosituksiin luottamista.
Hallinta ensin: Käsittele tekoälyn hankintaa hallintapäätöksenä ja suhteuta selitettävyys sekä valvonta kunkin käyttötavan seurauksiin.
Ajattele viimeisintä tekoälyn avustamaa rekrytointipäätöstä, jonka tiimisi teki. Järjestelmän merkitsemä hakija. Jonon häntäpäähän sijoittuva ”sopivuuspistemäärä”. Rekrytoijasi siirtyi eteenpäin.
Ajattele nyt, että kyseinen hakija tekee kuusi kuukautta myöhemmin syrjintävalituksen ja kysyy kuulustelussa täsmälleen, miksi hänet hylättiin. Kenen nimi on asiakirjoissa? Sinunko? Rekrytoijanko? Palveluntarjoajanko?
Jos rehellinen vastauksesi on ”algoritmi merkitsi sen”, sinulla on vastuuongelma, ja se on rakenteellinen. Mikään palveluntarjoaja ei ratkaise sitä puolestasi.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Olen työskennellyt viimeiset kymmenen vuotta liiketoimintatiedon analyytikkona Amazonilla ja Microsoftilla. Käytin myös viime vuoden auditoiden kahdeksaa kaupallista tekoälypohjaista ansioluetteloiden seulonta-alustaa. Noin 4 000 kokeilua, joissa käytettiin ansioluetteloita, jotka olivat muuten identtisiä mutta joissa hakijan nimi vaihteli, ja joissa testattiin sekä demografista vinoumaa että perustason pätevyyttä.
Havaintoni on epämukavampi kuin tavanomainen tarina siitä, että ”tekoäly on puolueellinen”. Useita puolueettomimpina kehuttuja alustoja voidaan pitää puolueettomina samalla tavalla kuin rikkinäistä lämpömittaria. Ne tuottavat vakaita ja demografisesti tasapainoisia tuloksia, koska ne eivät pysty mielekkäästi erottamaan pätevää hakijaa epäpätevästä. Se on vaikutelma oikeudenmukaisuudesta, joka on asetettu toimimattoman työkalun päälle.
Kutsun tätä ”puolueettomuuden illuusioksi”, ja juuri tästä dynamiikasta henkilöstöhallinnon ylimpien johtajien pitäisi olla eniten huolissaan, koska sitä vinouma-auditointisi ei pysty havaitsemaan.
Tekoäly tekee nyt myös kerronnallista työtä
Työmarkkinoiden konteksti on tässä tärkeä, lähinnä siksi, mitä se paljastaa motiivista. New Yorkin keskuspankin syyskuussa 2025 tekemän analyysin mukaan vain 1 % palvelualan yrityksistä ilmoitti tekoälyn olleen syynä viimeisten kuuden kuukauden aikana toteutettuihin irtisanomisiin, kun taas 35 % kertoi tekoälyn johtaneen työntekijöiden uudelleenkouluttamiseen.
Tuhannen rekrytointipäällikön Resume.org-kyselyssä, joka julkaistiin tammikuussa, kuitenkin havaittiin, että 59 % myöntää korostavansa tekoälyä selittäessään rekrytointijäädytyksiä tai irtisanomisia, koska se ”toimii paremmin sidosryhmien kanssa” kuin taloudellisiin rajoitteisiin vetoaminen.
Tekoälyltä pyydetään operatiivisen työn lisäksi myös kerronnallista työtä. Pidä tämä mielessä, sillä sama vaisto, joka syyttää tekoälyä irtisanomisesta, syyttää tekoälyä myös huonosta rekrytointipäätöksestä.
”Tietoperustaisuus” muuttui muotoon ”etsi minulle tietoja”
Tietoperustaisen johtamisen lupaus oli selkeä. Vähennä vaistonvaraisten päätösten merkitystä. Tuo näyttö esiin. Luo tarkasteltava dokumentaatio. Kun toimintatapaa noudatetaan, se toimii.
Se, mitä olen viimeisten viiden vuoden aikana seurannut, sai paljon vähemmän huomiota kuin olisi pitänyt. Työkalut eivät koskaan muuttuneet. Johtajien ja työkalujen välinen suhde muuttui. Varsinainen pyyntö ei enää ollut ”mitä data kertoo?” vaan ”etsi minulle dataa, joka tukee tätä”.
Tekoäly kiihdyttää muutosta, koska mallin tulosta on vaikeampi vastustaa kuin rekrytointipäällikön vaistonvaraista päätöstä. Kun jokin menee pieleen, vastaukseksi tulee siis ”järjestelmä toi sen esiin”. Tuo lause on koko ongelma.
Oikeudenmukaisimmat mallit eivät pysty erottamaan hakijoita toisistaan
Kahdeksan alustan, mukaan lukien ChatGPT, Gemini, Copilot ja Claude, tarkastelussa nousi esiin kolme toimintamallia.
Vinouma on edelleen olemassa, ja se on vähemmän ennustettavissa. Useat mallit rankaisivat ansioluetteloita yksinkertaisesti siksi, että niihin oli liitetty hakijan nimi, nimestä riippumatta. Toiset palkitsivat tiettyjä demografisia ryhmiä joissakin tehtävissä ja rankaisivat niitä toisissa. Yksi malli jakoi saman rodullisen ryhmän jäsenet vastakkaisiin suuntiin sukupuolen perusteella, vaikka ansioluettelo oli sama.
Vinouma muuttuu tehtävän ja malliversion mukaan. Palveluntarjoajasi vinouma-auditointi ei ennusta, miten työkalu toimii seuraavan rekrytointitarpeen kohdalla.
”Oikeudenmukaisimmat” mallit ovat usein vähiten päteviä. Testatessani, pystyivätkö mallit erottamaan tehtävän kannalta olennaisen ansioluettelon epäolennaisesta, useat eivät siihen kyenneet. Yksi malli arvioi rahoitusalan avainsanoilla täytetyn palvelualan ansioluettelon arvosanalla 92/100 talousjohtajan tehtävään. Sama ansioluettelo ilman avainsanoja sai arvosanan 15. Malli pisteytti sanastoa. Pätevyys ei koskaan tullut osaksi arviointia. Tällainen työkalu ei enää arvioi yhtään mitään.
Sama palveluntarjoaja antaa erilaisia vastauksia sen mukaan, mikä versio on käytössä. ChatGPT:n ”nopealla” versiolla arvioitu hakija saattoi saada samana päivänä 15 pistettä enemmän tai vähemmän kuin sama hakija sen ”hitaalla” versiolla. Useimmat esihenkilöt eivät tiedä, mikä versio heillä on käytössä, eivätkä tiedä, että sillä on merkitystä.
Nämä eivät ole poikkeustapauksia. Ne ovat tekoälypohjaisten rekrytointityökalujen tämänhetkisiä toimintaolosuhteita.
Vastuunpesu
Paremmat päätökset ovat vain yksi syy siihen, miksi nämä työkalut otetaan käyttöön. Ne myös helpottavat vaikeiden päätösten puolustamista. Irtisanomiset. Suoritusarvioinnit. Rekrytoinnin hylkäykset. Palkitsemista koskevat päätökset. Kun mallin tulos on asiakirjoissa, hyväksynnän antaneella henkilöllä on uskottava mahdollisuus kiistää vastuunsa tavalla, johon hänellä ei aiemmin ollut mahdollisuutta.
Vuonna 2025 tehty ResumeBuilderin kysely tekee tästä konkreettista. Tekoälyä henkilöstöpäätöksiin käyttävistä esihenkilöistä 64 prosenttia käyttää sitä apuna irtisanomisista päätettäessä, ja useampi kuin joka viides myöntää antavansa tekoälyn usein tehdä lopullisen päätöksen ilman ihmisen osallistumista.
Käyttäytymistieteellinen tutkimus on vieläkin puhuttelevampaa. Köbisin ja hänen kollegoidensa vuonna 2025 Nature-lehdessä julkaisema tutkimus osoitti, että tekoälyagentit noudattivat täysin epäeettisiä ohjeita mallista riippuen 58–98 prosentissa tapauksista, kun taas samat ohjeet saaneet ihmisagentit noudattivat niitä 25–40 prosentissa tapauksista.
Koneet ovat ihmisiä paljon halukkaampia toteuttamaan eettisesti kyseenalaiset käskyt, mikä on juuri se ominaisuus, joka tekee niistä hyödyllisiä vastuullisuuden infrastruktuurina.
Tutkimuskirjallisuudessa tälle inhimilliselle ilmiölle on nimi. Madeleine Clare Elish kutsui sitä "moraaliseksi kokoonpuristumisvyöhykkeeksi", jossa automaattisen järjestelmän terävimmässä päässä olevat ihmiset joutuvat kantamaan vastuun epäonnistumisista, jotka ovat saaneet alkunsa hajautuneista suunnittelu- ja hallintopäätöksistä. Henkilöstö alkaa puhua siitä, "mitä järjestelmä päätti", eikä siitä, "mitä me päätimme", vaikka heillä olisi edelleen harkintavaltaa.
Koko ilmiön osuvin nimi on vastuunpesu. Malli tekee päätöksen, joka aiemmin edellytti perusteltua ihmisen harkintaa, ja muuttaa sen tuotokseksi, jota kenenkään ei tarvitse puolustaa. Kun päätös on väärä, epäonnistuminen kuuluu kaikille ja ei kenellekään, ja organisaatiosi menettää kykynsä oppia omista virheistään.
Hallinto ratkaisee – muuten sitä ei viedä tuotantoon
Johtajien on aika alkaa käsitellä tekoälyn hankintaa hallinnollisena päätöksenä IT-päätöksen sijaan.
Nimeä jokaiselle tekoälyn avustamalle päätökselle vastuuhenkilö. Kuten eräs tekoälyyn erikoistunut asianajaja äskettäin kertoi CIO:lle, algoritmi ei saavu oikeuteen. Sinne saapuvat ihmiset, jotka kehittivät, ottivat käyttöön tai käyttivät sitä. Ennen kuin mikään tekoälytyökalu vaikuttaa rekrytointiin, suoriutumisen arviointeihin, palkitsemiseen tai irtisanomisiin, vaadi vastaus yhteen kysymykseen: kun tämä tuotos osoittautuu vääräksi, kenen nimi on asiakirjoissa? Ei toimittajan. Ei mallin. Vaan sellaisen henkilön, joka on riittävän korkeassa asemassa puolustaakseen päätöstä valvojalle tai kantajan asianajajalle.
Suhteuta selitettävyys panoksiin. Koulutussisältöä suositteleva malli voi olla musta laatikko. Irtisanomiseen vaikuttava malli ei voi. Useimmat organisaatiot määrittävät selitettävyysstandardinsa kerran, hankinnan yhteydessä. Kurinalaiset organisaatiot määrittävät sen uudelleen jokaisessa käyttötapauksessa ja luopuvat toimittajista, jotka eivät pysty täyttämään korkeampaa vaatimustasoa.
Tee omat kaksinkertaisen validoinnin auditointisi. Toimittajien puolueellisuusauditoinnit ovat välttämättömiä, mutta eivät riittäviä. Testaa myös pätevyys. Pystyykö työkalu todella erottamaan pätevät ja epäpätevät hakijat niissä tehtävissä, joihin rekrytoit? Muutama ansioluettelo, joka ei vastaa tehtävää. Muutama avainsanoilla täytetty ansioluettelo. Vertaa pisteitä. Jos malli ei pysty erottamaan niitä toisistaan, siitä ei ole sinulle apua, vaikka se vaikuttaisi kuinka puolueettomalta.
Henkilöstöhallinto on toiminto, jota tekoälytoimittajat tavoittelevat kaikkein innokkaimmin, ja toiminto, joka joutuu kantamaan vastuun, kun jokin näistä työkaluista tuottaa kestämättömän lopputuloksen. Houkutus on käsitellä hankintaa toimittajaa koskevana kysymyksenä. Älä anna periksi sille.
Kuten eräs työoikeuteen erikoistunut asianajaja sanoi The Washington Postille, kun algoritmit alkoivat ensimmäisen kerran vaikuttaa irtisanomislistoihin: "Älä yritä vierittää vastuuta ohjelmiston niskoille."
Jos vastauksesi virheelliseen tekoälyn avustamaan päätökseen on "järjestelmä teki sen", järjestelmästäsi on tullut riskisi. Jossain organisaatiossasi jonkun on otettava vastuu jokaisesta päätöksestä, johon nämä työkalut vaikuttavat. Selvitä, kuka se on, ennen kuin asia tulee esiin todistajan kuulemisessa.
