Din KI vil ikke møte opp til avhøret
Skjult risiko: KI-verktøy for ansettelser kan fremstå som rettferdige, samtidig som de ikke klarer å skille kvalifiserte kandidater fra irrelevante eller ukvalifiserte søkere.
Skiftende skjevhet: Leverandørenes revisjoner av skjevhet kan ikke forutsi endrede resultater, fordi modellversjoner, roller, navn og demografi påvirker resultatene.
Menneskelig eierskap: Alle personalbeslutninger som støttes av KI, trenger en navngitt person som er ansvarlig for å forsvare resultatet overfor tilsynsmyndigheter eller saksøkere.
Kompetansetesting: Organisasjoner bør teste KI-systemer for ansettelser med sammenlignbare og søkeordstappede CV-er før de stoler på anbefalingene deres.
Styring først: Behandle anskaffelse av KI som en styringsbeslutning, og tilpass forklarbarhet og tilsyn etter konsekvensene av hver bruk.
Tenk på den siste AI-assisterte ansettelsesbeslutningen teamet ditt tok. En kandidat som ble flagget. En «egnethetspoengsum» nær bunnen av køen. Rekruttereren gikk videre.
Tenk nå på at denne kandidaten leverer inn en diskrimineringsklage seks måneder senere og spør under en forklaring nøyaktig hvorfor de ble avvist. Hvem sitt navn står i saken? Ditt? Rekruttererens? Leverandørens?
Hvis det ærlige svaret ditt er «algoritmen flagget det», har du et ansvarsproblem, og det er strukturelt. Ingen leverandør kommer til å løse det for deg.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Jeg har tilbrakt det siste tiåret som forretningsanalytiker innen forretningsintelligens hos Amazon og Microsoft. Jeg brukte også det siste året på å revidere åtte kommersielle AI-plattformer for CV-gjennomgang. Omtrent 4 000 tester, med identiske CV-er der bare kandidatens navn varierte, ble gjennomført for å undersøke både demografisk skjevhet og grunnleggende kompetanse.
Det jeg fant, er mer ubehagelig enn den vanlige historien om at «AI er forutinntatt». Flere plattformer som hylles som de mest nøytrale, er nøytrale på samme måte som et ødelagt termometer er nøytralt. De produserer stabile, demografisk balanserte resultater fordi de ikke klarer å skille meningsfullt mellom en kvalifisert og en ukvalifisert kandidat. Det er et skinn av rettferdighet lagt over et verktøy som ikke fungerer.
Jeg kaller dette «illusjonen om nøytralitet», og det er den dynamikken ledere innen HR bør bekymre seg mest for, fordi det er den deres skjevhetsrevisjon ikke kan avdekke.
AI utfører narrativt arbeid nå
Situasjonen i arbeidsmarkedet er viktig her, hovedsakelig fordi den avdekker motivet. En analyse fra Federal Reserve Bank of New York fra september 2025 viste at bare 1 % av tjenestebedriftene oppga AI som årsaken til oppsigelser de siste seks månedene, mens 35 % sa at AI førte til at de omskolerte ansatte.
Likevel viste en undersøkelse fra Resume.org blant 1 000 ansettelsesledere, publisert i januar, at 59 % innrømmer at de fremhever AI når de forklarer ansettelsesstopp eller oppsigelser, fordi det «fungerer bedre overfor interessenter» enn å vise til økonomiske begrensninger.
AI blir bedt om å utføre narrativt arbeid i tillegg til operativt arbeid. Ha dette i bakhodet, fordi den samme tilbøyeligheten som skylder på AI for en oppsigelse, også vil skylde på AI for en dårlig ansettelsesbeslutning.
«Datadrevet» surnet til «Finn dataene for meg»
Løftet om datadrevet ledelse var ryddig. Mindre avhengighet av magefølelse. Få frem dokumentasjon. Opprett en etterprøvbar oversikt. Når disiplinen opprettholdes, fungerer det.
Det jeg har sett skje de siste fem årene, har fått langt mindre oppmerksomhet enn det fortjener. Verktøyene ble aldri endret. Forholdet mellom lederne og verktøyene ble endret. Den faktiske forespørselen sluttet å være «hva sier dataene?» og ble til «finn dataene som støtter dette».
AI akselererer endringen fordi det er vanskeligere å bestride et modellresultat enn en ansettelsesleders magefølelse. Så når noe går galt, blir svaret «systemet viste det». Den setningen er hele problemet.
De mest rettferdige modellene klarer ikke å skille kandidater fra hverandre
På tvers av åtte plattformer, inkludert ChatGPT, Gemini, Copilot og Claude, oppsto tre mønstre.
Skjevheten er fortsatt der, og den er mindre forutsigbar. Flere modeller straffet CV-er bare fordi et kandidatnavn var knyttet til dem, uavhengig av hvilket navn det var. Andre belønnet bestemte demografiske grupper i noen roller og straffet dem i andre. Én modell delte en enkelt rasegruppe i motsatte retninger basert på kjønn, på den samme CV-en.
Skjevheten endrer seg med rollen og modellversjonen. Leverandørens skjevhetsrevisjon forutsier ikke hvordan verktøyet vil oppføre seg ved neste rekrutteringsbehov.
De «mest rettferdige» modellene er ofte de minst kompetente. Da jeg testet om modeller kunne skille en relevant CV fra en irrelevant, klarte flere det ikke. Én modell vurderte en CV fra servicebransjen, fullstappet med finansnøkkelord, til 92 av 100 for en stilling som finansdirektør. Den samme CV-en uten nøkkelordene fikk 15 poeng. Modellen vurderte ordforrådet. Kvalifikasjoner kom aldri inn i vurderingen. Et slikt verktøy har sluttet å vurdere noe som helst.
Den samme leverandøren gir ulike svar avhengig av hvilken versjon som kjører. En kandidat som vurderes av ChatGPTs «raske» versjon, kan få 15 poeng mer eller mindre enn den samme kandidaten på den «langsomme» versjonen samme dag. De fleste ledere vet ikke hvilken versjon de kjører, og de vet ikke at det har betydning.
Dette er ikke særtilfeller. Det er driftsbetingelsene for AI-verktøy for ansettelser akkurat nå.
More Articles
- KI i rekruttering: Fra hype til strategisk fordel
- KI i forretningsdriften: Gjør fremvoksende teknologi til et strategisk fortrinn for virksomheten
- AI på arbeidsplassen: Praktiske bruksområder, eksempler fra virkeligheten og veiledning for innføring
- Utvikle, lære, skalere. Hva så?
- AI i prestasjonsstyring: Bruksområder og veiledning for innføring
Ansvarsforflytning
Bedre beslutninger er bare én del av grunnen til at disse verktøyene tas i bruk. De gjør også vanskelige beslutninger enklere å forsvare. Oppsigelser. Prestasjonsvurderinger. Avslag på søknader. Beslutninger om lønn og kompensasjon. Når modellresultatet ligger i saken, har personen som godkjente beslutningen en plausibel benektelse de ikke hadde før.
En undersøkelse fra ResumeBuilder fra 2025 gjør dette konkret. Blant ledere som bruker AI til personalbeslutninger, bruker 64 % det til å bidra i avgjørelser om oppsigelser, og mer enn én av fem innrømmer at de ofte lar AI ta den endelige avgjørelsen uten menneskelig medvirkning.
Den atferdsvitenskapelige forskningen er enda tydeligere. En studie i Nature fra 2025 av Köbis og kolleger fant at AI-agenter fulgte fullt ut uetiske instrukser mellom 58 og 98 % av tiden, avhengig av modellen, sammenlignet med 25 til 40 % for menneskelige agenter som fikk de samme instruksene.
Maskiner er langt mer villige enn mennesker til å gjennomføre etisk kompromitterte ordrer, noe som nettopp er egenskapen som gjør dem nyttige som ansvarlighetsinfrastruktur.
Forskningslitteraturen har et navn på menneskesiden av dette. Madeleine Clare Elish kalte det den «moralske krøllesonen», der mennesker i den skarpe enden av et automatisert system tar på seg skylden for feil som oppsto i spredte design- og styringsbeslutninger. Ansatte begynner å snakke om «hva systemet bestemte» i stedet for «hva vi bestemte», selv når de fortsatt har handlingsrom.
Det mest presise navnet på hele dynamikken er ansvarsvasking. Modellen tar en beslutning som tidligere krevde et forsvarlig menneskelig skjønn, og omgjør den til et resultat som ingen trenger å forsvare. Når beslutningen er feil, er feilen alles og ingens, og organisasjonen din mister evnen til å lære av sine egne feil.
Styring – ellers blir det ikke lansert
Tiden er inne for at ledere behandler AI-anskaffelser som en styringsbeslutning, ikke en IT-beslutning.
Sett et navn på hver AI-assisterte beslutning. Som en AI-advokat nylig sa til CIO, kommer ikke algoritmen til å møte i retten. Det gjør menneskene som utviklet, tok i bruk eller brukte den. Før et AI-verktøy får påvirke ansettelser, prestasjonsvurderinger, godtgjørelse eller oppsigelser, må dere kreve svar på ett spørsmål: Når dette resultatet viser seg å være feil, hvem sitt navn står i saken? Ikke leverandørens. Ikke modellens. Et menneskes navn – en person som er høyt nok plassert til å forsvare beslutningen overfor en tilsynsmyndighet eller en saksøkers advokat.
Tilpass kravene til forklarbarhet etter hvor mye som står på spill. En modell som anbefaler opplæringsinnhold, kan være en svart boks. En modell som bidrar til en oppsigelse, kan ikke være det. De fleste organisasjoner fastsetter standarden for forklarbarhet én gang, ved anskaffelsen. De disiplinerte fastsetter den på nytt for hvert bruksområde og går bort fra leverandører som ikke kan oppfylle den høyere standarden.
Gjennomfør egne revisjoner med dobbel validering. Leverandørenes skjevhetsrevisjoner er nødvendige, men ikke tilstrekkelige. Test også kompetansen. Klarer verktøyet faktisk å skille kvalifiserte kandidater fra ukvalifiserte kandidater til stillingene dere ansetter til? Noen få CV-er som ikke passer. Noen få som er fulle av nøkkelord. Sammenlign poengene. Hvis modellen ikke klarer å se forskjellen, kan den ikke hjelpe dere, uansett hvor lite skjev den virker.
HR er funksjonen AI-leverandørene satser hardest på, og funksjonen som må ta støyten når et av disse verktøyene produserer et uforsvarlig resultat. Fristelsen vil være å behandle anskaffelsen som et leverandørspørsmål. Ikke gjør det.
Som en arbeidsrettsadvokat sa til The Washington Post da algoritmer først begynte å påvirke listene over ansatte som skulle permitteres: «Ikke prøv å skyve ansvaret over på programvaren.»
Hvis svaret deres på en mangelfull AI-assistert beslutning er «systemet gjorde det», har systemet blitt deres risiko. Et sted i organisasjonen må en person eie hver beslutning disse verktøyene berører. Finn ut hvem det er før en avhøring gjør det.
