Den AI-baserte kandidatutvelgelsen fortjener gransking
Etterlevelsesproblem: Colorados AI-lov pålegger arbeidsgivere som bruker AI i ansettelser, åpenhet og ansvarlighet.
Åpenhet om AI: Mange kandidater er ikke klar over at AI-systemer har påvirket jobbsøknadene eller vurderingene av dem.
Tolkningsgap: HR-avdelinger har ofte problemer med å forklare AI-modeller for poengsetting og hva de innebærer for ansettelser.
Leverandøransvar: I henhold til nyere regelverk er arbeidsgivere, ikke leverandører, ansvarlige for negative utfall som skyldes AI-verktøy.
Endring i styring: Organisasjoner må prioritere forklarbarhet og dokumentasjon i AI-baserte ansettelsesprosesser for å sikre etterlevelse.
Et sted i ansettelsesprosessen din ble en kandidat filtrert ut av et system teamet ditt ikke kan forklare fullt ut. Dere har kanskje en leverandøravtale, et dashbord og en poengsum. Det de fleste organisasjoner ikke har, er et klart svar på spørsmålet som de nye AI-reglene nå i praksis krever at dere kan besvare: hvorfor.
Forskjellen mellom hva AI gjør i ansettelsesprosesser i virksomheter og det kandidater og tilsynsmyndigheter faktisk kan se, er nå et etterlevelsesspørsmål. Colorados AI-lov, en av de første lovene av sitt slag i USA, trådte i kraft i februar og krever at arbeidsgivere som bruker høyrisiko-AI-systemer i ansettelsesbeslutninger, varsler søkere og tilbyr en mekanisme som lar dem korrigere data eller klage på et negativt utfall.
For mange HR-avdelinger betyr det å oppfylle dette kravet at de må forklare systemer de ikke forstår fullt ut selv.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Markedet for AI-drevne verktøy for ansettelser har vokst betydelig de siste årene. Leverandører tilbyr plattformer for screening, automatisert vurdering av intervjuer og prediktive modeller for egnethet til arbeidsgivere som håndterer store søknadsmengder.
Salgsargumentet er effektivitet, men tallene i praksis forteller en mer komplisert historie. Antallet søknader på LinkedIn økte med mer enn 45 % fra år til år i 2025, med omtrent 11 000 søknader som kom inn på plattformen hvert minutt. Samtidig rapporterte 64 % av rekruttererne en økning i AI-genererte søknader som ligner på hverandre i samme periode, noe som økte arbeidsmengden knyttet til screening i stedet for å redusere den. Verktøyene som er utviklet for å filtrere mengden, er delvis med på å skape den.
Tatiana Teppoeva, en tidligere dataforsker i Microsoft og Boeing som nå gir råd til organisasjoner om risiko ved AI-assistert ansettelse, ser denne dynamikken utspille seg jevnlig hos virksomhetskunder.
Mange HR-team forstår leverandørenes påstander, men har begrenset innsyn i hvordan resultatene fra screeningen genereres, eller hvilke kandidatsignaler som tillegges vekt. Når kandidater spør hvorfor de ble sortert bort, har organisasjoner ofte problemer med å oversette en leverandørpoengsum til en tydelig, stillingsrelevant forklaring.
Etter hennes erfaring er gapet spesifikt: Organisasjoner kan lettere beskrive poengsummen et verktøy produserer enn de kan forklare hva den representerer når det gjelder stillingsrelevant kompetanse.
Denne mangelen på åpenhet har en målbar kostnad for kandidatene. En undersøkelse av 1 066 amerikanske jobbsøkere gjennomført av Enhancv i april 2026 viste at 68,5 % aldri fikk vite at AI spilte noen rolle i vurderingen av dem, og bare 9,7 % sa at en arbeidsgiver hadde opplyst tydelig om dette.
Nesten en tredjedel sa at de hadde trukket seg fra en stilling i stedet for å fullføre en enveis AI-screening, og mønsteret var ikke jevnt fordelt. Nesten 80 % av stillingene de trakk seg fra, hadde en lønn på under 100 000 dollar. Kandidatene med færrest valgmuligheter blir mest utsatt for systemer de ikke kan se og ikke har samtykket til.
En svart boks med en leverandøravtale
Ansvarlighetsspørsmålet handler imidlertid ikke utelukkende om manglende åpenhet, selv om dette er en del av det. Mange screeningplattformer fungerer som svarte bokser eller tilnærmet svarte bokser, der modellens vektingslogikk ikke er synlig for arbeidsgiveren, langt mindre for kandidaten.
Selv når leverandører tilbyr funksjoner for forklarbarhet, kan forklaringen en rekrutterer ser, være en forenklet tilnærming til en mer kompleks underliggende prosess. En HR-leder kan lese resultatet. Det betyr ofte ikke at vedkommende kan undersøke hvordan det ble produsert.
Dette blir viktigere i stor skala. Et selskap som behandler titusenvis av søknader i året, tar et stort antall beslutninger med betydelige konsekvenser gjennom et system som deres eget team kanskje ikke har forutsetninger for å revidere. Colorados lov om varslings- og klagekrav tvinger dette spørsmålet frem i lyset. Hvis en kandidat spør hvorfor de ble avvist, hvem svarer da, og med hvilken informasjon?
Teppoevas arbeid fokuserer spesifikt på det hun beskriver som «tolkningslaget», området mellom et AI-generert ansettelsessignal og en menneskelig beslutning. Det første spørsmålet hun stiller organisasjoner som allerede har tatt i bruk et screeningverktøy, er hvorfor: «Hvorfor fikk denne kandidaten en lav poengsum til tross for at vedkommende virket sterk for ansettelsesteamet? Hvorfor fikk en annen kandidat høy poengsum, men endte senere opp med en plan for prestasjonsforbedring?»
De fleste organisasjoner, sier hun, kan ikke svare på disse spørsmålene. De har poengsummen, men ikke begrunnelsen bak den.
«Organisasjoner baserer seg ofte på leverandørgenererte resultater uten å opprettholde et tydelig internt rammeverk for å tolke eller dokumentere disse resultatene», sier hun. «Dette kan gjøre det vanskelig å forklare hvordan menneskelig skjønn ble brukt, eller hvordan den endelige beslutningen ble tatt.»
Når en beslutning blir bestridt, blir dette gapet en risiko.
Ansvar plassert hos arbeidsgiveren
Tidspunktet for regelverket avdekker også et problem med hvordan AI-verktøy for ansettelser vanligvis har blitt anskaffet. Beslutninger om hvilken plattform som skal brukes, har ofte blitt drevet av rekrutteringsteam med fokus på gjennomstrømning, mens juridisk avdeling, compliance og noen ganger HR-ledelsen har vært mindre involvert i vurderingen av hva verktøyet faktisk gjør.
Colorados lov endrer denne vurderingen. I henhold til SB 205 ligger ansvaret for negative utfall fra AI med høy risiko i arbeidslivet hos arbeidsgiveren, ikke leverandøren. Selskapet som bruker verktøyet, er ansvarlig for resultatene.
Jimmy Hurff, COO og medgründer av Brightmove, en leverandør av søkerhåndteringssystemer, sier at anskaffelsessamtalene han ser, gjenspeiler nettopp dette problemet.
Arbeidsgivere ser ut til å være mest opptatt av integrering av funksjoner og kandidatvolumer. Våre potensielle kunder undersøker stort sett integrasjonsfunksjoner, men fokuserer sjelden på kvaliteten på kandidatflyten og automatiseringen av poengsetting og vurdering.
De viktigste spørsmålene under Colorados rammeverk – forklarbarhet, etterprøvbarhet og klageprosesser – er vanligvis ikke de som stilles rundt bordet.
Brightmove publiserte retningslinjer for ansvarlig bruk av AI som et direkte svar på SB 205, og Hurff sier at loven har tvunget frem en bredere revurdering i hele leverandørlandskapet. Han gjør det også klart hvor han mener den regulatoriske samtalen må gå videre: mot én føderal standard i stedet for et lappeteppe av delstatlig etterlevelse, noe han mener ville gitt leverandørene et tydeligere mandat å utvikle etter.
Dokumentasjonsproblemet får størst betydning når kandidater med kommunikasjonsmønstre som avviker fra det systemet ble trent på, på grunn av funksjonsnedsettelse, nevrodivergens eller språklig bakgrunn, vurderes av verktøy som ikke kan ta hensyn til kontekst. Teppoeva beskriver kjerneproblemet.
"Et signal kan måles nøyaktig og likevel tolkes feil", sier hun.
Når en kandidat bestrider et utfall, kan de fleste organisasjoner gjenskape resultatet. De kan ikke forklare beslutningen, og de har sjelden dokumentasjon som viser at det som ble målt, faktisk var relevant for rollen.
EEOC har fulgt med på dette området siden minst 2021, da organet lanserte sitt initiativ om AI og algoritmisk rettferdighet i ansettelser. Veiledningen fra 2023 gjorde det klart at arbeidsgivere ikke kan sette bort ansvaret for diskriminerende resultater fra utvelgelse til en tredjepartsleverandør.
Colorados lov går lenger ved å innføre krav om åpenhet og klagemuligheter som de fleste virksomheters rekrutteringsprosesser ikke er bygget for å oppfylle.
Dette må HR-ledere vite
Det som oppstår i praksis, er et etterlevelsesområde som mange HR-ledere ikke har kartlagt. De kan ha en leverandøravtale. De kan ha en generell forståelse av hva verktøyet gjør. Men dokumentasjon av hvordan modellen ble trent, hva den optimaliserer for, og hvordan beslutninger loggføres og kan hentes frem for gjennomgang av klager, er ofte tynnere enn det dagens regulatoriske situasjon krever.
Teppoeva beskriver endringen med begreper som HR-ledere vil kjenne igjen fra andre samtaler om etterlevelse.
Nye regelverk flytter samtalen fra «Fungerer verktøyet?» til «Kan vi forklare og forsvare hvordan det ble brukt?»
De som behandler AI-utvelgelse som en anskaffelsesbeslutning i stedet for en løpende styringsoppgave, er mest utsatt når en kandidat eller tilsynsmyndighet stiller et spørsmål verktøyet ikke kan besvare.
Noe av dette vil løse seg gjennom press fra leverandørene. Hvis bedriftskunder begynner å kreve dokumentasjon av forklarbarhet og revisjonsspor som en del av anskaffelsen, vil leverandørene bygge dette inn. Men denne prosessen går sakte, og i mellomtiden blir kandidater i Colorado og andre steder filtrert av systemer hvis logikk arbeidsgiverne som bruker dem, ikke kan forklare fullt ut.
Samtalen HR-ledere må ha, handler ikke bare om hvorvidt AI-verktøy for CV-utvelgelse fungerer. Den handler om hvorvidt organisasjonene som bruker dem, kan stå til ansvar for det de gjør.
