Din AI dukker ikke op til afhøringen
Skjult risiko: AI-værktøjer til ansættelse kan se retfærdige ud, mens de ikke kan skelne kvalificerede kandidater fra irrelevante eller ukvalificerede ansøgere.
Skiftende bias: Leverandørers biasrevisioner kan ikke forudsige skiftende resultater, fordi modelversioner, roller, navne og demografi påvirker resultaterne.
Menneskeligt ejerskab: Enhver AI-understøttet personalebeslutning har brug for et navngivet menneske, der er ansvarligt for at forsvare resultatet over for tilsynsmyndigheder eller sagsøgere.
Kompetencetest: Organisationer bør teste AI-systemer til ansættelse med ensartede og søgeordsfyldte CV'er, før de stoler på deres anbefalinger.
Styring først: Betragt indkøb af AI som en styringsbeslutning, og tilpas forklarlighed og tilsyn til konsekvenserne af hver anvendelse.
Forestil dig den seneste AI-understøttede ansættelsesbeslutning, dit team traf. En kandidat blev markeret. En "egnethedsscore" tæt på bunden af køen. Din rekrutteringsmedarbejder gik videre.
Forestil dig nu, at kandidaten indgiver en diskriminationsklage seks måneder senere og under en afhøring spørger præcis, hvorfor vedkommende blev afvist. Hvis navn står i sagen? Dit? Rekrutteringsmedarbejderens? Leverandørens?
Hvis dit ærlige svar er "algoritmen markerede det", har du et ansvarlighedsproblem, og det er strukturelt. Ingen leverandør løser det for dig.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Jeg har tilbragt det seneste årti som analytiker inden for forretningsintelligens hos Amazon og Microsoft. Jeg brugte også det seneste år på at revidere otte kommercielle platforme til AI-screening af CV'er. Omkring 4.000 testforsøg med identiske CV'er, der kun varierede efter kandidatens navn, blev testet for både demografisk skævhed og grundlæggende kompetence.
Det, jeg fandt, er mere ubehageligt end den sædvanlige fortælling om, at "AI er forudindtaget". Flere platforme, der hyldes som de mest neutrale, er neutrale på samme måde som et ødelagt termometer er neutralt. De producerer stabile, demografisk afbalancerede resultater, fordi de ikke meningsfuldt kan skelne mellem en kvalificeret og en ukvalificeret kandidat. Det er et skær af retfærdighed lagt over et værktøj, der ikke fungerer.
Jeg kalder dette for "illusionen om neutralitet", og det er den dynamik, ledende HR-chefer bør bekymre sig mest om, fordi det er den, jeres revision af skævhed ikke kan opdage.
AI udfører nu fortællingsarbejde
Arbejdsmarkedskonteksten er vigtig her, primært på grund af det, den afslører om motivet. En analyse fra New York Fed fra september 2025 viste, at kun 1 % af servicevirksomhederne angav AI som årsagen til afskedigelser i de foregående seks måneder, mens 35 % sagde, at AI fik dem til at efteruddanne medarbejdere.
En undersøgelse fra Resume.org af 1.000 ansættende ledere, offentliggjort i januar, viste imidlertid, at 59 % indrømmer, at de fremhæver AI, når de forklarer ansættelsesstop eller afskedigelser, fordi det "fungerer bedre over for interessenter" end at henvise til økonomiske begrænsninger.
AI bliver bedt om at udføre fortællingsarbejde ud over det operationelle arbejde. Husk det, for den samme tilbøjelighed, der giver AI skylden for en afskedigelse, vil give AI skylden for en dårlig ansættelsesbeslutning.
"Datadrevet" blev forvansket til "Find dataene til mig"
Løftet om datadrevet ledelse var enkelt. Mindsk afhængigheden af mavefornemmelsen. Fremlæg dokumentation. Skab en efterprøvbar registrering. Når disciplinen fastholdes, fungerer det.
Det, jeg har set ske i løbet af de seneste fem år, fik langt mindre opmærksomhed, end det fortjente. Værktøjerne ændrede sig aldrig. Forholdet mellem lederne og værktøjerne gjorde. Den faktiske anmodning holdt op med at være "hvad siger dataene?" og blev til "find de data, der understøtter dette."
AI fremskynder skiftet, fordi et modelresultat er sværere at modsige end en ansættende leders mavefornemmelse. Så når noget går galt, bliver svaret "systemet viste det." Den sætning er hele problemet.
De mest retfærdige modeller kan ikke skelne mellem kandidater
På tværs af otte platforme, herunder ChatGPT, Gemini, Copilot og Claude, viste der sig tre mønstre.
Skævheden er stadig til stede, og den er mindre forudsigelig. Flere modeller straffede CV'er, blot fordi et kandidatnavn var knyttet til dem, uanset hvilket navn det var. Andre belønnede specifikke demografiske grupper i nogle roller og straffede dem i andre. En model delte den samme racemæssige gruppe i modsatte retninger efter køn på det samme CV.
Skævheden skifter med rollen og modelversionen. Din leverandørs revision af skævhed forudsiger ikke, hvordan værktøjet vil opføre sig ved den næste rekrutteringsanmodning.
De "mest retfærdige" modeller er ofte de mindst kompetente. Da jeg testede, om modellerne kunne skelne mellem et relevant og et irrelevant CV, kunne flere af dem ikke. En model vurderede et CV fra servicebranchen, fyldt med finansnøgleord, til 92 ud af 100 til en stilling som finansdirektør. Det samme CV uden nøgleordene fik 15. Modellen scorede ordforråd. Kvalifikationer indgik aldrig i vurderingen. Et værktøj som det er holdt op med overhovedet at vurdere noget.
Den samme leverandør giver forskellige svar afhængigt af, hvilken version der kører. En kandidat, der evalueres af ChatGPTs "hurtige" version, kan få 15 point mere eller mindre end den samme kandidat på dens "langsomme" version samme dag. De fleste ledere ved ikke, hvilken version de kører, og de ved ikke, at det har betydning.
Dette er ikke særtilfælde. Det er driftsvilkårene for AI-værktøjer til ansættelse lige nu.
More Articles
- AI i rekruttering: Fra hype til strategisk fordel
- Kunstig intelligens i forretningsdrift: Gør ny teknologi til en strategisk forretningsfordel
- AI på arbejdspladsen: Praktiske anvendelser, eksempler fra virkeligheden & vejledning i implementering
- Lancér, lær, skalér. Hvad så?
- AI inden for præstationsstyring: Guide til anvendelser og implementering
Ansvarsfordampning
Bedre beslutninger er kun en del af årsagen til, at disse værktøjer bliver taget i brug. De gør også svære beslutninger lettere at forsvare. Afskedigelser. Præstationsvurderinger. Afslag på ansættelse. Beslutninger om løn og kompensation. Når modelresultatet er i sagen, har den person, der godkendte det, en plausibel benægtelse, som vedkommende ikke havde før.
En undersøgelse fra ResumeBuilder fra 2025 gør dette konkret. Blandt ledere, der bruger AI til personalebeslutninger, bruger 64 % det til at hjælpe med at afgøre opsigelser, og mere end hver femte indrømmer, at de ofte lader AI træffe den endelige beslutning uden menneskelig indblanding.
Den adfærdsmæssige forskning er endnu mere tydelig. Et studie fra Nature fra 2025 af Köbis og kolleger fandt, at AI-agenter fulgte fuldt uetiske instruktioner mellem 58 og 98 % af tiden afhængigt af modellen, sammenlignet med 25 til 40 % for menneskelige agenter, der fik de samme instruktioner.
Maskiner er langt mere villige end mennesker til at følge etisk kompromitterede ordrer til dørs, og det er netop den egenskab, der gør dem nyttige som infrastruktur for ansvarlighed.
Forskningslitteraturen har et navn for den menneskelige side af dette. Madeleine Clare Elish kaldte det den "moralske krølzone", hvor mennesker i den skarpe ende af et automatiseret system påtager sig skylden for fejl, der udspringer af spredte design- og styringsbeslutninger. Medarbejdere begynder at tale om "hvad systemet besluttede" i stedet for "hvad vi besluttede", selv når de stadig har et råderum.
Det mest præcise navn for hele dynamikken er ansvarsvask. Modellen træffer en beslutning, der tidligere krævede et forsvarligt menneskeligt skøn, og omdanner den til et resultat, som ingen behøver at forsvare. Når beslutningen er forkert, er fejlen alles og ingens, og jeres organisation mister evnen til at lære af sine egne fejl.
Styring – ellers bliver det ikke lanceret
Tiden er inde til, at ledere betragter indkøb af AI som en styringsbeslutning snarere end en IT-beslutning.
Sæt et navn på hvert AI-assisteret valg. Som en AI-advokat for nylig sagde til CIO, møder algoritmen ikke op i retten. Det gør de mennesker, der udviklede, implementerede eller brugte den. Før et AI-værktøj overhovedet berører ansættelser, præstationsvurderinger, aflønning eller opsigelser, skal I kræve svar på ét spørgsmål: Når dette resultat viser sig at være forkert, hvis navn står så i sagen? Ikke leverandørens. Ikke modellens. Et menneskes – en person, der er tilstrækkeligt højt placeret til at forsvare beslutningen over for en tilsynsmyndighed eller en advokat for en sagsøger.
Tilpas forklarbarheden til indsatsens størrelse. En model, der anbefaler træningsindhold, kan være en sort boks. En model, der bidrager til en opsigelse, kan ikke. De fleste organisationer fastsætter deres standard for forklarbarhed én gang ved indkøbet. De disciplinerede organisationer fastsætter den på ny for hvert anvendelsestilfælde og går væk fra leverandører, der ikke kan leve op til den højere standard.
Gennemfør jeres egne dobbelte valideringsrevisioner. Leverandørernes biasrevisioner er nødvendige, men utilstrækkelige. Test også kompetencen. Kan værktøjet faktisk skelne mellem kvalificerede og ukvalificerede kandidater til de stillinger, I ansætter til? Et par CV'er, der ikke passer. Et par, der er fyldt med nøgleord. Sammenlign resultaterne. Hvis modellen ikke kan se forskellen, kan den ikke hjælpe jer, uanset hvor fordomsfri den ser ud.
HR er den funktion, som AI-leverandører bejler mest til, og den funktion, der står med ansvaret, når et af disse værktøjer producerer et uforsvarligt resultat. Fristelsen vil være at behandle indkøb som et leverandørspørgsmål. Modstå den.
Som en arbejdsretsadvokat sagde til The Washington Post, da algoritmer for første gang begyndte at forme lister over afskedigelser: "Prøv ikke at tørre ansvaret af på softwaren."
Hvis jeres svar på en mangelfuld AI-assisteret beslutning er "det gjorde systemet", er jeres system blevet jeres risiko. Et sted i jeres organisation er der en person, som skal tage ejerskab for hvert valg, disse værktøjer berører. Find ud af, hvem det er, før en afhøring gør det.
