Din AI kommer inte att infinna sig vid förhöret
Dold risk: AI-verktyg för rekrytering kan verka rättvisa samtidigt som de misslyckas med att skilja kvalificerade kandidater från irrelevanta eller okvalificerade sökande.
Föränderlig partiskhet: Leverantörernas granskningar av partiskhet kan inte förutsäga föränderliga utfall, eftersom modellversioner, roller, namn och demografi påverkar resultaten.
Mänskligt ägarskap: Varje AI-assisterat personalbeslut behöver en namngiven människa som ansvarar för att försvara utfallet inför tillsynsmyndigheter eller kärande.
Kompetenstestning: Organisationer bör testa AI-system för rekrytering med matchade CV:n och CV:n överfyllda med nyckelord innan de litar på deras rekommendationer.
Styrning först: Betrakta upphandling av AI som ett styrningsbeslut och anpassa förklarbarhet och tillsyn efter konsekvenserna av varje användning.
Föreställ dig det senaste AI-assisterade anställningsbeslutet som ditt team fattade. En kandidat som flaggades. Ett ”lämplighetspoäng” nära botten av kön. Din rekryterare gick vidare.
Föreställ dig nu att den kandidaten lämnar in ett diskrimineringsklagomål sex månader senare och under en deposition frågar exakt varför hen avvisades. Vems namn står i akten? Ditt? Rekryterarens? Leverantörens?
Om ditt ärliga svar är ”algoritmen flaggade det”, har du ett ansvarsproblem, och det är strukturellt. Ingen leverantör kommer att lösa det åt dig.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Jag har tillbringat det senaste decenniet som analytiker inom affärsintelligens på Amazon och Microsoft. Jag ägnade också det senaste året åt att granska åtta kommersiella plattformar för AI-baserad CV-granskning. Ungefär 4 000 tester, med identiska CV:n som endast varierades genom kandidatens namn, testades både för demografisk partiskhet och grundläggande kompetens.
Det jag upptäckte är mer obehagligt än den vanliga berättelsen om att ”AI är partisk”. Flera plattformar som hyllas som de mest neutrala är neutrala på samma sätt som en trasig termometer är neutral. De producerar stabila, demografiskt balanserade resultat eftersom de inte på ett meningsfullt sätt kan skilja en kvalificerad kandidat från en okvalificerad. Det är skenbar rättvisa ovanpå ett verktyg som inte fungerar.
Jag kallar detta ”neutralitetens illusion”, och det är den dynamik som seniora HR-ledare bör oroa sig mest för, eftersom det är den som er partiskhetsgranskning inte kan upptäcka.
AI utför numera narrativt arbete
Kontexten på arbetsmarknaden är viktig här, främst för vad den avslöjar om motivet. En analys från New York Fed från september 2025 visade att endast 1 % av tjänsteföretagen uppgav AI som orsaken till uppsägningar under de senaste sex månaderna, medan 35 % sade att AI fick dem att vidareutbilda arbetstagare.
Ändå visade en undersökning från Resume.org av 1 000 rekryterande chefer, publicerad i januari, att 59 % medger att de betonar AI när de förklarar anställningsstopp eller uppsägningar eftersom det ”tas emot bättre av intressenter” än att hänvisa till ekonomiska begränsningar.
AI förväntas utföra narrativt arbete utöver det operativa arbetet. Ha det i åtanke, eftersom samma instinkt som skyler på AI för en uppsägning också kommer att skylla på AI för ett dåligt anställningsbeslut.
”Datadrivet” surnade till ”hitta data som stöder mig”
Löftet om datadrivet ledarskap var tydligt. Minska beroendet av magkänslan. Ta fram belägg. Skapa ett granskningsbart underlag. När disciplinen upprätthålls fungerar det.
Det jag har sett hända under de senaste fem åren har fått betydligt mindre uppmärksamhet än det förtjänar. Verktygen förändrades aldrig. Relationerna mellan ledarna och verktygen gjorde det. Den faktiska frågan slutade vara ”vad säger uppgifterna?” och blev ”hitta uppgifterna som stöder detta.”
AI påskyndar förändringen eftersom det är svårare att invända mot ett modellresultat än mot en rekryterande chefs magkänsla. Så när något går fel blir svaret ”systemet tog fram det”. Den meningen är hela problemet.
De rättvisaste modellerna kan inte skilja kandidater åt
Över åtta plattformar, inklusive ChatGPT, Gemini, Copilot och Claude, framträdde tre mönster.
Partiskheten finns fortfarande kvar, och den är mindre förutsägbar. Flera modeller straffade CV:n enbart för att ett kandidatnamn hade lagts till, oavsett vilket namn det var. Andra belönade specifika demografiska grupper i vissa roller och straffade dem i andra. En modell delade upp en enda etnisk grupp i motsatta riktningar utifrån kön i samma CV.
Partiskheten förändras med rollen och modellversionen. Din leverantörs partiskhetsgranskning förutsäger inte hur verktyget kommer att bete sig vid nästa rekryteringsbehov.
De ”rättvisaste” modellerna är ofta de minst kompetenta. När jag testade om modeller kunde skilja ett relevant CV från ett irrelevant kunde flera inte göra det. En modell bedömde ett CV från tjänstesektorn, fyllt med finansrelaterade nyckelord, till 92 av 100 för en tjänst som finansdirektör. Samma CV utan nyckelorden fick 15 poäng. Modellen bedömde ordförråd. Kvalifikationer kom aldrig in i bedömningen. Ett sådant verktyg har slutat utvärdera någonting alls.
Samma leverantör ger olika svar beroende på vilken version som körs. En kandidat som utvärderas av ChatGPT:s ”snabba” version kan få 15 poäng mer eller mindre än samma kandidat i dess ”långsamma” version samma dag. De flesta chefer vet inte vilken version de kör, och vet inte att det spelar någon roll.
Detta är inte undantagsfall. Det är de operativa förutsättningarna för AI-verktyg för rekrytering just nu.
Ansvarstvättning
Bättre beslut är bara en del av varför dessa verktyg införs. De gör det också lättare att försvara svåra beslut. Uppsägningar. Prestationsbedömningar. Avslag på anställningar. Beslut om ersättning. När modellresultatet finns i akten har personen som godkände beslutet en plausibel förnekelsemöjlighet som hen inte hade tidigare.
En ResumeBuilder-undersökning från 2025 gör detta konkret. Bland chefer som använder AI för personalbeslut använder 64 % det för att hjälpa till att avgöra uppsägningar, och fler än en av fem erkänner att de ofta låter AI fatta det slutliga beslutet utan mänsklig medverkan.
Den beteendevetenskapliga forskningen är ännu mer talande. En studie i Nature från 2025 av Köbis och kollegor visade att AI-agenter följde helt oetiska instruktioner mellan 58 och 98 % av gångerna, beroende på modell, jämfört med 25 till 40 % för mänskliga agenter som fick samma instruktioner.
Maskiner är betydligt mer benägna än människor att genomföra etiskt komprometterande order, vilket är exakt den egenskap som gör dem användbara som infrastruktur för ansvarsutkrävande.
Forskningslitteraturen har ett namn för den mänskliga sidan av detta. Madeleine Clare Elish kallade det den ”moraliska skrynkelzonen”, där människor längst fram i ett automatiserat system får bära skulden för fel som uppstod genom spridda beslut om utformning och styrning. Medarbetare börjar tala om ”vad systemet beslutade” snarare än ”vad vi beslutade”, även när de fortfarande har handlingsutrymme.
Det tydligaste namnet på hela dynamiken är ansvarsutkrävandetvätt. Modellen fattar ett beslut som tidigare krävde försvarbart mänskligt omdöme och omvandlar det till ett resultat som ingen behöver försvara. När beslutet blir fel är misslyckandet allas och ingens, och organisationen förlorar förmågan att lära sig av sina egna misstag.
Styrning, annars blir det inte av
Det är dags för ledare att behandla AI-anskaffning som ett styrningsbeslut snarare än ett IT-beslut.
Sätt ett namn på varje AI-assisterat beslut. Som en AI-jurist nyligen sa till CIO kommer algoritmen inte att dyka upp i domstolen. Det kommer de människor som utvecklade, implementerade eller använde den att göra. Innan något AI-verktyg används för rekrytering, prestationsbedömningar, ersättning eller uppsägningar ska ni kräva svar på en fråga: när det visar sig att resultatet är fel, vems namn står i akten? Inte leverantörens. Inte modellens. En persons – någon som är tillräckligt senior för att försvara beslutet inför en tillsynsmyndighet eller en kärandens advokat.
Anpassa kraven på förklarbarhet efter insatserna. En modell som rekommenderar utbildningsinnehåll kan vara en svart låda. En modell som bidrar till en uppsägning kan inte vara det. De flesta organisationer fastställer sin standard för förklarbarhet en gång, vid anskaffningen. De disciplinerade organisationerna omprövar den för varje användningsområde och avstår från leverantörer som inte kan uppfylla den högre ribban.
Genomför era egna granskningar med dubbel validering. Leverantörernas partiskhetsgranskningar är nödvändiga men otillräckliga. Testa också kompetensen. Kan verktyget faktiskt skilja kvalificerade kandidater från okvalificerade för de roller ni rekryterar till? Några felmatchade meritförteckningar. Några som är överfyllda med nyckelord. Jämför poängen. Om modellen inte kan se skillnaden kan den inte hjälpa er, oavsett hur opartisk den verkar.
HR är den funktion som AI-leverantörerna uppvaktar mest intensivt, och den funktion som får ta konsekvenserna när ett av dessa verktyg producerar ett oförsvarbart resultat. Frestelsen blir att behandla anskaffningen som en leverantörsfråga. Stå emot den.
Som en arbetsrättsjurist sa till The Washington Post när algoritmer för första gången började forma listor över uppsägningar: ”Försök inte skyffla över ansvaret på programvaran.”
Om ert svar på ett bristfälligt AI-assisterat beslut är ”det var systemet som gjorde det”, har systemet blivit er risk. Någonstans i organisationen måste en person äga varje beslut som dessa verktyg berör. Ta reda på vem det är innan ett vittnesförhör under ed gör det åt er.
