Styrningsfrågorna som endast HR har förutsättningar att besvara
Amazons verktyg: Amazon övergav ett partiskt rekryteringsverktyg som tränats på tio års rekryteringsdata från en mansdominerad miljö.
Farhågor kring partiskhet: Utvärderingen av AI-systemet saknade fokus på rättvisa resultat, vilket ledde till okontrollerad partiskhet och brister i styrningen.
Styrningsroller: HR har en avgörande roll i AI-styrningen för att säkerställa rättvisa resultat och transparenta processer för medarbetarna.
AI med hög risk: EU:s AI-förordning klassificerar AI inom sysselsättning som högrisk-AI, vilket kräver strikt dokumentation och tillsyn.
HR:s utmaning: HR saknar mandat inom AI-styrningen och behöver stöd från företagsledningen för att fastställa standarder och ansvar.
År 2018 skrotade Amazon ett maskininlärningsverktyg som företaget hade utvecklat under flera år för att granska CV:n. Systemet hade tränats på ett årtionde av rekryteringsdata som återspeglade företagets historiska preferens för manliga kandidater till tekniska roller.
Modellen lärde sig av det mönstret och återskapade det genom att nedvärdera CV:n som innehöll ord som "kvinnors" och straffa utexaminerade från högskolor för enbart kvinnor. Amazons ingenjörer försökte korrigera den. De kunde inte garantera att partiskheten inte skulle visa sig på andra sätt, så de stängde ner den.
Berättelsen citeras ofta som en varnande historia om AI och partiskhet. Det som får mindre uppmärksamhet är den strukturella fråga som den aktualiserar. Vems uppgift var det att upptäcka det från början?
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
De tekniska teamen som byggde systemet fokuserade på huruvida det fungerade. Juridikavdelningen fokuserade sannolikt på risken för rättsligt ansvar. Ingen verkade fokusera på huruvida systemet producerade rättvisa resultat för de personer som det granskade, åtminstone inte som en primär styrningsfunktion.
Det problemet har inte lösts i de flesta organisationer. Om något har det blivit ännu svårare att fastställa i takt med att användningen av AI i företag har expanderat och accelererat.
De två frågor som besvaras nu
De flesta ramverk för styrning av AI i företag byggdes för att besvara två kategorier av frågor.
Den första är juridisk: vilket ansvar finns om systemet fallerar, leder till ett diskriminerande resultat eller exponerar reglerade data?
Den andra är teknisk: vilka är felkällorna, vilka data har systemet tränats på och var finns säkerhetssårbarheterna? Båda kategorierna är viktiga. Ingen av dem är tillräcklig på egen hand, eftersom ingen av dem utformades med en primär skyldighet gentemot de personer som systemen påverkar.
Det är inte en kritik av juridik eller IT. Dessa funktioner byggde styrningsramverk för att besvara de frågor som de anställdes för att besvara. Problemet är att införandet av AI i företag gick tillräckligt snabbt för att överträffa varje medvetet samtal om vem som ansvarar för de återstående frågorna, och de flesta organisationer föll tillbaka på de ramverk som redan fanns på plats.
Enligt PwC:s undersökning om ansvarsfull AI från 2025 uppger 56 % av cheferna att deras förstalinjeteam – IT, teknik, data och AI – nu leder arbetet med ansvarsfull AI. HR förekommer inte i den siffran på något meningsfullt sätt.
Enligt Pacific AI:s undersökning om AI-styrning från 2025 har tre fjärdedelar av organisationerna fastställt riktlinjer för AI-användning, men endast 36 % har infört ett formellt styrningsramverk, vilket innebär definierade roller, kontroller och efterlevnad. Avståndet mellan ett policydokument och ett fungerande ansvar är exakt där frågorna om människor förblir obesvarade.
EU:s AI-förordning, som började införa tillsynskrav stegvis 2024, klassificerar AI-system som används inom anställning och personalstyrning som högriskkategorier. Den beteckningen omfattar verktyg som används för rekrytering, prestationsutvärdering, uppgiftsfördelning och övervakning. I princip hela uppsättningen av system som de flesta större företag nu använder i stor skala.
Högriskklassificering innebär strängare krav på dokumentation, transparens och mänsklig tillsyn. Den anger inte vem inom en organisation som ansvarar för att uppfylla dessa krav. Den frågan lämnas tillbaka till företaget.
I de flesta organisationer har svaret varit "den som redan ansvarar för styrningen". Det innebär vanligtvis juridik, regelefterlevnad eller IT-säkerhet – funktionerna med etablerade ramverk. HR kopplas ofta in som intressent eller konsulteras under implementeringen. Sällan leder HR arbetet.
Frågorna som förbigås
De frågor som avgör om AI faktiskt skadar människor passar inte på ett enkelt sätt in under juridisk risk eller tekniska fel. De kräver en annan utgångspunkt.
Ger det här systemet partiska resultat för olika demografiska grupper?
För att besvara den frågan måste man veta hur rättvisa ser ut i ett specifikt anställningssammanhang, inte bara hur något som kan försvaras juridiskt ser ut. Det är olika standarder.
Ett system kan vara juridiskt försvarbart och ändå skapa resultat som systematiskt är sämre för en grupp anställda än för en annan. För att upptäcka det krävs någon som förstår hur rättvisa anställningsmetoder ser ut och har befogenhet att påpeka när ett system avviker från dem.
Utvärderas anställda utifrån data som de inte förstår eller inte informerades om skulle samlas in?
Enligt Owl Labss arbetsplatsundersökning från 2025 är 20,5 % av de anställda osäkra på om övervakning över huvud taget sker, och 12,8 % vet inte vad som spåras.
Detta är inte en perifer fråga. 61 % av amerikanska företag använder nu AI-drivna analyser för att mäta anställdas produktivitet eller beteende. Huruvida de anställda känner till att detta sker, förstår hur det påverkar deras utvärderingar och har någon möjlighet att bestrida det systemet producerar är alla frågor som rör anställningsrelationen. De hör till den funktion som ansvarar för anställningsrelationen.
Vem beslutar när en AI-rekommendation ska åsidosättas, och på vilka grunder?
I organisationer där AI-verktyg påverkar eller informerar beslut om anställning, befordran, prestationsbedömningar eller uppsägning är frågan om att åsidosätta rekommendationer ett av de mest betydelsefulla styrningsbesluten ett företag kan fatta.
Att fatta fel beslut åt det ena hållet innebär att AI-rekommendationer passerar utan kontroll. Att fatta fel beslut åt det andra hållet innebär att systemets resultat behandlas som rådgivning för syns skull eller som dyr infrastruktur som ingen litar på.
För att kalibrera den tröskeln krävs förståelse för både hur verktyget fungerar och hur chefer fattar beslut, var partiskhet kommer in i mänskliga bedömningar och hur ansvar ser ut när resultaten ifrågasätts.
Ingen av dessa frågor har en självklar plats i de flesta styrningsramverk för företag. De kräver sakkunskap inom området, vilket finns inom HR och organisationsdesign, inte inom juridik eller teknik.
Ansvarskartan
Vad som hör till HR inom AI-styrning är inte en fråga om preferenser eller organisationspolitik. Det följer av funktionens natur. HR är den företagsfunktion som har det huvudsakliga ansvaret för de anställda, från rättvis behandling till utveckling och rättigheter inom anställningsrelationen.
Det ansvaret försvinner inte när AI kommer in i processen, men det blir mer komplicerat.
Flera ansvarsbeslut tillhör av sin natur HR snarare än att de tilldelas HR.
Granskning av partiskhet inom AI för anställning är det tydligaste exemplet
Tekniska team kan testa om en modell presterar konsekvent för olika indata. Endast HR kan bedöma om konsekvent prestanda leder till rättvisa resultat i sitt sammanhang och om det verktyg för prestationshantering som bedömer alla utifrån samma kriterier i praktiken genererar betygsfördelningar som missgynnar anställda i vissa roller, geografiska områden eller demografiska grupper.
Detta kräver tillgång till HR-data, förståelse för arbetsrätt och jämlikhetsstandarder samt organisatorisk ställning att agera utifrån det som framkommer.
Transparensskyldigheter gentemot anställda
Anställda har ett intresse av att förstå när AI används för att informera beslut om dem, vilka data som används och hur slutsatser dras.
I vissa jurisdiktioner har de laglig rätt till denna information. Huruvida en organisation uppfyller dessa skyldigheter genom policy, utbildning eller processutformning och huruvida den behandlar skyldigheterna som ett minimikrav eller en verklig standard avgörs av HR:s arbetssätt.
Möjligheten att åsidosätta
Utformningen av mänskligt åsidosättande är mer nyanserad och mer betydelsefull än vad den vanligtvis anses vara. Frågan om när en människa kan eller måste åsidosätta en AI-rekommendation kräver förståelse för var AI-verktyg sannolikt kommer att brista, var mänskliga bedömningar är mer tillförlitliga och hur man bygger in ansvar i beslut om att åsidosätta så att de inte bara blir en ny källa till partiskhet.
Det kräver någon som förstår både verktyget och det organisatoriska beteendet kring det. HR, i nära samordning med de team som inför AI, har bäst förutsättningar att ansvara för denna utformning.
Anställdas möjlighet till upprättelse
Vad som händer när någon anser att ett AI-påverkat beslut var fel hör hemma inom HR-styrningen. Inte bara eftersom HR hanterar klagomålsprocesser, utan eftersom utformning av möjligheter till upprättelse kräver att man överväger hur tvister som rör AI-resultat ska utredas, vilka bevis som finns tillgängliga och vilka åtgärder som är möjliga.
Juridik fastställer miniminivån. HR avgör om organisationen faktiskt tar det på allvar.
Teknisk expertis
Det finns en rimlig invändning mot premissen att HR ska leda AI-styrningen, och den är värd att bemöta direkt. HR har inte alltid den tekniska expertisen för att utvärdera AI-system.
Det stämmer. Men styrningsansvar och teknisk utvärdering är två olika saker. Juridik kodar inte och ekonomi driver inte de tekniska processer som den granskar.
Den funktion som ansvarar för ett styrningsområde behöver inte nödvändigtvis utföra det tekniska arbetet, den behöver ha mandatet och expertisen att fastställa standarderna, utvärdera resultaten och hålla andra ansvariga.
Det HR behöver för att leda AI-styrningen är inte ett datavetenskapligt team. Det behövs tydlighet kring vilka frågor HR är skyldiga att besvara, den organisatoriska befogenheten att ställa dem och tillgång till de tekniska resurser och dataresurser som krävs för att besvara dem.
I de flesta stora organisationer har HR just nu begränsade versioner av alla tre. Den organisatoriska befogenheten är ofta den svåraste att bygga upp, eftersom det kräver att CHRO:er gör anspråk på ett styrningsområde som andra funktioner har tagit över som en självklarhet.
Det anspråket måste göras på C-suite-nivå. En AI-styrningskommitté som helt och hållet ligger inom juridik och IT kommer att ta fram ramverk för juridiska och tekniska risker. Att lägga till HR som deltagare i någon annans ramverk förändrar inte vems frågor som besvaras först.
CHRO:er jag talar med som har byggt upp en effektiv, människocentrerad AI-styrning har vanligtvis gjort det genom att tydligt fastställa HR:s ansvar innan beslut om införande fattas, inte genom att försöka bygga in inflytande i efterhand i en process som redan är strukturerad kring andra prioriteringar.
Misslyckandet med Amazons rekryteringsverktyg inträffade eftersom den organisation som byggde det inte hade någon funktion med tydligt ansvar för frågan: ”Är dessa resultat rättvisa för de personer som granskas?” Juridik ställde frågor om ansvar. Teknik ställde frågor om prestanda. Ingen av frågorna fångade vad som faktiskt gick fel.
AI i stora organisationer fattar nu beslut om eller påverkar beslut om vem som anställs, vem som befordras, hur prestation bedöms och hur arbete övervakas i en omfattning som vida överstiger vad någon enskild chef skulle kunna åstadkomma. När EU:s AI-förordning börjar tillämpas fullt ut på arbetstagarsystem i augusti blir denna otydlighet en risk på fler än ett sätt.
HR anställdes för att skydda människor inom organisationer. AI-styrning är nu ett av de främsta sammanhang där den skyldigheten måste utövas. Funktionen gör antingen anspråk på det området eller överlåter det till ramverk som är utformade för andra frågor.
