Governancespørgsmålene, som kun HR er rustet til at besvare
Amazons værktøj: Amazon opgav et forudindtaget rekrutteringsværktøj, der var trænet på ti års rekrutteringsdata domineret af mænd.
Bekymringer om bias: Evalueringen af AI-systemet fokuserede ikke på retfærdige resultater, hvilket førte til ubegrænsede forudindtagetheder og mangler i governancen.
Governanceroller: HR spiller en afgørende rolle i AI-governance for at sikre retfærdige resultater og gennemsigtige processer for medarbejderne.
AI med høj risiko: EU's AI-forordning klassificerer AI inden for beskæftigelse som højrisiko og kræver streng dokumentation og tilsyn.
HR's udfordring: HR mangler beføjelser inden for AI-governance og har derfor brug for støtte fra den øverste ledelse til at fastsætte standarder og ansvar.
I 2018 skrottede Amazon et maskinlæringsværktøj, som virksomheden havde udviklet i årevis, til at gennemgå CV'er. Systemet var blevet trænet på et årti med ansættelsesdata, der afspejlede virksomhedens historiske præference for mandlige kandidater til tekniske stillinger.
Modellen lærte af dette mønster og kopierede det ved at nedgradere CV'er, der indeholdt ord som "kvinders", og straffe kandidater, der var uddannet fra kvindekollegier. Amazons ingeniører forsøgte at rette det. De kunne ikke garantere, at skævheden ikke ville dukke op på andre måder, så de lukkede systemet ned.
Historien bliver ofte fremhævet som en advarsel om AI og skævhed. Det strukturelle spørgsmål, som historien rejser, får mindre opmærksomhed. Hvis opgave var det i første omgang at opdage det?
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
De tekniske teams, der byggede systemet, fokuserede på, om det virkede. Juraafdelingen fokuserede sandsynligvis på virksomhedens juridiske eksponering. Tilsyneladende var der ingen, der fokuserede på, om systemet skabte retfærdige resultater for de mennesker, det screenede – i hvert fald ikke som en primær styringsfunktion.
Dette problem er ikke blevet løst i de fleste organisationer. Hvis noget, er det blevet endnu sværere at fastslå, efterhånden som implementeringen af AI i virksomheder er blevet udvidet og accelereret.
De to spørgsmål, der besvares nu
De fleste rammer for AI-styring i virksomheder blev udviklet til at besvare to kategorier af spørgsmål.
Det første er juridisk: Hvilket ansvar opstår, hvis dette system fejler, skaber et diskriminerende resultat eller afslører regulerede data?
Det andet er teknisk: Hvad er fejlscenarierne, hvilke data er systemet trænet på, og hvor er sikkerhedssårbarhederne? Begge kategorier er vigtige. Ingen af dem er tilstrækkelige i sig selv, fordi ingen af dem er udviklet med en primær forpligtelse over for de mennesker, som systemerne påvirker.
Det er ikke en kritik af jura eller IT. Disse funktioner udviklede styringsrammer for at besvare de spørgsmål, de var ansat til at besvare. Problemet er, at virksomhedernes anvendelse af AI udviklede sig hurtigt nok til at overhale enhver bevidst drøftelse af, hvem der har ansvaret for de resterende spørgsmål, og de fleste organisationer faldt tilbage på de rammer, der allerede var på plads.
Ifølge PwC's undersøgelse af ansvarlig AI fra 2025 siger 56 % af de ledende medarbejdere, at deres førstelinjeteams – IT, ingeniørarbejde, data og AI – nu leder arbejdet med ansvarlig AI. HR optræder ikke i dette tal på nogen meningsfuld måde.
Ifølge Pacific AI's undersøgelse af AI-styring 2025 har tre fjerdedele af organisationerne fastlagt politikker for brug af AI, men kun 36 % har vedtaget en formel styringsramme, hvilket betyder definerede roller, kontroller og håndhævelse. Afstanden mellem et politikdokument og et funktionelt ansvar er præcis dér, hvor spørgsmålene om mennesker forbliver ubesvarede.
EU's AI-forordning, som begyndte at indfase håndhævelseskrav i 2024, klassificerer AI-systemer, der anvendes inden for ansættelse og styring af arbejdsstyrken, som højrisiko efter kategori. Denne klassifikation omfatter værktøjer, der bruges til rekruttering, præstationsevaluering, opgavefordeling og overvågning. Grundlæggende er det den pakke af systemer, som de fleste virksomheder nu implementerer i stor skala.
Højrisikoklassifikation betyder strengere krav til dokumentation, gennemsigtighed og menneskeligt tilsyn. Den specificerer ikke, hvem i en organisation der er ansvarlig for at opfylde disse krav. Det spørgsmål gives tilbage til virksomheden.
I de fleste organisationer har svaret været "den, der allerede har ansvaret for styringen". Det betyder typisk jura, overholdelse af regler eller IT-sikkerhed – de funktioner, der har etablerede rammer. HR bliver ofte inddraget som interessent eller konsulteret under implementeringen. Sjældent leder HR.
De spørgsmål, der springes over
De spørgsmål, der afgør, om AI faktisk skader mennesker, passer ikke pænt ind i juridisk risiko eller teknisk svigt. De kræver et andet udgangspunkt.
Skaber dette system skævvredne resultater på tværs af demografiske grupper?
At besvare dette spørgsmål kræver viden om, hvad retfærdighed ser ud som i en specifik ansættelsesmæssig sammenhæng, ikke blot hvad der kan forsvares juridisk. Det er forskellige standarder.
Et system kan være juridisk forsvarligt og stadig skabe resultater, der systematisk er dårligere for én gruppe medarbejdere end for en anden. At opdage det kræver en person, der forstår, hvordan retfærdig ansættelsespraksis ser ud, og som har gennemslagskraft nok til at påpege, når et system afviger fra den.
Bliver medarbejdere evalueret på baggrund af data, de ikke forstår, eller som de ikke fik at vide blev indsamlet?
Ifølge Owl Labs' arbejdspladsundersøgelse fra 2025 er 20,5 % af medarbejderne usikre på, om der overhovedet foregår overvågning, og 12,8 % ved ikke, hvad der bliver sporet.
Dette er ikke et perifert spørgsmål. 61 % af amerikanske virksomheder bruger nu AI-drevne analyser til at måle medarbejdernes produktivitet eller adfærd. Om medarbejderne ved, at dette foregår, forstår, hvordan det indgår i deres evalueringer, og har mulighed for at gøre indsigelse mod det, systemet producerer, er alt sammen spørgsmål om ansættelsesforholdet. De hører under den funktion, der ejer ansættelsesforholdet.
Hvem beslutter, hvornår en AI-anbefaling skal tilsidesættes, og på hvilket grundlag?
I organisationer, hvor AI-værktøjer påvirker eller kvalificerer beslutninger om ansættelse, forfremmelse, præstationsvurderinger eller opsigelse, er spørgsmålet om tilsidesættelse blandt de mest afgørende ledelsesbeslutninger, en virksomhed kan træffe.
Hvis man fejler i den ene retning, går AI-anbefalinger ukontrolleret igennem. Hvis man fejler i den anden, bliver systemets output behandlet som proforma-rådgivning eller som dyr infrastruktur, som ingen har tillid til.
Kalibrering af denne tærskel kræver en forståelse af både, hvordan værktøjet fungerer, og hvordan ledere træffer beslutninger, hvor fordomme kommer ind i menneskelige vurderinger, og hvordan ansvar ser ud, når resultater bestrides.
Ingen af disse spørgsmål har en fast plads i de fleste virksomheders ledelsesrammer. De kræver domæneekspertise, som findes i HR og organisationsdesign, ikke i jura eller teknik.
Ansvarskortet
Hvad der hører under HR i AI-ledelse, er ikke et spørgsmål om præferencer eller organisationspolitik. Det følger af funktionen. HR er den virksomheds funktion, der har en primær forpligtelse over for medarbejderne, fra fair behandling til udvikling og deres rettigheder i ansættelsesforholdet.
Denne forpligtelse forsvinder ikke, når AI kommer ind i processen, men den bliver mere kompliceret.
Flere ansvarsbeslutninger hører af natur under HR snarere end som følge af en tildeling.
Revision af fordomme i AI til ansættelsesforhold er det mest direkte
Tekniske teams kan teste, om en model fungerer ensartet på tværs af input. Kun HR kan vurdere, om ensartet funktion i praksis fører til retfærdige resultater, og om det værktøj til præstationsstyring, der vurderer alle efter samme kriterier, i praksis skaber en fordeling af vurderinger, som stiller medarbejdere i bestemte roller, geografiske områder eller demografiske grupper dårligere.
Det kræver adgang til HR-data, forståelse af ansættelsesret og lighedsstandarder samt den organisatoriske position til at handle på det, man finder.
Gennemsigtighedsforpligtelser over for medarbejdere
Medarbejdere har en interesse i at forstå, hvornår AI bruges til at kvalificere beslutninger om dem, hvilke data der bruges, og hvordan konklusionerne drages.
I nogle jurisdiktioner har de juridiske rettigheder til disse oplysninger. Om en organisation opfylder disse forpligtelser gennem politikker, oplæring eller procesdesign, og om den behandler forpligtelserne som et minimumsniveau eller en reel standard, afhænger af HR-praksis.
Muligheden for at tilsidesætte
Udformningen af menneskelig tilsidesættelse er mere nuanceret og mere afgørende, end den typisk får anerkendt. Spørgsmålet om, hvornår et menneske kan eller skal tilsidesætte en AI-anbefaling, indebærer en forståelse af, hvor AI-værktøjer sandsynligvis fejler, hvor menneskelige vurderinger er mere pålidelige, og hvordan man indbygger ansvar i beslutninger om tilsidesættelse, så de ikke blot bliver en ny kilde til fordomme.
Det kræver en person, der forstår både værktøjet og den organisatoriske adfærd omkring det. HR er, i tæt koordinering med de teams, der anvender AI, bedst placeret til at eje denne udformning.
More Articles
- AI i HR har et administrativt problem. Det er her, det bør begynde.
- Lancér, lær, skalér. Hvad så?
- HR-teknologichef siger, at det at blive AI-baseret afslørede det arbejde, medarbejderne faktisk ønsker at udføre
- AI, der informerer, mennesker, der beslutter: Sådan holdes HR ansvarlig i automatiseringens tidsalder
- Kompetencer først er målet. AI har flyttet målstolperne.
Medarbejdernes klagemuligheder
Hvad der sker, når nogen mener, at en AI-påvirket beslutning var forkert, hører under HR-ledelse. Ikke kun fordi HR håndterer klageprocesser, men fordi udformning af klagemuligheder kræver overvejelser om, hvordan tvister, der involverer AI-output, bliver undersøgt, hvilke beviser der er tilgængelige, og hvilke løsninger der er mulige.
Jura fastlægger minimumskravene. HR afgør, om organisationen faktisk tager det alvorligt.
Teknisk ekspertise
Der er en rimelig indvending mod præmissen om HR-ledet AI-styring, og den er værd at tage direkte op. HR har ikke altid den tekniske ekspertise til at evaluere AI-systemer.
Det er sandt. Men styringsansvar og teknisk evaluering er to forskellige ting. Jura programmerer ikke, og økonomifunktionen driver ikke de tekniske processer, som den reviderer.
Den funktion, der ejer et styringsområde, behøver ikke nødvendigvis selv at udføre det tekniske arbejde, den skal have den nødvendige position og ekspertise til at fastsætte standarderne, evaluere resultaterne og holde andre ansvarlige.
Det, HR har brug for for at lede AI-styringen, er ikke et datalogiteam. Det er klarhed over, hvilke spørgsmål funktionen er forpligtet til at besvare, den organisatoriske beføjelse til at stille dem og adgang til de tekniske ressourcer og dataressourcer, der kræves for at besvare dem.
I de fleste virksomheder har HR lige nu begrænsede versioner af alle tre. Den organisatoriske beføjelse er ofte den sværeste at opbygge, fordi det kræver, at CHRO'er gør krav på et styringsområde, som andre funktioner som udgangspunkt har haft.
Dette krav skal fremsættes på C-suite-niveau. Et udvalg for AI-styring, der udelukkende er placeret i jura og IT, vil udarbejde rammer for juridiske og tekniske risici. At føje HR til som deltager i en andens ramme ændrer ikke på, hvis spørgsmål der bliver besvaret først.
De CHRO'er, jeg taler med, som har opbygget effektiv, menneskecentreret AI-styring, har typisk gjort det ved tydeligt at fastslå HR's ansvar, før beslutninger om implementering træffes, og ikke ved at forsøge at indarbejde indflydelse i en proces, der allerede er struktureret omkring andre prioriteter.
Fejlen med Amazons ansættelsesværktøj opstod, fordi den organisation, der byggede det, ikke havde en funktion med et klart ejerskab over spørgsmålet: "Er disse resultater rimelige over for de mennesker, der screenes?" Jura spurgte til ansvar. Teknik spurgte til ydeevne. Ingen af spørgsmålene indfangede, hvad der faktisk gik galt.
AI i virksomheder træffer eller påvirker nu beslutninger om, hvem der bliver ansat, hvem der bliver forfremmet, hvordan præstationer vurderes, og hvordan arbejdet overvåges, i et omfang, der langt overgår, hvad nogen individuel leder kunne frembringe. Når den fulde håndhævelse af EU's AI-forordning for beskæftigelsessystemer træder i kraft i august, bliver denne uklarhed en risiko på mere end én måde.
HR blev ansat til at beskytte mennesker i organisationer. AI-styring er nu en af de primære sammenhænge, hvor denne forpligtelse skal udøves. Funktionen gør enten dette område til sit eget eller overlader det til rammer, der er bygget til andre spørgsmål.
