Styringsspørsmålene som bare HR er rustet til å besvare
Amazons verktøy: Amazon la bort et skjevt rekrutteringsverktøy som var trent på ti år med rekrutteringsdata fra en mannsdominert arbeidsstyrke.
Bekymringer rundt skjevhet: Evalueringen av KI-systemet manglet fokus på rettferdige resultater, noe som førte til ukontrollerte skjevheter og mangler i styringen.
Styringsroller: HR spiller en avgjørende rolle i styringen av KI for å sikre rettferdige resultater og transparente prosesser for ansatte.
KI med høy risiko: EUs KI-forordning klassifiserer KI i arbeidslivet som høyrisiko, noe som krever streng dokumentasjon og tilsyn.
HRs utfordring: HR mangler myndighet i KI-styringen og trenger støtte fra toppledelsen for å fastsette standarder og ansvar.
I 2018 skrotet Amazon et maskinlæringsverktøy de hadde utviklet i flere år for å sortere CV-er. Systemet var trent på ti års ansettelsesdata som gjenspeilte selskapets historiske preferanse for mannlige kandidater i tekniske roller.
Modellen lærte av dette mønsteret og gjenskapte det. Den nedvurderte CV-er som inneholdt ord som "kvinners" og straffet kandidater som hadde uteksaminert seg fra høyskoler kun for kvinner. Amazons ingeniører forsøkte å korrigere den. De kunne ikke garantere at skjevheten ikke ville dukke opp på andre måter, så de stengte systemet.
Historien blir ofte trukket frem som en advarsel om KI og skjevhet. Det som får mindre oppmerksomhet, er det strukturelle spørsmålet historien reiser. Hvem hadde egentlig ansvaret for å oppdage dette i utgangspunktet?
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
De tekniske teamene som bygget systemet, var opptatt av om det fungerte. Juridisk avdeling var sannsynligvis opptatt av ansvarseksponering. Ingen var tilsynelatende opptatt av om systemet ga rettferdige resultater for menneskene det vurderte – i hvert fall ikke som en primær styringsfunksjon.
Dette problemet er ikke løst i de fleste organisasjoner. Om noe har det blitt enda vanskeligere å få klarhet i etter hvert som bruken av KI i virksomheter har økt og akselerert.
De to spørsmålene som besvares nå
De fleste rammeverkene for KI-styring i virksomheter ble utviklet for å besvare to kategorier av spørsmål.
Det første er juridisk: Hvilket ansvar oppstår hvis dette systemet svikter, gir et diskriminerende resultat eller eksponerer regulerte data?
Det andre er teknisk: Hva er feilmodusene, hvilke data er systemet trent på, og hvor finnes sikkerhetssårbarhetene? Begge kategoriene er viktige. Ingen av dem er tilstrekkelige alene, fordi ingen av dem ble utformet med et primært ansvar overfor menneskene systemene påvirker.
Det er ikke en kritikk av juridisk avdeling eller IT. Disse funksjonene bygget rammeverk for styring for å besvare spørsmålene de var ansatt for å besvare. Problemet er at innføringen av KI i virksomheter gikk raskt nok til å løpe fra enhver bevisst diskusjon om hvem som har ansvaret for de resterende spørsmålene, og de fleste organisasjoner falt tilbake på rammeverkene som allerede var på plass.
Ifølge PwCs undersøkelse om ansvarlig KI fra 2025 sier 56 % av lederne at førstelinjeteamene deres – IT, ingeniørfag, data og KI – nå leder arbeidet med ansvarlig KI. HR fremgår ikke av dette tallet på noen meningsfull måte.
Ifølge Pacific AIs undersøkelse om KI-styring fra 2025 har tre fjerdedeler av organisasjonene etablert retningslinjer for bruk av KI, men bare 36 % har innført et formelt styringsrammeverk, det vil si definerte roller, kontroller og håndheving. Avstanden mellom et retningslinjedokument og et fungerende ansvar er nettopp der spørsmålene om mennesker forblir ubesvart.
EUs KI-forordning, som begynte å innføre håndhevingskrav trinnvis i 2024, klassifiserer KI-systemer som brukes i arbeidsforhold og styring av arbeidsstyrken, som høyrisiko etter kategori. Denne betegnelsen omfatter verktøy som brukes til rekruttering, prestasjonsevaluering, oppgavefordeling og overvåking. I hovedsak gjelder det pakken av systemer som de fleste virksomheter nå tar i bruk i stor skala.
Høyrisikoklassifisering innebærer strengere krav til dokumentasjon, åpenhet og menneskelig tilsyn. Den spesifiserer ikke hvem i en organisasjon som er ansvarlig for å oppfylle disse kravene. Det spørsmålet sendes tilbake til virksomheten.
I de fleste organisasjoner har svaret vært «den som allerede har ansvaret for styringen». Det betyr vanligvis juridisk avdeling, etterlevelse eller IT-sikkerhet – funksjonene med etablerte rammeverk. HR blir ofte involvert som interessent eller konsultert under implementeringen. Sjelden leder HR arbeidet.
Spørsmålene som hoppes over
Spørsmålene som avgjør om KI faktisk skader mennesker, passer ikke pent inn i juridisk risiko eller teknisk svikt. De krever et annet utgangspunkt.
Gir dette systemet skjeve resultater på tvers av demografiske grupper?
Å besvare dette spørsmålet krever kunnskap om hvordan rettferdighet ser ut i en spesifikk arbeidskontekst, ikke bare om hva som kan forsvares juridisk. Dette er ulike standarder.
Et system kan forsvares juridisk og likevel gi resultater som systematisk er dårligere for én gruppe ansatte enn for en annen. Å oppdage dette krever noen som forstår hvordan rettferdig ansettelsespraksis ser ut, og som har myndighet til å varsle når et system avviker fra den.
Blir ansatte vurdert på grunnlag av data de ikke forstår, eller som de ikke ble fortalt ville bli samlet inn?
Ifølge Owl Labs sin arbeidsplassundersøkelse fra 2025 er 20,5 % av de ansatte usikre på om overvåking i det hele tatt foregår, og 12,8 % vet ikke hva som spores.
Dette er ikke et perifert spørsmål. 61 % av amerikanske selskaper bruker nå KI-drevet analyse for å måle de ansattes produktivitet eller atferd. Hvorvidt de ansatte vet at dette skjer, forstår hvordan det inngår i vurderingene av dem, og har noen mulighet til å bestride det systemet produserer, er alt sammen spørsmål knyttet til arbeidsforholdet. De hører til funksjonen som har ansvaret for arbeidsforholdet.
Hvem avgjør når en KI-anbefaling skal overstyres, og på hvilket grunnlag?
I organisasjoner der KI-verktøy påvirker eller danner grunnlag for beslutninger om ansettelser, forfremmelser, prestasjonsvurderinger eller oppsigelser, er spørsmålet om overstyring blant de mest konsekvensrike styringsbeslutningene en virksomhet kan ta.
Å ta feil i én retning betyr at KI-anbefalinger ikke blir kontrollert. Å ta feil i den andre retningen betyr at systemets resultater behandles som et rådgivende skuespill, eller som kostbar infrastruktur ingen stoler på.
Å kalibrere denne terskelen krever forståelse av både hvordan verktøyet fungerer og hvordan ledere tar beslutninger, hvor skjevheter kommer inn i menneskelige vurderinger, og hvordan ansvar ser ut når resultater bestrides.
Ingen av disse spørsmålene har en naturlig plass i de fleste rammeverk for virksomhetsstyring. De krever fagkompetanse som finnes i HR og organisasjonsutvikling, ikke innen juss eller ingeniørfag.
Ansvarskartet
Hva som hører til HR innen KI-styring, handler ikke om preferanser eller intern organisasjonspolitikk. Det følger av funksjonen. HR er virksomhetsfunksjonen som har et hovedansvar overfor de ansatte, fra rettferdig behandling til utvikling og rettighetene deres i arbeidsforholdet.
Dette ansvaret forsvinner ikke når KI kommer inn i prosessen, men det blir mer komplisert.
Flere ansvarsbeslutninger tilhører HR av natur, ikke som følge av delegering.
Revisjon av skjevheter i KI for arbeidsforhold er det mest direkte
Tekniske team kan teste om en modell presterer konsekvent på tvers av inndata. Bare HR kan vurdere om konsekvent ytelse faktisk gir rettferdige resultater i kontekst, og om verktøyet for prestasjonsstyring som vurderer alle etter samme kriterier, i praksis genererer vurderingsfordelinger som stiller ansatte i bestemte roller, geografiske områder eller demografiske grupper dårligere.
Dette krever tilgang til HR-data, forståelse av arbeidsrett og standarder for likestilling, samt organisatorisk tyngde til å handle på bakgrunn av det som blir avdekket.
Åpenhetsforpliktelser overfor ansatte
Ansatte har interesse av å forstå når KI brukes som grunnlag for beslutninger om dem, hvilke data som brukes, og hvordan konklusjonene trekkes.
I enkelte jurisdiksjoner har de juridisk rett til denne informasjonen. Hvorvidt en organisasjon oppfyller disse forpliktelsene gjennom retningslinjer, opplæring eller prosessutforming, og om den behandler forpliktelsene som et minimumskrav eller en reell standard, avgjøres av HR-praksis.
Muligheten til å overstyre
Utformingen av menneskelig overstyring er mer nyansert og har større konsekvenser enn den vanligvis får anerkjennelse for. Spørsmålet om når et menneske kan eller må overstyre en KI-anbefaling, innebærer å forstå hvor KI-verktøy sannsynligvis vil svikte, hvor menneskelig skjønn er mer pålitelig, og hvordan man bygger inn ansvar i beslutninger om overstyring slik at de ikke bare blir en ny kilde til skjevhet.
Dette krever noen som forstår både verktøyet og den organisatoriske atferden rundt det. HR, i tett samarbeid med teamene som tar i bruk KI, er best posisjonert til å ha ansvaret for denne utformingen.
More Articles
- KI i HR har et administrativt problem. Det er der den bør begynne.
- Utvikle, lære, skalere. Hva så?
- HR-teknologisjef sier at det å bli AI-integrert fra grunnen av avdekket arbeidet de ansatte faktisk ønsker å gjøre
- Kunstig intelligens som informerer, mennesker som beslutter: Slik holder vi HR ansvarlig i automatiseringens tidsalder
- Ferdigheter først er målet. KI har bare flyttet målstengene.
Ansattes klagemuligheter
Hva som skjer når noen mener at en KI-påvirket beslutning var feil, hører inn under HR-styring. Ikke bare fordi HR håndterer klageprosesser, men fordi utforming av klagemuligheter krever at man tenker gjennom hvordan tvister som involverer KI-resultater, skal undersøkes, hvilke bevis som er tilgjengelige, og hvilke tiltak som er mulige.
Lovverket definerer minimumskravene. HR avgjør om organisasjonen faktisk tar det på alvor.
Teknisk ekspertise
Det finnes en rimelig innvending mot premisset om HR-ledet KI-styring, og den er verdt å ta opp direkte. HR har ikke alltid den tekniske ekspertisen som kreves for å evaluere KI-systemer.
Det stemmer. Men styringsmyndighet og teknisk evaluering er to forskjellige ting. Juridisk avdeling programmerer ikke, og økonomiavdelingen gjennomfører ikke de tekniske prosessene den reviderer.
Funksjonen som har ansvar for et styringsområde, trenger ikke nødvendigvis å utføre det tekniske arbeidet, den trenger autoriteten og ekspertisen til å fastsette standardene, evaluere resultatene og holde andre ansvarlige.
Det HR trenger for å lede KI-styringen, er ikke et informatikkteam. Det er tydelighet om hvilke spørsmål HR er forpliktet til å besvare, den organisatoriske myndigheten til å stille dem og tilgang til de tekniske ressursene og dataressursene som kreves for å besvare dem.
I de fleste virksomheter har HR akkurat nå begrensede versjoner av alle tre. Den organisatoriske myndigheten er ofte den vanskeligste å bygge opp, fordi det krever at CHRO-er gjør krav på et styringsområde som andre funksjoner som standard har tatt ansvar for.
Dette kravet må fremmes på toppledernivå. En KI-styringskomité som utelukkende ligger under juridisk avdeling og IT, vil utarbeide rammeverk for juridisk og teknisk risiko. Å legge til HR som deltaker i andres rammeverk endrer ikke hvilke spørsmål som blir besvart først.
CHRO-er jeg snakker med, som har etablert effektiv, menneskesentrert KI-styring, har vanligvis gjort det ved å tydeliggjøre HRs ansvar før beslutninger om utrulling tas, ikke ved å forsøke å bygge inn innflytelse i etterkant i en prosess som allerede er strukturert rundt andre prioriteringer.
Feilen med Amazons ansettelsesverktøy oppsto fordi organisasjonen som bygde det, ikke hadde en funksjon med tydelig eierskap til spørsmålet «er disse resultatene rettferdige for menneskene som blir vurdert?» Juridisk avdeling stilte spørsmål om ansvar. Teknologiavdelingen stilte spørsmål om ytelse. Ingen av spørsmålene fanget opp det som faktisk gikk galt.
KI i virksomheter tar nå beslutninger om, eller påvirker beslutninger om, hvem som får jobb, hvem som blir forfremmet, hvordan prestasjoner vurderes og hvordan arbeidet overvåkes, i en skala som langt overgår det en enkelt leder kunne ha produsert. Når full håndheving av EUs KI-forordning for ansettelsessystemer trer i kraft i august, blir denne uklarheten en ansvarsrisiko på mer enn én måte.
HR ble etablert for å beskytte mennesker i organisasjoner. KI-styring er nå en av de viktigste sammenhengene der denne forpliktelsen må oppfylles. Funksjonen må enten gjøre krav på dette området eller overlate det til rammeverk som er utviklet for andre spørsmål.
