Ingen tar ansvaret: Inne i KI-ansvarlighetens tomrom
Virkeligheten bak avslag: KI-systemer avslår jobbsøknader uten menneskelig gjennomgang, noe som reiser spørsmål om juridisk ansvar.
Styringsgap: KI-styring mangler tydelig ansvarlighet, ettersom retningslinjene ikke fordeler eierskap for konsekvensene av beslutningene.
Ansvarlighet for KI: Domstolene stiller spørsmål ved hvem som skal overvåke KI-beslutninger, og holder arbeidsgivere ansvarlige for diskriminerende utfall basert på KI.
Manglende samsvar i retningslinjene: Eksisterende retningslinjer klarer ikke å tilpasse seg organisatoriske endringer, noe som fører til styringsproblemer med KI-verktøy.
Juridiske konsekvenser: Colorados KI-lov setter en presedens for ansvarlighet for KI, og påvirker ansettelsesbeslutninger og juridiske standarder over hele landet.
Klokken 01.50 om morgenen mottok Derek Mobley et avslag. Han hadde søkt mindre enn en time tidligere. Ingen ansettelsesleder hadde vurdert CV-en hans, og ingen rekrutterer hadde veid erfaringen hans opp mot kravene.
Systemet behandlet ham, avsa en kjennelse og gikk videre før noen i selskapet hadde begynt arbeidsdagen. Mobley, som er svart og over førti, skulle søke på mer enn hundre jobber gjennom Workdays plattform og bli avvist hver gang.
Søksmålet han anla i 2023, er nå godkjent som et landsomfattende gruppesøksmål som potensielt omfatter hundrevis av millioner søkere. Workday hevder at selskapet ikke er arbeidsgiveren, noe som teknisk sett er riktig. Arbeidsgiverne sier at de ikke tok beslutningene, noe som også teknisk sett er riktig. En føderal domstol har avgjort at det nettopp er problemet at disse to faktaene eksisterer samtidig.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Når en plattform utøver skjønn, ikke bare anvender kriterier, men deltar i beslutningen, fungerer den som arbeidsgiverens representant. Derfor overtar arbeidsgiveren ansvaret. Det domstolene nå presser på, er ikke hvorvidt AI-en tok en dårlig beslutning. Det handler om hvem som skulle ha fulgt med på den.
Dette spørsmålet havner på CHRO-enes bord. Ikke fordi de meldte seg frivillig til det, og slett ikke fordi de har myndigheten, budsjettet eller den juridiske infrastrukturen til å besvare det. Men fordi noen må gjøre det, og de er det nærmeste de fleste organisasjoner kommer en eier av den personrelaterte risikoen som AI skaper i stor skala.
Eierskap overalt, ansvarlighet ingen steder
Sean McIntire, juridisk direktør i PEBL, har sett organisasjoner utforme AI-retningslinjer med ekte omtanke, bare for å se dem forsvinne et sted mellom toppledelsen og menneskene som faktisk tar beslutningene.
«Eierskap overalt, ansvarlighet et eller annet sted», sa han under et panel om AI-risiko på Transform i Las Vegas denne uken. Formuleringen høres ut som en løsning. Det er den ikke.
Han trekker en parallell til GDPR. Da denne forordningen kom, fikk selskapene panikk. Mange hadde ingen klar oversikt over hvor personopplysningene deres befant seg, hvem som behandlet dem, eller hva forpliktelsene deres faktisk var.
Kaoset var reelt, men det fungerte også som en drivkraft for endring. Organisasjonene som kom ut av det med solide programmer for datastyring, hadde ikke bare blitt etterlevende; de hadde bygget infrastruktur som viste seg å være robust.
McIntires argument er at AI befinner seg på samme stadium før endringspresset, og at de fleste selskaper oppfører seg akkurat slik de gjorde før GDPR trådte i kraft: De reagerer på trusselen på overflaten, mens det underliggende strukturelle problemet forblir uadressert.
Det strukturelle problemet kan formuleres enkelt. AI-verktøy kom først og fremst inn i arbeidslivet gjennom effektivitetsdøren, som fører til raskere ansettelser, automatiserte prestasjonssignaler, lønnsreferanser og kontinuerlige tilbakemeldingssløyfer.
Organisasjonene som tok dem i bruk, behandlet anskaffelse og styring som separate problemer. Juridisk avdeling gjennomgikk kontraktene. IT godkjente sikkerhetsnivået. Økonomiavdelingen godkjente budsjettet. HR fikk ansvaret for implementeringen og beskjed om å håndtere den.
Det ingen tydelig fastsatte, var hvem som hadde ansvaret for risikoen når verktøyet tok en avgjørende beslutning som skadet noen.
McIntires beskrivelse fanger dette nøyaktig. AI-styring er i de fleste organisasjoner bevisst spredt utover. Retningslinjene finnes. Arbeidsgruppen finnes. Bruksveiledningen finnes. Det som ikke finnes, er en navngitt person med både myndighet og ressurser til å stå til ansvar når noe går galt.
Komiteen er ikke til stede kl. 02.00
Dataene gjør dette konkret. En Gartner-undersøkelse blant mer enn 1 800 ledere viste at 55 % av organisasjonene nå oppgir at de har et AI-styre eller en egen tilsynskomité på plass. Det høres ut som fremskritt helt til man ser på det tilhørende tallet fra McKinsey: Bare 28 % av organisasjonene sier at toppsjefen har direkte ansvar for tilsynet med AI-styringen.
Styrene gjør det enda dårligere, med bare 17 % som formelt har innarbeidet AI-styring i komitémandatene sine.
Komiteene finnes. Ansvarligheten følger ikke etter.
Vittoria Reimers, som leder personalfunksjonen i Juniper Square og har bygget en av de mer operasjonelt seriøse AI-styringsmodellene man sannsynligvis vil finne i en mellomstor virksomhet, legger ikke særlig stor vekt på komiteer alene.
Ditt første forsvar er menneskene og prosessene dine. Styringskomiteen kommer ganske enkelt ikke til å være til stede når noen tar en beslutning på et brøkdel av et sekund klokken to om natten.
Det hun peker på, er en organisatorisk realitet som styringsrammeverk sjelden tar høyde for. Beslutningene som skaper størst risiko, tas ikke i komitérom. De tas av ingeniører som bygger modellfunksjonalitet innen en tidsfrist, av ledere som handler på AI-genererte signaler om prestasjoner for å anbefale en oppsigelse, og av rekrutterere som kjører kandidater gjennom utvelgelsesverktøy hvis underliggende logikk de ikke fullt ut forstår.
Styringsapparatet opererer på et abstraksjonsnivå som det faktiske arbeidet ikke gjør.
Reimers utviklet et praktisk svar på dette hos Juniper Square. Teamet hennes skapte det de kalte ACE. Det består av omtrent ti til tolv ansatte som er fordelt på tvers av organisasjonen, og som fungerer som uformelle AI-rådgivere samtidig som de beholder sine vanlige roller.
Budskapet var direkte: Hvis du bygger noe og ikke vet om det er trygt eller skalerbart, kan du komme til ACE. Oppslutningen overrasket henne. Folk kom, jevnlig, fordi de endelig hadde en prosess som tok tak i de faktiske problemene de sto overfor, i stedet for et policydokument som befant seg over hodene deres.
"Bruk mye tid på brukspolicyen din, styringsstyret ditt og styringskomiteen din", sa hun. "Bruk deretter ti ganger så mye tid på å investere i menneskene dine – hvordan de settes i stand til å lykkes, opplæringen deres og kulturen din."
ACE-modellen løser ikke spørsmålet om ansvarlighet på toppen av organisasjonen. Men den gjør noe den formelle styringsstrukturen ikke kan: Den flytter eierskapet dit beslutningene faktisk tas.
Det HR arvet
Matt Poepsel har tenkt på dette gapet fra en annen vinkel. Som visepresident for talentoptimalisering i The Predictive Index arbeider han tett med HR-ledere som navigerer avstanden mellom det AI lover, og det AI leverer når teknologien tas i bruk uten organisatorisk kontekst.
Han forteller om en periode i sin egen lederkarriere da han manglet konteksten han trengte for å lede godt – da han tok avgjørelser han senere angret på, ikke på grunn av dårlige hensikter, men på grunn av ufullstendig informasjon.
Det, hevder han, er det AI gjør akkurat nå, i stor skala, i alle organisasjoner som har tatt i bruk et generisk verktøy og forventet at det skulle forstå de spesifikke forholdene ved arbeidsstyrken deres.
De sier at vi må ha mennesket med i sløyfen. Jeg vil si at vi må ha HR med i sløyfen. Jeg ser HR slite med det samme som jeg gjorde da jeg var overdrevent fokusert på den tekniske delen av ligningen.
Denne marginaliseringen er delvis strukturell og delvis historisk. HR brukte årevis på å forsøke å få en plass ved virksomhetens bord. Da AI-verktøyene kom, ble de ofte presentert som en måte for HR å demonstrere avkastning på investeringen gjennom raskere ansettelsesprosesser, reduserte kostnader knyttet til turnover og automatisert etterlevelse.
Innpakningen gjorde HR til en mottaker av AI-implementering, ikke en arkitekt for den. Styringssamtalen, der den i det hele tatt fant sted, involverte vanligvis juridisk avdeling, IT og økonomi. HR fikk verktøyene. Ansvaret for disse verktøyene havnet et annet sted, eller ingen steder spesielt.
Poepsels kritikk er tydelig: Generisk AI kjenner ikke organisasjonen din. Den kjenner ikke kulturen din, den atferdsmessige dynamikken din, historien din eller de spesifikke gruppene den tar beslutninger om.
Det den produserer, er sannsynlig klingende resultater som mangler konteksten enhver erfaren HR-medarbeider intuitivt har med seg. Når AI markerer et avvik i prestasjoner, gir en kandidat en poengsum eller anbefaler en justering av lønnen, arbeider den ut fra mønstre som ikke har kjennskap til personen foran den. Det har HR-lederen som har vært i rommet i tre år.
"Hvis AI kan gjøre det, er det per definisjon blitt en handelsvare", sa Poepsel. "Det du tilfører, er differensiering."
Det er ubehagelig, men viktig. HRs verdi i en AI-assistert organisasjon ligger ikke i utførelsen – verktøyene kan gjøre det raskere. Verdien ligger i vurderingsevnen: å vite når resultatet er feil, når konteksten er viktig, og når en beslutning får konsekvenser modellen ikke kan oppfatte.
Det er nettopp denne vurderingsevnen som blir presset ut av organisasjoner som tar i bruk AI uten å redesigne prosessene og rollene rundt den.
More Articles
- Utvikle, lære, skalere. Hva så?
- Signalrapport: Lærdommer fra Transform 2026
- Ferdigheter først er målet. KI har bare flyttet målstengene.
- KI i forretningsdriften: Gjør fremvoksende teknologi til et strategisk fortrinn for virksomheten
- Visepresident for mennesker og organisasjon i en AI-enhjørning sier at HR-ledere må bli arkitektene bak en menneske-maskin-arbeidsstyrke
Den juridiske drivkraften
30. juni 2026 trer Colorados AI-lov i kraft, noe som gjør den til den første delstatsloven i landet som innfører omfattende styringsforpliktelser for både utviklere og brukere av AI-systemer som påvirker avgjørende beslutninger om ansettelse.
Kravene er omfattende. Arbeidsgivere må opprettholde dokumenterte risikostyringsprogrammer, gjennomføre årlige konsekvensvurderinger, varsle ansatte når AI har påvirket en beslutning som berørte dem, og rapportere diskriminerende utfall til delstatens justisminister.
Loven anbefaler NISTs rammeverk for risikostyring av AI som den gjeldende standarden for etterlevelse. Den gjelder uavhengig av arbeidsgiverens størrelse.
Colorado kan få større betydning enn delstatens størrelse skulle tilsi. Andre delstater følger med, og arbeidsgruppen for regulering som guvernør Jared Polis satte sammen, oppnådde enstemmig enighet om endringer så sent som denne måneden. Det betyr at lovens endelige utforming fortsatt er i bevegelse, men ikke ambisjonene.
Mobley viser hvorfor dette er viktig også utenfor Colorados grenser. Retten trengte ikke en delstatslov om AI for å fastslå at Workday kunne holdes ansvarlig som representant for arbeidsgiverne som bruker plattformen deres.
Representasjonsteorien, som innebærer at deltakelse i en avgjørende beslutning skaper et delt ansvar, blir nå brukt på AI-verktøy under eksisterende føderale lover mot diskriminering. En arbeidsgiver trenger ikke å drive virksomhet i Colorado for å møte argumentet om at den delegerte en ansettelsesbeslutning til et system som utøvde reelt skjønn, og at dette skjønnet førte til et diskriminerende utfall klokken 01.50 om natten mens alle sov.
Det juridiske ansvaret går direkte tilbake til tomrommet innen styring. En arbeidsgiver som ikke kan dokumentere hvem som vurderte AI-verktøyet før det ble tatt i bruk, hvem som overvåker det for diskriminerende mønstre, og hvem som er ansvarlig for resultatene, har ikke noe reelt forsvar når en beslutning blir bestridt. Utvalget hadde et møte. Ingen fulgte med.
Å redesigne hvem som eier hva
Chelsea Gregory fra helseteknologiselskapet Suki ledet nylig en omfattende revisjon av personalhåndboken. Hun ga publikum på Transform en konkret illustrasjon fra hverdagen av hvordan styringsgapet oppstår før det blir et juridisk problem.
En fleksibel ordning for betalt fri som fungerte godt med et mindre team, begynte å skape klager på likebehandling da selskapet vokste. En leder godkjente forlenget permisjon for nyere ansatte, mens medarbeidere med lengre ansiennitet opplevde at ordningen ble praktisert inkonsekvent. Ingenting var ondsinnet. Dokumentasjonen hadde bare ikke holdt tritt med organisasjonens størrelse.
Den samme dynamikken utspiller seg med AI-verktøy. Retningslinjer som er utformet for én brukskontekst, kan ikke automatisk overføres når organisasjonen vokser, arbeidsstyrken endrer seg eller verktøyet blir oppdatert.
Har dere den nødvendige dokumentasjonen og de nødvendige prosessene på plass? Og hvordan verifiserer dere at de er korrekte og oppfyller formålet sitt?
I de fleste organisasjoner er det ingen som formelt har ansvaret for å kontrollere dette.
Å lukke dette gapet krever noe mer substansielt enn et bedre policydokument. McIntire argumenterer for integrasjon – med andre ord bør ikke AI-risiko ligge utenfor rammeverket for virksomhetens risikostyring som en separat og eksotisk kategori. Den bør inngå i den eksisterende risikoarkitekturen, med samme tydelighet rundt eierskap som gjelder for enhver annen operasjonell risiko.
Spørsmålet blir da om personene som driver de eksisterende risikoprosessene, har myndighet, opplæring og tilgang til organisasjonen til å anvende dem på AI.
Reimers og Poepsel kommer til samme konklusjon fra ulike utgangspunkt. ACE-modellen fungerer fordi den plasserer ansvaret tett på arbeidet. HR-multiplikatorrammeverket fungerer fordi det tydeliggjør hva HR tilfører på en unik måte – organisasjonskunnskap, atferdskontekst og evnen til å teste en modells resultat opp mot det faktiske mennesket det påvirker. Ingen av dem erstatter formell styring. Begge gjør at formell styring får en reell betydning.
Det CHRO-er nå blir bedt om å ta inn over seg, er ansvaret for AI-beslutninger uten myndighet til å styre dem, og dette er en strukturell svikt som blir feiltolket som et talentproblem.
Organisasjoner som behandler det som sistnevnte, vil sannsynligvis fortsette å fylle komitéplasser som ikke har noen reell innflytelse. Det egentlige arbeidet er å redesigne hvordan styringsmyndighet fordeles på tvers av ledergruppen, slik at ansvar og makt følges ad.
Gartners forskning fra 2025 beskriver situasjonen tydelig: Færre enn én av fire IT-ledere sier at de er svært trygge på at organisasjonen kan håndtere styring ved innføring av verktøy for generativ AI. Flere virksomheter har formelle strategier på papiret enn noen gang tidligere. Svært få har klart å sette dem ut i praksis.
Avstanden mellom en policy og en styringsstruktur med reelt ansvar er der risikoen ligger. Det er også, basert på utviklingen i rettssakene, der den neste bølgen av søksmål vil bli anlagt.
