Ansvaret ender ingen steder: Indblik i AI’s ansvarsvakuum
Afslagsvirkeligheden: AI-systemer giver afslag på jobansøgninger uden menneskelig gennemgang, hvilket rejser spørgsmål om det juridiske ansvar.
Styringskløften: AI-styring mangler tydeligt ansvar, fordi politikkerne ikke placerer ejerskab for konsekvenserne af beslutningstagningen.
AI-ansvarlighed: Domstolene sætter spørgsmålstegn ved, hvem der bør overvåge AI-beslutninger, og holder arbejdsgivere ansvarlige for diskriminerende resultater baseret på AI.
Uoverensstemmelse i politikkerne: Eksisterende politikker formår ikke at tilpasse sig organisatoriske ændringer, hvilket fører til styringsproblemer med AI-værktøjer.
Juridiske konsekvenser: Colorados AI-lov skaber præcedens for AI-ansvarlighed og påvirker ansættelsesbeslutninger og juridiske standarder i hele landet.
Klokken 1.50 om morgenen modtog Derek Mobley et afslag. Han havde søgt mindre end en time tidligere. Ingen ansættende leder havde gennemgået hans CV, og ingen rekrutteringsmedarbejder havde vurderet hans erfaring.
Systemet behandlede ham, afsagde en kendelse og gik videre, før nogen i virksomheden var begyndt på arbejdsdagen. Mobley, som er sort og over fyrre, ville søge mere end hundrede job gennem Workdays platform og få afslag hver eneste gang.
Retssagen, han anlagde i 2023, er nu et certificeret landsdækkende gruppesøgsmål, der potentielt omfatter hundredvis af millioner af ansøgere. Workday hævder, at virksomheden ikke er arbejdsgiveren, hvilket teknisk set er korrekt. Arbejdsgiverne siger, at de ikke traf beslutningerne, hvilket også teknisk set er korrekt. En føderal domstol har fastslået, at netop det forhold, at de to fakta eksisterer side om side, er problemet.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Når en platform udøver dømmekraft og ikke blot anvender kriterier, men deltager i beslutningen, fungerer den som arbejdsgiverens agent. Derfor overtager arbejdsgiveren ansvaret. Det, domstolene nu presser på for at få afklaret, er ikke, om AI traf en dårlig beslutning. Det er, hvem der skulle have holdt øje med den.
Det spørgsmål lander på CHRO'ernes skriveborde. Ikke fordi de meldte sig frivilligt til det, og bestemt heller ikke fordi de har beføjelserne, budgettet eller den juridiske infrastruktur til at besvare det. Men fordi nogen er nødt til det, og fordi de er det nærmeste, de fleste organisationer har på en ejer af den medarbejderrelaterede risiko, som AI skaber i stor skala.
Ejerskab overalt, ansvar ingen steder
Sean McIntire, juridisk direktør hos PEBL, har set organisationer udarbejde AI-politikker med oprigtig omhu, blot for at se dem opløses et sted mellem direktionen og de mennesker, der faktisk træffer beslutningerne.
"Ejerskab overalt, ansvar et eller andet sted," sagde han under en paneldebat om AI-risiko ved Transform i Las Vegas i denne uge. Formuleringen lyder som en løsning. Det er den ikke.
Han drager en sammenligning med GDPR. Da den forordning kom, gik virksomhederne i panik. Mange havde ikke et klart billede af, hvor deres persondata befandt sig, hvem der behandlede dem, eller hvad deres faktiske forpligtelser var.
Kaosset var reelt, men det fungerede også som en drivkraft. De organisationer, der kom ud af det med stærke datastyringsprogrammer, var ikke blot i overensstemmelse med reglerne; de havde opbygget en infrastruktur, der viste sig at være robust.
McIntires argument er, at AI befinder sig på samme tidspunkt før den drivkraft, og at de fleste virksomheder opfører sig præcis, som de gjorde, før GDPR trådte i kraft: De reagerer på den synlige trussel, mens det underliggende strukturelle problem forbliver uadresseret.
Det strukturelle problem kan formuleres enkelt. AI-værktøjer kom primært ind på arbejdspladsen ad effektivitetsvejen, der fører til hurtigere ansættelser, automatiserede præstationssignaler, sammenligning af lønninger og kontinuerlige feedbacksløjfer.
De organisationer, der tog dem i brug, behandlede indkøb og styring som separate problemer. Jura gennemgik kontrakterne. IT godkendte sikkerhedsniveauet. Økonomiafdelingen underskrev budgettet. HR fik overdraget implementeringen og fik besked på at administrere den.
Det, ingen tydeligt fastslog, var, hvem der havde ansvaret for risikoen, når værktøjet traf en konsekvensrig beslutning, der skadede nogen.
McIntires fremstilling rammer det præcist. AI-styring er i de fleste organisationer diffus af design. Politikken findes. Arbejdsgruppen findes. Retningslinjerne for brug findes. Det, der ikke findes, er en navngiven person med både beføjelserne og ressourcerne til at stå til ansvar, når noget går galt.
Komitéen er ikke til stede kl. 2 om natten
Dataene gør dette konkret. En Gartner-undersøgelse blandt mere end 1.800 ledere viste, at 55 % af organisationerne nu oplyser, at de har en AI-bestyrelse eller en særlig tilsynskomité på plads. Det lyder som fremskridt, indtil man ser på det ledsagende tal fra McKinsey: Kun 28 % af organisationerne siger, at den administrerende direktør tager direkte ansvar for tilsynet med AI-styringen.
Bestyrelserne klarer sig dårligere, idet kun 17 % formelt har indarbejdet AI-styring i deres kommissorier.
Komitéerne findes. Ansvarligheden følger ikke med.
Vittoria Reimers, som leder medarbejderfunktionen hos Juniper Square og har opbygget en af de mere operationelt seriøse AI-styringsmodeller, man sandsynligvis vil finde i en mellemstor virksomhed, tillægger ikke komitéer alene særlig stor vægt.
\u0022Din første forsvarslinje er jeres medarbejdere og jeres processer. Styringskomitéen vil simpelthen ikke være til stede ved den beslutning på et splitsekund, som nogen træffer klokken 2 om natten.\u0022
Det, hun peger på, er en organisatorisk virkelighed, som styringsrammer sjældent tager højde for. De beslutninger, der skaber størst risiko, træffes ikke i udvalgslokaler. De træffes af ingeniører, der bygger modelfunktionalitet under tidspres, af ledere, der handler på AI-genererede præstationsmarkeringer for at anbefale en opsigelse, og af rekrutteringsmedarbejdere, der kører kandidater gennem screeningsværktøjer, hvis underliggende logik de ikke fuldt ud forstår.
Styringsapparatet fungerer på et abstraktionsniveau, som det faktiske arbejde ikke gør.
Reimers udviklede et praktisk svar på dette hos Juniper Square. Hendes team skabte det, de kaldte ACE. Det består af omkring ti til tolv medarbejdere fordelt på tværs af organisationen, som fungerer som uformelle AI-rådgivere, samtidig med at de varetager deres faste roller.
Budskabet var direkte: Hvis du bygger noget og ikke ved, om det er sikkert eller skalerbart, så kom til ACE. Hun blev overrasket over opbakningen. Folk kom, igen og igen, fordi de endelig havde en proces, der tog hånd om de faktiske problemer, de stod over for, i stedet for et politisk dokument, der befandt sig over deres hoveder.
\u0022Brug masser af tid på jeres brugspolitik, jeres styringsbestyrelse og jeres styringskomité,\u0022 sagde hun. \u0022Brug derefter ti gange så meget tid på at investere i jeres medarbejdere — deres kompetenceudvikling, deres træning og jeres kultur.\u0022
ACE-modellen løser ikke spørgsmålet om ansvarlighed øverst i organisationen. Men den gør noget, som den formelle styringsstruktur ikke kan: Den flytter ejerskabet hen, hvor beslutningerne faktisk træffes.
Det, HR arvede
Matt Poepsel har tænkt over denne kløft fra en anden vinkel. Som Vice President for talentoptimering hos The Predictive Index arbejder han tæt sammen med HR-ledere, der navigerer i afstanden mellem det, AI lover, og det, AI leverer, når det implementeres uden organisatorisk kontekst.
Han fortæller om en periode i sin egen lederkarriere, hvor han manglede den kontekst, han havde brug for, for at lede godt — hvor han traf beslutninger, han senere fortrød, ikke på grund af dårlige intentioner, men på grund af ufuldstændige oplysninger.
Det, hævder han, er det, AI gør lige nu, i stor skala, i enhver organisation, der har implementeret et generisk værktøj og forventet, at det skulle forstå de specifikke forhold hos deres medarbejdere.
\u0022De siger, at vi skal holde mennesket med i sløjfen. Jeg vil sige, at vi skal holde HR med i sløjfen. Jeg ser HR kæmpe med det samme, som jeg gjorde, da jeg var for fokuseret på den tekniske del af ligningen.\u0022
Denne marginalisering er delvist strukturel og delvist historisk. HR brugte år på at forsøge at få en plads ved forretningsbordet. Da AI-værktøjerne kom, blev de ofte positioneret som en måde, hvorpå HR kunne demonstrere investeringsafkast gennem hurtigere rekrutteringsforløb, reducerede omkostninger ved medarbejderafgang og automatiseret overholdelse af regler.
Indramningen gjorde HR til modtager af AI-implementeringen, ikke til arkitekt bag den. Styringssamtalen, når den overhovedet fandt sted, involverede typisk juridisk afdeling, IT og økonomi. HR fik værktøjerne. Ansvaret for disse værktøjer blev placeret et andet sted eller ingen steder bestemt.
Poepsels kritik er præcis: Generisk AI kender ikke jeres organisation. Den kender ikke jeres kultur, jeres adfærdsmæssige dynamikker, jeres historik eller de specifikke grupper, den træffer beslutninger om.
Det, den producerer, er resultater, der lyder plausible, men mangler den kontekst, som enhver erfaren HR-professionel bærer med sig instinktivt. Når AI markerer en afvigelse i præstation, scorer en kandidat eller anbefaler en justering af lønnen, arbejder den ud fra mønstre, der ikke har noget kendskab til personen foran den. Det har HR-lederen, som har været med i rummet i tre år.
\u0022Hvis AI kan gøre det, er det pr. definition blevet en standardvare,\u0022 sagde Poepsel. \u0022Det, du tilfører, er differentiering.\u0022
Det er ubehageligt, men vigtigt. HR's værdi i en AI-assisteret organisation ligger ikke i udførelsen, det kan værktøjerne gøre hurtigere. Værdien ligger i dømmekraften: at vide, hvornår resultatet er forkert, hvornår konteksten er vigtig, og hvornår en beslutning har konsekvenser, som modellen ikke kan opfatte.
Denne dømmekraft er præcis det, der bliver presset ud af organisationer, som implementerer AI uden at redesigne processerne og rollerne omkring den.
Den juridiske drivkraft
Den 30. juni 2026 træder Colorados AI-lov i kraft, hvilket gør den til den første delstatslov i landet, der pålægger både udviklere og implementerende organisationer omfattende forpligtelser til styring af AI-systemer, som påvirker væsentlige ansættelsesbeslutninger.
Kravene er omfattende. Arbejdsgivere skal vedligeholde dokumenterede risikostyringsprogrammer, gennemføre årlige konsekvensvurderinger, underrette medarbejdere, når AI har påvirket en beslutning, der berørte dem, og indberette diskriminerende resultater til delstatens justitsminister.
Loven anbefaler NIST's rammeværk for risikostyring af AI som den gældende standard for overholdelse. Den gælder uanset arbejdsgiverens størrelse.
Colorado kan få større indflydelse, end delstatens størrelse tilsiger. Andre delstater følger udviklingen, og den regulatoriske arbejdsgruppe, som guvernør Jared Polis nedsatte, nåede så sent som denne måned til enstemmig enighed om ændringer, hvilket betyder, at lovens endelige udformning stadig er under udvikling, men ikke dens ambitionsniveau.
Mobley fastslår, hvorfor dette er vigtigt uden for Colorados grænser. Domstolen behøvede ikke en delstatslov om AI for at konkludere, at Workday kunne holdes ansvarlig som agent for de arbejdsgivere, der bruger platformen.
Agentteorien om, at deltagelse i en væsentlig beslutning skaber et fælles ansvar, anvendes lige nu på AI-værktøjer i henhold til eksisterende føderale antidiskriminationslove. En arbejdsgiver behøver ikke drive virksomhed i Colorado for at blive mødt med argumentet om, at arbejdsgiveren har uddelegeret en ansættelsesbeslutning til et system, der udøvede reel dømmekraft, og at denne dømmekraft førte til et diskriminerende resultat klokken 1.50 om natten, mens alle sov.
Den juridiske eksponering fører direkte tilbage til styringsvakuummet. En arbejdsgiver, der ikke kan dokumentere, hvem der gennemgik AI-værktøjet før implementeringen, hvem der overvåger det for diskriminerende mønstre, og hvem der er ansvarlig for dets resultater, har intet reelt forsvar, når en beslutning bliver anfægtet. Udvalget holdt et møde. Ingen fulgte med.
Redesign af ansvarsfordelingen
Chelsea Gregory fra sundhedsvirksomheden Suki, der arbejder med AI, stod for nylig i spidsen for en gennemgribende revision af en medarbejderhåndbog. Hun gav publikum på Transform en jordnær illustration af, hvordan styringskløften viser sig, før den bliver til et juridisk problem.
En fleksibel PTO-politik, der fungerede godt med et mindre team, begyndte at føre til klager over lighed, efterhånden som virksomheden voksede. En leder godkendte forlænget orlov for nyere medarbejdere, mens medarbejdere med længere anciennitet oplevede, at politikken blev anvendt inkonsekvent. Intet var ondsindet. Dokumentationen havde bare ikke holdt trit med organisationens størrelse.
Den samme dynamik udspiller sig med AI-værktøjer. Politikker, der er udformet til én implementeringskontekst, overføres ikke automatisk, når organisationen vokser, arbejdsstyrken ændrer sig, eller værktøjet bliver opdateret.
Har I den rette dokumentation og de rette processer på plads? Og hvordan verificerer I, at de er korrekte og tjener deres formål?
I de fleste organisationer er ingen formelt ansvarlig for at kontrollere det.
At lukke denne kløft kræver noget mere grundlæggende end et bedre politikdokument. McIntire argumenterer for integration, eller med andre ord, at AI-risiko ikke bør befinde sig uden for rammeværket for virksomhedens risikostyring som en separat og eksotisk kategori. Den bør indgå i den eksisterende risikoarkitektur med samme tydelige ansvarsfordeling, som styrer enhver anden operationel eksponering.
Spørgsmålet bliver så, om de mennesker, der driver de eksisterende risikoprocesser, har beføjelserne, uddannelsen og den organisatoriske adgang til at anvende dem på AI.
Reimers og Poepsel når frem til den samme konklusion fra forskellige udgangspunkter. ACE-modellen fungerer, fordi den placerer ansvaret tæt på arbejdet. HR-multiplikatorrammeværket fungerer, fordi det tydeliggør, hvad HR tilfører på en unik måde — organisatorisk viden, adfærdsmæssig kontekst og evnen til at teste en models resultat op mod det faktiske menneske, som det påvirker. Ingen af delene erstatter formel styring. Begge dele gør den formelle styring meningsfuld.
Det, CHRO'er lige nu bliver bedt om at påtage sig, er ansvar for AI-beslutninger uden beføjelse til at styre dem, og det er en strukturel svigt, der fejlagtigt bliver opfattet som et talentproblem.
Organisationer, der behandler det som sidstnævnte, vil sandsynligvis fortsætte med at besætte pladser i udvalg, der ikke har nogen reel vægt. Det egentlige arbejde består i at redesigne, hvordan beslutningsmyndigheden fordeles på tværs af topledelsen, så ansvar og beføjelser følges ad.
Gartners forskning fra 2025 beskriver den aktuelle situation klart: Færre end én ud af fire IT-ledere siger, at de har stor tillid til, at deres organisation kan håndtere styringen ved implementering af generative AI-værktøjer. Flere virksomheder har formelle strategier på papiret end på noget tidligere tidspunkt. Meget få har med succes omsat dem til praksis.
Kløften mellem en politik og en styringsstruktur med reelt ansvar er dér, hvor risikoen ligger. Det er også, baseret på retssagernes udvikling, dér, hvor det næste sæt retssager vil blive anlagt.
