AI-avvik finnes allerede i arbeidsstyrkesystemene dine. Her er hva du bør gjøre med det

For ledere som driver organisasjoner, må definisjonen være bredere og mer direkte: AI-drift er den langsomme, kumulative prosessen der AI-verktøyene dine slutter å gjøre det du tror de gjør.

I arbeidsstyrkesystemer som ansettelsesplattformer, verktøy for prestasjonsevaluering, kompensasjonsmotorer og planleggingsalgoritmer antar driften former som betyr langt mer for en CHRO eller CEO enn et distribusjonsdiagram gjør for en dataforsker.

• Utdata-drift er den mest synlige formen. Systemets beslutninger avviker fra grunnmønstrene. Anbefalinger om ansettelser begynner å favorisere bestemte kandidatprofiler. Prestasjonspoeng begynner å samle seg annerledes på tvers av team. Resultatene fra planleggingen endrer seg på måter ingen har autorisert. Ingen av disse endringene krever en kodeendring. Modellen reagerer på nye data, eller på gamle data som ikke lenger gjenspeiler verdenen den opererer i.
• Rettferdighetsdrift er mer subtil og farligere. Resultater for beskyttede grupper avviker over tid, selv når systemet besto skjevhetstesting ved implementering. Et ansettelsesverktøy som vurderte kandidater rettferdig i 2022, vil kanskje ikke gjøre det rettferdig i 2026 hvis søkergruppen har endret seg, hvis jobbkravene har utviklet seg, eller hvis de underliggende dataene gjenspeiler mønstre modellen aldri ble trent til å håndtere.
• Drift i beslutningsmyndighet er den formen de fleste ledere overser fullstendig. AI-ens omfang av autonom beslutningstaking utvides i det stille utover det opprinnelige mandatet. Et verktøy som ble lansert for å rangere kandidater, begynner i praksis å eliminere dem. Et system for prestasjonspoeng begynner å påvirke kompensasjonsbeslutninger det aldri var utformet for å berøre. Ingen autoriserte utvidelsen. Den skjedde gradvis gjennom arbeidsflytintegrasjon og brukeratferd, og ingen varslet om det fordi ingen fulgte med på det.
• Styringsdrift er avstanden mellom det retningslinjene dine sier at AI-en gjør, og det den faktisk gjør. Det er her den juridiske eksponeringen konsentreres. Retningslinjene dine for ansvarlig AI beskriver et system som ble validert ved lansering. Systemet som er i drift i dag, kan ha svært lite til felles med denne beskrivelsen. Retningslinjene endret seg ikke, men systemet gjorde det.

Det viktigste å forstå om drift er at det ikke så mye er en feilhendelse som en forvitringsprosess. Et AI-system som var i samsvar med kravene ved implementering, kan bli en belastning uten at en eneste kodelinje endres, ganske enkelt fordi verden rundt det endret seg. 

Innen symptomene viser seg i form av en diskrimineringsklage, et revisjonsfunn eller et resultatmønster som ikke samsvarer med forventningene, har eksponeringen bygget seg opp over flere måneder.

Hvorfor AI-drift krever oppmerksomhet nå

De fleste organisasjoner har implementert AI i arbeidsstyrkesystemer og deretter sluttet å følge med. De testet ved lansering. De dokumenterte ved lansering. De har ikke testet eller dokumentert siden. I mellomtiden har håndhevingen tatt dem igjen.

Rettssakssituasjonen

Mobley v. Workday er nå den ledende saken. Fem saksøkere, alle over 40 år, hevdet at Workdays AI-verktøy for søkervurdering diskriminerte på grunnlag av alder. I mai 2025 godkjente en føderal domstol i det nordlige distriktet i California saken som et landsomfattende gruppesøksmål i henhold til loven om aldersdiskriminering i arbeidsforhold. 

Avgjørelsen kan potensielt omfatte alle søkere over 40 år som har blitt vurdert gjennom Workdays plattform siden september 2020. Workday oppga selv i rettsdokumenter at 1,1 milliarder søknader ble avvist ved hjelp av verktøyene deres i den relevante perioden.

Domstolens begrunnelse var direkte. Dommer Rita Lin fastslo at Workday var tilstrekkelig involvert i ansettelsesprosessen til å bli behandlet som en representant for arbeidsgiverne som bruker verktøyene deres. 

Domstolen advarte om at et skille mellom beslutningstakere i form av programvare og menneskelige beslutningstakere ville uthule diskrimineringslovgivningen i moderne tid.

I juli 2025 ble omfanget ytterligere utvidet til å omfatte personer som ble behandlet gjennom HiredScore, en AI-plattform Workday kjøpte etter at den opprinnelige klagen var inngitt.

Deretter kom Eightfold AI. I januar 2026 hevdet et gruppesøksmål at Eightfold hentet inn data om over én milliard arbeidstakere, ga søkere en poengsum fra null til fem og avviste kandidater før et menneske i det hele tatt hadde vurdert søknaden deres – alt uten opplysningene som kreves i henhold til loven om rettferdig kredittrapportering. 

Denne saken skiller seg fra Mobley på en viktig måte ved at den ikke hevder at det forekom partiskhet. Den hevder at det forekom hemmelighold. Algoritmen eksisterte, var i drift og filtrerte personer bort fra muligheter uten at noen utenfor selskapet visste at det skjedde. Saken ble anlagt av tidligere EEOC-leder Jenny R. Yang, noe som viser hvilken tyngde den juridiske oppmerksomheten rundt KI for arbeidsstyrken nå har.

Sett under ett danner disse sakene en knipetang. Mobley angriper resultatene. Eightfold angriper prosessen. Begge peker i samme retning: KI-leverandører som tar eller i vesentlig grad påvirker beslutninger om ansettelser, vil bli holdt ansvarlige for disse beslutningene.

It starts with one signal.

Each week, AI Signal takes one meaningful shift in AI and helps people leaders understand what changed, why it matters, and what to consider next.

Get Free Access

Have an account? Log In

Presset på leverandøransvaret

Det er her regnestykket blir ubehagelig for arbeidsgivere. Undersøkelser fra juridiske teknologiplattformer viser at 88 % av KI-leverandørene begrenser sitt eget ansvar, ofte ved å begrense erstatningen til månedlige abonnementsavgifter. Bare 17 % garanterer samsvar med regelverket. Omfattende skadesløsholdelsesklausuler krever rutinemessig at kundene holder leverandørene skadesløse for diskriminerende resultater.

Det betyr at arbeidsgivere er juridisk ansvarlige for resultater de ikke kan kontrollere, som er generert av data de ikke kan revidere, og behandlet gjennom logikk de ikke kan undersøke. Når et gruppesøksmål kommer, begrenser leverandøravtalen ansvaret, fraskriver seg garantier for samsvar og begrenser algoritmiske revisjoner. Arbeidsgiveren sitter igjen med ansvaret.

Problemet med «mennesket i loopen»

Det er ikke lenger et holdbart forsvar at en person formelt inngår i kontrollkjeden. 

Aaron Pease, advokat i Highbridge Law Firm, som gir råd om KI-styring og samsvar med regler for arbeidsstyrken, sa det rett ut i en nylig presentasjon om risikoen ved autonome arbeidsstyrker. 

Tilsyn uten innsyn er teater, og det bryter sammen under juridisk bevisinnhenting.

Share This Quote on:

• Share on Twitter
• Share on LinkedIn
• Share on Facebook

Aaron PeaseOpens new window

Grunnlegger og hovedadvokat

Organisasjoner kan ikke dokumentere hva mennesket faktisk gjennomgikk, hva det overstyrte, eller hvilke kriterier det anvendte. Domstoler og tilsynsmyndigheter beveger seg mot å kreve dokumentert og etterprøvbart tilsyn, ikke en uttalt policy om at noen, et eller annet sted, så på noe før det gikk videre.

Håndheving av regelverket blir en realitet

Colorados KI-lov, som ble vedtatt i mai 2024, er USAs første omfattende delstatslov som regulerer KI-systemer som brukes i beslutninger med store konsekvenser, inkludert ansettelser. Loven krever obligatoriske konsekvensutredninger, risikostyringsprogrammer og opplysningsplikter, og har bøter på 20 000 dollar per overtredelse.

Veien mot håndheving har vært turbulent, ettersom mer enn 150 lobbyister samlet seg til en ekstraordinær lovgivningssesjon i august 2025, og fire konkurrerende lovforslag forsøkte å uthule eller oppheve loven. Ingen av dem lyktes. Lovgiveren ble bare enig om å utsette håndhevingen til 30. juni 2026, mens lovens materielle krav forble uendret.

Per begynnelsen av 2026 har lovgivningssesjonen i Colorado ikke kommet til enighet om ytterligere endringer.

I mellomtiden har California sluttført regler for arbeidsgiveres bruk av KI i diskrimineringssaker, og Illinois har innført krav om opplysninger om KI. Mønsteret er konsekvent på tvers av delstatene: Det er mulig å utsette innføringen, men en tilbaketrekning fra regulering skjer ikke.

Kostnadene ved passiv styring

Zillows nedskrivning på 569 millioner dollar i november 2021 er fortsatt en av de tydeligste eksemplene på hva som skjer når algoritmisk utvikling ute av kurs ikke overvåkes. Selskapets iBuying-plattform brukte en prismodell til å verdsette boliger og gi kjøpstilbud. Da markedsforholdene etter pandemien endret seg, fortsatte algoritmen å anta at markedet var hett, mens de faktiske forholdene ble kjøligere.

Zillow kjøpte boliger til oppblåste priser i flere måneder før noen oppdaget det. Da oppgjørets time kom, la selskapet ned hele iBuying-enheten, sa opp 25 % av arbeidsstyrken og bokførte samlede tap på over 900 millioner dollar. Aksjen mistet omtrent 7,8 milliarder dollar i markedsverdi i løpet av få dager.

Nedskrivningen skyldtes ikke en plutselig svikt. Den skyldtes en gradvis utvikling ute av kurs som fikk vokse fordi ingen fulgte med på signalene. Bytt ut «boligprising» med «ansettelsesbeslutninger» eller «prestasjonsevalueringer», og mønsteret er identisk. Avviket skjer i det stille. Eksponeringen bygger seg opp. Oppgjørets time gjør ikke det.

For ledere som bruker KI i arbeidsstyrken, er kostnadskategoriene konkrete.

• Finansiell eksponering oppstår når feilaktige AI-beslutninger forsterkes over tid i form av feilansettelser, urettmessige oppsigelser og feilallokert talent
• Eksponering for søksmål oppstår fordi måneder med skjeve screeningsbeslutninger, som alle er dokumentert i systemlogger, skaper nettopp den typen systematiske bevis som advokater i gruppesøksmål ser etter
• Regulatoriske bøter er ikke lenger teoretiske etter hvert som håndhevingsrammeverkene modnes
• Omdømmeskade rammer arbeidsgivermerkevaren i et konkurransepreget arbeidsmarked
• Forstyrrelser på styrenivå kommer inn i bildet når styringssvikt i AI-beslutninger når området for styremedlemmenes forvaltningsansvar. Styremedlemmer spør om organisasjonen kan dokumentere tilsyn, og «vi har en policy» er ikke et svar. Dette er noe AI i styreledelse kan bidra til.

Hvorfor de fleste styringsrammeverk mislykkes

De fleste organisasjoner tok i bruk språket for ansvarlig AI. De har retningslinjer. De har prinsipper. Noen viser til NIST. Men de har aldri integrert intern overvåking for å kontrollere at de faktisk etterlever noe av dette. De kan beskrive sin tilnærming til AI-styring. De kan ikke måle den.

Dette er instrumenteringsgapet, og det er her den reelle risikoen ligger.

Dr. Fern Halper, visepresident og seniorforskningsdirektør for avansert analyse hos TDWI, viser til en undersøkelse fra slutten av 2025 som selskapet gjennomførte blant flere hundre organisasjoner. Bare rundt en tredjedel beskrev AI-styringen sin som moden når det gjaldt organisatorisk oppslutning, definerte prosesser, ansvarlighet, verktøy og evnen til å måle resultater. 

Overvåkingsfunksjoner var enda mindre utbredt. Færre enn 25 % oppga at de brukte noen form for AI-overvåkingsverktøy som kunne oppdage avvik.

I mange organisasjoner skjer ikke sammenbruddet mellom retningslinjer og måling, men tidligere. Mange organisasjoner er fortsatt i ferd med å utvikle grunnleggende styringsstrukturer som retningslinjer, ansvarsmodeller og modellregistre. De har ennå ikke kommet til stadiet der kontinuerlig overvåking av modeller i produksjon er satt i drift.

Share This Quote on:

• Share on Twitter
• Share on LinkedIn
• Share on Facebook

Dr. Fern HalperOpens new window

Visepresident og seniorforskningsdirektør for avansert analyse hos TDWI

Dette funnet gir styringsproblemet et nytt perspektiv for mange ledere. Samtalene i styrerommene har en tendens til å ta for gitt at styring finnes, og spørsmålet er om den er god nok. For de fleste organisasjoner er infrastrukturen for å styre AI-beslutninger på en målbar måte ganske enkelt ikke bygget ennå.

NISTs rammeverk for risikostyring av AI, som ble lansert i januar 2023, definerer fire kjernefunksjoner: Styr, Kartlegg, Mål og Håndter. De fleste organisasjoner vet at rammeverket finnes. Få har satt det ut i praksis utover de to første.

• Styr er det gjennomgående grunnlaget — risikokultur, ansvarsstrukturer, ledelsesforpliktelse, roller og ansvar. NIST utformet dette slik at det skulle gjennomsyre de tre andre funksjonene, ikke behandles som en frittstående avkrysningsboks. Uten Styr er Kartlegg, Mål og Håndter bare øvelser på papiret.
• Kartlegg identifiserer hvor AI har fått delegert beslutningsmyndighet, hvilke data som forsyner den, hvem som berøres, og hva som står på spill. Dette er inventarfasen, og det er her de fleste organisasjoner stopper. De fullførte kartleggingen av landskapet. De dokumenterte hvilke systemer som berører hvilke beslutninger. Deretter gikk de videre.
• Mål er der styring blir reell. Det krever kvantitative, kvalitative eller kombinerte metoder for å analysere, sammenligne og overvåke AI-risiko opp mot definerte grunnlinjer. NIST er tydelig: AI-systemer bør testes før de tas i bruk og regelmessig mens de er i drift. Regelmessig. Ikke bare én gang.
• Håndter er utbedring — å prioritere og håndtere identifiserte risikoer, loggføre korrigerende tiltak og knytte oppdagelsessignaler til dokumenterte responser.

Problemet er at de fleste organisasjoner stopper ved Kartlegg, eller mer presist, de stopper ved en delvis kartlegging som mangler Styr-grunnlaget som skal gjøre den handlingsrettet. De kvantifiserer sjelden avvik, sporer eksponeringssignaler eller loggfører korrigerende tiltak.

Ifølge Pease knytter de definitivt ikke signaler til dokumentert utbedring. Kartlegging uten måling er en katalog. Måling uten styring er bare data. Ingenting av dette beskytter deg under bevisfremleggelsen med mindre det er knyttet til dokumenterte tiltak.

Verdt å merke seg: Samsvar med NIST blir mer enn bare en beste praksis. Colorados AI-lov viser uttrykkelig til NIST AI RMF som en målestokk for samsvar. Utviklere som tilpasser seg den, får en avkreftelig presumsjon for at de har utvist «rimelig aktsomhet». Det betyr at NIST i økende grad blir standarden som juridisk ansvar måles mot, ikke bare en frivillig retningslinje.

Slik oppdager og kvantifiserer du AI-drift

Det grunnleggende skiftet organisasjoner må gjøre, er konseptuelt før det er teknisk. Slutt å behandle AI-tilsyn som en revisjonsfunksjon med årlig eller kvartalsvis gjennomgang, planlagt på forhånd og rapportert i etterkant, og begynn å behandle det som en operasjonell funksjon. Kontinuerlig signalovervåking med definerte terskler, som kjører parallelt med systemene den overvåker.

Hva som skal overvåkes

I AI-systemer for arbeidsstyrken er fem kategorier av signaler viktige.

• Utdatamønstre: endrer ansettelsesanbefalinger, prestasjonspoeng eller beslutninger om lønn og kompensasjon seg fra utgangsverdiene ved implementering?
• Rettferdighetsmålinger: avviker resultatene for beskyttede grupper, selv gradvis?
• Datainndata: har sammensetningen av dataene som mater systemet, endret seg på måter modellen ikke er utformet for?
• Beslutningsomfang: har AI-ens faktiske myndighet utvidet seg utover det opprinnelige mandatet?
• Regulatorisk samsvar: utvikler kravene seg raskere enn styringsdokumentasjonen deres?

Ingen av disse er eksotiske datapunkter. Det er operasjonelle måltall som allerede burde finnes i ethvert system som tar konsekvensielle beslutninger om mennesker. De fleste organisasjoner har aldri satt opp infrastrukturen som trengs for å følge dem kontinuerlig, eller har aldri definert utgangsverdiene endringer skal måles mot.

Fra beskrivelse til kvantifisering

Gapet de fleste organisasjoner må lukke, er avstanden mellom kvalitativ og kvantitativ styring. Mellom «vi har en policy for ansvarlig AI» og «vi kan vise månedlige driftsmålinger med dokumenterte terskler og korrigerende tiltak».

Kvantifisering innebærer å måle:

• Driftens omfang: hvor langt har resultatene beveget seg fra utgangsverdien, og i hvilken retning
• Poengsetting av økonomisk eksponering: omsetter tekniske måltall til forretningsspråk gjennom anslåtte kostnader per måned for drift som ikke korrigeres.
• Indeksering av juridisk eksponering: basert på mønstre i resultater for beskyttede grupper over tid
• Måling av samsvarsgap: avstanden mellom systemets nåværende atferd og gjeldende regulatoriske krav.

Tenk på det som en motor for risikofølsomhet, ved at det er en kontinuerlig sporingsmekanisme som omsetter driftssignaler til mål på økonomisk og juridisk eksponering fra måned til måned.

Det er dette som gjør styring fra et dokument til et dashbord. Det gir ledelsen oversikten som trengs for å handle før eksponeringen vokser til den typen ansvar som ender i retten.

More Articles

• Kan du gjøre AI-samsvar til et konkurransefortrinn?
• Hva mellomstore selskaper lærte om AI-transformasjon i 2025
• KI i forretningsdriften: Gjør fremvoksende teknologi til et strategisk fortrinn for virksomheten
• KI i virksomhetsstyring: Hvordan KI endrer tilsyn, ansvarlighet og kontroll
• AI i prestasjonsstyring: Bruksområder og veiledning for innføring

Fra oppdagelse til handling: styringstelemetri

«Styring uten telemetri er en rettssak som venter på å skje», sa Pease. «Delegering krever tilsyn.»

Rammeverket han legger frem, trekker et tydelig skille mellom styring som dokument og styring som operasjonell kapasitet. Standarder beskriver hvordan styring bør se ut. Telemetri gjør den operasjonell. Forskjellen er forskjellen mellom en policyhåndbok og et operativsystem.

Telemetri betyr i denne sammenhengen kontinuerlig innsamling av signaler kombinert med evaluering mot terskler og et dokumentert handlingsspor. Fem komponenter får dette til å fungere.

• Innsamling av signaler er den kontinuerlige innsamlingen av avviksindikatorer på hvert beslutningspunkt som er delegert til KI. Ikke stikkprøver. Ikke kvartalsvise revisjoner. Kontinuerlig. Hvis systemet tar beslutninger hver dag, bør overvåkingen også kjøres hver dag.
• Terskellogikk definerer forhåndsfastsatte grenser som skiller akseptable variasjoner fra avvik som krever tiltak. Disse må kalibreres etter organisasjonens risikotoleranse og regulatoriske krav. En endring på 2 % i mønsteret for ansettelsesanbefalinger betyr noe annet i en virksomhet som leverer til føderale myndigheter, enn i en oppstartsbedrift. Tersklene må defineres før det er behov for dem, ikke rekonstrueres i etterkant når et problem dukker opp.
• Eskaleringstildeling sender flaggede signaler til riktig beslutningstaker på riktig nivå gjennom automatiserte prosesser. Ikke alle avvikssignaler krever CHROs oppmerksomhet. Noen gjør det. Eskaleringslogikken er det som forvandler avvik fra et ubemerket datapunkt til en håndtert risiko. Uten den samler signalene seg i instrumentpaneler som ingen sjekker før det er for sent.
• Revisjonslogg gir uforanderlig dokumentasjon av hva som ble oppdaget, når det ble oppdaget, hvilke tiltak som ble iverksatt, og av hvem. Dette er dokumentasjonen som består ved rettslig bevisinnhenting. Dette er det som beviser at styring fant sted, og at den var mer enn en prinsipperklæring.
• Korrigerende handlingssløyfe lukker kjeden. Oppdagelse fører til evaluering. Evaluering fører til handling. Handlingen registreres. Uten dette har du overvåking. Med det har du styring.

Disse fem komponentene samsvarer direkte med NIST AI RMF. Styring gir ansvarlighetsstrukturen som sikrer at telemetri finnes, har tilstrekkelige ressurser og er synlig for ledelsen. Kartlegging identifiserer hvor telemetripunkter må finnes — ved hvert beslutningspunkt som er delegert til KI. Måling er det telemetrien fanger opp: avvikenes omfang, eksponeringssignaler, overskridelse av terskler og rettferdighetsmålinger. Håndtering er det telemetrien utløser: eskalering, korrigerende tiltak, dokumentert utbedring og ansvarlighet gjennom en lukket sløyfe.

Denne kartleggingen er viktig fordi den knytter operasjonell praksis til samsvarsstandarden som Colorados KI-lov — og sannsynligvis senere delstatslover — vil bruke til å vurdere om en organisasjon har utvist rimelig aktsomhet.

Tre spørsmål alle ledere må besvare nå

Pease rammer inn det minimumet av styring som kreves, rundt tre spørsmål. Hvis ledelsen ikke kan besvare alle tre, er organisasjonens styring reaktiv og håndterer omdømmerisiko i stedet for operasjonell risiko.

1. Hvor har KI fått delegert beslutningsmyndighet i arbeidsstyrkesystemene deres? Ikke hvor KI «brukes». Hvor den har fått myndighet til å ta eller i vesentlig grad påvirke beslutninger om mennesker, for eksempel ansettelse, utvelgelse, evaluering, kompensasjon, planlegging og risikovurdering ved oppsigelse. Hvis dere ikke kan legge frem dette kartet, kan dere ikke styre det dere ikke kan se.
2. Kan dere tallfeste styringsavvik fra måned til måned? Ikke «har vi en policy». Kan dere produsere et mål som viser om KI-systemene deres opererer innenfor definerte parametere, og om dette har endret seg siden forrige måned? Hvis styring ikke kan måles, kan den ikke håndteres.
3. Kan dere dokumentere korrigerende tiltak? Hva skjedde da avviket ble oppdaget? Hvem ble varslet? Hva ble beslutningen? Hva ble endret? Hvis dere ikke kan vise sporet fra oppdagelse til respons, har dere i beste fall overvåking. Dere har ikke styring.

Hvor bør man begynne?

For mange virksomheter er prioriteringene for implementeringen praktiske.

• Begynn med arbeidsstyrkesystemene. Disse innebærer den største eksponeringen fordi de påvirker mennesker direkte og er underlagt den strengeste regulatoriske kontrollen.
• Bygg revisjonssporet først. Dette er det tilsynsmyndigheter og domstoler vil be om. Evnen til å dokumentere at styring fant sted, gir mer umiddelbar beskyttelse enn å perfeksjonere selve overvåkingen.
• Instrumenter før dere skalerer. Det er eksponentielt vanskeligere og dyrere å legge til telemetri etter utrulling enn å bygge den inn fra starten. Hver nye KI-utrulling uten styringsinstrumentering er en ny, uovervåket eksponering.

Organisasjoner som bygger styringstelemetri med KI i driftsledelse, bygger infrastrukturen som gjør det mulig å ta i bruk KI med trygghet, øke tempoet i innføringen og demonstrere overfor tilsynsmyndigheter, styrer og ansatte at menneskene som påvirkes av disse systemene, blir beskyttet. Ikke behandlet. Beskyttet.

Vinduet for håndheving blir stadig mindre. Spørsmålet er om dere vil ha bevisene som viser at dere fulgte med.