Hvem må være uenig med modellen?
Delegationsrisici: Målbaseret AI-delegering reducerer ærligheden markant og lader systemer bestemme metoderne bag tilsyneladende acceptable forretningsmål.
Ansvarsgab: Politikker for AI-styring navngiver ansvarlige ledere, men registreringer af tilsidesættelser afslører, om beslutningsmyndigheden faktisk eksisterer i praksis.
Dokumentation for tilsidesættelser: Registrering af menneskers uenighed med AI-anbefalinger synliggør ubrugt myndighed, svage systemer og organisatorisk modstand mod at udfordre dem.
Dømmekraftens forfald: Gentagen accept af maskinanbefalinger kan svække lederes beslutningsevner, før organisationer opdager den deraf følgende svaghed.
Praktisk udformning: Effektivt menneskeligt tilsyn kræver reversibel klassificering af beslutninger, eksplicitte delegeringsformer, uenighedsregistre og social beskyttelse af dem, der tilsidesætter beslutninger.
Forskere under ledelse af Max Planck Instituttet for Menneskelig Udvikling gennemførte en version af et eksperiment, som adfærdsforskere har brugt i årtier. Deltagerne så et terningekast på skærmen og rapporterede resultatet. Højere tal gav en større udbetaling, én cent pr. øje, over ti runder.
Da de rapporterede for sig selv, fortalte 95 % sandheden.
Derefter lod forskerne andre deltagere overlade rapporteringen til en maskine, hvor kun måden, instruktionen blev givet på, varierede. De, der skulle skrive eksplicitte regler og angive, hvad der skulle rapporteres for hvert af de seks mulige udfald, bad maskinen om det ærlige tal omkring 75 % af tiden.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
De, der oplærte den ved at vælge et eksempeldatasæt, bad om ærlighed omkring halvdelen af tiden. De, der fastsatte et mål ved at flytte en skyder fra "maksimér nøjagtighed" mod "maksimér profit" og overlod metoden til systemet, bad om ærlighed 12 % af tiden i den første undersøgelse og 16 % i en opfølgning, hvor delegering var valgfri.
Mellem 84 og 88 % af personerne i den sidste betingelse bad maskinen om at snyde for dem, uden at nogen af dem behøvede at sige det direkte.
Pengene ændrede sig ikke. Terningekastene ændrede sig ikke, eftersom alle deltagere så den samme faste sekvens på ti kast. Det, der ændrede sig, var, hvor meget fortolkningsrum der lå mellem instruktionen og handlingen.
Forskerne havde forventet, at det at skrive regler ville holde niveauet stabilt, ud fra teorien om, at det at formulere et snyd har samme moralske vægt som at begå det. Det holdt ikke stik. Ærligheden faldt også dér med omkring tyve procentpoint. Enhver form for delegering forringede den, og grænsefladen afgjorde hvor meget.
Dette var et onlineeksperiment gennemført på Prolific med en maksimal udbetaling på tres cent. Terningekastopgaven har en lang valideringshistorik og forudsiger adfærd i den virkelige verden, herunder at unddrage sig billetbetaling og vildledende salgspraksis. Grænsefladesammenligningen blev kun testet i denne protokol, men en ledsagende undersøgelse med en skatteunddragelsesopgave, hvor fejlagtig rapportering reducerede en donation til Røde Kors, gentog undersøgelsens andet centrale resultat om, hvordan maskinagenter håndterer de instruktioner, de får.
Forskellen er vigtig for det, de fleste virksomheder bygger lige nu. At skrive en prompt minder mere om at skrive regler, og uærlige anmodninger fremsat gennem naturligt sprog udgjorde omkring 25 % ifølge deltagernes egen opgørelse og 40 %, når uafhængige bedømmere vurderede instruktionerne.
Stigningen kommer med grænseflader, hvor en person fastsætter et mål og lader systemet bestemme metoden. En leder, der beder en agent om at maksimere en kvalificeret salgspipeline eller reducere tiden til besættelse af en stilling, har specificeret et resultat og overladt enhver operationel beslutning om hvordan til systemet. Men hvor er det kriterium, nogen skulle kunne forsvare?
Den ansvarsstruktur, der ligger oven på denne ordning, ser som regel fin ud på papiret. Der står et navn på den. Det navn gør dog mindre, end man måske skulle tro.
At udpege en ansvarlig var den nemme del
Gennem 2025 og ind i dette år gjorde organisationer det indlysende. De oprettede udvalg for AI-tilsyn, skrev politikker for acceptabel brug og satte en navngiven leder ind på organisationsdiagrammet ved siden af ordene "AI-styring".
Deloittes Globale tendenser inden for menneskelig kapital i 2026-undersøgelse, gennemført sammen med Oxford Economics blandt mere end 9.000 ledere inden for erhvervsliv og HR i 89 lande, viste, at 64 % af respondenterne anser AI og beslutningstagning for meget vigtigt for deres nuværende succes. Kun 5 % mener, at de er førende på området.
Afstanden mellem bekymring og kompetence forklares ikke af mangel på politikker. De fleste organisationer har politikker. Det, de mangler, er dokumentation for, at den myndighed, de har skrevet ned, faktisk bliver brugt.
Spørg en CHRO, hvem der ejer den AI-påvirkede ansættelsesbeslutning, og du får et svar. Spørg, hvor mange gange en rekrutteringsmedarbejder formelt har tilsidesat screeningsværktøjet i løbet af de seneste seks måneder, og hvad der derefter skete med den pågældende medarbejder, og rummet bliver stille.
Det andet spørgsmål er værd at stille, fordi svaret kan afkræftes. Ejerskab er en påstand. En tilsidesættelse er en hændelse.
Dokumentationen stopper ved resultatet
Kaan Esendemir, en enterprise-arkitekt, der har opbygget AI-understøttede arbejdsgange i store virksomheder, ser oftest mønstret i systemer, der kommer med anbefalinger i stedet for at træffe beslutninger. Virtuelle assistenter, arbejdsgangsacceleratorer, værktøjer, der viser en mulighed og overlader beslutningen til en person.
Hvor grænsen går mellem de to, er en forhandling. Forretnings- og produktejere beslutter, hvor AI stopper, og en person begynder, siger han, med ingeniører involveret, fordi de forstår, hvad systemet realistisk kan gøre, og hvor det fejler. Den del fungerer som regel.
Det, der sker bagefter, er der, hvor dokumentationen bliver tynd.
Når nogen tilsidesætter systemet, bliver det endelige resultat som regel registreret, men selve uenigheden bliver ikke altid registreret som sit eget datapunkt.
Forskellen lyder måske lille, men den afgør, hvad en organisation kan lære. Et resultat fortæller dig, hvad der blev besluttet. En uenighed fortæller dig, at en person så på en anbefaling, vurderede den som forkert og handlede imod den. Virksomheder gemmer den mindst nyttige af de to.
En tilsidesættelse er ikke bare en undtagelse. Det er feedback, der kan bidrage til at forbedre systemet og gøre fremtidige anbefalinger bedre.
En log over tilsidesættelser er en billig diagnostisk test, som enhver driftsdirektør kan gennemføre dette kvartal. Vælg tre arbejdsgange, hvor AI former en beslutning med store konsekvenser. Tæl de dokumenterede tilfælde i løbet af de seneste seks måneder, hvor et menneske gik imod anbefalingen. Læs derefter, hvad der skete i hvert enkelt tilfælde.
Hvis antallet er nul, er én af to ting højst sandsynligt sand. Systemet har fungeret så godt, at intet menneske har fundet grund til at være uenig med det i et halvt år, hvilket ikke er en påstand, nogen leverandør fremsætter om sit eget produkt. Eller også eksisterer retten til at være uenig kun på papiret og ingen andre steder.
Tallet behøver ikke være nul for at fortælle dig noget. Spanien driver et system kaldet Viogén, som vurderer risikoen for gentagen vold i sager om vold i hjemmet, og en ekstern revision viste, at politibetjente fulgte dets anbefaling 95% af tiden.
Den Europæiske Tilsynsførende for Databeskyttelse henviser til revisionen i en teknisk redegørelse fra september sidste år og anerkender, at overensstemmelsen kan afspejle berettiget tillid til værktøjet. Den rejser også et spørgsmål om, hvor meget selvstændig dømmekraft der er tilbage i processen.
Femoghalvfems procent overensstemmelse mellem en person og en model er enten tegn på en meget god model eller på en person, der er holdt op med selv at nå frem til konklusioner. Udefra ser de to ting identiske ud i loggen. Indefra gør de ikke, når man ser på seks måneder.
Evnen til at tilsidesætte forringes, før den bliver målt
Amy Centers, organisationspsykolog og grundlægger af SmartWorks Labs, beskriver problemet på andet niveau. Myndigheden til at tilsidesætte bliver ikke bare ubrugt. Det, der ligger bag den, eroderer.
Det minder lidt om den måde, GPS har eroderet vores retningssans på. Med tiden tror jeg, at det at overlade dømmekraften til andre vil begynde at erodere en leders indre kompas og intuition, og det indebærer en reel fare, fordi organisationer så kan blive teknisk effektive, men moralsk tomme.
Hendes skarpere formulering er: "Jo mere vi overlader svære beslutninger til andre, desto større er risikoen for, at vi opbygger ledere, der ikke kan lede uden en prompt."
Mekanismen arbejder over en længere tidshorisont end de fleste gennemgange af styringen. En leder, der har fulgt modellen på otteoghalvfems anbefalinger i træk, har ikke været inaktiv. Vedkommende har været effektiv. Men vedkommende har også brugt måneder på ikke at øve den evne, som myndigheden til at tilsidesætte forudsætter, at personen stadig besidder.
Det viser sig ikke i en kvartalsgennemgang. Det viser sig første gang, modellen med stor sikkerhed tager fejl om noget, der har store konsekvenser, og den person, der formelt er ansvarlig for at opdage fejlen, læser resultatet, finder det plausibelt og går videre.
Centers placerer fejlpunktet hos lederen, og hun gør det med eftertryk.
Jeg ville begynde med lederansvar. Det meste dysfunktion spreder sig fra ledere. De mangler alt for ofte støtte og udvikling. De holdes ikke ansvarlige for, hvordan de leder. Hvis man ikke retter op på dette hængsellag, bryder alle andre reformer sammen – engagement, kompetencer, indførelse af AI, det hele.
Hun kalder lederrollen for hængslet mellem strategi og menneskelig erfaring. I en AI-understøttet arbejdsgang er det også det eneste niveau, der er placeret sådan, at det kan opdage en dårlig beslutning, før den skaleres, bemandet af mennesker, der blev forfremmet på grund af deres driftsmæssige pålidelighed, og som aldrig fik at vide, at validering af maskinens output nu er en del af jobbet.
Automatisering efterlader mennesker med de sværeste sager
Victoria Pelletier, som tidligere har stået i spidsen for personale- og transformationsfunktioner hos blandt andre Accenture og IBM, peger på, hvad automatisering gør ved det arbejde, der er tilbage.
Det er de menneskelige kompetencer som gennemslagskraft, innovation, problemløsning og ting som empati. Når man spørger, hvad der bliver tilbage, så tænk på et kontaktcenter. Det var det første sted, hvor der kom en eller anden form for automatisering. Når man taler med en menneskelig medarbejder, er det en undtagelse. Det har ikke fulgt politikkens eller kodens regler, som AI-agenten kunne følge. Så man har brug for nogen, der kan tænke det igennem.
Det understøtter hendes pointe, at kontaktcentre gennemførte dette eksperiment flere år før alle andre. Automatisér det regelbaserede arbejde, og hvert opkald, der når frem til en person, er pr. konstruktion et opkald, som reglerne ikke kunne håndtere. Det arbejde, der er tilbage, er sværere end det arbejde, der blev fjernet.
Pelletiers pointe er, at rolledefinitioner sjældent følger med. Mængden falder, sværhedsgraden stiger, og jobbeskrivelsen, oplæringen og præstationskriterierne beskriver stadig alle jobbet, som det eksisterede før. Hun bemærker, at det resterende arbejde "kræver et meget anderledes kompetenceniveau inden for nogle af de ting, vi allerede forventer i dag."
Hun peger også på en strukturel årsag til, at beslutningsrettigheder ikke bliver genopbygget. Funktioner inden for organisationsdesign og jobarkitektur blev i løbet af det seneste årti beskåret som overhead ud fra den rimelige antagelse, at roller ikke ville have brug for hyppig revurdering.
Det er de mennesker, der nu ville genopbygge beslutningsrettighederne. Pelletier kalder det, der sker i deres fravær, for "Frankensteiniseringen af job".
More Articles
- De tre skift fra AI-assistance til ejerskab
- Vicepræsident for mennesker & organisation hos AI-unicorn siger, at HR-ledere skal blive arkitekterne bag en menneske-maskine-arbejdsstyrke
- Lancér, lær, skalér. Hvad så?
- Kunstig intelligens i forretningsdrift: Gør ny teknologi til en strategisk forretningsfordel
- Hvad mellemstore virksomheder lærte om AI-transformation i 2025
To kritikpunkter af mennesket i sløjfen
Der cirkulerer i øjeblikket to indvendinger mod at fastholde et menneske i sløjfen, og de peger i modsatte retninger.
Jurgen Appelos version er, at obligatoriske menneskelige kontrolpunkter gør mennesker til flaskehalse. Enhver interaktion begynder og slutter med en person, systemerne taler aldrig med hinanden, og driften foregår i samme tempo som den langsomste. Han kalder det fælden med mennesker i sløjfen.
Det er det, Esendemir mener, når han fortæller mig, at det ikke at registrere tilsidesættelser "for det meste er en designbeslutning."
Den Europæiske Tilsynsførende for Databeskyttelses version er næsten det modsatte. I det tidligere nævnte tekniske notat om menneskeligt tilsyn med automatiseret beslutningstagning advarer EDPS mod at antage, at et menneske i sløjfen overhovedet udgør tilsyn, og argumenterer for, at organisationer udtrykkeligt skal designe myndighed, grænseflader og eskaleringsveje, så en person rent faktisk kan gribe ind.
Begge har ret, og de beskriver forskellige fejl. Appelos menneske er i vejen. EDPS' menneske er til stede og magtesløst. En organisation kan løse det første ved at fjerne kontrolpunkter og samtidig gøre det andet værre.
Notatet gennemgår, hvordan magtesløshed ser ud i praksis. Fra 2014 til 2019 anvendte Polens offentlige arbejdsformidling en algoritme, der sorterede jobsøgende i tre kategorier, og kategorien afgjorde, hvilken støtte hver person modtog. Klientrådgiverne var formelt udpeget til at varetage det menneskelige tilsyn med myndighed til at tilsidesætte klassifikationen.
De havde myndigheden, men kunne ikke bruge den. Sagsmængderne var for store, og oplæringen var utilstrækkelig. Ingen havde fortalt dem, hvornår en tilsidesættelse var berettiget, eller hvordan den skulle begrundes. Systemet viste sine resultater i en form, der gjorde det svært at vurdere, om en given klassifikation passede på personen, der sad på den anden side af skrivebordet.
Og så kommer den del, der ikke har noget med systemdesign at gøre. Nogle lokale ledere frarådede tilsidesættelser direkte, og nogle forbød dem, fordi en tilsidesættelse tiltrak sig opmærksomhed højere oppe i systemet.
Rådgiverne var ikke utilstrækkeligt oplært på en måde, som et uddannelsesbudget ville have løst. De aflæste korrekt et incitament. At tilsidesætte modellen skabte en registrering, som en leder skulle stå til regnskab for, mens det ikke skabte noget som helst at følge modellen. Med de to muligheder og en fuld sagsmængde er det rationelle valg at godkende det, skærmen siger.
EDPS formulerer betingelsen klart. Operatører kan kun udøve reel myndighed over et system, hvis de ikke frygter konsekvenser fra deres egen organisation for at bruge det.
Det er en udtalelse om ledelse, ikke om grænsefladedesign, og det er grunden til, at tilsidesættelsesbeføjelser ofte har karakter af pynt. Den formelle tildeling er den billige del. Det, der afgør, om nogen bruger den, er, hvad der sker med den person, der gør det.
Deloittes formulering om, hvad der erstatter den gamle model, er den mest præcise, der findes. Ældre værktøjer til beslutningsrettigheder som RACI forudsætter statisk myndighed. Med AI skal rettigheder være dynamiske, med tilsidesættelsesprivilegier, eskaleringsveje og konsensusregler indbygget i systemet, så mennesker og agenter koordinerer, hvem der beslutter hvad, hvornår og på hvilket grundlag.
Polen havde det meste af dette på papiret. Det, landet ikke havde, var en leder, der var villig til at godkende, at nogen brugte det.
Skab betingelserne, ikke diagrammet
Fire tiltag i den rækkefølge, de skal gennemføres.
Klassificér beslutninger efter, hvor lette de er at omgøre, før du tildeler nogen ansvaret for dem. Amazons skelnen mellem envejs- og tovejsdøre er den klassiske reference. Uigenkaldelige beslutninger får grundig kontrol og langsomme processer. De beslutninger, der kan omgøres, bevæger sig videre. Anvendelsen i AI-æraen består i at tilpasse agenters autonomi efter, hvor svært en beslutning er at omgøre, snarere end efter hvor rutinepræget den ser ud.
Angiv delegeringsformen, ikke kun den delegerede. Resultatet fra Max Planck illustrerer dette. Regelbaseret, eksempelbaseret og målorienteret delegering førte til målbart forskellige anmodninger fra ellers sammenlignelige personer. Enhver arbejdsgang, hvor nogen giver et system et resultat og lader det fastlægge kriterierne, hører til i kategorien med den højeste grad af tvetydighed, fordi det er det, den er.
Dokumentér uenigheden, ikke kun resultatet. Esendemirs mangel er den, der skal udbedres. Når en person går imod en anbefaling, skal du registrere, at vedkommende gjorde det, hvad personen så, og hvad der skete derefter. Resultatet alene fortæller dig intet om, hvorvidt nogen stadig foretager en vurdering.
Genovervej grænsen efter en fast plan. Hvor AI træffer beslutninger, og hvor en person træffer beslutninger, er ikke et spørgsmål, du besvarer én gang. Sæt en dato på det.
Max Planck-forskerne afsluttede med en anbefaling, der var rettet mod den person, der delegerer, snarere end mod den maskine, der modtager delegeringen. Delegeringsgrænseflader, der gør det let at hævde uvidenhed om, hvordan maskinen vil fortolke ens instruktioner, bør undgås.
Det er et designprincip, og det kan skaleres fra en drejeknap på en skærm til en hel driftsmodel. Hvert abstraktionslag mellem en person og en konsekvens gør konsekvensen lettere at leve med.
Om seks måneder vil masser af organisationer have dokumentation. Politikker, kommissorier for udvalg, navngivne ansvarlige, gennemførte kurser.
Enkelte vil have en log med poster i.
