Vem får säga emot modellen?
Risker med delegering: Målbaserad AI-delegering minskar ärligheten kraftigt och låter systemen bestämma metoderna bakom till synes godtagbara affärsmål.
Ägarskapsglapp: AI-styrningspolicyer namnger ansvariga ledare, men dokumentation av åsidosättanden visar om beslutanderätten faktiskt existerar i praktiken.
Bevis på åsidosättanden: Genom att logga när människor inte håller med om AI:s rekommendationer synliggörs outnyttjad befogenhet, svaga system och organisatoriskt motstånd mot att ifrågasätta.
Omdömesförsämring: Att upprepade gånger acceptera maskinens rekommendationer kan urholka chefers beslutsförmåga innan organisationer upptäcker den uppkomna svagheten.
Praktisk utformning: Effektiv mänsklig tillsyn kräver reversibel klassificering av beslut, uttryckliga delegeringslägen, loggar över oenighet och socialt skydd för åsidosättanden.
Forskare under ledning av Max Planck-institutet för mänsklig utveckling genomförde en version av ett experiment som beteendevetare har använt i årtionden. Deltagarna såg en tärning kastas på skärmen och rapporterade resultatet. Högre tal gav mer betalt, en cent per prick, under tio omgångar.
När de rapporterade för egen räkning talade 95 % sanning.
Sedan lät forskarna andra deltagare överlåta rapporteringen till en maskin och varierade endast hur instruktionen gavs. De som var tvungna att skriva uttryckliga regler och ange vad som skulle rapporteras för vart och ett av de sex möjliga resultaten bad maskinen om det ärliga talet ungefär 75 % av gångerna.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
De som tränade den genom att välja ett exempeldataunderlag bad om ärlighet ungefär hälften av gångerna. De som satte ett mål genom att flytta en ratt från "maximera noggrannheten" mot "maximera vinsten" och överlämnade metoden till systemet bad om ärlighet 12 % av gångerna i den första studien och 16 % i en uppföljning där det var valfritt att delegera.
Mellan 84 och 88 % av personerna i det sista villkoret bad maskinen att fuska åt dem, utan att någon av dem behövde säga det uttryckligen.
Pengarna förändrades inte. Tärningskasten förändrades inte, eftersom alla deltagare såg samma fasta följd av tio kast. Det som förändrades var hur mycket tolkningsutrymme som fanns mellan instruktionen och handlingen.
Forskarna hade förväntat sig att regelskrivandet skulle förbli stabilt, utifrån teorin att det har samma moraliska tyngd att formulera ett fusk som att utföra det. Så blev det inte. Ärligheten sjönk även där med ungefär tjugo procentenheter. Alla former av delegering försämrade den, och gränssnittet avgjorde i vilken grad.
Detta var ett nätbaserat experiment som genomfördes på Prolific, med en maximal ersättning på sextio cent. Tärningsuppgiften har en lång historik av validering och förutsäger beteende i verkligheten, bland annat att åka utan att betala och bedrägliga försäljningsmetoder. Gränssnittsjämförelsen testades endast i detta protokoll, även om en kompletterande studie med en skatteflyktsuppgift, där felaktig rapportering minskade en donation till Röda korset, återskapade studiens andra centrala resultat om hur maskinagenter hanterar instruktionerna de får.
Skillnaden spelar roll för det som de flesta företag bygger just nu. Att skriva en instruktion ligger närmare att skriva regler, och oärliga önskemål som framfördes på naturligt språk förekom hos omkring 25 % enligt deltagarnas egen redovisning och hos 40 % när oberoende bedömare bedömde instruktionerna.
Ökningen kommer med gränssnitt där en person sätter ett mål och låter systemet bestämma metoden. En chef som säger åt en agent att maximera antalet kvalificerade möjligheter i säljtratten eller minska tiden till tillsättning har angett ett resultat och lämnat alla operativa bedömningar av hur det ska ske till systemet. Men var finns kriteriet som någon skulle behöva försvara?
Ansvarsstrukturen som ligger ovanpå detta arrangemang ser vanligtvis bra ut på papperet. Någons namn står där. Det namnet gör dock mindre än man kan tro.
Att utse en ansvarig var den enkla delen
Under 2025 och in på det här året gjorde organisationer det uppenbara. De inrättade tillsynskommittéer för AI, skrev riktlinjer för godtagbar användning och satte upp en namngiven chef i organisationsschemat bredvid orden "AI-styrning".
Deloittes Globala trender inom humankapital 2026-undersökning, som genomfördes tillsammans med Oxford Economics bland fler än 9 000 företags- och HR-ledare i 89 länder, visade att 64 % av de svarande anser att AI och beslutsfattande är mycket viktigt för deras nuvarande framgång. Endast 5 % anser att de ligger i framkant på området.
Avståndet mellan oro och kompetens förklaras inte av brist på riktlinjer. De flesta organisationer har riktlinjer. Det de saknar är bevis på att den befogenhet de har skrivit ned faktiskt används.
Fråga en CHRO vem som äger det AI-påverkade anställningsbeslutet så får du ett svar. Fråga hur många gånger en rekryterare formellt har åsidosatt urvalsverktyget under de senaste sex månaderna, och vad som hände med den rekryteraren efteråt, så blir det tyst i rummet.
Den andra frågan är värd att ställa eftersom svaret kan motbevisas. Ägarskap är ett påstående. Ett åsidosättande är en händelse.
Dokumentationen upphör vid resultatet
Kaan Esendemir, en företagsarkitekt som har byggt AI-assisterade arbetsflöden i stora företag, ser mönstret oftast i system som rekommenderar snarare än fattar beslut. Virtuella assistenter, arbetsflödesacceleratorer och verktyg som visar ett alternativ och lämnar beslutet till en person.
Var gränsen går mellan dessa två är en förhandling. Verksamhets- och produktansvariga avgör var AI slutar och en person börjar, säger han, med ingenjörer involverade eftersom de förstår vad systemet realistiskt kan göra och var det brister. Den delen brukar fungera.
Vad som händer därefter är där dokumentationen tunnas ut.
När någon åsidosätter systemet dokumenteras det slutliga utfallet vanligtvis, men själva oenigheten registreras inte alltid som en egen datapunkt.
Skillnaden låter liten, men den avgör vad en organisation kan lära sig. Ett utfall berättar vad som beslutades. En oenighet berättar att en person granskade en rekommendation, bedömde att den var fel och agerade i strid med den. Företag bevarar den minst användbara av de två.
Ett åsidosättande är inte bara ett undantag. Det är återkoppling som kan bidra till att förbättra systemet och göra framtida rekommendationer bättre.
En logg över åsidosättanden är en billig diagnostisk kontroll som vilken operativ chef som helst kan genomföra det här kvartalet. Välj tre arbetsflöden där AI påverkar ett beslut med betydande konsekvenser. Räkna de dokumenterade fall under de senaste sex månaderna där en människa gick emot rekommendationen. Läs sedan vad som hände därefter i varje fall.
Om antalet är noll är sannolikt en av två saker sann. Systemet har fungerat så väl att ingen människa har sett någon anledning att vara oenig med det på ett halvår, vilket inte är ett påstående som någon leverantör gör om sin egen produkt. Eller så finns befogenheten att säga emot på papperet, men ingen annanstans.
Antalet behöver inte vara noll för att säga dig något. Spanien använder ett system som kallas Viogén, som bedömer risken för upprepat våld i fall av våld i nära relationer, och en extern granskning fann att poliser följde dess rekommendation 95% av gångerna.
Europeiska datatillsynsmannen, som hänvisade till granskningen i en teknisk rapport i september förra året, medger att överensstämmelsen kan spegla ett berättigat förtroende för verktyget. Den väcker också frågan om hur mycket självständigt omdöme som finns kvar i processen.
Nittiofem procents överensstämmelse mellan en person och en modell innebär antingen att modellen är mycket bra eller att personen har slutat dra egna slutsatser. Utifrån loggen ser de två sakerna identiska ut. Inifrån den gör de inte det, efter sex månader.
Förmågan att åsidosätta försvagas innan den mäts
Amy Centers, organisationspsykolog och grundare av SmartWorks Labs, beskriver problemet på andra nivån. Befogenheten att åsidosätta används inte bara för lite. Det som ligger bakom den urholkas.
Det liknar lite hur GPS har urholkat vårt lokalsinne. Med tiden tror jag att utläggandet av omdömet kommer att börja urholka en ledares inre kompass och intuition, och där finns en verklig fara, eftersom organisationer då kan bli tekniskt effektiva men moraliskt ihåliga.
Hennes skarpare formulering: "Ju mer vi lämnar över svåra beslut, desto större är risken att vi formar ledare som inte kan leda utan en instruktion."
Mekanismen verkar över en längre tidsperiod än de flesta granskningar av styrningen. En chef som har följt modellen i nittioåtta rekommendationer i rad har inte varit sysslolös. Hen har varit effektiv. Hen har också tillbringat månader utan att öva på det som befogenheten att åsidosätta förutsätter att hen fortfarande kan göra.
Detta syns inte i en kvartalsgranskning. Det syns första gången modellen med stort självförtroende har fel om något med betydande konsekvenser, och den person som formellt ansvarar för att upptäcka det läser resultatet, finner det plausibelt och går vidare.
Centers placerar felpunkten hos chefen, och hon gör det med eftertryck.
Jag skulle börja med chefens ansvar. De flesta dysfunktioner sprids från chefer. De får alltför ofta otillräckligt stöd och är underutvecklade. De hålls inte ansvariga för hur de leder. Om man inte åtgärdar detta lager som fungerar som en led, kollapsar alla andra reformer, som engagemang, kompetens och AI-användning.
Hon kallar chefsrollen för länken mellan strategi och mänsklig upplevelse. I ett AI-förstärkt arbetsflöde är det också det enda lagret som har möjlighet att upptäcka ett dåligt beslut innan det skalas upp, bemannat av personer som befordrades för sin operativa tillförlitlighet och aldrig fick höra att det nu ingår i jobbet att validera maskinens resultat.
Automatisering lämnar människorna med de svåraste fallen
Victoria Pelletier, som tidigare har lett personal- och transformationsfunktioner på bland annat Accenture och IBM, pekar på vad automatisering gör med det arbete som blir kvar.
Det handlar om mänskliga förmågor som samarbete, innovation, problemlösning och sådant som empati. När man frågar vad som blir kvar: tänk på ett kontaktcenter. Det var den första platsen där någon form av automatisering infördes. När du väl pratar med en mänsklig handläggare är det ett undantagsfall. Ärendet har inte följt reglerna i policyn eller koden som AI-agenten kunde följa. Därför behöver du någon som kan tänka igenom det.
Det ligger i linje med hennes poäng: kontaktcenter genomförde det här experimentet flera år före alla andra. Automatisera det regelstyrda arbetet, så är varje samtal som når en person per definition ett sådant som reglerna inte kunde hantera. Arbetet som blir kvar är svårare än det arbete som försvann.
Pelletiers poäng är att rollbeskrivningarna sällan följer med. Volymen minskar, svårighetsgraden ökar, men arbetsbeskrivningen, utbildningen och prestationskriterierna beskriver fortfarande arbetet som det såg ut tidigare. Hon noterar att det återstående arbetet ”kräver en helt annan kompetensnivå inom vissa av de saker vi redan förväntar oss i dag”.
Hon identifierar också ett strukturellt skäl till att beslutsbefogenheterna inte byggs om. Funktioner för organisationsdesign och arbetsarkitektur bantades under det senaste decenniet och betraktades som administrativa kostnader, utifrån det rimliga antagandet att roller inte skulle behöva omvärderas ofta.
Det är dessa personer som skulle bygga om beslutsbefogenheterna nu. Pelletier kallar det som händer när de saknas för ”Frankensteinskapande av jobb”.
Två invändningar mot människan i loopen
Just nu cirkulerar två invändningar mot att ha en människa i loopen, och de pekar i motsatta riktningar.
Jurgen Appelos version är att obligatoriska mänskliga kontrollpunkter gör människor till flaskhalsar. Varje interaktion börjar och slutar med en person, systemen kommunicerar aldrig med varandra och verksamheten körs i den långsammaste personens tempo. Han kallar det fällan med människor i loopen.
Det är detta Esendemir menar när han säger till mig att det ”för det mesta är ett designbeslut” att inte fånga upp åsidosättanden.
Europeiska datatillsynsmannens version ligger nära den motsatta. I det tidigare nämnda tekniska dokumentet om mänsklig tillsyn av automatiserat beslutsfattande varnar EDPS för att anta att en människa i loopen över huvud taget innebär tillsyn, och hävdar att organisationer uttryckligen måste utforma befogenheter, gränssnitt och eskaleringsvägar så att en person faktiskt kan ingripa.
Båda har rätt, och de beskriver olika misslyckanden. Appelos människa är i vägen. EDPS:s människa är närvarande men maktlös. En organisation kan lösa det första genom att ta bort kontrollpunkter och samtidigt förvärra det andra.
Dokumentet går igenom hur maktlöshet ser ut i praktiken. Mellan 2014 och 2019 använde Polens offentliga arbetsförmedling en algoritm som sorterade arbetssökande i tre kategorier, och kategorin avgjorde vilket stöd varje person fick. Klientrådgivare utsågs formellt till mänsklig tillsyn och fick befogenhet att åsidosätta klassificeringen.
De hade befogenheten men kunde inte använda den. Ärendemängderna var för stora och utbildningen otillräcklig. Ingen hade talat om för dem när ett åsidosättande var motiverat eller hur det skulle motiveras. Systemet visade sina resultat i ett format som gjorde det svårt att bedöma om en viss klassificering passade personen som satt på andra sidan skrivbordet.
Sedan kommer den del som inte har något med systemdesign att göra. Vissa lokala chefer avrådde uttryckligen från åsidosättanden, och vissa förbjöd dem, eftersom ett åsidosättande drog till sig uppmärksamhet uppifrån.
Rådgivarna var inte underutbildade på det sätt som en utbildningsbudget skulle ha kunnat åtgärda. De läste korrekt av ett incitament. Att åsidosätta modellen skapade ett ärende som en chef skulle behöva svara för, medan det inte skapade någonting alls att följa den. Med dessa två alternativ och en full ärendemängd är det rationella valet att godkänna det som står på skärmen.
EDPS uttrycker villkoret klart och tydligt. Operatörer kan bara utöva verklig auktoritet över ett system om de inte fruktar konsekvenser från sin egen organisation för att använda det.
Det är ett påstående om ledning, inte om gränssnittsdesign, och det är anledningen till att rätten att ingripa tenderar att vara dekorativ. Det formella beviljandet är den enkla delen. Det som avgör om någon använder den är vad som händer med den person som gör det.
Deloittes formulering om vad som ersätter den gamla modellen är den mest precisa som finns. Äldre verktyg för beslutsrätt, som RACI, förutsätter statisk auktoritet. Med AI måste rättigheterna vara dynamiska, med befogenheter att ingripa, eskaleringsvägar och konsensusregler inbyggda i systemet så att människor och agenter samordnar vem som fattar beslut, när och på vilka grunder.
Polen hade det mesta av detta på papper. Det som saknades var en chef som var villig att godkänna att någon använde det.
Skapa förutsättningarna, inte diagrammet
Fyra åtgärder, i den ordning de måste genomföras.
Klassificera beslut efter hur möjliga de är att återkalla innan du tilldelar någon ansvaret för dem. Amazons åtskillnad mellan enkelriktade och dubbelriktade dörrar är referensmodellen. Oåterkalleliga beslut får granskning och långsamma processer. Återkalleliga beslut går vidare. Tillämpningen i AI-eran är att anpassa agentens autonomi efter hur svårt ett beslut är att återkalla, snarare än efter hur rutinmässigt det verkar.
Ange delegeringsformen, inte bara den delegerade. Resultatet från Max Planck illustrerar detta. Regelbaserad, exempelbaserad och målstyrd delegering ledde till mätbart olika önskemål från personer som i övrigt var jämförbara. Alla arbetsflöden där någon överlämnar ett resultat till ett system och låter det fastställa kriterierna hör till kategorin med högst grad av tvetydighet, eftersom det är precis vad de innebär.
Dokumentera oenigheten, inte bara resultatet. Esendemirs lucka är den som måste täppas till. När en person går emot en rekommendation ska du registrera att personen gjorde det, vad den såg och vad som hände sedan. Resultatet i sig säger ingenting om huruvida någon fortfarande gör en egen bedömning.
Se över gränsen enligt en fast tidsplan. Var AI fattar beslut och var en person fattar beslut är inte en fråga som besvaras en gång. Sätt ett datum för översyn.
Max Planck-forskarna avslutade med en rekommendation riktad till personen som delegerar, snarare än till maskinen som tar emot delegeringen. Delegeringsgränssnitt som gör det lätt att hävda okunskap om hur maskinen kommer att tolka ens instruktioner bör undvikas.
Det är en designprincip, och den kan skalas upp från ett reglage på en skärm till en hel verksamhetsmodell. Varje abstraktionslager mellan en person och en konsekvens gör konsekvensen lättare att leva med.
Om sex månader kommer många organisationer att ha dokumentation. Policyer, kommittéstadgar, namngivna ansvariga, genomförda utbildningar.
Ett fåtal kommer att ha en logg med poster i sig.
