Wie mag het oneens zijn met het model?
Delegatierisico's: Op doelen gebaseerde AI-delegatie vermindert eerlijkheid sterk, waardoor systemen de methoden kunnen bepalen achter ogenschijnlijk aanvaardbare bedrijfsdoelstellingen.
Eigenaarschapstekort: Beleidsregels voor AI-governance benoemen verantwoordelijke leiders, maar registers van teruggedraaide beslissingen onthullen of beslissingsbevoegdheid in de praktijk daadwerkelijk bestaat.
Bewijs van teruggedraaide beslissingen: Het vastleggen van menselijke meningsverschillen met AI-aanbevelingen brengt ongebruikte bevoegdheid, zwakke systemen en organisatorische weerstand tegen kritische bevraging aan het licht.
Afnemend beoordelingsvermogen: Het herhaaldelijk accepteren van machineaanbevelingen kan de besluitvaardigheid van managers aantasten voordat organisaties de daaruit voortvloeiende zwakte herkennen.
Praktisch ontwerp: Effectief menselijk toezicht vereist een omkeerbare classificatie van beslissingen, expliciete delegatiemodi, registers van meningsverschillen en sociale bescherming voor het terugdraaien van beslissingen.
Onderzoekers onder leiding van het Max Planck Instituut voor Menselijke Ontwikkeling voerden een versie uit van een experiment dat gedragswetenschappers al tientallen jaren gebruiken. Deelnemers keken naar een dobbelsteenworp op het scherm en rapporteerden de uitkomst. Hogere getallen leverden meer op, één cent per oog, gedurende tien rondes.
Toen ze voor zichzelf rapporteerden, vertelde 95% de waarheid.
Vervolgens lieten de onderzoekers andere deelnemers het rapporteren aan een machine overlaten, waarbij alleen de manier waarop de instructie werd gegeven varieerde. Degenen die expliciete regels moesten opstellen en voor elk van de zes mogelijke uitkomsten moesten specificeren wat ze moesten rapporteren, vroegen de machine ongeveer 75% van de tijd om het eerlijke getal.
Create a Free Account to Keep Reading—and Keep Leading Smarter
Unlock this piece and join a community of forward-thinking leaders discovering tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Degenen die de machine trainden door een voorbeeldgegevensset te selecteren, vroegen ongeveer de helft van de tijd om eerlijkheid. Degenen die een doel instelden door een knop te verschuiven van "nauwkeurigheid maximaliseren" naar "winst maximaliseren" en de methode aan het systeem overlieten, vroegen in het eerste onderzoek 12% van de tijd om eerlijkheid en 16% in een vervolgonderzoek waarin delegeren optioneel was.
Tussen 84 en 88% van de mensen in die laatste conditie vroeg de machine om namens hen vals te spelen, zonder dat iemand dat hoefde te zeggen.
Het geld veranderde niet. De dobbelsteenworpen veranderden niet, omdat elke deelnemer dezelfde vaste reeks van tien zag. Wat veranderde, was hoeveel interpretatieruimte er lag tussen de instructie en de handeling.
De onderzoekers hadden verwacht dat het schrijven van regels stabiel zou blijven, vanuit de gedachte dat het expliciet formuleren van vals spel dezelfde morele betekenis heeft als het plegen ervan. Dat gebeurde niet. Ook daar daalde de eerlijkheid met ongeveer twintig punten. Elke vorm van delegeren tastte de eerlijkheid aan, en de interface bepaalde in welke mate.
Dit was een online-experiment dat werd uitgevoerd op Prolific, met een maximale uitbetaling van zestig cent. De dobbelsteentaak heeft een lange staat van dienst op het gebied van validatie en voorspelt gedrag in de echte wereld, waaronder zwartrijden en misleidende verkooppraktijken. De interfacevergelijking werd alleen binnen dit protocol getest, hoewel een begeleidend onderzoek met een belastingontwijkingstaak, waarbij een onjuiste rapportage een donatie aan het Rode Kruis verminderde, de andere centrale bevinding van het onderzoek bevestigde over de manier waarop machineagenten omgaan met de instructies die ze krijgen.
Het onderscheid is belangrijk voor wat de meeste bedrijven momenteel bouwen. Een prompt schrijven lijkt meer op regels opstellen, en oneerlijke verzoeken die in natuurlijke taal werden gedaan kwamen volgens de eigen opgave van deelnemers uit op ongeveer 25%, en op 40% wanneer onafhankelijke beoordelaars de instructies beoordeelden.
De sprong doet zich voor bij interfaces waarbij iemand een doel instelt en het systeem de methode laat bepalen. Een manager die een agent opdraagt de gekwalificeerde verkoopkansen te maximaliseren of de doorlooptijd tot invulling te verkorten, heeft een resultaat gespecificeerd en elk operationeel oordeel over het hoe aan het systeem overgelaten. Maar waar is het criterium dat iemand zou moeten kunnen verdedigen?
De verantwoordelijkheidsstructuur die bovenop die constructie rust, ziet er op papier meestal goed uit. Er staat een naam op. Die naam doet echter minder dan je misschien denkt.
Een eigenaar aanwijzen was het eenvoudige deel
In 2025 en tot in dit jaar deden organisaties het voor de hand liggende. Ze richtten commissies voor AI-toezicht op, schreven beleid voor aanvaardbaar gebruik en zetten een met naam genoemde bestuurder op het organigram naast de woorden "AI-governance".
Uit het onderzoek naar wereldwijde trends op het gebied van menselijk kapitaal 2026 van Deloitte, uitgevoerd met Oxford Economics onder meer dan 9.000 bedrijfs- en HR-leiders in 89 landen, bleek dat 64% van de respondenten AI en besluitvorming zeer belangrijk vindt voor hun huidige succes. Slechts 5% beschouwt zichzelf als toonaangevend op dit gebied.
De afstand tussen bezorgdheid en bekwaamheid wordt daar niet verklaard door een gebrek aan beleid. De meeste organisaties hebben beleid. Wat hun ontbreekt, is enig bewijs dat de bevoegdheid die ze hebben vastgelegd ook wordt gebruikt.
Vraag een CHRO wie eigenaar is van de door AI beïnvloede wervingsbeslissing en je krijgt een antwoord. Vraag hoe vaak een recruiter in de afgelopen zes maanden formeel de screeningtool heeft overschreven en wat er daarna met die recruiter gebeurde, en het wordt stil in de kamer.
Die tweede vraag is het stellen waard omdat het antwoord weerlegbaar is. Eigenaarschap is een bewering. Een overschrijving is een gebeurtenis.
De verslaglegging stopt bij het resultaat
Kaan Esendemir, een enterprisearchitect die op grote schaal AI-ondersteunde werkstromen heeft gebouwd, ziet het patroon het vaakst in systemen die aanbevelingen doen in plaats van beslissingen te nemen. Virtuele assistenten, werkstroomversnellers, hulpmiddelen die een optie naar voren brengen en de beslissing aan een persoon overlaten.
Waar de grens tussen die twee ligt, is een onderhandeling. Bedrijfs- en producteigenaren bepalen waar AI stopt en een persoon begint, zegt hij, met betrokkenheid van engineering omdat zij begrijpen wat het systeem realistisch gezien kan doen en waar het faalt. Dat deel werkt doorgaans.
Wat er daarna gebeurt, is waar de verslaglegging dunner wordt.
Wanneer iemand het systeem overschrijft, wordt de uiteindelijke uitkomst meestal vastgelegd, maar de onenigheid zelf wordt niet altijd als afzonderlijk datapunt bijgehouden.
Het onderscheid klinkt klein, maar bepaalt wat een organisatie kan leren. Een uitkomst vertelt je wat er is besloten. Onenigheid vertelt je dat iemand naar een aanbeveling heeft gekeken, die als onjuist heeft beoordeeld en ertegenin is gegaan. Bedrijven houden het minst nuttige van de twee bij.
Een overschrijving is niet zomaar een uitzondering. Het is feedback die kan helpen het systeem te verbeteren en toekomstige aanbevelingen beter te maken.
Een logboek van overschrijvingen is een goedkope diagnose die elke COO dit kwartaal kan uitvoeren. Kies drie werkstromen waarin AI een beslissing met verstrekkende gevolgen beïnvloedt. Tel de gedocumenteerde gevallen in de afgelopen zes maanden waarin een mens tegen de aanbeveling inging. Lees vervolgens wat er in elk geval daarna gebeurde.
Als het aantal nul is, is waarschijnlijk een van twee dingen waar. Het systeem heeft zo goed gepresteerd dat geen mens in een halfjaar reden zag om het ermee oneens te zijn, wat geen enkele leverancier over zijn eigen product beweert. Of de bevoegdheid om bezwaar te maken bestaat alleen op papier en nergens anders.
Het aantal hoeft niet nul te zijn om je iets te vertellen. Spanje gebruikt een systeem met de naam Viogén dat het risico op herhaald geweld in gevallen van huiselijk geweld inschat, en uit een externe audit bleek dat politieagenten 95% van de tijd de aanbeveling volgden.
De Europese Toezichthouder voor gegevensbescherming, die de audit in een technische toelichting van afgelopen september aanhaalt, erkent dat de overeenstemming kan wijzen op gerechtvaardigd vertrouwen in het hulpmiddel. Tegelijkertijd werpt hij de vraag op hoeveel onafhankelijk oordeel er nog in het proces overblijft.
Vijfennegentig procent overeenstemming tussen een persoon en een model betekent óf dat het model zeer goed is, óf dat iemand niet langer tot eigen conclusies komt. Van buitenaf het logboek bekeken lijken die twee identiek. Van binnenuit bekeken zijn ze dat gedurende zes maanden niet.
De capaciteit om te overschrijven neemt af voordat die wordt gemeten
Amy Centers, organisatiepsycholoog en oprichter van SmartWorks Labs, beschrijft het tweede-ordeprobleem. De bevoegdheid om te overschrijven blijft niet alleen ongebruikt. Wat eronder ligt, erodeert.
Het lijkt een beetje op de manier waarop GPS ons richtingsgevoel heeft aangetast. Naarmate de tijd verstrijkt, zal het uitbesteden van oordeelsvorming, denk ik, het interne kompas en de intuïtie van een leider gaan aantasten, en daar schuilt een reëel gevaar in, want organisaties kunnen dan technisch efficiënt maar moreel leeg worden.
Haar scherpere formulering: "Hoe meer moeilijke beslissingen we uitbesteden, hoe groter het risico dat we leiders vormen die niet zonder een aanwijzing leiding kunnen geven."
Het mechanisme werkt op een langere termijn dan de meeste evaluaties van governance. Een manager die bij achtennegentig opeenvolgende aanbevelingen op het model heeft vertrouwd, is niet passief geweest. Hij of zij is efficiënt geweest. Die persoon heeft ook maandenlang niet geoefend met datgene waarvan de bevoegdheid om te overschrijven veronderstelt dat hij of zij het nog steeds kan.
Dit komt niet naar voren in een kwartaalbeoordeling. Het wordt zichtbaar wanneer het model voor het eerst met grote stelligheid ongelijk heeft over iets met verstrekkende gevolgen, en de persoon die er formeel verantwoordelijk voor is om dit op te merken de uitvoer leest, die aannemelijk vindt en doorgaat.
Centers legt het faalmoment bij de manager, en ze benadrukt dat nadrukkelijk.
Ik zou beginnen met de verantwoordelijkheid van managers. De meeste disfunctie ontstaat bij managers. Ze krijgen te vaak onvoldoende steun en worden onvoldoende ontwikkeld. Ze worden niet verantwoordelijk gehouden voor de manier waarop ze leidinggeven. Als je die scharnierlaag niet repareert, stort elke andere hervorming in, zoals betrokkenheid, vaardigheden en AI-adoptie.
Ze noemt de rol van de manager het scharnier tussen strategie en menselijke ervaring. In een door AI ondersteunde werkstroom is het ook de enige laag die in staat is een verkeerde beslissing op te vangen voordat die zich uitbreidt, bemand door mensen die zijn gepromoveerd vanwege hun operationele betrouwbaarheid en nooit te horen hebben gekregen dat het controleren van machine-uitvoer nu onderdeel van hun werk is.
Automatisering laat mensen achter met de moeilijkste gevallen
Victoria Pelletier, die eerder leidinggaf aan personeels- en transformatiefuncties bij onder andere Accenture en IBM, wijst op wat automatisering doet met het werk dat overblijft.
Het gaat om die menselijke krachtvaardigheden, innovatie, probleemoplossing en zaken als empathie. Als je vraagt wat er achterblijft, denk dan aan een contactcentrum. Dat was de eerste plek waar een vorm van automatisering werd ingevoerd. Tegen de tijd dat je met een menselijke medewerker spreekt, is dat een uitzondering. De situatie heeft de regels van het beleid of de code die de AI-agent kon volgen, niet gevolgd. Je hebt dus iemand nodig die erover kan nadenken.
Dat sluit aan bij haar punt: contactcentra voerden dit experiment jaren eerder uit dan alle anderen. Automatiseer het volgen van regels, en elk gesprek dat bij een persoon terechtkomt, is per definitie een gesprek dat de regels niet konden afhandelen. Het werk dat overblijft, is moeilijker dan het werk dat is weggenomen.
Het punt van Pelletier is dat functieomschrijvingen zelden volgen. Het volume daalt, de moeilijkheidsgraad stijgt, maar de functieomschrijving, de training en de prestatiecriteria beschrijven de functie nog steeds zoals die vroeger bestond. Ze merkt op dat het resterende werk "een heel ander vaardigheidsniveau vereist voor sommige dingen die we vandaag al verwachten".
Ze benoemt ook een structurele reden waarom beslissingsbevoegdheden niet opnieuw worden ingericht. Functies voor organisatieontwerp en functiearchitectuur zijn in het afgelopen decennium ingekrompen als overhead, vanuit de redelijke aanname dat functies niet regelmatig opnieuw hoefden te worden geëvalueerd.
Dat zijn juist de mensen die de beslissingsbevoegdheden nu opnieuw zouden inrichten. Pelletier noemt wat er bij hun afwezigheid gebeurt het "in elkaar knutselen van functies".
Twee kritieken op de mens in de lus
Er doen momenteel twee bezwaren de ronde tegen het behouden van een mens in de lus, en ze wijzen in tegengestelde richtingen.
De versie van Jurgen Appelo luidt dat verplichte menselijke controlepunten mensen tot knelpunten maken. Elke interactie begint en eindigt met een persoon, systemen communiceren nooit met elkaar en de operatie verloopt in het tempo van degene die het langzaamst is. Hij noemt dit de valkuil van mensen in de lus.
Dit is wat Esendemir bedoelt wanneer hij me vertelt dat het niet vastleggen van overrides "voornamelijk een ontwerpbeslissing" is.
De versie van de Europese Toezichthouder voor gegevensbescherming is bijna het tegenovergestelde. In de eerder genoemde technische briefing over menselijk toezicht op geautomatiseerde besluitvorming waarschuwt de EDPS ervoor om aan te nemen dat de aanwezigheid van een mens in de lus op zichzelf toezicht oplevert. Ook stelt de toezichthouder dat organisaties bevoegdheden, interfaces en escalatieroutes expliciet moeten ontwerpen, zodat een persoon daadwerkelijk kan ingrijpen.
Beide hebben gelijk en beschrijven verschillende tekortkomingen. De mens van Appelo zit in de weg. De mens van de EDPS is aanwezig maar machteloos. Een organisatie kan het eerste probleem oplossen door controlepunten te verwijderen en daarmee het tweede probleem in het proces erger maken.
De briefing laat zien hoe machteloosheid er in de praktijk uitziet. Tussen 2014 en 2019 gebruikte de Poolse openbare arbeidsbemiddelingsdienst een algoritme dat werkzoekenden in drie categorieën indeelde, waarbij de categorie bepaalde welke ondersteuning elke persoon ontving. Klantadviseurs waren formeel aangewezen als het menselijke toezicht, met de bevoegdheid om de classificatie te overrulen.
Ze hadden de bevoegdheid, maar konden die niet gebruiken. De caseloads waren te hoog en de training was ontoereikend. Niemand had hun verteld wanneer een override gerechtvaardigd was of hoe ze die moesten onderbouwen. Het systeem toonde de uitkomsten in een vorm die het moeilijk maakte om te beoordelen of een bepaalde classificatie paste bij de persoon die tegenover hen aan het bureau zat.
En dan het deel dat niets met systeemontwerp te maken heeft. Sommige lokale managers ontmoedigden overrides ronduit en sommige verboden ze, omdat een override de aandacht van hogerhand trok.
De adviseurs waren niet onvoldoende opgeleid in de zin dat een opleidingsbudget dit had kunnen verhelpen. Ze lazen een prikkel correct. Het overrulen van het model creëerde een dossier waarvoor een manager zich zou moeten verantwoorden, terwijl het volgen van het model helemaal niets opleverde. Gegeven die twee opties en een volledige caseload is de rationele keuze om te ondertekenen wat er op het scherm staat.
De EDPS formuleert de voorwaarde duidelijk. Operators kunnen alleen daadwerkelijk gezag over een systeem uitoefenen als ze niet bang hoeven te zijn voor gevolgen binnen hun eigen organisatie wanneer ze het gebruiken.
Dat is een uitspraak over management, niet over interfaceontwerp, en het is de reden waarom de bevoegdheid om te overrulen vaak slechts voor de vorm bestaat. De formele toekenning is het eenvoudige deel. Wat bepaalt of iemand die bevoegdheid gebruikt, is wat er gebeurt met degene die dat doet.
Deloittes formulering over wat het oude model vervangt, is de meest precieze die beschikbaar is. Traditionele hulpmiddelen voor beslissingsrechten, zoals RACI, gaan uit van statische bevoegdheid. Met AI moeten rechten dynamisch zijn, met bevoegdheden om te overrulen, escalatiepaden en consensusregels die in het systeem zijn ingebouwd, zodat mensen en agents samenwerken om te bepalen wie beslist, wanneer en op welke basis.
Polen had het meeste daarvan op papier. Wat ontbrak, was een manager die bereid was goedkeuring te geven voor het gebruik ervan.
Creëer de voorwaarden, niet het schema
Vier stappen, in de volgorde waarin ze moeten plaatsvinden.
Classificeer beslissingen op basis van omkeerbaarheid voordat je ze aan iemand toewijst. Amazons onderscheid tussen deuren die je maar één keer en deuren die je twee keer kunt openen, is de referentie. Onomkeerbare beslissingen krijgen controle en trage procedures. Omkeerbare beslissingen gaan door. De toepassing in het AI-tijdperk bestaat uit het afstemmen van de autonomie van een agent op de moeilijkheid om een beslissing ongedaan te maken, in plaats van op hoe routinematig die eruitziet.
Benoem de delegatiemodus, niet alleen de gedelegeerde. De bevinding van het Max Planck-instituut illustreert dit. Op regels gebaseerde, op voorbeelden gebaseerde en op doelen gebaseerde delegatie leidden tot meetbaar verschillende verzoeken van mensen die verder vergelijkbaar waren. Elke workflow waarin iemand een systeem een resultaat meegeeft en het systeem de criteria laat bepalen, hoort in de categorie met de hoogste ambiguïteit, omdat dat precies is wat er gebeurt.
Leg het meningsverschil vast, niet alleen de uitkomst. Esendemirs leemte is degene die moet worden gedicht. Wanneer iemand tegen een aanbeveling ingaat, leg dan vast dat dit is gebeurd, wat die persoon heeft gezien en wat er daarna gebeurde. De uitkomst alleen zegt niets over de vraag of iemand nog steeds een oordeel vormt.
Herzie de grens volgens een vast schema. Waar AI beslist en waar een persoon beslist, is geen vraag die je één keer beantwoordt. Plan er een datum voor.
De onderzoekers van het Max Planck-instituut sloten af met een aanbeveling die eerder gericht was aan degene die delegeert dan aan de machine die de delegatie ontvangt. Delegatie-interfaces die het gemakkelijk maken om te beweren dat je niet weet hoe de machine je instructies zal interpreteren, moeten worden vermeden.
Dat is een ontwerpprincipe, en het kan worden opgeschaald van een draaiknop op een scherm naar een volledig bedrijfsmodel. Elke abstractielaag tussen een persoon en een gevolg maakt het gemakkelijker om met dat gevolg te leven.
Over zes maanden zullen heel wat organisaties documentatie hebben. Beleid, handvesten van commissies, benoemde verantwoordelijken, afgeronde trainingen.
Een paar zullen een logboek met vermeldingen hebben.
