De governancevragen die alleen HR kan beantwoorden
De tool van Amazon: Amazon liet een bevooroordeelde wervingstool vallen die was getraind op tien jaar aan wervingsgegevens uit een door mannen gedomineerde omgeving.
Zorgen over vooringenomenheid: Bij de evaluatie van het AI-systeem lag de nadruk onvoldoende op eerlijke uitkomsten, wat leidde tot onopgemerkte vooringenomenheid en hiaten in de governance.
Governancerollen: HR speelt een cruciale rol in de governance van AI om eerlijke uitkomsten en transparante processen voor medewerkers te waarborgen.
AI met een hoog risico: De EU-verordening inzake AI classificeert AI voor werkgelegenheid als AI met een hoog risico, waarvoor strikte documentatie en toezicht vereist zijn.
De uitdaging voor HR: HR heeft geen zeggenschap over de governance van AI en heeft steun van de directie nodig om normen en verantwoordingsplicht vast te stellen.
In 2018 zette Amazon een hulpmiddel voor machinaal leren stop die het bedrijf jarenlang had ontwikkeld om cv's te beoordelen. Het systeem was getraind met een decennium aan wervingsgegevens die de historische voorkeur van het bedrijf voor mannelijke kandidaten in technische functies weerspiegelden.
Het model leerde van dat patroon en kopieerde het, waarbij het cv's met woorden als "women's" lager waardeerde en afgestudeerden van vrouwencolleges benadeelde. De ingenieurs van Amazon probeerden het te corrigeren. Ze konden niet garanderen dat de vooringenomenheid zich niet op andere manieren zou manifesteren, dus haalden ze het systeem uit de lucht.
Het verhaal wordt vaak aangehaald als een waarschuwing over AI en vooringenomenheid. Minder aandacht gaat uit naar de structurele vraag die het blootlegt. Wiens taak was het eigenlijk om dat in eerste instantie op te merken?
Create a Free Account to Keep Reading—and Keep Leading Smarter
Unlock this piece and join a community of forward-thinking leaders discovering tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
De technische teams die het systeem bouwden, richtten zich op de vraag of het werkte. Juridische zaken richtte zich waarschijnlijk op aansprakelijkheidsrisico's. Blijkbaar richtte niemand zich op de vraag of het systeem eerlijke uitkomsten produceerde voor de mensen die het beoordeelde, in ieder geval niet als primaire governancefunctie.
Dat probleem is in de meeste organisaties niet opgelost. Nu de inzet van AI in ondernemingen is uitgebreid en versneld, is het alleen maar moeilijker geworden om dit precies vast te stellen.
De twee vragen die nu worden beantwoord
De meeste AI-governancekaders voor ondernemingen zijn ontwikkeld om twee categorieën vragen te beantwoorden.
De eerste is juridisch: welke aansprakelijkheid ontstaat als dit systeem faalt, een discriminerende uitkomst oplevert of gereguleerde gegevens blootlegt?
De tweede is technisch: wat zijn de mogelijke manieren waarop het systeem kan falen, met welke gegevens is het systeem getraind en waar bevinden zich de beveiligingskwetsbaarheden? Beide categorieën zijn belangrijk. Geen van beide is op zichzelf voldoende, omdat geen van beide is ontworpen met een primaire verplichting tegenover de mensen die door de systemen worden beïnvloed.
Dat is geen kritiek op juridische zaken of IT. Die functies hebben governancekaders opgebouwd om de vragen te beantwoorden waarvoor ze waren aangenomen. Het probleem is dat de invoering van AI in ondernemingen snel genoeg ging om een weloverwogen gesprek over de verantwoordelijkheid voor de resterende vragen in te halen, waardoor de meeste organisaties terugvielen op de kaders die al bestonden.
Volgens PwC's onderzoek naar verantwoorde AI uit 2025 zegt 56% van de leidinggevenden dat hun eerstelijnsteams — IT, techniek, data en AI — nu leidinggeven aan inspanningen voor verantwoorde AI. HR komt in dat percentage op geen enkele betekenisvolle manier voor.
Volgens het governanceonderzoek van Pacific AI uit 2025 heeft driekwart van de organisaties beleid voor het gebruik van AI opgesteld, maar heeft slechts 36% een formeel governancekader ingevoerd, met andere woorden: vastgelegde rollen, controles en handhaving. De afstand tussen een beleidsdocument en functionele verantwoordelijkheid is precies de plek waar de vragen over mensen onbeantwoord blijven.
De EU AI-verordening, die vanaf 2024 gefaseerd handhavingsvereisten invoerde, classificeert AI-systemen die worden gebruikt voor werkgelegenheid en personeelsbeheer per categorie als systemen met een hoog risico. Die aanduiding omvat hulpmiddelen die worden gebruikt voor werving, prestatiebeoordeling, taaktoewijzing en monitoring. In wezen gaat het om de reeks systemen die de meeste ondernemingen nu op grote schaal inzetten.
Een classificatie als hoog risico betekent strengere vereisten op het gebied van documentatie, transparantie en menselijk toezicht. Er wordt niet gespecificeerd wie binnen een organisatie verantwoordelijk is voor het naleven van die vereisten. Die vraag wordt teruggelegd bij de onderneming.
In de meeste organisaties luidde het antwoord: "wie er al verantwoordelijk is voor governance". Dat betekent doorgaans juridische zaken, compliance of IT-beveiliging — de functies met bestaande kaders. HR wordt vaak als belanghebbende betrokken of tijdens de implementatie geraadpleegd. Zelden neemt HR de leiding.
De vragen die worden overgeslagen
De vragen die bepalen of AI mensen daadwerkelijk schaadt, sluiten niet netjes aan op juridisch risico of technisch falen. Ze vereisen een ander uitgangspunt.
Levert dit systeem vooringenomen uitkomsten op voor verschillende demografische groepen?
Om die vraag te beantwoorden, moet je weten hoe eerlijkheid eruitziet in een specifieke arbeidscontext, en niet alleen wat juridisch verdedigbaar is. Dat zijn verschillende normen.
Een systeem kan juridisch verdedigbaar zijn en toch uitkomsten produceren die systematisch slechter zijn voor de ene groep werknemers dan voor de andere. Om dat te signaleren is iemand nodig die begrijpt hoe eerlijke arbeidspraktijken eruitzien en die de positie heeft om aan te kaarten wanneer een systeem daarvan afwijkt.
Worden werknemers beoordeeld op gegevens die ze niet begrijpen of hun niet is verteld dat ze werden verzameld?
Volgens het werkplekonderzoek van Owl Labs uit 2025 weet 20,5% van de werknemers niet zeker of er überhaupt monitoring plaatsvindt en weet 12,8% niet wat er wordt bijgehouden.
Dit is geen randkwestie. 61% van de Amerikaanse bedrijven gebruikt nu AI-gestuurde analyses om de productiviteit of het gedrag van werknemers te meten. Of werknemers weten dat dit gebeurt, begrijpen hoe dit meeweegt in hun beoordelingen en mogelijkheden hebben om de resultaten van het systeem aan te vechten, zijn allemaal vragen over de arbeidsrelatie. Ze behoren toe aan de functie die verantwoordelijk is voor de arbeidsrelatie.
Wie bepaalt wanneer een AI-aanbeveling wordt overschreven en op welke gronden?
In organisaties waar AI-tools beslissingen over werving, promotie, prestatiebeoordelingen of ontslag beïnvloeden of hierover informatie aanleveren, behoort de vraag wanneer een aanbeveling mag worden overschreven tot de meest verstrekkende governancebeslissingen die een onderneming kan nemen.
Als het in de ene richting misgaat, blijven AI-aanbevelingen ongecontroleerd. Als het in de andere richting misgaat, worden de resultaten van het systeem behandeld als schijnadvies of als dure infrastructuur die niemand vertrouwt.
Om die drempel goed af te stellen, moet je zowel begrijpen hoe de tool werkt als hoe managers beslissingen nemen, waar vooringenomenheid het menselijke oordeel binnendringt en hoe verantwoordelijkheid eruitziet wanneer resultaten worden betwist.
In de meeste governancekaders van ondernemingen hebben deze vragen geen duidelijke plek. Ze vereisen domeinexpertise die bij HR en organisatieontwerp ligt, niet bij juridische of technische teams.
De verantwoordelijkheidskaart
Wat binnen AI-governance tot de verantwoordelijkheid van HR behoort, is geen kwestie van voorkeur of organisatiepolitiek. Het volgt uit de functie. HR is de bedrijfsfunctie met een primaire verplichting tegenover werknemers, van hun eerlijke behandeling tot hun ontwikkeling en hun rechten binnen de arbeidsrelatie.
Die verplichting verdwijnt niet wanneer AI deel gaat uitmaken van het proces, maar wordt wel ingewikkelder.
Verschillende beslissingen over verantwoordelijkheid behoren van nature bij HR en niet alleen omdat ze daaraan zijn toegewezen.
Het controleren op vooringenomenheid in AI voor arbeidsdoeleinden is het meest directe voorbeeld
Technische teams kunnen testen of een model consistent presteert bij verschillende invoergegevens. Alleen HR kan beoordelen of consistente prestaties in de praktijk leiden tot rechtvaardige resultaten en of de tool voor prestatiemanagement die iedereen volgens hetzelfde beoordelingskader beoordeelt, in de praktijk beoordelingsverdelingen oplevert die werknemers in bepaalde functies, regio's of demografische groepen benadelen.
Dit vereist toegang tot HR-gegevens, inzicht in arbeidsrecht en gelijkheidsnormen en de organisatorische positie om op basis van de bevindingen te handelen.
Transparantieverplichtingen tegenover werknemers
Werknemers hebben er belang bij te begrijpen wanneer AI wordt gebruikt om beslissingen over hen te ondersteunen, welke gegevens worden gebruikt en hoe conclusies worden getrokken.
In sommige rechtsgebieden hebben ze wettelijk recht op die informatie. Of een organisatie aan die verplichtingen voldoet via beleid, training of procesontwerp, en of ze die verplichtingen als een minimale ondergrens of als een echte norm beschouwt, hangt af van de HR-praktijken.
De bevoegdheid om te overschrijven
Het ontwerp van menselijke overschrijving is genuanceerder en ingrijpender dan doorgaans wordt erkend. De vraag wanneer een mens een AI-aanbeveling kan of moet overschrijven, vereist inzicht in waar AI-tools waarschijnlijk tekortschieten, waar menselijk oordeel betrouwbaarder is en hoe verantwoordelijkheid kan worden ingebouwd in beslissingen om iets te overschrijven, zodat die beslissingen niet simpelweg een nieuwe bron van vooringenomenheid worden.
Daarvoor is iemand nodig die zowel de tool als het organisatorische gedrag eromheen begrijpt. HR bevindt zich, in nauwe samenwerking met de teams die AI inzetten, in de beste positie om dit ontwerp te beheren.
Mogelijkheden voor werknemers om verhaal te halen
Wat er gebeurt wanneer iemand vindt dat een door AI beïnvloede beslissing onjuist was, behoort tot HR-governance. Niet alleen omdat HR klachtenprocedures beheert, maar ook omdat het ontwerpen van mogelijkheden voor verhaal vereist dat wordt nagedacht over hoe geschillen over AI-resultaten worden onderzocht, welk bewijsmateriaal beschikbaar is en welke oplossingen mogelijk zijn.
Juridische zaken bepaalt het minimum. HR bepaalt of de organisatie het daadwerkelijk serieus neemt.
Technische expertise
Er is een redelijk bezwaar tegen het uitgangspunt van door HR geleide AI-governance, en het is de moeite waard om dat rechtstreeks aan de orde te stellen. HR beschikt niet altijd over de technische expertise om AI-systemen te beoordelen.
Dat klopt. Maar bestuurlijke verantwoordelijkheid en technische beoordeling zijn verschillende zaken. Juridische zaken programmeert niet en financiën voert de technische processen die het controleert niet zelf uit.
De functie die verantwoordelijk is voor een bestuursgebied hoeft het technische werk niet per se zelf te doen, ze heeft de positie en expertise nodig om de normen vast te stellen, de resultaten te beoordelen en anderen ter verantwoording te roepen.
Wat HR nodig heeft om de AI-governance te leiden, is geen informaticateam. Het gaat om duidelijkheid over de vragen die het verplicht moet beantwoorden, de organisatorische bevoegdheid om ze te stellen en toegang tot de technische en gegevensbronnen die nodig zijn om ze te beantwoorden.
In de meeste ondernemingen beschikt HR momenteel slechts in beperkte mate over alle drie. De organisatorische bevoegdheid is vaak het moeilijkst op te bouwen, omdat CHRO's zich een governancegebied moeten toe-eigenen dat andere functies standaard hebben bezet.
Die aanspraak moet op directieniveau worden gemaakt. Een AI-governancecommissie die volledig binnen juridische zaken en IT valt, zal juridische en technische risicokaders opleveren. HR als deelnemer toevoegen aan het kader van iemand anders verandert niets aan de vraag wiens vragen het eerst worden beantwoord.
De CHRO's met wie ik spreek en die doeltreffende, mensgerichte AI-governance hebben opgebouwd, hebben dat doorgaans gedaan door HR's verantwoordingsplicht duidelijk vast te leggen voordat er implementatiebeslissingen worden genomen, niet door te proberen invloed achteraf in te bouwen in een proces dat al rond andere prioriteiten is ingericht.
De mislukking van Amazons wervingsinstrument ontstond doordat de organisatie die het had gebouwd geen functie had die duidelijk verantwoordelijk was voor de vraag: "zijn deze uitkomsten eerlijk voor de mensen die worden gescreend?" Juridische zaken vroeg naar aansprakelijkheid. Engineering vroeg naar prestaties. Geen van beide vragen legde vast wat er daadwerkelijk misging.
AI in ondernemingen neemt nu op grote schaal beslissingen over of beïnvloedt beslissingen over wie wordt aangenomen, wie promotie krijgt, hoe prestaties worden beoordeeld en hoe werk wordt gemonitord — op een schaal die datgene wat een individuele manager zou kunnen produceren in het niet doet. Nu de volledige handhaving van de EU AI-verordening voor werkgelegenheidssystemen in augustus van kracht wordt, neemt die onduidelijkheid op meer dan één manier de vorm aan van een aansprakelijkheidsrisico.
HR is aangesteld om mensen binnen organisaties te beschermen. AI-governance is nu een van de belangrijkste contexten waarin die verplichting moet worden nagekomen. De functie maakt zich die positie óf eigen, óf laat die over aan kaders die voor andere vragen zijn ontwikkeld.
