De verantwoordelijkheid ligt nergens: in het verantwoordingsvacuüm van AI
De realiteit van afwijzingen: AI-systemen wijzen sollicitanten af zonder menselijke beoordeling, wat juridische vragen over verantwoordelijkheid oproept.
Bestuurlijk gat: Aan AI-governance ontbreekt duidelijke verantwoordelijkheid, omdat beleid geen eigenaarschap toewijst voor de gevolgen van besluitvorming.
Verantwoordelijkheid voor AI: Rechtbanken vragen zich af wie AI-beslissingen moet controleren en houden werkgevers aansprakelijk voor discriminerende uitkomsten op basis van AI.
Beleidsmatige misalignment: Bestaand beleid past zich niet aan organisatorische veranderingen aan, wat leidt tot governanceproblemen met AI-tools.
Juridische implicaties: De AI-wet van Colorado schept een precedent voor verantwoordelijkheid voor AI en beïnvloedt arbeidsbeslissingen en juridische normen in het hele land.
Om 1:50 uur 's nachts ontving Derek Mobley een afwijzing. Hij had minder dan een uur eerder gesolliciteerd. Geen personeelsmanager had zijn cv bekeken en geen recruiter had zijn ervaring beoordeeld.
Het systeem verwerkte hem, velde een oordeel en ging verder voordat iemand bij het bedrijf aan zijn werkdag was begonnen. Mobley, die zwart is en ouder dan veertig, zou via het platform van Workday op meer dan honderd vacatures solliciteren en telkens worden afgewezen.
De rechtszaak die hij in 2023 aanspande, is nu een gecertificeerde landelijke collectieve actie, die mogelijk honderden miljoenen sollicitanten omvat. Workday stelt dat het niet de werkgever is, wat technisch gezien klopt. De werkgevers zeggen dat zij de beslissingen niet namen, wat technisch gezien eveneens klopt. Een federale rechtbank heeft bepaald dat juist het samengaan van die twee feiten het probleem vormt.
Create a Free Account to Keep Reading—and Keep Leading Smarter
Unlock this piece and join a community of forward-thinking leaders discovering tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Wanneer een platform oordeelt en niet alleen criteria toepast, maar ook deelneemt aan de beslissing, functioneert het als een vertegenwoordiger van de werkgever. Daarom neemt de werkgever de aansprakelijkheid over. Waar rechtbanken zich nu op richten, is niet de vraag of de AI een verkeerde beslissing nam. Het gaat erom wie erop had moeten toezien.
Die vraag belandt op de bureaus van CHRO's. Niet omdat zij erom hebben gevraagd, en zeker niet omdat zij de bevoegdheid, het budget of de juridische infrastructuur hebben om haar te beantwoorden. Maar omdat iemand dat moet doen en zij het dichtst in de buurt komen van wat de meeste organisaties hebben als verantwoordelijke voor het personeelsgerelateerde risico dat AI op grote schaal genereert.
Overal eigenaarschap, nergens verantwoordelijkheid
Sean McIntire, juridisch directeur bij PEBL, heeft gezien hoe organisaties AI-beleid met oprechte zorgvuldigheid opstellen, om het vervolgens ergens tussen de directiekamer en de mensen die daadwerkelijk beslissingen nemen te zien verwateren.
"Overal eigenaarschap, ergens verantwoordelijkheid," zei hij deze week tijdens een panel over AI-risico's op Transform in Las Vegas. De formulering klinkt als een oplossing. Dat is ze niet.
Hij trekt een vergelijking met de AVG. Toen die regelgeving werd ingevoerd, raakten bedrijven in rep en roer. Veel bedrijven hadden geen duidelijk beeld van waar hun persoonsgegevens zich bevonden, wie ze verwerkte of wat hun verplichtingen precies waren.
De chaos was reëel, maar werkte ook als een katalysator. Organisaties die eruit kwamen met sterke programma's voor gegevensbeheer, voldeden niet alleen aan de regels; ze hadden infrastructuur opgebouwd die duurzaam bleek.
McIntire stelt dat AI zich op hetzelfde moment vóór die katalysator bevindt en dat de meeste bedrijven precies handelen zoals vóór de invoering van de AVG: ze reageren op de zichtbare dreiging, terwijl het onderliggende structurele probleem onopgelost blijft.
Dat structurele probleem kan eenvoudig worden samengevat. AI-tools kwamen voornamelijk via de efficiëntiedeur de werkvloer binnen, met als resultaat snellere werving, geautomatiseerde signalen over prestaties, vergelijking van beloningen en voortdurende feedbacklussen.
De organisaties die ze inzetten, behandelden inkoop en governance als afzonderlijke problemen. Juridische zaken beoordeelde de contracten. IT keurde de beveiligingsstatus goed. Financiën ondertekende het budget. HR kreeg de implementatie overhandigd en moest het beheer ervan op zich nemen.
Wat niemand duidelijk vaststelde, was wie verantwoordelijk was voor het risico wanneer de tool een ingrijpende beslissing nam die iemand schade berokkende.
McIntire's formulering vat dit precies samen. AI-governance is in de meeste organisaties bewust diffuus. Het beleid bestaat. De werkgroep bestaat. De gebruiksrichtlijnen bestaan. Wat ontbreekt, is een aangewezen persoon met zowel de bevoegdheid als de middelen om verantwoordelijkheid te dragen wanneer er iets misgaat.
De commissie is er niet om 2 uur 's nachts
De gegevens maken dit concreet. Uit een peiling van Gartner onder meer dan 1.800 leidinggevenden blijkt dat 55% van de organisaties nu meldt een AI-bestuur of speciale toezichtcommissie te hebben. Dat klinkt als vooruitgang, totdat je kijkt naar het bijbehorende cijfer van McKinsey: slechts 28% van de organisaties zegt dat de CEO rechtstreeks verantwoordelijkheid neemt voor toezicht op AI-governance.
Bij raden van bestuur is het nog slechter gesteld: slechts 17% neemt AI-governance formeel op in de mandaten van hun commissies.
De commissies bestaan. De verantwoordelijkheid volgt niet.
Vittoria Reimers, die leidinggeeft aan de personeelsfunctie bij Juniper Square en een van de operationeel meest serieuze AI-governancemodellen heeft opgebouwd die je waarschijnlijk bij een middelgrote organisatie zult tegenkomen, hecht niet veel waarde aan commissies alleen.
Je eerste verdedigingslinie bestaat uit je mensen en je processen. De governancecommissie zal simpelweg niet aanwezig zijn voor de beslissing in een fractie van een seconde die iemand om 2 uur ‘s nachts neemt.
Waar ze op wijst, is een organisatorische realiteit waar governancekaders zelden rekening mee houden. De beslissingen die het grootste risico met zich meebrengen, worden niet in vergaderruimtes genomen. Ze worden genomen door ingenieurs die onder tijdsdruk modelfunctionaliteit bouwen, door managers die handelen op basis van door AI gegenereerde signalen over prestaties om een ontslag aan te bevelen, en door recruiters die kandidaten door selectiehulpmiddelen halen waarvan ze de onderliggende logica niet volledig begrijpen.
De governance-instrumenten werken op een abstractieniveau waarop het daadwerkelijke werk niet opereert.
Reimers ontwikkelde hiervoor bij Juniper Square een praktische aanpak. Haar team creëerde wat ze ACE noemden. Het gaat om ongeveer tien tot twaalf medewerkers die over de organisatie zijn verspreid en als informele AI-adviseurs functioneren, terwijl ze hun reguliere functies behouden.
De boodschap was direct: als je iets bouwt en niet weet of het veilig of schaalbaar is, kom dan naar ACE. De belangstelling verraste haar. Mensen kwamen, consequent, omdat ze eindelijk een proces hadden dat de echte problemen waarmee ze te maken hadden aanpakte, in plaats van een beleidsdocument dat boven hen stond.
Besteed veel tijd aan je gebruiksbeleid, je governancebestuur en je governancecommissie," zei ze. "Besteed vervolgens tien keer zoveel tijd aan investeren in je mensen — hun ondersteuning, hun training en je cultuur."
Het ACE-model lost de verantwoordingskwestie aan de top van de organisatie niet op. Maar het doet wel iets wat de formele governancestructuur niet kan: het legt het eigenaarschap daar waar de beslissingen daadwerkelijk worden genomen.
Wat HR heeft geërfd
Matt Poepsel denkt vanuit een andere invalshoek na over deze kloof. Als vicevoorzitter voor talentoptimalisatie bij The Predictive Index werkt hij nauw samen met HR-leiders die de afstand overbruggen tussen wat AI belooft en wat het oplevert wanneer het zonder organisatorische context wordt ingezet.
Hij vertelt over een periode in zijn eigen managementloopbaan waarin hij niet de context had die hij nodig had om goed leiding te geven — waarin hij beslissingen nam waar hij later spijt van kreeg, niet vanuit slechte bedoelingen, maar door onvolledige informatie.
Dat is volgens hem precies wat AI nu op grote schaal doet, in elke organisatie die een generiek hulpmiddel heeft ingezet en verwachtte dat het de specifieke kenmerken van hun personeelsbestand zou begrijpen.
Ze zeggen dat we de mens in de lus moeten houden. Ik zou zeggen dat we personeelszaken in de lus moeten houden. Ik zie dat HR met hetzelfde worstelt als ik toen ik me te sterk richtte op het technische deel van de vergelijking.
Die marginalisering is deels structureel en deels historisch. HR heeft jarenlang geprobeerd een plaats aan de bestuurstafel te veroveren. Toen AI-hulpmiddelen opkwamen, werden ze vaak gepositioneerd als een manier voor HR om rendement op investeringen aan te tonen via snellere wervingscycli, lagere kosten door personeelsverloop en geautomatiseerde naleving.
Door deze kadering werd HR een begunstigde van AI-inzet, niet de architect ervan. Bij het governancegesprek, als dat al plaatsvond, waren doorgaans juridische zaken, IT en financiën betrokken. HR kreeg de hulpmiddelen. De verantwoordelijkheid voor die hulpmiddelen kwam elders terecht, of nergens in het bijzonder.
De kritiek van Poepsel is duidelijk: generieke AI kent jouw organisatie niet. Het kent je cultuur, je gedragsdynamiek, je geschiedenis of de specifieke groepen niet waarover het beslissingen neemt.
Wat het produceert, is aannemelijk klinkende output die de context mist die elke ervaren HR-professional intuïtief meedraagt. Wanneer AI een afwijkende prestatie signaleert, een kandidaat beoordeelt of een aanpassing van de beloning aanbeveelt, werkt het op basis van patronen die niets weten van de persoon tegenover hen. De HR-leider die al drie jaar bij die persoon aan tafel zit, weet dat wel.
Als AI het kan doen, is het per definitie een handelswaar geworden, zei Poepsel. "Wat jij eraan toevoegt, zorgt voor onderscheid."
Dat is ongemakkelijk, maar belangrijk. De waarde van HR in een door AI ondersteunde organisatie ligt niet in de uitvoering; de hulpmiddelen kunnen dat sneller. De waarde ligt in het beoordelingsvermogen: weten wanneer de uitkomst onjuist is, wanneer context ertoe doet en wanneer een beslissing gevolgen heeft die het model niet kan waarnemen.
Dat beoordelingsvermogen wordt er juist uitgeperst in organisaties die AI inzetten zonder de processen en rollen eromheen opnieuw vorm te geven.
De juridische drijvende kracht
Op 30 juni 2026 treedt de AI-wet van Colorado in werking. Daarmee wordt het de eerste staatswet in het land die uitgebreide governanceverplichtingen oplegt aan zowel ontwikkelaars als gebruikers van AI-systemen die invloed hebben op ingrijpende werkgelegenheidsbeslissingen.
De vereisten zijn aanzienlijk. Werkgevers moeten gedocumenteerde risicobeheerprogramma's bijhouden, jaarlijks impactbeoordelingen uitvoeren, werknemers informeren wanneer AI invloed heeft gehad op een beslissing die hen trof en discriminerende uitkomsten melden aan de openbare aanklager van de staat.
De wet beveelt het NIST-raamwerk voor AI-risicobeheer aan als de operationele nalevingsnorm. De wet is van toepassing ongeacht de omvang van de werkgever.
Colorado kan hierin meer invloed hebben dan je op basis van zijn omvang zou verwachten. Andere staten kijken mee, en de regelgevende werkgroep die gouverneur Jared Polis samenstelde, bereikte nog deze maand unanieme overeenstemming over herzieningen. Dat betekent dat de definitieve vorm van de wet nog in beweging is, maar de ambitie ervan niet.
Mobley maakt duidelijk waarom dit verder reikt dan de grenzen van Colorado. De rechtbank had geen staatswet over AI nodig om vast te stellen dat Workday aansprakelijk kon worden gehouden als vertegenwoordiger van de werkgevers die zijn platform gebruiken.
De vertegenwoordigingstheorie, volgens welke deelname aan een ingrijpende beslissing gedeelde verantwoordelijkheid creëert, wordt momenteel toegepast op AI-hulpmiddelen, op basis van bestaande federale antidiscriminatiewetten. Een werkgever hoeft niet in Colorado actief te zijn om geconfronteerd te worden met het argument dat hij een aanwervingsbeslissing heeft gedelegeerd aan een systeem dat daadwerkelijk beoordelingsvermogen uitoefende, en dat dit beoordelingsvermogen om 1:50 's nachts, terwijl iedereen sliep, tot een discriminerende uitkomst leidde.
De juridische blootstelling leidt rechtstreeks terug naar het gebrek aan governance. Een werkgever die niet kan aantonen wie het AI-hulpmiddel vóór de implementatie heeft beoordeeld, wie het controleert op discriminerende patronen en wie verantwoordelijk is voor de uitkomsten ervan, heeft geen zinvolle verdediging wanneer een beslissing wordt aangevochten. De commissie had een vergadering. Niemand hield toezicht.
Opnieuw bepalen wie waarvoor verantwoordelijk is
Chelsea Gregory van het AI-zorgbedrijf Suki hield onlangs toezicht op een volledige herziening van het personeelshandboek. Ze gaf het publiek bij Transform een concreet beeld van hoe het tekort aan governance zichtbaar wordt voordat het een juridisch probleem wordt.
Een flexibel PTO-beleid dat goed werkte met een kleiner team begon klachten over gelijkheid op te leveren naarmate het bedrijf groeide. Een manager keurde voor nieuwere werknemers langer verlof goed, terwijl werknemers met een langere staat van dienst vonden dat het beleid inconsistent werd toegepast. Er was niets kwaadaardigs aan de hand. De documentatie had de schaal van de organisatie simpelweg niet bijgehouden.
Dezelfde dynamiek doet zich voor bij AI-hulpmiddelen. Beleid dat voor één implementatiecontext is ontworpen, kan niet automatisch worden overgenomen wanneer de organisatie groeit, het personeelsbestand verandert of het hulpmiddel wordt bijgewerkt.
Heb je de juiste documentatie en processen ingevoerd? En hoe controleer je of die accuraat zijn en hun doel dienen?
In de meeste organisaties is niemand formeel verantwoordelijk voor die controle.
Het dichten van die kloof vereist iets substantieels dan een beter beleidsdocument. McIntire pleit voor integratie; met andere woorden: AI-risico's zouden niet buiten het kader voor ondernemingsrisicobeheer moeten vallen als een aparte en exotische categorie. Ze zouden onderdeel moeten zijn van de bestaande risicoarchitectuur, met dezelfde duidelijkheid over verantwoordelijkheden als bij iedere andere operationele blootstelling.
De vraag wordt dan of de mensen die bestaande risicoprocessen uitvoeren de bevoegdheid, training en organisatorische toegang hebben om die op AI toe te passen.
Reimers en Poepsel komen vanuit verschillende richtingen tot dezelfde conclusie. Het ACE-model werkt omdat het de verantwoordelijkheid dicht bij het werk legt. Het HR-multiplierraamwerk werkt omdat het expliciet maakt wat HR als enige biedt — kennis van de organisatie, gedragscontext en het vermogen om de uitkomst van een model te toetsen aan de daadwerkelijke persoon die erdoor wordt geraakt. Geen van beide vervangt formele governance. Beide zorgen ervoor dat formele governance daadwerkelijk betekenis krijgt.
Wat van CHRO's momenteel wordt gevraagd, is verantwoordelijkheid voor AI-beslissingen zonder de bevoegdheid om daarover toezicht te houden, en dat is een structurele tekortkoming die verkeerd wordt geïnterpreteerd als een talentprobleem.
Organisaties die het als het laatste beschouwen, zullen waarschijnlijk stoelen blijven vullen in commissies die geen daadwerkelijke invloed hebben. Het echte werk bestaat uit het herontwerpen van de manier waarop bestuurlijke bevoegdheden binnen de C-suite worden verdeeld, zodat verantwoordelijkheid en macht hand in hand gaan.
Het onderzoek van Gartner uit 2025 maakt de huidige situatie duidelijk: minder dan één op de vier IT-leiders zegt er veel vertrouwen in te hebben dat hun organisatie governance kan beheren bij de implementatie van generatieve AI-tools. Meer ondernemingen hebben formele strategieën op papier dan ooit tevoren. Zeer weinig hebben deze met succes geoperationaliseerd.
De kloof tussen een beleid en een governancestructuur met echte verantwoordingsplicht is waar het risico schuilt. Op basis van het verloop van de rechtszaken is dat ook de plek waar de volgende reeks rechtszaken zal worden aangespannen.
