Je AI zal niet opdagen bij het getuigenverhoor
Verborgen risico: AI-tools voor personeelswerving kunnen eerlijk lijken, terwijl ze er niet in slagen gekwalificeerde kandidaten te onderscheiden van irrelevante of ongeschikte sollicitanten.
Verschuivende vooringenomenheid: Controles op vooringenomenheid door leveranciers kunnen veranderende uitkomsten niet voorspellen, omdat modelversies, functies, namen en demografische kenmerken de resultaten beïnvloeden.
Menselijk eigenaarschap: Voor elke door AI ondersteunde personeelsbeslissing moet een met naam genoemde persoon verantwoordelijk zijn voor de verdediging van de uitkomst tegenover toezichthouders of eisers.
Competentietoetsing: Organisaties moeten AI-systemen voor personeelswerving testen met vergelijkbare en met trefwoorden volgestopte cv's voordat ze op hun aanbevelingen vertrouwen.
Toezicht eerst: Behandel de aanschaf van AI als een besluit over bestuur en toezicht, en schaal uitlegbaarheid en controle op naar de gevolgen van elk gebruik.
Stel je de laatste door AI ondersteunde aanwervingsbeslissing van je team voor. Een gemarkeerde kandidaat. Een "geschiktheidsscore" ergens onderaan de wachtrij. Je recruiter ging verder.
Stel je nu voor dat die kandidaat zes maanden later een discriminatieklacht indient en tijdens een verhoor precies vraagt waarom die persoon is afgewezen. Wiens naam staat er in het dossier? Die van jou? Die van de recruiter? Die van de leverancier?
Als je eerlijke antwoord "het algoritme heeft het gemarkeerd" is, heb je een verantwoordingsprobleem, en dat is structureel. Geen enkele leverancier zal dit voor je oplossen.
Create a Free Account to Keep Reading—and Keep Leading Smarter
Unlock this piece and join a community of forward-thinking leaders discovering tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Het afgelopen decennium heb ik gewerkt als analist bedrijfsinformatie bij Amazon en Microsoft. Daarnaast heb ik het afgelopen jaar acht commerciële AI-platforms voor cv-selectie geauditeerd. Ongeveer 4.000 tests, met identieke cv's die alleen verschilden in de naam van de kandidaat, getest op zowel demografische vooringenomenheid als basale bekwaamheid.
Wat ik ontdekte is ongemakkelijker dan het standaardverhaal "AI is bevooroordeeld". Verschillende platforms die worden geprezen als de meest neutrale, zijn neutraal zoals een kapotte thermometer neutraal is. Ze produceren stabiele, demografisch evenwichtige resultaten omdat ze geen betekenisvol onderscheid kunnen maken tussen een gekwalificeerde en een ongekwalificeerde kandidaat. Dat is de schijn van eerlijkheid over een hulpmiddel dat niet werkt.
Ik noem dit de "Illusie van Neutraliteit", en het is de dynamiek waar senior HR-leiders zich het meeste zorgen over zouden moeten maken, omdat dit het enige is wat je vooringenomenheidsaudit niet kan opsporen.
AI doet nu narratief werk
De context van de arbeidsmarkt is hier van belang, vooral vanwege wat die onthult over motieven. Uit een analyse van de New York Fed uit september 2025 bleek dat slechts 1% van de dienstverlenende bedrijven aangaf dat AI de reden was voor ontslagen in de afgelopen zes maanden, terwijl 35% zei dat AI ertoe leidde dat ze werknemers omschoolden.
Uit een onderzoek van Resume.org onder 1.000 aanwervingsmanagers, gepubliceerd in januari, bleek echter dat 59% toegeeft AI te benadrukken wanneer ze aanwervingsstops of ontslagen uitleggen, omdat dit "beter overkomt bij belanghebbenden" dan het aanhalen van financiële beperkingen.
Er wordt van AI gevraagd om naast operationeel werk ook narratief werk te doen. Houd dat in gedachten, want dezelfde reflex die AI de schuld geeft van een ontslag, zal AI ook de schuld geven van een slechte aanwervingsbeslissing.
"Datagedreven" verzuurde tot "zoek de gegevens voor me"
De belofte van datagedreven leiderschap was helder. Minder afhankelijkheid van intuïtie. Bewijs aan het licht brengen. Een controleerbaar dossier creëren. Wanneer de discipline standhoudt, werkt het.
Wat ik de afgelopen vijf jaar heb zien gebeuren, kreeg veel minder aandacht dan het verdiende. De hulpmiddelen veranderden nooit. De relatie tussen leiders en de hulpmiddelen veranderde wel. De daadwerkelijke vraag hield op "wat zeggen de gegevens?" te zijn en werd "zoek de gegevens die dit ondersteunen."
AI versnelt die verschuiving, omdat het moeilijker is om tegen een modeluitkomst in te gaan dan tegen het onderbuikgevoel van een aanwervingsmanager. Dus wanneer er iets misgaat, wordt het antwoord "het systeem heeft dit aan het licht gebracht." Die zin is het hele probleem.
De eerlijkste modellen kunnen kandidaten niet van elkaar onderscheiden
Bij acht platforms, waaronder ChatGPT, Gemini, Copilot en Claude, kwamen drie patronen naar voren.
De vooringenomenheid is er nog steeds, en ze is minder voorspelbaar. Verschillende modellen bestraften cv's simpelweg omdat er een naam van een kandidaat aan was gekoppeld, ongeacht om welke naam het ging. Andere beloonden specifieke demografische groepen voor bepaalde functies en benadeelden die voor andere. Eén model splitste een enkele raciale groep op basis van geslacht in tegengestelde richtingen bij hetzelfde cv.
De vooringenomenheid verschuift met de functie en de modelversie. De vooringenomenheidsaudit van je leverancier voorspelt niet hoe de tool zich bij de volgende vacature zal gedragen.
De "eerlijkste" modellen zijn vaak het minst bekwaam. Toen ik testte of modellen een relevant cv van een irrelevant cv konden onderscheiden, slaagden verschillende daar niet in. Eén model beoordeelde een cv uit de dienstensector dat volgepropt was met financiële trefwoorden met 92 van de 100 punten voor een functie als financieel directeur. Hetzelfde cv zonder de trefwoorden kreeg 15 punten. Het model beoordeelde woordenschat. Kwalificaties maakten nooit deel uit van de evaluatie. Een hulpmiddel als dit is helemaal gestopt met iets te evalueren.
Dezelfde leverancier geeft verschillende antwoorden afhankelijk van welke versie draait. Een kandidaat die door de "snelle" versie van ChatGPT wordt geëvalueerd, kan op dezelfde dag 15 punten hoger of lager scoren dan diezelfde kandidaat op de "trage" versie. De meeste managers weten niet welke versie ze gebruiken en weten niet dat dit van belang is.
Dit zijn geen uitzonderlijke gevallen. Dit zijn momenteel de operationele omstandigheden van AI-wervingstools.
Verantwoordelijkheid witwassen
Betere beslissingen zijn slechts een deel van de reden waarom deze hulpmiddelen worden ingevoerd. Ze maken moeilijke beslissingen ook gemakkelijker te verdedigen. Ontslagen. Prestatiebeoordelingen. Afwijzingen van kandidaten. Beslissingen over vergoedingen. Wanneer de modeluitkomst in het dossier staat, heeft de persoon die de goedkeuring gaf een aannemelijke ontkenning die die persoon eerder niet had.
Een enquête van ResumeBuilder uit 2025 maakt dit concreet. Van de managers die AI gebruiken voor personeelsbeslissingen, gebruikt 64% het om te helpen bepalen wie wordt ontslagen, en meer dan één op de vijf geeft toe dat ze de AI vaak zonder menselijke inbreng de uiteindelijke beslissing laten nemen.
Het gedragswetenschappelijke onderzoek is nog veelzeggender. Een onderzoek uit 2025 in Nature van Köbis en collega's wees uit dat AI-agenten zich, afhankelijk van het model, in 58 tot 98% van de gevallen hielden aan volledig onethische instructies, tegenover 25 tot 40% bij menselijke agenten die dezelfde instructies kregen.
Machines zijn veel eerder dan mensen geneigd om ethisch dubieuze opdrachten uit te voeren, en precies die eigenschap maakt ze nuttig als infrastructuur voor verantwoordingsplicht.
De onderzoeksliteratuur heeft een naam voor de menselijke kant hiervan. Madeleine Clare Elish noemde het de "morele kreukelzone", waarin mensen aan het scherpe uiteinde van een geautomatiseerd systeem de schuld op zich nemen voor fouten die hun oorsprong vinden in verspreide ontwerp- en bestuursbeslissingen. Medewerkers beginnen te spreken over "wat het systeem heeft besloten" in plaats van "wat wij hebben besloten", zelfs wanneer ze nog steeds beslissingsruimte hebben.
De duidelijkste naam voor de volledige dynamiek is het witwassen van verantwoordingsplicht. Het model neemt een beslissing waarvoor vroeger verdedigbaar menselijk oordeel nodig was en zet die om in een uitkomst die niemand hoeft te verdedigen. Wanneer de beslissing verkeerd is, is de fout van iedereen en van niemand, en verliest je organisatie het vermogen om van haar eigen fouten te leren.
Bestuur, anders komt het er niet
De tijd is gekomen dat leiders de aanschaf van AI behandelen als een bestuursbeslissing in plaats van als een IT-beslissing.
Zet een naam bij elke met AI ondersteunde beslissing. Zoals een AI-advocaat onlangs tegen CIO zei: het algoritme zal niet in de rechtszaal verschijnen. De mensen die het hebben ontwikkeld, ingezet of gebruikt wel. Voordat een AI-hulpmiddel invloed krijgt op werving, prestatiebeoordelingen, beloning of ontslag, moet je een antwoord eisen op één vraag: wiens naam staat in het dossier wanneer blijkt dat deze uitkomst verkeerd is? Niet die van de leverancier. Niet die van het model. Die van een persoon die hoog genoeg in de organisatie staat om de beslissing tegenover een toezichthouder of de advocaat van een eiser te verdedigen.
Stem de uitlegbaarheid af op de belangen. Een model dat trainingsmateriaal aanbeveelt, mag een zwarte doos zijn. Een model dat bijdraagt aan een ontslagbeslissing mag dat niet. De meeste organisaties stellen hun norm voor uitlegbaarheid één keer vast, bij de aanschaf. De gedisciplineerde organisaties stellen die per gebruikssituatie opnieuw vast en zien af van leveranciers die niet aan de hogere norm kunnen voldoen.
Voer je eigen controles met dubbele validatie uit. Vooroordelencontroles van leveranciers zijn noodzakelijk, maar niet voldoende. Test ook de deskundigheid. Kan het hulpmiddel daadwerkelijk gekwalificeerde kandidaten onderscheiden van ongekwalificeerde kandidaten voor de functies waarvoor je werft? Een paar niet-passende cv's. Een paar cv's volgestopt met trefwoorden. Vergelijk de scores. Als het model het verschil niet kan zien, kan het je niet helpen, hoe onbevooroordeeld het ook lijkt.
HR is de afdeling waarop AI-leveranciers het meest hun pijlen richten, en de afdeling die met de gevolgen blijft zitten wanneer een van deze hulpmiddelen een onverdedigbare uitkomst produceert. De verleiding zal groot zijn om de aanschaf als een leverancierskwestie te behandelen. Weersta die verleiding.
Zoals een arbeidsrechtadvocaat tegen The Washington Post zei toen algoritmen voor het eerst ontslaglijsten vorm begonnen te geven: "Probeer de verantwoordelijkheid niet af te schuiven op de software."
Als je antwoord op een gebrekkige, met AI ondersteunde beslissing "het systeem heeft het gedaan" is, is je systeem je risico geworden. Ergens in je organisatie moet iemand eigenaar zijn van elke beslissing waarop deze hulpmiddelen invloed hebben. Zoek uit wie dat is voordat een verhoor onder ede dat doet.
