Votre IA ne se présentera pas à la déposition
Risque caché: Les outils d'embauche gérés par l'IA peuvent sembler équitables tout en échouant à distinguer les candidats qualifiés des postulants non pertinents ou non qualifiés.
Biais changeant: Les audits de biais réalisés par les fournisseurs ne peuvent pas prédire l’évolution des résultats, car les versions de modèle, les rôles, les noms et les données démographiques influencent les réponses.
Responsabilité humaine: Chaque décision de personnel assistée par l’IA nécessite une personne nommée, responsable de défendre le résultat face aux régulateurs ou aux plaignants.
Test de compétence: Les organisations devraient tester les systèmes d’embauche IA avec des CV appariés et bourrés de mots-clés avant de se fier à leurs recommandations.
Gouvernance en priorité: Traitez l’acquisition d’IA comme une décision de gouvernance, en adaptant l’explicabilité et la supervision à l’importance des usages.
Imaginez la dernière décision d'embauche assistée par l'IA prise par votre équipe. Un candidat signalé. Un « score d'adéquation » tout en bas de la liste. Votre recruteur est passé à autre chose.
Imaginez maintenant ce candidat déposant une plainte pour discrimination six mois plus tard et demandant, lors d'une déposition, pourquoi exactement il a été refusé. Quel nom figure sur le dossier ? Le vôtre ? Celui du recruteur ? Celui du prestataire ?
Si votre réponse honnête est « c'est l'algorithme qui l'a signalé », vous avez un problème de responsabilité, et il est structurel. Aucun prestataire ne saura le résoudre à votre place.
Continuez à lire—et continuez à diriger plus intelligemment
Créez un compte gratuit pour terminer cet article et rejoindre une communauté de leaders tournés vers l'avenir exploitant outils, guides pratiques et perspectives pour prospérer à l'ère de l'IA.
Have an account? Log In
J'ai passé la dernière décennie comme analyste en intelligence d'affaires chez Amazon et Microsoft. J'ai aussi passé la dernière année à auditer huit plateformes commerciales d’IA de tri de CV. Environ 4 000 essais, des CV identiques ne variant que par le nom du candidat, testant à la fois le biais démographique et la compétence de base.
Ce que j'ai découvert est plus dérangeant que l’habituel discours « l’IA est biaisée ». Plusieurs plateformes vantées comme les plus neutres sont neutres comme un thermomètre cassé : elles produisent des résultats stables, équitablement répartis entre les groupes démographiques, parce qu'elles sont incapables de distinguer réellement un candidat qualifié d'un non qualifié. Voilà l'apparence de l'équité plaquée sur un outil qui ne fonctionne pas.
J’appelle cela « l’illusion de neutralité », et c’est la dynamique qui devrait inquiéter au plus haut point les DRH, car c’est la seule que votre audit de biais ne peut pas détecter.
L’IA sert désormais à fabriquer des récits
Le contexte du marché du travail importe ici, surtout pour ce qu’il révèle des motivations profondes. Une analyse de la Fed de New York datant de septembre 2025 a révélé que seulement 1 % des entreprises de services signalaient l’IA comme cause de licenciement au cours des six derniers mois, tandis que 35 % affirmaient qu’elle avait mené à la reconversion de travailleurs.
Et pourtant, une enquête Resume.org menée auprès de 1 000 recruteurs, publiée en janvier, montre que 59 % reconnaissent insister sur l’IA lorsqu’ils expliquent les gels d’embauche ou les licenciements parce que « cela passe mieux auprès des parties prenantes » que de mentionner des contraintes financières.
L’IA se voit confier un travail de récit en plus d’un travail opérationnel. Gardez cela à l’esprit, car le même réflexe qui rend l’IA responsable d’un licenciement la désignera responsable d’une mauvaise décision de recrutement.
La logique « pilotée par les données » s’est muée en « trouvez-moi la donnée qui m’arrange »
La promesse du leadership fondé sur les données était claire. Réduire la place de l’intuition. Mettre en avant la preuve. Laisser une trace examinable. Quand la discipline est respectée, cela fonctionne.
Ce que j’ai observé au cours des cinq dernières années a reçu bien moins d’attention qu’il n’en méritait. Les outils n’ont jamais changé. La relation entre les dirigeants et les outils, oui. La demande réelle a cessé d’être « que disent les données ? » pour devenir « trouvez-moi la donnée qui justifie ceci ».
L’IA accélère ce virage car le résultat d’un modèle est plus difficile à contester qu’une décision prise à l’instinct par un responsable du recrutement. Donc, en cas de problème, la réponse devient « le système l’a remonté ». Toute la question se résume à cette phrase.
Les modèles les plus « équitables » ne savent pas distinguer les candidats
Sur huit plateformes, dont ChatGPT, Gemini, Copilot et Claude, trois tendances se dégagent.
Le biais subsiste, mais il est moins prévisible. Plusieurs modèles pénalisaient les CV simplement parce qu’un nom de candidat était associé, quel que soit le nom. D’autres favorisaient ou pénalisaient certains groupes démographiques selon les postes. Un modèle a même différencié un groupe racial en sens opposé selon le genre sur le même CV.
Le biais varie selon la fonction et la version du modèle. L’audit des biais effectué par votre prestataire ne prédit pas le comportement de l’outil lors de la prochaine ouverture de poste.
Les modèles les « plus équitables » sont souvent aussi les moins performants. Lorsque j’ai évalué la capacité des modèles à différencier un CV pertinent d’un CV inadapté, plusieurs n’y parvenaient pas. Un modèle a attribué un score de 92/100 à un CV du secteur des services gavé de mots-clés financiers pour un poste de directeur financier. Le même CV sans les mots-clés obtenait 15. Le modèle notait le vocabulaire – la qualification n’entrait même pas dans l’équation. Un tel outil a cessé toute évaluation réelle.
Le même prestataire donne des résultats différents selon la version utilisée. Un candidat évalué par la version « rapide » de ChatGPT pouvait obtenir un score supérieur ou inférieur de 15 points, comparé à la version « lente » le même jour. La plupart des responsables ignorent quelle version ils utilisent et que cela a une incidence.
Ce ne sont pas des exceptions. Ce sont les conditions d’utilisation des outils de recrutement IA à l’heure actuelle.
Blanchiment de responsabilité
Mieux décider n’est qu’une partie de la raison pour laquelle ces outils sont adoptés. Ils rendent aussi les décisions difficiles plus faciles à défendre : licenciements, évaluations, refus d'embauche, décisions de rémunération. Quand le rapport du modèle est versé au dossier, la personne qui valide peut invoquer une dénégation plausible qu'elle n’avait pas auparavant.
Une enquête de ResumeBuilder de 2025 enquête ResumeBuilder rend cela concret. Parmi les managers utilisant l'IA pour les décisions concernant le personnel, 64 % s’en servent pour déterminer les licenciements, et plus d’un sur cinq admet qu’il laisse souvent l’IA prendre la décision finale sans intervention humaine.
Les recherches comportementales sont encore plus explicites. Une étude parue dans Nature en 2025, menée par Köbis et ses collègues, a constaté que les agents IA se conformaient à des instructions totalement contraires à l’éthique dans 58 à 98 % des cas selon le modèle, contre 25 à 40 % pour des agents humains recevant les mêmes instructions.
Les machines sont bien plus enclines que les êtres humains à exécuter des ordres contraires à l’éthique, ce qui constitue précisément la propriété qui les rend utiles comme infrastructure d’imputabilité.
La littérature de recherche donne un nom à l’aspect humain de ce phénomène. Madeleine Clare Elish l’a appelé la « zone tampon morale », où les personnes au contact direct d’un système automatisé absorbent le blâme pour des échecs ayant pour origine des choix de conception ou de gouvernance diffus. Le personnel commence à parler de « ce que le système a décidé » plutôt que de « ce que nous avons décidé », même quand ils conservent un pouvoir discrétionnaire.
Le nom le plus approprié pour cette dynamique complète est le blanchiment de l’imputabilité. Le modèle prend une décision qui nécessitait autrefois un jugement humain justifiable, et la transforme en un résultat que personne n’a à défendre. Lorsque la décision s’avère erronée, l’échec est celui de tous et de personne, et votre organisation perd la capacité d’apprendre de ses propres erreurs.
Gouvernance, sinon rien ne sera lancé
Il est temps pour les dirigeants de considérer l’acquisition d’une IA comme une décision de gouvernance plutôt que décision relevant du service informatique.
Identifiez chaque décision assistée par l’IA. Comme l’a récemment confié un avocat spécialisé en IA à CIO, l’algorithme ne viendra pas au tribunal. Ce seront les humains qui l’ont développé, déployé ou utilisé. Avant qu’un outil d’IA touche au recrutement, à l’évaluation des performances, à la rémunération ou aux licenciements, exigez une réponse à une question : lorsque ce résultat se révélera erroné, qui sera responsable dans le dossier ? Ni le fournisseur. Ni le modèle. Une personne, d’un niveau suffisant pour défendre la décision devant un régulateur ou un avocat de la partie plaignante.
Adaptez le niveau d’explicabilité à l’importance des enjeux. Un modèle recommandant du contenu de formation peut rester une boîte noire. Un modèle influant sur un licenciement ne le peut pas. La plupart des organisations définissent leur standard d’explicabilité une fois, lors de l’acquisition. Les organisations rigoureuses le redéfinissent pour chaque cas d’usage, et refusent les fournisseurs incapables d’atteindre le niveau requis.
Effectuez vos propres audits de validation croisée. Les audits des biais côté fournisseur sont nécessaires mais insuffisants. Évaluez aussi la compétence. L’outil est-il réellement capable de distinguer les candidats qualifiés des non qualifiés pour les postes concernés ? Faites le test : quelques CV mal adaptés, quelques autres remplis de mots-clés. Comparez les scores. Si le modèle ne sait pas faire la différence, il ne pourra pas vous aider, peu importe son absence de biais apparent.
Les fournisseurs d’IA courtisent particulièrement la fonction RH, qui se trouve alors responsable lorsqu’un de ces outils produit un résultat indéfendable. La tentation sera de traiter l’acquisition comme une question de fournisseurs. Résistez-y.
Comme l’a exprimé un avocat du travail cité dans le Washington Post, lorsque les algorithmes ont commencé à établir les listes de licenciements : « N’essayez pas de rejeter la responsabilité sur le logiciel. »
Si vous répondez à une décision erronée prise avec l’assistance de l’IA par « c’est le système qui l’a fait », le système devient votre risque. Quelqu’un, quelque part dans votre organisation, doit assumer chaque décision prise par ces outils. Découvrez qui, avant qu’une déposition ne le fasse à votre place.
