Les questions de gouvernance auxquelles seul le service RH peut répondre
L’outil d’Amazon: Amazon a abandonné un outil de recrutement biaisé, formé sur une décennie de données issues de recrutements majoritairement masculins.
Problèmes de biais: L’évaluation des systèmes d’IA manquait d’attention portée à l’équité des résultats, ce qui a conduit à des biais non contrôlés et à des lacunes de gouvernance.
Rôles dans la gouvernance: Les RH sont essentiels dans la gouvernance de l’IA pour garantir des résultats équitables et des processus transparents pour les employés.
IA à haut risque: La législation européenne classe l’IA appliquée à l’emploi comme à haut risque, nécessitant une documentation stricte et une supervision accrue.
Défi des RH: Les RH manquent d’autorité dans la gouvernance de l’IA ; ils doivent bénéficier du soutien du comité de direction pour définir standards et responsabilités.
En 2018, Amazon a abandonné un outil d'apprentissage automatique qu'elle développait depuis des années pour trier les CV. Le système avait été entraîné sur une décennie de données de recrutement, reflétant la préférence historique de l'entreprise pour les candidats masculins dans les postes techniques.
Le modèle s'est approprié ce schéma et l'a reproduit, dévaluant les CV contenant des termes comme « women's » et pénalisant les diplômés d'établissements réservés aux femmes. Les ingénieurs d’Amazon ont tenté de corriger le problème. Ils n’ont pas pu garantir que le biais ne réapparaît pas autrement, alors ils l’ont abandonné.
Cette histoire est souvent citée comme un avertissement à propos de l’intelligence artificielle et des biais. Ce que l'on évoque moins, c'est la question structurelle qu’elle soulève : à qui revenait-il de détecter cela en premier lieu ?
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Les équipes techniques qui construisaient le système se concentraient sur son bon fonctionnement. Le service juridique était probablement centré sur l’exposition à la responsabilité. Apparemment, personne ne se concentrait prioritairement sur la production de résultats équitables pour les personnes soumises au tri effectué par le système.
Ce problème n’a pas été résolu dans la plupart des organisations. Au contraire, à mesure que le déploiement de l’IA d’entreprise s’est accéléré, il est devenu encore plus difficile à cerner.
Les deux questions auxquelles on répond actuellement
La plupart des cadres de gouvernance de l’IA en entreprise ont été conçus pour répondre à deux catégories de questions.
La première est d’ordre juridique : quels risques existent si ce système échoue, produit un résultat discriminatoire ou expose des données réglementées ?
La seconde est technique : quels sont les modes de défaillance, quelles données servent à l’entraînement du système, où se situent les vulnérabilités en matière de sécurité ? Les deux catégories sont importantes. Aucune n'est suffisante à elle seule, car aucune n'a été conçue avec une obligation première envers les personnes concernées par ces systèmes.
Il ne s’agit pas d’une critique des services juridiques ou informatiques. Ces fonctions ont mis en place des cadres de gouvernance pour répondre aux questions pour lesquelles elles ont été recrutées. Le problème, c’est que l’adoption de l’IA s’est accélérée à un rythme tel qu’aucune réflexion approfondie n’a été possible au sujet de la répartition des autres questions, et la plupart des entreprises se sont rabattues sur les cadres déjà en place.
Selon l’enquête Responsible AI 2025 de PwC, 56 % des dirigeants déclarent que leurs équipes de première ligne – IT, ingénierie, data et IA – pilotent désormais les efforts en matière d’IA responsable. Les RH n’apparaissent nulle part de façon significative dans cette statistique.
D’après l'enquête Governance 2025 de Pacific AI, trois quarts des organisations ont déjà mis en place des politiques d’usage de l’IA, mais seules 36 % ont adopté un cadre formel de gouvernance, c'est-à-dire des rôles définis, des contrôles et des mécanismes d'application. C’est précisément dans l’écart entre un simple document de politique et une véritable responsabilisation que les questions humaines restent sans réponse.
Le règlement européen sur l’IA, dont l’entrée en vigueur progressive a débuté en 2024, classe comme à haut risque les systèmes utilisés en matière d’emploi et de gestion des effectifs. Cette classification concerne les outils utilisés pour le recrutement, l’évaluation des performances, l’attribution des tâches et la surveillance — soit, essentiellement, la suite d’outils que la plupart des grandes entreprises déploient à grande échelle.
Être classé à haut risque implique des exigences plus strictes en matière de documentation, de transparence et de supervision humaine. Mais la réglementation ne précise pas qui, au sein de l’organisation, est responsable du respect de ces exigences. La question est donc renvoyée à l’entreprise.
Dans la plupart des organisations, la réponse est : « celui qui détient déjà la gouvernance ». Cela signifie généralement juridique, conformité ou cybersécurité – les fonctions ayant déjà des cadres établis. Les RH sont souvent impliquées en tant que parties prenantes ou consultées lors de la mise en œuvre. Rarement en tant que chef de file.
Les questions qui sont mises de côté
Les questions qui déterminent si l’IA cause effectivement du tort ne se superposent pas clairement avec les enjeux juridiques ou techniques. Elles nécessitent un point de départ différent.
Ce système produit-il des résultats biaisés entre groupes démographiques ?
Pour répondre à cette question, il faut savoir à quoi ressemble l’équité dans un contexte professionnel spécifique, pas uniquement ce qui peut être défendu juridiquement. Ces normes sont distinctes.
Un système peut être légalement défendable tout en produisant systématiquement des résultats moins favorables pour un groupe d’employés qu’un autre. Détecter cela nécessite l’intervention de personnes comprenant les pratiques d’emploi équitables et ayant la légitimité d’alerter lorsqu’un système y déroge.
Les employés sont-ils évalués sur des données qu'ils ne comprennent pas ou dont ils n'ont pas été informés de la collecte ?
Selon l'enquête sur le lieu de travail 2025 d’Owl Labs, 20,5 % des employés ne savent pas si une surveillance a lieu, et 12,8 % ignorent quelles données sont suivies.
Ce n'est pas un sujet périphérique. 61 % des entreprises américaines utilisent désormais des analyses alimentées par l’IA pour mesurer la productivité ou le comportement des employés. Que les employés sachent ou non que cela se produit, qu'ils comprennent comment cela influe sur leurs évaluations et qu'ils disposent ou non d’une possibilité de contester les résultats produits par le système, tout cela concerne la relation d’emploi. Ces questions relèvent de la fonction qui assume la relation d’emploi.
Qui décide quand une recommandation de l’IA est ignorée, et sur quels critères ?
Dans les organisations où des outils d’IA influencent ou informent les décisions concernant le recrutement, la promotion, les évaluations de performance ou les licenciements, la question de l’annulation manuelle est l’une des décisions de gouvernance les plus cruciales à prendre.
Mal calibrer ce choix implique, dans un sens, que les recommandations de l’IA ne sont pas contrôlées. À l’inverse, cela conduit à traiter les résultats du système comme une mise en scène consultative ou une infrastructure chère à laquelle personne n’accorde de confiance.
Ajuster ce seuil nécessite de comprendre à la fois le fonctionnement de l’outil et la manière dont les managers prennent leurs décisions, où le biais s’immisce dans le jugement humain, et à quoi ressemble la reddition de comptes en cas de litige sur les résultats.
Aucune de ces questions n’a de place dans la plupart des cadres de gouvernance d’entreprise existants. Elles relèvent d’une expertise qui se trouve dans les RH et la conception organisationnelle, et non dans le juridique ou l’ingénierie.
La carte des responsabilités
Ce qui relève des RH dans la gouvernance de l’IA n’est pas une question de préférence ou de politique interne. C’est une question de fonction. Les RH sont le service de l’entreprise qui a l’obligation principale envers les employés, que ce soit pour leur traitement équitable, leur développement, ou leur garantie de droits au sein de la relation de travail.
Cette obligation ne disparaît pas lorsque l’IA intervient dans le processus, mais elle devient plus complexe.
Plusieurs décisions en matière de responsabilité incombent naturellement aux RH plutôt que par délégation.
L’audit des biais dans l’IA appliquée à l’emploi est le plus direct
Les équipes techniques peuvent tester la cohérence des performances d’un modèle selon les entrées. Seules les RH peuvent évaluer si cette régularité se traduit, dans le contexte, par des résultats équitables, et si l’outil de gestion de la performance qui note tout le monde sur une même grille produit, dans les faits, des distributions de notes défavorisant certains postes, zones géographiques ou groupes démographiques.
Cela requiert l’accès aux données RH, une connaissance du droit du travail et des standards d’égalité, et une légitimité organisationnelle pour agir sur les constats.
Obligations de transparence envers les employés
Les employés ont un intérêt à savoir quand l’IA intervient dans une décision qui les concerne, quelles données sont utilisées, et comment les conclusions sont tirées.
Dans certains pays, ils disposent même d’un droit légal à cette information. Le respect ou non de ces obligations, via la politique, la formation ou l’organisation des processus, et le fait de considérer ces obligations comme un plancher minimal ou un véritable standard, relèvent des pratiques RH.
Le pouvoir de passer outre
La conception de l’annulation manuelle est plus nuancée et plus capitale qu’on ne le croit généralement. Savoir quand un humain peut ou doit passer outre une recommandation de l’IA implique de comprendre là où les outils d’IA risquent de faillir, où le jugement humain est plus fiable, et comment intégrer une véritable responsabilité pour que l’annulation humaine ne soit pas un nouveau vecteur de biais.
Cela nécessite une personne capable de comprendre à la fois l’outil et les comportements organisationnels qui l’entourent. Les RH, en coordination étroite avec les équipes qui déploient l’IA, sont les mieux placées pour assumer ce rôle.
Recours des employés
Lorsqu’une personne estime qu’une décision influencée par l’IA était erronée, cela doit relever de la gouvernance RH. Non seulement parce que les RH gèrent les procédures de réclamation, mais principalement parce que concevoir un recours implique d’anticiper la manière dont les litiges concernant les décisions de l’IA sont examinés, quelles preuves sont disponibles et quels correctifs peuvent être apportés.
Le service juridique définit le minimum. Les RH définissent si l'organisation prend réellement les choses au sérieux.
Expertise technique
Il existe une objection raisonnable au principe d'une gouvernance de l’IA menée par les RH, et il vaut la peine d’y répondre directement. Les RH n'ont pas toujours l'expertise technique nécessaire pour évaluer les systèmes d’IA.
C’est juste. Mais l'autorité en matière de gouvernance et l'évaluation technique sont deux choses différentes. Les juristes ne programment pas et la finance ne dirige pas les processus d'ingénierie qu'elle audite.
La fonction qui possède un domaine de gouvernance n’a pas nécessairement besoin de réaliser le travail technique, elle doit disposer de la légitimité et de l’expertise pour fixer les standards, évaluer les résultats, et tenir les autres responsables.
Ce dont les RH ont besoin pour piloter la gouvernance de l’IA, ce n’est pas une équipe d’informaticiens. C’est une clarté sur les questions auxquelles elles sont tenues de répondre, l’autorité organisationnelle pour les poser, et l’accès aux ressources techniques et de données nécessaires pour y répondre.
Dans la plupart des entreprises aujourd’hui, les RH ne disposent que de versions limitées de ces trois leviers. L’autorité organisationnelle est souvent la plus difficile à construire, car elle exige des DRH qu’ils revendiquent un territoire de gouvernance qu’autres fonctions occupaient par défaut.
Cette revendication doit avoir lieu au niveau du comité de direction. Un comité de gouvernance de l’IA composé uniquement de juristes et des départements informatiques produira des cadres de gestion des risques légaux et techniques. Ajouter les RH comme participants à un cadre existant ne change pas l’ordre des priorités dans les questions traitées.
Les DRH avec qui j’échange et qui ont mis en place une gouvernance de l’IA centrée sur les personnes l’ont en général fait en établissant clairement la responsabilité des RH avant que les décisions de déploiement ne soient prises, et non pas en essayant d’intégrer rétroactivement leur influence dans un processus déjà structuré autour d’autres priorités.
L’échec de l’outil de recrutement d’Amazon est survenu parce que l’organisation qui l’a développé ne disposait pas d’une fonction portant clairement la question « ces résultats sont-ils équitables pour les personnes évaluées ? ». Les juristes se sont préoccupés de la responsabilité juridique. L’ingénierie s’est focalisée sur la performance. Aucune de ces questions n’a permis de cerner ce qui posait réellement problème.
L’IA en entreprise prend ou influence désormais des décisions concernant qui est embauché, qui est promu, comment la performance est évaluée, et comment le travail est surveillé, à une échelle qui dépasse de loin ce qu’un gestionnaire individuel pourrait produire. Avec l’entrée en vigueur complète de l’AI Act européen pour les systèmes d’emploi en août, cette ambiguïté devient une source de risques sous divers aspects.
Les RH ont été recrutées pour protéger les personnes à l’intérieur des organisations. La gouvernance de l’IA est aujourd’hui l’un des principaux contextes dans lesquels cette obligation doit s’exercer. La fonction doit désormais s’imposer sur ce terrain ou le laisser à des cadres conçus pour d’autres enjeux.
