Les initiatives d’IA en entreprise résolvent le mauvais problème de confiance
Définition de la confiance: La confiance varie selon les entreprises ; une définition concerne la sécurité, tandis que la perspective des employés est souvent négligée.
Sécurité avant tout: Francis deSouza souligne que l’architecture de sécurité est fondamentale pour instaurer la confiance envers l’IA en entreprise.
Besoin de transparence: L’honnêteté sur les interactions entre fournisseurs et clients est essentielle, mais cela n’équivaut pas à l’équité ou à la voix des employés.
Le mot « confiance » est revenu à de nombreuses reprises au cours de deux sessions sur l’IA en entreprise lors de HumanX la semaine dernière. Ce qui est ressorti de ces sessions, c’est la preuve que la « confiance » ne signifie pas la même chose pour tout le monde au sein de l'organisation.
Pour Francis deSouza, directeur général des opérations chez Google Cloud, la confiance commence par l’architecture de sécurité.
« Il n’existe pas de conversation sur l’IA sans une discussion sur la sécurité », a-t-il déclaré, expliquant comment les entreprises doivent faire face à de nouveaux vecteurs d’attaque, à des menaces d’agents autonomes, et à la nécessité de repenser entièrement leur stratégie de données avant d’étendre le déploiement de l’IA.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Lorsqu’il évoquait les employés téléchargeant des outils en dehors du contrôle informatique, il a présenté cela comme un problème de gestion des risques. La solution : une plateforme autorisée, gouvernée et auditable.
Dans une autre session, consacrée à la conception de systèmes d’IA dignes de la confiance des utilisateurs, Wendy Gonzalez de Sama proposait un autre point d’entrée. Elle a évoqué une conversation qu’elle venait d’avoir avec une collègue juste avant de prendre la parole. L’inquiétude ne portait pas sur la suppression des emplois. Il ne s’agit pas d’une question de sécurité. Aucun modèle de menace n’y répond.
Ce n’est même pas une question de savoir si cela va me prendre mon poste. C’était plutôt : si les gens voient mes demandes, vont-ils penser que je ne suis pas aussi intelligent ?
L’écart est sous nos yeux
C’est là tout le problème. Les déploiements d’IA en entreprise deviennent de plus en plus sophistiqués sur la définition technique de la confiance — sécurité, fiabilité, auditabilité, validation des modèles. Ils sont nettement moins avancés sur le plan humain : à savoir, si les collaborateurs estiment que les systèmes qui façonnent leur travail sont équitables, honnêtes quant à leurs limites, et conçus en tenant compte des personnes qui les utilisent.
Les organisations confondent les deux. Construire une plateforme d’IA sûre, conforme, bien gouvernée semble résoudre le problème de confiance. Mais ce qui est résolu, c’est la définition du fournisseur, celle qui apparaît dans les audits de sécurité et les cadres réglementaires.
La définition du collaborateur reste en grande partie non traitée, et, dans la plupart des discussions sur l’IA en entreprise, est rarement posée.
Christina Casioppo de Vanta a proposé ce qu’elle considère comme la définition la plus claire de la confiance en entreprise : la responsabilité de « faire ce qui est écrit sur la boîte ».
En d’autres termes, si vous avez annoncé faire X mais que vous réalisez Y, dites-le. C’est une norme raisonnable, mais il s’agit d’une norme d’entreprise à entreprise, c’est-à-dire de la façon dont un fournisseur gagne la confiance d’un client. Ce à quoi les collaborateurs ont droit reçoit bien moins d’attention.
Le moment le plus franc de la session est venu quand Casioppo a décrit l’approche de Vanta en matière de transparence interne : annoncer d’emblée aux nouvelles recrues qu’en cas de conflit, le client passe en priorité.
La logique veut que cette transparence atténue le choc ressenti plus tard d’être mis en second plan. C’est honnête. Mais les pratiques de transparence autour de l’IA ne sont pas synonymes d’équité, et connaître sa place dans la hiérarchie n’est pas la même chose qu’avoir une influence réelle.
Gonzalez s’est rapprochée du modèle de confiance des collaborateurs lorsqu’elle a décrit le fait de laisser des groupes de salariés tester différents outils, partager ce qui fonctionnait (ou non) et valoriser les deux.
Elle présente cela comme un moyen de bâtir une confiance authentique, plutôt que d’imposer une plateforme d’en haut. Cela se distingue nettement du simple fait d’imposer l’adoption et d’en mesurer le taux. Mais cela s’arrête encore à l’adoption.
La confiance, au sens où les DRH et les directeurs des opérations devraient s’en soucier, va plus loin : les employés pensent-ils que l’IA est utilisée d’une façon qui tient compte de leurs intérêts ? Que les décisions influencées par l’IA sont justes ? Qu’il existe une voie de recours si ce n’est pas le cas ?
Lorsque le système devient le décideur
La couche agentique rend cela d’autant plus urgent. Gonzalez a établi une distinction qui va droit au cœur du sujet.
Il y a une différence entre faire confiance à un résultat et faire confiance à un système entier. — Wendy Gonzalez, Sama
Lorsqu’une IA répond à une question, un employé peut en évaluer la réponse. Mais lorsque l’IA dirige le travail, signale des performances ou influence l’attribution des opportunités, il n’est souvent plus possible pour l’employé de voir le système lui-même. Les standards de transparence adaptés au niveau du modèle ne s’appliquent pas automatiquement à celles et ceux qui vivent les conséquences des résultats délivrés par ce modèle.
DeSouza a décrit l’objectif à long terme comme la constitution d’une main-d’œuvre « bilingue » — à l’aise tant avec leur fonction qu’avec l’IA. Il cite les hackathons internes de Google, où l’équipe RH a remporté deux victoires consécutives, comme preuve que l’adoption à grande échelle peut vraiment donner lieu à une véritable maîtrise transversale.
C’est un signal utile. Mais être à l’aise avec un outil n’est pas identique au fait de faire confiance au système auquel cet outil appartient. Les salariés peuvent être des utilisateurs aguerris de l’IA et n’avoir pourtant aucune visibilité sur la façon dont l’IA est utilisée pour évaluer, classer ou réaffecter leurs tâches.
La main-d’œuvre performante de demain sera bilingue dans toutes les fonctions. Chacun connaîtra sa fonction et l’IA.
Les deux séances étaient substantielles. Les intervenants étaient pertinents. Ce qui est notable, ce n’est pas ce que l’un ou l’autre a pu mal évaluer, mais plutôt ce que la discussion sur l’IA en entreprise, prise dans son ensemble, n’a pas encore intégré.
La sécurité et la conformité sont des problèmes réels, urgents et complexes. Mais ils concernent davantage l’infrastructure de la confiance que l’expérience vécue de celle-ci. Pour les employés à qui l’on demande d’organiser leur vie professionnelle autour de ces systèmes, cette distinction constitue la véritable question.
