Les initiatives d’IA en entreprise résolvent le mauvais problème de confiance
Définition de la confiance: La confiance varie dans les entreprises ; une définition implique la sécurité, tandis que les perspectives des employés sont souvent négligées.
La sécurité avant tout: Francis deSouza souligne que l’architecture de sécurité est fondamentale pour la confiance envers l’IA dans les organisations.
Besoins de transparence: L’honnêteté dans les interactions entre fournisseurs et clients est essentielle, mais cela ne garantit ni l’équité ni la voix des employés.
Le mot « confiance » est apparu des dizaines de fois lors de deux sessions sur l’IA d’entreprise à HumanX la semaine dernière. Ce qui est ressorti de ces sessions, c’est la preuve que la confiance n’a pas toujours la même signification dans l’organisation.
Pour Francis deSouza, COO de Google Cloud, la confiance commence par l’architecture de sécurité.
« Il n’existe pas de conversation sur l’IA sans une conversation sur la sécurité », a-t-il expliqué, en décrivant comment les entreprises doivent faire face à de nouveaux vecteurs d’attaque, à des menaces agentiques, et à la nécessité de reconstruire leurs stratégies de données depuis la base avant de déployer l’IA à grande échelle.
Continuez à lire—et continuez à diriger plus intelligemment
Créez un compte gratuit pour terminer cet article et rejoindre une communauté de leaders tournés vers l'avenir exploitant outils, guides pratiques et perspectives pour prospérer à l'ère de l'IA.
Have an account? Log In
Lorsqu’il a évoqué les employés téléchargeant des outils hors du contrôle de l’informatique, il a présenté cela comme un problème de gestion des risques. La solution proposée : une plateforme autorisée, gouvernée et auditable.
Dans une autre session sur la conception de systèmes d’IA capables de gagner la confiance des utilisateurs, Wendy Gonzalez de Sama a offert un point d’entrée différent. Elle a raconté une conversation qu’elle avait eue avec une collègue juste avant de monter sur scène. L’inquiétude n’était pas la perte d’emploi. Ce n’est pas une question de sécurité. Aucun modèle de menace ne l’aborde.
Ce n’est même pas une question de, est-ce que cela va me prendre mon emploi ? C’était plutôt : si les gens voient mes invites, penseront-ils que je ne suis pas aussi intelligent(e) ?
L’écart est évident
Voilà le problème. Les déploiements d’IA d’entreprise deviennent de plus en plus sophistiqués selon la définition technique de la confiance : sécurité, fiabilité, auditabilité, validation des modèles. Ils sont beaucoup moins avancés sur le plan humain : est-ce que les employés pensent que les systèmes qui influencent leur travail sont équitables, honnêtes sur leurs limites et conçus avec une réelle considération pour les personnes impliquées.
Les organisations confondent les deux. Construisez une plateforme d’IA sécurisée, conforme, bien gouvernée, et le problème de confiance semble résolu. Ce qui a été résolu, c’est la définition du fournisseur qui apparaît dans les audits de sécurité et les cadres de conformité.
La définition côté employé reste en grande partie ignorée et, dans la plupart des discussions sur l’IA d’entreprise, largement inexplorée.
Christina Casioppo de Vanta a proposé ce qu’elle considère comme l’expression la plus claire de la confiance en entreprise : la redevabilité « faire ce qui est écrit sur la boîte ».
En d’autres termes, si vous avez dit que vous feriez X et que vous faites Y, il faut le dire. C’est une exigence raisonnable, mais c’est une norme d’entreprise à entreprise sur la façon dont un fournisseur gagne la confiance d’un client. Ce à quoi les employés ont droit est beaucoup moins abordé.
Le moment le plus franc de la session fut lorsque Casioppo a décrit l’approche de Vanta sur la transparence interne : dire explicitement aux nouveaux arrivants qu’en cas de conflit, le client passe toujours en premier.
La logique est que cette divulgation atténue le choc de se sentir dépriorisé plus tard. C’est honnête. Mais les pratiques de transparence en IA ne sont pas synonymes d’équité, et connaître sa position hiérarchique ne signifie pas avoir son mot à dire.
Gonzalez s’est rapprochée du modèle de confiance des employés lorsqu’elle a expliqué permettre à des groupes de collaborateurs de tester différents outils, de partager ce qui marchait ou non, et d’en célébrer les résultats.
Elle a présenté cela comme une façon de bâtir une confiance authentique plutôt que d’imposer une plateforme d’en haut. Cela diffère radicalement d’un simple déploiement imposé et d’un suivi quantitatif. Mais ça s’arrête malgré tout à l’adoption.
La confiance, dans le sens où les DRH et directeurs des opérations devraient s’en soucier, va au-delà : les employés croient-ils que l’IA est déployée en tenant compte de leurs intérêts, que les décisions qu’elle influence sont équitables, et qu’il existe une voie de recours en cas de problème ?
Quand le système devient le décideur
La couche agentique rend la question encore plus pressante. Gonzalez a établi une distinction qui va droit au cœur du sujet.
Il y a une différence entre faire confiance à une réponse et faire confiance à un système entier." — Wendy Gonzalez, Sama
Lorsque l’IA répond à une question, un employé peut évaluer la réponse. Lorsque l’IA oriente le travail, signale la performance ou influence qui reçoit quelle opportunité, il arrive souvent que l’employé ne voie pas du tout le système. Les normes de transparence qui ont du sens au niveau du modèle ne s’appliquent pas automatiquement aux personnes qui vivent à l’intérieur des résultats produits par ce modèle.
DeSouza a décrit l’objectif à long terme comme la création d’une main-d’œuvre « bilingue » — à l’aise à la fois dans sa fonction et avec l’IA. Il a cité les hackathons internes de Google, où l’équipe RH a gagné deux fois de suite, comme preuve que l’adoption large peut produire une vraie maîtrise de l’IA dans toutes les fonctions.
C’est un signal intéressant. Mais la maîtrise d’un outil n’est pas la même chose que la confiance dans le système auquel il appartient. Les employés peuvent être des utilisateurs avancés de l’IA sans avoir la moindre visibilité sur la façon dont l’IA est utilisée pour les évaluer, les classer ou les redéployer.
La main-d’œuvre performante de demain sera bilingue dans chaque fonction. Tout le monde connaîtra sa fonction, et l’IA.
Les deux interventions étaient substantielles. Les intervenants étaient réfléchis. Ce qui est remarquable, ce n’est pas ce que l’un ou l’autre a mal compris, mais ce que la discussion sur l’IA en entreprise, prise dans son ensemble, n’a pas encore abordé.
La sécurité et la conformité sont des enjeux réels, urgents et véritablement complexes. Mais ils décrivent l’infrastructure de la confiance, pas l’expérience vécue de la confiance. Pour les employés auxquels on demande de fonder leur vie professionnelle sur ces systèmes, cette distinction représente toute la question.
