Il existe un nom pour ce qui arrive au jugement de vos employés
Dépendance excessive: S’appuyer trop fortement sur les outils d’IA peut entraîner d’importantes conséquences négatives sur les effectifs.
Atrophie des compétences: La dépendance à l’IA peut éroder l’esprit critique, réduisant la capacité des employés à analyser l’information de façon autonome.
Impact sur la main-d’œuvre: Les organisations doivent évaluer les effets du déploiement de l’IA sur leurs employés dans le cadre de leur processus décisionnel technologique.
Il se passe des choses pour les employés à mesure que les outils d’IA se répandent dans les organisations, et à un certain moment, la question devient : est-ce que votre équipe de direction dispose des mots justes pour décrire ce qui se passe ?
Pas d’inquiétude. Un rapport publié le mois dernier par le MIT Sloan Management Review et le Boston Consulting Group en fournit.
L’article, « Au-delà du modèle : pourquoi l’IA responsable doit prendre en compte l’impact sur la main-d’œuvre » est la cinquième étude annuelle sur l’IA responsable menée par ces deux institutions, basée sur des enquêtes mondiales auprès de dirigeants et des panels d’experts sélectionnés.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
Les années précédentes, la recherche portait sur la maturité de la gouvernance, le risque lié aux tiers et les structures de responsabilité. Cette année, les chercheurs se sont penchés sur quelque chose de plus immédiat : ce que le déploiement de l’IA en entreprise provoque pour les personnes qui l’utilisent.
Ils ont recensé cinq effets.
- Surdépendance
- Atrophie des compétences
- Perte de pouvoir
- Intensification du travail
- « Surchauffe cérébrale par l’IA ».
L’argument des auteurs Elizabeth Renieris, David Kiron, Steven Mills, et Anne Kleppe est clair : il ne s’agit pas de risques hypothétiques ni de cas marginaux. Ce sont des effets mesurables sur le personnel, qui doivent être pris en compte dans toute décision d’adopter ou non un outil d’IA particulier.
Ce vocabulaire d’évaluation des produits n’est pas anodin. Ils affirment que l’impact sur la main-d’œuvre doit faire partie de la même analyse que la performance technique, la conformité et le coût total, ce qui n’est pas le cas actuellement.
Ce que révèle la recherche
Le phénomène le plus précisément mesuré parmi les cinq est ce qu’ils appellent la « surchauffe cérébrale par l’IA », un terme introduit dans la littérature scientifique en mars lors d’une étude de BCG et de l’Université de Californie à Riverside, publiée dans la Harvard Business Review.
Les chercheurs la définissent comme une fatigue mentale résultant d’un usage excessif, d’interactions trop nombreuses avec, ou d’une supervision sur les outils d’IA qui dépasse la capacité cognitive d’un employé.
Les chiffres de cette étude montrent que 14 % des travailleurs utilisant l’IA ont déclaré en avoir fait l’expérience.
Les employés souffrant de surchauffe cérébrale commettaient 39 % d’erreurs majeures en plus que ceux qui n’en souffraient pas. La productivité commençait à baisser lorsque les employés géraient plus de trois outils d’IA simultanément. La source la plus exigeante cognitivement n’était pas la complexité des requêtes ou le volume des résultats, mais la supervision. Les employés en charge de la surveillance des systèmes d’IA déclaraient 12 % de fatigue mentale de plus que les autres, et 19 % de surcharge informationnelle en plus.
Les groupes les plus concernés étaient le marketing, le développement logiciel, les ressources humaines, la finance et l’informatique. Ce ne sont pas des fonctions périphériques.
Le paradoxe identifié par les chercheurs est significatif pour tout directeur des opérations ou DRH qui s’intéresse à la planification des effectifs. Les employés les plus exposés à la surchauffe cérébrale sont généralement les premiers adoptants, les plus enthousiastes à l’égard de l’IA.
Ils utilisent plus d’outils, supervisent davantage de résultats, et absorbent plus de charge cognitive au passage. La technologie, censée alléger leur charge, la rend en pratique plus lourde.
Eliza Jackson, Chief Operating Officer chez ButcherBox, a décrit le phénomène de l’intérieur.
On finit par se demander : ‘Qu’est-ce que j’ai vraiment fait ? Ai-je juste répondu à 800 messages ? Ai-je pris des décisions réfléchies ? Ai-je bien réfléchi à ce que je décidais ?’
Elle a ajouté que son organisation tente activement d’accorder plus de temps à la réflexion, tout en reconnaissant qu’ils ne savent pas encore très bien comment s’y prendre.
L’atrophie des compétences agit sur un temps plus long. Une étude de Microsoft Research et de l’Université Carnegie Mellon, présentée lors de la conférence CHI l’an passé et basée sur 936 exemples concrets issus de 319 travailleurs de la connaissance, a révélé qu’une plus grande confiance dans les outils d’IA était systématiquement associée à moins de pensée critique.
Les employés ne renonçaient pas à l’analyse. Ils faisaient confiance au résultat et passaient à autre chose. L’étude a aussi montré que l’utilisation de l’IA change le caractère de la pensée critique, qui passe de la production de l’analyse à la vérification. Cela peut sembler être de l’adaptation, mais c’est en réalité un appauvrissement. Quand l’IA se trompe, la vraie question est de savoir si les employés disposent encore d’un jugement indépendant pour le détecter.
La version clinique de cette dynamique a déjà été documentée en pratique. Vivienne Ming, neuroscientifique théoricienne et chercheuse en IA, cite une étude sur des gastroentérologues utilisant des systèmes de coloscopie assistés par IA. Lorsque ces systèmes étaient désactivés, les médecins obtenaient des résultats sensiblement pires qu’avant d’avoir utilisé l’IA.
Cela les rend meilleurs lorsqu’ils l’utilisent, mais ensuite ils sont nettement pires ensuite.
Le risque ne concerne pas seulement la performance actuelle, c'est la compétence qui s'effrite en arrière-plan pendant que l’outil fait le travail.
La dépendance excessive est le mécanisme sous-jacent des deux phénomènes. Lorsque les travailleurs se fient aux résultats de l’IA même lorsque l’outil est peu fiable ou fonctionne hors de son domaine de compétence, les erreurs individuelles s’accumulent. À l’échelle d’une main-d’œuvre qui suit les mêmes recommandations vers les mêmes décisions, elles se multiplient.
Au niveau individuel, c’est un problème de performance. À l’échelle d’une main-d’œuvre utilisant les mêmes outils pour obtenir les mêmes résultats, c’est un problème systémique.
La question de la gouvernance
Le rapport du MIT Sloan formule une recommandation qui a des implications structurelles sur la façon dont les DRH (CHROs) et directeurs des opérations (COOs) sont positionnés dans les décisions concernant l’IA. Les impacts sur les employés doivent être évalués comme partie intégrante de l’argumentaire commercial pour l’utilisation de l’IA, intégrés aux plans de déploiement et étudiés avant l’achat. Ce n’est pas la façon dont la plupart des décisions sont actuellement prises.
Les chercheurs présentent cela comme une obligation, pas une suggestion. Les organisations doivent communiquer ouvertement avec les travailleurs sur la manière dont l’IA va remodeler ou supprimer certaines de leurs tâches, sur le type d’accompagnement prévu en cas de transition, et sur la façon dont ces décisions ont été prises. Pas par courtoisie, écrivent-ils, mais comme une responsabilité fondamentale de gouvernance.
Le déficit de responsabilité que cela engendre est bien réel. Généralement, les DRH sont responsables des résultats humains mais ils sont rarement présents lors du choix des outils d’IA. Les responsables technologiques maîtrisent l’architecture technique, mais pas la perte progressive de compétences qui touche la main-d’œuvre utilisatrice.
Les responsables opérationnels suivent les performances mais manquent souvent d'un cadre pour surveiller la dégradation des compétences qui précède la baisse des performances.
Les termes définis par MIT Sloan sont utiles précisément parce qu’ils sont assez spécifiques pour permettre d’attribuer une responsabilité précise et suffisamment détaillés pour être mesurables.
La dépendance excessive n’est pas le même risque que la perte d’autonomie. Chacun nécessite des questions de gouvernance différentes lors du déploiement, et un responsable différent au sein de l’organisation.
Pour la plupart des entreprises, aucun de ces interlocuteurs n’existe encore.
La recherche ne préconise pas d’organigramme. Ce qu’elle fait, clairement et avec le poids de cinq ans de données sur une IA responsable, c’est de pointer l’écart.
Les décisions go/no-go sont le moment où ces questions devraient émerger. Avant la signature du contrat, avant le début du déploiement, avant la première formation, quelqu’un dans l’organisation doit se demander quel sera l’impact de cet outil sur le jugement des personnes qui l’utiliseront, et empêcher que l’utilisation de l’IA ne devienne un indicateur de performance.
À l’heure actuelle, la plupart des organisations ne savent pas à qui attribuer ce rôle.