Le fossé entre tableaux de bord et décisions qu’une équipe data ne peut pas combler
Taux de réussite de l’IA: Seuls 5 % des initiatives en IA atteignent les résultats commerciaux escomptés, révélant des problèmes systémiques.
Préparation organisationnelle: L’échec des projets IA est souvent dû à l’impréparation des organisations face à la transition.
Diagnostic du problème: Les entreprises identifient fréquemment mal le problème réel, menant à des mises en œuvre inadaptées de l’IA.
Implication des parties prenantes: Impliquer les parties prenantes dès le début permet de prévenir les résistances et de favoriser l’acceptation des outils IA.
Culture de la gouvernance: Comprendre l’usage responsable de l’IA est essentiel pour les décideurs qui n’ont pas de bagage technique.
Vous avez sans doute déjà entendu la nouvelle. Gartner estime que seulement 5 % des initiatives en IA tiennent les promesses faites en termes d’impact business.
Ce chiffre est largement cité dès que l’on parle d’IA, autant pour dénoncer la technologie que pour mettre en doute notre capacité à l’utiliser efficacement.
Beverly Wright observe ce schéma se répéter depuis avant l’apparition de la plupart des acteurs actuels de l’IA. Elle a débuté dans la science de la décision au début des années 1990, alors qu’il n’existait que trois cursus universitaires dans le pays, et à peine une vingtaine de diplômés chaque année.
Keep Reading—and Keep Leading Smarter
Create a free account to finish this piece and join a community of forward-thinking leaders unlocking tools, playbooks, and insights for thriving in the age of AI.
Have an account? Log In
« Nous avions un problème similaire », expliquait-elle lors de la Optimized AI Conference à Atlanta la semaine dernière. « Mais aujourd’hui, le problème touche l’ensemble des entreprises et implique de l’automatisation. C’est un enjeu bien plus vaste. »
Wright a passé plusieurs décennies dans des postes liés à la data science chez Southern Company et Cox Communications avant de passer à la formation des dirigeants à la Georgia State University. Sa lecture des causes de l’échec des investissements en IA diffère de celle des fournisseurs technologiques : le problème est organisationnel.
Désolé les fournisseurs. Ce n’est pas à vous de résoudre ce problème.
Le vrai problème n’est que rarement celui que l’on avait identifié au départ
Wright a ouvert sa session en évoquant une histoire sur les ascenseurs. Il y a longtemps, des immeubles recevaient beaucoup de plaintes concernant la lenteur des ascenseurs. La solution évidente semblait être d’accélérer les ascenseurs. Mais, en réalité, le problème n’était pas la vitesse. C’était l’ennui. Lorsqu’ils devaient patienter en silence, voire pire, en présence d’inconnus, l’ennui générait chez les gens une gêne qui augmentait la sensation de longueur d’attente.
Comment a-t-on résolu ce problème ? Des miroirs. Rien de plus. Aucun besoin d’ingénierie.
Cet écart entre le problème apparent et le problème réel est la cause principale de l’échec des initiatives IA. Les entreprises formulent un défi business, le confient à une équipe data, et attendent du modèle qu’il fasse le diagnostic à leur place. Or, cela ne fonctionne pas.
« Découvrir le vrai problème est bien plus difficile qu’on ne le croit », souligne Wright.
Se tourner vers l’IA sans avoir défini au préalable la décision à soutenir est, à ses yeux, la première de trois raisons pour lesquelles 95 % des projets échouent.
La seconde raison concerne l’explicabilité. Lorsqu’une calculatrice fournit une réponse, on peut la vérifier rapidement. On connaît l’ordre de grandeur de la question posée. Les systèmes d’IA fondés sur les réseaux neuronaux ne permettent pas ce type de validation intuitive.
Cela importe quel que soit le secteur, mais c’est particulièrement critique dans les industries réglementées où la loi impose une revue humaine. Wright constate que, dans la pratique, les entreprises traitent cet aspect en faisant évaluer l’IA… par l’IA. L’humain dans la boucle ne comprend pas assez ce que fait le modèle pour détecter les erreurs réellement.
Le troisième facteur d’échec est celui que personne ne veut s’attribuer : l’entreprise n’était tout simplement pas prête.
Wright fait la distinction entre le déploiement technologique et l’acculturation, et constate que les entreprises les abordent de façon séquentielle, plutôt qu’en parallèle. Elles construisent d’abord, puis se demandent ensuite si leurs équipes sont prêtes à utiliser ce qui a été créé. Bien souvent, la réponse est non, et l’investissement est mis de côté.
Elle a utilisé l’exemple des tornades : seulement 0,1 % provoquent de vrais dégâts, mais la peur face à cette fraction modifie la réaction de tous. La résistance au changement agit de la même manière. Le risque perçu d’adopter une nouveauté paraît supérieur au risque réel du statu quo, même si les chiffres démontrent l’inverse.
Il y a généralement plus de dégâts à ne rien faire. Ils pensent qu’ils évitent les risques, mais il y a un plus grand risque à ne rien faire.
Il ne devrait jamais y avoir d’effet wahou
Lorsqu’elle évoque ce qui fonctionne réellement, Wright ne parle pas d’investissement technologique. Elle explique plutôt comment les organisations doivent repenser le lien entre l’analyse et l’action.
Commencez par la décision, pas par l’outil
Wright est directe quant à la pression des conseils d’administration : les entreprises annoncent des projets IA dans le but de faire monter leur cours en bourse, et l’annonce devient une fin en soi.
C’est la mauvaise raison pour démarrer un projet IA », dit-elle. « Il faut partir d’une vraie stratégie qui explique comment résoudre les problèmes, et il se peut qu’on utilise l’IA… ou pas.
Rencontrez l'entreprise là où elle se trouve
Cela va à l'encontre de l'approche aspirationnelle qui domine la plupart des discussions sur la transformation numérique. Les organisations élaborent des feuilles de route vers un état futur, puis essaient de réadapter leurs opérations actuelles pour s'y conformer.
L'argument de Wright va dans l'autre sens : comprendre ce que vous avez réellement, et construire des solutions d'IA qui profitent à cette réalité.
Impliquer les parties prenantes dès le début
« Il ne devrait jamais y avoir d'effet waouh », dit-elle. Le modèle de révélation finale, où une équipe data travaille en isolation avant de présenter un produit fini, est une voie sûre vers le rejet.
Lorsque l'outil arrive enfin entre les mains de ceux qui doivent l'utiliser, ils n'ont eu aucun rôle à jouer dans sa conception. La résistance n'est pas irrationnelle. C'est le résultat prévisible de l'exclusion.
Le problème de gouvernance
Wright distingue deux types d'utilisateurs d'IA désormais présents dans la plupart des organisations : ceux issus de la data et de l’analytics, qui sont arrivés à l’IA grâce à leur aisance technique accumulée, et ceux venus de fonctions opérationnelles ou métier, souvent sans la base nécessaire pour reconnaître quand quelque chose semble incorrect. Développer une stratégie de préparation à l’IA nécessite de comprendre ces différents profils utilisateurs.
Ce fossé constitue un problème de gouvernance, et il relève des responsables de l’entreprise, pas de l’équipe data. Si les personnes chargées de revoir les résultats fournis par l’IA ne comprennent pas ce qu’elles évaluent, la revue devient un simulacre. Et répéter ce simulacre lors de nombreuses initiatives, c'est ainsi qu’on finit avec un taux de réussite de 5 %.
La solution que préconise Wright, c'est l'acculturation, pas l’immersion. Les responsables des opérations n’ont pas besoin de comprendre les réseaux neuronaux. Ils doivent saisir ce qu’est une utilisation responsable, quels sont les garde-fous, et pourquoi ces garde-fous existent.
« En fait, cela rend impossible de tout gâcher », dit-elle en expliquant comment ce cadre résonne auprès des publics non techniques. « Et c’est vrai pour nous tous. »
La plupart des organisations ont passé dix ans à construire leur infrastructure data. L’écart entre cet investissement et l’utilisation réelle dans les décisions métier est organisationnel, et aucune mise à niveau de plateforme n’y changera rien.