Ce que nous comprenons mal à propos de l’IA et de la productivité

David Rice : Donc, votre équipe utilise l’IA pour rédiger des rapports, analyser des données et prendre des décisions plus rapidement. La productivité est en hausse, n’est-ce pas ? Vos indicateurs trimestriels ont probablement l’air plutôt bons, mais devinez quoi ? Vous rendez silencieusement vos collaborateurs moins performants intellectuellement. Je ne dramatise pas. Une étude récente menée auprès de professionnels de la santé utilisant des outils de diagnostic assistés par IA a montré qu’ils sont devenus tellement dépendants de la technologie que, lorsqu’on désactive l’IA, leurs performances chutent dramatiquement par rapport à leur niveau avant de l’utiliser. Ce n’est pas un problème de formation. C’est de l’atrophie cérébrale.

L’invité du jour du podcast est la Dre Vivienne Ming. C’est une neuroscientifique théoricienne, une entrepreneure qui, il y a 15 ans, avait prédit que le GPS augmenterait le taux de démences. Aujourd’hui, il existe des preuves empiriques montrant qu’elle avait raison, mais ce n’est pas le sujet de son intervention.

Ce qu’elle veut nous dire, c’est qu’à présent, nous avons le choix entre deux voies radicalement différentes : l’automatisation cognitive, où l’IA fait le travail à notre place, offrant des victoires rapides mais une perte à long terme, ou l’augmentation cognitive où l’IA rend le travail plus difficile, mais de façon à réellement améliorer les personnes.

Nous allons aborder pourquoi faire en sorte que l’IA rende la vie plus facile est le discours le plus dangereux dans le monde de l’entreprise actuellement, la différence entre l’automatisation qui érode les compétences et l’augmentation qui les développe, comment repenser les outils d’IA pour que les gens soient meilleurs après les avoir utilisés qu’avant, pourquoi les dirigeants qui choisissent la version paresseuse constateront des gains à court terme mais un échec stratégique à long terme.

Je suis David Rice. Vous écoutez L’Humain au cœur du management. Et si vous célébrez vos victoires en productivité sans vous demander ce que vous perdez en chemin, cette discussion risque de vous faire sérieusement réfléchir. Allons-y.

Très bien, Vivienne, bienvenue dans l’émission.

Vivienne Ming : Ravie d’être ici.

David Rice : Avant de commencer, je parcourais l’actualité comme il m’arrive de le faire, et je suis tombé sur un article. Nature a publié une étude la semaine dernière disant que lorsqu’on nourrit l’IA avec de l’information, surtout provenant des réseaux sociaux, l’IA a du mal. À comprendre quoi que ce soit, et j’aimerais connaître votre réaction face à cela car l’expression exacte utilisée était : « trop de réseaux sociaux donne de la pourriture cérébrale aux chatbots IA ».

Vivienne Ming : Oui.

David Rice : Donc, ce contenu n’est bon pour personne ?

Vivienne Ming : « Pourriture cérébrale » est le terme du moment. Il y a aussi « bouillie de travail ». Je peux vous donner une réponse très technique à ce sujet, sur ce qui se passe et ce que nous devrions faire. Mais pour un public large, nous devrions nous inquiéter, non ? Il faut très peu d’information de mauvaise qualité pour envoyer un modèle LLM sur une mauvaise piste.

Et même si vous faites revenir la boucle humaine, l’ajustement, l’apprentissage par renforcement, il devient très difficile pour l’IA de retrouver son potentiel d’origine. Beaucoup évoquent l’importance de la qualité des données et. Voici un exemple où même une faible proportion de mauvais contenu, involontaire ou parfois intentionnel, comme injecter des déchets de façon délibérée dans le système, peut réellement perturber l’IA : c’est même une manière de pirater le cerveau.

Donc, il ne s’agit même plus de pourriture cérébrale, mais de ver cérébral. Voilà des choses dont il faut se préoccuper. Voici ma réponse un peu technique, j’ai d’ailleurs écrit un article là-dessus que je m’apprête à soumettre : écoutons, les êtres humains sont imparfaits. Nous avons tous nos préjugés. Il s’avère aussi que si nous nous exposons trop à Internet, notre cerveau pourrit aussi.

Mais même en admettant cela honnêtement, les humains font quelque chose d’essentiel : s’ils reçoivent une information complètement loufoque, ils l’ignorent. Bien sûr, il y a des exceptions. Mais dans l’étude sur la pourriture cérébrale, il s’agissait souvent de charabia.

Aucun humain ne lirait une page de charabia en se disant : « Il faut absolument que je retienne cela ! » Nous avons donc ce superpouvoir que l’IA actuelle n’a pas vraiment. Nous avons un modèle du monde. Les experts en IA parlent beaucoup des « world models », mais non, pas vraiment. Nous, nous regardons le monde, nous appliquons ce modèle, et les choses qui ne correspondent pas, pour le meilleur et pour le pire,

nous les considérons comme moins importantes et ne les mémorisons pas autant, et il faut réfléchir à comment permettre à l’IA de faire de même. L’idée qu’il faut régler parfaitement les jeux de données, et qu’on ne peut jamais lui montrer une mauvaise radio ou une bêtise ramenée d’Internet, sinon elle attrape la pourriture cérébrale, c’est une vraie faiblesse dans notre façon actuelle de former l’IA.

David Rice : On entend dire parfois que nous avons créé un cerveau aussi sophistiqué que le nôtre. Je l’ai entendu. Moi, je ne suis pas convaincu. J’ai souvent contesté l’utilisation du mot « cerveau ». Mais quand j’ai vu ça, je me suis dit, eh bien, peut-être est-ce effectivement un cerveau. Le contenu des réseaux sociaux produit le même effet chez l’IA que sur nous, donc…

Vivienne Ming : Oui. J’aime aborder la question de façon mesurée. Je suis réaliste à propos de l’IA. Il y a des utopistes qui pensent que ça va tout régler, et des dystopistes persuadés qu’on construit Skynet. J’aimerais bien que le problème soit Skynet, au sens où l’on saurait comment construire ce genre de système, mais ce n’est pas le cas. Nous n’en avons aucune idée. Mais ce que nous avons bâti est véritablement intelligent. C’est bien de l’intelligence artificielle. C’est juste une intelligence particulière : l’apprentissage statistique. C’est ce que nous utilisons aussi beaucoup, et là-dessus, c’est très proche de nous. De ce point de vue, il y a beaucoup de similitudes entre les grands modèles linguistiques et les humains.

Mais nous avons beaucoup d’autres formes d’intelligence, computationnelles élémentaires ou très élaborées. Il y a ce célèbre Henry Markham qui a subi une opération pour soigner son épilepsie, et depuis, il n’a plus jamais formé de nouveaux souvenirs à long terme. On le connaît comme le sujet célèbre de beaucoup de travaux.

Il savait jouer de la guitare, mais ne se souvenait pas avoir appris. Il existe donc différents types d’intelligence. Il ne pouvait plus former de souvenirs, mais il pouvait apprendre la guitare. Les machines et les humains ont donc des forces différentes. Si nous arrêtions d’essayer de construire des humains artificiels et célébrions ce que l’intelligence artificielle fait de bien...

Nous serions dans une bien meilleure situation aujourd’hui.

David Rice : Je suis d’accord et c’est amusant parce que cela vient sur le terrain où je pensais emmener la discussion, à savoir cette idée que l’IA va tout rendre plus facile. Plus pratique, plus efficace, plus rentable.

Je crois que beaucoup de dirigeants aiment s’en persuader. Mais quand nous nous étions parlé auparavant, vous remettiez en cause ce discours, en vous demandant : Et si l’IA ne rendait pas la vie plus facile, mais plus difficile, et de façon à nous améliorer vraiment ? Donc, de votre point de vue, à quoi cela ressemblerait-il ?

Vivienne Ming : Ce week-end, j’ai partagé dans ma newsletter des recherches complètement hors sujet IA, dont une montrait que les investisseurs sont plus enclins à investir dans des entrepreneurs dont le visage ressemble au leur, toutes choses égales par ailleurs (âge, genre, origine, etc.). Via une expérience rendue possible grâce à l’IA, on a pu mesurer la similarité numérique des visages et dire : vous avez 3% de chances en plus d’obtenir un financement auprès d’un investisseur qui vous ressemble, mais vous avez en fait 7% de chances de moins de générer un retour. Je cite cela pour montrer que, comme je le disais plus tôt, nous sommes pleins de biais.

Quel est l’intérêt de ce biais à investir dans les gens qui nous ressemblent, alors que c’est moins rentable ? On voudrait croire qu’on est rationnel, mais ce n’est pas le cas. Et il s’avère que nous sommes très irrationnels dans notre tendance à vouloir la facilité. En psychologie, on distingue le traitement superficiel du traitement en profondeur. La plupart du temps, même les personnes brillantes fonctionnent de façon assez superficielle, et ce n’est pas grave. Mais il faut parfois aller en profondeur.

Or, nous avons inventé l’outil parfait pour rester superficiel toute sa vie. En plus, du côté du dirigeant, la prise de décision peut être imparfaite : on embauche celui qui nous ressemble et non le meilleur candidat.

Une autre recherche que j’ai partagée montre que le principe de Peter s’applique : en équipe commerciale, on promeut les gens pour leur performance de vente, pas pour leur potentiel de management, ce qui a un effet économique réel en interne.

Nous faisons donc tout cela alors que les mêmes humains prennent les décisions d’embauche, d’investissement, de déploiement de l’IA.

On achète vraiment ce discours selon lequel la valeur de l’IA, c’est de faciliter la vie. Elle fera tout le travail ennuyeux, vous ne ferez que la partie créative. Dans mes recherches, plus l’IA prend en charge le travail ennuyeux, plus il y en a pour tout le monde. Prenons un exemple évident : de plus en plus d’entreprises incitent leur équipe à utiliser l’IA pour lire et rédiger tous leurs emails afin d’économiser du temps de communication.

Mais si l’IA produit des tonnes de courriels inutiles et spammy, vous recevez alors davantage d’emails. Donc l’idée que l’IA offre des boosts rapides d’efficacité, c’est en réalité de la « cocaïne de la productivité », une impasse totale selon moi.

Notamment parce que cela érode à vue humaine le capital humain. D’autres recherches le prouvent aussi. Donc cette idée que l’IA fait tout le boulot répétitif et qu’on devient soudain des génies créatifs : c’est faux. Si l’on veut de meilleurs humains, et qu’on s’intéresse à l’IA comme moi depuis 30 ans,

il faut construire une IA qui soutient explicitement et sans ambiguïté la créativité, et la meilleure IA pour cela ne facilite pas la vie, elle la rend plus difficile. Elle vous contredit, elle vous oppose, elle vous met en face de vos erreurs. Dans mon prochain livre, j’appelle cela l’invite du « Némésis ».

J’ai utilisé cela pour écrire mon livre : j’écrivais un chapitre, et, Dieu sait que j’aurais voulu déléguer cette tâche à quelqu’un d'autre, mais c’est un bouquin technique, avec mon humour tordu, impossible à déléguer.

Donc j’écrivais un chapitre, puis je disais à Gemini : « Tu es mon Némésis, mon pire ennemi. Voici mon chapitre. Trouve tout ce qui ne va pas, toutes les idées fausses, toutes les erreurs factuelles, explique-moi pourquoi et comment je pourrais améliorer. » Je n’ai pas utilisé l’IA pour faciliter l’écriture du livre, mais pour la rendre plus difficile, et cela m’a améliorée.

David Rice : On retrouve ce phénomène dans toute la culture de l’IA, non ? On la voit comme un raccourci vers la productivité ou un outil de confort et d’efficacité, mais on l’envisage rarement comme un catalyseur de développement, d’évolution de la formation des leaders.

Ou même, comme vous le disiez, remettre en cause nos idées, poser de meilleures questions. On ne la présente pas ainsi. On aborde cette technologie comme toutes les autres depuis 50 ans : elle est censée être facile et rendre la vie plus confortable. Pourtant, ça n’a pas toujours été bénéfique dans d’autres domaines non plus.

Vivienne Ming : Quand j’ai, en partie, délaissé la science universitaire pour créer mes premières entreprises, les gens ont commencé à m’inviter à donner des conférences pour discuter du futur du travail avec l’IA.

Et ayant créé des entreprises d’IA dans l’éducation, la santé et le travail, qui mieux placée ? Je me retrouve donc sur scène à côté d’une personne qui répète : « C’est comme la révolution industrielle, ça va juste créer plus d’emplois que ça n’en détruit. C’est comme un théorème qu’on ne remet pas en cause. »

Un jour, je partage la scène avec le plus grand mansplainer que j’aie jamais rencontré, qui débitait des pseudo-faits sans fondement tout l’événement. J’étais tellement frustrée que, à la fin, j’ai écrit : « Ce n’est pas la révolution industrielle ». J’ai fini par rédiger 100 000 mots, qui sont devenus un chapitre de ce livre jaune derrière moi. La vraie question est : taille-t-on même ce qu’a été la révolution industrielle et son impact économique ? Mais aussi, ce moment avec l’IA : est-ce juste une chaîne de production ?

Est-ce juste comme l’électricité ou le moteur à explosion ? On prend comme exemples ces moments-clés, mais l’IA ne relève pas le niveau à la base. Pour l’IA, il n’y a pas de base. On peut lui demander d’écrire le tweet le plus idiot possible, ou de générer une image quelconque, ou d’élaborer une toute nouvelle hypothèse sur la cause d’un cancer, et sur la façon de le prévenir. L’IA ne fait pas la distinction : ce sont deux tâches identiques d’un point de vue énergétique, dont l’une changera rapidement l’humanité, l’autre fera rire une centaine de personnes pendant 35 millisecondes. Ce n’est donc ni la chaîne de production, ni la révolution agricole, ni un autre épisode du passé. Cela ne veut pas dire que ce sera mauvais, ni que ce sera bon. Et tant que nous ne sommes pas capables d’admettre que l’humain est complexe et que l’IA l’est aussi différemment, alors, parfois, connecté intelligemment, il se produit des choses extraordinaires. Mal connecté, les endocrinologues deviennent moins bons pour diagnostiquer un cancer, les étudiants rédigent de moins bons essais et leur activité cérébrale se dégrade. Ce n’est ni bon, ni mauvais. C’est un grand système dynamique, et tout dépend de la façon dont nous l’utilisons. Les algorithmes YouTube ne rendent pas le monde pire, mais c’est l’interaction entre nos choix et ces algorithmes qui façonnera notre avenir.

Si nous ne nous formons pas à la profondeur, je m’inquiète.

David Rice : Ce que je retiens, c’est que ces précédentes révolutions se sont déroulées à un rythme bien inférieur. Le cerveau humain n’est pas câblé pour cette vitesse de changement. Les bouleversements à venir, on voit déjà que les gens ont du mal à discerner ce qui est réel ou non : ils lisent du contenu sur Internet sans savoir si c’est généré par l’IA ou non, s’il est vrai ou faux.

C’est la première fois que nous devons remettre en cause la réalité à ce point. C’est donc un défi bien plus grand pour nous, humains. Et la chose capitale est la façon dont nous l’utilisons. Si nous avons déjà du mal à la comprendre et que, malgré cela, nous l’appliquons, alors nous courons un vrai risque de mal nous en servir.

Vivienne Ming : Je travaille actuellement sur une étude pilote sur l’intelligence collective hybride : le bon, le mauvais et le pire de la collaboration humain-machines et de son potentiel. C’est en tout début, donc pour ceux qui veulent lire l’article, il faudra patienter que je finisse l’expérimentation et soit confiante dans les résultats.

Mais si vous me suivez dans cette hypothèse préliminaire, j’ai vu une belle occasion de mesurer l’impact de chacun via sa capacité à faire des prédictions. Il existe déjà un site comme Poly Market, où l’on mise de l’argent sur des résultats, notamment les élections en ce moment.

Par exemple, le marché y a connu récemment une anomalie lors d’une présidentielle. J’amène un groupe d’étudiants classiques, en équipes de 3 à 5, et durant une heure, je leur fais faire une série de prédictions Poly Market.

Ils vont faire des choix collectifs. Ce ne sont pas des experts, ils n’ont pas d’argent en jeu, mais on connaîtra plus tard les bons résultats. On saura comment ils se sont débrouillés, comment Poly Market a fait, puis je fais la même expérience avec Gemini et GPT, seuls, puis en équipes mélangées humains+IA.

La surprise : ces humains naïfs ne font pas très bien. Les IA s’en sortent bien, souvent correctes sur les évidences, moins dès qu’il s’agit de cas moins courants. En équipe hybride, tout devient plus complexe : ce n’est pas l’IA qui fait la différence, mais le capital humain, car il prédit la façon d’interagir avec l’IA. Quand il est faible, on se contente de suivre l’avis de l’IA, et la performance totale est identique à celle de l’IA seule. Avec beaucoup de capital humain, un vrai échange dynamique s’installe : ils proposent, l’IA affine, humains proposent, IA affine, et après plusieurs cycles, ces groupes d’humains même naïfs font jeu égal avec Poly Market.

Ce qui est excitant, c’est qu’ils sont meilleurs dans les cas atypiques, imprévus. L’intelligence hybride est la meilleure. Mais tout dépend de notre implication. C’est technique, mais pour faire écho à vos propos : pour avoir de vrais bénéfices, il faut s’engager profondément dans le système. Ne pas se contenter de sous-traiter son cerveau, mais intégrer l’IA dans le processus d’innovation. Je vous assure que c’est une découverte capitale : la chose la plus intelligente sur Terre aujourd’hui, c’est l’intelligence hybride. Ce n’est ni un super IA quelque part, ni un surdoué, c’est un groupe de personnes d’un bon niveau, doté d’une IA. Rien n’égale ça, c’est impressionnant.

David Rice : C’est fascinant. Ça me donne des idées.

J’ai justement entendu parler de Poly Market ce week-end pour la première fois. C’est intéressant, et d’autres sites similaires émergent, où tout devient sujet à pari, c’est étrange.

Mais j’aimerais maintenant aborder le « mythe de l’efficacité ». C’est partout au travail aujourd’hui, et je pense qu’on en fait tous l’expérience. Croyez-vous que ce récit hypervalorisant l’efficacité empêche l’IA d’apporter un véritable impact sur le lieu de travail ?

Vivienne Ming : L’hypothèse d’efficacité repose sur plusieurs choses. D’abord, que nous savons la mesurer : que le nombre de lignes de code produites par les ingénieurs ou le flux de contrats signés mesure ce qui fait la force de l’entreprise. Si l’on regarde la croissance économique américaine sur 30 ans...

Des chercheurs comme Darren Acemoglu, prix Nobel, parlent de « capital immatériel ». Ce terme a été brièvement à la mode, lié à la notion de « super firmes » : la croissance économique ne profite qu’à une petite part d’entreprises transformatrices dont il est difficile de pointer exactement l’apport, mais qui sont beaucoup plus productives en marge bénéficiaire et productivité par employé, souvent dans la tech. On ne peut pas dire que c’est parce que leurs employés écrivent leurs courriels ou leur code plus rapidement. Chez Google, des équipes très performantes se distinguent même par leur « inefficacité » : elles passent du temps à dialoguer avec d’autres plutôt qu’entre elles, la confiance est élevée, peu de supervision, collaboration de qualité.

Mes recherches portent sur la « productivité d’ordre supérieur », c’est-à-dire la capacité d’un individu à rendre son entourage meilleur. Cela ne se mesure ni individuellement, ni par équipe, mais si l’on modélisait une entreprise de 500 000 personnes comme un réseau de neurones de 500 000 neurones, on toucherait à la notion d’assignation du crédit : comment changer 1 personne affecte-t-il la performance globale ?

En appliquant cela à une vraie entreprise, on s’est aperçu que 11 % des employés généraient 80 % de la productivité non mesurée par les outils classiques. Une minorité significative améliore donc tous les autres.

Et grâce à 70 000 volontaires dans cette entreprise qui partageaient leurs données quotidiennes, on a vu qu’ils se distinguaient par le fait d’aider spontanément, de façon parfois inefficace : ils repéraient où intervenir même quand ce n’était pas leur rôle, et amélioraient ceux autour d’eux.

Qu’est-ce qui, dans les métriques classiques, mesure cela ? C’est un levier majeur de productivité ignoré par les entreprises. Croire qu’automatiser vos centres d’appel avec des chatbots suffit, ou que la génération automatisée de code dispense les seniors de corriger des erreurs, est une impasse.

Par contre, les individus à fort capital humain utilisant l’IA pour approfondir leur code sont plus lents sur le moment, mais l’impact de leur travail dans le temps est supérieur. L’efficacité brute peut baisser, mais la qualité augmente.

Bref, nos intuitions sur l’efficacité sont erronées dans un monde où nous devrions pousser les essais et erreurs productives grâce à l’IA, au lieu de simplement lui sous-traiter ce que l’on sait déjà faire moins cher, encore et encore.

Nous fonçons dans une impasse en agissant ainsi.

David Rice : Oui, l’impact du départ de certains individus – cela me fait penser à ce que l’on appelle le « joueur liant » dans le sport : celui qui soude l’équipe même si sa performance individuelle n’est pas remarquable. Quand il part, l’équipe se désagrège alors que ce n’était pas forcément prévisible dans les datas.

Comment quantifier cela en données, en fait ?

Vivienne Ming : Oui, et dans le sport, c’est une question prise très au sérieux. Il existe des métriques alternatives, style « value over substitution », qui révèlent que les stars ne sont pas forcément les plus décisifs pour la réussite du groupe. Il s’agit d’un collectif : votre supply chain est complexe, pourquoi négliger la complexité humaine ? Il faut comprendre qu’un grand dans une équipe peut ne pas l’être dans une autre, qu’il existe des synergies spécifiques, et parfois, il faut un « joker » pour transformer une équipe moyenne en prétendante au titre mondial.

En données, certains qui font briller les autres sont évidents, d’autres non : ils peuvent même avoir de mauvais indicateurs individuels, mais leur impact collectif rend leur présence stratégique.

Si on comprenait cela, le potentiel humain deviendrait excitant ! On pourrait bâtir des équipes à la « Moneyball », optimiser les synergies – pas seulement pour les nerds des stats sportives ! La vraie question pour l’IA reste : fait-elle progresser les gens, ou les remplace-t-elle ?

David Rice : Vous aviez parlé du réseau de neurones à 500 000 personnes. Avec cette image, difficile d’imaginer qu’on puisse s’en sortir sans une grande diversité de points de vue.

On s’inquiète beaucoup actuellement de la disparition des postes juniors. On sait déjà le coût de cette perte en termes de formation et de préparation de succession. Mais y a-t-il un risque cognitif plus large ? Que perd-on si on supprime les premiers emplois ?

Vivienne Ming : La phrase que vous reprenez, « l’IA ne sait rien » – laissez-moi contextualiser.

Mes doctorants à Berkeley sont d’une intelligence rare, et sur leur sujet, ils en savent plus que moi. Pourquoi suis-je là, alors ? Ils pourraient tout apprendre par eux-mêmes, tous les articles sont accessibles, ils connaissent les maths, la biologie, l’IA, etc. Ma présence n’est pas pour leur apprendre encore plus de faits, mais pour leur enseigner la compréhension : comment devenir chercheur, explorer l’inconnu. La science du cerveau est d’une complexité au-delà de n’importe quel GPT !

Travailler avec un LLM, pour moi, ressemble à travailler avec mes étudiants, sauf qu’il « sait » tout sur tout. Mais il ne comprend rien. Il ne sait pas ce qu’il ignore. Mon rôle, comme celui des humains dans mon expérience Poly Market, c’est d’engager l’exploration. Pousser les frontières, voilà la spécificité humaine !

Donc au début d’une carrière, ce qui est précieux n’est pas ce que l’on « sait », mais le chemin vers la compréhension. On fait faire la préparation de dossiers, la revue de contrats, on commence à l’hôpital comme interne, non seulement parce qu’on a besoin de bras, mais pour que ces jeunes comprennent l’essence du métier.

J’ai donné une conférence à New York devant des directions juridiques de grands groupes. L’un m’a dit qu’il bloque les deux dernières semaines du mois d’arrivée des nouvelles recrues pour qu’elles lisent tous les contrats conclus par l’entreprise. Chaque junior réserve ensuite une heure pour expliquer tout ce qu’il a repéré d’erroné ou d’exploitable. Et le patron leur dit : « C’est très bien, tu as fait le job, mais on ne va pas exploiter ces failles. Si on le faisait, ils nous le rendraient. Nous savons qu’elles existent. Ce qui compte, c’est ce que tu en fais, et ça, c’est ton vrai métier. »

On doit donc savoir ET comprendre. Et si on retire la dimension « savoir » des premières expériences professionnelles, comment les gens pourraient-ils atteindre la compréhension et appliquer ces savoirs ?

Peut-être que le modèle « créateurs TikTok ou Youtube » fonctionne pour 0,00001 % des cas, mais c’est un jeu de hasard, pas une pipeline de formation, et ce système ne doit pas devenir la norme, ce serait inefficace et nuisible à la société.

La réalité, c’est que la meilleure décision, c’est celle prise ensemble avec l’IA, lors d’une analyse conjointe, où l’on itère main dans la main, pas lorsqu’on délègue le travail à l’IA. Il ne s’agit pas de séparer les tâches « IA » et « humaines », mais d’avoir des emplois cyborgs, hybrides, où la vitesse et la qualité sont conjointement transformées et où la progression individuelle continue.

David Rice : En effet, l’IA n’a pas de contexte sur la réalité. Le jugement s’acquiert avec le temps, via des expériences vécues. Ma crainte majeure est la perte de processus de croissance humaine. Peut-être que je me trompe…

Vivienne Ming : Voici un paradoxe fascinant pour les scientifiques – mais inquiétant pour la société.

Un des domaines où la recherche en IA est la plus avancée, c’est l’éducation. Cela fait longtemps qu’on développe des IA « tutrices ». Or, une règle très solide, reproduite même avec les tout derniers LLM, veut que si le tuteur IA donne la réponse, l’élève n’apprend rien.

Des travaux récents du MIT et même chez Anthropic confirment cela. Et tout début de carrière : si le LLM vous donne la solution, je peux extrapoler de 50 ans de recherche, vous n’apprendrez jamais à faire votre métier, ou du moins, la plupart ne l’apprendront pas, seuls une minorité iront au fond dans l’engagement.

Voici le paradoxe : le meilleur tuteur IA ne livre jamais la réponse. Il vous guide, pose des questions, favorise l’acquisition et vous amène à la découverte. Les LLM peuvent ainsi amener vers l’insight, mais jamais livrer directement. L’accompagnement doit être conçu pour cela.

Cela rejoint mes travaux sur les neuroprothèses et les cyborgs : la technologie ne doit pas seulement nous rendre meilleurs pendant l’utilisation, mais aussi laisser un bénéfice durable. La plupart des recherches montrent que l’IA améliore la créativité, le style d’écriture, etc., mais pas pour les meilleurs dès le départ. Hélas, d’autres études, la mienne comprise, prouvent qu’à force d’utiliser des modèles génératifs, on devient moins bons dans les tâches à accomplir, en dehors de l’outil.

Mais cela peut être corrigé : ce n’est pas l’IA le problème, mais l’interaction. Si on modifie l’IA pour qu’elle ne donne pas la solution, ou le niveau de capital humain pour pousser à l’engagement, on verrait sans doute la proportion d’étudiants s’investir croître. Il ne s’agit pas de donner ce que les gens veulent, mais ce dont ils ont besoin pour progresser – c’est ça, l’éthique derrière cette idée.

David Rice : J’aime cette idée. Vous avez parlé de la « Jiffy Lube économie ». Pour moi, c’est de la déprofessionnalisation. Pouvez-vous expliquer ?

Vivienne Ming : Comme je le disais avec la révolution industrielle : on affirme que l’IA va créer plus d’emplois qu’elle n’en détruira, comme dans le textile où la mécanisation a fini par générer de nouveaux métiers après avoir ruiné l’économie de l’Inde et de la Chine. Mais la vraie question aujourd’hui n’est pas « combien d’emplois nouveaux ? », c’est « qui sera qualifié pour ceux que l’IA ne pourra pas faire ? » Ce nombre est inquié… ...tantement faible actuellement parce qu’au lieu de bâtir une économie où chaque médecin devient un « super docteur » dopé à l’IA (théoriquement possible et étudié avec de beaux résultats !), nous allons plutôt vers une « coloscopie Jiffy Lube » où un employé de niveau bac, peu coûteux, branche une IA pour des gestes médicaux, offrant 80 % de la valeur pour 20 % du prix, et personne ne voit plus de spécialiste. Cela ne supprime pas les emplois, mais les déprofessionnalise.

Il y a donc création de nouveaux emplois sous-qualifiés simplement car il n’est pas rentable d’automatiser complètement. Ce serait triste de savoir que l’on n’a du travail que parce que la robotisation est trop chère pour le poste.

David Rice : C’est rude. On parle beaucoup aujourd’hui d’augmentation plutôt que d’automatisation cognitive avec l’IA. Pourriez-vous expliquer la différence et pourquoi cela compte pour le leadership d’aujourd’hui ?

Vivienne Ming : Je peux donner une réponse très technique ! Mais pour faire simple, si vous mobilisez vraiment votre cerveau – en particulier les lobes frontaux, gestion des émotions, planification, etc. – cela se voit au niveau d’une activité gamme. Par exemple, au MIT, une étude a montré que les étudiants rédigeant des essais avec un LLM présentaient nettement moins d’activité gamme que ceux utilisant Google ou rien du tout. Ceux sans aide de LLM devaient réfléchir vraiment, obtenaient des résultats moins soignés mais retenaient mieux, se sentaient propriétaires de leur texte. Les autres, non seulement ne retenaient rien, mais leurs essais persuadaient moins les tiers.

Prenons un exemple universel : le GPS. Longtemps, les taxis de Londres devaient mémoriser chaque rue. Leur hippocampe était gigantesque et, chose intéressante, leur vieillissement cognitif plus sain. Aujourd’hui, on sollicite le GPS tout le temps : vous atteignez mieux votre destination, mais il y a 15 ans, j’avais prédit que cela augmenterait le taux de démences, car l’activité frontale est absente dans cet usage passif.

On retrouve désormais des preuves empiriques que cette automatisation rend moins performant après coup. L’augmentation cognitive, elle, vous donne juste assez d’informations, mais vous invite à plus, par exemple, connaître la rue à éviter lors d’un match ou raccourcir le trajet grâce à votre connaissance que la carte n’a pas. C’est ça, l’augmentation cognitive : vous utilisez votre cerveau avec l’aide de l’IA.

On peut construire des IA conçues explicitement pour augmenter l’humain, mais ce n’est pas la norme actuelle.

David Rice : J’ai déménagé il y a quelques années, décidé de bâtir une carte mentale et, après quelques mois, j’ai arrêté le GPS. Mais je continue juste à lui demander le chemin le plus rapide selon la circulation, puis je navigue par moi-même !

Vivienne Ming : C’est exactement ça. Pour revenir à l’étude portugaise sur les gastroentérologues, quand les médecins utilisaient un outil IA en coloscopie, désactivez l’IA et leurs performances chutent par rapport à leur niveau initial. On pourrait se dire, tant qu’ils sont meilleurs avec l’outil, cela suffit. Mais si cela érode les compétences humaines, il y a un risque à long terme. IA et humains font des erreurs différentes, donc si on délègue tout à l’IA, notre différence (comme l’intuition qui pousse à investiguer une anomalie que l’IA n’a pas détectée) disparaît. Et c’est cette interaction humain-IA qui porte l’intelligence hybride à son sommet, pas l’automatisation simple.

David Rice : C’était vraiment fascinant, Vivienne, merci d’avoir été avec nous. J’adore ce sujet, le rapport cerveau-IA et les impacts à long terme.

Vivienne Ming : Merci beaucoup pour l’invitation. S’il y a une chose à retenir, c’est qu’au final, la question clé, c’est le leadership. Si les dirigeants optent pour la facilité et substituent l’humain par l’IA, ils gagneront un peu en productivité à court terme, mais perdront tout à long terme. À l’inverse, investir dans le capital humain permet de vraies retombées, mais cela exige du courage et une volonté d’investir un capital politique en interne.

David Rice : Tout à fait. J’ai donné une conférence à des RH la semaine dernière en leur rappelant qu’il était temps d’ouvrir le débat philosophique, même si ce n’était pas leur choix initial, et il faudra s’y faire. Merci pour votre venue et votre remarque finale.

Vivienne Ming : Merci, ce fut un réel plaisir.

David Rice : Chers auditeurs, si ce n’est pas déjà fait, abonnez-vous à la newsletter sur peoplemanagingpeople.com et découvrez notre AI Transformation Explorer. Si vous n’avez pas encore créé de compte gratuit, faites-le. Vous y gagnerez l’accès à Transformation Explorer.

Et d’ici là, ce sont les humains qui façonnent tout cela, et vous êtes à l’avant-garde.