Pourquoi les cadres traditionnels de gestion des risques liés à l’IA s’effondrent

David Rice : Une cadre juridique d’une entreprise du Fortune 500 m’a dit ceci : son entreprise n’était pas en crise, mais elle avait l’impression que tout le monde tenait un lance-flammes. C’est là où en sont la plupart des organisations aujourd’hui : conscientes du risque, sans savoir où diriger la lance, et le danger ne vient pas de l’extérieur. C’est un élan interne que personne ne sait comment freiner.

Dans l’épisode d’aujourd’hui, je parle avec Reid Blackman, auteur de The Ethical Nightmare Challenge, de la raison pour laquelle les cadres de gouvernance traditionnels ne sont pas conçus pour ce qui se passe actuellement. Vos employé·es utilisent déjà l’IA de façons que vous n’aviez pas anticipées. Vous ne pouvez pas prévoir comment ils utiliseront les agents IA, et le seul levier que la plupart des dirigeant·es connaissent consiste à restreindre l’accès, ce qui n’est pas une véritable solution.

Reid souligne un point qui clarifie beaucoup le débat. Aller vite et prendre l’éthique de l’IA au sérieux ne sont pas incompatibles. Les entreprises qui considèrent cela comme un choix binaire créent exactement les échecs catastrophiques de confiance qu’elles cherchent à éviter. Et il n’est pas nécessaire de bâtir un programme d’éthique de l’IA complet du jour au lendemain.

Vous pouvez commencer à l’échelle du projet, avec deux ou trois équipes, un pilote de dix semaines, ou même juste une conversation honnête sur l’origine possible des cauchemars. Donc, quelle serait la première question à poser dans votre organisation ? Que diriez-vous de : avons-nous pris le temps d’identifier quels cauchemars éthiques, de réputation et juridiques pourraient résulter de notre adoption de l’IA ?

La plupart des organisations, honnêtement, répondront non, et c’est par là qu’il faut commencer. Aujourd’hui, nous allons donc couvrir pourquoi la gouvernance des risques traditionnelle n’est pas adaptée à l’IA générative ou aux agents. Ce qui rend l’IA agentique fondamentalement différente en termes de gouvernance, pourquoi la vitesse et l’éthique ne sont pas contradictoires, ce que coûte réellement d’« aller vite et casser les choses », et enfin, comment lancer l’Ethical Nightmare Challenge à l’échelle d’un projet.

Je suis David Rice, et voici People Managing People. Et si votre organisation ne s’est pas arrêtée pour se demander ce qui pourrait mal tourner et qui risque d’en souffrir, cette discussion vous montre pourquoi il ne faut plus attendre pour poser la question. Allons-y.

Très bien, Reid, bienvenue dans l’émission. C’est un plaisir de t’accueillir.

Reid Blackman : Merci de me recevoir.

David Rice : Oui, j’ai le livre ici. Je l’ai apprécié. Je pense qu’il est à recommander à toute personne qui réfléchit aux enjeux éthiques de l’IA.

Reid Blackman : Ce n’est pas vraiment mon style, mais je suis content que tu l’aimes.

David Rice : Tu décris une juriste dans ton livre, travaillant dans une entreprise du Fortune 500, qui disait que son entreprise n’était pas en feu mais que chacun tenait un lance-flammes. J’adore cette image.

Reid Blackman : Oui, oui, c’est une citation directe.

David Rice : C’est une image marquante, non ? Cela résume exactement le ressenti de beaucoup de dirigeant·es actuellement. Ils sont conscients du risque, mais ne savent pas vraiment comment intervenir à propos de cette histoire d’IA. À ton avis, quelle est la raison structurelle qui fait que la plupart des organisations sont dans cette situation ?

Et pourquoi la gouvernance des risques classique n’arrive-t-elle pas à combler ce fossé ?

Reid Blackman : C’est une grande question. Il y a de nombreuses raisons à ce ressenti, mais l’une des principales est que les dirigeants ignorent de quelles manières leurs employé·es peuvent s’amuser (ou faire des bêtises, en somme) avec ces outils. Car les IA génératives d’abord, puis les agents IA, peuvent être utilisés dans tellement de contextes différents, par tant de personnes et pour tellement d’objectifs variés, qu’on ne peut pas tout prévoir.

Il est impossible de prédire toutes les façons dont l’outil sera utilisé. Et l’on sait que ces IA peuvent adopter des comportements violant la vie privée, manifester des biais ou des discriminations, « halluciner » ou simplement inventer des informations. Il y a même eu des cabinets d’avocats ou des Big Four qui se sont retrouvés dans la presse pour du travail remis à des clients comportant du contenu généré par IA, totalement erroné.

Alors, si l’on met ensemble le fait que tant de choses peuvent mal tourner avec l’IA, et qu’on ne peut pas deviner comment chacun va les utiliser, on comprend cette impression d’être entouré·e de porteurs de lance-flammes. Si tu veux une réponse sur pourquoi l’approche standard ne fonctionne plus, je peux y venir, mais je te laisse réagir avant.

David Rice : Ce qui me frappe dans cette image, c’est que le danger se retrouve entre les mains de ceux censés diriger : ce n’est pas une menace extérieure. C’est cette dynamique interne que personne ne sait freiner désormais. Je crois qu’il s’agit, tout autant qu’une question de gouvernance, d’un problème de leadership et de culture, non ?

Reid Blackman : La seule manière qu’ont les organisations de ralentir, c’est de restreindre l’accès ou d’interdire l’utilisation de ces outils. Donc, ils peuvent interdire-

David Rice : Ce qui n’est pas une réelle solution.

Reid Blackman : Non, c’est au mieux un pansement temporaire. Et c’est encore pire avec l’IA agentique. Quand tu demandes aux employé·es d’utiliser ces nouveaux systèmes agentiques comme Claude, Code, ou autres, pour créer leur propre agent, assistant ou tableau de bord, là, tu perds vraiment le contrôle, car impossible de deviner ce qu’ils vont construire, pourquoi, et comment ils vont intégrer cela dans leurs processus.

Est-ce qu’ils vont mettre en place les contrôles nécessaires ? Connaîtront-ils les risques ? Sauraient-ils exercer leur discernement professionnel dans un contexte aussi incertain ?

David Rice : C’est vraiment difficile, tu as raison. Agentique, c’est peut-être différent à cause de la façon dont cela doit être construit. Mais si on pense aux LLM et à l’IA générative au travail, ce qui m’intéresse aussi dans l’analogie du lance-flammes, c’est que quand les RH arrivent dans la pièce, c’est déjà allumé partout.

Parce que tout le monde l’utilise déjà et l’intègre à ses processus, même sans que tu ne le saches. Essayer d’y mettre de l’ordre, c’est un vrai défi. Et maintenant, on arrive avec des projets « On va construire sur-mesure quoi ? »… C’est une époque fascinante. Ce que je me demande surtout, c’est que tout ceci est aussi un choix, non ? Nous l’implémentons à notre façon, mais dans la direction, qui a vraiment le droit de freiner ? Qui va oser dire « Stop, on doit se poser quelques questions éthiques » ?

Reid Blackman : Oui, oui.

David Rice : Et cela peut paraître peu porteur pour la carrière, mais il faut agir de manière responsable.

Reid Blackman : Je vais rapidement définir ce qu’est un agent IA, car c’est là que ça se dirige.

Ma vision d’un agent IA est la suivante, et je ne pense pas être le seul : un agent IA a généralement en son centre un LLM, de type chatbot interactif, et deux conditions doivent être réunies. Premièrement, il doit être connecté à d’autres outils. Donc, vous connectez votre LLM à Internet, à des bases de données d’entreprise ou des logiciels comme votre CRM.

Peut-être même à d’autres IA. Donc, optimisation n°1 : votre LLM a accès à différentes bases de données et logiciels, ou d’autres IA. Condition n°2 : il fait preuve d’autonomie, c’est-à-dire que vous lui attribuez l’objectif final, et il détermine lui-même comment l’atteindre. Plutôt que de devoir dire « D’abord, va récupérer telle info, ensuite traite-la avec telle IA, puis fais une recherche Web… », ce qui serait fastidieux, on peut demander « Je veux que tu envoies un e-mail à mes cinq meilleurs clients pour dire telle chose sur la base de… », et l’agent va, pour ainsi dire, « deviner » quels outils activer, quelles recherches effectuer, à quelles données accéder, etc.

Parce qu’il décide lui-même du moyen d’atteindre la fin fixée, il est autonome dans ses moyens. Donc, si un LLM remplit ces deux critères, c’est connecté à des outils et libre de déterminer comment poursuivre les objectifs qu’on lui donne, alors on a un agent IA.

Et la complexité s’accroît, car l’agent, selon le contexte, va avoir des usages, des connexions et des droits différents (sur quelles données, quels logiciels, dans quel ordre…). Quelles décisions peut-il prendre ? Ainsi, l’imprévisibilité dans l’utilisation des LLM seuls est déjà un défi, or avec les agents IA c’est décuplé. Maintenant que j’ai dit cela, j’ai oublié ta question de départ.

David Rice : L’autre volet, c’est pourquoi la gouvernance classique des risques ne comble pas ce fossé. Je pense que tu pointes justement la complexité, non ?

Reid Blackman : Oui…

David Rice : Les agents IA, on ne leur rédige pas toujours de fiches de poste claires, et il y a des dérives : ils font des choses jamais prévues.

Donc, oui, c’est complexe et techniquement exigeant. Mais tu as peut-être d’autres idées.

Reid Blackman : Exactement. Quand je pense à la gouvernance IA traditionnelle, et je le dis en connaissance de cause – j’ai pratiqué la responsabilité IA « classique » – il y a plusieurs limites. Ce n’est pas que moi, mes collègues, mes concurrents, et mon premier livre, prônaient cette approche standard.

Mais plusieurs points ne fonctionnent plus. D’abord, c’est très descendants et axé sur la politique. Or, dans une grande organisation, faire passer une politique, cela prend au moins un an, parfois deux. Le cas le plus rapide que j’ai vu, c’est neuf mois, et c’étaient des décideurs très compétents et rapides. Mais la technologie va beaucoup, beaucoup plus vite.

Ainsi, dans l’entreprise du lance-flammes (Fortune 500 CPG), ils avaient rédigé une politique ultra robuste concernant déjà l’IA générative, bien meilleure que chez la plupart des clients. On commence à la déployer… mais les gens s’en moquent. Personne ne se lève le matin excité par la nouvelle politique. Donc il faut sensibiliser, adapter à chaque département, à chaque poste, chaque usage métier.

C’est un processus de plusieurs mois/années. Nous étions en train de le faire quand l’IA agentique est arrivée, rendant la politique déjà obsolète, nécessitant de nouveaux arbitrages… C’est sans fin. Et ce n’est qu’avec l’IA ! On pourrait évoquer l’informatique quantique, la blockchain : le paysage technologique explose, et l’approche top-down est trop lente.

Pour l’autre point, la complexité des agents IA rend les procédures standards inadaptées. Disons qu’on a 20 procédures à suivre. Avec l’IA agentique, selon le contexte, 10 de ces procédures seront pertinentes, 10 autres inutiles, et il en manquera 10, spécifiques à votre cas. Croire qu’on peut prédéfinir tous les contrôles et toutes les procédures adaptées est donc illusoire avec cette complexité.

David Rice : Tu viens de dire un truc intéressant.

On suppose qu’on connaît tous les risques, toutes les complexités, tous les rôles. Or, clairement, ce n’est pas le cas.

Reid Blackman : Oui, à 100 %.

David Rice : J’ai vu des données MIT (AI Risk Repository), montrant que les « échecs vérifiés » seraient multipliés par trois entre 2021 et 2025 – et ça, ce n’est que pour les incidents recensés !

Reid Blackman : Tout à fait…

David Rice : La plupart des conseils d’administration considèrent l’éthique IA comme un simple case à cocher. Beaucoup pensent que c’est un problème IT, mais à partir de quand cela devient-il un échec fiduciaire ? À quoi ressemble la responsabilité quand l’IA cause de vrais dommages ?

Reid Blackman : Oui. Ma réponse a beaucoup évolué. Auparavant, les gourous commerciaux du secteur disaient : « L’éthique IA ne ralentit pas, c’est comme les freins sur une voiture, ça fait aller plus vite ». J’ai toujours trouvé cela ridicule, irréaliste – peu vendeur, mais c’était mon avis. Mais franchement, avec l’IA agentique, les choses changent. Car il est évident qu’un agent IA peut partir en vrille.

Avec une IA agentive, c’est clair, en résumant des mails, envoyant des documents, on voit tout de suite le risque de débordements. En plus, ces systèmes prennent des décisions à une échelle et une vitesse humaines inimaginables, sur des dizaines de logiciels, et il devient évident pour tout le monde qu’on va droit vers la catastrophe. On n’a pas besoin d’être technologue pour se dire « euh, il y a danger là ».

Plutôt que de parler de « freins », je préfère parler de « volant » désormais. Si vous ne savez pas piloter l’agent correctement, tout va mal tourner. Avec les agents IA c’est tellement évident qu’on voit déjà des dirigeant·es seniors — pas seulement du côté technique mais aussi RH, exploitation, marketing, direction générale — admettre que ce truc est fou.

David Rice : Ce n’est pas juste un problème légal, ni seulement RH/culture. Il y a aussi un risque de continuité d’activité. Est-ce au DRH de soulever le sujet avant que ça devienne un sujet juridique ? Quand on voit les procès autour de Workday, Eightfold, etc., on se confronte à la question de la responsabilité fournisseur et de la sélection dans les achats. Et côté conseil d’administration, il y a un fossé entre la gouvernance IA affichée et le niveau de compréhension réel.

Reid Blackman : Ils n’ont aucune idée.

David Rice : Ma question était : ont-ils le niveau — la littératie — pour poser les bonnes questions ?

Reid Blackman : Non. Quand je leur parle, je suis sidéré de leur ignorance. Ce sont pourtant des conseils d’administration de Fortune 500, mais ce sont pour la plupart des seniors qui n’ont pas grandi avec Internet, ni l’informatique personnelle, et ils connaissent très peu le sujet. Ça les intimide, ils estiment que c’est un problème IT ou data science, et parce qu’ils ne sont pas matheux ni codeurs, ils gardent prudemment leurs distances, surtout sur la gestion des cauchemars IA. « Ce n’est pas de mon ressort », disent-ils. Et c’est un désastre, surtout actuellement.

Parce qu’on célèbre la démocratisation de l’IA, qui est authentiquement enthousiasmante, et je l’utilise tous les jours… Mais si on veut vraiment en tirer parti, il faut baisser la barrière à l’entrée des discussions sur le risque — démystifier, permettre à tout le monde d’en débattre simplement.

David Rice : Il y a à peine quelques mois/année, beaucoup d’acteurs RH ne se sentaient pas légitimes à utiliser l’IA. Or, on voyait déjà les usages, même si c’était intimidant pour eux. J’imagine qu’au conseil d’administration, qui ont souvent suivi un autre parcours, c’est encore plus intimidant.

Reid Blackman : Oui, tout à fait. Je raconte l’anecdote d’une présentation dans une biotech, devant tous les salarié·es, sur les risques de l’IA dans le recrutement (scoring de CV, etc.). Une responsable conformité disait dans le chat : « Pour rappel, il est strictement interdit d’utiliser l’IA pour les embauches ! » Les gens s’énervent vite sur ce genre de sujets. L’autre souci de l’approche standard, c’est que seule une partie C-suite technique s’en empare (CIO, CISO…). Les RH ne sont jamais moteurs, alors que leur service est souvent le premier touché à cause des données sensibles et des décisions à fort enjeu.

Mais il faut aujourd’hui une solution bien plus rapide et scalable, qui démarre partout, au niveau produit comme RH, sans attendre une politique globale. Le chef RH doit pouvoir dire : « Protégeons-nous tout de suite des cauchemars », sans patienter deux ans pour une consigne officielle. Bref, il faut des solutions rapides, décentralisées, portables dans toute l’organisation, permettant d’identifier par service les cauchemars potentiels, les ressources nécessaires et les besoins en formation. Et il ne faut pas attendre que le juridique s’en mêle !

David Rice : Je suis d’accord. Le cadre responsable IA classique n’est prévu que pour des systèmes prédictibles. Mais ce n’est plus du tout adapté à la réalité actuelle et la majorité des organisations n’ont pas réalisé le décalage. Sur le plan psychologique, pourquoi ce retard ? Déni ? Pression de vitesse ? Incompréhension stratégique ?

Reid Blackman : Il y a différentes causes, et des blocages à divers niveaux. À chaque étape, on bute sur des résistances : querelles de territoire entre départements, refus de s’approprier la politique, opposition de chefs de service – spécialement IT… Tout ceci ralentit la mise en place. Un collègue disait : « Ils se moquent de l’éthique. » Je ne suis pas d’accord. La plupart veulent bien faire, soucieux de leur réputation. Mais on attend trop des responsables techniques : ces dirigeants n’ont jamais été formés à la gestion du changement transversal. D’où le retard dont tu parles. J’ai d’abord voulu former nos clients à l’accompagnement du changement… mais finalement, le problème est qu’on leur en demande trop d’un coup : générer une mobilisation et un alignement colossaux. On doit pouvoir pénétrer les organisations morceau par morceau, pas imposer une refonte totale d’en-haut. C’est en cela que l’approche classique ralentit tout : aligner, concevoir, intégrer… cela prend un temps fou.

David Rice : Avec toute rupture technologique, les cadres existants continuent d’être utilisés même quand ils n’ont plus de sens, car cela rassure. Il y a aussi un aspect humain : peu de leaders veulent remettre en question leurs cadres « historiques », car c’est aussi leur crédibilité qui est en jeu.

Pour chaque DRH ou DOP, il faut rappeler que si votre gouvernement IA précède l’apparition des agents, il est déjà dépassé, cela ne vous protège plus. Ce n’est pas une critique de ce que vous avez fait, c’est juste la vitesse de l’évolution. Impossible de suivre à jour, et idem pour les politiques.

Reid Blackman : Oui. J’ai dit que si tu veux utiliser les chapitres 4 et 7 de mon premier livre comme allume-feu, c’est parfait ! Cela faisait sens alors, mais aujourd’hui plus vraiment. On ne pouvait pas prévoir la percée de ChatGPT ou des agents IA. L’approche était rationnelle pour l’IA classique, mais pas du tout adaptée à l’ère agentique.

David Rice : En 2022, il fallait être data scientist pour comprendre l’IA. Maintenant, c’est la folie des usages, d’autant plus imprévisibles. Plus il y a de monde, plus il y a de complexité, et c’est sans fin.

Reid Blackman : Tout à fait, cela soulève la nécessité d’une communication claire. Les spécialistes data ne savent pas parler aux RH, ni inversement. Tant qu’on ne partage pas un langage commun, on complexifie encore la situation. La question, c’est donc : comment créer un vocabulaire clair autour de l’IA ? Car les agents sont précisément transverses, donc la collaboration devient essentielle pour anticiper les risques majeurs. Le sens du mot « cauchemar », d’où le titre du livre, est que tout le monde comprend : ce n’est pas technique ni jargonneux. Chacun, en RH par exemple, sait formuler ses pires scénarios – « ce serait un vrai cauchemar si... ». Cela rend la discussion concrète, loin des procédures techniques ou des principes abstraits comme la minimisation des données.

David Rice : Tu évoques le diagnostic des cauchemars, qui consiste à imaginer le pire pour ses systèmes IA, alors que ce n’est pas courant. Qu’est-ce que ces conversations révèlent, et quel est le niveau réel de connaissance des entreprises de leur IA ?

Reid Blackman : Elles ne savent pas. Identifier les cauchemars a ouvert les yeux à beaucoup. Cela semble évident, mais ce n’est pas la pratique. Ma formation de philosophe me poussait à raisonner sur l’idéal, le « bien », rarement sur les pires cas. Du côté du risque, c’est très procédurier. Pourtant, dans l’ingénierie (par ex., aviation), commencer par chercher les pires scénarios est la norme. Ce n’est jamais le cas en IA. Or, dès que j’ai structuré l’Ethical Nightmare Challenge ainsi, cela a résonné avec ce que l’ingénierie faisait déjà.

Auparavant, les discussions au conseil commençaient par proclamer des valeurs (« nous sommes pour la justice, la transparence, la responsabilité, la vie privée… »). Mais que signifie « justice » ? Mystère… On traduisait ces valeurs en procédures. Et cela ne parlait à personne, trop technique. Alors que lorsqu’on dit « cauchemars », tout le monde saisit, on arrive facilement à un consensus sur ce qu’on veut absolument éviter. Ce n’est pas parfait, mais c’est beaucoup plus simple à aligner.

David Rice : Et en plus, cela motive davantage, transmet l’urgence.

Reid Blackman : Personne ne s’excite à l’idée de mettre en place des procédures pour la « justice ». Mais si on réfléchit aux scénarios catastrophiques et à leur probabilité, là, on commence à avoir des sueurs froides, et on veut agir !

David Rice : Ce qui est intéressant dans l’analyse « cauchemar », c’est qu’elle pousse à l’honnêteté intellectuelle. Alors que parler de valeurs, c’est abstrait et tout le monde s’esquive. Peu d’organisations sont prêtes à cette honnêteté. Quelqu’un doit pourtant oser rappeler que tout n’est pas toujours rose, et cela suppose une culture où l’on peut le dire sans être taxé de pessimiste — c’est aussi un diagnostic culturel.

Reid Blackman : Exactement, c’est un levier de culture éthique, où il s’agit juste de « c’est ce qu’on fait ici ». Pour l’Ethical Nightmare Challenge : trois questions – 1) Quels sont nos cauchemars IA ? 2) Quelles ressources avons-nous pour les éviter ? 3) Comment formons-nous les équipes à s’en prémunir ? Ces trois questions sont applicables à tous les niveaux – solution, département, entreprise. Et tout le monde devrait être formé à cela, aussi bien à la nature de l’IA, ses scénarios cauchemar intégrés, qu’à ce cadre en trois points.

Pour l’évaluation ou le développement de solutions IA, il y a les équipes ENC (Ethical Nightmare Challenge) qui réunissent les expertises nécessaires (RH, data, legal, risques, parfois le fournisseur externe). Ils suivent une méthode en sept étapes pour identifier/prioriser les cauchemars, établir les ressources et la formation. Les ENC se constituent en fonction des besoins, ce qui permet une mise en œuvre très rapide et flexible – bien plus scalable que la politique descendante. Plus les gens adoptent cette approche, plus cela devient un réflexe culturel : la capacité organisationnelle à éviter les cauchemars IA s’ancre dans la culture même.

David Rice : Et du point de vue RH, c’est indispensable avant le lancement et non après les incidents. Mais beaucoup n’arrivent pas à anticiper ; aurais-tu des conseils pour bâtir cette anticipation alors que la culture n’y est pas ?

Reid Blackman : D’abord, les équipes ENC projets sont justement dans l’anticipation, afin de réfléchir à ce qui pourrait mal tourner, développer en amont les outils de suivi, d’alerte. Les équipes ENC au niveau département (par exemple RH) anticipent aussi, amènent les leaders à se voir comme des solveurs de problèmes, pas seulement des gardiens de procédures. Les réponses peuvent exiger des règles, mais aussi des inventaires de cauchemars, des stratégies éprouvées, ou des groupes de discussion réguliers. Bref, cette approche est autant proactive que centrée sur la résolution de problème.

David Rice : L’IA agentique modifie en profondeur le calcul du risque. Les agents sont autonomes et prennent des initiatives. Pour un COO ou DRH, la question de la responsabilité évolue : qu’est-ce que cela implique quand tout dérape ?

Reid Blackman : Les équipes ENC sont la première ligne. Mais plus globalement, l’attribution de la faute est complexe — comme pour un crash d’hélicoptère, il faut regarder le design, la manufacture, la maintenance, le pilotage, le contrôle aérien… Pour l’IA, est-ce la faute de l’outil, du fournisseur tiers, du développeur interne, du modèle fondationnel de base, des adaptations ? Pas de règle universelle, chaque cas est à investiguer.

David Rice : En effet, l’agenticité fait disparaître le point de décision humain qui était le nœud de la responsabilité. Ce qui est déroutant.

Reid Blackman : On peut assigner une part de la responsabilité à celui qui a donné le feu vert. Mais l’imprévisibilité limite son imputabilité : on ne peut pas lui reprocher ce qui dépasse le raisonnable.

David Rice : Et de toute façon, nombre d’entreprises ignorent même ce que font vraiment leurs collaborateurs avec l’IA, voire qu’ils côtoient un agent. Il y a là une dimension de transparence et de consentement qui va au-delà de la conformité. On continue de parler de confiance, mais là, c’est carrément jeter de l’huile sur le feu…

Reid Blackman : Un dernier mot : beaucoup de dirigeant·es ont peur d’aborder ces sujets auprès des salarié·es. Ils pensent qu’en évoquant les dangers, personne n’adoptera l’IA. Certains me disent : « On aime ‘cauchemar’ mais c’est trop négatif ; peut-on changer de mot ? » Je pense que c’est une grave erreur, car nier le problème ne le règle jamais. De plus, bien des gens sont anxieux face à l’IA ; il vaut mieux reconnaître les incertitudes et accompagner l’appréhension, ce qui favorisera bien plus l’adoption que l’évitement du sujet.

David Rice : Ce réflexe d’adoucir le langage pour faire passer la pilule, c’est une mauvaise habitude de notre société. On préfère parler de « personnes sans-abri » que de « SDF » mais cela n’aide en rien à régler le problème… Pour l’IA, il ne sert à rien de maquiller les « cauchemars ». Catastrophe, désastre, appelez-les comme vous voulez : il faut nommer les choses franchement !

Reid Blackman : Exactement. J’ai une formation en philosophie : il faut expliquer le problème de front, sans fard ni sourire de façade. L’IA est bluffante mais ce n’est pas tout rose.

David Rice : Sur les réseaux, il y a du contenu très drôle, mais il faut reconnaître que cela pourrit les débats publics. Il faut voir la réalité en face.

Reid Blackman : Oui, ça me dépasse, cet espèce d’infantilisation des employés, comme si on devait les materner parce qu’ils seraient trop « fragiles » pour entendre la vérité. Ce ne sont pas des enfants !

David Rice : Ils ont déjà utilisé d’autres outils, d’autres technologies. Si on ne les accompagne pas, ils se débrouilleront seuls — et parfois n’importe comment…

Reid Blackman : En effet. À l’arrivée de l’IA générative, c’était comme l’éducation à l’abstinence : « N’y touchez pas ! » Est-ce que ça marche ? Évidemment que non. Premier réflexe : aller sur chatgpt.com !

David Rice : Première action des employés : foncer ouvrir chatgpt.com. Bien sûr !

Reid Blackman : Préparez-vous aux conséquences…

David Rice : Tu rappelles que les cauchemars éthiques ne viennent presque jamais d’intentions malveillantes, mais de gens de bonne volonté allant plus vite que leur capacité de discernement. C’est inconfortable pour ceux qui ont axé leur stratégie IA sur la vitesse et la compétitivité. Mais comment convaincre un·e CEO persuadé·e que le seul risque est de décrocher et que l’important, c’est la vitesse et la productivité ?

Reid Blackman : Il n’y a pas de contradiction. Je me moquais de la métaphore de la voiture et des freins, mais aujourd’hui avec l’agenticité, c’est la vérité : il faut absolument éduquer vos équipes. Vous voulez aller vite ? Formez les salarié·es, pas uniquement sur l’opportunité, mais sur les risques aussi. Sinon, ce serait insensé. Si vous ne le faites pas, tôt ou tard, vous trébucherez. En comprenant les failles et en sachant comment exercer son jugement, c’est là qu’on peut vraiment aller plus vite, en sécurité.

David Rice : C’est un renversement important pour les dirigeants : le mythe veut que les échecs éthiques arrivent aux « mauvais » ou négligents, tandis que ton livre dit : cela arrive aux entreprises consciencieuses, mais où la vitesse dépasse la prudence. Ce qui modifie totalement la façon d’intervenir.

Reid Blackman : Oui, c’est bien résumé : aller plus vite que ce que le jugement humain peut suivre.

David Rice : C’est donc moins une question de règles qu’une capacité à ralentir au bon moment. Dans une culture obsédée par la vitesse, ça va à contre-courant.

Reid Blackman : Oui. La stratégie « aller vite et casser » n’est tenable que si l’on se fiche de l’éthique ET si on a tant d’argent qu’on peut payer n’importe quelle amende (pensez à Meta). Pour le reste des entreprises, c’est absurde. Si vous tenez à votre marque, mieux vaut éviter.

David Rice : Merci de remettre en question l’illusion d’opposer vitesse et éthique.

Reid Blackman : Oui, et je pense qu’aujourd’hui je suis très en avance dans l’adoption de l’IA, parce que je sais comment éviter les pièges, vérifier les infos, et résister à la tentation de faire confiance à l’ordi. Comprendre les risques, c’est ce qui m’a permis d’être efficace. Ce n’est donc pas vrai qu’éthique rime avec lenteur.

David Rice : Je réagis souvent face au dogme « move fast, break things » — le vrai risque, c’est le fiasco public qui ruinerait la confiance et ferait rétrograder le business. Mon souhait : « Avançons à un rythme normal, et faisons mieux ! »

Reid Blackman : Oui, il faut changer de perspective. On me demande souvent des arguments imparables, mais il n’y en a pas pour tout le monde (on ne convaincra pas Zuckerberg, qui a survécu à Cambridge Analytica…). Facebook peut tout se permettre. Mais la plupart des boîtes ne le peuvent pas. Même sans l’éthique, préserver sa marque devrait suffire. C’est évident.

David Rice : Dernière question : pour un·e dirigeant·e, s’il a conscience du problème, à quoi doit ressembler la première vraie discussion sur l’IA et qui doit y participer ?

Reid Blackman : L’Ethical Nightmare Challenge peut se lancer à tous les niveaux : département, division, projet. S’il n’y a qu’une seule question à poser : avons-nous identifié quels cauchemars éthiques/réputationnels/juridiques pourraient survenir avec l’adoption de l’IA ? S’ils répondent oui, parfait, mais la plupart diront non… et si ça ne les motive pas à agir, rien d’autre ne le fera.

David Rice : Ce qui est positif, c’est que tu dis qu’on peut commencer très localement, par petits pas – pas besoin de bâtir tout un programme d’éthique IA dès le début, mais il faut au moins une conversation honnête sur la réalité de l’entreprise.

Reid Blackman : Ce que nous faisons désormais, là où l’approche standard l’empêchait, c’est de piloter The Ethical Nightmare Challenge : former, sélectionner deux ou trois équipes (niveau projet ou département), suivre la méthode, et expérimenter la prévention sur un pilote de dix semaines. Si ça fonctionne, on passe à l’échelle. Sinon, on arrête. Mais c’est un engagement minime, aucune nécessité d’un énorme chantier initial. Contrairement à une politique étendue, qui, elle, requiert des mois d’élaboration et d’implémentation… Non : il faut et on peut commencer petit.

David Rice : Merci beaucoup Reid pour ton intervention. J’ai vraiment apprécié cet échange.

Reid Blackman : Merci à vous, avec plaisir.

David Rice : Auditeurs, pensez à jeter un coup d’œil au livre de Reid Blackman, The Ethical Nightmare Challenge. Lisez-le et réfléchissez-y sérieusement. Beaucoup de questions essentielles sont soulevées. Si ce n’est pas déjà fait, rendez-vous sur peoplemanagingpeople.com/subscribe pour la newsletter. Vous recevrez le podcast et tous nos contenus directement dans votre boîte mail.

Et jusqu’à la prochaine fois, prenons l’habitude de nous demander « Qu’est-ce qui pourrait mal tourner ici, et qui en pâtirait ? » plutôt que « Combien de temps avant d’expédier ça ? » À bientôt.