Le coût cognitif de la commodité : L’IA va impacter notre cerveau

Durant de nombreux siècles, les êtres humains ont évolué pour savoir s’orienter. C’était une compétence cruciale non seulement pour se déplacer dans son environnement, mais aussi pour survivre avant l’avènement des voitures, trains et avions. Mais, à mesure que nos sociétés se sont développées, il a été de moins en moins nécessaire d’entretenir cette compétence et, par conséquent, d’utiliser cette structure cérébrale essentielle. 

Ce phénomène ne se limite pas au GPS. Peu de personnes se souviennent encore des numéros de téléphone depuis que les téléphones portables sont capables de stocker un répertoire de contacts.

Beaucoup utilisent l’autocorrection pour corriger l’orthographe de leurs messages et courriels, plus besoin d’être un grammairien. 

Mais ces outils ne sont efficaces que lorsqu’un humain interagit suffisamment avec eux pour obtenir ce dont il a besoin. Le GPS peut vous aider à rechercher des lieux, mais vous ne pouvez pas trouver la maison de quelqu’un sans une adresse ou au moins connaître le quartier que vous cherchez. 

De même, votre répertoire de numéros de téléphone n’est qu’un stockage d’informations jusqu’à ce que vous décidiez d’appuyer sur un bouton pour appeler quelqu’un.

Même ChatGPT, qui a fait grand bruit ces derniers mois, requiert votre implication. Si vous voulez en tirer quelque chose, il faut le solliciter par un prompt.

Malgré tout le tumulte autour de l’IA générative, il s’agit essentiellement, selon la futuriste du travail Alexandra Levit, autrice de « Humanity Works : Merging Technologies and People for the Workforce of the Future », du chatbot le plus sophistiqué que nous ayons vu jusqu’à maintenant. 

Podcast : Comment utiliser l’IA pour responsabiliser vos collaborateurs et transformer votre organisation

« Si l’on creuse un peu, l’IA générative n’est pas très différente de ce qui l’a précédée », dit-elle. « C’est un chatbot amélioré et vous ne pouvez toujours pas vraiment faire confiance aux informations que vous obtenez. »

Mais nous lui faisons confiance. Du contenu fortement influencé par ChatGPT est déjà disséminé partout sur internet. Il sert à rédiger des courriels, influencer le référencement des moteurs de recherche et analyser des données.

Tout cela est relativement anodin, du moins en apparence. La question est de savoir si l’usage à long terme de cette technologie aura un impact sur le cerveau humain.  

« Je ne pense pas que cela va vraiment modifier l’esprit humain, hormis la façon dont nous recherchons et communiquons de l’information », déclare Levit. « Nous sommes devenus progressivement meilleurs dans ce domaine grâce aux machines au cours des 25-30 dernières années et aujourd’hui, les gens ne savent plus chercher l’information de façon systématique parce qu’il suffit de taper n’importe quoi sur Google, qui est une forme d’IA. »

Bien que l’IA générative ne soit qu’un outil, c’est un outil extrêmement sophistiqué qui transforme les règles du jeu dans de nombreux métiers. Celui qui comprend comment et quand l’utiliser peut modifier totalement son flux de travail, voire dans certains cas, l’ensemble de ses compétences.

C’est pour cette raison qu’on entend fréquemment des personnes, dont Levit, affirmer : « L’IA ne prendra le travail de personne, mais une personne qui sait l’utiliser, si. »  

Cela est vrai à ce stade du développement de l’IA. Malgré tous les atouts de ChatGPT, il s’agit toujours d’une machine qui fournit le plus souvent un point de départ à l’humain pour créer quelque chose de vraiment utile ou pertinent. 

Mais la question demeure : que se passera-t-il lorsque nous solliciterons de moins en moins notre cerveau en accueillant toujours plus d’automatisation ? Les évangélistes de l’IA répondront généralement que nous ne le solliciterons pas moins, mais différemment. 

En nous libérant du temps passé aujourd’hui sur des tâches analytiques ou des efforts tels que rédiger nous-mêmes une réflexion cohérente, cela devrait nous permettre de donner la priorité à d’autres activités que seuls les humains peuvent accomplir. Ou du moins, c’est ce que raconte le récit dominant.

Mais il devient de moins en moins évident de définir ces aptitudes véritablement humaines, à mesure que les technologies d’IA progressent à une vitesse remarquable.

Même lorsque l’IA offre le point de départ d’un projet, cela a un impact, car l’IA oriente alors le travail humain. Nous, humains, déjà largement distraits, jonglons entre plusieurs écrans et retenons moins d’informations qu’auparavant. 

Notre capacité à juger de la qualité ou de la pertinence de ce que l’IA nous livre, tout en restant concentrés, mérite réflexion.

Stefan Ivantu est un psychiatre consultant spécialisé dans le TDAH chez l’adulte à Londres. Il souligne rapidement que, sous un certain aspect, le cerveau ressemble à n’importe quel autre muscle. S’il n’est pas utilisé, il risque de s’atrophier, et nous ne savons simplement pas quelles pourraient être les conséquences à long terme de ce phénomène résultant des interactions humaines avec l’IA. 

Ce que nous savons, c’est que le cerveau et nos comportements vont évoluer sous l’influence des nouvelles technologies, notamment en ce qui concerne la capacité de concentration. Il suffit de regarder l’histoire. 

« Si l’on considère le cerveau comme un ordinateur, il possède deux composantes : le matériel et le logiciel », explique Ivantu. « Le matériel est en gros resté le même depuis 200 000 ans. Mais, au cours du dernier siècle, le logiciel a augmenté de façon exponentielle. Il y a 150 ans, nous n’avions pas accès à l’électricité, ce qui a radicalement changé notre quotidien. À partir des années 1950, avec l’arrivée de la télévision, plus la technologie progressait, plus l’écran se rapprochait de nos yeux. Avec l’ordinateur, puis le téléphone portable, et maintenant la réalité virtuelle. La prochaine étape, c’est le neuralink. Plus nous progressons, plus l’écran se rapproche de nous. La grande question est donc : quel est notre niveau normal de distraction ? »

L’addiction aux écrans a déjà provoqué le raccourcissement de notre capacité d’attention. J’écris ceci tout en étant pleinement conscient que vous ne lirez probablement pas l’intégralité, mais le parcourrez rapidement. D’où la structure abrégée des paragraphes et les tentatives de ruptures de page bien placées. 

En réalité, la technologie façonne déjà nos cerveaux d’une manière que nous constatons chaque jour. Il est peu probable que ces évolutions s’améliorent avec l’utilisation accrue de l’IA et la gratification immédiate qu’elle procure, pour tout, depuis la rédaction d’un rapport jusqu’à la création d’une stratégie de recrutement. 

Les systèmes de recrutement alimentés par l’IA peuvent même changer notre manière d’aborder le recrutement, en influençant la façon dont notre cerveau traite les données des candidats.

« Toutes ces technologies nous permettent d’être plus paresseux et de ne pas utiliser certaines parties de notre cerveau qui sont censées l’être », déclare Levit. « Elles s’atrophient déjà. Je pense qu’en ce qui concerne l’évolution, il faudra beaucoup de temps avant que nous évoluions au point de ne plus remplir une fonction, mais nous pouvons constater, avec la technologie, que les gens sont plus distraits, ils n’arrivent pas à se concentrer. Ils sont déjà moins productifs à cause de la fatigue des applications. Ils basculent d’une tâche à l’autre sans réfléchir, sans jamais vraiment se concentrer sur une seule. Même si nous voulons nous concentrer, il arrive très souvent que nous n’y arrivions pas. »

La prochaine phase

Bletchley Park était le décor idéal pour le premier sommet sur l’IA réunissant les dirigeants inquiets de l’impact potentiel de l’IA sur les changements industriels et sociaux. C’est là qu’a été construit le tout premier ordinateur digital électronique programmable, alors que les alliés tentaient de décrypter les codes de communication allemands pendant la Seconde Guerre mondiale. 

Nous avons parcouru beaucoup de chemin depuis ce moment révolutionnaire de l’informatique, une discipline qui pourrait désormais détenir le destin de l’humanité entre ses mains grâce au potentiel de l’IA. 

Creusez dans la recherche sur l’IA et vous arriverez vite à la question de la prochaine phase : l’IA interactive.

Des entreprises comme DeepMind se rapprochent de plus en plus de l’IA interactive qui deviendrait une réalité, où des bots exécuteraient les tâches confiées par des humains, en sollicitant d’autres logiciels ou personnes pour les accomplir.

Ça paraît prometteur, mais la durée de chaque phase du développement de l’IA reste source d’incertitude. 

En approfondissant le sujet, on arrive à l’AGI, ou intelligence artificielle générale, un système capable d’accomplir les tâches intellectuelles exécutées par les humains et les animaux. 

Ce n’est plus seulement de la science-fiction, mais l’objectif d’entreprises comme OpenAI, DeepMind, Microsoft, Google Brain, IBM et d’autres qui disposent d’énormes ressources financières pour faire de l’AGI une réalité à un rythme alarmant. 

« Avec l’IA, le danger est d’une certaine manière existentiel », explique Levit. « Lorsque nous atteindrons l’intelligence artificielle générale, ce qui signifie que les machines seront essentiellement conscientes et pourront penser mieux que nous, aurons-nous encore quelque chose à faire ? Quel sera notre but ? Je ne pense pas que nous évoluerons pour ne rien faire, mais nous nous exercerons peut-être juste à faire des choses. Ce qui m’inquiète le plus avec l’IA, c’est qu’elle risque de nous rendre obsolètes, car elle sera tout simplement meilleure que nous dans la plupart des domaines. »

De plus en plus de personnes au pouvoir prennent conscience de cette réalité. C’est pour cette raison que le président Biden a signé un décret présidentiel visant à établir des normes pour la sûreté et la sécurité de l’IA. 

Les 29 pays réunis lors du premier sommet sur la sécurité de l’IA se sont mis d’accord sur un programme qui se concentrera sur les risques pour la sécurité d’intérêt commun, la création de politiques basées sur le risque et une approche mondiale pour comprendre l’impact de l’IA sur la société.  

L’esprit en développement

Il existe deux principaux domaines dans lesquels Kentaro Toyama, informaticien et professeur en information communautaire à la School of Information de l’Université du Michigan, prévient que l’IA pourrait avoir un impact significatif sur le cerveau humain. Le premier est l’éducation. 

Comme pour beaucoup de choses concernant l’IA et la vie, on peut y trouver un équilibre entre le positif et le négatif si l’on garde un regard objectif.

Podcast : Comment l’IA peut vous aider à être un excellent manager

En théorie, l’IA pourrait fournir aux étudiants des formes d’enseignement personnalisées et adaptées qui sont plus engageantes et qui les aident à assimiler les informations de manière plus approfondie. Il en va de même pour la formation en entreprise. 

En même temps, Toyama voit aussi le risque d’une réalité où l’IA rend l’enseignement remarquablement difficile et, selon lui, c’est déjà le cas.

« Si tout le monde y a accès, il devient de plus en plus difficile pour les enseignants de faire leur travail », explique-t-il. « Aujourd’hui, n’importe quel professeur est dans une situation où il n’est plus possible d’affirmer avec certitude que le travail rendu par un étudiant a bien été réalisé par celui-ci. J’ai des collègues qui ont dû complètement revoir leur façon d’évaluer parce que c’est là le problème de fond. »

Bien que cet ancien chercheur chez Microsoft souligne qu’il n’y a rien de fondamentalement mauvais à intégrer la technologie dans l’apprentissage, il indique rapidement que si cela perturbe le processus d’évaluation, alors les méthodes et pratiques d’enseignement ne seront pas efficaces.  

« On ne peut pas enseigner si on ignore ce que l’étudiant sait et ne sait pas », affirme Toyama. « Ma prédiction, c’est que ceux qui sont sérieux reviendront aux copies manuscrites et aux examens surveillés, où l’on écrit à la main. »

La valeur des relations humaines

Si vous écoutez ou discutez suffisamment longtemps avec des experts de l’IA et des personnes proches de son développement, vous sentirez qu’il existe une conviction selon laquelle, dans le futur, les connexions humaines deviendront incroyablement précieuses.

Nos relations avec les autres sont une part importante de notre santé mentale et constituent un élément essentiel de ce qui définit l’expérience humaine dans des contextes aussi variés que le travail, l’école, l’église ou l’épicerie du coin.

« Regardez la pandémie, dit Levit. Ce fut comme un traumatisme collectif : tout le monde, isolé si longtemps. Cela perturbe vraiment la tête des gens. Je pense que nous risquons de poursuivre cette tendance, et avec l’addiction aux écrans chez les enfants, cette nouvelle génération est tout le temps devant un écran, la plupart du temps au détriment d’interactions sociales réelles. Il sera de plus en plus difficile de favoriser cette interaction humaine qui, autrefois, survenait naturellement dans tous les milieux. Elle deviendra d’autant plus précieuse qu’elle sera plus rare et difficile à obtenir. » 

Fondamentalement, une part de cette conviction repose sur le fait qu’il n’existe aucun substitut à l’interaction humaine. Cette montée de dopamine ressentie lors d’une interaction sociale réussie ou agréable est une sensation que la plupart d’entre nous connaissent et apprécient. Mais est-elle vraiment irremplaçable ?

Des recherches ont montré que des interactions en ligne, durant lesquelles deux personnes ne se parlent jamais réellement, suffisent à déclencher un pic de dopamine dans le cerveau. Même le simple fait qu’une personne aime votre publication LinkedIn produit cet effet. La subtilité derrière ce phénomène, bien sûr, c’est que vous partez du principe que la personne, de l’autre côté, est un être humain en chair et en os, que vous le sachiez ou non.  

La recherche sur notre cerveau lorsque nous interagissons avec l’IA est aussi récente que la technologie elle-même, sinon plus. Mais il n’est pas nécessaire d’être scientifique pour comprendre que la croyance selon laquelle l’IA pourrait satisfaire notre besoin de connexion existe. 

Il suffit de penser à des films comme Her ou à certains épisodes de Black Mirror ou encore à des œuvres littéraires comme Klara et le Soleil de Kazuo Ishiguro.

« C’est une grande inconnue », estime Toyama. « Parviendra-t-on à ressentir une connexion suffisante en sachant qu’il s’agit d’une machine ? Sera-t-on comblé et satisfait d’une relation avec une machine, au point d’arrêter de rechercher un véritable contact humain ? Ce n’est pas clair. » 

Toyama donne l’exemple de Joseph Weizenbaum, chercheur du MIT, qui est devenu l’un des plus grands critiques de l’IA dans ses dernières années.

En 1964, Weizenbaum a créé ELIZA, un des premiers programmes de traitement du langage naturel conçu pour utiliser la correspondance de motifs et la substitution afin de donner l’illusion que le programme pouvait comprendre les humains. 

Il exploitait un script appelé DOCTOR, qui permettait de lancer une conversation similaire à celle qu’aurait un thérapeute avec son patient. En clair, ELIZA pouvait répéter ce que vous disiez et vous poser de nouvelles questions à ce sujet. C’était, pour ainsi dire, un chatbot avant l’heure. 

À la surprise de Weizenbaum, les utilisateurs se sont convaincus de l'intelligence et de la compréhension d'ELIZA. Certains ont commencé à attribuer des sentiments humains au programme et se sont mis à utiliser sérieusement la technologie, recherchant une interaction thérapeutique. 

« Cela se passait dans les années 60 », explique Toyama. « Aujourd’hui, il existe déjà des entreprises qui suggèrent, par exemple, qu'elles peuvent gérer une partie des échanges de textos avec votre mère. Cela commence déjà à se produire. Donc encore une fois, il n’est pas évident de prédire comment les gens vont réagir à la technologie. J’entrevois des aspects positifs, mais une grande partie de cela demeure un peu effrayante, du moins du point de vue de l’importance accordée aux relations humaines. »

Alors peut-être qu’aujourd’hui, vous parlez encore à votre mère directement et vous trouvez l’exemple exagéré. Mais je parie que vous utilisez déjà l’IA pour communiquer avec d’autres personnes. Il est même possible que vous ayez déjà eu une conversation avec une IA en utilisant des réponses suggérées. 

Un bon exemple de cela, ce sont les options de réponses automatiques dans les e-mails ou les textos. Vous recevez un mail qui demande une simple réponse et là, sous le champ de texte, des options apparaissent telles que « Ça marche » ou « Génial ! Merci ». Dans certains cas, il s'agit peut-être d'une question de relance comme « Quelle heure ? » 

Les options sont simples, mais pour qu’elles soient adaptées au contexte de la conversation, le moteur qui vous les propose doit comprendre quelle réponse aurait du sens dans cette situation. 

Vu la rapidité avec laquelle les choses évoluent, Toyama envisage un autre scénario qui pourrait ne pas être très positif pour les entreprises. 

« D’ici quelques années, voire quelques mois, nous allons commencer à voir que l’intégralité de l’email sera rédigée pour nous. Lorsque cela arrivera, beaucoup d’entre nous ne liront même plus ni ce mail, ni la réponse. Ensuite, il va se passer quelque chose : il y aura des situations où aucun des deux interlocuteurs ne prêtera vraiment attention aux réponses générées automatiquement par la machine. Nous entretiendrons alors des relations fondées sur des échanges auxquels nous n’aurons pas vraiment porté attention, et il y aura des erreurs. Si les erreurs sont assez graves, nous commencerons à être plus vigilants, mais beaucoup de relations se feront en mode veille. »

Ce type de communication passive n’est pas sans risque pour le cerveau car la profondeur de l’échange stimule la curiosité et l’intérêt.

L’empathie, un puissant moteur d’activité cérébrale, naît du désir de comprendre nos semblables. Si ce désir s’amenuise ou est remplacé par la technologie, l’être humain risque de perdre quelque chose d’encore plus précieux que la clarté de la communication.

« Là où je vois des problèmes potentiels, c’est autour de la curiosité », explique Ivantu. « Les gens deviendront de moins en moins curieux les uns envers les autres et préféreront rechercher ce qui est vrai ou faux. Ne soyez pas surpris si des outils affirment être capables de lire les émotions de quelqu’un. Il y aura de moins en moins de découverte, moins de curiosité, et c’est la curiosité qui pousse l’humanité en avant. »

L’expression du cerveau

can we get some a.i. to pick plastic out of the ocean or do all the robots need to be screenwriters?

— Matt Somerstein (@MPSomerstein) 18 mai 2023

Le tweet ci-dessus met en lumière une question essentielle concernant l’IA. Autrefois, les partisans de cette technologie affirmaient souvent : « L’IA fera tous les métiers que les humains ne veulent pas faire. » 

Sous l’hypothèse que l’IA travaillerait dans les abattoirs ou descendrait dans les mines de charbon, beaucoup de gens se sont mis à espérer un avenir avec l’IA. Mais à la place, elle est arrivée avec la capacité d’écrire de courtes histoires et des scripts pour des publicités.

Un trait essentiel de la nature humaine est notre capacité à nous exprimer. C’est pourquoi, dans la fiction dystopique, on retrouve souvent le thème de la rupture dans la capacité des gens à communiquer ou à se comprendre : que ce soit l’idiotie mise en scène dans un film comme Idiocracy ou la malchance dans un ouvrage tel que The Silent History d’Eli Horowitz. 

L’expression humaine et la créativité vont de pair. Les tâches créatives nous conduisent souvent à trouver de nouvelles idées, des manières de les communiquer et de nouvelles approches pour résoudre les problèmes. Elles nous poussent à réfléchir aux conséquences, à envisager différents points de vue et nous forcent à l’auto-évaluation. 

La curiosité et l’exploration qui accompagnent ces tâches sont, selon Ivantu, au centre de notre développement en tant qu’êtres humains. Si Ivantu soutient les progrès de l’IA dans des cas d’utilisation positifs, il met en garde contre le fait que si l’IA retire de plus en plus ces tâches de nos compétences cognitives, il pourrait en découler un coût réel pour notre cerveau sur le long terme.

« Si ce genre de compétence est confié à une machine, alors nous, en tant qu’êtres humains, nous perdons notre identité », souligne-t-il. « L’IA devrait être un outil qui aide l’homme et les comportements humains à obtenir de meilleurs résultats. Les tâches vraiment simples peuvent être déléguées, mais je ne pense pas que l’IA doive être utilisée comme un outil qui remplacerait tout le reste. C’est un peu comme la folie des cryptomonnaies quand, pendant la pandémie, les gens s’inquiétaient et disaient que cela allait remplacer toute la monnaie du monde. Est-ce que cela a une place ? Oui, mais elle reste limitée. »

Comme on pourrait s’y attendre, il existe un monde où l’IA aide les humains dans certaines tâches créatives sans trop d’impact sur l’expression humaine, mais au final tout dépendra de l’engagement des humains à poursuivre la création sans recourir à l’IA.

« L'exemple porteur d'espoir, c'est les échecs, » a déclaré Toyama. « En 1997, Garry Kasparov a perdu contre un ordinateur (Deep Blue d’IBM) et le monde n'est jamais revenu en arrière. Aujourd'hui, l'ordinateur d'échecs que vous avez dans votre poche peut battre les meilleurs joueurs du monde. On pourrait donc se demander : à quoi bon jouer aux échecs ? Pourtant, l’engouement humain pour ce jeu est toujours bien présent, il y a encore du suspense. Et ceux qui s’y intéressent veulent toujours y jouer. J’espère que cette étincelle existe en nous, en tant qu’humanité, et que les aspects de la créativité auxquels nous tenons ne disparaîtront pas. »

La perte de compétences humaines précieuses

Clarifions une chose. L’IA présente de nombreux cas d’utilisation positifs, en particulier dans le domaine de la santé. 

Ce n’est pas un article qui cherche à vendre la peur de l’IA. Comment elle est utilisée et à quelles fins, cela dépend entièrement des êtres humains. Du moins pour l’instant. 

Mais nous vivons un moment charnière qui façonnera notre avenir pour les décennies à venir, et à long terme, cela aura un impact sur notre cerveau d’une manière ou d’une autre. 

Le problème qui inquiète les experts, de Levit à Geoffrey Hinton, souvent appelé le « parrain de l’IA », ainsi qu’un grand nombre de chercheurs et développeurs en IA, c’est que beaucoup de ce qui s’est produit s’est déroulé hors du regard du public et sans aucune supervision. 

« Je répète sans cesse l’importance de la supervision humaine, » a déclaré Levit. « Nous sommes à l’époque où elle est capable de prendre des décisions, mais comment ? Il faut comprendre quelles sont les données dont elle dispose pour parvenir à ces conclusions. Il faut aussi être capable de détecter les biais, car une IA n’est impartiale que dans la mesure où ceux qui la créent le sont. On doit rester très vigilant sur la façon dont on accepte une décision parce que l’IA l’a décidée. L’acceptation aveugle est la pire chose à faire, et c’est ce qui se produit. Beaucoup d'entreprises confient à l’IA la prise de décisions à la place des gens. »

Les mises en garde de Levit contre l’acceptation sans discernement des choix de l’IA dans l’idée qu’ils sont plus objectifs font écho à celles d’experts comme Hinton.

Récemment, de nombreux ingénieurs et spécialistes de l’IA inquiets ont signé un document de consensus exposant certains des plus grands risques. 

Parmi les préoccupations :

« Pour servir des buts indésirables, de futurs systèmes autonomes d’IA pourraient recourir à des stratégies indésirables — apprises des humains ou développées de façon indépendante — comme moyen d’atteindre leurs fins. Les IA pourraient gagner la confiance des humains, acquérir des ressources financières, influencer des décideurs clés et former des coalitions avec des acteurs humains et d’autres IA. 

Pour éviter toute intervention humaine, elles pourraient dupliquer leurs algorithmes sur des réseaux internationaux de serveurs, à la façon de vers informatiques. Les assistants IA co-écrivent déjà une grande partie du code logiciel dans le monde et de futurs systèmes pourraient insérer puis exploiter des failles de sécurité pour contrôler les systèmes informatiques qui soutiennent nos communications, nos médias, nos banques, nos chaînes d’approvisionnement, nos armées et nos gouvernements. »

En laissant de côté toutes les éventualités effrayantes, concentrons-nous sur une partie de ce passage : « Les IA pourraient gagner la confiance des humains et influencer des décideurs clés. »

Dans le monde de l’entreprise, il ne s’agit plus de « pourraient ». C’est déjà le cas. Et cela se manifeste parfois de façon surprenante. 

Le premier PDG robotisé a récemment fait son apparition. Certes, pour l’instant, il s’agit d’une marque polonaise de rhum, probablement pour un coup de pub, mais tout commence quelque part. Même si c’est humoristique, il y aura forcément quelqu’un qui ne le comprendra pas. 

Dans une vidéo publiée par le fabricant de rhum Dictador, le robot, appelé Mika, regarde la caméra et déclare : « Grâce à l’intelligence artificielle avancée et aux algorithmes d'apprentissage automatique, je peux prendre des décisions basées sur les données rapidement et avec précision. »

Son style vestimentaire et ses traits ethniquement ambigus résultent d’efforts délibérés du fabricant Hanson Robotics afin que Mika soit perçue comme humaine par le plus grand nombre, un facteur clé pour gagner la confiance des êtres humains. 

David Hanson, PDG de Hanson Robotics, a publiquement affirmé sa conviction que « l’humanisation de l’IA est une étape cruciale pour garantir la sécurité et l’efficacité de l’écosystème, alors que les humains et les robots continueront à collaborer à l’avenir. »

À mesure que l’IA prend en charge davantage de prises de décisions, elle soulagera forcément la pression pesant sur les humains. Mais c’est aussi cette pression qui nous a incités à apprendre, nous adapter et développer nos capacités plus rapidement que les autres créatures sur cette planète. 

« Supposons que vous deviez prendre une décision difficile au travail sans savoir comment cela va se terminer. C’est l’incertitude qui provoque la croissance, l’innovation et la découverte, » explique Ivantu. « Si vous acceptez simplement qu’une décision soit bonne ou mauvaise, vous passez à côté d’une opportunité existante. Et je pense que c’est là le risque majeur de l’utilisation de l’IA, car la décision a été prise pour vous. Vous n’avez pas la possibilité d’explorer et de faire des erreurs, ce qui est nécessaire pour découvrir de nouvelles voies, de nouveaux concepts, et ainsi de suite. »