Effet ELIZA au travail : éviter l’attachement émotionnel aux collaborateurs IA

Les employés se retrouvent de plus en plus à travailler non seulement aux côtés de collègues humains, mais également d’assistants d’IA conversationnels et d’agents d’IA. Les implications psychologiques de ce changement pourraient être encore plus complexes que les implications technologiques et financières : alors que des millions d’employés interagissent chaque jour avec des collaborateurs IA, les témoignages font état d’attachement émotionnel chez certains d’entre eux.

Les risques associés vont bien au-delà de la perte de productivité due au temps passé à bavarder avec des chatbots. Les véritables dangers organisationnels de l’investissement émotionnel avec l’IA comprennent l’exposition à des risques RH (tels que le partage excessif d’informations personnelles sensibles par les employés) et aux risques de cybersécurité (tels que la vulnérabilité accrue à l’ingénierie sociale), les incidents dans les relations publiques ou même les dommages physiques.

Les entreprises et les institutions investissent massivement dans des solutions pilotées par l’IA générative afin de tirer parti de leur formidable potentiel. Les entreprises qui cherchent à rentabiliser leurs investissements ont naturellement intérêt à s’assurer que leurs employés utilisent réellement ces outils d’IA. Mais à une époque où des éditeurs de presse flirtent avec des subordonnés générés par IA et où des adultes par ailleurs raisonnables tombent amoureux de modèles d’IA, maximiser sans discernement l’engagement des employés envers l’IA peut coûter cher.

L’augmentation des risques émotionnels liés à l’IA s’explique par la puissance et la capacité de séduction croissantes des grands modèles de langage (LLM), mais aussi par l’échelle à laquelle les gens interagissent avec eux tout au long de la journée de travail. En effet, s’il est intuitivement vrai que plus les systèmes d’IA deviennent sophistiqués, plus les gens ont tendance à les anthropomorphiser, des personnes ont toutefois commencé à développer des attachements pour les chatbots depuis le tout début du traitement automatique du langage naturel (NLP).

En 1966, Joseph Weizenbaum a créé un programme de chatbot appelé ELIZA qui appliquait des règles simples pour transformer le langage d’une personne en entrée en une réponse formulée par le chatbot. L’un des scripts du programme, surnommé « DOCTOR », visait à imiter un thérapeute rogérien en répondant de manière générique ou en reformulant l’entrée de l’utilisateur sous la forme d’une question :

Humain — Mon petit ami m’a conseillé de m’adresser à vous.
ELIZA — Vraiment ?
Humain — Il dit que je suis souvent déprimée.
ELIZA — Je suis désolé d’apprendre que vous êtes déprimée.
Humain — C’est la vérité. Je ne suis pas heureuse.
ELIZA — Vous pensez que le fait de s’adresser à moi peut vous aider ?

Comme M. Weizenbaum l’a expliqué dix ans plus tard, il a été « surpris de voir que les personnes qui discutaient avec DOCTOR étaient impliquées émotionnellement avec l’ordinateur et à quel point elles l’anthropomorphisaient ». Même sa secrétaire, qui l’avait vu travailler sur le programme pendant des mois et qui savait que celui-ci avait été conçu pour régurgiter les propres mots de l’utilisateur, était désarmée face à sa propre envie de communiquer avec le chatbot comme s’il était humain. « Après seulement quelques échanges avec lui », raconte M. Weizenbaum, « elle m’a demandé de quitter la pièce ».¹

La prédisposition permanente de l’homme à s’investir émotionnellement avec l’IA est depuis connue sous le nom d’effet ELIZA. La cause n’est pas dans l’architecture des LLM avancés, mais dans notre propre programmation émotionnelle.

Au fil des millénaires, l’évolution a programmé notre cerveau pour qu’il fonctionne selon une hypothèse qui, jusqu’à tout récemment, était infaillible : si quelque chose semble humain et communique comme un humain, c’est un humain. Poursuivre en conséquence.

Sur la base de cette hypothèse raisonnable, nous avons développé un système biologique complexe d’interactions sociales et d’attente qui régit tout, des rencontres personnelles aux sociétés tribales en passant par le lieu de travail moderne. Mais les modèles de langage conversationnels remettent en question cette hypothèse et perturbent donc notre biologie sociale.

En 1996, O’Connor et Rosenblood ont proposé le « modèle d’affiliation sociale » pour décrire le processus de régulation instinctif par lequel les interactions sociales, automatiquement et inconsciemment, déclenchent la recherche de certains signaux verbaux et non verbaux. Ces signaux fournissent des informations sur la qualité de ces interactions et leurs implications, par exemple si la personne avec laquelle nous interagissons nous accepte et nous valorise. Leur absence déclenche à son tour une activité cérébrale qui détermine un comportement destiné à faire face à la situation.²

Dans un article publié en 2023 dans le Journal of Applied Psychology, Tang et al ont étudié le modèle d’affiliation sociale dans le contexte de personnes interagissant avec des systèmes d’IA sur le lieu de travail. Ils ont compris que, parce que les systèmes d’IA étaient capables d’imiter de manière convaincante les interactions humaines, mais ne pouvaient pas véritablement reproduire les types de rétroactions complémentaires et riches que nous avons appris à détecter (un sourire, un rire, un haussement d’épaules, un sourcil froncé, une pupille dilatée), les processus de régulation du cerveau recherchent des signaux qui n’existent pas. En d’autres termes, la conversation d’un employé avec l’IA engendre des besoins émotionnels instinctifs que l’IA ne peut pas satisfaire.

L’article s’est concentré sur deux types de réactions à cette privation sociale induite par l’IA : un comportement passif et inadapté (comme le repli sur soi et une solitude accrus) et un comportement actif et adaptatif (comme une volonté accrue de rechercher du lien social positif). Dans divers pays et secteurs d’activité, les auteurs ont en effet constaté qu’une interaction accrue avec des « collaborateurs IA » était corrélée à une solitude accrue, ainsi qu’à l’insomnie, à la consommation d’alcool après le travail, ou aux deux. De manière plus productive, les auteurs ont également constaté que pour certains participants, l’augmentation de la fréquence des interactions avec l’IA était souvent corrélée à une augmentation du comportement prosocial (comme aider des collègues).

Cependant, pour les employés d’une certaine disposition qui ont peu d’occasions d’interagir avec d’autres personnes, comme un télétravailleur, un collaborateur individuel dans un rôle cloisonné ou une personne souffrant d’anxiété sociale, cette volonté exacerbée de créer des liens sociaux peut n’avoir qu’un seul exutoire : le « collaborateur IA » permanent. De plus, les LLM, au sens littéral, sont entraînés pour nous dire ce que nous voulons entendre. La perspective est évidemment séduisante.

Anthropomorphiser un collaborateur IA pourrait simplement constituer un moyen d’éviter la dissonance cognitive induite par le recours à un programme informatique pour suppléer aux interactions humaines.

Pour être clair, les modèles d’IA, même les LLM les plus avancés, n’ont pas d’émotions ni d’empathie, malgré leur capacité à se montrer bienveillants. Techniquement parlant, il est exagéré de dire qu’un chatbot « répond » à votre prompt : il est plus exact (mais moins agréable) de dire que le chatbot y ajoute du texte de manière probabiliste. Les LLM autorégressifs sont simplement entraînés pour prédire de manière itérative le mot suivant dans une séquence de texte qui commence par votre entrée, en appliquant des schémas linguistiques qu’ils ont appris en traitant plusieurs millions d’échantillons de texte, jusqu’à ce qu’ils considèrent la séquence comme complète.

On pourrait penser que le simple fait d’améliorer la maîtrise de l’IA des employés éliminera le risque d’implication émotionnelle avec l’IA. Ce serait aussi une erreur.

Comme l’a montré une étude de Harvard, un placebo peut fonctionner même lorsque vous savez qu’il s’agit d’un placebo. Un article du New York Times à la fin de l’année dernière relate ainsi la façon dont les initiés de la Silicon Valley, y compris de nombreux chercheurs travaillant dans la recherche en IA de pointe, ont de plus en plus recours au modèle Claude d’Anthropic pour « tout, des conseils juridiques au coaching de santé en passant par des séances de thérapie improvisées ». Blake Lemoine, l’ingénieur Google célèbre pour avoir affirmé que le modèle LaMDA de Google était conscient en 2022, a étudié les sciences cognitives et l’informatique et a travaillé dans le machine learning pendant des années.

Comment est-ce possible ? L’une des explications générales est que les réactions émotionnelles sont traitées de manière intuitive et non logique, et lorsqu’une chose se passe au niveau intuitif, elle peut contourner complètement l’évaluation rationnelle. Les compétences techniques offrent peu de protection contre ce bug inhérent à notre code, car lorsque nous traitons quelque chose de manière intuitive (ce que Daniel Kahneman, prix Nobel d’économie, appelle le « Système 1 » ou la pensée « rapide », nous ne parvenons souvent pas à mobiliser nos connaissances techniques. Par exemple, comme le décrit M. Kahneman dans son ouvrage fondateur Thinking, Fast and Slow, ses recherches ont démontré à maintes reprises que « même les statisticiens peuvent ne pas être de bons statisticiens s’ils utilisent leur pensée intuitive ».

En ce qui concerne les chatbots, nos attitudes à l’égard de l’IA sont souvent façonnées davantage par nos « modèles mentaux » que par sa performance. Une étude du MIT de 2023 a révélé que « des facteurs non rationnels, tels que la pensée superstitieuse, influencent considérablement la manière dont les individus interagissent avec les systèmes d’IA ». Par exemple, les auteurs ont découvert une forte corrélation entre les croyances paranormales (comme l’astrologie) et la probabilité de percevoir même les fausses sorties d’IA comme « valides, fiables, utiles et personnalisées ».³

Les auteurs de l’article suggèrent également que le techno-optimisme de la Silicon Valley pourrait être à la fois la cause et le résultat de ce phénomène. De même, Vox, dans un article sur Blake Lemoine, a noté que la Silicon Valley est un terrain fertile pour les convictions religieuses obscures. Le rythme de plus en plus rapide du développement technologique moderne pourrait jouer un rôle ici : selon les mots célèbres d’Arthur Clark, « toute technologie suffisamment avancée est indiscernable de la magie ».

Pour compliquer l’équation, la maîtrise de l’IA pourrait avoir un effet négatif sur l’adoption de l’IA : les études parues plus tôt dans l’année suggèrent que les gens qui connaissent peu l’IA sont plus disposés à l’avoir dans leur vie. Les auteurs de l’étude avancent que les personnes ayant une faible maîtrise de l’IA sont plus susceptibles de la percevoir comme magique ou impressionnante, et que « les efforts visant à démystifier l’IA peuvent malencontreusement réduire son attrait ». La nécessité de maximiser le retour sur investissement dans les outils d’IA générative tout en minimisant les retombées émotionnelles liées à leur utilisation constante pourrait ainsi être une source de tension au sein des entreprises.

L’étude a révélé que ce lien entre la faible maîtrise de l’IA et un enthousiasme élevé pour l’IA était au maximum pour l’« utilisation des outils d’IA dans des domaines que les gens associent à des caractéristiques humaines, comme le soutien émotionnel ou l’aide psychologique ». Lorsqu’il s’agit de traiter des tâches où l’investissement émotionnel est absent, comme l’analyse des résultats de tests, la tendance s’inverse.

En comprenant comment et pourquoi l’effet ELIZA se produit, les entreprises peuvent atténuer ces risques de manière proactive sans compromettre l’engouement des employés pour l’utilisation de leurs outils d’IA générative.

Comme l’explique Murray Shanahan, scientifique principal chez Google DeepMind, dans un essai largement cité en 2022, la façon dont nous parlons des LLM est importante, non seulement dans les articles scientifiques, mais aussi dans les discussions avec les décideurs politiques, les médias et les employés. « L’utilisation imprudente de termes à connotation philosophique comme ’croit’ et ’pense’ est particulièrement problématique », dit-il, « car ces termes obscurcissent les mécanismes et encouragent activement l’anthropomorphisme. »

Comme le note M. Shanahan, il est normal et naturel d’utiliser un langage anthropomorphique pour parler de technologie. Le GPS pense que nous sommes sur le pont autoroutier au-dessus de nous. Le serveur de messagerie ne communique pas avec le réseau. Mon téléphone veut que je mette à jour son système d’exploitation. Ce sont des exemples de ce que le philosophe Daniel Dennett appelle la stratégie intentionnelle et, dans la plupart des cas, il s’agit simplement de figures de style utiles (et inoffensives). Mais en ce qui concerne les LLM, prévient Murray Shanahan, « les choses peuvent devenir un peu floues ». Pour les systèmes d’IA qui imitent de manière si convaincante le comportement humain le plus caractéristique, le langage, la tentation de prendre ces figures de style au pied de la lettre est « quasiment irrésistible ».

Dans les tutoriels, les supports d’intégration et les communications d’entreprise, il convient donc d’être particulièrement précautionneux dans le langage employé pour décrire les fonctionnalités, la fonction et l’objectif des outils d’IA aux employés. Les entreprises doivent éviter toute anthropomorphisation inutile. Comme l’a montré l’étude sur l’effet placebo de l’IA, la perception de l’IA par les utilisateurs est souvent davantage influencée par la façon dont elle est décrite que par ses véritables capacités.⁴

Donner aux modèles d’IA une apparence, un ton et un sentiment plus humains peut renforcer la confiance⁵ et l’engagement⁶, mais aussi accroître les risques. Dans la carte système pour GPT-4o, qui peut générer un « discours » réaliste et humain, OpenAI a noté que « la génération de contenu par une voix humaine haute fidélité peut exacerber les problèmes d’anthropomorphisation et conduire à une confiance de plus en plus disproportionnée ». Lors du processus de red teaming et des tests internes, OpenAI « a observé les personnes qui utilisaient des traits de langage susceptibles d’indiquer des liens avec le modèle ».⁷

Même en l’absence de risque élevé d’attachement émotionnel, les entreprises doivent être conscientes que l’anthropomorphisation est une épée à double tranchant. Une étude de 2022 publiée dans le Journal of Marketing a révélé que les chatbots anthropomorphes réduisaient la satisfaction des clients et l’opinion à l’égard de l’entreprise : en substance, les clients avaient des attentes plus élevées envers les chatbots de type humain et étaient davantage déçus lorsqu’ils n’obtenaient pas un service de niveau humain.⁸ Une série d’études réalisées en 2024 montre que les commentaires d’un « coach IA » anthropomorphisé étaient perçus comme moins utiles que les commentaires identiques d’un coach IA non anthropomorphisé qui mettait simplement en lumière le rôle des chercheurs humains dans sa création.

Tout le monde peut tomber amoureux d’un avatar réaliste. À l’inverse, il y a peu de chances que l’on puisse tomber amoureux d’une agrafeuse... même si elle se met à parler !.

L’effet ELIZA à part entière ne se produit pas instantanément. Comme pour la plupart des questions émotionnelles, le phénomène s’installe progressivement. La mise en place d’un moyen de détecter les signes avant-coureurs et d’y remédier peut permettre aux entreprises d’intercepter et de résoudre les petits problèmes avant qu’ils ne deviennent un gros problème.

Les modèles de garde-fous sont une solution évidente pour un tel système de détection : ils surveillent les entrées et les sorties à la recherche de signes dans le langage correspondant aux risques prédéfinis et déclenchent le modèle pour agir en conséquence. Un modèle de garde-fous entraîné à détecter et empêcher les échanges de dévier vers le terrain émotionnel peut contribuer à éviter que les choses n’aillent trop loin. Cependant, les modèles de garde-fous conventionnels à eux seuls peuvent constituer une solution incomplète, car toutes les interactions problématiques n’impliquent pas forcement des aspects émotionnels et sentimentaux.

Même les employés ayant une compréhension parfaitement réaliste de l’IA peuvent parfois s’engager un peu trop personnellement dans les conversations avec une IA. C’est aussi un problème, car de nombreuses entreprises conservent et analysent les interactions avec les systèmes d’IA pour comprendre et optimiser la manière dont les outils sont utilisés par les employés ou les clients. Les entreprises peuvent ainsi se trouver dans la position inconfortable de recevoir des informations personnelles sensibles que, pour des raisons juridiques ou morales, elles préfèrent ne pas traiter – des informations qui sont par ailleurs trop spécifiques et apparemment inoffensives pour être détectées par un modèle de garde-fous.

C’est pourquoi IBM travaille sur un « système de préservation de la confidentialité des grands modèles de langage » conçu pour empêcher les utilisateurs de partager trop d’informations avec les modèles d’IA. Le système devrait analyser les entrées à la recherche d’informations d’identification personnelle, classer le prompt incriminé (pour en comprendre l’intention), puis remplacer les informations sensibles par des caractères génériques. Seule une version anonymisée des entrées de l’utilisateur sera stockée pour un entraînement ultérieur.

L’étude de 2023 du Journal of Applied Psychology mentionnée précédemment est l’un des nombreux travaux indiquant un lien entre la fréquence ou la durée des interactions avec les chatbots et la solitude ou une utilisation problématique. Les implications sont relativement simples : limiter l’utilisation de manière stratégique peut limiter les risques émotionnels. Employée correctement, cette méthode peut être efficace sans pour autant nuire à la productivité, et même potentiellement réduire les coûts d’inférence.

Une méthode plus indirecte pourrait être de recomposer périodiquement les schémas d’utilisation, afin d’éviter que les utilisateurs ne se retrouvent enfermés dans des habitudes trop établies. Par exemple, une étude du MIT note que des interventions telles qu’une pause, pendant laquelle l’utilisateur peut reprendre ses esprits, peuvent contribuer à « ralentir les jugements rapides et à encourager une interaction plus réfléchie ».⁶ En d’autres termes, de telles interventions pourraient amener les utilisateurs à s’éloigner en douceur de la pensée impulsive Système 1 pour se diriger vers une pensée Système 2 plus prudente.

La perturbation périodique des schémas du système d’IA lui-même, par exemple en modifiant son persona, pourrait aussi contribuer à décourager les schémas d’utilisation problématiques. Un article du New York Times à propos d’une femme amoureuse de ChatGPT qui passait de nombreuses heures chaque jour sur la plateforme, indique que chaque fois qu’elle atteignait la capacité maximale de la fenêtre contextuelle du modèle, le « persona » et la mémoire de son « petit ami » IA étaient partiellement réinitialisés. Chaque fois que cela se produisait, elle était en deuil, mais ensuite elle « s’abstenait d’utiliser ChatGPT pendant quelques jours ».

Dans un article de 2024 examinant les retombées d’une mise à jour majeure de l’application Replika AI, un service de chatbot compagnon, les auteurs ont fait valoir que « la continuité de l’identité est cruciale pour développer et maintenir une relation avec un compagnon IA ».⁹ L’implication contraire de cette conclusion serait que perturber la continuité de l’identité d’un chatbot pourrait être crucial pour éviter un attachement émotionnel avec un compagnon IA.

La meilleure façon d’éviter que les employés n’utilisent l’IA pour combler un manque émotionnel est peut-être de réduire la possibilité que ce manque existe. L’IA générative peut effectuer des tâches quotidiennes fastidieuses, mais elle ne remplace pas le soutien quotidien de collègues humains.

Par exemple, une étude sur les habitudes d’utilisation des chatbots compagnons et leur lien avec la solitude a révélé une corrélation significative entre la fréquence d’utilisation des chatbots et l’augmentation de la solitude ou de l’isolement social, mais pas en ce qui concerne les utilisateurs entretenant des liens solides sur les réseaux sociaux. En effet, ces utilisateurs ont généralement moins d’interactions avec les chatbots et connaissent beaucoup moins de problèmes que les utilisateurs peu actifs sans soutien social similaire. Ils utilisent généralement les chatbots à des fins pratiques et de divertissement, plutôt que comme substitut aux relations.¹⁰ Ces conclusions sont cohérentes avec l’hypothèse de compensation parasociale, selon laquelle les personnes seules, isolées et anxieuses sont plus susceptibles d’entretenir des « relations » parasociales avec des célébrités ou des influenceurs.¹¹

Heureusement, il s’agit d’un cas où l’IA peut être la solution à ses propres problèmes. Si les solutions d’IA générative de votre entreprise offrent les gains de productivité qu’elles ont le potentiel de fournir, il devrait toujours rester du temps et de l’argent pour des soirées pizza.