L'effetto ELIZA al lavoro: evitare l'attaccamento emotivo ai colleghi AI

Sempre più spesso i dipendenti si ritrovano a lavorare non solo con colleghi umani, ma anche con assistenti e agenti AI conversazionali. Le implicazioni psicologiche di questo cambiamento potrebbero essere ancora più complesse di quelle tecnologiche e finanziarie: esperienze passate suggeriscono che interagendo ogni giorno con "colleghi AI", alcuni dipendenti potrebbero sviluppare un attaccamento emotivo.

I rischi associati vanno ben oltre la perdita di produttività dovuta al tempo trascorso a chiacchierare con i chatbot. Per le organizzazioni, i veri rischi legati a un attaccamento emotivo verso l'AI includono problemi con le risorse umane (come la tendenza dei dipendenti a condividere informazioni personali sensibili), rischi di cybersecurity (come una maggiore suscettibilità agli attacchi di ingegneria sociale), crisi di immagine pubblica o persino danni fisici.

Le aziende e le istituzioni stanno investendo molto in soluzioni basate su AI generativa per cogliere il loro enorme potenziale di crescita. Le aziende che cercano di garantire un ritorno sul proprio investimento sono, naturalmente, incentivate ad assicurarsi che i propri dipendenti utilizzino effettivamente questi strumenti di AI. Ma in un'epoca in cui i CEO si lasciano affascinare da assistenti generati dall'AI e adulti ragionevoli si innamorano apertamente di modelli AI, alimentare indiscriminatamente il rapporto tra i dipendenti e l'AI potrebbe avere un prezzo.

I rischi emotivi dell'AI stanno aumentando non solo per la potenza e la capacità persuasiva dei modelli linguistici di grandi dimensioni (LLM), ma soprattutto per la quantità di persone che li utilizzano quotidianamente durante il lavoro. È certamente vero che, con il progresso dei sistemi AI, le persone tendono sempre più a vederli come esseri umani; tuttavia, gli umani hanno iniziato a creare legami emotivi con i chatbot fin dalle prime fasi dell'elaborazione del linguaggio naturale (NLP).

Nel 1966, Joseph Weizenbaum creò un programma chatbot chiamato ELIZA che applicava semplici regole per trasformare il linguaggio dell'input di una persona in una risposta del chatbot. Uno degli script del programma, soprannominato "DOCTOR", aveva lo scopo di imitare uno psicoterapeuta rogersiano rispondendo in modo generico o riformulando le parole dell’utente sotto forma di domanda:

Umano: Il mio ragazzo mi ha fatto venire qui.
ELIZA: Il tuo ragazzo ti ha fatto venire qui?
Umano: Dice che sono spesso depressa.
ELIZA: Mi dispiace sapere che è depressa.
Umano: È così. Sono infelice.
ELIZA: Pensa che venire qui la aiuterà a non essere infelice?

Come spiegò Weizenbaum un decennio dopo, fu "sbalordito nel vedere con quanta rapidità e profondità le persone che conversavano con DOCTOR instaurassero un legame emotivo con il computer e quanto chiaramente lo antropomorfizzassero". Nemmeno la sua segretaria, che lo aveva visto lavorare al programma per mesi e sapeva che era stato progettato per rigurgitare le parole dell'utente, era immune dall'impulso di entrare in confidenza con il chatbot. "Dopo solo una breve conversazione con il chatbot", racconta Weizenbaum, "mi chiese di uscire dalla stanza".¹

La tendenza persistente degli esseri umani a legarsi emotivamente all'AI è da allora conosciuta come effetto ELIZA. La sua causa non sta nell'architettura degli LLM avanzati, ma nella nostra programmazione emotiva.

Nel corso di molti millenni, l'evoluzione ha programmato il nostro cervello in modo che funzionasse secondo un presupposto che, fino a poco tempo fa, era sostanzialmente infallibile: se qualcosa sembra umano e comunica come un umano, è umano. Comportati di conseguenza.

Partendo da questo presupposto ragionevole, abbiamo sviluppato un complesso sistema biologico di interazioni sociali e aspettative che regola ogni aspetto, dagli incontri individuali alle società tribali fino all'ambiente di lavoro moderno. Ma i modelli di linguaggio conversazionale mettono in crisi questo presupposto e, di conseguenza, sconvolgono la nostra biologia sociale.

Nel 1996, O'Connor e Rosenblood hanno proposto il "modello di affiliazione sociale" per descrivere il processo di regolazione istintiva attraverso il quale le interazioni sociali, automaticamente e inconsciamente, stimolano la ricerca di determinati segnali verbali e non verbali. Questi segnali forniscono informazioni sulla qualità di tali interazioni e sulle loro implicazioni, ad esempio se la persona con cui stiamo interagendo ci accetta e ci apprezza. La loro assenza, a sua volta, innesca l'attività cerebrale che determina comportamenti volti a risolvere la situazione.²

In un articolo del 2023 pubblicato sul Journal of Applied Psychology, Tang e altri autori hanno studiato il modello di affiliazione sociale nel contesto delle interazioni tra persone e sistemi di AI sul posto di lavoro. Hanno intuito che, poiché i sistemi di AI riescono a imitare in modo convincente le interazioni umane ma non sono in grado di replicare davvero i numerosi segnali sociali complementari che abbiamo imparato a riconoscere (un sorriso, una risatina, una scrollata di spalle, una fronte corrugata, una pupilla dilatata) i processi regolatori del cervello finiscono per cercare segnali che in realtà non ci sono. In altre parole, la conversazione di un dipendente con l'AI genera bisogni emotivi istintivi che l'AI non riesce a soddisfare.

Il documento si concentrava su due tipi di reazioni a questa deprivazione sociale causata dall'AI: un comportamento passivo e disadattivo (come un aumento dell'isolamento e della solitudine) e un comportamento attivo e adattivo (come una maggiore spinta a cercare connessioni sociali positive). In diversi settori e paesi, gli autori hanno effettivamente scoperto che una maggiore interazione con i "colleghi AI" era correlata a un aumento della solitudine, nonché a insonnia, consumo di alcol dopo il lavoro o entrambi. In modo più costruttivo, gli autori hanno anche scoperto che per alcuni partecipanti, l'aumento della frequenza delle interazioni con l'AI era spesso associato anche a un aumento di comportamenti prosociali, come ad esempio aiutare i colleghi di lavoro.

Però, per quei dipendenti con una certa predisposizione e poche occasioni di interazione diretta con altre persone (come i lavoratori da remoto, chi svolge un ruolo isolato o chi soffre di ansia sociale) quella maggiore spinta a cercare un legame sociale può trovare spesso un unico sfogo disponibile: il "collega" AI sempre attivo. E gli LLM sono, in senso piuttosto letterale, addestrati a dirci quello che vogliamo sentire. Questa prospettiva è chiaramente allettante.

Antropomorfizzare un collega AI potrebbe essere semplicemente un modo per evitare la dissonanza cognitiva derivante dal cercare interazione umana in un programma informatico.

Per essere chiari, i modelli AI, anche gli LLM più all'avanguardia, non provano emozioni o empatia, nonostante la loro capacità di dire cose empatiche. Tecnicamente parlando, è esagerato dire che un chatbot "risponda" al tuo input: è più preciso (anche se meno interessante) affermare che il chatbot aggiunge testo al tuo messaggio in modo probabilistico. Gli LLM autoregressivi vengono semplicemente addestrati a predire iterativamente la parola successiva in una sequenza di testo che inizia con l'input, applicando modelli linguistici appresi elaborando milioni di campioni di testo, fino a quando non ritengono la sequenza completa.

Si potrebbe ragionevolmente pensare che il semplice aumento dell'alfabetizzazione dei dipendenti in materia di AI eliminerà il rischio di coinvolgimento emotivo con l'AI. Ma è un ragionamento sbagliato.

Come ha dimostrato la ricerca di Harvard, un placebo può funzionare anche quando si sa che è un placebo. Ad esempio, un'inchiesta del New York Times alla fine dello scorso anno ha rivelato che sempre più professionisti della Silicon Valley, inclusi molti attivi nella ricerca avanzata sull'AI, si affidano sempre più spesso a Claude di Anthropic per "qualsiasi cosa: dai pareri legali ai consigli sulla salute, fino a vere e proprie sessioni di terapia improvvisate". Blake Lemoine, l’ingegnere di Google che fece scalpore nel 2022 sostenendo che il modello LaMDA dell’azienda fosse senziente, aveva studiato scienze cognitive e informatica e lavorava da anni nel campo del machine learning.

Come è possibile? Una spiegazione generica è che le reazioni emotive vengono elaborate in modo intuitivo, non logico, e quando qualcosa accade a livello intuitivo può aggirare del tutto la valutazione razionale. La competenza tecnica offre poca protezione contro questo "bug" intrinseco nel nostro codice, perché quando elaboriamo qualcosa in modo intuitivo (ciò che il compianto premio Nobel Daniel Kahneman definiva "Sistema 1" o pensiero "veloce") spesso non attiviamo affatto le nostre conoscenze tecniche. Ad esempio, come descrive Kahneman nel suo celebre libro Pensieri lenti e veloci, le sue ricerche hanno dimostrato più volte che nemmeno le persone esperte di statistica sono brave nell'applicare l'intuizione statistica".

Per quanto riguarda i chatbot, il nostro atteggiamento nei confronti dell'AI è spesso modellato più dai nostri "modelli mentali" che dalle sue prestazioni effettive. Uno studio del MIT del 2023 ha rilevato che "fattori non razionali, come le superstizioni, influenzano in modo significativo il modo in cui le persone interagiscono con i sistemi di AI". Ad esempio, gli autori hanno scoperto una forte correlazione tra credenze non scientifiche (come l'astrologia) e la tendenza a considerare persino output di AI errati come "validi, affidabili, utili e personalizzati".³

Gli autori dell'articolo alludono anche al tecno-ottimismo della Silicon Valley come causa e risultato di questo fenomeno. Allo stesso modo, un articolo di Vox su Blake Lemoine ha osservato che la Silicon Valley è un terreno fertile per credenze religiose oscure. Il ritmo sempre più rapido dello sviluppo tecnologico moderno potrebbe avere un ruolo in questo senso: per usare le famose parole di Arthur Clark, "qualsiasi tecnologia sufficientemente avanzata è indistinguibile dalla magia".

A complicare ulteriormente le cose, l'alfabetizzazione AI potrebbe avere un effetto negativo sull'adozione di questa tecnologia: una ricerca dell'inizio di quest'anno suggerisce che chi conosce meno l'AI è più propenso a integrarla nella propria vita.. Gli autori dello studio sostengono che le persone con una minore conoscenza dell'AI tendono a percepirla come qualcosa di magico o stupefacente, e che "gli sforzi per demistificarla potrebbero involontariamente ridurne il fascino". Le organizzazioni potrebbero quindi trovarsi a dover bilanciare la necessità di massimizzare il ritorno sull’investimento negli strumenti di AI generativa con quella di ridurre al minimo le conseguenze emotive derivanti dall'uso costante di tali strumenti.

Lo studio ha evidenziato in modo netto che il legame tra una scarsa conoscenza dell'AI e un grande entusiasmo verso di essa è più marcato nel caso dell'uso di strumenti di AI in ambiti che le persone associano a capacità umane, come il supporto emotivo o la consulenza". Quando si tratta di compiti senza connotazioni emotive, come l'analisi dei risultati dei test, lo schema si capovolge.

Grazie alla comprensione di come e perché si verifica l'effetto ELIZA, le organizzazioni possono mitigare in modo proattivo questi rischi senza compromettere l'entusiasmo dei dipendenti nell'interagire con i propri strumenti di AI generativa.

Come ha affermato Murray Shanahan, Principal Scientist presso Google DeepMind, in un saggio del 2022 ampiamente citato, il modo in cui parliamo degli LLM è importante non solo negli articoli scientifici, ma anche nelle comunicazioni con i decisori politici, i media e i dipendenti. "L'uso incauto di termini filosoficamente carichi come 'crede' e 'pensa' è particolarmente problematico", dice, "perché tali termini offuscano i meccanismi reali e incoraggiano attivamente l'antropomorfismo".

Come osserva Shanahan, è del tutto normale e naturale usare un linguaggio antropomorfico per parlare di tecnologia. Il GPS pensa che siamo sul cavalcavia dell'autostrada sopra di noi. Il server di posta elettronica non comunica con la rete. Il mio telefono vuole che aggiorni il suo sistema operativo. Questi sono esempi di ciò che il filosofo Daniel Dennett definisce atteggiamento intenzionale e, nella maggior parte dei casi, si tratta semplicemente di modi di dire utili (e innocui). Ma quando si parla di LLM, avverte Shanahan, "le cose possono farsi un po' confuse". Per i sistemi di AI che imitano in modo così convincente i comportamenti più tipicamente umani, come il linguaggio, la tentazione di prendere alla lettera questi modi di dire è "quasi irresistibile".

I tutorial, i materiali di onboarding e le comunicazioni aziendali dovrebbero quindi usare un linguaggio molto attento nel descrivere agli utenti le funzionalità, il funzionamento e lo scopo degli strumenti di AI ai dipendenti. Le aziende dovrebbero evitare di attribuire caratteristiche umane all'AI quando non è necessario. Come ha dimostrato la ricerca sull'effetto placebo dell'AI, la percezione dell'AI da parte degli utenti è spesso influenzata più dal modo in cui viene descritta che dalle sue reali funzionalità.⁴

Rendere i modelli AI più simili agli esseri umani nell'aspetto, nella voce e nel comportamento può aumentare la fiducia⁵ e il coinvolgimento,⁶ ma può anche comportare dei rischi. Nella scheda di sistema di GPT-4o, che è in grado di generare una voce realistica simile a quella umana, OpenAI ha osservato che "la generazione di contenuti tramite una voce umana ad alta fedeltà potrebbe accentuare la tendenza ad attribuire caratteristiche umane all'AI e quindi a fidarsi in modo eccessivo". Durante il red teaming e i test interni, OpenAI "ha osservato utenti che utilizzavano un linguaggio che poteva indicare la formazione di un legame con il modello".⁷

Anche nei casi in cui non vi è un rischio elevato di attaccamento emotivo, le aziende devono essere consapevoli che l'antropomorfismo è un'arma a doppio taglio. Uno studio del 2022 pubblicato sul Journal of Marketing ha rilevato che l'uso di chatbot antropomorfi ha ridotto la soddisfazione dei clienti e peggiorato la loro opinione sull'azienda: in sostanza, i clienti si aspettavano molto di più da questi chatbot "umani" e rimanevano più delusi quando il servizio non raggiungeva lo standard di un vero essere umano.⁸ Una serie di studi del 2024 ha evidenziato che i feedback di un "coach AI" con tratti tipici umani erano percepiti come meno utili rispetto a quelli di un coach AI che non aveva tratti umani, il quale metteva semplicemente in risalto il contributo dei ricercatori umani nella sua realizzazione.

Le persone potrebbero innamorarsi di un avatar realistico, mentre saranno (generalmente) meno propense a innamorarsi di una graffetta parlante.

L'effetto ELIZA in piena regola non si verifica istantaneamente. Come per la maggior parte delle questioni emotive, il fenomeno si sviluppa in modo graduale. Implementare un mezzo per rilevare e agire in base ai segnali di allarme può dare alle aziende la capacità di intercettare e risolvere i problemi prima che si aggravino.

I modelli Guardrail sono scelta ovvia per un sistema di rilevamento di questo tipo: monitorano gli input e gli output alla ricerca di un linguaggio indicativo di rischi predeterminati e fanno sì che il modello agisca di conseguenza. Un modello guardrail addestrato a rilevare e impedire che le conversazioni sconfinino sul campo emotivo può aiutare a evitare che le cose vadano troppo oltre. Ma i soli modelli guardrail convenzionali potrebbero essere insufficienti, perché non tutte le interazioni problematiche comportano emozioni evidenti o sentimenti romantici.

Anche i dipendenti con una percezione totalmente realistica dell'AI a volte possono intrattenere conversazioni un po' troppo personali con l'AI. Anche questo è un problema, perché molte aziende memorizzano e analizzano le interazioni con i sistemi di AI per capire e ottimizzare il modo in cui gli strumenti vengono utilizzati da dipendenti o clienti. Questo può mettere le organizzazioni nella scomoda posizione di ricevere informazioni personali sensibili che, per motivi legali o morali, preferiscono non gestire, informazioni troppo specifiche e apparentemente innocue perché un modello guardrail possa riconoscerle.

Consapevole di ciò, IBM sta lavorando a un "sistema di tutela della privacy durante l'uso dei modelli linguistici di grandi dimensioni" progettato per impedire agli utenti di condividere troppe informazioni con i modelli AI. Il sistema dovrebbe analizzare gli input alla ricerca di informazioni di identificazione personale, classificare il prompt incriminato (per comprenderne l'intento) e quindi sostituire le informazioni sensibili con segnaposto generici. In questo modo, verrebbe memorizzata solo una versione anonima dell'input dell'utente per l'addestramento futuro.

Lo studio del 2023 del Journal of Applied Psychology citato sopra è uno dei tanti che indicano un legame tra la frequenza o la durata delle interazioni con i chatbot e la tendenza alla solitudine o all'uso problematico. Le implicazioni sono piuttosto chiare: limitare l'uso in modo strategico può ridurre i rischi emotivi. Se fatto correttamente, questo non compromette la produttività e può persino ridurre i costi di inferenza.

Un metodo più indiretto sarebbe interrompere periodicamente i modelli di utilizzo, impedendo agli utenti di cadere in schemi troppo consolidati. Ad esempio, una ricerca del MIT rileva che interventi come un periodo di "riflessione" imposto possono aiutare a rallentare i giudizi affrettati e incoraggiare un utilizzo più ponderato".⁶ In altre parole, tali interventi potrebbero spingere gli utenti ad abbandonare i pensieri impulsivi del Sistema 1 e a orientarsi verso quelli più ponderati del Sistema 2.

Anche interrompere periodicamente gli schemi del sistema AI stesso, ad esempio modificandone l'identità, potrebbe aiutare a scoraggiare comportamenti di utilizzo problematici. Un articolo del New York Times su una donna innamorata di ChatGPT, che trascorre molte ore ogni giorno sulla piattaforma, rileva che ogni volta che si raggiunge il limite della finestra di contesto del modello, la "personalità" e la memoria del suo "fidanzato" AI vengono parzialmente resettate. Ogni volta che questo accade, lei ne soffre profondamente, ma poi "si prende una pausa da ChatGPT per qualche giorno".

In un articolo del 2024 che esamina le conseguenze di un importante aggiornamento dell'app Replika AI, un servizio per la creazione di un compagno virtuale tramite chatbot, gli autori hanno sostenuto che "la continuità dell'identità è fondamentale per sviluppare e mantenere una relazione con un compagno AI".⁹ Ciò che ne deriva, quindi, è che interrompere la continuità dell'identità di un chatbot potrebbe essere fondamentale per evitare un attaccamento emotivo a un compagno AI.

Forse, il modo migliore per evitare che i dipendenti utilizzino l'AI per colmare un vuoto emotivo è ridurre la possibilità che quel vuoto esista. L'AI generativa può sostituire il noioso lavoro quotidiano, ma non può sostituire la compagnia quotidiana dei colleghi umani.

Ad esempio, uno studio sui modelli di utilizzo dei compagni virtuali via chatbot e sulla loro relazione con la solitudine ha rilevato una correlazione significativa tra la frequenza di utilizzo dei chatbot e un aumento della solitudine o dell'isolamento sociale, ma non per gli utenti con solide reti sociali nel mondo reale. Non solo gli utenti con una solida rete sociale interagivano generalmente meno con i chatbot, ma riscontravano anche molti meno problemi rispetto agli utenti con una rete sociale più debole e senza un supporto sociale simile. In genere utilizzavano i chatbot per scopi pratici e ricreativi, piuttosto che come sostituti delle relazioni.¹⁰ Tali risultati sono coerenti con l'ipotesi della compensazione parasociale, secondo la quale gli individui solitari, isolati e socialmente ansiosi hanno maggiori probabilità di intrattenere "relazioni" parasociali con celebrità o influencer.¹¹

Fortunatamente, questo è un caso in cui l'AI può rappresentare la soluzione ai suoi stessi problemi. Se le soluzioni di AI generativa della tua azienda stanno realmente offrendo i guadagni di produttività che promettono, non dovrebbero mancare né il tempo né il denaro per organizzare qualche pizza party.