Che cos'è l'AI senziente?

Da quando sono stati inventati i computer, gli scienziati hanno sviluppato benchmark, come il test di Turing, destinato a valutare l'"intelligenza" delle macchine. Poco dopo, i dibattiti sull'intelligenza delle macchine sono passati alle riflessioni sulla loro coscienza o senzienza.

Sebbene le discussioni sulla consapevolezza dell'AI risalgano all'inizio degli anni 2000, la popolarità dei modelli linguistici di grandi dimensioni, l'accesso dei consumatori all'AI generativa come ChatGPT e un'intervista sul Washington Post ¹ con l'ex ingegnere di Google Blake Lemoine hanno riacceso l'interesse per la domanda: l'AI è senziente?

Lemoine ha dichiarato al Post che LaMDA, il generatore di chatbot artificialmente intelligente di Google, è senziente in quanto ha iniziato a parlare di diritti e personalità ed era apparentemente consapevole dei propri bisogni e sentimenti.

Gli esperti di etica di Google hanno negato pubblicamente queste affermazioni. Yann LeCun, responsabile della ricerca sull'AI di Meta, ha dichiarato al New York Times² che questi sistemi non sono abbastanza potenti da raggiungere una "vera intelligenza". L'attuale consenso tra i maggiori esperti è che l'AI non è senziente.

Man mano che l'apprendimento automatico diventa sempre più avanzato, gli informatici stanno spingendo sempre più verso ulteriori innovazioni degli strumenti di AI nella speranza di creare dispositivi in grado di avere una comprensione più profonda del comportamento umano, arrivando così a una maggiore personalizzazione e a risposte pertinenti in tempo reale senza la noiosa codifica umana necessaria. Questo ha portato allo sviluppo nel cognitive computing, in cui i sistemi interagiscono in modo naturale con gli esseri umani e risolvono i problemi attraverso algoritmi di autoapprendimento. I modelli GPT di OpenAI e LaMDA di Google sono un'indicazione di quello che potrebbe essere oggetto di sviluppo presso altre aziende tecnologiche come Meta, Apple o Microsoft.

La sensibilità sarebbe un passo avanti. È definita come la capacità di avere esperienze soggettive, consapevolezza, memoria e sentimenti. Ma le definizioni di senzienza, cognizione e coscienza spesso sono incoerenti e ancora estremamente dibattute da filosofi e scienziati cognitivi ^.

In teoria, l'AI senziente percepirebbe il mondo circostante, ne elaborerebbe gli stimoli esterni e userebbe tutto quanto a disposizione per prendere decisioni e pensare e sentirsi come un essere umano.

Sebbene l'AI apprenda come imparano gli esseri umani e sia in grado di ragionare almeno in parte, non è così complessa come gli esseri umani e nemmeno come il cervello di alcuni animali. È ancora relativamente sconosciuto il modo in cui il cervello umano dà origine alla coscienza, ma c'è ben oltre il semplice numero di cellule cerebrali tra loro. Spesso, la sensibilità è confusa con l'intelligenza, che rappresenta un'altra caratteristica su cui la comunità scientifica sta ancora lavorando per quantificare nelle macchine.

Le macchine intelligenti imparano attraverso l'esplorazione e possono adattarsi con nuovi input. La maggior parte degli attuali programmi di AI sono specializzati e non generalisti, sono più diretti e semplici che cerebrali. Ogni programma è studiato per essere efficace in un determinato compito o tipo di problema estremamente specifico, come giocare a scacchi o sostenere un test standardizzato.

Nella ricerca informatica, gli esperti di AI hanno giocato con il concetto di "intelligenza artificiale generale" (AGI), nota anche come AI forte, il cui obiettivo è conferire all'AI un'intelligenza più simile a quella umana che non sia specifica per un compito. Oltre a questo, esiste anche l'ipotetico stato futuro della superintelligenza artificiale.

Queste capacità hanno lo scopo di fornire all'AI una migliore comprensione dei comandi e dei contesti umani e, di conseguenza, automatizzare l'elaborazione delle informazioni il che consente alle macchine di dedurre da sole la funzione corretta da eseguire in determinate condizioni.

Strumenti come il test di Turing sono stati creati per valutare quanto siano distinguibili i comportamenti delle macchine rispetto agli esseri umani. Il test ritiene che un programma è intelligente se riesce a ingannare un altro essere umano facendogli credere che anche lui sia un essere umano.

Ma l'intelligenza è difficile da classificare. Ad esempio, l'esperimento della stanza cinese ha illustrato i difetti del test di Turing per stabilire l'intelligenza. È importante sottolineare che l'intelligenza spesso si riferisce alla capacità di acquisire e utilizzare la conoscenza. Non equivale alla sensibilità. Non ci sono prove che un modello AI presenti monologhi interni o possa percepire la propria esistenza in un mondo più grande, che sono 2 qualità della senzienza.

I modelli linguistici di grandi dimensioni possono replicare in modo convincente il parlato umano attraverso l'elaborazione del linguaggio naturale e la comprensione del linguaggio naturale.

Alcuni tecnici sostengono che l'architettura della rete neurale alla base dell'AI, esattamente come i modelli LLM, imiti le strutture del cervello umano e getti le basi della coscienza.

Numerosi tecnici informatici non sono invece d'accordo, affermando che l'AI non è senziente e che ha semplicemente imparato come funziona il linguaggio umano riproponendo contenuti ingeriti da siti web come Wikipedia, Reddit e social senza effettivamente capirne il significato dietro quello che sta dicendo o perché lo sta dicendo.

I sistemi AI si sono sempre distinti nel riconoscimento di schemi, che possono comprendere immagini, video, audio, dati e testi complessi. Possono anche assumere delle persone studiando i modelli di discorso di quella persona specifica.

Alcuni esperti si riferiscono alle AI come a pappagalli stocastici⁴ che "cuciono a casaccio insieme sequenze di forme linguistiche che hanno osservato nei propri vasti dati di addestramento, in base a informazioni probabilistiche su come si combinano, ma senza alcun riferimento al significato".

Il problema è che gli esseri umani hanno questo desiderio innato di connessione, che li spinge ad antropomorfizzare⁵ gli oggetti e a proiettare su di essi sentimenti e personalità, perché questo ne facilita il legame sociale.

Come hanno detto i ricercatori in merito al documento sul pappagallo stocastico: "Dobbiamo tenere conto del fatto che la nostra percezione del testo in linguaggio naturale, indipendentemente da come è stato generato, è mediata dalla nostra competenza linguistica e dalla nostra predisposizione a interpretare gli atti comunicativi come se trasmettessero un significato e un'intenzione coerenti, indipendentemente dal fatto che lo facciano o meno".

Questo è il motivo per cui alcune persone potrebbero prendere per buono quello che dice l'AI, anche se sanno che queste tecnologie non possono effettivamente percepire o comprendere il mondo al di là di quello che è disponibile attraverso i suoi dati di addestramento.

Dal momento che i chatbot di AI sono in grado di condurre conversazioni coerenti e di trasmettere sentimenti, le persone possono interpretarli come significativi e spesso dimenticano che i modelli LLM, tra le altre macchine umanoidi, sono "programmati per essere credibili", secondo Scientific American⁶. Ogni caratteristica, che si tratti delle parole che dice o del modo in cui tenta di emulare le espressioni umane, rientra in questa progettazione.

L'AI crea un'illusione di presenza, eseguendo i movimenti della comunicazione da uomo a uomo, slegata dall'esperienza fisica della presenza.

"Tutte le sensazioni, fame, dolore, rabbia, amore, sono il risultato di stati fisiologici che un modello LLM semplicemente non ha", hanno scritto Fei-Fei Li e John Etchemendy, co-fondatori dell'Institute for Human-Centered Artificial Intelligence della Stanford University. Quindi, anche se un chatbot di AI viene spinto a dire che ha fame, in realtà non può essere affamato perché non ha uno stomaco.

Le AI attuali non sono senzienti. Attraverso prove e test, questo tipo di modello AI ha inoltre dimostrato di essere ancora molto imperfetto e spesso può commettere errori o inventare informazioni, provocando un fenomeno chiamato allucinazioni.

Questi errori spesso si verificano quando i modelli non riescono a collocare il contesto in cui le informazioni esistono o sono incerte. Esiste il rischio che questi difetti vengano amplificati in caso di maggiore autonomia dell'AI.

Inoltre, gli esperti di etica sono preoccupati per l'AI senziente in quanto non sanno cosa potrebbe accadere se gli informatici non avessero più il controllo dei sistemi che imparano a pensare in modo indipendente. Questo potrebbe rappresentare un problema "esistenziale" se gli obiettivi dell'AI si dovessero scontrare con gli obiettivi umani. In questo scenario, non è chiaro chi sarebbe responsabile dei danni, delle decisioni sbagliate e dei comportamenti imprevedibili in cui la logica non può essere ricondotta a un comando originale inserito dall'uomo.

Inoltre, gli esperti temono di non essere in grado di comunicare con l'AI senziente o di non potersi fidare completamente dei loro output. Complessivamente, alcuni studiosi concludono che l'AI dotata di senzienza potrebbe comportare minacce alla sicurezza e alla privacy.

Man mano che l'AI si integra sempre di più nelle tecnologie esistenti, gli esperti del settori spingono sempre più per avere maggiori framework e guardrail tecnici. Questi sono più pertinenti alla luce dei dilemmi morali ed etici relativi all'autonomia e alle funzionalità dell'AI.