In genere, se un utente richiede uno strumento di AI generativa, desidera un output che risponda in modo appropriato al prompt (cioè una risposta corretta a una domanda). Tuttavia, a volte gli algoritmi di AI producono output che non si basano su dati di addestramento, vengono decodificati in modo errato dal trasformatore o non seguono alcuno schema identificabile. In altre parole, “allucinano” la risposta.

Il termine può sembrare paradossale, dato che le allucinazioni sono tipicamente associate al cervello umano o animale, non alle macchine. Ma da un punto di vista metaforico, l'allucinazione descrive accuratamente questi risultati, specialmente nel caso del riconoscimento di immagini e schemi (dove i risultati possono avere un aspetto davvero surreale).

Le allucinazioni dell'AI sono simili a come gli esseri umani a volte vedono figure nelle nuvole o nei volti sulla luna. Nel caso dell'AI, queste interpretazioni errate si verificano a causa di vari fattori, tra cui l'overfitting, la distorsione/imprecisione dei dati di addestramento e l'elevata complessità del modello.

Prevenire i problemi con le tecnologie generative open source può rivelarsi una sfida. Alcuni esempi notevoli di allucinazione dell'AI includono:

• Il chatbot Bard di Google afferma erroneamente che il James Webb Space Telescope aveva acquisito le prime immagini al mondo di un pianeta al di fuori del nostro sistema solare.¹

• L'AI della chat di Microsoft, Sydney, ammette di essersi innamorata degli utenti e di aver spiato i dipendenti di Bing.²

• Meta ha ritirato la demo del modello LLM di Galactica nel 2022, dopo aver fornito agli utenti informazioni imprecise, a volte basate su pregiudizi.³

Sebbene molti di questi problemi siano stati affrontati e risolti, è facile capire come, anche nelle migliori circostanze, l'uso di strumenti di AI possa avere conseguenze impreviste e indesiderate.

I modelli di AI generativa si basano sui dati di input per completare le attività, quindi la qualità e la pertinenza dei set di dati di addestramento determineranno il comportamento del modello e la qualità dei suoi output. Per evitare le allucinazioni, assicurati che i modelli AI siano addestrati su dati diversi, equilibrati e ben strutturati. Questo aiuterà il suo modello a ridurre al minimo la distorsione dell'output, a comprenderne meglio le attività e a produrre risultati più efficaci.

Spiegare come utilizzerai il modello AI, così come eventuali limitazioni all'uso del modello, aiuterà a ridurre le allucinazioni. Il tuo team o la tua organizzazione dovrebbero stabilire le responsabilità e i limiti del sistema di AI scelto; questo aiuterà il sistema a completare le attività in modo più efficace e a ridurre al minimo i risultati irrilevanti e "allucinanti".

I modelli di dati forniscono ai team un formato predefinito, aumentando la probabilità che un modello AI generi risultati in linea con le linee guida prescritte. Affidarsi a modelli di dati garantisce la coerenza dell'output e riduce la probabilità che il modello produca risultati errati.

I modelli AI spesso hanno allucinazioni perché mancano di vincoli che limitano i possibili risultati. Per prevenire questo problema e migliorare la coerenza e l'accuratezza complessive dei risultati, definisca i limiti per i modelli AI utilizzando strumenti di filtro e/o soglie probabilistiche chiare.

Testare rigorosamente il modello AI prima dell'uso è fondamentale per prevenire le allucinazioni, così come valutare il modello su base continuativa. Questi processi migliorano le prestazioni complessive del sistema e consentono agli utenti di regolare e/o riqualificare il modello man mano che i dati invecchiano e si evolvono.

Assicurarsi che un essere umano stia convalidando e rivedendo i risultati dell'AI è una misura di protezione finale per prevenire le allucinazioni. Il coinvolgimento della supervisione umana garantisce che, in caso di allucinazioni dell'AI, un essere umano sarà disponibile per filtrarla e correggerla. Un revisore umano può inoltre offrire competenze in materia che migliorano la sua capacità di valutare i contenuti dell'AI per verificarne l'accuratezza e la pertinenza con l'attività.