Cosa sono gli agenti AI?

Gli agenti AI possono comprendere un'ampia gamma di funzioni oltre all'elaborazione del linguaggio naturale, tra cui il processo decisionale, la risoluzione dei problemi, l'interazione con ambienti esterni e l'esecuzione di azioni.

Gli agenti AI risolvono compiti complessi in applicazioni aziendali, tra cui progettazione software, automazione IT, generazione di codice e assistenza conversazionale. Usano le tecniche avanzate di elaborazione del linguaggio naturale dei modelli linguistici di grandi dimensioni (LLM) per comprendere e rispondere passo dopo passo agli input degli utenti e determinare quando ricorrere a strumenti esterni.

Ad esempio, Dynamiq ha creato un assistente di ricerca legale multi-agente per un importante cliente assicurativo utilizzando IBM watsonx Orchestrate. Il sistema indirizza inizialmente le richieste legali in arrivo a un classificatore IBM Granite a basso costo, inoltrando agli agenti di ricerca più avanzati solo i casi complessi. Questo modello di routing intelligente tra agenti specializzati ha ridotto i tempi di revisione dei contratti da 90 a soli 45 minuti, mantenendo al contempo ogni decisione verificabile ed economicamente vantaggiosa.

Alla base degli agenti AI ci sono i modelli linguistici di grandi dimensioni (LLM). Per questo motivo, gli agenti AI vengono spesso definiti anche agenti LLM. Gli LLM tradizionali, come i modelli IBM Granite, generano le proprie risposte sulla base dei dati utilizzati per il loro addestramento e sono soggetti a limitazioni in termini di conoscenza e capacità di ragionamento. Al contrario, la tecnologia agentica utilizza il tool calling sul backend per ottenere informazioni aggiornate, ottimizzare i workflow e creare autonomamente sottoattività per raggiungere obiettivi complessi.

In questo processo, l’agente autonomo impara ad adattarsi nel tempo alle aspettative dell’utente. La capacità dell’agente di memorizzare le interazioni passate tramite la memoria e di pianificare le azioni future rende più probabili un’esperienza personalizzata e risposte complete.¹ Il tool calling può avvenire senza l’intervento umano e amplia le possibilità di applicazione nel mondo reale di questi sistemi di AI. Queste tre fasi, o componenti agentici, definiscono il funzionamento degli agenti:

Sebbene gli agenti AI siano autonomi nei loro processi decisionali, necessitano di obiettivi e regole predefinite definite dall'uomo.² Ci sono tre principali influenze sul comportamento degli agenti autonomi:

• Il team di sviluppatori che progetta e addestra il sistema agentic AI. 
• Il team che distribuisce l'agente e fornisce all'utente l'accesso ad esso.
• L'utente che fornisce all'agente AI obiettivi specifici da realizzare e stabilisce gli strumenti disponibili da utilizzare.

Dati gli obiettivi dell'utente e gli strumenti disponibili dell'agente, l'agente AI esegue la decomposizione delle attività per migliorare le prestazioni.³ In sostanza, l'agente crea un piano di attività primarie e secondarie specifiche per raggiungere l'obiettivo complesso.

Per le attività semplici, la pianificazione non è un passaggio necessario. Invece, un agente può riflettere iterativamente sulle sue risposte e migliorarle senza pianificare i suoi prossimi passi.

Gli agenti AI basano le loro azioni sulle informazioni che percepiscono. Tuttavia, spesso non hanno le conoscenze complete necessarie per affrontare ogni attività secondaria all'interno di un obiettivo complesso. Per colmare questo divario, si rivolgono a strumenti disponibili come set di dati esterni, ricerche web, API e persino altri agenti.

Una volta raccolte le informazioni mancanti, l’agente aggiorna la propria knowledge base e avvia il ragionamento agentico. Questo processo, che comporta una rivalutazione continua del piano d’azione e l’apporto di autocorrezioni, supporta un processo decisionale più informato e adattivo.

Per illustrare questo processo, immagina un utente che pianifica la propria vacanza. L'utente incarica un agente AI di prevedere quale settimana del prossimo anno potrebbe avere il meteo migliore per il suo viaggio in Grecia dedicato al surf. 

Poiché il modello LLM al centro dell'agente non è specializzato in modelli meteorologici, non può fare affidamento esclusivamente sulla sua conoscenza interna. Pertanto, l'agente raccoglie informazioni da un database esterno contenente i bollettini meteorologici giornalieri per la Grecia degli ultimi anni.

Nonostante abbia acquisito queste nuove informazioni, l'agente non è ancora in grado di determinare le condizioni meteorologiche ottimali per il surf e quindi viene creata l'attività secondaria successiva. Per questa attività secondaria, l'agente comunica con un agente esterno specializzato nel surf. Supponiamo che così facendo, l'agente apprenda che l'alta marea e il tempo soleggiato con poca o nessuna pioggia offrono le migliori condizioni per il surf.

L'agente può ora combinare le informazioni apprese dai suoi strumenti per identificare degli schemi. Può prevedere in quale settimana dell'anno prossimo in Grecia ci saranno probabilmente alte maree, tempo soleggiato e scarse probabilità di pioggia. Questi risultati vengono poi presentati all'utente. La condivisione di informazioni tra strumenti è ciò che consente agli agenti AI di essere più versatili rispetto ai modelli AI tradizionali.³

Gli agenti AI utilizzano meccanismi di feedback, come altri agenti AI e human-in-the-loop (HITL), per migliorare l'accuratezza delle loro risposte. Torniamo al nostro precedente esempio sul surf per evidenziare questo processo. Dopo che l'agente ha formulato la sua risposta all'utente, memorizza le informazioni apprese insieme al feedback dell'utente per migliorare le prestazioni e adattarsi alle preferenze dell'utente per gli obiettivi futuri.

Se per raggiungere l’obiettivo sono stati utilizzati altri agenti, potrebbe essere utilizzato anche il loro feedback. Il feedback proveniente da più agenti può essere particolarmente utile per ridurre al minimo il tempo che gli utenti devono dedicare a fornire indicazioni. Tuttavia, gli utenti possono anche fornire feedback durante le azioni dell’agente e il suo processo di ragionamento interno, così da allineare meglio i risultati all’obiettivo desiderato.²

I meccanismi di feedback migliorano il ragionamento e l'accuratezza dell'agente AI, il che viene comunemente definito perfezionamento iterativo.³ Per evitare di ripetere gli stessi errori, gli agenti AI possono anche memorizzare i dati sulle soluzioni agli ostacoli precedenti in una base di conoscenza.

Gli AI chatbot utilizzano tecniche di AI conversazionale come l'elaborazione del linguaggio naturale (NLP) per comprendere le domande degli utenti e automatizzare le risposte. Questi chatbot sono una modalità mentre la capacità di agire è un framework tecnologico.

Gli AI chatbot non agentici sono quelli che non dispongono di strumenti, memoria o capacità di ragionamento. Possono raggiungere solo obiettivi a breve termine e non sono in grado di pianificare le azioni future. I chatbot non agentici, così come li conosciamo, richiedono un input continuo da parte dell’utente per poter rispondere.

Possono fornire risposte a richieste comuni che molto probabilmente sono in linea con le aspettative degli utenti ma ottengono scarsi risultati sulle domande specifiche dell'utente e dei suoi dati. Poiché questi chatbot non hanno memoria, non possono imparare dai loro errori se le loro risposte sono insoddisfacenti.

Al contrario, gli AI chatbot agenti imparano ad adattarsi alle aspettative degli utenti nel tempo, fornendo un'esperienza più personalizzata e risposte complete. Possono completare attività complesse creando attività secondarie senza l'intervento umano e considerando piani diversi. Questi piani possono anche essere corretti e aggiornati in base alle esigenze. Gli AI chatbot agenti, a differenza di quelli non agenti, valutano i loro strumenti e utilizzano le risorse disponibili per colmare le lacune informative.

Non esiste un'architettura standard per la costruzione di agenti AI. Esistono diversi paradigmi per risolvere problemi a più fasi.

Con il paradigma ReAct, possiamo istruire gli agenti a "pensare" e pianificare dopo ogni azione intrapresa e dopo ogni risposta degli strumenti, per decidere quale strumento utilizzare successivamente. Questi cicli, noti come Think-Act-Observe, vengono utilizzati per risolvere i problemi passo dopo passo e migliorare iterativamente le risposte.

Attraverso la struttura dei prompt, gli agenti possono essere istruiti a ragionare lentamente e a mostrare ogni "pensiero".⁴ Il ragionamento verbale dell'agente fornisce insight su come vengono formulate le risposte. In questo framework, gli agenti aggiornano costantemente il loro contesto con nuovi ragionamenti. Questo approccio può essere interpretato come una forma di prompting chain-of-thought.

Il metodo ReWOO, a differenza di ReAct, elimina la dipendenza dagli output degli strumenti per la pianificazione delle azioni. Gli agenti, invece, pianificano in anticipo. L'utilizzo di strumenti ridondanti viene evitato anticipando quali strumenti utilizzare al momento del prompt iniziale da parte dell'utente. Ciò è auspicabile da una prospettiva incentrata sull'uomo poiché l'utente può confermare il piano prima che venga eseguito.

Il workflow ReWOO è composto da tre moduli. Nel modulo di pianificazione, l'agente anticipa i suoi prossimi passi in base al suggerimento dell'utente. La fase successiva prevede la raccolta degli output prodotti chiamando questi strumenti. Infine, l'agente abbina il piano iniziale con gli output dello strumento per formulare una risposta. Questa pianificazione anticipata può ridurre notevolmente l'utilizzo dei token e la complessità computazionale e le ripercussioni di un guasto intermedio dello strumento.⁵

Gli agenti AI possono essere sviluppati con diversi livelli di funzionalità. Un agente semplice potrebbe essere migliore per obiettivi semplici per limitare la complessità computazionale non necessaria. Esistono 5 tipi principali di agenti, dal più semplice al più avanzato:

Gli agenti con riflessi semplici sono la forma di agente più semplice che basa le azioni sulla percezione. Questo agente non detiene alcuna memoria, né interagisce con altri agenti se mancano informazioni. Questi agenti agiscono in base a una serie di cosiddetti riflessi o regole. Questo comportamento significa che l'agente è preprogrammato per eseguire azioni che corrispondono al soddisfacimento di determinate condizioni.

Se l'agente incontra una situazione per la quale non è preparato, non può rispondere in modo appropriato. Gli agenti sono efficaci in ambienti completamente osservabili che garantiscono l'accesso a tutte le informazioni necessarie.⁶

Esempio: se sono le 20:00, il riscaldamento è attivato. Si tratta di un termostato che accende l'impianto di riscaldamento a un'ora prestabilita ogni sera.

Gli agenti con riflessi basati su modelli utilizzano sia la loro percezione attuale che la memoria per mantenere un modello interno del mondo. Man mano che l'agente continua a ricevere nuove informazioni, il modello viene aggiornato. Le azioni dell'agente dipendono dal suo modello, dai riflessi, dai precetti precedenti e dallo stato attuale.

Questi agenti, a differenza degli agenti con riflessi semplici, possono memorizzare informazioni e possono operare in ambienti parzialmente osservabili e mutevoli. Tuttavia, sono ancora limitati dal loro insieme di regole.⁶

Esempio: un robot aspirapolvere. Mentre pulisce una stanza sporca, rileva ostacoli come i mobili e si regola per evitarli. Il robot memorizza anche le aree che ha già pulito per non restare intrappolato in un ciclo di pulizia continua.

Gli agenti basati su obiettivo hanno un modello interno del mondo e anche un obiettivo o un insieme di obiettivi. Questi agenti cercano sequenze di azioni che raggiungano il loro obiettivo e pianificano queste azioni prima di agire su di esse. Questa ricerca e pianificazione migliorano la loro efficacia rispetto agli agenti con riflessi semplici e basati su modello.⁷

Esempio: un sistema di navigazione che consiglia il percorso più veloce per raggiungere la destinazione. Il modello considera vari percorsi che raggiungono la sua destinazione o, in altre parole, il suo obiettivo. In questo esempio, la regola della condizione-azione dell'agente afferma che se viene trovato un percorso più rapido, l'agente consiglia invece quello.

Gli agenti basati su utilità selezionano la sequenza di azioni che raggiungono l'obiettivo e massimizzano anche l'utilità o la ricompensa. L'utilità viene calcolata attraverso una funzione specifica. Questa funzione assegna un valore di utilità, una metrica che misura l'utilità di un'azione o quanto "felice" renderà l'agente, a ogni scenario in base a un insieme di criteri fissi.

I criteri possono includere fattori come il progresso verso l'obiettivo, i requisiti di tempo o la complessità computazionale. L'agente seleziona quindi le azioni che massimizzano l'utilità prevista. Quindi, questi agenti sono utili nei casi in cui più scenari raggiungono un obiettivo desiderato e bisogna selezionarne uno ottimale.⁷

Esempio: un sistema di navigazione che consiglia il percorso verso la sua destinazione che ottimizza l'efficienza del carburante e riduce al minimo il tempo trascorso nel traffico e il costo dei pedaggi. Questo agente misura l'utilità attraverso questa serie di criteri per selezionare il percorso più favorevole.

Gli agenti che apprendono hanno le stesse funzionalità degli altri tipi di agenti, ma sono unici nella loro capacità di apprendere. Le nuove esperienze vengono aggiunte alla loro base di conoscenza iniziale e ciò avviene in modo autonomo. Questo apprendimento migliora la capacità dell'agente di operare in ambienti non familiari. Gli agenti che apprendono potrebbero essere basati su utilità o su obiettivo nel loro ragionamento e sono composti da quattro elementi principali:⁷

• Apprendimento: questo processo migliora le conoscenze dell'agente che impara dall'ambiente attraverso i suoi precetti e sensori.
• Critica: questo componente fornisce un feedback all'agente per sapere se la qualità delle sue risposte soddisfa lo standard.
• Prestazioni: questo elemento è responsabile della selezione delle azioni dopo l'apprendimento.
• Generatore di problemi: questo modulo crea varie proposte di azioni da intraprendere.

Esempio: consigli personalizzati su siti di e-commerce. Questi agenti tengono traccia dell'attività e delle preferenze dell'utente nella loro memoria. Queste informazioni vengono utilizzate per consigliare determinati prodotti e servizi all'utente. Il ciclo si ripete ogni volta che vengono formulate nuove raccomandazioni. L'attività dell'utente viene continuamente memorizzata a scopo di apprendimento. Così facendo, l'agente migliora la sua accuratezza nel corso del tempo.

Con i continui progressi nell’AI generativa e nel machine learning, cresce l’interesse per l’ottimizzazione dei workflow attraverso l’AI, ovvero per l’automazione intelligente. Gli agenti AI sono strumenti di AI in grado di automatizzare attività complesse che altrimenti richiederebbero risorse umane. Questo cambiamento consente di raggiungere gli obiettivi in modo più economico, rapido e su larga scala. A loro volta, questi progressi fanno sì che gli operatori umani non debbano fornire indicazioni all’assistente AI per la creazione e la gestione delle sue attività.

I framework multiagente tendono a ottenere prestazioni migliori rispetto agli agenti singoli.¹¹ Questo perché, quanto più numerosi sono i piani d’azione disponibili per un agente, tanto maggiori sono le opportunità di apprendimento e riflessione.

Un agente AI che incorpora la conoscenza e il feedback di altri agenti AI specializzati in aree correlate può essere utile per la sintesi delle informazioni. Questa collaborazione backend tra agenti AI e la capacità di colmare le lacune informative sono uniche per i framework agenti, il che li rende uno strumento potente e un significativo progresso nell'intelligenza artificiale.

Gli agenti AI forniscono risposte più complete, accurate e personalizzate per l'utente rispetto ai modelli AI tradizionali. Questa adattabilità è importante per noi come utenti perché le risposte di qualità superiore tendono a offrire una migliore esperienza del cliente. Come già descritto in precedenza, questa capacità è resa possibile dallo scambio di informazioni con altri agenti, tramite strumenti e l'aggiornamento del loro flusso di memoria. Questi comportamenti emergono da soli e non sono preprogrammati.¹²

Alcune attività complesse richiedono le conoscenze di più agenti AI. L’orchestrazione di questi framework multi-agente comporta il rischio di malfunzionamenti. I sistemi multi-agente basati sugli stessi foundation model possono essere soggetti agli stessi problemi. Questi punti deboli possono causare un malfunzionamento dell’intero sistema, coinvolgendo tutti gli agenti, oppure renderlo vulnerabile ad attacchi malevoli.¹³ Questo evidenzia l’importanza della data governance nella creazione dei foundation model e di processi accurati di addestramento e test.

Anche la comodità del ragionamento pratico per gli utenti umani abilitato dagli agenti AI comporta dei rischi. Gli agenti che non sono in grado di creare un piano completo o riflettere sulle loro scoperte, potrebbero ritrovarsi a chiamare ripetutamente gli stessi strumenti, provocando cicli di feedback infiniti. Per evitare queste ridondanze, potrebbe essere utilizzato un certo livello di monitoraggio umano in tempo reale.¹³

Costruire agenti AI da zero richiede molto tempo e può essere anche molto oneroso in termini di computazione. Le risorse necessarie per formare un agente ad alte prestazioni possono essere ingenti. Inoltre, a seconda della complessità dell'attività, gli agenti possono impiegare diversi giorni per completare le attività.¹²

Se gestita male, l'integrazione degli agenti AI con i processi aziendali e i sistemi di gestione dei clienti può evidenziare alcuni seri problemi di sicurezza. Immagina, ad esempio, degli agenti AI che guidano il processo di sviluppo del software, portano i copiloti di codifica al livello successivo o determinano i prezzi per i clienti, senza alcuna supervisione umana o barriere di protezione. I risultati di tali scenari potrebbero essere dannosi a causa del comportamento sperimentale e spesso imprevedibile dell'agentic AI.

Pertanto, è essenziale che i fornitori di AI come IBM, Microsoft e OpenAI rimangano proattivi. Devono implementare protocolli di sicurezza estesi per garantire che i dati sensibili dei dipendenti e dei clienti siano memorizzati in modo sicuro. Le pratiche di distribuzione responsabile sono fondamentali per ridurre al minimo i rischi e mantenere la fiducia in queste tecnologie in rapida evoluzione.

Per affrontare le problematiche legate alle dipendenze tra più agenti, gli sviluppatori possono consentire agli utenti di accedere a un log delle azioni degli agenti.¹⁴ Le azioni possono includere l’utilizzo di strumenti esterni e indicare quali agenti esterni sono stati utilizzati per raggiungere l’obiettivo. Questa trasparenza permette agli utenti di comprendere il processo decisionale iterativo, offre l’opportunità di individuare eventuali errori e contribuisce a creare fiducia.

Si raccomanda di evitare che gli agenti AI autonomi rimangano in funzione per periodi di tempo eccessivamente lunghi. In particolare, nei casi di cicli di feedback infiniti non voluti, di cambiamenti nell'accesso a determinati strumenti o di malfunzionamenti dovuti a difetti di progettazione. Un modo per raggiungere questo obiettivo è implementare l'interrompibilità.

Mantenere il controllo di questa decisione implica consentire agli utenti umani la possibilità di interrompere tranquillamente una sequenza di azioni o l'intera operazione. Scegliere se e quando interrompere un agente AI richiede una certa ponderazione, poiché alcune interruzioni possono causare più danni che benefici. Potrebbe essere più sicuro consentire a un agente difettoso di continuare ad assistere in un'emergenza potenzialmente letale, piuttosto che spegnerlo completamente.⁵

Per mitigare il rischio che i sistemi agenti vengano utilizzati per scopi dannosi, è possibile implementare identificatori univoci. Se questi identificatori fossero richiesti per gli agenti per accedere ai sistemi esterni, rintracciare l'origine degli sviluppatori, dei distributori e dell'utente dell'agente diventerebbe più semplice.

Questo approccio aggiunge un livello essenziale di responsabilità. La tracciabilità consente di identificare i soggetti responsabili in caso di uso improprio o danni involontari causati da un agente. In definitiva, questo tipo di salvaguardia favorirebbe un ambiente operativo più sicuro per gli agenti AI.

Per supportare il processo di apprendimento degli agenti AI, specialmente nelle prime fasi in un nuovo ambiente, può essere utile fornire un certo livello di supervisione umana. Quindi, sulla base di questa guida, l'agente AI può confrontare le sue prestazioni con lo standard previsto e apportare le opportune modifiche. Questa forma di feedback è utile per migliorare l'adattabilità dell'agente alle preferenze dell'utente.⁵

A parte questo sistema di protezione, una best practice è quella di richiedere l'approvazione umana prima che un agente AI intraprenda azioni di grande impatto. Ad esempio, le azioni che vanno dall'invio di e-mail di massa al trading finanziario dovrebbero richiedere una conferma umana.⁷ Si raccomanda un certo livello di monitoraggio umano per tali domini ad alto rischio.