Framework di agenti AI: scegliere la base giusta per la tua azienda

Gli agenti AI sono programmi in grado di eseguire autonomamente un'attività per conto di un utente. Questi sistemi di AI elaborano innanzitutto un piano con una serie di passaggi per svolgere un compito complesso.

Utilizzano quindi le chiamate di funzione per connettersi a strumenti esterni, come le application programming interface (API), le fonti di dati, le ricerche sul Web e persino altri agenti AI, che possono aiutare a colmare eventuali lacune nelle loro conoscenze.

Dopo aver eseguito il loro piano d'azione, gli agenti autonomi apprendono dal feedback e memorizzano le informazioni apprese per migliorare le prestazioni future.

Le organizzazioni possono creare da zero agenti AI utilizzando linguaggi di programmazione come Python o JavaScript. Tuttavia, un approccio più rapido e scalabile prevede l'utilizzo di framework di agenti AI.

I framework agentici sono gli elementi costitutivi per lo sviluppo, l'implementazione e la gestione degli agenti AI. Queste piattaforme software dispongono di caratteristiche e funzioni integrate che aiutano a semplificare e velocizzare il processo, tra cui:

• Un'architettura predefinita che delinea la struttura, le caratteristiche e le funzionalità dell'agentic AI.

• Protocolli di comunicazione che facilitano l'interazione tra agenti AI e utenti umani o altri agenti.

• Sistemi di gestione delle attività per coordinare le attività.

• Strumenti di integrazione per la chiamata di funzioni.

• Strumenti di monitoraggio per tracciare le prestazioni dell'agentic AI.

Prima di immergerti nel mondo degli agenti di intelligenza artificiale, pensa agli obiettivi e ai casi d'uso della tua organizzazione. Il quadro ideale crea un equilibrio tra le tue funzionalità, le tue esigenze a breve termine e i tuoi obiettivi a lungo termine.

Ecco alcuni aspetti da considerare quando si seleziona un framework per agenti AI:

• Complessità

• Riservatezza e sicurezza dei dati

• Facilità d’uso

• Integrazione perfetta

• Prestazioni e scalabilità

Identifica le attività che desideri che un agente AI svolga e quanto siano complesse queste attività. Stabilisci se è necessaria una semplice implementazione con un solo agente o un ecosistema multiagente.

Per gli ambienti multiagente, mappa le interazioni richieste tra gli agenti e dove è ancora necessario l'intervento umano.

Nel campo del supporto clienti, ad esempio, un singolo agente AI può aiutare a classificare la gravità dei problemi che si presentano. Tuttavia, se punti a un workflow più robusto, considera la possibilità di creare un sistema multiagente con diversi agenti per risolvere i problemi, suggerire correzioni e assegnare casi complicati ad altri agenti umani o agenti AI.

La sicurezza e la privacy dei dati devono essere al primo posto durante la selezione di un framework agentico. Verifica le politiche e le misure di sicurezza del framework che hai scelto, inclusa la crittografia dei dati a riposo e in transito, i controlli di accesso e l'eliminazione di eventuali informazioni sensibili.

Considera il livello di competenza del tuo team di sviluppo. Un framework di AI adatto ai principianti come CrewAI, ad esempio, presenta un'interfaccia no-code per la prototipazione rapida e modelli di agenti AI pronti per un'implementazione rapida.

Gli sviluppatori di AI più esperti potrebbero optare per framework di agenti avanzati come LangGraph, che offrono controllo di basso livello e opzioni di codice personalizzabili.

Valuta i framework di agentic AI in base alla loro compatibilità con il tuo stack tecnologico esistente. Verifica quanto bene il framework scelto si integra con le tue attuali fonti di dati, infrastrutture e strumenti.

Scopri come verrà implementata l'agentic AI nel tuo ambiente, sia on-premise, sia nel cloud, e se è necessaria un'implementazione su piccola o larga scala.

Valuta le prestazioni del framework dell'agente AI che hai scelto. Considera i tempi di risposta o la latenza per le applicazioni in tempo reale e valuta se le prestazioni scadono durante l'elaborazione di grandi volumi di dati o di più richieste simultanee. E anche se l'attenzione potrebbe essere rivolta al breve termine, pensa a come il framework possa essere scalato con la crescita della tua attività.

L'agentic AI è ancora nelle sue fasi iniziali. Man mano che la tecnologia alla base degli agenti AI si evolverà, altrettanto sarà per i framework alla base. Ecco alcuni framework di agenti AI attualmente più diffusi:

AutoGen è un framework open source di Microsoft per la creazione di applicazioni di AI multiagente in grado di eseguire attività complesse. La sua architettura è composta da 3 livelli:

• Core è un framework di programmazione per lo sviluppo di una rete di agenti scalabile e distribuita, con strumenti per il tracciamento e il debug dei workflow. Impiega la messaggistica asincrona, supportando sia le interazioni richiesta-risposta, sia quelle guidate dagli eventi.

• AgentChat è basato su Core e può essere utilizzato per creare assistenti di AI conversazionale. È il punto di partenza proposto per i principianti, che offre agenti singoli e team multiagente predefiniti con comportamenti e modelli di interazione predefiniti.

• Extensions è un pacchetto contenente implementazioni dei componenti Core e AgentChat per espandere ulteriormente le loro funzionalità e interfacciarsi con librerie esterne e altri servizi. Può utilizzare le estensioni integrate e quelle sviluppate dalla community AutoGen, o persino crearne di proprie.

AutoGen fornisce anche 2 pratici strumenti per sviluppatori: AutoGen Bench per valutare e effettuare il benchmark per le prestazioni dell'agentic AI e AutoGen Studio per un'interfaccia no-code per sviluppare agenti. AutoGen è disponibile per l'accesso su GitHub.

CrewAI è un framework di orchestrazione per soluzioni di AI multiagente. Come AutoGen, CrewAI è open source.

L'architettura basata sui ruoli di CrewAI tratta l'agentic AI come un "equipaggio" di "lavoratori". Ecco i componenti fondamentali di questo equipaggio:

• Agli agenti vengono assegnati ruoli specializzati pur continuando a collaborare su workflow complessi. Gli sviluppatori possono utilizzare il linguaggio naturale per delineare il ruolo, l'obiettivo e la storia di un agente.

• I compiti definiscono le responsabilità specifiche di ciascun agente. Gli sviluppatori possono anche usare il linguaggio naturale per descrivere l'attività e l'output atteso per ciascun agente.

• Un processo identifica il modo in cui gli agenti lavorano insieme e il modo in cui vengono eseguite le attività. Può essere sequenziale, con attività completate in base a un ordine preimpostato, o gerarchico, con un agente di gestione personalizzato che supervisiona la delega, l'esecuzione e il completamento delle attività.

Uno degli esempi raccolti da CrewAI include un team di analisi del mercato azionario. Questo team collabora in modo sequenziale, con un agente analista di mercato incaricato di analizzare i dati per un determinato titolo, un agente ricercatore incaricato di raccogliere informazioni di supporto che convalidano l'analisi dei dati e un agente di strategia incaricato di creare un piano d'azione passo dopo passo basato sull'analisi e sui dati di supporto.

CrewAI supporta i collegamenti con vari modelli linguistici di grandi dimensioni (LLM), tra cui Claude di Anthropic, Gemini di Google, i modelli AI di Mistral, i modelli GPT di OpenAI e i foundation model in IBM® watsonx.ai.

Il framework dispone anche di una suite di strumenti di retrieval-augmented generation (RAG) per cercare diverse fonti di dati.

CrewAI è disponibile per l'accesso su GitHub.

LangChain è un altro framework open source per la creazione di applicazioni basate su modelli LLM, tra cui chatbot come ChatGPT e agenti AI.

Utilizza un'architettura modulare, con ogni modulo che rappresenta astrazioni che incapsulano i concetti e i passaggi complessi necessari per lavorare con i moduli LLM.

Questi componenti modulari possono quindi essere concatenati per creare applicazioni di AI.

LangChain è utile per sviluppare semplici agenti AI con workflow diretti. Fornisce supporto per database vettoriali e utility per incorporare memoria nelle applicazioni, conservando di conseguenza cronologia e contesto.

La sua piattaforma LangSmith consente il debug, il test e il monitoraggio delle prestazioni.

LangChain è disponibile per l'accesso su GitHub.

LangGraph fa parte dell'ecosistema LangChain. Il framework eccelle nell'orchestrare workflow complessi per sistemi multiagente.

Applica un'architettura grafica, in cui le attività o le azioni specifiche degli agenti AI sono rappresentate come nodi, mentre le transizioni tra tali azioni sono rappresentate come edge.

Un componente di stato mantiene l'elenco delle attività in tutte le interazioni. Questo tipo di architettura è adatto per workflow ciclici, condizionali o non lineari.

Ad esempio, una compagnia aerea potrebbe voler creare un agente AI di viaggio che aiuti gli utenti a trovare e prenotare i voli. Utilizzando LangGraph, ognuna di queste azioni sarà rappresentata come nodi e quei nodi possono avere più agenti che eseguono attività particolari.

È possibile aggiungere una fase Human In The Loop (HITL), in modo che gli utenti possano scegliere un volo dall'elenco di ricerca e, se nulla si adatta alle loro preferenze, l'assistente di viaggio può facilmente tornare al nodo "trova voli" ed eseguire nuovamente la ricerca.

LangGraph è disponibile per l'accesso su GitHub.

LlamaIndex è un framework di orchestrazione dei dati open source per la creazione di soluzioni di AI generativa (gen AI) e di agentic AI. Offre agenti e strumenti preconfezionati e workflow introdotti di recente, un meccanismo per lo sviluppo di sistemi multiagente.

Ecco gli elementi principali che compongono un workflow in LlamaIndex:

• I passaggi sono le azioni specifiche di un agente. Questi sono i componenti base di un workflow.

• Gli eventi attivano i passaggi e sono il mezzo attraverso il quale i passaggi comunicano tra loro.

• Il contesto è condiviso in tutto il workflow, in modo che i passaggi possano memorizzare, recuperare e trasmettere i dati e mantenere lo stato durante la loro esecuzione.

Questa architettura basata sugli eventi consente di eseguire i passaggi del workflow in modo asincrono. Questo significa che, a differenza di un'architettura a grafo, non è necessario definire i percorsi tra i passaggi, con conseguente transizione più flessibile tra le azioni dell'agente.

Pertanto, i workflow LlamaIndex sono adatti per applicazioni di agenti AI più dinamiche che devono tornare spesso ai passaggi precedenti o ramificarsi in più passaggi.

LlamaIndex è accessibile su GitHub.

Semantic Kernel è un kit di sviluppo open source di Microsoft per la creazione di applicazioni di AI generativa di livello aziendale. Il suo Agent Framework, attualmente contrassegnato come sperimentale, fornisce astrazioni di base per la creazione di agenti.

Presenta 2 implementazioni di agenti integrate: un agente per il completamento della chat e un assistente agente più avanzato.

Gli agenti multipli possono essere orchestrati attraverso le chat di gruppo o utilizzando il framework di Semantic Kernel (anch'esso contrassegnato come sperimentale) per i workflow più complessi.

Un processo è costituito da passaggi, che rappresentano i compiti assegnati agli agenti AI e delineano il flusso di dati tra i passaggi.

Semantic Kernel è disponibile per l'accesso su GitHub.

Per prendere decisioni più consapevoli, valuta la possibilità di sperimentare i tuoi framework preferiti. Inizia in piccolo con una semplice implementazione a singolo agente per testare il funzionamento di ogni framework e il confronto con gli altri.

Il giusto framework agentico è in linea con le tue esigenze aziendali e può aiutare a creare agenti AI che automatizzano i workflow, portando a processi aziendali più efficienti.