L'evoluzione dell'etica e del landscape dell'AI agentica

L'esplosione del termine "agentic AI" nei media potrebbe far sorgere la domanda: si tratta semplicemente di una nuova espressione di marketing? Dopotutto, il termine "agente" (o "agente virtuale") è stato a lungo utilizzato nell'intelligenza artificiale (AI) per indicare un aiutante automatizzato, come i chatbot per il servizio clienti o le funzioni HR.

Più in generale, nella Robotic Process Automation, un robot software potrebbe agire come agente per un utente o un'applicazione per eseguire compiti specifici. I casi d'uso includono la gestione della supply chain, l'elaborazione delle buste paga e l'amministrazione di database, solo per citarne alcuni. I microservizi possono anche essere considerati sistemi multiagente.

Abbiamo avuto agenti fin da quando abbiamo avuto l'AI. La novità è che l'agentic AI è ora definita dalla sua dipendenza dall'AI generativa. Il suo interesse deriva dalla possibilità di estendere le capacità probabilistiche emergenti dei modelli linguistici di grandi dimensioni (LLM) a nuovi spazi d'azione. Mentre l'AI generativa crea risposte o contenuti, l'agentic AI agisce autonomamente su quelle risposte. Queste funzionalità sollevano nuovi rischi etici e preoccupazioni di governance, che esploreremo.

I benefici dell'agentic AI sono convincenti. "L'agentic AI ci avvicina ai casi d'uso che, fino a poco tempo fa, pensavamo come fantascienza, dove le macchine possono completare compiti complessi che coinvolgono workflow complessi, processi decisionali basati sui dati e azioni con un intervento umano minimo", scrive Cole Stryker di IBM.

Gli agenti AI possono analizzare gli strumenti a loro disposizione, utilizzare gli assistenti AI per trovare maggiori informazioni sugli argomenti e guidare gli utenti attraverso questi passaggi. L'AI multimodale sta anche accelerando l'adozione degli agenti aumentando la capacità dei sistemi basati su agenti di analizzare il mondo attraverso vari mezzi, proiettare più passi avanti e agire per conto dell'utente.

Nelle architetture multi-agente tradizionali, gli esseri umani progettano la logica di controllo per risolvere problemi chiaramente definiti. Al contrario, gli agenti AI (o agenti LLM) utilizzano la logica di controllo creata dall'AI generativa, con l'LLM che agisce come orchestratore o coordinatore. Il nuovo modello IBM® Granite 3.0 8B Instruct esemplifica questo approccio supportando casi d'uso basati su agenti che richiedono chiamata di strumenti, e IBM® Watsonx Orchestrate estende queste capacità per supportare funzionalità di agenti per le risorse umane e le funzioni di chat .

I sistemi di agentic AI completamente realizzati hanno la capacità autonoma di progettare workflows e utilizzare strumenti per risolvere problemi complessi, che siano previsti in modo approssimativo, vago o imprevisto. Attraverso le application programming interface (API), questi strumenti possono interagire in ambienti esterni, attingendo anche ai dati su cui sono stati addestrati i loro modelli.

"I sistemi basati su agenti hanno una nozione di pianificazione, loop, riflessione e altre strutture di controllo che utilizzano ampiamente le capacità di ragionamento intrinseche del modello per svolgere un compito end-to-end", scrivono i ricercatori IBM. "Insieme alla possibilità di utilizzare strumenti, plug-in e chiamate di funzioni, gli agenti sono in grado di svolgere attività più generiche."

Consideriamo alcuni casi d'uso nel settore dei servizi finanziari: i sistemi di agentic AI potrebbero ottimizzare autonomamente le comunicazioni con i clienti e adattare le strategie di engagement. Potrebbero valutare l'affidabilità creditizia, personalizzare le offerte di prestito e gestire autonomamente conti ad alto rischio. Potrebbero anche monitorare in tempo reale le minacce di mercato e raccomandare misure di mitigazione del rischio. Tali sistemi potrebbero migliorare notevolmente la produttività, ma solo se vengono affrontate le preoccupazioni di sicurezza e osservabilità.

L'agentic AI amplifica tutti i rischi che si applicano all'AI tradizionale, predittiva e generativa perché maggiore autonomia significa maggiore autonomia e quindi meno interazione umana.

Questi rischi devono essere affrontati sia attraverso mezzi tecnologici sia attraverso la responsabilità umana per i test e i risultati. È necessario un solido framework per la governance e la gestione del ciclo di vita.

"Dare agli LLM maggiore libertà di interagire con il mondo esterno ha il potenziale di amplificare i loro rischi", afferma Maya Murad, responsabile tecnico di prodotto presso IBM® Research. "Molte cose possono andare storte quando si dà a un agente il potere di creare e poi eseguire un codice come parte del percorso di risposta a una richiesta. Potresti finire per eliminare l'intero file system o per divulgare informazioni proprietarie."

"È stato dimostrato che gli agenti sono 'meno robusti, inclini a comportamenti più dannosi e in grado di generare contenuti più invisibili rispetto agli LLM, evidenziando importanti sfide di sicurezza'", citano i ricercatori IBM.

Murad raccomanda di limitare questi rischi eseguendo codice in un sandbox sicuro, installando barriere di sicurezza e conducendo ricerche offensive tramite simulazioni avversarie, analisi di malware e red-teaming. Devono essere inoltre applicate le politiche aziendali su come e dove condividere i dati.

Stanno emergendo nuove strategie per testare e monitorare i sistemi di agentic AI, inclusi modelli di attacco avversari e metodi di tracciamento come gli agenti guardiani. Tuttavia, queste strategie devono essere valutate per essere allineate alla governance organizzativa in materia di etica, sicurezza e rischio.

La governance dell'AI, che abbraccia lo sviluppo, la distribuzione e le operazioni, aiuta a garantire che i modelli AI rimangano allineati ai loro intenti. Toolkit end-to-end flessibili, come IBM watsonx.governance possono accelerare i workflow responsabili e favorire la conformità normativa.

L'agentic AI sta progredendo così rapidamente che le organizzazioni potrebbero avere difficoltà a trovare precedenti o best practice per ridurre al minimo i danni. Poiché ha il potenziale di amplificare l'impatto di dati o algoritmi distorti, le organizzazioni devono assumere l'iniziativa etica e sviluppare con attenzione i framework di governance dell'AI organizzativa insieme alla governance automatizzata dell'AI.

Come abbiamo scritto, le basi per tutta la governance dell'AI sono centrate sull'uomo. La governance organizzativa comprende la definizione di processi per l'assunzione e l'inventario dei modelli AI. Implica anche la gestione e il mantenimento dei programmi di comunicazione e alfabetizzazione dei dipendenti e la designazione di leader responsabili per supervisionare la governance e rimanere aggiornati sull'evoluzione delle normative.

Per rendere operativa in modo efficace e responsabile la governance dell'AI, sono necessari alcuni passaggi e occorre prestare particolare attenzione alle considerazioni uniche dell'agentic AI. Questi passaggi e considerazioni sono:

1. Garantire mandati finanziati.
2. Identificare leader responsabili: i leader responsabili devono ora assumersi anche la responsabilità degli impatti dell'agentic AI e delle applicazioni. Per guidarti in questa fase, considera le seguenti domande:
   
   –  Cosa significa responsabilità quando la logica di controllo non è guidata dall’uomo? Quando la supervisione della logica di controllo passa da "human in the loop" a "human on the loop", la parte responsabile è quella che approva l'uso dell'agentic AI e di qualsiasi sistema di governance automatizzato. 
   
   –    Le API utilizzate dagli agenti devono essere criptate per motivi di sicurezza, garantire la privacy tramite l'anonimizzazione dei dati e rispettare le normative giurisdizionali sui dati. Chi nella tua organizzazione garantirà che questi standard vengano rispettati?
   
   
3. Sviluppare un'alfabetizzazione AI a livello di organizzazione e centri di eccellenza aziendali: queste iniziative devono ora includere i concetti di agentic AI. Come guida in questa fase, consideri le seguenti domande:
   
   –    Gli stakeholder sanno come gli agenti AI prendono le decisioni (la logica di controllo)? Che tipo di rapporto vuole avere la tua organizzazione con l'AI? Se il tuo obiettivo è aumentare l'intelligenza umana, come puoi misurare che l'intelligenza umana viene effettivamente aumentata dagli agenti AI? Quali comportamenti vorresti vedere di più e quali misurare? Come si può misurare, ad esempio, il senso di autonomia delle persone?    
   
   –    Domanda guida: i dipendenti capiscono quando e dove viene utilizzata l'AI? Possono accedere a un elenco di fornitori di software, applicazioni e fonti di dati approvati? L'architettura basata su agenti non deve fornire una backdoor per lo shadow AI né eludere le responsabilità.
   
   
4. Impegnarsi a una revisione e all'evoluzione continue delle pratiche etiche e della conformità: in quest'ultimo passaggio, è importante riflettere sulle seguenti considerazioni chiave:
   
   –    La regolamentazione dell'agentic AI è agli inizi, quindi possiamo aspettarci una regolamentazione sulla divulgazione rivolta al consumatore sull'uso degli agenti AI. La mancata divulgazione dell'uso dei sistemi di AI è già identificata come un rischio. Ora, all'interno di un flusso basato su agenti, dobbiamo determinare quando dichiarare l'uso degli strumenti di agenti, simile a come gli utenti dell'applicazione vengono notificati quando vengono reindirizzati a un sito o un'applicazione esterna.

La responsabilità per gli impatti dei sistemi di AI agenti si estende a creatori di LLM, adattatori di modelli, deployer e utenti di applicazioni AI. Stanno emergendo le best practice di sicurezza (PDF), che includono:

• Valutazione umana dell'idoneità delle mansioni degli agenti.
• Limitare lo spazio d'azione e richiedere l'approvazione umana.
• Fare in modo che i comportamenti predefiniti siano i meno dannosi.
• Garantire la leggibilità (spiegabilità) delle azioni dell'agente.
• Monitoraggio automatizzato da parte degli altri sistemi AI.
• Fornire un'attribuzione affidabile delle azioni dell'agente.
• Fornire interrompibilità (funzionalità di arresto graduale).

L'architettura basata su agenti moltiplica le opportunità dell'AI generativa e i suoi rischi. Di fronte a questa complessità, i programmi pilota di agentic AI devono coinvolgere i casi d'uso a basso rischio dell'organizzazione.

L'esplorazione completa del rischio richiede un approccio strutturato. L'anno scorso, i ricercatori del MIT hanno creato l'AI Risk Repository, un database di oltre 700 rischi citati nella letteratura sull'AI. Identifica e categorizza i rischi tratti da 43 framework di AI prodotti da organizzazioni di ricerca, settori e governo. Include tassonomie utili per classificare come, quando e perché si verificano rischi, e in sette domini, con alcuni sottodomini all'interno di ciascuno:

1. Discriminazione e tossicità
2. Privacy e sicurezza
3. Misinformazione
4. Attori malintenzionati e uso improprio
5. Interazione uomo-computer
6. Socioeconomico e ambientale
7. Sicurezza del sistema AI, guasti e limitazioni

L'infanzia della governance dell'agentic AI è riflessa in una nota degli autori (PDF):

"Diverse aree di rischio sembrano poco esplorate... [Gli agenti AI] sono esplorati in [solo] due documenti inclusi. L'agentic AI può essere particolarmente importante da considerare poiché presenta nuove classi di rischi associati al possesso e all'uso di capacità pericolose, come il miglioramento ricorsivo di sé..."

Consigliamo ai partecipanti alle esercitazioni di esplorazione del rischio di familiarizzare con tali tassonomie e framework. Dovrebbero anche essere rassicurati che le loro esperienze reali e le percezioni dei rischi possano essere valide, data la scarsità di ricerche sul rischio in certi ambiti.

Le organizzazioni che mirano a realizzare l'enorme potenziale dell'agentic AI richiederanno investimenti e pianificazione accurati. Considera che ci sono voluti diversi anni perché i progetti di AI generativa raggiungessero un successo ampio. Secondo Gartner, "Almeno il 30% dei progetti di AI generativa verrà abbandonato dopo il proof of concept entro la fine del 2025, a causa di dati di scarsa qualità, controlli del rischio inadeguati, costi in aumento o valore aziendale poco chiaro."²

In che modo la tua organizzazione superare le difficoltà in questa prossima fase dell'AI? Un report di Gartner afferma che "I servizi di consulenza e implementazione dell’AI generativa accelerano i risultati che sono misurabili, privi di rischi, democratizzati e specifici per l’organizzazione che li acquista".³

Il report formula le seguenti raccomandazioni:

• Scegli fornitori con obiettivi compatibili, trasparenza, ecosistema, focus sul settore e capacità localizzate, in particolare per quanto riguarda la conformità normativa, ad esempio l'EU AI Act, le leggi statali statunitensi sulla privacy e le normative cinesi.
  
• Insisti su FinOps, framework di governance e guardrail di sicurezza per gestire il rischio dell'AI. Valuta le soluzioni dei fornitori per i rischi riguardanti dipendenze, privacy dei dati, IP e lock-in.

Crediamo che IBM® Consulting soddisfi tutti questi criteri. Aiuta i clienti a implementare l'AI attraverso approcci ponderati e informati alla strategia, ai dati, all'architettura, alla sicurezza e alla governance. Se la tua organizzazione sta cercando di esplorare o implementare una soluzione di agentic AI, i nostri esperti possono aiutarti a mitigare i rischi e rafforzare il valore aziendale.