L'agentic AI e cosa c'è da capire: domande e risposte con Phaedra Boinodiris

Hai bisogno di pianificare un viaggio? Prenotare un treno? Pianificare i pasti? L'agentic AI può fare questo e molto altro. Questo sistema di AI intuitivo è sofisticato e progettato per decidere in modo autonomo. Tuttavia, richiede una governance solida grazie al suo processo decisionale autonomo

La necessità di strutture di governance complete diventa sempre più fondamentale man mano che i sistemi di agentic AI acquistano popolarità nelle organizzazioni. La capacità di questi sistemi di decidere in modo indipendente sottolinea la necessità critica di framework che garantiscano condotta etica, trasparenza e responsabilità. Phaedra Boinodiris, Global Trustworthy AI Leader di IBM Consulting, parla dell'"hype" sull'agentic AI e della necessità di una governance fondamentale dell'AI in questa sessione di Q&A.

Teaganne Finn: Parlaci dell'agentic AI. L'entusiasmo che circonda questa tecnologia è giustificato?  

Phaedra Boinodiris: L'agentic AI sta suscitando un enorme interesse. Se ci pensiamo, è come cucire insieme diverse soluzioni o modelli di AI, dove l'output di uno serve da input per un altro.

TF: Puoi condividere con noi alcuni esempi di agentic AI in azione?

PB: Ma certo. Partiamo dall'esempio più classico: i veicoli autonomi. Questi sistemi vanno ben oltre il riconoscimento delle immagini. Incorporano infatti l'elaborazione del linguaggio naturale, il processo decisionale e perfino funzionalità di pianificazione. Non si limitano a vedere: ragionano e agiscono.

Un esempio ancora più pertinente può essere quello di un robot intelligente per la pulizia della casa che mappa gli spazi, evita gli ostacoli, impara i percorsi migliori e decide se pulire o no in base alla tua pianificazione e alle tue preferenze. Quelle sono azioni agentiche in un ambiente fisico.

Oppure pensiamo a un agente AI smart personale. Poniamo il caso che tu stia organizzando un viaggio per Madrid. Gli comunichi la posizione del tuo hotel, i tuoi interessi (musica, arte, gastronomia) e i tuoi vincoli, come un budget di 50 € e un limite di 15 km di camminata. In risposta, l'agente AI preparerà un itinerario, farà le prenotazioni e ottimizzerà il tutto in base a orari, vicinanza e preferenze. Non sta solo rispondendo alle tue domande: sta lavorando al posto tuo.

Ora permetti che condivida alcuni casi d'uso di livello aziendale su cui IBM ha lavorato:

Nei servizi finanziari, una soluzione di agentic AI classifica e smista i reclami dei clienti. Utilizzando l'elaborazione del linguaggio naturale, identifica parole chiave e sentiment, come "rimborso", "infortunio" o "sicurezza" per assegnare le priorità e indirizzare i messaggi in modo appropriato. Il sistema può anche redigere risposte personalizzate in linea con il tono e con la politica aziendale. 

Strutturando i messaggi non strutturati in categorie e azioni chiare, l'AI riduce i tempi di risoluzione e garantisce che le questioni urgenti vengano sottoposte a recensioni umane. IBM ha implementato soluzioni simili con le principali banche per migliorare l'esperienza dei clienti e la conformità normativa.

Nel settore delle scienze della vita, l'agentic AI viene utilizzata per semplificare la documentazione normativa. Una soluzione IBM genera automaticamente bozze di report di alta qualità con dati provenienti da studi clinici, pubblicazioni di ricerca e documentazione tecnica. Formata sulle richieste normative precedenti, l'AI produce contenuti in formati strutturati compatibili con le linee guida dell'agenzia.

I revisori umani restano sempre aggiornati, garantendo precisione e tracciabilità. Non solo accelera il time-to-market dei nuovi farmaci, ma riduce anche gli sforzi manuali e gli errori, elemento critico in un settore altamente regolamentato.

Per i produttori di elettrodomestici, IBM ha fornito strumenti self-service basati sull'AI per gestire richieste complesse e di lunga durata da parte dei clienti, come la ricerca di parti di ricambio, il confronto di prodotti o la risoluzione di problemi. Queste domande sono diverse e poco frequenti, spesso troppo di nicchia per i chatbot tradizionali. La soluzione basata su agenti estrae informazioni da knowledge base eterogenee per fornire risposte precise, riducendo il carico sui contact center e migliorando la soddisfazione dei clienti su larga scala.

TF: Con le nuove tecnologie, aumentano i rischi relativi all'etica e alla governance dell'AI. Puoi spiegare alcune di queste preoccupazioni? 

PB: L'AI predittiva o tradizionale comporta rischi che richiedono guardrail solidi. Ai notiziari spesso si sente dire che, nonostante le migliori intenzioni, alcune organizzazioni hanno implementato modelli AI imprecisi o non equi. L'AI generativa ha amplificato ulteriormente questi rischi e ne ha introdotti di nuovi. Ora, con l'aumento dell'autonomia degli agenti AI, sono comparsi rischi diversi e ancora più grandi. 

Le organizzazioni che non hanno costruito a partire da una base di governance dell'AI stanno cercando di lanciarsi nell'agentic AI e questo, per loro, è ancora più difficile. E la curva di apprendimento diventa ancora più grande quando si cerca di capire come assicurarsi che queste soluzioni AI siano affidabili. 

Per sfruttare appieno il potenziale dell'AI, le organizzazioni non devono solo "fare l'AI giusta", cioè scegliere i modelli AI corretti per il caso d'uso in questione e investire in modo allineato alla strategia della mission, ma anche "fare bene l'AI". per "fare bene l'AI", devono andare oltre il focus su infrastruttura, modelli e operazioni per risolvere le sfide sociali e tecniche legate alla fiducia.

La fiducia nei sistemi AI non può essere ottenuta solo tramite soluzioni tecniche: richiede un approccio olistico che comprenda persone, processi e strumenti. La fiducia deve essere costruita in modo intenzionale tramite la trasparenza, l'educazione e l'inclusività.

TF: Una critica quando si tratta di governance dell'AI responsabile è che soffoca l'innovazione. Puoi descrivere questo equilibrio tra etica e creatività? 

PB: Penso che, quando le persone criticano l'argomento di etica dell'AI e governance o delle normative sull'AI, in verità stiano esprimendo la propria preoccupazione riguardo al soffocamento di innovazione e creatività. Però vorrei tornare sulla statistica del 75% a cui fanno riferimento molti analisti.

Il 75% degli investimenti nell'AI falliscono. Rimangono bloccati. Rimangono impantanati nella fase di proof of concept e non portano mai il ROI previsto che gli investitori cercano. Uno dei motivi principali per cui questo succede è perché chi effettua questi investimenti non si è guadagnato la fiducia delle persone, oppure perché si fida TROPPO dell'AI.  

L'obiettivo principale è essere scegliere l'AI giusta per risolvere il problema che aumenterà la nostra intelligenza, e poi metterci tutto l'impegno necessario per guadagnare la fiducia delle persone. Non ci sono scorciatoie.

I sistemi di AI devono essere sicuri contro gli avversari. Devono riflettere l'intento in modo appropriato. Devono avere risultati equi, essere trasparenti e spiegabili e garantire la privacy dei dati. Gli agenti devono essere osservabili in modo da poter monitorare ciò che sta effettivamente accadendo. E sì, dato che l'AI consuma acqua ed energia in modo costante, abbiamo bisogno che questi sistemi siano anche sostenibili dal punto di vista ambientale. 

Non ci può essere fiducia senza responsabilità. Ho scritto molto sul tema della responsabilità e abbiamo pubblicato diversi articoli con IBV su questo argomento. Proprio quest'anno, Gartner ha pubblicato un eccellente documento che spiega ai propri clienti come ritenere i fornitori contrattualmente responsabili per i risultati dell'AI.  

E come ho detto prima, non è per niente facile. Non esiste una scorciatoia per sviluppare l'AI in un modo che sia degno della nostra fiducia, ma l'impegno è fondamentale. Una volta compiuti gli sforzi fondamentali, allora e SOLO ALLORA si può accelerare, come è spiegato bene in questa analogia con una pista automobilistica. Una maggiore governance sarà inevitabilmente necessaria, soprattutto con l'evoluzione continua delle nuove tecnologie come l'agentic AI.