La proliferazione degli agenti AI: cos'è e come controllarla

La proliferazione si verifica quando gli agenti AI, cioè sistemi autonomi che prendono decisioni e agiscono con un minimo intervento umano, vengono impiegati senza una strategia unificata o pratiche di governance solide. La proliferazione degli agenti AI crea un ecosistema di agenti ridondanti e frammentati tra team e funzioni. Proprio come la proliferazione dell'AI o, prima ancora, quella delle app, la proliferazione degli agenti AI si verifica quando la velocità supera la visibilità: i singoli team schierano agenti per automatizzare le attività o gestire i flussi di lavoro senza un programma coeso a livello organizzativo.

Secondo Gartner, entro il 2028 un'impresa Fortune 500 media utilizzerà oltre 150.000 agenti AI. Ma, sempre secondo Gartner, solo il 13% delle organizzazioni ritiene di avere la giusta governance sugli agenti AI. Questi dati indicano una realtà semplice ma pressante. Gli agenti, in particolare in ambienti low-code o no-code, sono facili da costruire, ma sono molto più difficili da implementare, far funzionare e monitorare responsabilmente.

Ecosistemi di strumenti AI estesi e incontrollabili possono inoltre aumentare significativamente i costi. Secondo una ricerca della Camera di Commercio degli Stati Uniti, il 58% delle piccole imprese ha adottato l'AI generativa e alcuni consulenti riportano che piccole imprese con budget ristretti spendono migliaia di dollari al mese per una manciata di strumenti di scrittura AI ridondanti. Senza contare il costo nascosto per i dipendenti che, invece di vedere aumentare la produttività grazie all'uso dell'AI, si rendono conto del contrario: passare da applicazioni e piattaforme durante la giornata rallenta significativamente il lavoro.

Quando singoli team come marketing, finanza o supporto clienti costruiscono agenti, questi agenti potrebbero non essere visibili ad altre parti dell'Organizzazione. Questo crea una serie di agenti con funzionalità disconnesse piuttosto che un sistema coerente. Secondo una ricerca dell'IBM Institute for Business Value, solo il 18% delle organizzazioni mantiene un inventario aggiornato e completo dei propri agenti AI, ostacolando gli sforzi di integrazione. Problemi simili potrebbero essere risolti in modo ridondante, con un trasferimento di conoscenza minimo tra i sistemi.

La proliferazione degli agenti crea sistemi che operano in modo indipendente, senza un contesto condiviso o un meccanismo per risolvere i problemi quando gli output si sovrappongono. Senza un'orchestrazione centralizzata, gli agenti potrebbero duplicare il lavoro o creare cicli di feedback non intenzionali. Queste duplicazioni e cicli aggravano rapidamente gli errori tra sistemi interconnessi. 

Dato il tasso di adozione dell'agentic AI, molte organizzazioni non dispongono di politiche e processi olistici per gestire in modo responsabile grandi reti di agenti. Ciò significa che potrebbe esserci:

• Nessun workflow di approvazione standard prima della distribuzione degli agenti

• Nessuna proprietà definita per se e quando si verificano errori

• Mancanza di processi del ciclo di vita per il ritiro degli agenti quando non sono più necessari.

Senza pratiche di governance a livello organizzativo, i rischi aumentano esponenzialmente. 

Gli agenti AI senza forti controlli di sicurezza e conformità potrebbero accedere a dati sensibili senza una corretta autorizzazione o bypassare le tracce di audit. Quando gli agenti agiscono autonomamente su larga scala, un singolo errore di configurazione potrebbe diventare una responsabilità a livello di organizzazione.

Rischi come questi sono particolarmente pressanti in settori come la finanza o la sanità, dove potrebbero accidentalmente esporre informazioni protette. I framework normativi come HIPAA o GDPR possono diventare impossibili da soddisfare quando non esiste una singola fonte affidabile che indirizzi ciò a cui gli agenti accedono o il modo in cui prendono le loro decisioni. 

Quando team diversi creano agenti simili, o addirittura identici, ciascun team sostiene i propri costi infrastrutturali. Col tempo, il prezzo dei token di calcolo e API, così come i costi di licenza di terze parti, si accumulano. Inoltre, i sistemi di AI che non vengono correttamente ritirati possono continuare a utilizzare le risorse anche dopo il ritiro, prosciugando i budget e consumando risorse preziose. 

Quando le reti di agenti sono frammentate e isolate, sono più difficili da scalare efficacemente. Gli ecosistemi di agenti in espansione possono essere difficili da mantenere e migliorare. Gli agenti costruiti in modo isolato potrebbero replicare gli sforzi, ma soprattutto mancano di strumenti condivisi. Questo tooling condiviso ha il potenziale di trasformare le pratiche dei vari reparti e di consentire agli agenti di essere monitorati e registrati più facilmente.

La proliferazione degli agenti si traduce anche in risposte agli incidenti notevolmente più lente se un agente commette un errore e un team responsabile non viene identificato rapidamente. Inoltre, rispondere a incidenti derivanti da agenti compromessi o da un utilizzo non autorizzato dei dati può comportare seri rischi quando sono coinvolti agenti complessi, interdipendenti e non facilmente interpretabili.

Secondo il report Connectivity Benchmark 2026 di Salesforce, l'organizzazione media utilizza 12 o più agenti AI, ma il 50% di questi agenti opera in silos piuttosto che come parte di un sistema coordinato. Senza un coordinamento intenzionale, le stesse pipeline di dati potrebbero essere costruite più volte, e ogni sistema di agenti mantiene la propria versione della verità. Questo può generare output contrastanti.

La frammentazione dei dati complica la tracciabilità delle azioni, rendendo difficile verificare quale agente abbia preso una determinata decisione. Inoltre, impedisce alle organizzazioni di comprendere appieno il vero valore di ecosistemi interfunzionali autonomi che condividono i dati appropriati in modo fluido. 

Proliferazione degli agenti e shadow AI sono termini correlati, ma distinti. Shadow AI descrive l'uso di strumenti non autorizzati da parte dei dipendenti. Ad esempio, un responsabile marketing che utilizza un account LLM personale come ChatGPT per elaborare i documenti di lavoro. Proliferazione degli agenti AI, al contrario, descrive un fenomeno strutturale. Anche gli agenti sanzionati e approvati dall'IT possono contribuire all'espansione incontrollata se vengono implementati senza coordinamento.

Tuttavia, la proliferazione degli agenti AI a volte può inavvertitamente portare a un aumento del cambiamento della shadow AI, come ha scoperto Gartner. "Mentre CIO e leader IT vedono un'esplosione di agenti AI in tutta la loro organizzazione," scrisse Max Goss, analista senior director di Gartner, "molti si trovano ad affrontare una proliferazione incontrollata di agenti che espone la loro organizzazione a una serie di rischi, tra cui la condivisione eccessiva e la perdita di dati." Molte aziende, ha aggiunto, tendono a ricorrere al blocco o alla limitazione dell'uso degli agenti. Purtroppo, questa tattica spinge i dipendenti a utilizzare invece la shadow AI, creando rischi di sicurezza e conformità molto più gravi.

La proliferazione degli agenti AI riflette l'ultimo capitolo della tecnologia aziendale che supera la capacità organizzativa di governarla. Si tratta di uno schema che si è ripetuto con velocità crescente. Ad esempio, la proliferazione del SaaS e dello shadow IT è il risultato della Tecnologia cloud, che ha reso molto più semplice l'adozione di nuovi software, spesso all'insaputa dei reparti IT centralizzati.

Il potenziale dell'agentic AI nel trasformare i flussi di lavoro e creare potenti partnership umano-AI ha portato a un'adozione su larga scala. Secondo una ricerca interna di IBM, la maggior parte delle aziende utilizza già agenti AI in qualche modo.

Ma data la proliferazione di strumenti di AI in grado di creare rapidamente agenti, la creazione di strumenti agentici non richiede più necessariamente un ingegnere del software o un lungo processo di messa a punto. Strumenti come Copilot Studio di Microsoft e AgentForce di Salesforce supportano opzioni di sviluppo di agenti low-code e no-code, soluzioni potenti che comunque favoriscono una rapida distribuzione tra i dipartimenti. A proposito, la stessa ricerca interna IBM ha rilevato che un gran numero di aziende riferisce che la proliferazione dell'AI sta già aumentando i rischi per la sicurezza e causando una complessità inutile.

Le implicazioni sono significative: quasi ogni dipartimento di una grande impresa ha la capacità di implementare agenti autonomi di agente AI, ma mancano i meccanismi per controllare e governare queste reti ampie. Tuttavia, la democratizzazione dell'AI e dello sviluppo di piattaforme agenziali, insieme ai reali guadagni aziendali promessi da queste tecnologie, le rendono difficili da abbandonare. Governare gli agenti AI in modo responsabile richiede un approccio centralizzato e intenzionale che monitori e ottimizzi il comportamento degli agenti su larga scala.

La mancanza di un modello scalabile per controllare l'uso dell'AI all'interno di un'organizzazione impedisce anche il coordinamento a livello aziendale. "Non c'è cliente che non abbia almeno 60 atti casuali di AI in tutta l'organizzazione con shadow IT, shadow AI," ha detto Matt Kosinski in un recente episodio del podcast IBM Mixture of Experts. "E ogni reparto e dirigente sta dicendo, "in realtà sono io quello che guida tutto questo dal procurement, dalle risorse umane o da questa unità di business." 

È difficile governare ciò che è impossibile da vedere. I tentativi riusciti di contenere la proliferazione degli agenti iniziano con un inventario completo: questo può includere una scansione automatica degli ambienti cloud e delle API per far emergere tutti gli agenti attivi. Dovrebbero essere inclusi anche meccanismi per scoprire agenti autonomi informali che operano al di fuori del canale ufficiale. Può essere utile stabilire un processo di discovery continuo invece di un audit una tantum, poiché nuovi agenti entreranno continuamente nell'ecosistema. Durante questo periodo, un programma efficace di controllo della proliferazione delle infrastrutture includerà la creazione di un inventario centralizzato a livello aziendale per tracciare i proprietari degli agenti, lo scopo e le autorizzazioni di accesso ai dati. 

Una volta che gli agenti diventano un'entità nota in un'organizzazione, le organizzazioni devono definire regole chiare su chi può crearli, implementarli e condividerli, oltre a stabilire regole di conformità per gli strumenti di AI. L'uso dei dati, i limiti di velocità e gli strumenti di collegamento dovrebbero essere monitorati attentamente, e gli inventari degli agenti possono essere utilizzati per costruire controlli adattivi che applichino le politiche giuste in base al livello di rischio che un agente comporta. 

La standardizzazione aiuta a ridurre l'espansione futura. Limitare il numero di piattaforme utilizzate per creare agenti per ridurre la complessità architettonica e stabilire una visibilità continua sull'uso degli agenti per contribuire a garantire la conformità standardizzata delle politiche. I dashboard in tempo reale possono aiutare a rilevare i comportamenti anomali e a correggere gli agenti che si comportano male o che superano l'ambito previsto. Quando la creazione di un nuovo agente è più facile attraverso il percorso standard di un'azienda che al di fuori di esso, la governance può diventare auto-rafforzante. 

Una risposta efficace alla proliferazione degli agenti combina toolkit specifici con un processo organizzativo intenzionale. Sempre più spesso, le soluzioni più potenti si integrano perfettamente: ad esempio, uno strumento di codifica che funziona in tandem con un livello di orchestrazione e un pannello di controllo aziendale per creare, monitorare e ottimizzare continuamente l'agentic AI durante l'intero ciclo di vita dello sviluppo.

I control plane aziendale sono livelli di gestione centralizzati che offrono alle organizzazioni visibilità e controllo sui sistemi autonomi. Questi livelli si trovano sopra gli agenti AI, gli LLM e altri strumenti di AI, agendo come una sorta di controllo della missione. I control plane in genere consentono alle aziende di osservare, configurare e governare i sistemi autonomi da un'unica fonte. 

La lotta alla shadow AI e alla proliferazione degli agenti richiede partner di codifica potenti, standardizzati e sicuri. I partner di sviluppo AI aziendali di oggi, come IBM Bob, sono costruiti su framework strutturati e integrati in ogni fase del ciclo di vita dello sviluppo software, dalla pianificazione ai test e alle operazioni. Fornendo trasparenza e controlli di sicurezza standardizzati fin dal primo giorno, questi strumenti consentono alle organizzazioni di scalare rapidamente e di mantenere il controllo, riducendo in modo significativo lo sprawl.

Nel caso di Bob, gli strumenti per gli sviluppatori si integrano perfettamente con watsonx Orchestrate, un control plane centralizzato. Lavorando in tandem, questi sistemi possono risolvere i problemi in tempo reale, suggerire correzioni e creare nuovi agenti che li risolvano. Creano inoltre workflow agentici autodocumentanti, garantendo che ogni azione sia verificabile e tracciabile.

Gli strumenti AI TRiSM, una categoria formalizzata da Gartner, forniscono un monitoraggio continuo del comportamento dell'AI. In genere, rilevano anomalie, applicano guardrail e fanno emergere violazioni delle politiche. Questi strumenti trattano gli agenti AI come entità osservabili e verificabili, applicando controlli di runtime che non richiedono la ricostruzione completa degli agenti. 

I framework di governance stabiliscono le regole di un'organizzazione su chi può implementare un agente e quale framework di approvazione dovrebbe seguire. Potrebbero anche specificare quali fonti di dati sono ammissibili e quali standard di prestazione dovrebbero essere rispettati prima che un agente venga rilasciato. I framework di governance più efficaci stabiliscono chiaramente la proprietà e i permessi, definiscono i percorsi di escalation e si integrano perfettamente con i processi di rischio aziendali esistenti invece di operare come un processo parallelo. 

Un registro degli agenti agisce come una singola fonte affidabile, catalogando ogni agente AI distribuito in un'organizzazione. I registri documentano lo scopo degli agenti, il proprietario, l'accesso ai dati, la versione del modello e lo stato operativo, tra le altre variabili.

Questi database trasformano un ecosistema di AI in un inventario noto e gestibile. Gli inventari moderni sono spesso dinamici: gli agenti vengono registrati al momento dell'implementazione e aggiornano automaticamente il loro stato invece di affidarsi a documentazione manuale più soggetta a errori. 

Spesso, la proliferazione può rappresentare un fallimento nella fase di dismissione: gli agenti vengono implementati e mai ritirati. Gli strumenti di gestione del ciclo di vita impongono un sistema definito fin dall'inizio dello sviluppo, attivando revisioni a intervalli regolari e facendo emergere automaticamente gli agenti che sono rimasti inattivi. 

Anziché consentire agli agenti di operare in isolamento, le piattaforme di orchestrazione coordinano i workflow multi-agente, definendo come gli agenti comunicano, condividono il contesto, si passano i compiti e inoltrano le problematiche agli operatori umani. Rendendo esplicite e osservabili le relazioni tra gli agenti, l'orchestrazione riduce la ridondanza e fornisce un punto di integrazione naturale per il monitoraggio, l'ottimizzazione, la registrazione e il controllo degli accessi.