Che cos'è la gestione degli agenti AI?

Il concetto ha attirato l'attenzione man mano che i sistemi di intelligenza artificiale sono diventati più autonomi e integrati nelle operazioni aziendali. I primi sistemi di AI spesso svolgevano compiti ristretti con supervisione umana diretta. Gli agenti AI moderni possono completare workflow in più fasi, interagire con sistemi esterni e prendere decisioni con un intervento limitato.

Man mano che le organizzazioni impiegano un numero sempre maggiore di agenti tra dipartimenti e piattaforme, hanno sempre più bisogno di modalità centralizzate per gestire la sicurezza degli agenti e il controllo operativo. Gartner prevede che, entro il 2028, il 33% delle applicazioni software aziendali includerà l'agentic AI, rispetto a meno dell’1% nel 2024.¹

La gestione degli agenti AI solitamente combina i controlli tecnici con le politiche operative. I controlli tecnici possono includere strumenti di monitoraggio, sistemi di autorizzazione e registri delle attività. Le politiche operative spesso definiscono chi può schierare agenti, quali compiti possono svolgere gli agenti e come dovrebbe funzionare la revisione umana. Insieme, questi controlli aiutano le organizzazioni a gestire il rischio, consentendo comunque agli agenti di operare in modo efficiente.

Le organizzazioni spesso affrontano la gestione degli agenti AI come uno strato tra i modelli di AI e le operazioni aziendali. Questo livello di gestione può coordinare più agenti, instradare compiti e monitorare le prestazioni nel tempo. Può anche aiutare le organizzazioni a standardizzare come gli agenti accedono ai sistemi interni o alle applicazioni esterne.

Molte organizzazioni ora collegano questo livello all'idea più ampia di control plane degli agenti, che fornisce supervisione centralizzata per l'orchestrazione degli agenti, i permessi, la gestione dell'identità e le operazioni del ciclo di vita. Questa struttura supporta la scalabilità delle implementazioni degli agenti con maggiore visibilità e coerenza operativa.

Il settore riflette anche un cambiamento più ampio nel modo in cui le aziende pensano all'adozione dell'AI. Il software tradizionale di solito segue regole fisse che gli sviluppatori definiscono in anticipo. Gli agenti AI possono comportarsi in modo meno prevedibile perché rispondono dinamicamente a prompt, dati e ambienti in evoluzione. Molti di questi sistemi sono costruiti su modelli linguistici di grandi dimensioni (LLM) e AI generativa tecnologie in grado di adattare le risposte in tempo reale. Questa flessibilità crea nuove opportunità, ma introduce anche sfide di governance degli agenti AI che molte pratiche di gestione IT esistenti non sono state progettate per affrontare.

La gestione degli agenti AI sta diventando essenziale per scalare le implementazioni di agentic AI. Senza una supervisione coordinata, le implementazioni possono diventare frammentate, incoerenti con le politiche di governance e una visibilità limitata sull'attività dei sistemi. Questo problema è talvolta chiamato proliferazione degli agenti AI, dove un gran numero di agenti disconnessi diventa difficile da monitorare, mantenere o governare efficacemente. In risposta, i fornitori stanno introducendo piattaforme dedicate che portano orchestrazione, governance e observability in un livello di gestione unificato.

Gli agenti AI stanno cambiando il modo in cui le organizzazioni operano. I clienti di Salesforce riferiscono che gli agenti AI e gli assistenti stanno offrendo un forte ROI in IT, vendite e servizio clienti.² Man mano che gli agenti assumono responsabilità più ampie, le organizzazioni hanno bisogno di strutture più chiare per coordinare le proprie attività e gestire come interagiscono con i dipendenti e i sistemi.

Il passaggio all'agentic AI cambia anche il modo in cui le aziende pensano alla supervisione operativa. I sistemi software tradizionali sono prevedibili e strettamente definiti. Gli agenti AI operano con maggiore flessibilità perché possono interpretare gli obiettivi, formulare raccomandazioni e interagire con molteplici strumenti in tempo reale. Questa flessibilità migliora l'efficienza introducendo complessità. Le organizzazioni hanno bisogno di modi centralizzati per monitorare il comportamento, gestire i permessi e mantenere la visibilità tra grandi reti di agenti.

Sempre più aziende si stanno orientando verso sistemi multi-agente . Diversi dipartimenti possono impiegare agenti specializzati per finanza, supporto clienti, sicurezza o analisi dati. Col tempo, questi sistemi possono frammentarsi se ogni team gestisce gli agenti in modo indipendente. Un livello di gestione aiuta le organizzazioni a creare modelli di governance coerenti, standard operativi condivisi e supervisione centralizzata tra dipartimenti e piattaforme.

Gli ambienti multiagente stanno comportando nuove responsabilità per i team IT, di sicurezza, conformità e piattaforma. In alcune organizzazioni, i gruppi di governance dell'AI si stanno espandendo per includere la supervisione dell'orchestrazione degli agenti, della gestione delle identità e delle operazioni del ciclo di vita. Con la crescita dell'adozione, la gestione degli agenti AI sta diventando parte integrante dell'infrastruttura più ampia che supporta le operazioni aziendali e le iniziative di AI a lungo termine.

L'importanza della gestione degli agenti AI probabilmente aumenterà man mano che le organizzazioni integreranno più profondamente gli agenti nei processi core business. La gestione degli agenti tramite AI aiuterà le organizzazioni a mantenere il controllo su ecosistemi di agenti sempre più complessi, supportando al contempo sforzi più ampi di business transformation.

Diversi fattori stanno guidando l'adozione della gestione degli agenti AI:

Preoccupazione per le implementazioni frammentate: senza una supervisione centralizzata, le organizzazioni possono lottare con agenti scollegati, governance incoerente e responsabilità limitata tra i team.

Esigenza di maggiore visibilità: le aziende hanno sempre più bisogno di insight su come si comportano gli agenti, a quali sistemi accedono e come vengono prese le decisioni in fase di esecuzione.

Espansione degli ambienti multi-agente: molte aziende stanno implementando agenti specializzati per diverse funzioni o dipartimenti. Le piattaforme di gestione aiutano a coordinare questi agenti all'interno di un framework condiviso.

Crescente complessità operativa: gli agenti AI possono interagire contemporaneamente con vari sistemi, strumenti e workflow. Le organizzazioni hanno bisogno di un coordinamento centralizzato, poiché questi ambienti diventano sempre più interconnessi.

Integrazione con i sistemi aziendali: gli agenti AI sono sempre più connessi alle piattaforme cloud, alle application programming interface (API) e alle applicazioni aziendali interne. Questa integrazione aumenta la necessità di livelli di gestione operativa.

Necessità di una governance centralizzata: le organizzazioni desiderano politiche più coerenti in materia di autorizzazioni, approvazioni e supervisione operativa, man mano che le distribuzioni di agenti si espandono.

Passaggio dalla sperimentazione alla scala operativa: molte aziende stanno andando oltre i progetti pilota di AI isolati e stanno costruendo strategie a lungo termine per la gestione degli ecosistemi di agenti. La crescente disponibilità di strumenti di AI, piattaforme no-code e modelli riutilizzabili sta inoltre rendendo l'implementazione degli agenti AI più accessibile tra i team aziendali.

I casi d'uso della gestione dell'AI variano a seconda del settore e delle dimensioni dell'azienda. La maggior parte delle organizzazioni adotta la gestione degli agenti tramite AI quando gli agenti iniziano a interagire con molteplici sistemi, workflow o team. I casi d'uso reali degli agenti AI includono:

Gli agenti AI sono sempre più utilizzati in BPA per coordinare i workflow tra i team finanziari, procurement e operazioni. Alcune organizzazioni stanno anche estendendo questi workflow in ambienti di supply chain, dove gli agenti AI aiutano a monitorare l'attività dell'inventario e segnalare interruzioni. Ad esempio, un agente AI potrebbe elaborare le richieste di spesa, rilevare attività insolite e indirizzare richieste di spesa di alto valore per ricevere ulteriori recensioni.

Molte aziende utilizzano gli agenti AI per gestire le richieste di supporto, indirizzare i ticket e recuperare informazioni dai sistemi interni. La gestione degli agenti AI aiuta le organizzazioni a monitorare il modo in cui gli agenti interagiscono con i clienti e ad applicare regole di approvazione o di escalation. Questi sistemi sono sempre più utilizzati per migliorare l'esperienza digitale dei clienti , mantenendo comunque la supervisione umana sulle interazioni sensibili. Per esempio, un agente di supporto potrebbe gestire da solo le domande di routine sulla fatturazione, ma trasferire le questioni più delicate a un rappresentante umano.

Le organizzazioni spesso impiegano agenti che cercano documenti interni, riassumono le informazioni e supportano i workflow di ricerca dei dipendenti. La gestione degli agenti AI aiuta a controllare l'accesso alle informazioni sensibili e a monitorare il modo in cui gli agenti recuperano o condividono i dati. Ad esempio, un agente di ricerca legale può accedere a depositi documentali approvati pur restando limitato ai registri riservati delle risorse umane.

Gli agenti AI possono automatizzare il monitoraggio dell'infrastruttura, la risposta agli incidenti e le attività di manutenzione del sistema. In questi ambienti, i livelli di gestione aiutano le organizzazioni a tenere traccia delle azioni degli agenti e a mantenere la visibilità operativa su piattaforme cloud o sistemi interni. Ad esempio, un agente AI potrebbe identificare attività insolite nei server e creare automaticamente un ticket di incidente allertando i team di sicurezza.

Alcune organizzazioni distribuiscono più agenti specializzati che collaborano all'interno di workflow più ampi. La gestione degli agenti AI aiuta a coordinare le responsabilità tra questi agenti mantenendo al contempo la visibilità del processo complessivo. Ad esempio, un agente può raccogliere dati sui clienti, un altro può analizzare la storia degli account e un terzo può generare raccomandazioni per un team di vendita.

Settori come l'assistenza sanitaria, i servizi finanziari e le assicurazioni spesso richiedono una governance e una verificabilità più forti intorno ai sistemi di AI. La gestione degli agenti AI aiuta le organizzazioni a documentare l'attività degli agenti e ad applicare controlli operativi che supportino i requisiti di conformità. Ad esempio, un'organizzazione può utilizzare strumenti di gestione per tracciare quali sistemi un agente di supporto clinico ha consultato durante il workflow del paziente.

I team di sicurezza possono utilizzare agenti AI per analizzare allarmi, indagare anomalie o assistere nel rilevamento delle minacce. Poiché questi agenti spesso interagiscono con sistemi sensibili, le organizzazioni in genere applicano controlli di monitoraggio e governance più rigorosi. Ad esempio, un agente di sicurezza potrebbe raccogliere informazioni da più strumenti di monitoraggio prima di raccomandare una risposta da sottoporre all'approvazione umana.

I team di sviluppo utilizzano sempre più agenti AI per assistere nelle attività di codifica, test e documentazione. Le piattaforme di gestione aiutano a coordinare come questi agenti accedono ai repository, interagiscono con gli strumenti di sviluppo e seguono le politiche organizzative. Ad esempio, un'organizzazione potrebbe permettere agli agenti di codifica di suggerire modifiche limitando le implementazioni dirette in produzione senza revisione umana.

La gestione degli agenti AI è più complessa delle operazioni AI tradizionali perché gli agenti sono più dinamici rispetto ai sistemi precedenti. I sistemi AI tradizionali sono progettati per compiti ristretti come classificazione, previsione o generazione di contenuti. Il workflow attorno a quei sistemi spesso rimane in gran parte fisso.

Gli agenti AI operano in modo diverso perché possono interpretare gli obiettivi, prendere decisioni e interagire con strumenti esterni durante l'esecuzione. Questo cambiamento crea nuovi requisiti operativi per cui le pratiche standard di gestione dell'AI non sono state progettate.

Alcune delle differenze più importanti includono:

• Struttura di implementazione: le implementazioni di AI tradizionali sono spesso isolate a singole applicazioni o reparti. Gli agenti AI sono sempre più implementati in ambienti multiagente interconnessi.
  
  
• Ambito della governance: la governance convenzionale dell'AI si occupa principalmente del rischio del modello e della gestione dei dati. La gestione degli agenti introduce maggiori preoccupazioni riguardo all'autonomia e all'applicazione delle politiche.
  
  
• Focus sulla gestione: le operazioni di AI tradizionali si concentrano in genere su modelli e pipeline di dati. La gestione degli agenti AI si concentra sul coordinamento del comportamento degli agenti tra workflow e sistemi connessi.
  
  
• Requisiti di monitoraggio: il monitoraggio tradizionale spesso misura l'accuratezza del modello o il tempo di attività. La gestione degli agenti AI richiede anche la visibilità delle azioni, delle autorizzazioni e dei processo decisionale.
  
  
• Flessibilità operativa: i sistemi di AI di solito operano entro un confine. Gli agenti AI possono adattare le loro azioni in base al contesto o ai cambiamenti degli input. In molti ambienti, gli agenti sono progettati per una maggiore consapevolezza del contesto. Questa capacità consente loro di rispondere in modo dinamico quando i workflow e i modelli di flusso di dati cambiano durante l'esecuzione.

La gestione degli agenti AI include le funzionalità operative e di governance utilizzate dalle organizzazioni per distribuire, coordinare e supervisionare gli agenti AI su larga scala. Sebbene le piattaforme possano differire nell'approccio, la maggior parte delle strategie aziendali si concentra su un insieme simile di componenti fondamentali. Questi includono:

Le capacità di governance definiscono le regole e i confini che guidano il comportamento degli agenti. Questi controlli possono includere workflow di approvazione, politiche d'uso, restrizioni operative e requisiti di conformità che si applicano a tutta l'organizzazione.

Molte organizzazioni includono revisioni umane nei workflow, in particolare per attività ad alto rischio o critiche per l'azienda. La supervisione umana può includere approvazioni, processi di escalation o interventi manuali quando gli agenti si trovano di fronte a incertezze o risultati inattesi.

Gli agenti AI spesso interagiscono con i sistemi aziendali, le API e le fonti di dati sensibili. La gestione delle identità e degli accessi aiuta le organizzazioni a controllare l'accesso, le azioni e la gestione dei permessi degli agenti nel tempo.

Gli agenti AI spesso si affidano a strumenti esterni, software aziendali e cloud service per completare i compiti. La gestione dell'integrazione aiuta a coordinare queste connessioni mantenendo la coerenza operativa tra piattaforme e ambienti. Molte organizzazioni si affidano anche a un gateway AI, a strumenti di gestione delle API e a framework di connettori standardizzati per gestire le interazioni tra agenti AI e fornitori esterni.

La gestione degli agenti AI include anche processi per l'implementazione, l'aggiornamento, il test e il ritiro degli agenti. La gestione del ciclo di vita aiuta le organizzazioni a mantenere la coerenza tra gli ambienti, supportando al contempo il controllo delle versioni e la stabilità operativa. Alcune organizzazioni allineano queste attività con pratiche più ampie del ciclo di vita dello sviluppo degli agenti (ADLC) per gestire i sistemi di AI durante tutto il loro ciclo di vita operativo.

L'observability fornisce visibilità su come si comportano gli agenti in fase di esecuzione. Le organizzazioni utilizzano sistemi di monitoraggio per tracciare azioni, recensioni percorsi decisionali, identificare fallimenti e analizzare come gli agenti interagiscono con gli utenti o con i sistemi connessi. I dashboard e le metriche di prestazioni aiutano i team a monitorare l'attività degli agenti nel tempo.

L'orchestrazione coordina come gli agenti svolgono i compiti, interagiscono con i sistemi e collaborano con altri agenti. Negli ambienti multiagente, i livelli di orchestrazione possono indirizzare le richieste, assegnare responsabilità e gestire i workflow tra diversi strumenti o app.

Man mano che le organizzazioni implementano un numero sempre maggiore di agenti AI, molte adottano control plane degli agenti per garantire coordinamento centralizzato e supervisione operativa. Un control plane agisce come livello di gestione che collega l'orchestrazione, la governance e il monitoraggio attraverso l'ecosistema di agenti. Invece di gestire gli agenti individualmente, le organizzazioni possono utilizzare un control plane per supervisionare come gli agenti operano tra workflow e sistemi.

I control plane degli agenti tipicamente supportano diverse funzioni chiave:

• Orchestrazione centralizzata: i control plane coordinano il modo in cui gli agenti eseguono le attività, condividono le informazioni e interagiscono con altri sistemi o agenti.
  
  
• Governance e applicazione delle politiche: le organizzazioni possono applicare politiche operative, restrizioni di accesso e requisiti di approvazione a più agenti da un livello centralizzato.
  
  
• Observability e monitoraggio: i control plane forniscono visibilità sul tempo di esecuzione, sulle interazioni del sistema e sull'attività degli agenti negli ambienti.
  
  
• Gestione dell'identità e dei permessi: molti control plane aiutano le organizzazioni a gestire l'autenticazione, l'accesso al sistema e le autorizzazioni basate sui ruoli degli agenti.
  
  
• Coordinamento del ciclo di vita: alcune piattaforme supportano anche la gestione della distribuzione, il monitoraggio delle versioni e la manutenzione operativa in tutti gli ecosistemi di agenti.

La crescente attenzione ai control plane degli agenti riflette la crescente complessità degli ambienti di AI aziendali. Man mano che le organizzazioni si avvicinano a sistemi multi-agente interconnessi, i livelli di gestione centralizzati stanno diventando sempre più importanti per mantenere visibilità, coordinamento e coerenza operativa.

La gestione degli agenti AI aiuta le organizzazioni a coordinare, governare e scalare gli agenti AI in modo più efficace negli ambienti aziendali. I vantaggi specifici includono:

• Migliore coordinamento tra i workflow: le funzionalità di orchestrazione supportano la collaborazione tra agenti, sistemi aziendali e processi aziendali. Questo coordinamento può aiutare a snellire le operazioni, a ottimizzare l'uso delle risorse e a creare un maggiore valore aziendale dalle implementazioni dell'AI.
  
  
• Maggiore responsabilità: i registri di audit, i sistemi di approvazione e il monitoraggio in tempo di esecuzione forniscono registrazioni più chiare di come gli agenti prendono decisioni ed eseguono azioni.
  
  
• Migliore visibilità operativa: gli strumenti di monitoraggio e observability aiutano le organizzazioni a monitorare il comportamento degli agenti, le interazioni del sistema e l'attività del workflow negli ambienti.
  
  
• Implementazioni più scalabili: i framework di gestione standardizzati rendono più facile per le organizzazioni espandere l'utilizzo degli agenti tra i reparti senza creare ambienti frammentati. Questi framework aiutano inoltre le organizzazioni a gestire i crescenti workload degli agenti, supportando al contempo la scalabilità a lungo termine tra le operazioni aziendali.
  
  
• Riduzione della frammentazione operativa: un livello di gestione unificato può aiutare le organizzazioni a evitare implementazioni scollegate e pratiche di governance incoerenti.
  
  
• Gestione semplificata del ciclo di vita: i processi di distribuzione e manutenzione centralizzati aiutano le organizzazioni a gestire in modo più efficiente gli aggiornamenti, i test e il controllo delle versioni.
  
  
• Governance più solida: politiche centralizzate e strutture di supervisione aiutano le organizzazioni ad applicare standard operativi coerenti a più agenti e team.

Sebbene la gestione degli agenti AI offra importanti vantaggi operativi, le organizzazioni affrontano anche sfide significative nel dispiegare agenti su larga scala. Molti rischi derivano dalla natura dinamica e autonoma dei sistemi di agenti AI.

• Espansione degli agenti: man mano che sempre più team iniziano a distribuire gli agenti in modo indipendente, le organizzazioni possono perdere rapidamente visibilità sul numero di agenti che operano in tutta l'azienda o sui sistemi a cui tali agenti possono accedere. Molte organizzazioni affrontano questa sfida introducendo livelli di orchestrazione centralizzati e standard di governance condivisi che creano una visione operativa più unificata.
  
  
• Problemi di conformità e responsabilità: le organizzazioni possono incontrare difficoltà nel documentare come gli agenti abbiano preso decisioni o eseguito azioni, soprattutto nei settori regolamentati. La documentazione insufficiente e la scarsa verificabilità possono creare difficoltà ai team addetti alla conformità e alle attività di supervisione interna. Gli audit trail, i sistemi di reporting e le politiche di governance centralizzate possono aiutare a supportare una maggiore responsabilità tra le operazioni degli agenti.
• Governance incoerente: gli agenti AI vengono spesso introdotti a velocità diverse tra le diverse unità di business. Senza una supervisione centralizzata, i team possono seguire diversi processi di approvazione, pratiche di sicurezza o politiche operative. Queste incongruenze possono creare confusione e problemi di conformità. I framework di governance standardizzati possono aiutare le organizzazioni ad applicare controlli più coerenti tra le distribuzioni.
  
  
• Observability limitata: molte organizzazioni non hanno ancora una chiara visibilità sul comportamento degli agenti in fase di esecuzione. Quando gli agenti interagiscono con più sistemi o prendono decisioni autonome, può diventare difficile tracciare le azioni o capire perché si sono verificati determinati risultati. Gli strumenti di monitoraggio in tempo di esecuzione, la registrazione delle attività e le funzionalità di audit stanno diventando sempre più importanti per migliorare la trasparenza operativa.
  
  
• Imprevedibilità operativa: a differenza dei sistemi software tradizionali, gli agenti AI rispondono dinamicamente a input, prompt e condizioni di tempo di esecuzione in evoluzione. Questa flessibilità può migliorare l'adattabilità, ma rende anche il comportamento meno prevedibile in alcune situazioni. Molte organizzazioni riducono questo rischio incorporando processi di test, recensioni e barriere operative nel workflow degli agenti.
  
  
• Rischi di sicurezza e accesso: gli agenti AI spesso interagiscono con sistemi sensibili e fonti di dati, il che può creare nuove sfide riguardo ai permessi e alla gestione delle identità. Le organizzazioni utilizzano sempre più framework di gestione delle identità, controlli di accesso basati sui ruoli e workflow di approvazione per ridurre questi rischi.
  
  
• Complessità del workflow: gli ambienti multiagente possono diventare difficili da coordinare poiché gli agenti interagiscono tra piattaforme, applicazioni e servizi esterni. Una semplice distribuzione può evolversi in ambienti altamente interconnessi. Con l'aumento della complessità, le piattaforme di orchestrazione e le pratiche di integrazione standardizzate possono aiutare le organizzazioni a mantenere una coordinazione più coerente. Con l'espansione delle implementazioni, le organizzazioni potrebbero anche aver bisogno di una supervisione rigorosa dell'uso delle infrastrutture e dei prezzi dei modelli.