Il divario di responsabilità nell'AI autonoma 

Gli agenti AI non sono più sperimentali. Stanno già eseguendo operazioni, modificando le infrastrutture, consultando dati sensibili e agendo all'interno dei sistemi aziendali, spesso con un intervento umano minimo. Quello che è cambiato non è solo automazione. È l'autonomia.

E l'autonomia cambia tutto ciò che riguarda identità, accesso e responsabilità.
Questi sistemi non si limitano a eseguire istruzioni; decidono quali azioni intraprendere, delegano l'autorità e operano in modo continuo, anziché solo quando vengono attivati. Avviano in modo autonomo strumenti, API e sistemi, agendo spesso per conto di utenti, team o altre macchine. Così facendo, introducono ambiguità riguardo a intenzioni, autorità e responsabilità.

La maggior parte delle aziende continua a gestire gli accessi utilizzando modelli di identità progettati negli ultimi due decenni e modelli concepiti per operatori umani, non per macchine. Di conseguenza, le organizzazioni rischiano di implementare agenti autonomi senza essere in grado di rispondere con sicurezza a domande basilari in materia di responsabilità.

Queste domande non arriveranno solo dai revisori, dalle autorità di regolamentazione e dal tuo consiglio di amministrazione. Le organizzazioni corrono il rischio che i propri clienti contestino le transazioni effettuate. Queste domande si presentano in molte forme:

• Chi ha autorizzato questa transazione end-to-end?
• Quali persone hanno la proprietà sull'intero processo e, se necessario, forniscono il consenso in tempo di esecuzione?
• Tutti gli agenti e le persone sono autenticati utilizzando il metodo di autenticazione più efficace disponibile?
• Che cosa era configurato per fare l'agente? Faceva solo questo?
• L'agente ha perso il privilegio una volta avvenuta quella transazione?
• Puoi mostrarmi una traccia di controllo che garantisca la piena tracciabilità dell'intera transazione?
• Possiamo revocare immediatamente l'autorità dell'agente, ovunque?

Se non riesci a rispondere a queste domande, non hai la governance necessaria per evitare audit falliti e danni alla tua reputazione.

La gestione delle identità e degli accessi (IAM) si basa fondamentalmente sull'idea che l'accesso possa essere pianificato in anticipo, assegnato a identità conosciute, revisionato periodicamente e applicato al momento dell'accesso. Questo approccio funziona quando il comportamento è prevedibile e limitato. L'IAM tradizionale presuppone tre cose:

1. Le identità sono macchine umane o statiche.
2. L'accesso è basato su sessioni e è fornito secondo un ciclo di vita periodico.
3. L'autenticazione sblocca la sessione e l'autorizzazione è in gran parte grossolana, mentre l'accesso viene concesso in base a attributi generici e generali, come il ruolo o il reparto di un utente.

L'agentic AI mette in discussione tutte e tre queste ipotesi. Gli agenti autonomi non sono deterministici, lavorano alla velocità delle macchine e agiscono continuamente su API, strumenti e ambienti. In questo modello, l'identità non è più un account umano stabile o un principio di servizio di lunga durata. Può essere effimera e progettata appositamente per una funzionalità specifica, un workflow o anche una singola transazione, per poi essere revocata immediatamente dopo l'esecuzione.

In un flusso agentico end-to-end, numerosi agenti effettuano l'accesso una sola volta, e ciascuno svolge un'attività distinta. Non effettuano il "login" una sola volta. Potrebbero prendere migliaia di decisioni all'ora, spesso per conto di utenti, sistemi o altri agenti. Hanno un'identità e interagiscono tra loro in flussi transazionali end-to-end che superano i confini della fiducia.

Quando le organizzazioni applicano modelli di gestione delle identità e degli accessi (IAM) agli agenti, emergono 4 guasti sistemici:

• Privilegi eccessivi senza visibilità: gli agenti accumulano diritti di accesso permanenti poiché la revoca e la riassegnazione delle autorizzazioni rallentano l'innovazione. Questo accesso scade raramente.
• Delega invisibile:
  molti agenti riutilizzano i token degli utenti anziché ricevere l'autorità delegata. Questo metodo annulla la separazione dei ruoli di controllo e attribuisce la responsabilità a persone che non hanno mai approvato tale azione.
• Mancanza di controlli dove avvengono le azioni: possono esistere delle politiche, ma le azioni effettive (come le chiamate API, l'accesso ai dati e le modifiche alla configurazione) spesso avvengono senza controlli in tempo reale.
• Assenza totale di responsabilità quando le cose vanno male: a seguito di un incidente, i team non sono in grado di ricostruire in modo attendibile cosa sia accaduto, perché o su autorizzazione di chi.

Il problema non risiede in una carenza di strumenti, bensì in una lacuna a livello di governance che deve essere colmata.

L'errore principale delle imprese è considerare l'identità degli agenti come un problema di credenziali. Le credenziali sono importanti, ma nei sistemi agentici non costituiscono più un unico evento di accesso che garantisce la fiducia per tutto ciò che segue. 

Piuttosto, gli agenti operano in modo continuo, avviano più strumenti, incrociano i sistemi e intraprendono molte azioni indipendenti nel tempo. Ciò significa che l'identità e l'autorizzazione non possono essere "impostate una volta per tutte" all'inizio di una sessione: devono essere convalidate e garantite per tutta la durata del workflow.

L'agentic AI richiede il passaggio dal controllo degli accessi al controllo delle autorità. Ciò significa che:

• Ogni utente coinvolto in un flusso agentico deve essere fortemente autenticato per avviare la garanzia di integrità e responsabilità.
• Ogni agente deve avere un'identità verificabile e di prima classe.
• Ogni azione deve essere legata a un intento esplicito e all'approvazione.
• Ogni autorizzazione deve essere limitata, limitata nel tempo e revocabile.
• Ogni decisione di autorizzazione deve essere dimostrabile a posteriori.

Non si tratta di rallentare l'AI ma tratta di rendere sicura l'autonomia. Sebbene l'autenticazione rimanga una richiesta fondamentale di qualsiasi sistema, l'autorizzazione deve diventare un attore di prima classe in un sistema di gestione degli accessi. Ciò ha implicazioni importanti per coloro che implementano i programmi IAM.  

Molte organizzazioni cercano di ridurre il rischio legato agli agenti implementando controlli di governance in modo frammentario. Ciascun frammento risolve una parte del problema, ma nessuno può dimostrare chi ha autorizzato cosa, a quali condizioni e con quali credenziali. Questi frammenti includono:

• Piattaforme di identità che comprendono gli utenti ma non le macchine
• Piattaforme segrete che rilasciano credenziali ma mancano di contesto
• Motori delle politiche che si sono disconnessi dall'applicazione del runtime

Nessuno di questi, da solo, è in grado di governare gli agenti. La vera governance emerge solo quando identità, politiche e credenziali operano all'interno di un unico control plane, dove l'identità risponde a chi e perché, e le credenziali rispondono a cosa e per quanto tempo. In un caso d'uso, si fondono per garantire integrità e responsabilità.

È proprio in questo ambito che la combinazione tra IBM Verify e HashiCorp Vault si rivela particolarmente efficace. Insieme, colmano il divario tra contesto identitario e controllo delle credenziali, collegando l'intento, la politica e l'approvazione alle informazioni riservate e ai token effettivi utilizzati dagli agenti in fase di esecuzione. Anziché considerare l'identità e i segreti come ambiti distinti, Verify e Vault creano un control plane unificato per la gestione delle autorizzazioni degli agenti, con un'applicazione effettiva delle regole e non solo su documentazione astratta.

IBM® Verify definisce chi sono un utente e un agente, quali attività un agente è autorizzato a svolgere e a quali condizioni.  

HashiCorp Vault memorizza e gestisce in modo sicuro i segreti, genera credenziali dinamiche su richiesta, applica TTL, rinnovi e revoche e fornisce una registrazione centralizzata delle politiche e degli audit. Pertanto, gli agenti non hanno mai bisogno di credenziali inserite direttamente nel codice o nei workflow.

Insieme, creano qualcosa che le aziende non hanno mai avuto per gli agenti AI: un controllo dimostrabile senza colli di bottiglia umani.

Le autorità di regolamentazione si stanno già muovendo. Gli auditor non sono soddisfatti dell'approccio tradizionale alla gestione delle identità umane e del loro ciclo di vita: ora cercano valutazioni dei processi in tempo di esecuzione. Chiedono:

• Identità uniche degli agenti con forti controlli di gestione degli accessi
• Progetti che tengono conto sia delle identità umana che di quelle delle macchine
• Percorsi di audit completi dall'inizio alla fine
• Processi chiari relativi all'accesso just-in-time e just-enough con revoca

Gli aggressori si muovono più velocemente dei difensori, prendendo di mira gli agenti AI proprio perché probabilmente operano con privilegi accumulati e scarsa supervisione.

L'agentic AI non arriverà in un futuro non determinato. È già qui. La questione non è più se gli agenti eseguiranno azioni critiche per il business, ma se le aziende possano dimostrare che tali azioni erano autorizzate, definite e responsabili.

Le organizzazioni che investono fin da ora in una governance deliberata saranno pronte per l'audit di default, resilienti sotto scrutinio e capaci di esercitare autonomia senza timore. È così che l'agentic AI passa da un rischio a un vantaggio duraturo.