L'observability nell'era degli agenti: cosa non sta funzionando e come i team stanno risolvendo il problema

Secondo un rapporto del 2026 della società di consulenza Neurones IT, meno di 1 applicazione aziendale su 10 è completamente osservabile. Questa statistica evidenzia un problema di lunga data: i processi di observability tradizionali non sono stati progettati per la complessità dei workflow odierni basati sull'AI.

Prendiamo in considerazione un assistente di viaggio basato sull'AI in cui i tempi di risposta aumentano improvvisamente. Gli strumenti di observability tradizionali potrebbero segnalare un aumento della latenza a livello di servizio, costringendo i team a setacciare manualmente log, tracce e dashboard per determinare se il problema derivi dal modello stesso, da un'API a valle o da un agente che effettua chiamate inefficienti agli strumenti. Questo approccio reattivo può lasciare i team nell'incertezza, specialmente negli ambienti IT moderni, frammentati e dinamici.

"Sempre più clienti non desiderano una dashboard. Non vogliono qualcosa che dica loro: 'Ehi, ecco come si sta comportando il tuo sistema'", ha dichiarato Vikram Murali, VP of Product Development per IBM Automation, nel podcast AI in Action di IBM. Vogliono invece sapere: "Quali azioni posso intraprendere per migliorare le prestazioni del sistema?"

Al di là delle raccomandazioni statiche, i team ITOps hanno bisogno di soluzioni in grado di prevedere e auto-adattarsi, anticipando gli errori e i tempi di inattività e rispondendo autonomamente. Poiché l'agentic AI può valutare continuamente il comportamento, le prestazioni e il contesto del sistema, i team possono andare oltre i segnali a superficiali per comprendere le cause principali, indagare sui sintomi e identificare le dipendenze con una supervisione umana limitata. Secondo lo studio di Neurones, queste funzionalità possono ridurre i costi ITOps fino al 35% grazie alla riduzione dello sforzo umano, dei tempi di inattività e dei costi operativi.

Tuttavia, di pari passo con le nuove sfide operative legate all'integrazione dell'AI, si assiste all'ampliamento del divario tra le funzionalità basate sull'AI e la capacità dei team di monitorare e modellare i comportamenti degli agenti.

In risposta, i team ITOps stanno riprogettando i propri processi di observability da zero, implementando agenti per ottimizzare l'utilizzo delle risorse, automatizzare le attività e individuare gli errori in modo proattivo, il tutto affrontando le sfide specifiche dell'AI in materia di governance, interpretabilità e dati. Gli strumenti di monitoraggio basati sull'AI possono accelerare i processi agentici, mentre gli agenti, a loro volta, possono migliorare l'observability, contribuendo insieme a un ambiente IT più agile, efficiente e sicuro.

Secondo un rapporto della piattaforma di cybersecurity Vectra, i team di sicurezza ricevono in media 4.500 avvisi al giorno, ma riescono a rispondere solo a circa un terzo di essi, lasciando le organizzazioni vulnerabili ad attacchi e disallineamenti.

Tuttavia, un numero eccessivo di avvisi può essere sintomo di un problema più ampio. I microservizi, le architetture ibride e i sistemi distribuiti possono sovraccaricare i meccanismi di monitoraggio tradizionali, e molte organizzazioni faticano a distinguere i segnali utili dal rumore di fondo. Gli agenti aggravano questa sfida introducendo set di dati completamente nuovi (come alberi decisionali end-to-end, log di interazione degli strumenti e metriche sull'utilizzo della memoria) che i team devono raccogliere e analizzare.

A complicare ulteriormente gli sforzi di observability, i dati provenienti dalle fonti di AI sono spesso più difficili da decifrare: i modelli AI possono generare dati incoerenti o inaccurati (allucinazioni) o nascondere gli output dietro alberi decisionali opachi (il problema della black box o "scatola nera)". I modelli possono anche rivelare involontariamente informazioni sensibili (fuga di dati), e ciò può rappresentare un problema per le aziende che operano in settori altamente regolamentati, come quello sanitario e finanziario. Alla luce di tutto questo, uno studio del 2025 dell'IBM Institute for Business Value (IBV) ha rilevato che il 45% dei dirigenti cita la mancanza di visibilità come uno dei principali ostacoli all'integrazione degli agenti.

Tali lacune di visibilità possono comportare rischi di non conformità, impedendo ai team di mantenere un registro dettagliato e verificabile dei comportamenti degli agenti. Secondo l'IBV, quasi il 70% dei dirigenti prevede che la propria azienda andrà incontro a una sanzione normativa legata all'integrazione della gen AI, suggerendo che i framework di governance interna non sono riusciti a tenere il passo con i workflow multi-agente.

Anche gli LLM e altri strumenti di AI possono mettere a dura prova i budget. L'utilizzo dei token da parte dei team può variare notevolmente da un mese all'altro, rendendo difficile per gli strumenti di observability anticipare la domanda. E poiché i fornitori di AI aggiornano, riaddestrano e ridistribuiscono regolarmente i modelli, i team IT devono riconfigurare ripetutamente le pipeline di observability e gli ambienti di sviluppo per adattarsi alle nuove versioni.

Sebbene gli LLM aggiungano complessità ai processi di observability, possono anche essere parte della soluzione. Dotando le piattaforme di observability con funzionalità agentiche, le organizzazioni possono non solo rispondere alle sfide dell'adozione dell'AI aziendale, ma anche migliorare le proprie capacità di monitoraggio oltre quanto possibile con gli strumenti di observability tradizionali. Gli strumenti di observability agentici possono supportare e migliorare le prestazioni, la resilienza e la sicurezza IT:

• Gli strumenti di observability tradizionali inviano avvisi in base a soglie predefinite di traffico, memoria, latenza e tasso di errore.
  
  
• Questo approccio spesso provoca stress da avvisi, ovvero un bombardamento di notifiche che impedisce ai team IT e di sicurezza di distinguere gli avvisi trascurabili dalle minacce urgenti.
  
  
• Analizzando i dati storici e valutando il contesto in cui si verifica un evento, l'AI è in grado di evidenziare gli eventi rilevanti e ad alta priorità, sopprimendo al contempo le notifiche non urgenti.

• Gli strumenti di observability basati sull'AI possono fornire analisi delle cause principali ricche di contesto, che descrivono in dettaglio perché si è verificato un incidente, come ha influito sui servizi correlati e come prevenire interruzioni simili in futuro.
  
  
• Le soluzioni basate sull'AI possono suggerire dinamicamente automazione e riparazioni in base alle condizioni in tempo reale, con sviluppatori umani che forniscono linee guida e supervisione.
  
  
• Insieme, queste caratteristiche riducono il carico di lavoro operativo e portano a un tempo medio di riparazione (MTTR) più rapido.

• Gli strumenti di observability tradizionali possono incontrare difficoltà negli ambienti IT moderni, dove gli errori raramente derivano da un singolo guasto e potrebbero invece coinvolgere interazioni complesse tra più servizi e automazioni.
  
  
• Poiché le piattaforme agentiche sono progettate per individuare modelli e ragionare su architetture eterogenee, spesso sono più adatte a interpretare le metriche specifiche dei modelli, come la deriva del modello, la qualità della risposta e l'utilizzo dei token.
  
  
• La visibilità end-to-end consente inoltre agli strumenti di observability basati sull'AI di anticipare l'impatto a valle e scalare dinamicamente le risorse.

• Gli strumenti di observability supportati dall'AI possono migliorare le prestazioni end-to-end e ottimizzare l'utilizzo delle risorse contestualizzando l'instradamento del traffico, la disponibilità della CPU, il throughput e altre variabili.
  
  
• Le piattaforme avanzate possono anche eseguire la correzione automatica, riducendo il carico operativo e accelerando i tempi di risoluzione dei problemi.
  
• Le piattaforme di observability basate sull'AI possono monitorare i picchi di token, le chiamate agli strumenti e altre metriche specifiche dell'AI per garantire che i LLM rimangano performanti e utilizzabili sia per i clienti che per i team interni.

Il futuro dell'observability potrebbe essere definito tanto da un cambiamento strategico quanto da uno tecnologico. Man mano che le responsabilità dell'observability si spostano dalla mera raccolta di dati al supporto decisionale e, infine, all'azione preventiva, le organizzazioni rispondono:

L'observability dell'AI è in grado di supportare un'esperienza di qualità superiore, in cui i clienti possono fidarsi che i servizi funzioneranno come previsto, con latenza minima, comportamenti prevedibili e risoluzione degli errori rapida e trasparente.

I team IT e gli sviluppatori, a loro volta, possono dedicare più tempo all'innovazione dei prodotti e all'ottimizzazione di alto livello. Anziché essere meno coinvolti nel processo di observability, gli esseri umani ottengono una comprensione più profonda dei comportamenti del sistema e sono in grado di prendere decisioni più intelligenti per migliorare la sicurezza, il tempo di attività e le prestazioni.
Registrati al webinar "Observability per l'AI e AI per l'observability: passare all'hype alla pratica"