Più rapidamente evolve l'AI, più diventa fondamentale la sua governance

• La governance dell'AI non è più soltanto una funzione di controllo del rischio: è diventata una leva strategica per le prestazioni, collegata a una scalabilità più rapida, a costi inferiori e a margini più elevati.
• Il vero vincolo non è avviare l'AI, ma mantenerne il controllo quando i sistemi iniziano ad agire trasversalmente in tutta l'azienda: per questo la governance by design è fondamentale.
• Nei settori rivolti al consumatore, una governance debole si traduce in un rischio per il brand, dove è sufficiente un singolo output errato per compromettere la fiducia dei clienti in tempo reale.
• L'agentic AI alza la posta in gioco, evidenziando quanto rapidamente la sperimentazione stia superando la capacità delle aziende di garantirne visibilità, responsabilità e controllo dei costi.
• Le organizzazioni leader trattano la governance come un'infrastruttura: la integrano fin dalle fasi iniziali, la riutilizzano spesso e la progettano per scalare con rapidità e controllo.

Mentre le aziende del settore dei beni di consumo accelerano l'integrazione dell'AI a livello di previsione della domanda, definizione dei prezzi, marketing, servizio clienti e innovazione di prodotto, molte stanno scoprendo che il problema non è se siano in grado di avviare facilmente un nuovo progetto pilota. La vera sfida è capire se siano in grado di mantenerne il controllo quando l'AI inizia a prendere, raccomandare o automatizzare decisioni in tutta l'azienda. Entra in scena l'AI responsabile.

Un numero sempre maggiore di evidenze dimostra che è la governance a rendere possibile la scalabilità dell'AI. Secondo una nuova ricerca dell'IBM Institute for Business Value (IBV), le organizzazioni che integrano i meccanismi di controllo nelle proprie architetture di AI implementano un numero di agenti AI 16 volte superiore, sostengono costi quattro volte inferiori e raggiungono margini operativi più elevati del 18% rispetto alle aziende che non lo fanno. Questo risultato ridefinisce il ruolo dell'AI responsabile, che non è più soltanto una funzione difensiva per la gestione del rischio, ma diventa una leva fondamentale per le prestazioni. L'importanza della governance è destinata a crescere ulteriormente. Ad esempio, Gartner prevede che entro il 2027 le funzionalità di governance dell'AI e di AI responsabile saranno integrate nel 75% delle piattaforme di AI, diventando il principale fattore di differenziazione competitiva.

Per CEO, CIO, CTO e Chief AI Officer, il dibattito sulla governance sta cambiando prospettiva. Molte organizzazioni continuano a considerare la governance come un elemento da introdurre solo dopo l'adozione dell'AI: lanciano i progetti pilota, ne dimostrano il caso d'uso e aggiungono i controlli più tardi. Altre, invece, reagiscono ai rischi rallentando ogni iniziativa in nome della sicurezza. Nessuno di questi approcci consente di scalare l'AI in modo rapido e sicuro all'interno dell'organizzazione.

Rudy Hagedorn

Director of the Data Driven Value Chain

CEO-led Consumer Goods Forum

Le aziende che stanno conquistando un vantaggio competitivo cercano di superare questo compromesso integrando fin dall'inizio le regole nel funzionamento dei sistemi di AI: definiscono a quali dati un agente può accedere, quali azioni può intraprendere, quali evidenze deve fornire e in quali casi è necessario l'intervento umano. In questo modello, la governance non è un comitato che valuta l'AI a posteriori, bensì un sistema di fiducia integrato fin dalla progettazione nelle pipeline dei dati, nei modelli, nei workflow e nei processi decisionali. 

Come ha affermato Rudy Hagedorn, Director of the Data-Driven Value Chain del Consumer Goods Forum, guidato dai CEO, in un'intervista a IBM Think, il divario attuale è paragonabile a consentire a qualcuno di utilizzare un macchinario potente senza alcuna certificazione: "A tutti serve una patente per guidare: anche all'AI. E non ci siamo ancora".

Colmare questo divario è particolarmente urgente nel settore dei beni di largo consumo (CPG), dove l'AI sta entrando rapidamente in ambiti che incidono direttamente sulla fiducia dei consumatori: definizione dei prezzi, dichiarazioni sui prodotti, personalizzazione, promozioni, previsione della domanda e comunicazione del brand. Una raccomandazione errata o un output non verificato possono trasformarsi in un danno per il brand. Un sistema di AI monitorato in modo inadeguato può generare prezzi errati, affermazioni fuorvianti o personalizzazioni distorte proprio nel momento in cui il consumatore sta prendendo una decisione.

Phaedra Boinodiris, Global Leader for Trustworthy AI di IBM Consulting, ha detto a IBM Think che molte organizzazioni non dispongono ancora degli elementi di base necessari per gestire questo rischio. "Non è possibile governare ciò che non si vede", ha affermato, sottolineando che le aziende devono avere piena visibilità sul proprio inventario dei sistemi di AI, sugli audit, sull'esposizione ai rischi normativi e sul comportamento dei modelli. Ha inoltre aggiunto che la governance non può limitarsi alla sola conformità normativa, perché "un sistema di AI può essere conforme alla legge, ma comunque inaccettabile". 

Con il passaggio dai progetti pilota di AI generativa ai sistemi di agentic AI, capaci di operare in modo sempre più autonomo, i rischi si moltiplicano esponenzialmente se qualcosa va storto. Boinodiris ha spiegato che una ricerca di IBM Research ha rilevato come, sebbene l'88% delle organizzazioni stia sperimentando l'agentic AI, l'80% non disponga ancora di una governance di base nemmeno per le forme di AI già adottate in precedenza. Questa lacuna, ha detto, rende essenziali l'alfabetizzazione, le responsabilità e l'autorità. "La governance", ha affermato, "richiede autorevolezza e un mandato riconosciuto. Non è un'attività secondaria".

Man mano che gli agenti AI iniziano ad agire per conto dei dipendenti, dei clienti o delle diverse funzioni aziendali, il controllo non può più essere esterno al sistema. Deve essere parte integrante del funzionamento del sistema. I leader devono sapere non solo che cosa sta facendo uno strumento di AI, ma anche se sta operando, in tempo reale, entro i limiti autorizzati. 

La questione della governance non è solo una questione di reputazione. È finanziaria. Con la diffusione dell'AI tra le diverse unità di business, modelli, fornitori, infrastrutture e token possono rapidamente trasformarsi in una nuova forma di spesa non governata. La ricerca IBV rileva che l'84% dei responsabili tecnologici non ha ancora reso pienamente operativa la gestione finanziaria dell'AI, mentre l'85% non dispone di una visibilità completa sulla spesa per l'AI in tempo reale. Senza l'assegnazione delle responsabilità, i costi dell'AI possono aumentare anche quando il valore aziendale rimane poco chiaro.

Allo stesso tempo, secondo Hagedorn, molte aziende stanno trascurando un vincolo fondamentale: la qualità dei dati. Ha detto: "l'AI si nutre di dati: bisogna guardare ciò di cui si alimenta". Ciò che molte organizzazioni possiedono è "un accumulo di dati, non realmente interoperabili", spesso frammentati tra sistemi e silos creati nel corso di decenni.

Questo crea un rischio già noto, ma con una posta in gioco più alta. "Garbage in, garbage out" non è più un problema di back-office: modella direttamente gli output dell'AI su larga scala. Sempre più spesso le aziende stanno esplorando l'uso dell'AI stessa per pulire, standardizzare e convalidare i dati prima che vengano assorbiti nei modelli, riconoscendo che "l'uso responsabile dell'AI riguarda principalmente l'uso dei dati", ha detto Hagedorn.

Ecco perché la governance è sempre più legata alla scalabilità. Secondo Boinodiris, i programmi di AI spesso si bloccano, non perché i leader manchino di ambizione, ma perché non dispongono di controlli ripetibili. Se ogni caso d'uso richiede un processo di approvazione, un'architettura e una valutazione del rischio su misura, l'AI rimane confinata alla fase dei progetti pilota. Se invece le stesse regole di controllo vengono integrate una sola volta e riutilizzate in tutti i sistemi, ogni nuovo caso d'uso può essere implementato più rapidamente, operando entro limiti già definiti.

Elaine Parr, Vice President of Consumer Industries di IBM Consulting, ha affermato che le organizzazioni che fanno progressi sono quelle che vanno oltre le prove di concetto isolate. "Non si tratta di ciò che stai trasformando con l'AI: è il modo in cui lo fai", ha detto. "Se non si pensa in termini di trasformazione radicale, se non ci si concentra sui benefici di livello superiore, si rischia di rimanere intrappolati in una continua frenesia di progetti pilota iterativi".

Elaine Parr

Vice President of Consumer Industries

IBM Consulting

Parr ha indicato il ritorno alla centralità della responsabilità sui processi come uno dei modi in cui le grandi aziende stanno cercando di governare la trasformazione guidata dall'AI. Secondo Parr, la vecchia idea di un global process owner si sta evolvendo verso una forma di "responsabilità globale sulle attività", ovvero qualcuno che supervisiona il processo e la piattaforma, i dati, le competenze e il modello operativo che lo supportano.

Questa disciplina operativa è un territorio familiare per i leader CPG. Queste aziende gestiscono già richiami di prodotto, rischio legato ai fornitori, controllo della qualità e audit normativi. Il passo successivo consiste nell'applicare lo stesso rigore all'AI, con il monitoraggio degli incidenti, la classificazione della gravità, protocolli di intervento in tempo reale e responsabilità chiaramente definite quando i sistemi non funzionano. 

Alcuni leader del settore si stanno già muovendo in questa direzione. Parr ha indicato Nestlé come un'azienda CPG che è stata "molto attenta e intenzionale" nella sua trasformazione. Ha ricordato che Nestlé ha illustrato pubblicamente la sua strategia di trasformazione Nestlé Fuel for Growth, che punta a generare benefici per 3 miliardi di CHF entro la fine del 2027. Parr ha inquadrato l'iniziativa non come un semplice programma di costi, ma come una storia di governance sulla trasformazione in sequenza, il cambiamento della forza lavoro e le decisioni tecnologiche. 

Parlando del lavoro che IBM svolge con i suoi clienti sull'AI, Sophie Kuijt, IBM Distinguished Engineer, ha detto a IBM Think che il team considera l'AI responsabile un fattore abilitante, non un ostacolo. Parlando dell'approccio di IBM, ha affermato che la governance rappresenta una priorità, integrata "by design" mentre l'azienda scala nuove tecnologie e nuovi casi d'uso. L'obiettivo, ha detto, è chiarire fin dall'inizio che l'innovazione deve rispettare principi definiti. La governance "non viene utilizzata come un ostacolo" né come una semplice checklist di conformità, ma come "un fattore abilitante" che introduce trasparenza fin dalle prime fasi del processo.

Questo cambiamento riflette una realtà operativa più ampia: la governance non può più rimanere un livello esterno. Come ha spiegato Hagedorn, le aziende devono sempre più "integrare la responsabilità etica nell'infrastruttura", incorporando i meccanismi di controllo direttamente nei workflow e nei sistemi fin dall'inizio, invece di applicarli tramite prompt all'ingresso o solo dopo l'implementazione.

Boinodiris ha avvertito che non è sufficiente inserire un "human in the loop" se questa persona non comprende il sistema di AI. Per i casi d'uso ad alto rischio, le persone devono poter contare su observability, provenienza dei dati, evidenze e sulla possibilità di comprendere perché un sistema abbia prodotto un determinato output. In assenza di questi elementi, ha affermato, la supervisione umana rischia di trasformarsi in un "trasferimento di responsabilità".

La questione più ampia della sovranità riguarda la capacità delle aziende di dimostrare, in tempo reale, di avere il controllo: chi controlla il sistema, come funziona e se i meccanismi di controllo sono efficaci a livello di dati, AI, identità e operazioni. Questo va ben oltre il luogo in cui vengono eseguiti i workload. Riguarda la capacità di garantire evidenze continue, responsabilità chiaramente definite e una governance integrata nel sistema fin dall'inizio, anziché ricostruita dopo che si è verificato un incidente.

Per le aziende di beni di consumo, il vantaggio non è un'AI più lenta e sicura: è un'AI più veloce di cui le aziende possono fidarsi.

Se implementata correttamente, la governance consente ai leader di distribuire più agenti, avere visibilità sui costi, intervenire quando i sistemi iniziano a deviare dal comportamento previsto e scalare i casi d'uso senza dover riprogettare ogni volta i meccanismi di controllo. Contribuisce inoltre a garantire che i dati sottostanti, ovvero il carburante da cui dipende l'AI, siano affidabili, interoperabili e adeguati allo scopo.

Man mano che l'AI si integra lungo l'intera catena del valore, avranno successo le aziende capaci di progettare il controllo come parte integrante della velocità di esecuzione e di garantire che l'AI, come qualsiasi altro sistema potente, si sia guadagnata la propria licenza a operare.