Cos'è un audit AI?

Un audit AI è un esame strutturato e basato sull'evidenza di come i sistemi di intelligenza artificiale (AI) vengono progettati, addestrati e distribuiti.

Gli audit AI possono essere considerati un "controllo dello stato di salute" completo per i sistemi AI. Mentre un audit tradizionale si concentra sui bilanci o sui controlli IT, un audit AI approfondisce i fondamenti dell'intero ciclo di vita dell'AI. Questo include la raccolta e la qualità dei dati, l'architettura e la spiegabilità del modello, e il processo decisionale una volta che il sistema diventa operativo.

Questo processo di audit valuta se l'uso dell'AI da parte di un'organizzazione è in linea con il suo framework di governance, framework di gestione del rischio e gli standard etici. Pone domande come:

• I dati personali e i dati di formazione vengono raccolti legalmente e memorizzati in modo sicuro?
• Gli algoritmi introducono pregiudizi o creano nuove vulnerabilità?
• Sono in atto controlli di accesso e metriche per mitigare i rischi nel tempo?

Un audit AI dipinge un quadro chiaro del funzionamento interno di un sistema AI, stabilendone l'affidabilità. Per gli stakeholder e gli enti regolatori, fornisce una prova concreta che questa tecnologia emergente viene utilizzata in modo responsabile.

I sistemi di AI influenzano ogni giorno decisioni ad alto rischio, come l'approvazione dei mutui, il triage dei pazienti e la moderazione dei contenuti sui social media. Sebbene questi sistemi offrano velocità e automazione, possono anche introdurre potenziali danni. Un modello difettoso può rafforzare le distorsioni; un livello di sicurezza debole può innescare una violazione dei dati; un processo decisionale male informato può erodere la fiducia degli stakeholder.

Gli enti regolatori stanno rispondendo. La Legge dell'Unione europea sull'intelligenza artificiale (EU AI Act) definisce diversi livelli di rischio (rischio limitato e minimo, rischio alto e rischio inaccettabile) e richiede standard di revisione rigorosi.

Allo stesso modo, il Framework di gestione del rischio dell'AI del National Institute of Standards and Technology (NIST) stabilisce aspettative per la trasparenza dell'AI e la responsabilità. Ci si aspetta che i revisori interni e i team di sicurezza delle informazioni dimostrino la conformità e dimostrino che i loro sistemi di AI sono affidabili dalla progettazione alla distribuzione.

Un audit di AI, pertanto, rappresenta sia uno strumento difensivo che strategico. Può aiutare le organizzazioni a identificare le vulnerabilità prima che peggiorino, rafforzando le pratiche e le iniziative di governance dei dati. E promuovendo una documentazione chiara e workflow ripetibili, gli audit AI aiutano le organizzazioni a rispettare i requisiti di conformità normativa e a costruire fiducia tra clienti e investitori.

Un audit completo dell'AI esamina tre aree interdipendenti, ciascuna con il proprio insieme di test e metriche:

• Dati
• Modello
• Distribuzione

I revisori valutano come i dati vengono raccolti, etichettati e gestiti. Esaminano l'accuratezza e la qualità dei set di dati e testano eventuali distorsioni nascoste o dati "obsoleti" che potrebbero alterare gli output. I controlli sulla privacy e sulla protezione dei dati sono critici: i dati personali devono soddisfare il Regolamento generale sulla protezione dei dati (GDPR) o standard comparabili, mentre i metadati devono essere tracciabili lungo l'intero ciclo di vita dell'AI.

Le verifiche tipiche includono la valutazione della qualità dei dati e le recensioni di valutazione che garantiscono che i periodi di retention, i controlli di accesso e le autorizzazioni siano documentati e applicati.

I revisori poi esaminano gli algoritmi stessi. Le domande chiave includono: quali tecniche di machine learning vengono utilizzate? Quanto è spiegabile la logica decisionale? Sono definite metriche e soglie per monitorare la deriva o comportamenti inaspettati?

Spesso eseguono analisi del tasso di errore tra i gruppi demografici, applicano degli stress test o conducono esercizi di red teaming per esporre le vulnerabilità. Inoltre, i test di affidabilità possono contribuire a identificare potenziali danni prima del dispiegamento.

Infine, i revisori esaminano l'ambiente operativo. Verificano che le strutture di governance e i workflow di monitoraggio rimangano attivi dopo il lancio.

Le valutazioni comuni comprendono le valutazioni ai fini della conformità normativa (ad esempio, l'EU AI Act), il monitoraggio continuo delle prestazioni in tempo reale e le simulazioni di risposta agli incidenti per garantire che l'organizzazione sia in grado di rilevare e contenere le minacce emergenti. I revisori possono anche confermare che gli output sono sottoposti a una revisione del tipo human-in-the-loop se necessario.

Un numero crescente di leggi e standard in tutto il mondo sta influenzando l'audit dell'AI. Molti sono già in vigore, mentre molti altri si stanno muovendo rapidamente verso l'implementazione. Tra le normative di rilievo:

• La Legge dell'Unione europea sull'intelligenza artificiale: nell'Unione Europea, l'EU AI Act è in vigore da agosto 2024 e classifica i sistemi di AI per livello di rischio, richiedendo documentazione, test e supervisione umana approfondita per applicazioni ad alto rischio.

• Il Framework di gestione del rischio dell'AI: sviluppato dal NIST nel 2023, questo framework volontario guida le organizzazioni nell'identificazione, valutazione e gestione dei rischi dell'AI durante tutto il ciclo di vita. Sebbene l'ordine esecutivo che ordinava alle agenzie federali di istituzionalizzare il framework sia stato revocato, lo standard stesso continua a servire da linee guida.

• Direttiva sul processo decisionale: la direttiva federale canadese, in vigore dal 2020, obbliga i dipartimenti a completare una valutazione dell'impatto e a riportare pubblicamente i risultati per sistemi di AI ad alto impatto.

• Modello di framework di governance dell'AI: rilasciato per la prima volta nel 2019 e aggiornato nel 2024, il framework di Singapore fornisce linee guida dettagliate su trasparenza, coinvolgimento degli stakeholder e supervisione umana. Viene utilizzato da molte organizzazioni del settore privato.

• Linee guida per la governance dell'AI: aggiornate nel 2023, le linee guida giapponesi prevedono valutazioni del rischio, spiegabilità e audit indipendenti di terze parti, sottolineando la responsabilità lungo tutto il ciclo di vita dell'AI.

• Principi dell'AI: adottati da oltre 40 paesi membri dell'Organizzazione per la Cooperazione e lo Sviluppo Economico (OCSE) dal 2019, questi principi non vincolanti promuovono equità, trasparenza e una solida sicurezza. Fungono da punto di riferimento globale per le normative nazionali emergenti.

Diversi framework nazionali stanno emergendo anche da Paesi tra cui Brasile, Emirati Arabi Uniti e Corea del Sud. Queste iniziative promuovono i disegni di legge sulla governance dell'AI e pubblicano linee guida dettagliate che enfatizzano l'uso etico, la protezione della privacy e la responsabilità degli stakeholder.

Le normative a livello di settore aggiungono un ulteriore livello di responsabilità. Negli Stati Uniti, le organizzazioni sanitarie devono rispettare il Health Insurance Portability and Accountability Act (HIPAA), incluse le sue Regole sulla privacy e la sicurezza, che richiedono rigorose tutele per qualsiasi dato dei pazienti utilizzato nei sistemi di AI.

Gli istituti finanziari seguono standard di gestione del rischio modello come le linee guida SR 11-7 della Federal Reserve e i requisiti di convalida dei modelli dell'Office of the Comptroller of the Currency, che impongono entrambi test indipendenti e il monitoraggio continuo dei modelli AI.

I framework traducono i requisiti normativi in standard di audit pratici. Le organizzazioni spesso combinano elementi di diversi framework per creare un approccio di audit su misura per il loro settore e l'ambiente normativo.

I framework comuni includono:

• COBIT: il framework Control Objectives for Information and Related Technologies (COBIT) fornisce un approccio orientato al controllo che integra l'audit AI nei programmi di governance IT aziendale e sicurezza informatica, contribuendo a garantire una supervisione costante tra i vari dipartimenti.

• COSO ERM: il Comitato delle Organizzazioni Sponsor del Treadway Commission Enterprise Risk Management Framework (COSO ERM) aiuta le organizzazioni a integrare il rischio di AI all'interno di strategie più ampie di gestione del rischio e nella supervisione a livello di consiglio, collegando le tecnologie emergenti agli obiettivi aziendali.

• GAO AI Accountability Framework: il framework di riferimento per la responsabilità dell'intelligenza artificiale del Government Accountability Office (GAO) degli Stati Uniti offre linee guida per la valutazione della governance, della qualità dei dati e del monitoraggio delle prestazioni, risultando utile per gli audit del settore pubblico e di quello privato.

• IIA AI Audit Framework: il framework di riferimento per l'audit dell'intelligenza artificiale dell'Institute of Internal Auditors (IIA). adatta gli standard tradizionali di audit alle caratteristiche uniche dei sistemi di AI, sottolineando standard etici e trasparenza nel processo decisionale.

• PDPC Model AI Governance Framework: il framework di riferimento modello per la governance dell'AI della Commissione per la protezione dei dati personali di Singapore (PDPC) fornisce indicazioni dettagliate sul coinvolgimento degli stakeholder e sulla gestione responsabile dei dati per le organizzazioni che operano in diverse giurisdizioni.

Un audit AI efficace combina le best practice con una roadmap disciplinata e dettagliata. Sebbene esistano innumerevoli strategie per l'audit dell'AI, un approccio potrebbe seguire questi passaggi: 

Crea una struttura di governance che definisca i ruoli per i team di audit, i revisori interni, i data scientist e gli stakeholder aziendali. Coinvolgi la funzione di audit interno non appena vengono proposti progetti di AI, in modo che la valutazione del rischio e le misure di governance dei dati siano integrate fin dall'inizio.

Cataloga ogni modello AI in uso o in fase di sviluppo, inclusi i modelli di AI generativa, i chatbot e gli strumenti di automazione. Documenta le fonti di dati sulla formazione e le metriche sulla qualità dei dati per creare le basi per la valutazione del rischio e il monitoraggio futuro.

Effettua una valutazione formale del rischio che tenga conto di potenziali danni quali pregiudizi, violazioni dei dati o uso improprio dei dati personali. Convalida i metodi di raccolta dati, verifica le tutele della privacy e assicurati che i set di dati rispettino standard normativi per metriche come la retention e l'accuratezza.

Scegli i framework che si allineano al settore e all'ambiente normativo di riferimento. Ad esempio, alcune organizzazioni combinano il focus sul controllo di COBIT con la visione del rischio aziendale di COSO, aggiungendo poi elementi GAO o IIA per la responsabilità e PDPC per la trasparenza degli stakeholder. Utilizza strumenti di audit che supportano test di spiegabilità, audit algoritmici e metriche in tempo reale.

Sviluppa modelli per la raccolta delle prove, il controllo degli accessi e la redazione dei report. Definisci le metriche per le prestazioni del modello e le strategie di mitigazione. Assicurati che i workflow di audit includano dei checkpoint per la approvazione interna e la revisione degli stakeholder.

Effettua l'audit, documenta i risultati e condividi i risultati con dirigenti e gli enti regolatori secondo necessità. Implementa un monitoraggio continuo per tenere traccia sia della qualità dei dati che del rischio operativo. Le metriche e le dashboard possono offrire ai team di audit visibilità in tempo reale sulle vulnerabilità e consentire una rapida mitigazione.

Le discipline di audit si stanno evolvendo di pari passo con le tecnologie AI. Guardando al futuro, le organizzazioni possono aspettarsi di vedere:

Indipendentemente da come si evolverà il futuro, l'audit non è più un'esercitazione di conformità una tantum. Sta diventando un processo continuo e intelligente che può aiutare le aziende a implementare le tecnologie AI in modo sicuro e affidabile.