Creare fiducia nell'AI

Alla fine del 2022, l'ufficio ha aggiornato il PIMS, basato ora sulla tecnologia IBM^® OpenPages e IBM Knowledge Catalog. La soluzione, che comprende anche sistemi innovativi del portafoglio IBM Data e AI (illustrati di seguito), offre una piattaforma centralizzata a livello aziendale in grado di acquisire, integrare e rendere trasparenti i metadati relativi alla privacy dei dati e all'intero ciclo di vita dell'AI, dalla progettazione all'implementazione nell'uso quotidiano.

"Con PIMS, i nostri obiettivi principali erano standardizzare, semplificare e scalare in modo significativo," ricorda Cox. "E ora adottiamo un approccio di conformità più costante che può aiutare a identificare il divario tra ciò che stiamo facendo oggi e le nuove normative man mano che vengono emanate."

"È fondamentale creare fiducia nell'intero ecosistema: i nostri dipendenti, i nostri clienti, i governi e i politici," aggiunge Montgomery. "Per questo motivo siamo convinti sostenitori della trasparenza in termini di coinvolgimento dell'AI e questo è fondamentalmente ciò che il PIMS contribuisce a fornire."

"I pregiudizi sono particolarmente importanti da considerare," osserva Cox. "Se si prendono i difetti degli esseri umani e li si amplificano su larga scala attraverso l'AI, questi difetti vengono replicati su più sistemi, rendendo l'impatto sulla società molto più significativo."

IBM OpenPages è il cuore pulsante del sistema PIMS e fornisce un workflow automatizzato e centralizzato per funzioni di governance, rischio e conformità (GRC) precedentemente isolate. Inoltre, IBM Knowledge Catalog fornisce il catalogo dati corrispondente per monitorare e rendere accurate queste informazioni GRC insieme alle relazioni e agli asset di conoscenza pertinenti.

Nell'ambito della strategia di governance dell'AI di IBM, l'azienda utilizza al meglio anche la funzionalità IBM AI Factsheets di IBM Cloud Pak for Data. Questo strumento tiene traccia del ciclo di vita dei modelli di machine learning dalla formazione alla produzione, acquisendo dati reali che possono essere utilizzati per monitorare i rischi e la deriva dei modelli.

Il PIMS registra le nuove istanze dell'AI che vengono messe in produzione da IBM e le istanze di altri sistemi algoritmici. Il PIMS li aggiunge a un workflow centralizzato a livello aziendale e li valuta per i potenziali rischi. E quando il modello è attivo, la soluzione fornisce un monitoraggio continuo in termini di equità, qualità e deriva.

Allo stesso tempo, man mano che vengono emanate nuove normative, il PIMS può essere utilizzato per importare questi requisiti, aggiornare i modelli di governance e gli sforzi complessivi di valutazione del rischio.

"Ogni anno vengono proposte numerose nuove normative sull'AI," osserva Cox. "Sembra che ogni stato degli Stati Uniti sia in procinto di darsi regole proprie. Esiste un'importante legge sulla firma che verrà emanata in Europa nel 2024."

Con questo panorama normativo sull'AI in evoluzione e la costante responsabilità di mantenere la conformità in materia di privacy e governance dei dati, IBM ha creato un programma di governance integrata (IGP). Questa iniziativa IGP offre una strategia unificata per affrontare la privacy, i sistemi algoritmici o di AI, i casi d'uso dell'etica tecnologica e le richieste di autorizzazione dei dati, il tutto nello stesso programma di governance generale, che include il sistema PIMS.

IGP aiuta IBM a gestire il suo programma di conformità su larga scala e includerà l'European Union Artificial Intelligence Act, la prima legge al mondo completa sull'AI, che sarà adottata nel 2024. Con IGP, l'AI può allinearsi con i requisiti dell'Act, che si concentrano su rischio, fiducia, sicurezza e trasparenza e che dovrebbero portare a nuovi livelli di supervisione umana e di conformità normativa per l'AI, sia all'interno dell'UE, sia a livello globale.

A loro volta, il PIMS e i workflow di governance integrati associati forniscono maggiori funzionalità di tracciabilità e reporting, consentendo il completamento delle revisioni dell'autorizzazione dei dati prima che i dati vengano utilizzati per la pre-formazione, lo sviluppo o la messa a punto del modello. Lo strumento aiuta inoltre a mantenere accurate la documentazione e le registrazioni dell'elaborazione (RoP), l'addestramento associato, le metriche di test e le previsioni attuali, relative all'AI e ad altri sistemi algoritmici. Allo stesso modo, il personale IBM può utilizzare questa traccia del documento per verificare che le correzioni siano state effettivamente completate.

IBM prevede versioni future di PIMS per riflettere l'ultima suite di prodotti watsonx™ di IBM, tra cui watsonx.governance™. Questa mossa ha lo scopo di fornire a IBM funzionalità avanzate di governance del ciclo di vita del modello, parametri chiave e report più ampi di benchmarking delle prestazioni.

Attualmente, il sistema PIMS tiene traccia e gestisce oltre 5.500 applicazioni aziendali e processi di business in tutte le operazioni globali di IBM, il tutto da un'unica piattaforma unificata. Inoltre, le funzionalità di automazione fornite dallo strumento offrono indicatori chiave di prestazione (KPI) pertinenti per le dashboard di governance, progettati per semplificare la gestione, ridurre le spese generali e i workload di riparazione, nonché avvicinarsi alla conformità.

"Piuttosto che far monitorare ogni asset, ogni individuo, ogni applicazione, ogni processo aziendale dal proprietario del processo e costringerlo a capire quali leggi devono essere rispettate, noi mascheriamo questa complessità," spiega Cox. “Con PIMS, ora devono concentrarsi solo sulle attività di correzione generate automaticamente. Ciò si traduce in migliaia di ore di lavoro risparmiate in tutta IBM."

E con l'introduzione di nuove normative, IBM è in grado di identificare e soddisfare i loro requisiti molto più rapidamente.

"Il nostro ultimo grande progetto, il GDPR, ha richiesto circa 12 mesi di impegno per creare un modello di governance e una soluzione di monitoraggio," osserva Cox. "Con PIMS, ora possiamo lanciare un programma di conformità normativa a livello aziendale in tempi notevolmente ridotti, a volte fino a sei settimane. Le informazioni sono già presenti, il che rende più semplice e veloce identificare le lacune e costruire la campagna. Dopo il lancio, PIMS può quindi inserire automaticamente i dati di tracciamento e correzione pertinenti nelle nostre dashboard."

E questa velocità è fondamentale per adeguarsi alle nuove regole. Come spiega Montgomery: "Quando viene emanata una normativa importante, spesso è improbabile che ci venga concesso un tempo di avvio di due o tre anni. Più probabile che ci possano volere quattro o cinque mesi. E se i nostri partner o clienti non dispongono di PIMS o un sistema simile su cui fare affidamento (strumenti che offrono una gestione dell'inventario sempre attiva e una solida comprensione di quali dati vengono utilizzati in tutta l'azienda), allora avranno difficoltà a rispettare la conformità."

"Ma quando collaborano con IBM", continua, "possiamo offrire un livello di trasparenza che può aiutare i nostri partner e clienti a costruire la sicurezza e la fiducia necessarie per adottare, progetto dopo progetto, questa tecnologia di AI gestendo e tenendo sotto controllo il rischio."

IBM Office of Privacy and Responsible Technology sovraintende alla creazione e alla gestione di politiche IBM globali relative alla protezione e alla riservatezza dei dati dei singoli e dell'azienda. Inoltre, lavorando in collaborazione con l'IBM AI Ethics Board, l'ufficio gestisce la governance e i processi decisionali pertinenti in materia di politiche e pratiche etiche dell'AI, promuovendo una cultura di responsabilità e fiducia in tutta IBM.