Home Case Studies IBM Office of Privacy and Responsible Technology - Privacy and AI Management System (PIMS) Creare fiducia nell'AI
IBM Office of Privacy and Responsible Technology aiuta a semplificare e automatizzare le attività globali relative a privacy e conformità all'AI per i modelli di machine learning gestiti da IBM
Esterno degli uffici IBM, visto dalla strada

L'AI viene già utilizzata per decidere se assumere o meno una persona. Se concedere un prestito o valutare i requisiti per un alloggio. Dal momento che sta cambiando in modo profondo le nostre vite, è quindi necessario che la gestione dell'AI sia assolutamente responsabile.

Tale gestione responsabile, tuttavia, è più facile a dirsi che a farsi. E Christina Montgomery, Chief Privacy and Trust Officer di IBM, è fermamente convinta che l'AI sia una risorsa positiva per il cambiamento.

"In IBM abbiamo creato un AI Ethics Board che attualmente co-presiedo per fronteggiare questa sfida," osserva Montgomery. "Abbiamo articolato dei principi che riguardano l'AI, perché sia trasparente e spiegabile. Deve essere rispettosa della privacy, sicura, inclusiva ed equa. Sebbene il Consiglio di amministrazione abbia contribuito a far entrare questi principi nella nostra cultura, dobbiamo agire concretamente per assicurarci di essere responsabili come azienda."

Fortunatamente, IBM aveva già gestito un afflusso di normative di tale entità.

"La nostra conformità al GDPR [General Data Protection Regulation] è probabilmente l'esempio più calzante di ciò che abbiamo dovuto affrontare per l'AI", aggiunge Lee Cox, Vice President of Integrated Governance, Services, and Research all'interno dell'IBM Office of Privacy and Responsible Technology. "Prima di allora, il modo in cui gestivamo le sfide di conformità legate alla protezione dei dati era più locale: molti dei nostri programmi erano regionalizzati. Il lavoro veniva portato a termine, ma avremmo impegnarci a fondo per adattare il sistema alle nuove esigenze".

Prosegue: "Ma con il GDPR e altre normative sulla privacy, dovevamo iniziare a coordinarci a livello globale. Dovevamo adattarci rapidamente perché dovevamo affrontare più standard, più obblighi, più difficoltà, maggiore sensibilità alla domanda "Cosa succede ai miei dati e come vengono utilizzati?"

Per gestire questa supervisione a livello globale, IBM ha creato un sistema di gestione della privacy e dell'AI (PIMS) a livello aziendale. E sulla base dei suoi successi, Montgomery e il suo team hanno ritenuto che IBM potesse potenziare questo strumento per documentare e monitorare meglio la conformità anche nelle operazioni di AI.

Come nel caso della privacy, negli ultimi anni l'AI è stata oggetto di una valanga di nuove normative, sia a livello nazionale sia locale. Allo stesso modo, diverse alleanze e associazioni globali hanno anche sviluppato delle linee guida per garantire un comportamento etico e responsabile dell'AI. Ma soddisfare questo crescente elenco di aspettative può essere difficile da raggiungere su larga scala.

"Siamo una grande azienda", aggiunge Montgomery. “Operiamo in oltre 170 paesi in tutto il mondo. Siamo costituiti da oltre 400 entità giuridiche distinte che intrattengono rapporti commerciali con 13.000 fornitori e 150.000 partner. Con dimensioni simili, può essere difficile dal punto di vista della governance mettere d'accordo tutti i nostri dipendenti, che sono oltre 250.000".

>5.500 applicazioni e processi gestiti dal PIMS 6 settimane di tempo per lanciare un recente nuovo programma a livello aziendale
Abbiamo articolato dei principi relativi all'AI perché sia trasparente e spiegabile. Deve essere rispettosa della privacy, sicura, inclusiva ed equa. Christina Montgomery Chief Privacy and Trust Officer IBM
Automatizza. Centralizza. Controlla.

Alla fine del 2022, l'ufficio ha aggiornato il PIMS, basato ora sulla tecnologia IBM® OpenPages e IBM Knowledge Catalog. La soluzione, che comprende anche sistemi innovativi del portafoglio IBM Data e AI (illustrati di seguito), offre una piattaforma centralizzata a livello aziendale in grado di acquisire, integrare e rendere trasparenti i metadati relativi alla privacy dei dati e all'intero ciclo di vita dell'AI, dalla progettazione all'implementazione nell'uso quotidiano.

"Con PIMS, i nostri obiettivi principali erano standardizzare, semplificare e scalare in modo significativo," ricorda Cox. "E ora adottiamo un approccio di conformità più costante che può aiutare a identificare il divario tra ciò che stiamo facendo oggi e le nuove normative man mano che vengono emanate."

"È fondamentale creare fiducia nell'intero ecosistema: i nostri dipendenti, i nostri clienti, i governi e i politici," aggiunge Montgomery. "Per questo motivo siamo convinti sostenitori della trasparenza in termini di coinvolgimento dell'AI e questo è fondamentalmente ciò che il PIMS contribuisce a fornire."

"I pregiudizi sono particolarmente importanti da considerare," osserva Cox. "Se si prendono i difetti degli esseri umani e li si amplificano su larga scala attraverso l'AI, questi difetti vengono replicati su più sistemi, rendendo l'impatto sulla società molto più significativo."

IBM OpenPages è il cuore pulsante del sistema PIMS e fornisce un workflow automatizzato e centralizzato per funzioni di governance, rischio e conformità (GRC) precedentemente isolate. Inoltre, IBM Knowledge Catalog fornisce il catalogo dati corrispondente per monitorare e rendere accurate queste informazioni GRC insieme alle relazioni e agli asset di conoscenza pertinenti.

Nell'ambito della strategia di governance dell'AI di IBM, l'azienda utilizza al meglio anche la funzionalità IBM AI Factsheets di IBM Cloud Pak for Data. Questo strumento tiene traccia del ciclo di vita dei modelli di machine learning dalla formazione alla produzione, acquisendo dati reali che possono essere utilizzati per monitorare i rischi e la deriva dei modelli.

Tuttavia, adottiamo un approccio di conformità più continuo che può aiutare a identificare le lacune tra ciò che stiamo facendo oggi e le nuove normative man mano che vengono emanate. Lee Cox Vice President of Integrated Governance, Services, and Research IBM
Più in dettaglio

Il PIMS registra le nuove istanze dell'AI che vengono messe in produzione da IBM e le istanze di altri sistemi algoritmici. Il PIMS li aggiunge a un workflow centralizzato a livello aziendale e li valuta per i potenziali rischi. E quando il modello è attivo, la soluzione fornisce un monitoraggio continuo in termini di equità, qualità e deriva.

Allo stesso tempo, man mano che vengono emanate nuove normative, il PIMS può essere utilizzato per importare questi requisiti, aggiornare i modelli di governance e gli sforzi complessivi di valutazione del rischio.

"Ogni anno vengono proposte numerose nuove normative sull'AI," osserva Cox. "Sembra che ogni stato degli Stati Uniti sia in procinto di darsi regole proprie. Esiste un'importante legge sulla firma che verrà emanata in Europa nel 2024."

Con questo panorama normativo sull'AI in evoluzione e la costante responsabilità di mantenere la conformità in materia di privacy e governance dei dati, IBM ha creato un programma di governance integrata (IGP). Questa iniziativa IGP offre una strategia unificata per affrontare la privacy, i sistemi algoritmici o di AI, i casi d'uso dell'etica tecnologica e le richieste di autorizzazione dei dati, il tutto nello stesso programma di governance generale, che include il sistema PIMS.

IGP aiuta IBM a gestire il suo programma di conformità su larga scala e includerà l'European Union Artificial Intelligence Act, la prima legge al mondo completa sull'AI, che sarà adottata nel 2024. Con IGP, l'AI può allinearsi con i requisiti dell'Act, che si concentrano su rischio, fiducia, sicurezza e trasparenza e che dovrebbero portare a nuovi livelli di supervisione umana e di conformità normativa per l'AI, sia all'interno dell'UE, sia a livello globale.

A loro volta, il PIMS e i workflow di governance integrati associati forniscono maggiori funzionalità di tracciabilità e reporting, consentendo il completamento delle revisioni dell'autorizzazione dei dati prima che i dati vengano utilizzati per la pre-formazione, lo sviluppo o la messa a punto del modello. Lo strumento aiuta inoltre a mantenere accurate la documentazione e le registrazioni dell'elaborazione (RoP), l'addestramento associato, le metriche di test e le previsioni attuali, relative all'AI e ad altri sistemi algoritmici. Allo stesso modo, il personale IBM può utilizzare questa traccia del documento per verificare che le correzioni siano state effettivamente completate.

IBM prevede versioni future di PIMS per riflettere l'ultima suite di prodotti watsonx™ di IBM, tra cui watsonx.governance™. Questa mossa ha lo scopo di fornire a IBM funzionalità avanzate di governance del ciclo di vita del modello, parametri chiave e report più ampi di benchmarking delle prestazioni.

Siamo in grado di offrire un livello di trasparenza che può aiutare i nostri partner e clienti a costruire la fiducia, quella fiducia che progetto dopo progetto possono adottare in questa tecnologia di AI gestendo e tenendo sotto controllo il rischio. Christina Montgomery Chief Privacy and Trust Officer IBM
Più conformità, meno lavoro

Attualmente, il sistema PIMS tiene traccia e gestisce oltre 5.500 applicazioni aziendali e processi di business in tutte le operazioni globali di IBM, il tutto da un'unica piattaforma unificata. Inoltre, le funzionalità di automazione fornite dallo strumento offrono indicatori chiave di prestazione (KPI) pertinenti per le dashboard di governance, progettati per semplificare la gestione, ridurre le spese generali e i workload di riparazione, nonché avvicinarsi alla conformità.

"Piuttosto che far monitorare ogni asset, ogni individuo, ogni applicazione, ogni processo aziendale dal proprietario del processo e costringerlo a capire quali leggi devono essere rispettate, noi mascheriamo questa complessità," spiega Cox. “Con PIMS, ora devono concentrarsi solo sulle attività di correzione generate automaticamente. Ciò si traduce in migliaia di ore di lavoro risparmiate in tutta IBM."

E con l'introduzione di nuove normative, IBM è in grado di identificare e soddisfare i loro requisiti molto più rapidamente.

"Il nostro ultimo grande progetto, il GDPR, ha richiesto circa 12 mesi di impegno per creare un modello di governance e una soluzione di monitoraggio," osserva Cox. "Con PIMS, ora possiamo lanciare un programma di conformità normativa a livello aziendale in tempi notevolmente ridotti, a volte fino a sei settimane. Le informazioni sono già presenti, il che rende più semplice e veloce identificare le lacune e costruire la campagna. Dopo il lancio, PIMS può quindi inserire automaticamente i dati di tracciamento e correzione pertinenti nelle nostre dashboard."

E questa velocità è fondamentale per adeguarsi alle nuove regole. Come spiega Montgomery: "Quando viene emanata una normativa importante, spesso è improbabile che ci venga concesso un tempo di avvio di due o tre anni. Più probabile che ci possano volere quattro o cinque mesi. E se i nostri partner o clienti non dispongono di PIMS o un sistema simile su cui fare affidamento (strumenti che offrono una gestione dell'inventario sempre attiva e una solida comprensione di quali dati vengono utilizzati in tutta l'azienda), allora avranno difficoltà a rispettare la conformità."

"Ma quando collaborano con IBM", continua, "possiamo offrire un livello di trasparenza che può aiutare i nostri partner e clienti a costruire la sicurezza e la fiducia necessarie per adottare, progetto dopo progetto, questa tecnologia di AI gestendo e tenendo sotto controllo il rischio."

Logo blu IBM a 8 barre
Informazioni su IBM Office of Privacy and Responsible Technology

IBM Office of Privacy and Responsible Technology sovraintende alla creazione e alla gestione di politiche IBM globali relative alla protezione e alla riservatezza dei dati dei singoli e dell'azienda. Inoltre, lavorando in collaborazione con l'IBM AI Ethics Board, l'ufficio gestisce la governance e i processi decisionali pertinenti in materia di politiche e pratiche etiche dell'AI, promuovendo una cultura di responsabilità e fiducia in tutta IBM.

AI al tuo servizio

Gestisci la supervisione, la direzione e la governance delle tue attività di AI con la tecnologia IBM watsonx.governance.

Esplora IBM watsonx.governance Visualizza altri casi di studio
Legale

© Copyright IBM Corporation 2024. IBM Corporation, IBM Consulting, New Orchard Road, Armonk, NY 10504

Prodotto negli Stati Uniti d'America, marzo 2024.

IBM, il logo IBM, ibm.com, IBM Cloud Pak, OpenPages, watsonx e watsonx.governance sono marchi o marchi registrati di International Business Machines Corporation, negli Stati Uniti e/o in altri Paesi. Altri nomi di prodotti e servizi potrebbero essere marchi registrati di IBM o di altre società. Un elenco aggiornato dei marchi IBM è disponibile all'indirizzo ibm.com/legal/copyright-trademark.

Le informazioni contenute nel presente documento sono aggiornate alla data della prima pubblicazione e possono essere modificate da IBM senza preavviso. Non tutte le offerte sono disponibili in ogni Paese in cui opera IBM.

Tutti gli esempi citati relativi a clienti sono presentati per illustrare il modo in cui alcuni clienti hanno utilizzato i prodotti IBM e i risultati da essi eventualmente conseguiti. I costi effettivi relativi agli ambienti e le caratteristiche inerenti alle performance possono variare a seconda delle specifiche configurazioni e condizioni del cliente. In generale non è possibile fornire risultati attesi, poiché i risultati di ciascun cliente dipendono interamente dai sistemi e dai servizi ordinati. LE INFORMAZIONI RIPORTATE NEL PRESENTE DOCUMENTO SONO DA CONSIDERARSI “NELLO STATO IN CUI SI TROVANO”, SENZA GARANZIE, ESPLICITE O IMPLICITE, IVI INCLUSE GARANZIE DI COMMERCIABILITÀ, DI IDONEITÀ A UN PARTICOLARE SCOPO E GARANZIE O CONDIZIONI DI NON VIOLAZIONE. I prodotti IBM sono coperti da garanzia in accordo con termini e condizioni dei contratti sulla base dei quali vengono forniti.

Il cliente è responsabile della conformità a tutte le leggi e le normative vigenti. IBM non fornisce consulenza legale, né dichiara o garantisce che i suoi servizi o prodotti assicurino al cliente la conformità a qualsivoglia legge o regolamento.