Come abilitare un AI affidabile con la giusta soluzione di data fabric

Le organizzazioni fanno sempre più affidamento sull'intelligenza artificiale (AI) e sull'apprendimento automatico (ML) per assistere gli esseri umani nel processo decisionale. È il così che le migliori organizzazioni migliorano le interazioni con i clienti e accelerano il time-to-market di beni e servizi. Tuttavia, queste organizzazioni devono potersi fidare dei loro modelli AI/ML prima di renderli operativi e utilizzarli nei processi aziendali cruciali. Un'AI affidabile è diventata un requisito per l'adozione efficace dell'AI nei vari settori.

Oggigiorno, se un modello AI prende una decisione distorta o ingiusta riguardo allo stato di salute, alle condizioni finanziarie o al benessere degli esseri umani, un'organizzazione può fare notizia per i motivi sbagliati. Oltre al notevole rischio di reputazione del marchio, c'è anche una serie crescente di normative sui dati e sull'AI in tutto il mondo e in tutti i settori che le aziende devono rispettare, come per esempio l'EU AI Act.

• Equità: puoi confermare che il modello di apprendimento automatico non fornisca uno svantaggio sistematico a un gruppo di persone rispetto a un altro, in base a fattori come sesso, orientamento, età o etnia?
  
  
• Spiegabilità: puoi spiegare perché il modello ha preso una certa decisione? Ad esempio, se qualcuno richiede un prestito, la banca deve essere in grado di spiegare chiaramente perché quella persona è stata rifiutata o approvata.
  
  
• Privacy: ci sono regole e politiche adeguate per consentire a varie persone di accedere ai dati nelle diverse fasi del ciclo di vita dell'IA?
  
  
• Robustezza: il modello si comporta in modo coerente quando le condizioni cambiano? È scalabile? Come tieni conto dei modelli di dati alla deriva?
  
  
• Trasparenza: hai a disposizione tutti i dati rilevanti per l'utilizzo del modello? Vengono registrati durante le diverse fasi del ciclo di vita e sono prontamente disponibili (proprio come l'etichetta dei valori nutrizionali)?

Prima di poterti fidare di un modello AI e dei suoi insight, devi poterti fidare dei dati che vengono utilizzati. La giusta soluzione di data fabric supporterà naturalmente questi pilastri e ti aiuterà a creare modelli AI affidabili.

Prendi in considerazione questi tre passaggi cruciali nel ciclo di vita della creazione del tuo prossimo modello di AI o machine learning, o per il miglioramento di quello attuale:

Per prima cosa: hai bisogno di accedere e ottenere insight su tutti i dati rilevanti.

La ricerca mostra che fino al 68% dei dati non viene analizzato nella maggior parte delle organizzazioni. Ciononostante, le implementazioni di AI di successo richiedono la connessione a dati accurati e di alta qualità, pronti per il consumo self-service da parte degli stakeholder giusti. Senza la capacità di aggregare dati da fonti interne ed esterne eterogenee (on-premise, cloud pubblici o cloud privato), avrai un modello AI di livello inferiore, perché non dispone di tutte le informazioni di cui ha bisogno.

In secondo luogo, è necessario assicurarsi che i dati stessi possano essere considerati attendibili. Un set di dati attendibile contiene due fattori:

1. Esistono regole e politiche adeguate per stabilire chi può accedere ai dati e utilizzarli?
2. Comprendi i bias che esistono nei dati e hai predisposto i guardrail adeguati per utilizzare tali dati per la creazione e l'addestramento dei modelli?

Secondo Gartner, il 53% dei progetti di AI e ML sono bloccati nelle fasi di pre-produzione. Puoi rendere operativa la tua AI esaminando tutte le fasi del suo ciclo di vita. Gli strumenti di data science automatizzati e integrati aiutano a costruire, implementare e monitorare modelli AI. Questo approccio contribuisce a garantire trasparenza e responsabilità in ogni fase del ciclo di vita del modello. Ma, per farlo, deve anche garantire l'equità, la robustezza, la raccolta di informazioni e altro ancora.

Spesso i data scientist non sono esattamente entusiasti all'idea di dover generare tutta la documentazione necessaria per soddisfare gli standard etici e normativi. È qui che tecnologie come IBM® FactSheets possono rivelarsi utili, riducendo il lavoro manuale necessario per acquisire metadati e altri dati su un modello in tutte le fasi del ciclo di vita dell'AI. Con le soluzioni di governance dell'AI, un data scientist che utilizza librerie e framework Python standard e aperti può raccogliere automaticamente informazioni sulla creazione e sulla formazione del modello.

Allo stesso modo, le informazioni possono essere raccolte mentre il modello è nelle fasi di test e convalida. Sono tutte incorporate nei workflow end-to-end per garantire che il team soddisfi gli standard etici e normativi.

Nella maggior parte delle organizzazioni, esistono una serie di strumenti di data science che rendono difficile governare e gestire le informazioni, figuriamoci aderire a normative sempre più rigide in materia di sicurezza, conformità e governance. Per guidare processi coerenti e ripetibili progettati per aumentare la trasparenza dei modelli e garantire sia la tracciabilità che la responsabilità, puoi utilizzare una governance dell'AI scalabile e automatizzata. Migliora la collaborazione, confronta le previsioni dei modelli, quantifica il rischio e ottimizza le prestazioni del modello, identifica e mitiga le distorsioni, riduci i rischi come la deriva e diminuisci la necessità di riqualificare i modelli.

In definitiva, la gestione dei dati e la fornitura agli utenti dell'accesso ai dati giusti al momento giusto sono alla base di un'AI e di una governance dell'AI di successo. Un'architettura di data fabric aiuta a raggiungere questo obiettivo riducendo al minimo le complessità di integrazione dei dati e semplificando l'accesso ai dati in un'organizzazione per facilitare il consumo di dati self-service.

Con IBM® Cloud Pak for Data, puoi formalizzare un workflow che consente a diversi team di interagire con il tuo modello in varie fasi. Non si tratta solo di garantire un accesso adeguato ai team di data science: anche il tuo team di di gestione del rischio dei modelli, il team di operazioni IT e i dipendenti della linea di business hanno bisogno di un accesso adeguato.

Inoltre, puoi gestire diversi set di dati e fonti, dai dati di addestramento ai dati di payload fino ai dati di ground truth con i giusti livelli di privacy e governance. E, cosa più importante, puoi automatizzare l'acquisizione dei metadati da ciascun set di dati e modello e conservarli in un catalogo centrale. Utilizzando IBM Cloud Pak for Data, puoi farlo su larga scala, con coerenza e applicarli a modelli creati utilizzando strumenti open source o di terze parti.

Il potenziale vantaggio dell'AI si riflette nelle tendenze strategiche dei leader del settore. Secondo il CEO Study 2025 dell'IBM Institute for Business Value (IBV), il 68% dei CEO afferma che l'AI cambia aspetti del loro core business, e il 61% afferma che il vantaggio competitivo dipende da chi dispone dell'AI generativa più avanzata. Tuttavia, per consolidare la fiducia dei clienti è fondamentale disporre di controlli adeguati in tutto il ciclo di vita dell'AI, soprattutto quando viene utilizzata in situazioni critiche.