Governance dei modelli - IBM watsonx.governance

Watsonx.governance con autorizzazione FedRAMP arriva su AWS GovCloud

Raggiungere una governance dell'AI sicura e scalabile con monitoraggio automatizzato, controlli del rischio e trasparenza basata su policy, appositamente per le agenzie regolamentate e i workload mission-critical.

Leggi l'annuncio

Governance dei modelli AI: il potere di scegliere

La gen AI ha il potenziale per aumentare la produttività e generare un valore economico significativo. Tuttavia, questi modelli presentano nuovi rischi e complessità. Che siano modelli di AI generativa o modelli tradizionali di apprendimento automatico (ML), richiedono in ogni caso una governance.

Il toolkit IBM® watsonx.governance per la governance dell'AI offre agli utenti flessibilità e la possibilità di scegliere tra diversi modelli. Questo toolkit può:

governare i modelli di gen AI basati su IBM watsonx.ai e i modelli creati su piattaforme di terze parti, tra cui Amazon Bedrock, Microsoft Azure e OpenAI
gestire modelli di machine learning (ML) creati in strumenti di terze parti
consentire ai clienti di scegliere tra distribuzioni cloud o on-premise per entrambi i tipi di modelli

IBM nominata leader nell'IDC Marketscape Worldwide GenAI Model Evaluation

Scopri i rischi che comporta lavorare con i modelli AI

Benefici

Utilizza un unico toolkit di governance

Accedi a un set di strumenti multi-modello pensato per le aziende, su un'unica piattaforma integrata che automatizza la governance dei modelli di gen AI e ML.

Accelera il time-to-value

Automatizza strumenti e processi lungo l'intero ciclo di vita dell'AI per ridurre gli errori manuali e accelerare lo sviluppo dell'AI in modo sicuro e responsabile.

Promuovi un'AI responsabile ed etica

Sviluppa processi più trasparenti per i modelli per migliorare l'accuratezza, l'equità e la spiegabilità, e per fornire una documentazione chiara sull'integrità e sulla funzionalità dei modelli.

Guarda come funziona

Per una gestione efficace dell'AI generativa aziendale è essenziale monitorare e ridurre i rischi derivanti da modelli, utenti, set di dati e normative. Watsonx.governance offre tre funzionalità chiave per raggiungere questo obiettivo.

Consulta la scheda tecnica sull'apprendimento automatico (ML)

Tracciabilità e trasparenza

watsonx.governance utilizza le schede informative per registrare e monitorare automaticamente i fatti relativi ai modelli. Noi di IBM definiamo queste schede "etichette nutrizionali" dei modelli, perché contengono un archivio di tutte le informazioni rilevanti su questi ultimi. Questi documenti facilitano una visione completa della gestione delle prestazioni e dei rischi lungo l'intero ciclo di vita del modello e servono a registrare le attività di sviluppo e le metriche delle prestazioni. Gli utenti possono scaricare le schede informative o inviarle come allegati agli stakeholder o a supporto degli audit.

Valutazione e documentazione dei modelli

Sono disponibili metriche di valutazione per una serie di casi d'uso, tra cui riassunto di testi, classificazione di testi, traduzione linguistica, generazione di contenuti, generazione aumentata del recupero (RAG, Retrieval-Augmented Generation) e question and answer. È possibile verificare le prestazioni dei prompt lungo l'intero ciclo di vita dell'AI per garantire che funzionino in modo accurato e non producano contenuti potenzialmente dannosi o inappropriati. Le schede informative sono utilizzate per documentare le metriche di valutazione.

Monitoraggio dei modelli

Le metriche delle prestazioni vengono monitorate per evitare problemi di deriva, qualità e sicurezza. Le soglie preimpostate monitorano sia gli input che gli output del modello di AI generativa e forniscono avvisi se vengono rilevati episodi di linguaggio aggressivo, incitamento all'odio, linguaggio offensivo o volgare negli input e output del modello. Watsonx.governance monitora la dimensione dei dati, la latenza e la variazione della velocità effettiva.