È ora disponibile un toolkit per gestire la governance dei modelli di AI generativa (gen AI) e di machine learning (ML) su un'unica piattaforma integrata
La gen AI ha il potenziale per aumentare la produttività e generare un valore economico significativo. Tuttavia, questi modelli presentano nuovi rischi e complessità. Che siano modelli di AI generativa o modelli tradizionali di apprendimento automatico (ML), richiedono in ogni caso una governance.
Il toolkit IBM® watsonx.governance per la governance dell'AI offre agli utenti flessibilità e la possibilità di scegliere tra diversi modelli. Il toolkit consente di gestire la governance dei modelli di AI generativa creati su IBM® watsonx.ai e dei modelli creati su piattaforme di terze parti, tra cui Amazon Bedrock, Microsoft Azure e Open AI. Inoltre, Watsonx.governance permette di gestire la governance dei modelli di ML creati tramite strumenti di terze parti. Entrambe le tipologie di modello possono essere distribuite sul cloud o on-premise.
Per una gestione efficace dell'AI generativa aziendale è essenziale monitorare e ridurre i rischi derivanti da modelli, utenti, set di dati e normative. Watsonx.governance offre tre funzionalità chiave per raggiungere questo obiettivo.
watsonx.governance utilizza le schede informative per registrare e monitorare automaticamente i fatti relativi ai modelli. Noi di IBM definiamo queste schede "etichette nutrizionali" dei modelli, perché contengono un archivio di tutte le informazioni rilevanti su questi ultimi. Questi documenti facilitano una visione completa della gestione delle prestazioni e dei rischi lungo l'intero ciclo di vita del modello e servono a registrare le attività di sviluppo e le metriche delle prestazioni. Gli utenti possono scaricare le schede informative o inviarle come allegati agli stakeholder o a supporto degli audit.
Sono disponibili metriche di valutazione per una serie di casi d'uso, tra cui riassunto di testi, classificazione di testi, traduzione linguistica, generazione di contenuti, generazione aumentata del recupero (RAG, Retrieval-Augmented Generation) e question and answer. È possibile verificare le prestazioni dei prompt lungo l'intero ciclo di vita dell'AI per garantire che funzionino in modo accurato e non producano contenuti potenzialmente dannosi o inappropriati. Le schede informative sono utilizzate per documentare le metriche di valutazione.
Le metriche delle prestazioni vengono monitorate per evitare problemi di deriva, qualità e sicurezza. Le soglie preimpostate monitorano sia gli input che gli output del modello di AI generativa e forniscono avvisi se vengono rilevati episodi di linguaggio aggressivo, incitamento all'odio, linguaggio offensivo o volgare negli input e output del modello. Watsonx.governance monitora la dimensione dei dati, la latenza e la variazione della velocità effettiva.
Note a piè di pagina
Le dichiarazioni di IBM relative ai piani, alle indicazioni e alle intenzioni dell'azienda sono soggette a modifiche o a ritiro senza preavviso, a esclusiva discrezione di IBM. Per maggiori dettagli, consulta la pagina Prezzi. Se non diversamente specificato nella sezione Prezzi del software, tutte le funzioni, le capacità e i potenziali aggiornamenti si riferiscono esclusivamente al servizio SaaS. IBM non garantisce che le funzioni e le capacità SaaS e software siano le stesse.