Disponível agora: um toolkit para gerenciar modelos de IA generativa (gen AI) e de aprendizado de máquina (ML) em uma plataforma integrada
A IA generativa tem o potencial de aumentar a produtividade e liberar trilhões em valores econômicos. No entanto, esses modelos trazem novas complexidades e riscos. Independentemente de você estar usando modelos de IA generativa ou modelos tradicionais de ML, todo modelo precisa de governança.
O IBM watsonx.governance, um toolkit para governança de IA, oferece aos usuários opções e flexibilidade de modelo. Este toolkit pode ser usado para governar modelos de IA generativa desenvolvidos no IBM watsonx.ai, bem como modelos desenvolvidos em plataformas de terceiros, incluindo Amazon Bedrock, Microsoft Azure e Open AI. Com o watsonx.governance, você também pode governar modelos de ML criados em ferramentas de terceiros. Os clientes podem escolher entre a implementação na nuvem ou no local para cada tipo de modelo.
Para governar a IA generativa de uma empresa com eficácia, é essencial monitorar e mitigar os riscos recém-amplificados originados de modelos, usuários, conjuntos de dados e regulamentações. O watsonx.governance oferece três recursos-chave para alcançar isso.
O watsonx.governance usa fichas informativas para registrar e monitorar automaticamente os fatos do modelo. Na IBM, chamamos isso de "rótulos nutricionais" de modelos, pois eles contêm um repositório com todas as informações relevantes do modelo. Esses documentos facilitam uma visão abrangente do desempenho e do gerenciamento de riscos durante o ciclo de vida do modelo, servindo como um registro das atividades de desenvolvimento e métricas de desempenho. Os usuários podem baixar as fichas informativas ou enviá-las como anexos para stakeholders ou para auxiliar auditorias.
As métricas de avaliação estão disponíveis para uma variedade de casos de uso, incluindo resumos e classificação de textos, tradução de idiomas, geração de conteúdo, geração de recuperação aumentada (RAG) e perguntas e respostas. O desempenho imediato pode ser verificado durante todo o ciclo de vida da IA para ajudar a garantir um desempenho preciso e evitar a geração de conteúdo potencialmente prejudicial ou indevido. As fichas informativas são usadas para documentar essas métricas de avaliação.
As métricas de desempenho são monitoradas para evitar problemas que estão relacionados a desvios, qualidade e segurança. Limites predefinidos monitoram tanto os inputs quanto os outputs do modelo de IA generativa e emitem alertas quando são detectados linguagem tóxica, discurso de ódio, linguagem abusiva ou termos obscenos nos inputs e outputs do modelo. O watsonx.governance monitora o tamanho dos dados, a latência e as alterações na taxa de transferência.
Notas de rodapé
As declarações da IBM relativas aos planos, às orientações e às intenções estão sujeitas a alteração ou cancelamento sem aviso prévio e a critério exclusivo da IBM. Saiba mais em Preços . Salvo especificação em contrário em "Precificação do software", todos os recursos, variáveis e possíveis atualizações se referem exclusivamente ao SaaS. A IBM não garante que os recursos e variáveis do SaaS e do software serão os mesmos.