Caso de uso de governança AI
Para conduzir os fluxos de trabalho de IA responsáveis, transparentes e explicáveis, sua empresa precisa de um sistema integrado para rastreamento, monitoramento e reciclagem de modelos de IA. O Cloud Pak for Data as a Service fornece os processos e as tecnologias para permitir que sua empresa monitore, mantenha, automatize e controle o aprendizado de máquina e os modelos de IA na produção
Assista a este vídeo para ver o caso de uso para implementar uma solução de controle de IA.
Este vídeo fornece um método visual para aprender os conceitos e tarefas nesta documentação.
Desafios
É possível resolver os desafios a seguir para sua empresa implementando um caso de uso de controle de IA:
- Assegurando a governança e conformidade do modelo
- As organizações precisam rastrear e documentar o histórico detalhado de modelos para garantir a conformidade e fornecer visibilidade para todas as partes interessadas
- Gerenciando risco e assegurando IA responsável
- As organizações precisam monitorar os modelos em produção para assegurar que os modelos sejam válidos e precisos e que não estejam introduzindo propensão ou afastando-se dos objetivos pretendidos
- Operacionalizando o ciclo de vida do modelo
- As organizações precisam implementar processos repetidos para retreinar e implementar modelos de forma eficiente em ambientes de produção
Exemplo: desafios do Banco de Ouro
Siga a história do Golden Bank à medida que implementa um processo de governança de IA para garantir que seu novo processo de aplicação on-line seja compatível e explicável. Os analistas de negócios do Golden Bank precisam rever as informações do modelo para garantir a conformidade, certificar o progresso do modelo de desenvolvimento para a produção e gerar relatórios para compartilhar ou arquivar.
Processo
Para implementar a governança de IA para sua empresa, sua organização pode acompanhar este processo:
Os serviços watsonx.ai Studio, watsonx.ai Runtime, Watson OpenScale e IBM watsonx.data intelligence em Cloud Pak for Data as a Service fornecem as ferramentas e os processos de que sua organização precisa para implementar uma solução de governança de IA.
1. Modelos de track
Sua equipe pode acompanhar os seus modelos de aprendizado de máquina a partir de solicitação à produção e avaliar se os modelos cumprem os regulamentos e requisitos da sua organização.
| O que você pode usar | O que é possível fazer | Melhor usar quando |
|---|---|---|
| Folhas | No inventário de modelos em um catálogo em IBM watsonx.data intelligence, crie um caso de uso para um novo modelo. Visualize o status do ciclo de vida de todos os ativos registrados e faça uma busca detalhada em fichas técnicas de modelos ou implantações registradas no caso de uso do modelo. Visualize detalhes gerais do modelo, informações e métricas de treinamento e esquema de entrada e saída. Visualize detalhes gerais da implantação, detalhes de avaliação, métricas de qualidade, detalhes de imparcialidade e detalhes de desvio. |
Você precisa solicitar um novo modelo a partir de sua equipe de ciência de dados. Você quer ter certeza de que seu modelo é compatível e se apresentando como esperado. Quer determinar se precisa atualizar um modelo baseado em dados de rastreamento. Quer executar relatórios em um modelo para compartilhar ou preservar detalhes. |
Exemplo: rastreamento do modelo do Banco de Ouro
Os analistas de negócios do Golden Bank solicitam um "Modelo de Aprovação de Hipoteca". Eles podem, então, rastrear o modelo por meio de todos os estágios do ciclo de vida de IA à medida que os cientistas de dados constroem e treinam o modelo e os engenheiros do ModelOps implementam e avaliam. Factsheets documenta detalhes sobre o histórico do modelo e gere métricas que mostram seu desempenho.
2. Monitorar modelos implementados
Após os modelos serem implementados, é importante governar e monitorá-los para ter certeza de que eles são explicáveis e transparentes. Os cientistas de dados devem ser capazes de explicar como os modelos chegam a certas predições para que possam determinar se as previsões têm algum viés implícito ou explícito. Além disso, é uma melhor prática assistir ao desempenho do modelo e problemas de consistência de dados durante o ciclo de vida do modelo.
| O que você pode usar | O que é possível fazer | Melhor usar quando |
|---|---|---|
| Watson OpenScale | Monitore questões de equidade do modelo em vários recursos. Monitore o desempenho do modelo e a consistência dos dados ao longo do tempo. Explique como o modelo chegou a determinadas previsões com fatores ponderados. Manter e informar sobre governança de modelo e ciclo de vida em toda a sua organização. |
Você tem recursos que são protegidos ou que podem contribuir para a equidade de predição. Você quer traçar desempenho do modelo e consistências de dados ao longo do tempo. Quer saber por que o modelo dá certas previsões. |
Exemplo: Monitoramento do modelo do Banco de Ouro
Os cientistas de dados do Golden Bank usam o Watson OpenScale para monitorar o "Modelo de Aprovação de Hipoteca" Implementado para garantir que ele seja preciso e tratar todos os candidatos de hipoteca do Banco de Ouro de forma justa. Eles executam um notebook para configurar monitores para o modelo e, em seguida, tfraca a configuração usando a interface de usuário do Watson OpenScale . Usando métricas do monitor de qualidade do Watson OpenScale e do monitor de justiça, os cientistas de dados determinam o quão bem o modelo prevê resultados e se ele produz algum resultado tendciosciado. Eles também recebem insights sobre como o modelo chega às decisões para que as decisões possam ser explicadas aos candidatos de hipoteca.
3. Automatizar o ciclo de vida de IA..
Sua equipe pode automatizar e simplificar o ciclo de vida de MLOps e IA com o Orchestration Pipelines.
| O que você pode usar | O que é possível fazer | Melhor usar quando |
|---|---|---|
| Orchestration Pipelines | Use dutos para criar fluxos repetidos e planejados que automatizam oleodutos de aprendizagem de máquina, desde a ingestão de dados até treinamento de modelo, testes e implantação. | Você deseja automatizar algumas ou todas as etapas em um fluxo de MLOps. |
Exemplo: o ciclo de vida automatizado ML do Banco de Ouro
Os cientistas de dados do Golden Bank podem usar gasodutos para automatizar seu ciclo de vida e processos completos de governança de IA para simplificar o processo de reciclagem do modelo.
Tutoriais para a governança de IA
| Tutorial | Descrição | Conhecimento para tutorial |
|---|---|---|
| Construir e implementar um tutorial do modelo | Treine um modelo, promova-o para um espaço de implementação e implemente o modelo. | Execute um notebook. |
| Tutorial Testar e validar um modelo | Avalie um modelo para exatidão, justiça e explicabilidade. | Execute um bloco de anotações e visualize os resultados na interface com o usuário. |