Caso práctico de gobernanza de la IA
Para impulsar flujos de trabajo de IA responsables, transparentes y explicables, su empresa necesita un sistema integrado para el seguimiento, la supervisión y el reentrenamiento de los modelos de IA. Cloud Pak for Data proporciona los procesos y tecnologías que permiten a su empresa supervisar, mantener, automatizar y gestionar los modelos de aprendizaje automático e inteligencia artificial en producción.
Vea este vídeo para conocer el caso práctico de implementación de una solución de gobernanza de IA.
Este vídeo ofrece un método visual para aprender los conceptos y tareas que se describen en esta documentación.
Desafíos
Puede resolver los siguientes retos para su empresa mediante la implementación de un caso de uso de gobernanza de IA:
- Garantizar la gobernanza y el cumplimiento normativo de los modelos
- Las organizaciones deben realizar un seguimiento y documentar el historial detallado de los modelos para garantizar el cumplimiento normativo y proporcionar visibilidad a todas las partes interesadas.
- Gestionar el riesgo y garantizar una IA responsable
- Las organizaciones deben supervisar los modelos en producción para garantizar que sean válidos y precisos, y que no introduzcan sesgos ni se desvíen de los objetivos previstos.
- Puesta en práctica del ciclo de vida del modelo
- Las organizaciones deben implementar procesos repetibles para volver a entrenar y desplegar modelos de manera eficiente en entornos de producción.
Ejemplo: Los retos del Golden Bank
Siga la historia de Golden Bank mientras implementa un proceso de gobernanza de IA para garantizar que su nuevo proceso de solicitud en línea sea conforme y explicable. Los analistas de negocios de Golden Bank deben revisar la información de los modelos para garantizar el cumplimiento normativo, certificar el progreso de los modelos desde su desarrollo hasta su producción y generar informes para compartirlos o archivarlos.
Proceso
Para implementar la gobernanza de la IA en su empresa, su organización puede seguir este proceso:
Los servicios Watson Studio, Watson Machine Learning, Watson OpenScale, IBM Knowledge Catalog, IBM, Orchestration Pipelines, AI Factsheets y IBM OpenPages de Cloud Pak for Data proporcionan todas las herramientas y los procesos que su organización necesita para implementar una solución de gobernanza de la IA.
1. Modelos de seguimiento
Su equipo puede realizar un seguimiento de sus modelos de aprendizaje automático desde la solicitud hasta la producción y evaluar si los modelos cumplen con las normativas y requisitos de su organización.
| Lo que puedes usar | Qué puede hacer | Cuándo utilizarlos mejor |
|---|---|---|
| Fichas informativas | En el inventario de modelos de un catálogo IBM Knowledge Catalog, cree un caso de uso para un nuevo modelo. Vea el estado del ciclo de vida de todos los activos registrados y acceda a hojas informativas detalladas sobre los modelos o implementaciones que están registrados en el caso de uso del modelo. Vea los detalles generales del modelo, la información y las métricas de formación, y el esquema de entrada y salida. Vea los detalles generales de la implementación, los detalles de la evaluación, las métricas de calidad, los detalles de equidad y los detalles de desviación. |
Debe solicitar un nuevo modelo a su equipo de ciencia de datos. Desea asegurarse de que su modelo cumple con los requisitos y funciona según lo esperado. Desea determinar si necesita actualizar un modelo basándose en los datos de seguimiento. Desea ejecutar informes sobre un modelo para compartir o conservar detalles. |
| IBM OpenPages | Identificar, gestionar, supervisar e informar sobre los riesgos y el cumplimiento normativo. | Desea un enfoque integrado para recopilar y comunicar datos sobre modelos. |
Ejemplo: Seguimiento del modelo de Golden Bank
Los analistas de negocios de Golden Bank solicitan un «modelo de aprobación de hipotecas». A continuación, pueden realizar un seguimiento del modelo a lo largo de todas las etapas del ciclo de vida de la IA, a medida que los científicos de datos crean y entrenan el modelo y ModelOps los ingenieros lo implementan y evalúan. Las hojas informativas documentan detalles sobre el historial del modelo y generan métricas que muestran su rendimiento.
2. Supervisar los modelos implementados
Después de desplegar modelos, es importante controlarlos y supervisarlos para asegurarse de que son explicables y transparentes. Los científicos de datos deben ser capaces de explicar cómo los modelos llegan a determinadas predicciones, de modo que puedan determinar si estas tienen algún sesgo implícito o explícito. Además, es una práctica recomendada para ver el rendimiento del modelo y los problemas de coherencia de datos durante el ciclo de vida del modelo.
| Lo que puedes usar | Qué puede hacer | Cuándo utilizarlos mejor |
|---|---|---|
| Watson OpenScale | Supervise los problemas de equidad del modelo en múltiples características. Supervise el rendimiento del modelo y la coherencia de los datos a lo largo del tiempo. Explique cómo el modelo llegó a determinadas predicciones con factores ponderados. Mantenga e informe sobre la gobernanza y el ciclo de vida del modelo en toda su organización. |
Tienes características que están protegidas o que podrían contribuir a la imparcialidad de las predicciones. Quieres hacer un seguimiento del rendimiento del modelo y la coherencia de los datos a lo largo del tiempo. Quieres saber por qué el modelo ofrece determinadas predicciones. |
Ejemplo: Supervisión del modelo de Golden Bank
Los científicos de datos de Golden Bank utilizan Watson OpenScale para supervisar el «Modelo de aprobación de hipotecas» implementado, con el fin de garantizar que sea preciso y trate de forma justa a todos los solicitantes de hipotecas de Golden Bank. Utilizan un portátil para configurar los monitores del modelo y luego ajustan la configuración mediante la Watson OpenScale interfaz de usuario. Utilizando métricas del monitor Watson OpenScale de calidad y del monitor de imparcialidad, los científicos de datos determinan la eficacia del modelo a la hora de predecir resultados y si produce resultados sesgados. También obtienen información sobre cómo el modelo toma las decisiones, de modo que estas puedan explicarse a los solicitantes de hipotecas.
3. Automatizar el ciclo de vida de la IA
Tu equipo puede automatizar y simplificar el ciclo de vida de MLOps y la IA con Orchestration Pipelines.
| Lo que puedes usar | Qué puede hacer | Cuándo utilizarlos mejor |
|---|---|---|
| Orchestration Pipelines | Utilice canalizaciones para crear flujos repetibles y programados que automaticen las canalizaciones de aprendizaje automático, desde la ingesta de datos hasta el entrenamiento, las pruebas y la implementación de modelos. | Desea automatizar algunos o todos los pasos de un flujo de MLOps. |
Ejemplo: ciclo de vida automatizado del ML de Golden Bank
Los científicos de datos de Golden Bank pueden utilizar canalizaciones para automatizar todo el ciclo de vida y los procesos de gobernanza de la IA con el fin de simplificar el proceso de reentrenamiento de modelos.
Tutoriales sobre gobernanza de la IA
| Guía de aprendizaje | Descripción | Experiencia para guía de aprendizaje |
|---|---|---|
| Guía de aprendizaje sobre crear y desplegar un modelo | Entrenar un modelo, promocionarlo a un espacio de despliegue y desplegar el modelo. | Ejecuta un cuaderno. |
| Prueba y validación de un tutorial de modelos | Evalúe un modelo para ver su precisión, equidad y explicabilidad. | Ejecute un cuaderno y vea los resultados en la interfaz de usuario. |