Trust by Design: integración del gobierno en la IA en el Banco do Brasil

Para el Banco do Brasil, una de las instituciones financieras más grandes y respetadas de América Latina, escalar la IA significaba más que implementar modelos. Significaba demostrar que cada decisión tomada por esos modelos era justa, explicable y cumplía con las normas.

Con más de 80 millones de clientes y cientos de casos de uso de IA en producción, había mucho en juego. El banco necesitaba asegurarse de que sus sistemas de IA se ajustaban a los estándares éticos, los marcos normativos y las expectativas del público.

En todos los sectores, la adopción de la IA se está acelerando, pero también los riesgos. En particular, las instituciones financieras operan en entornos de alto riesgo donde el coste del fracaso se mide en pérdida de confianza, sanciones regulatorias y daños a la reputación.

Según IBM Research:

• Al 73 % de los líderes de TI les preocupan los resultados sesgados
• El 79 % se preocupa por las vulnerabilidades de seguridad en los sistemas de IA
• Menos del 30 % de los CRO y CFO sienten que sus organizaciones están abordando adecuadamente los riesgos de cumplimiento

La complejidad inherente a la gestión de los sistemas de IA amplifica estas preocupaciones. Hoy en día, las organizaciones operan en entornos multifacéticos de partes interesadas que incluyen responsables de cumplimiento, gestores de riesgos, líderes de TI y científicos de datos. La ausencia de documentación estandarizada, combinada con la naturaleza manual de los procesos de supervisión, dificulta el escalado eficiente de las iniciativas de IA.

Al mismo tiempo, los marcos normativos como la Ley de IA de la UE, ISO 42001 y el marco de gestión de riesgos de IA de NIST están evolucionando rápidamente, lo que requiere una adaptación constante. Además, el comportamiento opaco de los modelos de IA subraya la necesidad de procesos y tecnologías racionalizados que promuevan la explicabilidad y la auditabilidad, lo que ayuda a abordar las preocupaciones a nivel de dirección y a evitar o mitigar las costosas multas por incumplimiento.

Este contexto lo deja claro: el gobierno es una necesidad estratégica.

Para abordar estos desafíos, Banco do Brasil colaboró con EY e IBM para desarrollar conjuntamente una estrategia de IA centrada en el gobierno diseñada para escalar con confianza.

EY introdujo su ciclo de vida de IA generativa y sus marcos de monitorización continua de la IA, diseñados para definir roles claros, responsabilidades y puntos de control de evaluación a lo largo del ciclo de vida de la IA. Estos marcos introdujeron procesos rigurosos para la evaluación comparativa de modelos, la mitigación de sesgos y las evaluaciones de vulnerabilidad.

IBM implementó esta estrategia a través de watsonx.governance, una plataforma diseñada específicamente para:

• Automatizar la supervisión en todo el ciclo de vida de la IA
• Monitorizar la equidad, la desviación y el rendimiento en tiempo real
• Racionalizar la documentación para auditorías y revisiones regulatorias
• Alinear los resultados de la IA con los valores institucionales y las buenas prácticas de IA responsable

Juntas, estas capacidades formaron un sistema unificado de control y confianza, lo que permitió al Banco do Brasil escalar la IA de forma responsable manteniendo la confianza institucional.

Con watsonx.governance, Banco do Brasil logró algo más que el cumplimiento: redefinió cómo se rige y se escala la innovación en toda la empresa. La plataforma sirvió como una capa unificadora que aportó coherencia a las prácticas de gobierno en los sistemas de IA tradicionales y de IA generativa. Independientemente del tipo de modelo o del entorno de implementación, la supervisión se estandarizó y simplificó.

Mediante la automatización de los flujos de trabajo de gobierno, Banco do Brasil redujo la intervención manual y los esfuerzos de supervisión. Esto aceleró las aprobaciones de modelos y acortó el tiempo de implementación, manteniendo al mismo tiempo el rigor del cumplimiento.

Y lo que es más importante, watsonx.governance ayudó a integrar la transparencia y la responsabilidad en cada etapa del ciclo de vida de la IA. Este cambio no fue solo una mejora técnica, sino que marcó un cambio cultural. El gobierno evolucionó de ser una salvaguarda reactiva a convertirse en un facilitador proactivo de la innovación, lo que permite a los equipos moverse más rápido, con mayor confianza y sin comprometer la integridad.

Los paneles de control integrados y las evaluaciones de riesgos automatizadas ahora proporcionan una visibilidad continua de las posibles exposiciones. Cuando las métricas del modelo superan los umbrales, las alertas se activan al instante. Este enfoque permite a los equipos detectar los riesgos a tiempo, tomar medidas correctivas y garantizar el cumplimiento en tiempo real.

La captura automatizada de los metadatos del modelo garantiza una trazabilidad completa en todo el ecosistema de IA, lo que mejora la responsabilidad y simplifica las auditorías.

La visibilidad del comportamiento del modelo ayudó a facilitar la evaluación. Las partes interesadas, desde científicos de datos hasta responsables de riesgos, obtuvieron la capacidad de rastrear los resultados de la IA hasta su origen, validarlos con respecto a los estándares éticos y normativas y defender los valores institucionales. Este nivel de transparencia fue crítico para generar confianza tanto interna como externamente.

Con la vigilancia continua del comportamiento del modelo, los equipos pueden identificar rápidamente la desviación del rendimiento e implementar correcciones oportunas. Esto respalda la agilidad, la resiliencia y la confianza sostenida en el modelo.

La transformación del Banco do Brasil generó resultados reales y medibles que redefinieron la manera en que la institución aborda la IA a escala.

Al integrar el gobierno en el núcleo de su estrategia de IA, el banco aceleró la implementación de nuevos casos de uso. Este cambio permitió una innovación más rápida sin comprometer la supervisión.

La colaboración entre departamentos también mejoró significativamente. Los equipos de riesgos, auditoría y datos, a menudo aislados en flujos de trabajo tradicionales, comenzaron a trabajar desde un marco de gobierno compartido. Esta alineación fomentó una comunicación más clara, redujo las redundancias y creó una respuesta más ágil a las demandas normativas.

La transparencia se convirtió en una característica definitoria de las operaciones de IA del banco. Las partes interesadas internas obtuvieron una mayor visibilidad de cómo funcionaban los modelos y por qué tomaban ciertas decisiones, mientras que los reguladores externos se encontraron con documentación clara y auditable que demostraba responsabilidad y rigor ético.

Y lo que es más importante, Banco do Brasil cuenta ahora con un sistema que no solo es escalable, sino también adaptable. A medida que surgen nuevas regulaciones y evolucionan las capacidades de la IA, el banco cuenta ahora con una base resiliente que respalda el crecimiento sostenible y posiciona el gobierno como una ventaja estratégica a largo plazo.

El gobierno ya no es una casilla de verificación, es un diferenciador competitivo. Las organizaciones que integran el gobierno en su estrategia de IA están mejor posicionadas para:

• Navegar por la complejidad normativa integrando marcos que evolucionan junto con estándares globales como la Ley de IA de la UE y la ISO 42001, reduciendo el retraso en el cumplimiento y permitiendo una entrada más rápida en el mercado.
• Generar confianza con las partes interesadas, incluidos los reguladores y los partners a través de sistemas de IA claros y auditables que demuestren rigor ético y responsabilidad, convirtiendo el gobierno en un activo de marca y un motor de confianza de las partes interesadas.
• Acelerar la innovación sin comprometer la integridad integrando el gobierno en el ciclo de vida de desarrollo de la IA, permitiendo a los equipos experimentar e implementar a escala mientras mantienen la alineación con las buenas prácticas de IA responsable y los umbrales de riesgo definidos.

IBM® watsonx.governance ayuda a los líderes a moverse de la ansiedad por el cumplimiento a la confianza en los resultados de la IA, convirtiendo la supervisión en una fuente de ventaja estratégica.

El recorrido del Banco do Brasil muestra lo que es posible cuando el gobierno se trata como un activo estratégico, impulsando y acelerando aún más el ROI de las iniciativas de IA. Con watsonx.governance, el banco no solo gestionó el riesgo, sino que generó confianza, impulsó la eficiencia y estableció un nuevo estándar para la IA ética en las finanzas.

Para los líderes tecnológicos que se enfrentan a retos similares, el mensaje es claro: el gobierno no se trata solo de control, sino que es la palanca estratégica para el desarrollo sostenible, el crecimiento a largo plazo y la innovación.

Descubra cómo watsonx.governance puede ayudar a su organización a escalar la IA de forma responsable