O que é governança de modelos?

A governança de modelos teve origem no setor financeiro para lidar com os riscos associados a modelos financeiros complexos. À medida que a inteligência artificial (IA) e o aprendizado de máquina (ML) ganharam destaque, a importância da governança de modelos se expandiu rapidamente. Segundo a McKinsey, 78% das organizações relatam o uso de IA em pelo menos uma função empresarial — o que mostra como os modelos de IA e ML estão cada vez mais presentes na tomada de decisões operacionais e estratégicas. 

O objetivo da governança de modelos é garantir que os modelos — sejam financeiros tradicionais ou de aprendizado de máquina — funcionem conforme o esperado, estejam em conformidade e gerem resultados confiáveis ao longo do tempo. Um framework sólido de governança de modelos apoia a transparência, responsabilidade e repetibilidade em todo o ciclo de vida do modelo.

Em setores regulamentados como bancos e seguros, a governança de modelos é um requisito de conformidade. Nos Estados Unidos, o Escritório do Controlador da Moeda (OCC) define práticas específicas de controle para o gerenciamento do risco de modelos em instituições financeiras. Embora as diretrizes do OCC não tenham força de lei, elas são utilizadas em auditorias regulatórias. O não cumprimento pode resultar em multas ou outras penalidades.

À medida que a tomada de decisões em tempo real se torna a norma e as exigências regulatórias evoluem, a governança eficaz de modelos está se consolidando como um recurso essencial para organizações que buscam usar a IA de forma responsável.

As organizações estão usando cada vez mais modelos complexos para apoiar decisões de alto impacto. Seja na avaliação de crédito no setor bancário ou na análise de risco de pacientes na saúde, esses modelos só são eficazes se os frameworks que os regem forem sólidos. 

A governança de modelos fornece uma estrutura para supervisionar o desenvolvimento, a implementação e o desempenho contínuo dos modelos. Ao estabelecer controles e responsabilidades claros em cada estágio do ciclo de vida do modelo, as organizações conseguem garantir que seus modelos permaneçam confiáveis e alinhados aos objetivos de negócio. Isso faz da governança de modelos um componente fundamental do gerenciamento de riscos, da conformidade regulatória e da integridade operacional.

A maioria dos modelos — especialmente os de ML — já está incorporada aos processos centrais do negócio. Sem a governança adequada, esses modelos podem se desviar com o tempo, resultando em perda de desempenho, viés nos resultados ou decisões desalinhadas com as condições atuais do mercado ou com tendências demográficas.Em setores como finanças ou saúde, essas falhas podem gerar consequências sérias no mundo real. 

A governança de modelos oferece um mecanismo para avaliar e mitigar esses riscos antes que impactem os resultados do negócio. Além disso, as organizações podem usar a governança de modelos para:

• Melhorar a conformidade regulatória ao alinhar-se às exigências do OCC e de outros órgãos reguladores
• Aumentar a confiança dos stakeholders ao garantir explicabilidade, consistência e confiabilidade dos resultados gerados pelos modelos
• Otimizar a eficiência operacional por meio da automação e da integração dos fluxos de trabalho de governança

À medida que a adoção da IA se acelera, a governança de modelos também se torna a base para a IA ética. Ela oferece uma forma de integrar equidade, responsabilidade e transparência ao design e à implementação de modelos em diversos casos de uso. 

Um framework de governança para modelos traz estrutura a um ecossistema muitas vezes disperso de algoritmos, conjuntos de dados, stakeholders e fluxos de trabalho. Embora os frameworks variem entre setores, eles normalmente incluem os seguintes componentes centrais:

Uma governança sólida começa na origem: o desenvolvimento do modelo. Esse componente inclui definição de objetivos, seleção dos dados de treinamento, validação das fontes de dados e garantia de que os inputs do modelo estejam alinhados com o caso de uso pretendido.Qualidade dos dados é essencial nesse contexto, já que inputs com falhas ou viés podem gerar resultados de modelo com baixa qualidade.

A documentação do modelo deve registrar a justificativa por trás da metodologia escolhida, as premissas adotadas, o conjunto de dados utilizado e os resultados esperados do modelo. Essa documentação atua como um blueprint para garantir transparência e ajuda a simplificar futuras atualizações, auditorias e validação do modelo.

Um inventário de modelos centralizado permite que as organizações acompanhem todos os modelos em uso — junto com seu propósito, responsável, metodologia e status no ciclo de vida.Isso inclui modelos financeiros, algoritmos de pontuação de crédito, modelos de ML usados para detecção de fraudes e até modelos incorporados em planilhas. 

Um inventário de modelos bem mantido também dá suporte a uma melhor avaliação de riscos e facilita a tomada de decisões em tempo real sobre o uso de modelos.

A validação é um aspecto essencial do gerenciamento do risco de modelos. Equipes de validação independentes testam o modelo com base em dados históricos (backtesting), avaliam a sensibilidade a fatores dinâmicos como taxas de juros ou mudanças demográficas e verificam se os resultados estão alinhados com as expectativas do negócio.

Para modelos de ML, a validação também inclui a verificação de viés algorítmico, robustez e overfitting — que ocorre quando um algoritmo se ajusta demais (ou exatamente) aos dados de treinamento e não consegue tirar conclusões precisas a partir de outros dados. O objetivo é garantir que os resultados do modelo permaneçam estáveis e interpretáveis, mesmo quando os inputs mudam. 

A governança não termina quando um modelo é implementado. O monitoramento contínuo do modelo é necessário para detectar degradação de desempenho, desvios nos inputs do modelo ou mudanças na qualidade dos dados. As ferramentas de observabilidade ajudam a acompanhar métricas como precisão e recall, detectando anomalias que podem exigir novo treinamento ou reconfiguração.

Em fluxos de trabalho modernos de operações de aprendizado de máquina (MLOps), as organizações podem automatizar partes do processo de implementação, incorporando verificações de governança diretamente no pipeline de integração contínua e entrega contínua (CI/CD). Isso permite iterar mais rapidamente sem comprometer a supervisão.

A governança de modelos é um esforço coletivo em que cientistas de dados, responsáveis por riscos, líderes de negócio, equipes de conformidade e auditores são todos atores fundamentais. Definir responsabilidades claras e fluxos de trabalho garante responsabilidade em todas as etapas do ciclo de vida, do desenvolvimento à validação e até a desativação do modelo.

Uma governança eficaz também envolve comunicação. Seja por meio de dashboards internos, relatórios de governança ou até mesmo um podcast dedicado para equipes multifuncionais, as informações precisam circular com eficiência entre os stakeholders.

Os princípios da governança de modelos se aplicam a uma variedade de setores, cada um com seus próprios riscos, regulamentações e prioridades:

A governança de modelos é aplicada por meio de regulamentações regionais e globais que responsabilizam as organizações pela forma como gerenciam os modelos ao longo de seu ciclo de vida. Regulamentos notáveis incluem:

A SR 11-7 estabelece o padrão para o gerenciamento de risco de modelos no setor bancário, exigindo que as instituições mantenham um inventário completo de modelos e implementem práticas de governança em toda a empresa. Também determina que os modelos cumpram seu propósito, estejam atualizados e tenham documentação clara o suficiente para entendimento independente.

A Associação Nacional de Comissários de Seguros (NAIC) introduziu regulamentações-modelo relacionadas à IA e à tomada de decisões algorítmicas, especialmente no que se refere à pontuação de crédito, precificação e equidade demográfica.Esses fatores são cada vez mais críticos para a governança da subscrição e do processamento de sinistros no setor de seguros.

A Lei de Inteligência Artificial da União Europeia, também conhecida como Lei de IA da UE ou EU AI Act, é uma legislação que regula o desenvolvimento e/ou uso de IA na UE. A lei adota uma abordagem baseada em risco, aplicando regras diferentes à IA de acordo com o nível de risco envolvido.

Segundo o Regulamento Geral sobre a Proteção de Dados (GDPR), qualquer modelo que processe dados pessoais de cidadãos da UE deve seguir princípios como justiça, transparência e responsabilidade. Isso impacta indiretamente a governança de modelos de ML, especialmente no que se refere à explicabilidade e à qualidade dos dados. 

Tanto a Autoridade Supervisora do Mercado Financeiro da Suíça (FINMA) quanto a Autoridade de Regulação Prudencial do Reino Unido (PRA) emitiram orientações sobre IA e uso de modelos em serviços financeiros — respectivamente, a Diretriz FINMA 08/2024 e a Declaração Supervisória SS1/23 da PRA.

Esses documentos abordam aspectos como governança de modelos, explicabilidade de modelos de ML e documentação abrangente de modelos. Embora compartilhem semelhanças com a SR 11-7, cada um enfatiza aspectos específicos como riscos ligados à IA e resiliência operacional.​

O Framework de Basileia define princípios para agregação eficaz de dados de risco e geração de relatórios de risco (BCB 239), que se relacionam diretamente com práticas de governança de modelos como documentação, explicabilidade e supervisão de risco de modelos. Bancos que operam internacionalmente muitas vezes utilizam o Basileia como padrão de referência, juntamente com a SR 11-7.

Embora o valor da governança de modelos seja evidente, implementá-la em escala apresenta diversos desafios:

• Volume e complexidade dos modelos: à medida que as organizações adotam mais ferramentas de ML e IA, manter um inventário de modelos preciso torna-se difícil — especialmente quando os modelos estão incorporados em planilhas ou plataformas de terceiros.
  
  
• Explicabilidade e confiança: muitos stakeholders, incluindo reguladores e líderes de negócios, exigem modelos explicáveis. Equilibrar desempenho e explicabilidade continua sendo uma tensão constante na governança de modelos de IA. 
  
  
• Integração com MLOps: os frameworks de governança precisam se adaptar a fluxos de trabalho em tempo real e a implementações no estilo DevOps, sem desacelerar a inovação.

À medida que IA e ML se tornam mais integrados aos fluxos de trabalho, novas forças estão moldando como as organizações abordam a governança de modelos. Embora práticas fundamentais como validação, documentação de modelos e monitoramento permaneçam essenciais, várias tendências emergentes estão começando a redefinir as expectativas.

Essas tendências refletem uma mudança mais ampla: a evolução contínua da governança de modelos, de uma abordagem defensiva para uma capacidade estratégica. Ao adotar práticas estruturadas de governança interfuncional, as organizações podem fortalecer a confiança em seus modelos de aprendizado de máquina enquanto aceleram a inovação.