Governança de inteligência artificial (IA) refere-se aos processos, padrões e proteções que ajudam a garantir que os sistemas de IA sejam seguros e éticos. As frameworks de governança de IA orientam a pesquisa, o desenvolvimento e a aplicação da IA para ajudar a garantir a segurança, a imparcialidade e o respeito aos direitos humanos. Além disso, esses frameworks ajudam as organizações a manter a conformidade regulatória e a proteger dados confidenciais no que diz respeito a tecnologias impulsionadas por IA.
A governança de IA abrange uma ampla gama de práticas, protocolos, proteções, sistemas e ferramentas. Os profissionais de IA na vanguarda da governança estão estabelecendo métodos e políticas para desenvolver e treinar novos modelos de IA, diretrizes operacionais para aplicar esses modelos, além de software e outras tecnologias para criar medidas de segurança em camadas com a devida supervisão regulatória humana.
Reconhecido como um dos melhores produtos de gerenciamento de TI no G2 Best Software Awards 2026
Os modelos de IA, juntamente com os algoritmos de aprendizado de máquina (ML) e deep learning (DL), são, em última análise, treinados com dados humanos. Como resultado, os sistemas de IA são suscetíveis a vieses humanos. Se não forem controlados, esses sistemas influenciados por viés errôneo podem causar sérios danos a indivíduos e a populações inteiras. As políticas de governança de IA visam corrigir esses tipos de erro, que podem ser discriminatórios ou perigosos de outras formas.
Mecanismos eficazes de supervisão da governança de IA lidam com riscos como viés, violação de privacidade e usos indevidos, sem deixar de promover a inovação e construir confiança. Uma abordagem de governança centrada em uma IA ética exige supervisão humana e a contribuição de uma ampla gama de stakeholders, incluindo desenvolvedores, usuários, formuladores de políticas e especialistas em ética. A implementação de uma política de governança de IA moderna e sólida ajuda os sistemas de IA a aderir aos valores morais e éticos da sociedade, ao mesmo tempo em que oferece medidas de mitigação para reduzir diversas vulnerabilidades e diminuir os níveis de risco em uma ampla variedade de aplicações de IA.
À medida que os sistemas de IA continuam a avançar, os processos de governança de IA também evoluem para definir e atender a padrões globais. Embora atender aos requisitos regulatórios seja um grande incentivo comercial por trás dos investimentos em programas de governança, os benefícios dessas soluções vão além da conformidade, reduzindo proativamente o risco de responsabilização ao reforçar a privacidade, a segurança e o acesso aos dados.
A governança de IA oferece uma abordagem estruturada para mitigar os riscos potenciais associados aos sistemas de IA. Por meio de protocolos e práticas como governança de dados e monitoramento contínuo, as políticas de governança de IA podem avaliar e orientar as ferramentas de IA de forma eficaz. Quando implementada corretamente, a governança de IA evita decisões falhas ou prejudiciais em todo o pipeline de IA, desde os conjuntos de dados com os quais os modelos são treinados até a execução de soluções derivadas de IA.
Em termos simples, a governança de IA trata-se de estabelecer os métodos e as metodologias de supervisão necessários para alinhar o comportamento da IA aos padrões éticos e às expectativas da sociedade, protegendo assim os usuários, os provedores e quaisquer terceiros incidentalmente envolvidos contra impactos negativos, adversos ou iníquos não intencionais.
Receba insights selecionados sobre as notícias mais importantes (e intrigantes) sobre IA. Inscreva-se no nosso boletim informativo semanal Think. Consulte a Declaração de privacidade da IBM.
A governança de IA é essencial para alcançar conformidade, confiança e eficiência no desenvolvimento e na aplicação de tecnologias de IA. Com a crescente integração da IA às operações organizacionais e governamentais, seu potencial de impacto negativo tornou-se mais visível. Na verdade, uma pesquisa do IBM Institute for Business Value constatou que 80% dos líderes empresariais veem a explicabilidade, a ética, o viés ou a confiança da IA como um grande obstáculo à adoção da IA generativa. O objetivo é enfrentar esses desafios inspirando confiança e evitando qualquer impacto potencialmente adverso decorrente do uso da tecnologia de IA.
Alguns incidentes de grande repercussão ganharam as manchetes, destacando o perigo de sistemas de IA sem governança. Em um desses incidentes, o Tay Chatbot da Microsoft passou a reproduzir comportamentos tóxicos aprendidos em publicações de redes sociais devido ao treinamento com conjuntos de dados não regulamentados. Embora esse incidente tenha sido perturbador, falhas no software de IA COMPAS levaram a resultados ainda mais prejudiciais. Utilizado na determinação de sentenças penais, o modelo de IA tinha um viés inerente que levou a processos criminais injustos, e só veio ressaltar a importância da governança de IA para construir e manter a confiança pública nos sistemas de IA.
Esses casos mostram que, sem a devida supervisão, a IA pode causar danos sociais e éticos significativos, o que evidencia a importância da governança na gestão dos riscos associados à IA avançada. Ao fornecer diretrizes e frameworks, a governança de IA busca equilibrar a inovação tecnológica com a segurança, de modo que os sistemas de IA não violem a dignidade nem os direitos humanos.
Compreender como os sistemas de IA tomam decisões, para responsabilizá-los por suas conclusões, é parte essencial da governança de IA e ajuda a garantir que esses programas façam escolhas justas e éticas. Desde decidir quais anúncios exibir para quais usuários até determinar a elegibilidade para empréstimos, os sistemas de IA são usados para tomar decisões o tempo todo, das mais triviais às mais críticas. Diante da dependência desses sistemas, a transparência na tomada de decisão e a explicabilidade não poderiam ser mais importantes para garantir o uso responsável dos sistemas de IA e construir confiança.
Além disso, a governança de IA não se limita a ajudar a garantir a conformidade pontual: trata-se também de sustentar padrões éticos ao longo do tempo.Afinal, os modelos de IA podem sofrer desvio, levando a mudanças na qualidade e na confiabilidade das saídas. As tendências atuais em governança de IA estão indo além da mera conformidade legal. Cada vez mais, valorizam-se esforços socialmente responsáveis no desenvolvimento e nas aplicações de IA, esforços que protegem contra danos financeiros, legais e reputacionais, sem deixar de promover o crescimento e o avanço éticos dessa nova e empolgante tecnologia.
Os exemplos de governança de IA incluem uma variedade de políticas, frameworks e práticas que organizações, empresas, órgãos dirigentes e governos estão implementando com o objetivo comum de promover o uso responsável das tecnologias de IA. Eles demonstram como a governança de IA acontece em diferentes contextos:
O Regulamento Geral de Proteção de Dados (GDPR): O GDPR é um exemplo de governança de IA, particularmente no contexto da proteção e privacidade de dados pessoais. Embora o GDPR não seja focado exclusivamente em IA, muitas de suas disposições são altamente relevantes para os sistemas de IA, especialmente aqueles que processam os dados pessoais de indivíduos dentro da União Europeia.
A Organização para a Cooperação e Desenvolvimento Econômico (OCDE): Os Princípios de IA da OCDE, adotados por mais de 40 países, enfatizam a gestão responsável de uma IA confiável, incluindo diretrizes que promovem a transparência, a equidade e a responsabilização nos sistemas de IA.
Conselhos de ética em IA: Muitas empresas estabeleceram conselhos ou comitês de ética em IA dedicados a supervisionar as iniciativas de IA, garantindo que elas estejam alinhadas com padrões éticos e valores sociais. Esses conselhos costumam incluir equipes multifuncionais com formação nas áreas jurídica, técnica e de políticas. Desde 2019, o próprio conselho de ética em IA da IBM tem revisado novos produtos e serviços de IA para garantir que estejam alinhados com os princípios de IA responsável da IBM.
De acordo com um relatório do IBM Institute for Business Value, 80% das organizações têm, dentro de sua função de risco, uma área específica dedicada aos riscos associados ao uso de IA ou de IA generativa.
No nível corporativo, o CEO e a alta liderança são, em última instância, responsáveis por implementar a governança de IA ao longo de todo o ciclo de vida da IA, normalmente delegando certas tarefas práticas de políticas a stakeholders relevantes, como o CTO e seus subordinados. Como a governança de IA acarreta amplas implicações regulatórias, os departamentos jurídicos e o diretor jurídico são stakeholders essenciais na avaliação e mitigação de riscos, muitas vezes encarregados de garantir que as aplicações de IA cumpram as leis e os requisitos de conformidade relevantes.
Dependendo do porte da organização, uma equipe de auditoria dedicada pode ser responsável por validar a integridade dos dados dos sistemas de IA utilizados, confirmando que eles operam conforme o previsto, sem introduzir erros ou vieses. Embora operações menores possam não ter equipes de auditoria dedicadas, à medida que a tecnologia de IA atrai cada vez mais recursos, equipes e funções desse tipo vêm se tornando prioridade.
Nos casos em que a governança de IA pode afetar questões financeiras, o CFO e seus subordinados são, na maioria das vezes, responsáveis por gerenciar os custos associados às iniciativas de IA, incluindo quaisquer medidas de governança instituídas para mitigar riscos financeiros à própria empresa e, potencialmente, também aos clientes.
No entanto, no fim das contas, a responsabilidade pela governança de IA não recai sobre nenhum indivíduo ou departamento isolado; trata-se de uma responsabilidade coletiva que exige que cada líder, stakeholder e membro da equipe priorize a responsabilização e ajude a garantir que os sistemas de IA sejam usados de forma responsável e ética em toda a organização.
Ao priorizar uma governança de IA pautada pela responsabilização, investir em treinamento rigoroso da equipe e promover uma cultura transparente de comunicação aberta e colaboração, os gestores e a liderança podem transmitir a todos os funcionários uma mensagem clara: o uso responsável e ético da IA é dever de cada um.
Embora o CEO e a alta liderança sejam responsáveis por definir o tom e a cultura gerais de uma organização, quando o assunto é o monitoramento contínuo que a governança exige em todos os pipelines de IA, os sérios riscos associados à IA demandam que todos os stakeholders, sem exceção, façam a sua parte para garantir a aplicação adequada dessa poderosa tecnologia.
O poder transformador da tecnologia de IA em inúmeros setores e casos de uso distintos ainda está se revelando. A introdução de modelos modernos de IA generativa, como ChatGPT, Claude e Midjourney, capazes de gerar novos conteúdos, incluindo texto, imagens, áudio, vídeo e código, capturou e atiçou a imaginação do público com possibilidades deslumbrantes.
No entanto, embora muitos artistas encontrem inspiração nessas ferramentas criativas, outros tantos as veem como uma ameaça. Baseando-se em obras criativas existentes, as primeiras versões desses modelos foram acusadas de plágio, já que suas saídas pareciam reinterpretar propriedade intelectual protegida por direitos autorais sem a devida atribuição.
Em resposta a essas preocupações, as iterações atuais desses modelos adotaram políticas mais rígidas para a triagem dos dados de treinamento, garantindo que quaisquer obras usadas para treinar os modelos sejam devidamente licenciadas. Os esforços de governança de IA continuam a garantir que essas valiosas ferramentas, usadas para aprimorar o processo criativo, permaneçam éticas e em conformidade.
Indo além da criação de mídia, outros tipos empolgantes de IA, como os modelos de IA agêntica, estão sendo usados para automatizar tarefas tediosas a fim de impulsionar a produtividade e a pesquisa em campos tão distantes entre si quanto o direito e a farmacologia. Da programação e do desenvolvimento à astronomia e à física, a IA está transformando a maneira como os setores operam. No entanto, sua ampla aplicabilidade traz consigo uma necessidade ainda maior de uma governança de IA rigorosa.
Os princípios de uma governança de IA responsável são essenciais para que as organizações protejam a si mesmas e a seus clientes. Orientando as organizações no desenvolvimento e na aplicação éticos das tecnologias de IA, esses princípios incluem:
Embora as regulamentações e as forças de mercado padronizem muitas métricas de governança, cada organização ainda deve determinar a melhor forma de definir as medições relevantes para o seu negócio específico. A avaliação da eficácia da governança de IA pode variar de acordo com a organização; cada uma deve decidir quais parâmetros priorizar. Com diversas considerações como qualidade dos dados, segurança de modelos, análise de custo-valor, monitoramento de viés, responsabilização individual, auditoria contínua e adaptabilidade, todas dependentes do domínio da organização, a governança de IA nunca pode ser uma solução única para todos os casos.
A governança de IA não possui "níveis" universalmente padronizados da mesma forma que, por exemplo, a cibersegurança pode ter níveis definidos de resposta a ameaças. Em vez disso, a governança de IA conta com abordagens estruturadas e frameworks desenvolvidos por diversas entidades, que as organizações podem adotar ou adaptar às suas necessidades específicas.
As organizações podem usar diversos frameworks e diretrizes para desenvolver suas práticas de governança. Alguns dos frameworks mais amplamente utilizados incluem a Estrutura de Gestão de Riscos de IA do NIST, os Princípios da OCDE sobre Inteligência Artificial e as Diretrizes de Ética para uma IA Confiável da Comissão Europeia. Esses frameworks fornecem orientação sobre uma série de fatores, incluindo transparência, responsabilização, equidade, privacidade, segurança e proteção.
Os níveis de governança de IA podem variar conforme o porte de cada organização, a complexidade dos sistemas de IA em uso e o ambiente regulatório em que ela opera.
Embora não seja exaustiva, uma visão geral das abordagens de governança de IA inclui:
A governança informal é a abordagem menos intensiva, baseada nos valores e princípios da organização. Pode haver alguns processos informais, como conselhos de revisão ética ou comitês internos, mas não há estrutura ou framework formal para a governança de IA.
Um passo acima da governança informal, a governança ad hoc descreve a elaboração de políticas e procedimentos específicos para o desenvolvimento e o uso da IA apenas conforme a necessidade. Esse tipo de governança costuma ser desenvolvido em resposta a desafios ou riscos específicos e pode não ser abrangente ou sistemático.
O mais alto nível de governança, a governança formal envolve o desenvolvimento de um framework abrangente de governança de IA. Esse framework reflete os valores e princípios da organização e está alinhado com as leis e regulamentações relevantes. Os frameworks de governança formal normalmente incluem processos de avaliação de riscos, revisão ética e supervisão.
A governança de IA envolve o estabelecimento de estruturas de controle sólidas que contenham políticas, diretrizes e frameworks para enfrentar desafios diversos e específicos. Isso inclui a criação de mecanismos para monitorar e avaliar continuamente os sistemas de IA, garantindo que estejam em conformidade com as normas éticas e regulamentações legais estabelecidas.
O conceito de governança de IA torna-se cada vez mais vital à medida que a automação impulsionada pela IA se dissemina por setores que vão da saúde e das finanças ao transporte e aos serviços públicos. As capacidades de automação da IA podem aprimorar significativamente a eficiência, a tomada de decisões e a inovação, mas também introduzem desafios relacionados à responsabilização, à transparência e a considerações éticas.
As estruturas eficazes de governança de IA são multidisciplinares, envolvendo stakeholders de diversas áreas, incluindo tecnologia, direito, ética e negócios. À medida que os sistemas de IA se tornam mais sofisticados e integrados a aspectos críticos da sociedade, o papel da governança de IA em orientar e moldar a trajetória do desenvolvimento da IA e seu impacto social torna-se cada vez mais crucial.
Para ir além da mera conformidade, as melhores práticas de governança de IA exigem uma abordagem estratégica para desenvolver um sistema mais sólido, capaz de monitorar e gerenciar as aplicações de IA. Para grandes empresas, qualquer solução de governança de IA deve permitir uma ampla supervisão e controle sobre os sistemas de IA.
Um roteiro geral de governança de IA pode incluir:
1. Dashboards visuais: os dashboards fornecem atualizações em tempo real sobre a integridade e o status dos sistemas de IA, oferecendo uma visão geral clara para avaliações rápidas.
2. Métricas de pontuação de integridade: as pontuações gerais de integridade dos modelos de IA agregam múltiplos pontos de dados em uma métrica unificada, intuitiva e fácil de entender, que permite monitorar tudo de relance.
3. Monitoramento automatizado: sistemas de detecção automática de viés, desvio, desempenho e anomalias contribuem para que os modelos funcionem de forma correta e ética, sem a necessidade de monitoramento humano ininterrupto.
4. Alertas de desempenho: notificações automáticas, acionadas quando um modelo se desvia de seus parâmetros de desempenho predefinidos, permitem respostas rápidas a quaisquer problemas que possam surgir.
5. Métricas personalizadas: medições alinhadas aos indicadores-chave de desempenho e aos limiares de uma organização ajudam a garantir que os resultados da IA contribuam para objetivos de negócios específicos.
6. Trilhas de auditoria: logs e trilhas de auditoria de fácil acesso favorecem a responsabilização e facilitam a revisão das decisões e dos comportamentos dos sistemas de IA.
7. Compatibilidade com código aberto: as ferramentas de código aberto promovem a transparência ao expor o código funcional ao escrutínio público. Como resultado, essas ferramentas normalmente também refletem as mitigações mais atuais de riscos de segurança. Manter a compatibilidade com as plataformas de código aberto mais recentes para desenvolvimento de aprendizado de máquina permite que os frameworks de governança de IA se beneficiem da flexibilidade e do suporte da comunidade que o software de código aberto oferece.
8. Integração perfeita: as plataformas de governança de IA mais eficazes são projetadas para se integrar perfeitamente à infraestrutura existente, incluindo bancos de dados e ecossistemas de software, a fim de evitar silos e viabilizar fluxos de trabalho eficientes.
Ao seguir essas práticas, as organizações podem estabelecer um framework sólido de governança de IA que apoie o desenvolvimento, a implementação e a gestão responsáveis da IA, ajudando a manter os sistemas de IA em conformidade e alinhados a padrões éticos e metas organizacionais.
Vários países adotaram práticas de governança e regulamentações de IA para evitar viés e discriminação. É importante ter em mente que a regulamentação está em constante mudança e que as organizações que gerenciam sistemas de IA complexos precisam acompanhar de perto a evolução dos frameworks jurídicos regionais.
A Lei de Inteligência Artificial da União Europeia, também conhecida como Lei de IA da UE ou Lei de IA, é uma lei que rege o desenvolvimento ou o uso de inteligência artificial (IA) na União Europeia (UE). A lei adota uma abordagem regulatória baseada em risco, aplicando regras diferentes à IA conforme o risco que ela representa. Oficialmente em vigor desde agosto de 2024, a lei será plenamente aplicável no prazo de dois anos a contar dessa data, com algumas exceções; por exemplo, as regras para sistemas de IA de alto risco que foram incorporados a produtos regulamentados terão um período de transição estendido (até 2027).
Considerada o primeiro framework regulatório abrangente do mundo para IA, a Lei de IA da UE proíbe totalmente alguns usos de IA e, para outros, impõe requisitos rigorosos de governança, gestão de riscos e transparência.
A lei também cria regras para modelos de inteligência artificial de uso geral (GPAI), como o IBM Granite e o modelo de base de código aberto Llama 3, da Meta. As penalidades podem variar de EUR 7,5 milhões ou 1,5% do faturamento anual global a EUR 35 milhões ou 7% do faturamento anual global, dependendo do tipo de não conformidade.
Em julho de 2025, a Comissão Europeia publicou três ferramentas para apoiar o desenvolvimento e a implementação de modelos GPAI de forma responsável e ética:
Historicamente, o SR-11-7 dos EUA foi o padrão regulatório usado no setor bancário para uma governança de modelos eficaz e sólida.1 A regulamentação exigia que os dirigentes dos bancos aplicassem iniciativas de gestão de risco de modelos em toda a empresa e mantivessem um inventário dos modelos implementados para uso, em desenvolvimento para implementação ou recentemente descontinuados. No entanto, em 17 de abril de 2026, o Federal Reserve emitiu sua Orientação Revisada sobre Gestão de Risco de Modelos , que substitui e revoga o SR-11-7. A orientação interagências revisada sobre gestão de risco de modelos, do Federal Reserve, da OCC e da FDIC, desloca o foco para uma metodologia mais explicitamente baseada em risco e proporcional, com expectativas regulatórias que variam conforme o porte, a complexidade e o perfil de risco de modelo de cada instituição, em vez dos requisitos de governança anteriores, iguais para todas.
Os líderes das instituições afetadas também devem provar que seus próprios modelos estão cumprindo a finalidade de negócio para a qual foram concebidos e que estão atualizados e não sofreram desvio. O desenvolvimento e a validação de modelos devem permitir que qualquer pessoa não familiarizada com um modelo compreenda seu funcionamento, suas limitações e suas principais premissas.
Além dessas legislações específicas do setor bancário, a Casa Branca publicou o documento Um Marco de Política Nacional para a Inteligência Artificial em março de 2026. O framework insta o Congresso a abordar seis "tópicos de política" fundamentais relacionados à governança de IA, incluindo:
A Diretriz sobre Tomada de Decisão Automatizada do Canadá descreve como o governo daquele país usa a IA para orientar decisões em vários departamentos.2 A diretriz usa um sistema de pontuação para avaliar a intervenção humana, a revisão por pares, o monitoramento e o planejamento de contingência necessários para uma ferramenta de IA criada para atender aos cidadãos.
As organizações que criam soluções de IA com pontuação alta devem realizar duas revisões independentes por pares, fornecer aviso público em linguagem simples, desenvolver um mecanismo de segurança para intervenção humana e estabelecer cursos de treinamento recorrentes para o sistema. Como a Diretriz sobre Tomada de Decisão Automatizada do Canadá é uma orientação para o desenvolvimento de IA do próprio país, a regulamentação não afeta diretamente as empresas, diferentemente do que o SR-11-7 faz nos EUA.
Após a publicação de sua diretriz inicial, o governo canadense lançou mais recentemente a Estratégia de IA para o Serviço Público Federal 2025-2027, com considerações adicionais voltadas tanto para o setor público quanto para o privado, a fim de atender melhor os canadenses por meio da adoção responsável da IA.
Em abril de 2021, a Comissão Europeia apresentou seu pacote de IA, incluindo declarações sobre o fomento de uma abordagem europeia para excelência e confiança e uma proposta para um framework legal sobre IA.3
A lei estabelece que, embora a maioria dos sistemas de IA se enquadre na categoria de "risco mínimo", os identificados como de "alto risco" serão obrigados a cumprir requisitos mais rigorosos, e os considerados de "risco inaceitável" serão proibidos. As organizações devem prestar muita atenção a essas regras, sob pena de multa.
Em 2023, a China publicou suas Medidas Provisórias para a Administração de Serviços de Inteligência Artificial Generativa. Segundo a lei, a prestação e o uso de serviços de IA generativa devem "respeitar os direitos e interesses legítimos de terceiros" e não podem "colocar em risco a saúde física e mental de terceiros, nem violar os direitos de imagem, os direitos de reputação, os direitos de honra, os direitos de privacidade e os direitos de informação pessoal de terceiros".
Outros países da região da Ásia-Pacífico publicaram diversos princípios e diretrizes para a governança da IA. O governo federal de Singapura lançou, em 2024, uma proposta de framework de governança para o desenvolvimento de IA generativa e, em 2026, um framework-modelo de governança para IA agêntica. Índia, Japão, Coreia do Sul e Tailândia também estão explorando diretrizes e legislações para a governança de IA.3
Governe modelos de IA generativa de qualquer lugar e implemente na nuvem ou no local com o IBM watsonx.governance.
Veja como a governança de IA pode ajudar a aumentar a confiança de seus funcionários na IA, acelerar a adoção e a inovação e melhorar a confiança dos clientes.
Prepare-se para a Lei de IA da UE e estabeleça uma abordagem de governança de IA responsável com a ajuda da IBM Consulting.
1 “SR 11-7: Guidance on model risk management”. Board of Governors of the Federal Reserve System, Washington, D.C., Division of Banking Supervision and Regulation. 4 de abril de 2011.
2 “Canada’s new federal directive makes ethical AI a national issue”.Digital. 8 de março de 2019.
3 “Asia-Pacific regulations keep pace with rapid evolution of artificial intelligence technology” . Sidley. 16 de agosto de 2024.