Como o IBM Office of Privacy and Responsible Technology está aumentando a confiança nos sistemas de IA
À medida que a inovação em IA acelera, as organizações precisam de governança eficaz de IA para criar e gerenciar modelos de aprendizado de máquina (ML) com responsabilidade. O IBM Office of Privacy and Responsible Technology (OPRT) sabe que esse desafio não é apenas uma questão técnica — é um imperativo de negócios.
Durante anos, a abordagem adotada pela IBM em relação à IA responsável tem sido orientada por seus Princípios de Confiança e Transparência fundamentais, que foram operacionalizados em toda a empresa pelo IBM Responsible Technology Board. Em 2022, o OPRT lançou o Privacy and AI Management System (PIMS) para ajudar a IBM a gerenciar modelos de ML com confiabilidade, facilitar a conformidade com regulamentações de privacidade e IA e promover transparência e responsabilidade.
No entanto, esses componentes críticos trabalhavam em paralelo (não em integração) com o PIMS. Para dar o próximo passo na jornada de governança da IA organizacional e do ciclo de vida da IA, o OPRT precisava integrar e centralizar seus mecanismos. Como os riscos continuam aumentando, a pergunta permanece: as organizações podem priorizar a inovação e a responsabilidade em igual medida?
A única resposta viável é “sim”. E a iniciativa OPRT é um ótimo exemplo de como as empresas podem gerar inovação e, ao mesmo tempo, mitigar os riscos associados.
Com base em seus fundamentos de privacidade estabelecidos, a equipe desenvolveu o Integrated Governance Program (IGP), uma abordagem unificada de responsabilidade e conformidade. “Um programa de governança abrangente pode estabelecer um equilíbrio entre o valor de negócios prometido pela IA e a necessidade de supervisão e gerenciamento de riscos, permitindo a IA responsável em escala”, explica Lee Cox, Vice-presidente de Governança Integrada e Preparação para o Mercado da IBM.
Ao criar uma visão holística de ponta a ponta de todos os dados e modelos criados e usados pela IBM, o IGP dimensiona os fluxos de trabalho de governança em relação à privacidade de dados e IA sem interromper a inovação e os processos de negócios. Isso é obtido integrando tecnologias como o IBM watsonx.governance™, IBM Cloud Pak for Data, IBM Knowledge Catalog e IBM OpenPages.
Liderado por líderes de IA de unidades de negócios, o programa oferece um gerenciamento de riscos mais proativo e ajuda a gerenciar a conformidade com os requisitos regulatórios, considerando as prioridades e interesses exclusivos de vários stakeholders. Steven Eliuk, Vice-presidente e CTO de Dados, IA e Governança da IBM, observa: "Unificamos nossos processos de entrada de dados, agilizando a aquisição, a pesquisa e o desenvolvimento para ajudar a superar os desafios de gerenciamento de dados."
O IGP capacitou a IBM a implementar padrões de dados internos uniformes, permitindo transparência de dados e desenvolvimento de IA confiável, ao mesmo tempo em que permite a inovação em escala.
Cox observa que "A precisão dos dados é apenas a base. O PIMS estabelece as bases, e o IGP eleva a aquisição de dados a novos patamares, orquestrando todo o processo, desde o fornecimento até a entrega. Juntos, eles formam uma dupla dinâmica, capacitando as organizações e liberando novas oportunidades de vantagem competitiva."
O programa ajudou os esforços da IBM para escalar a IA de forma responsável, impulsionando o desenvolvimento de produtos e serviços orientados por IA confiável e, ao mesmo tempo, apoiando a conformidade em todas as suas operações. Na verdade, os modelos de base IBM Granite são reconhecidos por sua transparência, em parte graças à sua adesão aos critérios de risco e governança de dados permitidos pelo IGP.
Por exemplo, durante o período de oito meses desde o início dos testes e implementações de padrões aprimorados de procedência de dados no início de 2024 como parte do IGP, os padrões ajudaram a contribuir para ganhos de eficiência operacional na IBM, incluindo estimados:
- Redução de 58% no tempo de processamento de solicitações de liberação de dados de terceiros.
- Redução de 62% no tempo de processamento de solicitações de liberação de dados proprietários da IBM.
- Mais de 1000 conjuntos de dados e modelos aprovados para reutilização potencial.
O IGP ajuda a facilitar o acesso mais rápido a dados de qualidade, permitindo que os desenvolvedores criem modelos e sistemas mais responsáveis, não apenas para uso interno, mas também para parceiros e clientes que usam as soluções de IA da IBM. E a adaptabilidade do IGP permite que a IBM lide com as tecnologias atuais e se prepare para as tecnologias emergentes, como a IA agêntica. Cox resume: "Criamos um ecossistema de parceiros confiáveis, onde nossos clientes podem aproveitar o mesmo valor e experiência que obtivemos com nossa própria transformação."
O IBM Office of Privacy and Responsible Technology supervisiona as políticas globais de proteção e confidencialidade de dados. Ela colabora com o IBM Responsible Technology Board para orientar os processos de governança e tomada de decisão para políticas e práticas de IA responsável, promovendo uma cultura de responsabilidade e confiança dentro da IBM.
Legal
© Copyright IBM Corporation 2025. IBM, o logotipo da IBM e IBM Cloud Pak, OpenPages e watsonx.governance são marcas comerciais ou marcas registradas da IBM Corp., nos EUA e/ou em outros países. As informações contidas neste documento estavam atualizadas na data de sua publicação inicial e podem ser alteradas pela IBM sem aviso prévio. Nem todas as ofertas estão disponíveis em todos os países onde a IBM opera.
Os exemplos de clientes são ilustrações de como esses clientes utilizaram os produtos da IBM e os resultados que podem ter alcançado. O desempenho, o custo e a economia reais ou outros resultados em outros ambientes operacionais podem variar.