Início Page Title Escritório de privacidade e tecnologia responsável da IBM - Sistema de gerenciamento de privacidade e IA (PIMS) Construindo confiança com IA
O escritório de privacidade e tecnologia responsável da IBM ajuda a simplificar e automatizar tarefas globais de conformidade de privacidade e IA para modelos de aprendizado de máquina gerenciados pela IBM.
Exterior de um prédio de escritórios da IBM, visto da rua

A IA já está sendo usada para informar as decisões sobre se alguém deve conseguir um emprego. Se devem receber crédito ou se qualificar para moradia. Está provocando impactos importantes e transformadores na vida, o que torna crucial que manejemos a IA com responsabilidade.

No entanto, esse gerenciamento responsável é mais fácil de dizer do que fazer. E Christina Montgomery, chefe de privacidade e confiança da IBM, é alguém que se concentra em manter a IA como uma força positiva para a mudança.

"Na IBM, criamos um conselho de ética em IA - do qual sou atualmente copresidente - para enfrentar esse desafio", observa Montgomery. “Articulamos princípios sobre a IA - que ela deve ser transparente e explicável. Que deve preservar a privacidade, ser segura, inclusiva e justa. E, embora o conselho tenha ajudado a incorporar esses princípios em nossa cultura, precisamos de mais do que fé para garantir que estamos nos responsabilizando por eles como empresa.”

Felizmente, a IBM já havia acomodado uma grande entrada de regulamentações como esta anteriormente.

"Nossa conformidade com o GDPR [Regulamento Geral sobre a Proteção de Dados] é provavelmente o caso mais comparável ao que enfrentamos com a IA," complementa Lee Cox, vice-presidente de governança integrada, serviços e pesquisa no escritório de privacidade e tecnologia responsável da IBM. “Antes disso, como lidávamos com os desafios de conformidade relacionados à proteção de dados era mais local - muitos de nossos programas eram regionalizados. Eles funcionavam, mas teríamos que trabalhar bastante para escalá-los para atender novas demandas.”

Ele continua: “Mas com o GDPR e outras regulamentações de privacidade, precisávamos começar a coordenar em um nível global. Precisávamos nos adaptar rapidamente conforme enfrentávamos mais padrões, mais obrigações, mais complexidade, mais sensibilidade sobre ‘O que está acontecendo com meus dados e como estão sendo consumidos?’”

Para lidar com essa supervisão global, a IBM criou um sistema de gerenciamento de privacidade e IA em toda a empresa (PIMS). E, com base em seus sucessos, Montgomery e sua equipe sentiram que a IBM poderia aprimorar essa ferramenta para documentar e rastrear melhor a conformidade em suas operações de IA também.

Assim como com a privacidade, a IA havia testemunhado uma avalanche de novas regulamentações - tanto em nível nacional quanto regional - nos últimos anos. Da mesma forma, várias alianças e associações globais também desenvolveram diretrizes destinadas a manter a IA se comportando de maneira ética e responsável. Mas atender a essa crescente lista de expectativas pode ser difícil de alcançar em escala.

“Somos uma grande empresa,” adiciona Montgomery. “Operamos em mais de 170 países pelo mundo. Consistimos em mais de 400 entidades legais distintas que fazem negócios com 13.000 fornecedores e 150.000 parceiros comerciais. Com esse tamanho, pode ser difícil, do ponto de vista da governança, fazer com que todos os nossos mais de 250.000 funcionários estejam na mesma página.”

Mais de 5.500 aplicações e processos gerenciados com PIMS 6 semanas tempo para lançar um novo programa em toda a empresa
Articulamos princípios sobre a IA—que ela deve ser transparente e explicável. Que deve preservar a privacidade, ser segura, inclusiva e justa. Christina Montgomery Diretor de privacidade e confiança IBM
Automatize. Centralize. Controle.

No final de 2022, o escritório atualizou o PIMS, agora potencializado pelas tecnologias IBM OpenPages® e IBM Knowledge Catalog. A solução, que também inclui sistemas inovadores do portfólio de dados e IA da IBM (descritos abaixo), oferece uma plataforma centralizada e corporativa capaz de capturar, integrar e tornar transparente os metadados relacionados à privacidade dos dados e todo o ciclo de vida da IA, do design à implementação e ao uso diário.

“Com o PIMS, nossos principais objetivos eram padronizar, simplificar e escalar significativamente,” relembra Cox. “E agora adotamos uma abordagem de conformidade contínua que pode ajudar a identificar as lacunas entre o que estamos fazendo hoje e as novas regulamentações à medida que surgem.”

“É fundamental construirmos confiança em todo o ecossistema – nossos funcionários, nossos clientes, governos e legisladores”, acrescenta Montgomery. “É por isso que somos fortes defensores da transparência em termos de nosso envolvimento com a IA, e isso é essencialmente o que o PIMS está ajudando a fornecer.”

"É particularmente importante considerar o viés", observa Cox. "Se você ampliar as falhas humanas em escala por meio da IA, essas falhas serão replicadas em vários sistemas, tornando o impacto na sociedade muito mais significativo."

O IBM OpenPages atua como o coração do PIMS, fornecendo um fluxo de trabalho automatizado e centralizado para as funções anteriormente isoladas de governança, risco e conformidade (GRC). E o IBM Knowledge Catalog oferece o catálogo de dados correspondente para monitorar e selecionar essas informações de GRC junto com ativos de conhecimento relevantes e relações.

Como parte da estratégia de governança de IA da IBM, o PIMS também aproveita o recurso IBM AI Factsheets do IBM Cloud Pak for Data. Esta ferramenta rastreia o ciclo de vida dos modelos de aprendizado de máquina, desde o treinamento até a produção, capturando dados do mundo real que podem ser usados para monitorar riscos e deriva de modelo.

Agora adotamos uma abordagem de conformidade mais contínua que pode ajudar a identificar as lacunas entre o que estamos fazendo hoje e as novas regulamentações à medida que surgem. Lee Cox Vice-presidente de governança integrada, serviços e pesquisa IBM
Em mais detalhes

O PIMS registra novas instâncias de IA que são colocadas em produção pela IBM e instâncias de outros sistemas algorítmicos. O PIMS as adiciona a um fluxo de trabalho centralizado e corporativo e as avalia quanto a riscos potenciais. E uma vez que o modelo está ativo, a solução fornece monitoramento contínuo para justiça, qualidade e deriva.

Ao mesmo tempo, à medida que novas regulamentações são aprovadas, o PIMS pode ser usado para importar esses requisitos, atualizando modelos de governança e esforços gerais de avaliação de riscos.

"Há uma infinidade de novas regulamentações de IA sendo propostas a cada ano", observa Cox. "Parece que cada estado dos EUA está no processo de criar suas próprias regras. Haverá uma lei importante vindo da Europa em 2024."

Com esse cenário regulatório de IA em evolução e uma responsabilidade contínua de manter a conformidade em privacidade de dados e governança de dados, a IBM criou um Programa de Governança Integrada (IGP). Esta iniciativa do IGP oferece uma estratégia unificada para tratar da privacidade, sistemas de IA ou algorítmicos, casos de uso de ética tecnológica e solicitações de liberação de dados - tudo no mesmo programa de governança abrangente, que inclui o PIMS.

O IGP ajuda a IBM a gerenciar seu programa de conformidade em escala, e isso incluirá o Ato de Inteligência Artificial da União Europeia - a primeira lei abrangente de IA do mundo - que será adotada em 2024. Com o IGP, a IA pode se alinhar com os requisitos do Ato, que se concentram em risco, confiança, segurança e transparência, e espera-se que impulsionem novos níveis de supervisão humana e conformidade regulatória para a IA tanto dentro da UE quanto globalmente.

Por sua vez, o PIMS e os fluxos de trabalho de governança integrada associados fornecem recursos aumentados de rastreabilidade e relatórios, permitindo que revisões de liberação de dados sejam completadas antes que os dados sejam usados para pré-treinamento, desenvolvimento ou ajuste fino do modelo. A ferramenta também ajuda a manter a documentação precisa e registros de processamento (RoPs), treinamento associado, métricas de teste e previsões atuais - em relação à IA e outros sistemas algorítmicos. Da mesma forma, a equipe da IBM pode usar esse rastro documental para verificar se as correções foram realmente concluídas.

A IBM planeja que as futuras versões do PIMS reflitam o mais recente pacote de produtos watsonx da IBM, incluindo o watsonx.governance. Esta medida visa proporcionar à IBM recursos aprimorados de governança do ciclo de vida do modelo, métricas-chave e relatórios de benchmarking de desempenho mais amplos.

Podemos oferecer um nível de transparência que pode ajudar nossos parceiros e clientes a construir a confiança de que, projeto a projeto, eles podem adotar esta tecnologia de IA enquanto gerenciam, monitorando os riscos. Christina Montgomery Diretor de privacidade e confiança IBM
Mais conformidade, menos trabalho

Atualmente, o PIMS está rastreando e gerenciando mais de 5.500 aplicações empresariais e processos de negócios em operações globais da IBM — tudo a partir de uma única plataforma unificada. E os recursos de automação fornecidos pela ferramenta alimentam indicadores de desempenho chave (KPIs) para dashboards de governança, projetados para ajudar a simplificar o gerenciamento, reduzir custos gerais, diminuir cargas de trabalho de remediação e acelerar a velocidade de conformidade.

'Em vez de ter cada ativo, cada indivíduo, cada aplicação, cada processo de negócios monitorado pelo proprietário do processo — e forçá-los a descobrir quais leis precisam ser cumpridas — nós mascaramos essa complexidade,' explica Cox. "Com o PIMS, agora eles só precisam se concentrar nas tarefas de remediação geradas automaticamente. Isso se traduz em milhares de horas de esforço economizadas em toda a IBM."

E à medida que novas regulamentações são implementadas, a IBM pode identificar e acomodar seus requisitos muito mais rapidamente.

"Nosso último grande projeto — GDPR — precisou de cerca de 12 meses de esforço para implementar um modelo de governança e solução de rastreamento", observa Cox. “Com o PIMS, podemos agora lançar um programa de conformidade regulatória para toda a empresa em prazos bastante reduzidos, às vezes apenas seis semanas. As informações já estão lá, o que facilita e acelera a identificação de falhas e a elaboração da campanha. Após o lançamento, o PIMS pode então alimentar automaticamente os dados de rastreamento e remediação relevantes em nossos dashboards."

E essa velocidade é fundamental ao acomodar novas regras. Como Montgomery explica: "Quando uma regulamentação importante é promulgada, muitas vezes é improvável que nos seja dado um tempo de adaptação de dois a três anos. Pode levar mais de quatro a cinco meses. Caso nossos parceiros ou clientes não disponham de PIMS ou algo similar para confiar — ferramentas que proporcionam um gerenciamento de inventário sempre ativo e um entendimento robusto de como os dados são utilizados em toda a empresa — então enfrentarão dificuldades com a conformidade.

Ela continua: "Mas, ao trabalharem com a IBM, podemos oferecer um nível de transparência que ajuda nossos parceiros e clientes a construir a confiança de que, projeto a projeto, eles podem adotar esta tecnologia de IA enquanto gerenciam — monitorando os riscos."

Logotipo azul da IBM de 8 barras
Sobre o escritório de privacidade e tecnologia responsável da IBM

O escritório de privacidade e tecnologia responsável da IBM supervisiona a criação e administração das políticas globais da IBM relacionadas à proteção e confidencialidade dos dados individuais e empresariais. E, trabalhando em conjunto com o conselho de ética em IA da IBM, o escritório orienta a governança e os processos de tomada de decisão relevantes para as políticas e práticas de ética em IA, construindo uma cultura de responsabilidade e confiança em toda a IBM.

Faça a IA fazer o que você quer

Gerencie a supervisão, direção e governança de suas atividades de IA com a tecnologia IBM watsonx.governance.

Explore o IBM watsonx.governance Ver mais estudos de caso
Legal

© Copyright IBM Corporation 2024. IBM Corporation, IBM Consulting, New Orchard Road, Armonk, NY 10504

Produzido nos Estados Unidos da América, em março de 2024.

IBM, o logotipo IBM, ibm.com, IBM Cloud Pak, OpenPages, watsonx e watsonx.governance são marcas comerciais ou marcas registradas da International Business Machines Corporation nos Estados Unidos e/ou em outros países. Outros nomes de produtos e serviços podem ser marcas comerciais da IBM ou de outras empresas. Há uma lista atualizada com as marcas comerciais da IBM disponível em ibm.com/legal/copyright-trademark.

Este documento é atual na data de sua publicação inicial, podendo ser alterado pela IBM a qualquer momento. Nem todas as ofertas estão disponíveis em todos os países em que a IBM opera.

Todos os exemplos de clientes citados ou descritos são apresentados como ilustração da maneira como alguns clientes usam produtos IBM e dos resultados que eles alcançam. Os custos e características de desempenho ambientais reais irão variar, dependendo das configurações e condições específicas dos clientes. Geralmente, os resultados esperados não podem ser fornecidos, pois os resultados de cada cliente dependerão inteiramente dos sistemas e serviços adquiridos. AS INFORMAÇÕES CONTIDAS NESTE DOCUMENTO SÃO FORNECIDAS NO ESTADO EM QUE SEM ENCONTRAM, SEM QUALQUER GARANTIA, EXPRESSA OU IMPLÍCITA, INCLUINDO SEM QUAISQUER GARANTIAS DE COMERCIALIZAÇÃO, ADEQUAÇÃO A DETERMINADO FIM E QUALQUER GARANTIA OU CONDIÇÃO DE NÃO INFRAÇÃO.Os produtos IBM têm garantia de acordo com os termos e condições dos contratos sob os quais são fornecidos.

O cliente é responsável por garantir o cumprimento de todas as lei e regulamentações aplicáveis. A IBM não fornece conselho jurídico tampouco representa ou garante que seus serviços ou produtos garantirão que o cliente esteja em conformidade com qualquer lei ou regulamentação.