Construindo confiança com IA

No final de 2022, o escritório atualizou o PIMS, agora potencializado pelas tecnologias IBM OpenPages^® e IBM Knowledge Catalog. A solução, que também inclui sistemas inovadores do portfólio de dados e IA da IBM (descritos abaixo), oferece uma plataforma centralizada e corporativa capaz de capturar, integrar e tornar transparente os metadados relacionados à privacidade dos dados e todo o ciclo de vida da IA, do design à implementação e ao uso diário.

“Com o PIMS, nossos principais objetivos eram padronizar, simplificar e escalar significativamente,” relembra Cox. “E agora adotamos uma abordagem de conformidade contínua que pode ajudar a identificar as lacunas entre o que estamos fazendo hoje e as novas regulamentações à medida que surgem.”

“É fundamental construirmos confiança em todo o ecossistema – nossos funcionários, nossos clientes, governos e legisladores”, acrescenta Montgomery. “É por isso que somos fortes defensores da transparência em termos de nosso envolvimento com a IA, e isso é essencialmente o que o PIMS está ajudando a fornecer.”

"É particularmente importante considerar o viés", observa Cox. "Se você ampliar as falhas humanas em escala por meio da IA, essas falhas serão replicadas em vários sistemas, tornando o impacto na sociedade muito mais significativo."

O IBM OpenPages atua como o coração do PIMS, fornecendo um fluxo de trabalho automatizado e centralizado para as funções anteriormente isoladas de governança, risco e conformidade (GRC). E o IBM Knowledge Catalog oferece o catálogo de dados correspondente para monitorar e selecionar essas informações de GRC junto com ativos de conhecimento relevantes e relações.

Como parte da estratégia de governança de IA da IBM, o PIMS também aproveita o recurso IBM AI Factsheets do IBM Cloud Pak for Data. Esta ferramenta rastreia o ciclo de vida dos modelos de aprendizado de máquina, desde o treinamento até a produção, capturando dados do mundo real que podem ser usados para monitorar riscos e deriva de modelo.

O PIMS registra novas instâncias de IA que são colocadas em produção pela IBM e instâncias de outros sistemas algorítmicos. O PIMS as adiciona a um fluxo de trabalho centralizado e corporativo e as avalia quanto a riscos potenciais. E uma vez que o modelo está ativo, a solução fornece monitoramento contínuo para justiça, qualidade e deriva.

Ao mesmo tempo, à medida que novas regulamentações são aprovadas, o PIMS pode ser usado para importar esses requisitos, atualizando modelos de governança e esforços gerais de avaliação de riscos.

"Há uma infinidade de novas regulamentações de IA sendo propostas a cada ano", observa Cox. "Parece que cada estado dos EUA está no processo de criar suas próprias regras. Haverá uma lei importante vindo da Europa em 2024."

Com esse cenário regulatório de IA em evolução e uma responsabilidade contínua de manter a conformidade em privacidade de dados e governança de dados, a IBM criou um Programa de Governança Integrada (IGP). Esta iniciativa do IGP oferece uma estratégia unificada para tratar da privacidade, sistemas de IA ou algorítmicos, casos de uso de ética tecnológica e solicitações de liberação de dados - tudo no mesmo programa de governança abrangente, que inclui o PIMS.

O IGP ajuda a IBM a gerenciar seu programa de conformidade em escala, e isso incluirá o Ato de Inteligência Artificial da União Europeia - a primeira lei abrangente de IA do mundo - que será adotada em 2024. Com o IGP, a IA pode se alinhar com os requisitos do Ato, que se concentram em risco, confiança, segurança e transparência, e espera-se que impulsionem novos níveis de supervisão humana e conformidade regulatória para a IA tanto dentro da UE quanto globalmente.

Por sua vez, o PIMS e os fluxos de trabalho de governança integrada associados fornecem recursos aumentados de rastreabilidade e relatórios, permitindo que revisões de liberação de dados sejam completadas antes que os dados sejam usados para pré-treinamento, desenvolvimento ou ajuste fino do modelo. A ferramenta também ajuda a manter a documentação precisa e registros de processamento (RoPs), treinamento associado, métricas de teste e previsões atuais - em relação à IA e outros sistemas algorítmicos. Da mesma forma, a equipe da IBM pode usar esse rastro documental para verificar se as correções foram realmente concluídas.

A IBM planeja que as futuras versões do PIMS reflitam o mais recente pacote de produtos watsonx da IBM, incluindo o watsonx.governance. Esta medida visa proporcionar à IBM recursos aprimorados de governança do ciclo de vida do modelo, métricas-chave e relatórios de benchmarking de desempenho mais amplos.

Atualmente, o PIMS está rastreando e gerenciando mais de 5.500 aplicações empresariais e processos de negócios em operações globais da IBM — tudo a partir de uma única plataforma unificada. E os recursos de automação fornecidos pela ferramenta alimentam indicadores de desempenho chave (KPIs) para dashboards de governança, projetados para ajudar a simplificar o gerenciamento, reduzir custos gerais, diminuir cargas de trabalho de remediação e acelerar a velocidade de conformidade.

'Em vez de ter cada ativo, cada indivíduo, cada aplicação, cada processo de negócios monitorado pelo proprietário do processo — e forçá-los a descobrir quais leis precisam ser cumpridas — nós mascaramos essa complexidade,' explica Cox. "Com o PIMS, agora eles só precisam se concentrar nas tarefas de remediação geradas automaticamente. Isso se traduz em milhares de horas de esforço economizadas em toda a IBM."

E à medida que novas regulamentações são implementadas, a IBM pode identificar e acomodar seus requisitos muito mais rapidamente.

"Nosso último grande projeto — GDPR — precisou de cerca de 12 meses de esforço para implementar um modelo de governança e solução de rastreamento", observa Cox. “Com o PIMS, podemos agora lançar um programa de conformidade regulatória para toda a empresa em prazos bastante reduzidos, às vezes apenas seis semanas. As informações já estão lá, o que facilita e acelera a identificação de falhas e a elaboração da campanha. Após o lançamento, o PIMS pode então alimentar automaticamente os dados de rastreamento e remediação relevantes em nossos dashboards."

E essa velocidade é fundamental ao acomodar novas regras. Como Montgomery explica: "Quando uma regulamentação importante é promulgada, muitas vezes é improvável que nos seja dado um tempo de adaptação de dois a três anos. Pode levar mais de quatro a cinco meses. Caso nossos parceiros ou clientes não disponham de PIMS ou algo similar para confiar — ferramentas que proporcionam um gerenciamento de inventário sempre ativo e um entendimento robusto de como os dados são utilizados em toda a empresa — então enfrentarão dificuldades com a conformidade.

Ela continua: "Mas, ao trabalharem com a IBM, podemos oferecer um nível de transparência que ajuda nossos parceiros e clientes a construir a confiança de que, projeto a projeto, eles podem adotar esta tecnologia de IA enquanto gerenciam — monitorando os riscos."

O escritório de privacidade e tecnologia responsável da IBM supervisiona a criação e administração das políticas globais da IBM relacionadas à proteção e confidencialidade dos dados individuais e empresariais. E, trabalhando em conjunto com o conselho de ética em IA da IBM, o escritório orienta a governança e os processos de tomada de decisão relevantes para as políticas e práticas de ética em IA, construindo uma cultura de responsabilidade e confiança em toda a IBM.