Como deveria ser um framework de governança ética para IA?

Enquanto a corrida para alcançar a IA generativa se intensifica, o debate ético em torno da tecnologia também continua quente. E os riscos continuam aumentando.

Segundo a Gartner, “as organizações são responsáveis por garantir que os projetos de IA que desenvolvem, implementam ou utilizam não tenham consequências éticas negativas”. Enquanto isso, 79% dos executivos afirmam que a ética da IA é importante para a abordagem de IA em toda a empresa, mas menos de 25% operacionalizaram os princípios de governança ética.

A IA também está no topo da lista de preocupações do governo dos Estados Unidos. No final de fevereiro, o presidente da Câmara, Mike Johnson, e o líder democrata, Hakeem Jeffries, anunciaram a criação de uma Força-Tarefa bipartidária sobre IA para explorar como o congresso pode garantir que os Estados Unidos continuem liderando a inovação global em IA. A força-tarefa também considerará as proteções necessárias para proteger a nação contra ameaças atuais e emergentes e para garantir o desenvolvimento de tecnologia segura e confiável.

Claramente, uma boa governança é essencial para lidar com os riscos associados à IA.

À medida que as empresas adotam cada vez mais a IA em suas operações diárias, o uso ético da tecnologia se tornou um assunto importante. O problema é que as organizações muitas vezes dependem de amplos princípios corporativos, combinados com avaliações legais ou independentes, para avaliar os riscos éticos de casos de uso de IA.

No entanto, de acordo com o estudo de caso do Gartner, os princípios éticos de IA podem ser muito amplos ou abstratos. Em seguida, os líderes do projeto lutam para decidir se os casos de uso individuais de IA são éticos ou não. Enquanto isso, as equipes jurídica e do conselho de avaliações não têm visibilidade sobre como a IA está realmente sendo usada nos negócios. Tudo isso abre portas para o uso antiético (intencional ou não) de IA e para os riscos subsequentes nos negócios e na conformidade.

Dado o impacto potencial, o problema deve primeiro ser abordado em um nível de governança. Em seguida, deve-se seguir a implementação organizacional subsequente com as verificações e balanços apropriados.

Conforme o estudo de caso, os líderes de negócios e de privacidade da IBM desenvolveram um framework de governança para lidar com as preocupações éticas relacionadas aos projetos de IA. Esse framework tem a capacidade de quatro funções principais:

1. Comitê consultivo de políticas: os líderes seniores são responsáveis por determinar os objetivos globais regulatórios e de políticas públicas, bem como os riscos e estratégias de privacidade, ética de dados e tecnologia.

2. Conselho de ética em IA: co-presidido pelo líder global de ética em IA da empresa do IBM Research e pelo diretor de privacidade e confiança, o Conselho compreende uma equipe multifuncional e centralizada que define, mantém e aconselha sobre as políticas, práticas e comunicações de ética em IA da IBM .

3. Pontos focais de ética de IA: cada unidade de negócios tem pontos focais (representantes de unidade de negócios) que atuam como o primeiro ponto de contato para identificar e avaliar proativamente questões éticas em tecnologia, mitigar riscos para casos de uso individuais e encaminhar projetos ao Conselho de Ética de IA para avaliações. Grande parte da governança de IA depende desses indivíduos, como veremos mais adiante.

4. Rede de defesa: uma rede de base de funcionários que promovem uma cultura de tecnologia ética, responsável e de IA confiável. Esses defensores contribuem para fluxos de trabalho abertos e ajudam a expandir as iniciativas de ética em IA em toda a organização.

Se um problema ético de IA for identificado, o ponto focal atribuído à unidade de negócios do caso de uso iniciará uma avaliação. O Ponto Focal executa esse processo na linha de frente, o que possibilita a triagem de casos de baixo risco. Para casos de maior risco, uma avaliação de risco formal é concluída e encaminhada ao Conselho de Ética de IA para avaliação.

Cada caso de uso é avaliado usando diretrizes, incluindo:

• Propriedades associadas e uso pretendido: investiga a natureza, o uso pretendido e o nível de risco de um caso de uso específico. O caso de uso pode causar danos? Quem é o usuário final? Alguns direitos individuais estão sendo violados?

• Conformidade regulatória: determina se os dados serão tratados com segurança e de acordo com as leis de privacidade aplicáveis e os regulamentos do setor.

• Casos de uso revisados anteriormente: fornece insights e próximas etapas de casos de uso avaliadas anteriormente pelo Conselho de Ética de IA. Inclui uma lista de casos de uso de IA que exigem aprovação do conselho.

• Alinhamento com princípios éticos de IA: determina se os casos de uso atendem aos requisitos fundamentais, como alinhamento com princípios de imparcialidade, transparência, explicabilidade, robustez e privacidade.

De acordo com o relatório do Gartner, a implementação de um framework de governança de IA beneficiou a IBM ao:

• Escalada da ética da IA: os pontos focais impulsionam a conformidade e iniciam avaliações em suas respectivas unidades de negócios, o que possibilita uma avaliação da ética da IA em escala.

• Aumento do alinhamento estratégico da visão de ética em IA: os pontos focais se conectam com líderes técnicos, de pensamento e de negócios no espaço de ética em IA em toda a empresa e em todo o mundo.

• Agilizar a conclusão de projetos e propostas de baixo risco: ao priorizar serviços ou projetos de baixo risco, os pontos focais permitem que os recursos sejam alocados aos projetos de avaliação mais rapidamente.

• Aprimoramento da prontidão e da preparação do conselho: ao capacitar pontos focais para orientar a ética da IA no início do processo, o Conselho de Ética da IA pode revisar qualquer caso de uso remanescente de forma mais eficiente.

Quando o ChatGPT foi lançado em junho de 2020, o mundo inteiro estava repleto de expectativas incríveis. Agora, as tendências atuais de IA apontam para expectativas mais realistas sobre a tecnologia. Ferramentas independentes como o ChatGPT podem capturar a imaginação popular, mas a integração eficaz aos serviços estabelecidos gerará mudanças mais profundas em todos os setores.

Sem dúvida, a IA abre as portas para novas ferramentas e técnicas poderosas para realizar o trabalho. No entanto, os riscos associados também são reais. Os recursos elevados de IA multimodal e as barreiras de entrada reduzidas também são um convite ao abuso: deepfakes, problemas de privacidade, perpetuação de vieses e até mesmo evasão de proteções CAPTCHA podem se tornar cada vez mais fáceis para os grupos de ameaças.

Embora os agentes mal-intencionados já estejam usando a IA, o mundo dos negócios legítimos também deve tomar medidas preventivas para manter funcionários, clientes e comunidades seguros.

O ChatGPT diz: "Consequências negativas podem abranger vieses perpetuados por algoritmos de IA, violações de privacidade, exacerbação de desigualdades sociais ou danos não intencionais a indivíduos ou comunidades. Além disso, pode haver implicações para a confiança, danos à reputação ou ramificações legais decorrentes de práticas antiéticas de IA."

Para proteger contra esses tipos de riscos, a governança ética da IA é fundamental.