05: A ética da IA e da automação
As decisões tomadas hoje terão ramificações nos próximos anos
Ilustração isométrica de uma pessoa trabalhando em um computador com uma tela projetada na frente do monitor
Uma questão de ética

A IA generativa, uma tecnologia relativamente nova, conseguiu colocar a IA em um momento crítico e histórico. Espera-se que este momento mude toda a natureza dos negócios. Neste clima de investimento rápido e crescente em IA, especialmente dadas as possibilidades apresentadas pela IA generativa e pelos modelos de base, a ética da IA é imprescindível para garantir a longevidade, a conformidade e a validade desses investimentos. Acreditamos que confiança começa com uma cultura de ética dentro da empresa, mas para a IA escalável é necessário uma governança que opere de ponta a ponta. As decisões que as empresas tomam hoje em dia sobre onde e como aplicar a IA terão desdobramentos nos próximos anos.

Ver todos os capítulos
Informações adicionais Relatório

Guia do CEO sobre IA generativa

Fato: embora 79% dos executivos entrevistados tenham afirmado que a ética da IA é importante para a abordagem com relação à IA em toda a empresa, menos de 25% operacionalizaram princípios comuns de ética da IA. Guia do CEO sobre IA generativa
Instituição de proteções

A ética e a governança da IA devem dominar as discussões do conselho administrativo da empresa e de todos os níveis subordinados, porque há uma distinção importante entre o que se pode e o que se deve fazer. Isso se aplica à forma como a IA é utilizada internamente (ponderando o possível impacto sobre os funcionários e externamente), avaliando o impacto sobre os clientes e o mundo em geral.

"Um dos itens mais críticos que a empresa pode fazer antes de começar a implementar a IA é implementar proteções para saber onde e quando essa IA deve ser usada, incluindo o impacto da IA sobre as funções, dos níveis mais baixos aos mais altos". —Melissa Long Dolson

A integridade do modelo de base, a proteção da privacidade dos funcionários e clientes, a manutenção da propriedade intelectual, a gestão de riscos e a conformidade regulatória devem fazer parte dessas proteções. Deve haver também uma visão clara sobre quais proteções e camadas de responsabilidade serão implementadas. Por exemplo, a IBM apresenta três princípios  para a IA responsável:


  • O propósito da IA é ampliar a inteligência humana
  • Dados e insights pertencem ao criador
  • Novas tecnologias, incluindo os sistemas de IA, devem ser transparentes e possíveis de explicar

 



A governança da IA ajuda a criar fluxos de trabalho ↪ com IA responsável
Um dos itens mais críticos que a empresa pode fazer antes de começar a implementar a IA é implementar proteções para saber onde e quando essa IA deve ser usada. Melissa Long Dolson
Novas funções e conversas

Considere também novas funções para controlar com eficácia a automação da IA e da TI. Por exemplo, você deveria contratar um diretor de ética de IA? Vai precisar também de um profissional de ética de IA ou de um conselho de ética de IA? Ou talvez você precise dos três. Há também novas funções surgindo rapidamente fora desses trabalhos de supervisão, entre eles engenheiros de inteligência artificial e deep learning, desenvolvedores de chatbot IA, designers de IA e auditores de IA, entre outros. Todas essas funções precisarão de diretrizes claras sobre como operar de forma responsável.

Essas conversas complexas não têm respostas simples, mas precisam acontecer agora. Mudanças sísmicas estão surgindo da IA. O Fórum Econômico Mundial prevê que, até 2025, essas novas tecnologias terão acabado com 85 milhões de empregos em todo o mundo. No entanto, o Fórum estima também a criação de 97 milhões de novas funções.1 Essa força de trabalho emergente é a que os humanos, cuja capacidade é ampliada pela IA, precisarão ser orientados por regras baseadas em um senso rigoroso de ética.

Para aprofundar-se sobre este assunto, convidamos você a conhecer a IA responsáveis e ética, que faz parte do guia da IBM para IA generativa.

A ética não pode ser delegada
 
Capítulo 06 →
Como começar a usar a automação da TI com a IBM
Leia o capítulo 06 Ver todos os capítulos
Citações