A inteligência artificial (IA) responsável é um conjunto de princípios que ajudam a orientar o projeto, o desenvolvimento, a implementação e o uso da IA, criando confiança em soluções de IA que têm o potencial de capacitar as organizações e seus stakeholders. A IA responsável envolve a consideração de um impacto social mais amplo dos sistemas de IA e as medidas necessárias para alinhar essas tecnologias com os valores dos stakeholders, padrões legais e princípios éticos. A IA responsável tem como objetivo incorporar esses princípios éticos nas aplicações de IA e nos fluxos de trabalho para mitigar os riscos e resultados negativos associados ao uso da IA, ao mesmo tempo em que maximiza os resultados positivos.
Este artigo tem como objetivo fornecer uma visão geral da IA responsável. Para saber mais sobre o ponto de vista específico da IBM, consulte nossa página de ética em IA.
A adoção generalizada do aprendizado de máquina na década de 2010, impulsionada por avanços em big data e poder de computação, trouxe novos desafios éticos, como viés, transparência e uso de dados pessoais. A ética da IA surgiu como uma disciplina distinta durante esse período, quando empresas de tecnologia e instituições de pesquisa em IA buscaram gerenciar proativamente seus esforços em IA de forma responsável.
As ferramentas de IA generativa e os agentes de IA que estão sendo rapidamente adotados pelas empresas exigem novos frameworks para uso ético. Organizações com visão de futuro que reinventam seus princípios de IA responsável para um mundo agêntico podem ajudar os adotantes a aproveitar todo o potencial dessas ferramentas e, ao mesmo tempo, minimizar os resultados indesejados.
A IA deve ser confiável e, para que os stakeholders confiem na IA, ela deve ser transparente. As empresas de tecnologia devem ser claras sobre quem treina seus sistemas de IA, quais dados foram usados nesse treinamento e, o mais importante, o que foi incluído nas recomendações do algoritmo. Se quisermos utilizar a IA para auxiliar na tomada de decisões importantes, é fundamental que seja possível explicá-la.
Receba insights selecionados sobre as notícias mais importantes (e intrigantes) sobre IA. Inscreva-se no nosso boletim informativo semanal Think. Consulte a Declaração de privacidade da IBM.
A IA responsável é uma prática sociotécnica que reúne pessoas, processos, ferramentas e governança. Exige que as organizações considerem todo o ciclo de vida dos sistemas de IA, desde a coleta de dados e desenvolvimento de modelos até implementação, monitoramento e melhoria. Também requer atenção aos efeitos mais amplos da IA sobre os indivíduos, as organizações, a sociedade e o meio ambiente.
O Responsible Technology & Governance Framework da IBM reúne princípios, propriedades, dimensões de impacto e práticas de governança em uma única abordagem para construir e implementar tecnologia responsável. A IA responsável continua sendo fundamental para essa abordagem, enquanto o framework estende o mesmo modelo de governança para tecnologias emergentes, como sistemas agênticos, computação quântica e futuros domínios.
O framework está organizado em torno de quatro componentes:
Princípios de confiança
Compromissos fundamentais da IBM para o desenvolvimento e implementação responsáveis da tecnologia:
A tecnologia deve ampliar os recursos humanos.
A tecnologia deve se basear em uma governança responsável de dados.
A tecnologia deve ser aberta e transparente.
Pilares da IA confiável
As qualidades que os sistemas de IA devem demonstrar para permitir a confiança:
Transparência
Equidade e alinhamento com os valores humanos
Robustez
Privacidade
Dimensões do impacto
Os resultados mais amplos que a IBM considera ao avaliar a tecnologia:
Agência humana e confiança
Bem-estar social
Sustentabilidade ambiental
Governança
Os programas, ferramentas, educação, políticas, parcerias e avaliações que ligam os compromissos com a tecnologia responsável à prática quotidiana.
Juntos, esses componentes permitem que a responsabilidade seja projetada por design. À medida que os sistemas de IA se tornam mais capazes e incorporados nas operações de negócios, as organizações devem ser capazes de demonstrar que a confiança é operacionalizada por meio da governança integrada em seus sistemas e processos.
A implementação de práticas de IA responsável no nível corporativo envolve uma abordagem holística de ponta a ponta, que lida com vários estágios de desenvolvimento e implementação da IA.
Desenvolva um conjunto de princípios de IA responsável que estejam alinhados com os valores e objetivos da inovação em IA na empresa. Considere os aspectos-chave descritos acima nos “Pilares de Confiança”. Tais princípios podem ser desenvolvidos e mantidos por uma equipe dedicada de ética em IA multifuncional, com representação de diversos departamentos, incluindo especialistas em IA, especialistas em ética, especialistas jurídicos e líderes empresariais.
Realize programas de treinamento para educar funcionários, stakeholders e tomadores de decisões sobre práticas de IA responsável. Isso inclui entender possíveis vieses, considerações éticas e a importância de incorporar uma IA responsável nas operações de negócios.
Incorpore práticas de IA responsável em todo o pipeline de desenvolvimento de IA, desde a coleta de dados e treinamento de modelos até a implementação e monitoramento contínuo. Empregue técnicas para abordar e mitigar vieses em sistemas de IA. Avalie regularmente os modelos quanto à imparcialidade usando métricas estabelecidas, especialmente em relação a atributos confidenciais, como raça, gênero ou status socioeconômico. Priorize a transparência tornando os sistemas de IA explicáveis. Forneça documentação clara sobre fontes de dados, algoritmos e processos de decisão. Usuários e stakeholders devem ser capazes de entender como os sistemas de IA tomam decisões.
Estabeleça práticas e salvaguardas de governança de IA responsável para proteger a privacidade do usuário final e os dados confidenciais. Comunique claramente as políticas de uso de dados, obtenha consentimento informado e cumpra os regulamentos de proteção de dados.
Integre mecanismos de supervisão humana aos processos críticos de tomada de decisões. Defina linhas claras de responsabilidade para garantir que as partes responsáveis sejam identificadas e possam ser responsabilizadas pelos resultados dos sistemas de IA. Estabeleça o monitoramento contínuo dos sistemas de IA para identificar e tratar de preocupações éticas, vieses ou problemas que possam surgir ao longo do tempo. Audite regularmente os modelos de IA para avaliar a conformidade com as diretrizes éticas.
Promova a colaboração com organizações externas, instituições de pesquisa e grupos de código aberto que trabalham na segurança da IA. Mantenha-se informado sobre os mais recentes desenvolvimentos em práticas e iniciativas de IA responsável e contribua com os esforços de todo o setor.