A ética é um conjunto de princípios morais que nos ajudam a discernir entre o certo e o errado. A ética da IA é um campo multidisciplinar que estuda como otimizar o impacto benéfico da inteligência artificial (IA) e, ao mesmo tempo, reduzir riscos e resultados adversos.
Exemplos de questões de ética da IA incluem:
A maioria das organizações hoje usa ferramentas de IA e big data de alguma forma para apoiar a automação e viabilizar a tomada de decisão baseada em dados. Embora a intenção geralmente seja melhorar os resultados de negócios, as empresas podem enfrentar consequências imprevistas em suas aplicações de IA, muitas vezes devido a pesquisa e design iniciais deficientes e a conjuntos de dados enviesados. Essas questões ajudam a destacar a importância do uso ético dos sistemas de IA.
As comunidades de pesquisa e de ciência de dados desenvolveram diretrizes para a ética da IA a fim de ajudar a mitigar essas consequências imprevistas e esses resultados injustos. As principais empresas de IA também passaram a se interessar por moldar essas diretrizes, pois sabem que não manter padrões éticos pode prejudicar seus produtos, serviços e usuários. A falta de diligência na ética da IA pode resultar em exposição reputacional, regulatória e jurídica, levando a penalidades onerosas.
A inovação tende a superar a regulamentação governamental, especialmente no caso de tecnologias emergentes como a IA. Com o tempo, é de se esperar que mais governos emitam protocolos de IA exigidos por lei para proteger os direitos humanos e as liberdades civis. Embora exista alguma regulamentação, como a Lei de IA da UE , muitas das diretrizes de ética da IA existentes são frameworks voluntários propostos por cientistas e grupos do setor.
A comunidade acadêmica há muito se baseia nos princípios éticos descritos no "Relatório Belmont"1 de 1979 para orientar a ética na pesquisa experimental e no desenvolvimento de algoritmos.
Esses princípios podem oferecer uma base para a pesquisa, o design e o uso éticos da IA e do aprendizado de máquina. No entanto, como foram concebidos tendo em mente seres humanos em pesquisas, e muito antes dos modernos sistemas de IA generativa e agêntica, eles não são suficientes por si sós. Eles devem ser vistos como fundamentais, mas não como um conjunto abrangente de princípios de IA.
Os princípios do Relatório Belmont são:
Esse princípio reconhece a autonomia das pessoas e estabelece a expectativa de que os pesquisadores protejam indivíduos com autonomia reduzida devido a doença, deficiência mental, idade ou várias outras circunstâncias.
Esse princípio diz respeito, principalmente, ao consentimento. As pessoas devem estar cientes dos possíveis riscos e benefícios de qualquer experimento do qual façam parte. Elas também devem poder escolher participar ou desistir a qualquer momento, antes e durante o experimento.
Os pesquisadores devem proteger a segurança individual e o bem-estar geral. Esse princípio se inspira na ética da saúde, em que os médicos fazem o juramento de "não causar dano". Essa ideia pode ser facilmente aplicada à inteligência artificial, em que os algoritmos podem amplificar vieses relacionados a raça, gênero, inclinações políticas e outras características sensíveis se os criadores e usuários não tiverem cuidado.
Esse princípio trata de questões de equidade e da redução de desigualdades nos resultados. Essencialmente, trata-se de responder à pergunta "Quem deve colher os benefícios da experimentação?". O Relatório Belmont oferece cinco formas de distribuir ônus e benefícios: por partes iguais, necessidade individual, esforço individual, contribuição social e mérito.
Mantenha-se atualizado sobre as tendências mais importantes (e intrigantes) do setor em IA, automação, dados e muito mais com o boletim informativo Think. Consulte a Declaração de privacidade da IBM.
Há várias questões no centro das discussões éticas em torno das tecnologias de IA no mundo real. Essas preocupações refletem os impactos potenciais mais amplos da IA sobre a sociedade. Algumas dessas preocupações incluem:
O lançamento do ChatGPT em 2022 marcou um verdadeiro ponto de inflexão para a inteligência artificial. As capacidades do chatbot da OpenAI, de redigir peças jurídicas a depurar código, expandiram as possibilidades do que a IA pode fazer e de como ela pode ser aplicada em quase todos os setores.
O ChatGPT e ferramentas de IA semelhantes são construídos sobre modelos de base, modelos de IA que podem ser aplicados a uma ampla variedade de tarefas posteriores. Os modelos de base são normalmente modelos generativos de grande escala, compostos por bilhões de parâmetros, que dependem de dados de treinamento não rotulados e usam autossupervisão. Os modelos de base, muitas vezes chamados de grandes modelos de linguagem (LLMs), conseguem aplicar a um novo contexto o que aprenderam em outro, o que os torna altamente adaptáveis.
Ainda assim, há muitos problemas potenciais e preocupações éticas em torno dos modelos de base, como viés, geração de conteúdo falso (incluindo resultados não confiáveis ou enganosos) e falta de explicabilidade. Muitos desses problemas são relevantes para a IA em geral, mas ganham uma nova urgência diante do poder e da disponibilidade dos modelos de base.
Os modelos de base e de IA generativa (IA gen) também apresentam desafios éticos que decorrem de sua escala, de seu design de uso geral e de sua facilidade de reutilização entre domínios. Como esses modelos podem ser implementados em contextos muito distantes de sua intenção original de treinamento, as questões de responsabilidade e responsabilização se tornam muito mais complexas. Muitas vezes não fica claro como as obrigações éticas devem ser compartilhadas entre os provedores de modelos e seus implementadores posteriores. De quem é a responsabilidade de impedir que um modelo, por exemplo, use indevidamente dados sensíveis ou vaze propriedade intelectual: do provedor, do implementador ou do usuário final?
Além disso, os sistemas de IA generativa podem produzir resultados convincentes, porém incorretos ou enganosos, e possibilitar o uso indevido em uma escala sem precedentes. Como resultado, as diretrizes éticas para modelos de base costumam enfatizar a documentação clara, restrições de uso, monitoramento contínuo e supervisão humana ao longo da implementação.
A singularidade tecnológica é um cenário teórico em que o crescimento tecnológico se torna incontrolável e irreversível, culminando em mudanças profundas e imprevisíveis para a civilização humana. Embora esse tema atraia muita atenção do público, muitos pesquisadores não se preocupam com a ideia de a IA superar a inteligência humana em um futuro próximo ou imediato.
A IA forte (uma IA que teria inteligência e autoconsciência iguais às dos humanos) e a superinteligência ainda são hipotéticas. Ainda assim, essas ideias levantam questões interessantes e trazem implicações éticas sobre como usamos a IA em sistemas autônomos, como os carros autônomos.
Por exemplo, não é realista imaginar que um carro sem motorista jamais se envolveria em um acidente. Mas quem é responsável e responde legalmente nessas circunstâncias? Devemos seguir adiante com os veículos autônomos ou limitar a integração dessa tecnologia para criar apenas veículos semiautônomos que promovam a segurança entre os motoristas?
Dilemas éticos desse tipo estão longe de ser resolvidos, mas são esses os debates que as novas e inovadoras tecnologias de IA suscitam.
Embora grande parte da percepção pública sobre a inteligência artificial gire em torno da perda de empregos, essa preocupação pode ser vista sob outra perspectiva. A cada nova tecnologia disruptiva, a demanda do mercado por funções específicas muda.
Por exemplo, quando os computadores pessoais se popularizaram, funções como as de datilógrafo e arquivista desapareceram em grande parte. Ao mesmo tempo, surgiram categorias de trabalho totalmente novas: suporte de TI, desenvolvimento de software e entrada de dados.
A inteligência artificial deve ser vista de maneira semelhante. As iniciativas de IA não vão necessariamente reduzir a força de trabalho. Em vez disso, é provável que a IA desloque a demanda por empregos para outras áreas. Serão necessárias pessoas para gerenciar os sistemas de IA e lidar com os problemas mais complexos que surgirem em seus setores.
O aspecto mais importante do impacto da inteligência artificial no mercado de trabalho é ajudar as pessoas a fazer a transição para novas áreas de demanda do mercado.
Os modelos de IA dependem de dados. Portanto, a privacidade de dados, a proteção de dados e a segurança de dados são preocupações centrais da ética da IA.
Os formuladores de políticas avançaram com importantes instrumentos legislativos de proteção de dados na última década, e as regras que estabeleceram se aplicam, em grande parte, tanto às ferramentas de IA quanto ao software tradicional.
Por exemplo, o Regulamento Geral sobre a Proteção de Dados (GDPR) da UE dá às pessoas na União Europeia e no Espaço Econômico Europeu mais controle sobre seus dados pessoais. Nos Estados Unidos, políticas em nível estadual, como a California Consumer Privacy Act (CCPA), exigem que as empresas informem os consumidores sobre a coleta de seus dados.
Os órgãos governamentais também estão começando a promulgar regras específicas para IA sobre a coleta, o armazenamento e o uso de informações de identificação pessoal (PII). Por exemplo, em 2024, a Califórnia começou a elaborar regras sobre IA e tecnologia de tomada de decisão automatizada. Desde então, essas regras foram finalizadas, e as empresas devem estar em conformidade até 1º de janeiro de 2027.
Embora as empresas geralmente tenham boas intenções em suas iniciativas de IA e automação, vieses incorporados aos conjuntos de dados de treinamento e aos algoritmos de IA podem levar a resultados discriminatórios.
Por exemplo, a Amazon descartou uma das primeiras ferramentas de recrutamento com tecnologia de IA quando se descobriu que ela atribuía sistematicamente pontuações mais baixas a mulheres do que a homens. Por quê? Porque a ferramenta foi treinada com um conjunto de currículos provenientes, em grande parte, de homens.
O viés e a discriminação também não se limitam à área de recursos humanos. Eles podem ser encontrados em diversas aplicações, de softwares de reconhecimento facial a algoritmos de redes sociais. Por exemplo, as ferramentas de reconhecimento facial costumam ter mais dificuldade para identificar pessoas não brancas.
À medida que as empresas tomam mais consciência dos riscos, também passam a participar mais ativamente da discussão.
Por exemplo, a IBM retirou do mercado seus produtos de reconhecimento e análise facial de uso geral em 2020. Na época, o CEO da IBM, Arvind Krishna, escreveu:
"A IBM se opõe firmemente e não tolerará o uso de qualquer tecnologia, inclusive a tecnologia de reconhecimento facial oferecida por outros fornecedores, para vigilância em massa, perfilamento racial, violações de direitos humanos e liberdades básicas ou qualquer finalidade que não seja compatível com nossos valores e princípios de confiança e transparência."
A rápida adoção da IA generativa intensificou as preocupações em torno do conteúdo sintético, como deepfakes, desinformação automatizada e a erosão da confiança nas informações digitais.
À medida que texto, imagens, áudio e vídeo gerados por IA se tornam cada vez mais difíceis de distinguir do conteúdo criado por humanos, a necessidade de transparência agora vai além da explicabilidade dos modelos e passa a abranger a rastreabilidade e a divulgação dos resultados. Em resposta, os formuladores de políticas e os provedores de tecnologia estão avançando com mecanismos de procedência de conteúdo. Esses mecanismos podem incluir elementos como requisitos de rotulagem, aplicação de marcas-d'água e metadados criptográficos para ajudar os usuários a identificar material gerado por IA.
Essas abordagens podem introduzir tensões éticas, incluindo trade-offs entre robustez, privacidade e liberdade de expressão, mas são cada vez mais vistas como essenciais para preservar a confiança nos ecossistemas digitais.
Embora não exista uma única lei global que regule a inteligência artificial, a regulamentação da IA passou rapidamente de diretrizes voluntárias para frameworks jurídicos aplicáveis em várias jurisdições.
A Lei de Inteligência Artificial da União Europeia, que entrou em vigor em 2024, estabelece obrigações vinculantes para determinadas práticas de IA. Essas obrigações incluem proibições de sistemas de risco inaceitável, requisitos de transparência para conteúdo gerado por IA e regras de governança de ciclo de vida para modelos de IA de alto risco e de uso geral.
A proliferação de leis como a Lei de IA da UE sinaliza uma mudança mais ampla na ética da IA, que deixa de se basear em princípios aspiracionais para adotar mecanismos de responsabilização que combinam padrões éticos com conformidade legal.
A inteligência artificial funciona de acordo com a forma como é projetada, desenvolvida, treinada, ajustada e usada. A ética da IA consiste em estabelecer padrões e barreiras de proteção em torno de cada uma dessas fases do ciclo de vida de um sistema de IA.
Organizações, governos e pesquisadores elaboraram frameworks para abordar as atuais preocupações éticas relacionadas à IA e moldar o futuro da IA. Embora as diretrizes possam variar, há certo consenso em torno das atividades centrais da governança de IA.
A ética da IA é cada vez mais entendida não como um conjunto de princípios, mas como um recurso contínuo incorporado a todo o ciclo de vida da IA. Uma governança eficaz requer processos contínuos para avaliar riscos, documentar decisões de design, monitorar os sistemas implementados e responder a comportamentos inesperados ou danos. À medida que os sistemas de IA evoluem ao longo do tempo, a supervisão ética deve evoluir com eles, com o apoio de responsáveis claramente definidos e controles mensuráveis, e não apenas de políticas estáticas.
A governança ajuda a garantir que os sistemas de IA operem de acordo com os princípios, os valores e as práticas de IA responsável da organização.
Os componentes comuns de um programa de governança de IA incluem:
Um conselho de ética da IA é outro mecanismo de governança eficaz. Por exemplo, o Conselho de Tecnologia Responsável da IBM, composto por diversos líderes de toda a empresa, oferece um processo centralizado de governança, revisão e tomada de decisão para as políticas e práticas de ética da IA na IBM.
As organizações podem criar uma IA confiável ao fundamentar seu trabalho em princípios éticos claros, aplicados de forma consistente em produtos, políticas e processos. Esses princípios devem se concentrar em áreas concretas, como a explicabilidade ou a equidade, em torno das quais padrões e práticas específicos podem ser desenvolvidos.
Quando a ética é incorporada à IA desde o início, a tecnologia é capaz de gerar um bem imenso. Áreas como a saúde já estão vivenciando esse bem. A IA está transformando disciplinas como a radiologia, detectando anormalidades em exames de imagem com mais rapidez e precisão do que os métodos tradicionais.
Muitas organizações percebem que estão em melhor posição para colher esses benefícios se tratarem a ética da inteligência artificial como uma disciplina prática que combina valores, governança e responsabilização para apoiar a inovação responsável em escala.
Os padrões éticos não são a principal preocupação dos engenheiros de dados e cientistas de dados no setor privado. No entanto, várias organizações surgiram para promover a conduta ética no campo da inteligência artificial.
Entre essas organizações estão:
Os Princípios de Confiança e Transparência da IBM determinam sua abordagem em relação aos dados e ao desenvolvimento de IA. Esses princípios são:
A IBM também desenvolveu cinco pilares para orientar a adoção responsável de tecnologias de IA.
1. The Belmont Report (PDF, 121 KB), National Commission for the Protection of Human Subjects of Biomedical and Behavioral Research, 18 de abril de 1979.