Veja como a IA explicável beneficia a IA de produção

O que é IA explicável?

A inteligência artificial explicável (XAI) é um conjunto de processos e métodos que permite aos usuários humanos compreender e confiar nos resultados e na saída criados por algoritmos de machine learning. A IA explicável é usada para descrever um modelo de IA, seu impacto esperado e possíveis vieses. Ela ajuda a caracterizar a precisão, a imparcialidade, a transparência e os resultados na tomada de decisão desenvolvida com IA. A IA explicável é crucial para uma organização em gerar confiança e convicção ao colocar modelos de IA em produção. A explicabilidade da AI também ajuda uma organização a adotar uma abordagem responsável quanto ao desenvolvimento de IA.

Os humanos são desafiados a compreender e a retraçar como o algoritmo chegou a um resultado à medida que a IA se torna mais avançada. Todo o processo de cálculo é transformado no que é comumente referido como uma "caixa-preta" que é impossível de interpretar. Estes modelos de caixa-preta são criados diretamente a partir dos dados. Sequer os engenheiros ou os cientistas de dados que criam o algoritmo podem entender ou explicar o que exatamente está acontecendo dentro deles ou de que maneira o algoritmo de IA chegou a um resultado específico.

Existem muitas vantagens em entender como um sistema ativado por IA levou a um resultado específico. A explicabilidade pode ajudar os desenvolvedores a garantir que o sistema esteja funcionando como esperado, pode ser necessário atender aos padrões regulamentares ou pode ser importante permitir que aqueles afetados por uma decisão contestem ou mudem tal resultado.¹

Profissional trabalhando em notebook

Por que a IA explicável importa?

Ela é crucial para que uma organização possa ter uma compreensão abrangente dos processos de tomada de decisão da IA com o monitoramento de modelos e a responsabilidade da IA e de não confiar neles cegamente. A IA explicável pode ajudar os humanos a entender e explicar algoritmos de machine learning (ML), deep learning e redes neurais.

Os modelos de ML são muitas vezes considerados como caixas-pretas que são impossíveis de interpretar.² As redes neurais usadas no deep learning são algumas das mais difíceis para um humano entender. Viés, muitas vezes com base em raça, gênero, idade ou localização, tem sido um risco de longa data ao treinar modelos de IA. Além disso, o desempenho do modelo de IA pode variar ou degradar porque os dados de produção diferem daqueles de treinamento. Isso torna crucial para uma empresa monitorar e gerenciar os modelos de maneira contínua para promover a explicabilidade de IA ao mesmo tempo que mensura o impacto de negócios do uso de tais algoritmos. A IA explicável também ajuda a estimular a confiança do usuário final, a auditabilidade do modelo e o uso produtivo da IA. Ela também minimiza os riscos de conformidade, jurídicos, de segurança e de reputação da IA de produção.

A IA explicável é um dos requisitos-chave para implementar a IA responsável, uma metodologia para a implementação em grande escala de métodos de IA em organizações reais com imparcialidade, explicabilidade e responsabilidade do modelo.³ Para ajudar a adotar a IA de maneira responsável, é necessário que as organizações integrem princípios éticos em aplicativos e processos de IA ao realizar sistemas de IA com base na confiança e na transparência.

Pessoa olhando para pessoas em reunião de vídeo em um notebook

Avaliação contínua do modelo

Com a IA explicável, uma empresa pode solucionar problemas e melhorar o desempenho do modelo ao mesmo tempo que ajuda as partes interessadas a entender os comportamentos dos modelos de IA. Investigar comportamentos do modelo por meio de rastrear os insights do modelo a respeito do status, imparcialidade, qualidade e variação da implementação é essencial para ajustar a escala da IA. Um empresa é capacitada a comparar previsões do modelo, quantificar o risco do modelo e otimizar o desempenho do modelo por meio da avaliação contínua do modelo. Exibir valores positivos e negativos sobre os comportamentos do modelo com dados utilizados para gerar uma explicação acelera as avaliações do modelo. Uma plataforma de dados e AI pode gerar atribuições de recursos para predições de modelo e capacitar equipes para investigar visualmente o comportamento do modelo com gráficos interativos e documentos exportáveis.

Profissional trabalhando em notebook

Valor da IA explicável

De um estudo da Forrester abrangendo a IA explicável e o monitoramento de modelos no IBM Cloud Pak for Data

Vantagens da IA explicável

Operacionalize a IA com confiança e convicção

Gere confiança na IA de produção. Coloque seus modelos de IA rapidamente em produção. Garanta a interpretabilidade e a explicabilidade dos modelos de IA. Simplifique o processo de avaliação de modelos ao mesmo tempo que aumenta a transparência e a rastreabilidade dos modelos.

Acelere o tempo aos resultados de IA

Otimize resultados de negócios ao monitorar e gerenciar modelos sistematicamente. Avalie e melhore continuamente o desempenho do modelo. Ajuste esforços de desenvolvimento de modelos com base em avaliação contínua.

Minimize o risco e o custo da governança de modelo

Mantenha seus modelos de IA explicáveis e transparentes. Gerencie requisitos regulamentares, de conformidade, de risco e outros. Minimize gastos adicionais com inspeção manual e erros caros. Minimize o risco de viés não intencional.

A abordagem da IBM para a IA explicável

Por mais de 100 anos, a IBM tem se esforçado continuamente pela inovação capaz de trazer benefícios para todos e não apenas alguns. Esta filosofia também aplica-se à IA: Pretendemos criar e oferecer tecnologia confiável que pode aumentar, não substituir, a tomada de decisão humana.

Enquanto a IA detém a promessa de entregar insights e padrões valiosos em toda uma infinidade de aplicativos, a ampla adoção de sistemas de IA vai depender altamente da capacidade das pessoas de confiar no resultado da IA. A confiança humana na tecnologia fundamenta-se na nossa compreensão de como ela funciona e na nossa avaliação de sua segurança e confiabilidade. Isso torna a IA explicável crucial. A abordagem da IBM para a IA explicável é tornar a IA confiável e imparcial, para torná-la apta a ser responsabilizada e ajudar a garantir que ela não causará nenhum dano.

IBM Research está desenvolvendo, no centro da nossa inovação, diferentes abordagens de como atingir imparcialidade, robustez, explicabilidade, responsabilidade e alinhamento de valor e como integrar estes ao longo de todo o ciclo de vida de um aplicativo de IA. Estruturas e conjuntos de ferramentas de IA explicável da IBM Research estão integrados à plataforma do IBM Cloud Pak for Data para que as empresas possam aproveitar da nossa mais recente tecnologia de IA de maneira governada, segura e escalável.

Pessoa olhando para o celular enquanto fica em frente a uma janela de escritório

Cinco considerações para a IA explicável

Cinco considerações para a IA explicável

Para conduzir resultados desejáveis com IA explicável, considere o seguinte.

Imparcialidade e remoção de viés: Gerencie e monitore a imparcialidade. Analise a sua implementação quanto à possíveis vieses. 

Mitigação de variação de modelo: Analise o seu modelo e faça recomendações com base no resultado mais lógico. Alerta quando os modelos se desviam dos resultados pretendidos.

Gerenciamento de risco de modelo: Quantifique e mitigue o risco do modelo. Receba um alerta quando um modelo tem um desempenho inadequado. Entenda o que aconteceu quando os desvios persistem.

Automação do ciclo de vida: Desenvolva, execute e gerencie modelos como parte dos serviços integrados de dados e IA. Unifique as ferramentas e os processos em uma plataforma para monitorar modelos e compartilhar resultados. Explique as dependências dos modelos de machine learning.

Pronto para a multicloud: Implemente projetos de IA em todas as clouds híbridas, incluindo clouds públicas, clouds privadas e em implementações locais. Promova confiança e convicção com IA explicável.

Vista de perto de um edifício envidraçado moderno

Melhore a explicabilidade da IA com o IBM Cloud Pak for Data

A plataforma IBM Cloud Pak® for Data fornece serviços de dados e AI em um ambiente unificado para que uma empresa possa avaliar o impacto e os relacionamentos de dados e modelos para melhorar a explicabilidade da IA. Ela também ajuda uma empresa a desenvolver insights de modelo sobre implementações, imparcialidade, qualidade e risco. A solução ajuda a explicar transações de IA, modelos categóricos, modelos de imagem e modelos de texto não estruturados com ferramentas, como explicações contrastivas e LIME (Interpretable Model-Agnostic Explanations). Tornar a IA explicável e transparente ao automatizar o ciclo de vida de AI em uma arquitetura de informações moderna é vital para o sucesso da IA de produção.

Se aprofunde na IA explicável

Como a IA explicável funciona?

Com a IA explicável, assim como o machine learning interpretável, as organizações podem obter acesso à tomada de decisão subjacente da tecnologia de IA e são capacitadas a fazer ajustes. A IA explicável pode melhorar a experiência do usuário de um produto ou um serviço ao ajudar o usuário final a confiar que a IA está tomando boas decisões. Quando os sistemas de IA proporcionam confiança o suficiente na decisão para que você possa confiar nela e como pode o sistema de IA corrigir os erros que surgem?⁴

À medida que a IA se torna mais avançada, os processos de ML ainda precisam ser compreendidos e controlados para garantir que os resultados do modelo de IA sejam precisos. Vamos analisar a diferença entre a IA e a XAI, os métodos e as técnicas usadas para transformar a IA em XAI, bem como a diferença entre interpretar e explicar processos de IA.

Comparação entre a IA e a XAI

Qual é exatamente a diferença entre a IA "comum" e a IA explicável? A XAI implementa técnicas e métodos específicos para garantir que cada decisão tomada durante o processo de ML possa ser rastreada e explicada. A IA, por outro lado, muitas vezes chega a um resultado usando um algoritmo de ML, mas os arquitetos dos sistemas de IA não compreendem por completo como o algoritmo chegou a tal resultado. Isso torna difícil verificar a precisão e resulta na perda de controle, responsabilidade e auditabilidade.

Técnicas da IA explicável

A configuração das técnicas da XAI é composta por três métodos principais. A precisão e a rastreabilidade de previsão abordam os requisitos de tecnologia ao mesmo tempo que a compreensão da decisão aborda as necessidades humanas. A IA explicável, especialmente o machine learning explicável, será essencial se os futuros combatentes irão compreender, confiar adequadamente e gerenciar de maneira eficaz uma geração emergente de artificialmente inteligentes parceiros-máquina.⁵

Precisão de predição
A precisão é um componente-chave de quão bem-sucedido o uso de IA é na operação cotidiana. Ao executar simulações e comparar o resultado da XAI aos resultados no conjunto de dados de treinamento, a precisão da predição pode ser determinada. A técnica mais popular usada para tal fim é o Local Interpretable Model-Agnostic Explanations (LIME), que explica a previsão de classificadores pelo algoritmo de ML.

Rastreabilidade
A rastreabilidade é outra técnica fundamental para realizar a XAI. Isso é alcançado, por exemplo, limitando a forma como as decisões podem ser tomadas e definindo um escopo mais restrito para as regras e recursos de ML. Um exemplo de uma técnica de rastreabilidade da XAI é a DeepLIFT (Deep Learning Important Features), que compara a ativação de cada neurônio a seu neurônio de referência e mostra um link rastreável entre cada neurônio ativado, mostrando até mesmo as dependências entre eles.

Entendimento de decisão
Este é o fator humano. Muitas pessoas têm uma desconfiança sobre IA, porém para trabalhar com ela de forma eficiente, é necessário que elas confiem nela. Isso é realizado educando a equipe para trabalhar com a IA, que eles entendam como e por que a IA toma decisões.

Explicabilidade versus interpretabilidade em IA

A interpretabilidade é o grau em que um observador pode entender a causa de uma decisão. É a taxa de sucesso que os humanos podem prever para o resultado de um resultado de IA, ao mesmo tempo que a explicabilidade vai um passo além e analisa como a IA chegou ao resultado.

Como a IA explicável se relaciona com a IA responsável?

A IA explicável e a IA responsável têm objetivos semelhantes, porém abordagens diferentes. Aqui estão as principais diferenças entre a IA explicável e a responsável:

  • A IA explicável analisa os resultados da IA após os resultados serem computados.
  • A IA responsável analisa a IA durante as etapas de planejamento para tornar o algoritmo de IA responsável antes de os resultados serem computados.
  • A IA explicável e a responsável podem trabalhar em conjunto para fazer uma IA melhor.

Para saber mais sobre a AI explicável, inscreva-se para receber um IBMid e comece a avaliação do IBM Cloud Pak for Data hoje.

Como implementar a IA explicável

Use esses recursos para saber mais sobre como implementar a IA explicável.

Seminário on-line: Como gerenciar e monitorar modelos Saiba o que é possível fazer quando os seus modelos não funcionam.
Assista ao webinar (link externo à IBM) →

Caminho de aprendizado: Gerencie a IA com confiança Saiba como controlar e mensurar resultados de IA em todo o seu ciclo de vida, ao mesmo tempo que se adapta e governa a IA à mudança das condições de negócios.
Veja o tutorial →

Laboratório prático: Monitore modelos de machine learningConheça os processos passo a passo para avaliar modelos quanto à imparcialidade, à precisão e à explicabilidade. 
Veja o laboratório →

Casos de uso de IA explicável

Assistência médica

Vista de perto de 3 cirurgiões operando

Acelere diagnósticos, análise de imagens, otimização de recursos e diagnósticos médicos. Melhore a transparência e a rastreabilidade na tomada de decisão para assistência ao paciente. Simplifique o processo de aprovação farmacêutica com a IA explicável.

Serviços Financeiros

Pessoa segurando um cartão de crédito enquanto trabalha em um notebook

Melhore as experiências de cliente com um processo transparente de aprovação de crédito e de empréstimo. Acelere as avaliações de risco de crédito, de gerenciamento de riquezas e de risco de crime financeiro. Acelere a resolução de potenciais reclamações e problemas. Aumente a confiança na precificação, nas recomendações de produtos e nos serviços de investimento.

Justiça criminal

Policial em frente a uma área isolada com fita de cena de crime

Otimize processos para predição e avaliação de riscos. Acelere resoluções usando a IA explicável na análise de DNA, análise da população carcerária e previsão de crime. Detecte possíveis vieses ao treinar dados e algoritmos.

Notas de rodapé

¹ "Explainable AI," The Royal Society, 28 de novembro de 2019. (link externo à IBM)
² "Explainable Artificial Intelligence," Jaime Zornoza, 15 de abril de 2020. (link externo à IBM)
³ "Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI," ScienceDirect, junho de 2020. (link externo à IBM)
⁴ "Understanding Explainable AI," Ron Schmelzer, colaborador da Forbes, 23 de julho de 2019. (link externo à IBM)
⁵ "Explainable Artificial Intelligence (XAI)," Dr. Matt Turek, The U.S. Defense Advanced Research Projects Agency (DARPA). (link externo à IBM)