Explicação das transações do modelo
As explicações para as transações do modelo o ajudam a entender como as previsões são determinadas.
É possível analisar explicações locais para entender o impacto de fatores para transações específicas ou analisar explicações globais para entender os fatores gerais que impactam os resultados do modelo O tipo de modelo configurado determina o tipo de explicação que pode ser usado para analisar suas transações.
As explicações são compatíveis com modelos de texto estruturados, de imagem e não estruturados. Modelos estruturados podem utilizar problemas de classificação binária, multiclasse ou regressão. Os modelos de texto de imagem ou não estruturados podem usar problemas de classificação binários ou multiclasse
Ao configurar a explicabilidade, você pode usar as explicações de diagnóstico de modelo interpretável local (LIME), explicações contrastivas ou explicações aditivas de Shapley (SHAP) para analisar as transações.
LIME identifica quais recursos são mais importantes para um ponto de dados específico analisando até 5000 outros pontos de dados próximos. Em uma situação ideal, as características com alta importância no LIME são aquelas que são mais importantes para aquele ponto de dados específico.
Explicações contrastivas calculam quantos valores precisam ser alterados para alterar a predição ou manter a mesma predição. Os fatores que exigem a maior mudança são considerados mais importantes; portanto, as características com maior importância nas explicações contrastivas são aquelas às quais o modelo é menos sensível. Para explicações contrastivas, são exibidas as alterações máximas para o mesmo resultado e as alterações mínimas para um resultado alterado. Essas categorias também são conhecidas como valores positivos pertinentes e valores negativos pertinentes. Esses valores ajudam a explicar o comportamento do modelo nas proximidades do ponto de dados para o qual é gerada uma explicação.
SHAP é uma abordagem teórica de jogo que explica a saída de modelos de aprendizado de máquina. O trabalho relaciona a alocação ótima de crédito com explicações locais, utilizando os valores de Shapley e suas extensões relacionadas. SHAP designa a cada recurso de modelo um valor de importância para uma predição específica, que é chamado de valor Shapley. O valor de Shapley é a contribuição marginal média de um valor de característica em todos os grupos possíveis de características. Os valores de SHAP dos recursos de entrada são as somas da diferença entre a saída do modelo de linha de base ou esperado e a saída do modelo atual para a predição que está sendo explicada A saída do modelo de referência pode ser baseada no resumo dos dados de treinamento ou em qualquer subconjunto de dados para o qual seja necessário gerar explicações. Os valores de Shapley de um conjunto de transações podem ser combinados para obter explicações globais que ofereçam uma visão geral sobre quais características de um modelo são mais importantes.
Só há suporte para explicações globais para assinaturas on-line. Explicações SHAP suportam apenas dados tabulares.
Analisando explicações locais
LIME, SHAP e explicações contrastivas
Você pode usar diferentes métodos para visualizar explicações locais.
Ao revisar os resultados da avaliação, é possível selecionar o link Número de explicações para abrir a janela Selecionar uma explicação .
Na coluna Ação , selecione Explicar para exibir a página de detalhes Transação . Os Detalhes de Transações fornecem diferentes explicações, dependendo de quais métodos de explicação e tipos de modelo você usa
Para modelos categóricos, na guia Explicar , a página Detalhes da Transação fornece uma análise dos recursos que influenciaram o resultado da transação com o método de explicação local usado. Para SHAP, é possível selecionar os dados de segundo plano que você usa no menu Dados de segundo plano para gerar novamente a explicação.
Na guia Inspect (Inspecionar ), são geradas explicações contrastivas avançadas para modelos de classificação binária que você pode usar para experimentar os recursos alterando os valores para ver se o resultado muda.
Também é possível visualizar diferentes explicações para o seguinte tipo de transações:
Explicando transações de imagem
Para modelos de imagem, é possível visualizar quais partes de uma imagem contribuem positiva e negativamente para o resultado previsto. No exemplo a seguir, a imagem no painel positivo mostra as partes que impactaram positivamente na predição. A imagem no painel negativo mostra as partes de imagens que tiveram um impacto negativo sobre o resultado.
Também é possível usar os blocos de notas a seguir para gerar explicações para modelos de imagens:
Explicando transações de texto não estruturadas
Para modelos de texto não estruturados, é possível visualizar quais palavras-chave tiveram um impacto positivo ou negativo na predição do modelo Modelos de texto não estruturado explicam a importância de palavras ou tokens.
A explicação também mostra a posição das palavras-chave identificadas no texto original que foi fornecido como entrada para o modelo. Para alterar o idioma, selecione um idioma diferente da lista. A explicação é repetida utilizando um tokenizador diferente.
Também é possível usar o bloco de notas a seguir para gerar explicações para modelos de texto não estruturados:
Tutorial sobre como gerar uma explicação para um modelo baseado em texto
Explicando transações tabulares
Para modelos de classificação tabular, é possível visualizar os três principais recursos que influenciam positivamente a previsão do modelo e os três principais recursos que influenciam negativamente a previsão.
Para visualizar as explicações locais, você também pode selecionar a guia 
“Explicar uma transação” para abrir a página “Transações recentes ”. A página exibe todas as transações processadas por seu modelo.
Analisando explicações globais
Se você ativar o método de explicação global SHAP ou LIME ao configurar a explicabilidade, poderá exibir detalhes da métrica de estabilidade da explicação global. A métrica de explicação global calcula o grau de consistência na explicação global ao longo do tempo.
Ao analisar explicações globais, você também pode visualizar os seguintes detalhes:
Influência das características
Você pode visualizar os recursos mais importantes em ordem decrescente dos valores médios absolutos de SHAP ou LIME para entender quais recursos têm a maior influência nas previsões do modelo.
Distribuição de recurso
O gráfico de distribuição de recursos mostra como os valores de SHAP ou LIME afetam as previsões dos recursos mais importantes. Você pode usar o gráfico para entender a correlação entre os recursos e as previsões.
Comparação
Você pode ver uma comparação das alterações na influência de recursos entre as explicações globais atuais e as explicações globais de linha de base
