Explicando as transações de modelo
As explicações para as transações do modelo o ajudam a entender como as previsões são determinadas.
É possível analisar explicações locais para entender o impacto de fatores para transações específicas ou analisar explicações globais para entender os fatores gerais que impactam os resultados do modelo O tipo de modelo configurado determina o tipo de explicação que pode ser usado para analisar suas transações.
As explicações são compatíveis com modelos de texto estruturados, de imagem e não estruturados. Modelos estruturados podem utilizar problemas de classificação binária, multiclasse ou regressão. Os modelos de texto de imagem ou não estruturados podem usar problemas de classificação binários ou multiclasse
Ao configurar a explicabilidade, você pode usar as explicações de diagnóstico de modelo interpretável local (LIME), explicações contrastivas ou explicações aditivas de Shapley (SHAP) para analisar as transações.
LIME identifica quais recursos são mais importantes para um ponto de dados específico analisando até 5000 outros pontos de dados próximos. Em uma configuração ideal, os recursos com alta importância na LIME são os recursos que são mais importantes para esse ponto de dados específico.
Explicações contrastivas calculam quantos valores precisam ser alterados para alterar a predição ou manter a mesma predição. Os fatores que precisam da mudança máxima são considerados mais importantes, por isso, os recursos com a maior importância em explicações contrastivas são os recursos nos quais o modelo é menos sensível. Para explicações contrastivas, são exibidas as alterações máximas para o mesmo resultado e as alterações mínimas para um resultado alterado. Essas categorias também são conhecidas como valores positivos pertinentes e negativos pertinentes. Esses valores ajudam a explicar o comportamento do modelo nas proximidades do ponto de dados para o qual uma explicação é gerada.
SHAP é uma abordagem teórica de jogo que explica a saída de modelos de aprendizado de máquina. Conecta a alocação de crédito ideal com explicações locais usando valores Shapley e suas extensões relacionadas. SHAP designa a cada recurso de modelo um valor de importância para uma predição específica, que é chamado de valor Shapley. O valor Shapley é a contribuição marginal média de um valor de recurso em todos os grupos possíveis de recursos. Os valores de SHAP dos recursos de entrada são as somas da diferença entre a saída do modelo de linha de base ou esperado e a saída do modelo atual para a predição que está sendo explicada A saída do modelo de linha de base pode se basear no resumo dos dados de treinamento ou em qualquer subconjunto de dados para o qual as explicações devem ser geradas. Os valores Shapley de um conjunto de transações podem ser combinados para obter explicações globais que fornecem uma visão geral de quais recursos de um modelo são mais importantes.
Só há suporte para explicações globais para assinaturas on-line. Explicações SHAP suportam apenas dados tabulares.
Analisando explicações locais
LIME, SHAP e explicações contrastivas
Você pode usar diferentes métodos para visualizar explicações locais.
Ao revisar os resultados da avaliação, é possível selecionar o link Número de explicações para abrir a janela Selecionar uma explicação .
Na coluna Ação , selecione Explicar para exibir a página de detalhes Transação . Os Detalhes de Transações fornecem diferentes explicações, dependendo de quais métodos de explicação e tipos de modelo você usa
Para modelos categóricos, na guia Explicar , a página Detalhes da Transação fornece uma análise dos recursos que influenciaram o resultado da transação com o método de explicação local usado. Para SHAP, é possível selecionar os dados de segundo plano que você usa no menu Dados de segundo plano para gerar novamente a explicação.
Na guia Inspect (Inspecionar ), são geradas explicações contrastivas avançadas para modelos de classificação binária que você pode usar para experimentar os recursos alterando os valores para ver se o resultado muda.
Também é possível visualizar diferentes explicações para o seguinte tipo de transações:
Explicando transações de imagem
Para modelos de imagem, é possível visualizar quais partes de uma imagem contribuem positiva e negativamente para o resultado previsto. No exemplo a seguir, a imagem no painel positivo mostra as partes que impactaram positivamente na predição. A imagem no painel negativo mostra as partes de imagens que tiveram um impacto negativo sobre o resultado.
Também é possível usar os blocos de notas a seguir para gerar explicações para modelos de imagens:
Explicando transações de texto não estruturado
Para modelos de texto não estruturados, é possível visualizar quais palavras-chave tiveram um impacto positivo ou negativo na predição do modelo Modelos de texto não estruturado explicam a importância de palavras ou tokens.
A explicação também mostra a posição das palavras-chave identificadas no texto original que foi alimentado como entrada para o modelo. Para mudar o idioma, selecione um idioma diferente na lista. A explicação é executada novamente usando um tokenizer diferente.
Também é possível usar o bloco de notas a seguir para gerar explicações para modelos de texto não estruturados:
Tutorial sobre como gerar uma explicação para um modelo baseado em texto
Explicando transações tabulares
Para modelos de classificação tabular, é possível visualizar os três principais recursos que influenciam positivamente a previsão do modelo e os três principais recursos que influenciam negativamente a previsão.
Para visualizar as explicações locais, você também pode selecionar a guia 
“Explicar uma transação” para abrir a página “Transações recentes ”. A página exibe todas as transações processadas por seu modelo.
Analisando explicações globais
Se você ativar o método de explicação global SHAP ou LIME ao configurar a explicabilidade, poderá exibir detalhes da métrica de estabilidade da explicação global. A métrica de explicação global calcula o grau de consistência na explicação global ao longo do tempo.
Ao analisar explicações globais, você também pode visualizar os seguintes detalhes:
Influência da variável
Você pode visualizar os recursos mais importantes em ordem decrescente dos valores médios absolutos de SHAP ou LIME para entender quais recursos têm a maior influência nas previsões do modelo.
Distribuição de recurso
O gráfico de distribuição de recursos mostra como os valores de SHAP ou LIME afetam as previsões dos recursos mais importantes. Você pode usar o gráfico para entender a correlação entre os recursos e as previsões.
Comparação
Você pode ver uma comparação das alterações na influência de recursos entre as explicações globais atuais e as explicações globais de linha de base
