Configurazione della spiegabilità
È possibile configurare la spiegabilità per individuare quali caratteristiche contribuiscono al risultato previsto dal modello per una transazione e prevedere quali modifiche porterebbero a un risultato diverso.
È possibile configurare la spiegabilità per analizzare i fattori che influenzano i risultati del modello. È possibile scegliere di configurare spiegazioni locali per analizzare l'impatto dei fattori su transazioni specifiche del modello e configurare spiegazioni globali per analizzare i fattori generali che influenzano i risultati del modello.
È possibile configurare la spiegabilità manualmente oppure eseguire un notebook personalizzato per generare un archivio di spiegabilità.
Quando esegui il notebook, puoi caricare l'archivio per specificare i parametri della tua valutazione. Se non si forniscono dati di addestramento, è necessario generare l'archivio per configurare la spiegabilità.
Quando si configura manualmente la spiegabilità, è necessario impostare i parametri per determinare il tipo di spiegazioni che si desidera generare. È inoltre possibile specificare le funzionalità controllabili e attivare il supporto linguistico.
Configura parametri
Per configurare i parametri, è necessario specificare i metodi di calcolo che si desidera utilizzare. È necessario scegliere se utilizzare SHAP (Shapley Additive Explanations) o LIME (Local Interpretable Model-Agnostic Explanations) come metodo di spiegazione locale. Se si utilizza SHAP come metodo di spiegazione locale, è necessario specificare il numero di perturbazioni che il modello genera per ciascuna spiegazione locale e selezionare un'opzione per l'utilizzo dei dati di background. I dati di base vengono utilizzati per determinare l'influenza delle caratteristiche sui risultati ai fini delle spiegazioni. Se si utilizza LIME come spiegazione locale, è sufficiente specificare il numero di perturbazioni.
Attivando il parametro "Spiegazione globale ", è possibile scegliere di utilizzare SHAP (Shapley Additive Explanations) o LIME (Local Interpretable Model-Agnostic Explanations) come metodo di spiegazione globale. Per configurare il metodo di spiegazione globale, è necessario specificare la dimensione del campione delle transazioni del modello da utilizzare per generare le spiegazioni in tempo reale e una pianificazione che determini quando tali spiegazioni devono essere generate. È inoltre necessario specificare una soglia di stabilità della spiegazione globale e selezionare un'opzione che definisca le modalità di generazione di una spiegazione globale di riferimento. Queste impostazioni vengono utilizzate per calcolare l'indicatore di stabilità dell'interpretazione globale.
Funzioni regolabili
Le caratteristiche controllabili sono quelle che possono essere modificate e che hanno un impatto significativo sui risultati del modello. È possibile specificare le caratteristiche controllabili per individuare i cambiamenti che potrebbero determinare esiti diversi.
Supporto dei linguaggi
Se si abilita il supporto linguistico, è possibile analizzare linguaggi non delimitati da spazi per determinarne la spiegabilità. È possibile configurare la funzione di spiegabilità in modo che rilevi automaticamente i linguaggi supportati oppure specificare manualmente i linguaggi supportati che si desidera analizzare. Non è possibile configurare il supporto linguistico per i modelli strutturati e quelli basati su immagini.
Metriche di spiegabilità supportate
Sono supportati i seguenti indicatori di spiegabilità:
Stabilità della spiegazione a livello globale
La stabilità della spiegazione globale indica il grado di coerenza della spiegazione globale nel tempo
- Descrizione :
Viene generata una spiegazione globale utilizzando i dati di riferimento forniti durante la configurazione delle valutazioni di spiegabilità. Le spiegazioni globali individuano le caratteristiche che influenzano maggiormente il comportamento del modello. Quando vengono generate nuove spiegazioni globali, ciascuna di esse viene confrontata con la spiegazione globale di riferimento per calcolare la stabilità delle spiegazioni globali. La stabilità delle spiegazioni globali utilizza la formula del guadagno cumulativo normalizzato e attualizzato (NDGC) per determinare la somiglianza tra le nuove spiegazioni globali e la spiegazione globale di riferimento.
Come funziona : valori più elevati indicano una maggiore uniformità rispetto alla spiegazione di riferimento
- A 0 : Le spiegazioni sono molto diverse.
- 1 : Le spiegazioni sono molto simili.
Fai due conti :
Per calcolare la stabilità globale della spiegazione si utilizza la seguente formula:
DCGₚ
nDCGₚ = _____________________
IDCGₚ
Limitazioni
- Quando si configurano le impostazioni relative alle spiegazioni globali SHAP, si applicano le seguenti limitazioni:
- La dimensione del campione utilizzata per configurare le spiegazioni può influire sul numero di spiegazioni generate in determinati periodi di tempo. Se si tenta di generare più resoconti per campioni di grandi dimensioni, l'elaborazione delle transazioni potrebbe non andare a buon fine.
- Se si configurano spiegazioni per più sottoscrizioni, è necessario specificare i valori predefiniti per le impostazioni relative alla dimensione del campione e al numero di perturbazioni quando la distribuzione contiene 20 caratteristiche o meno.
- I segni di uguale (=) nei nomi delle colonne non sono supportati nei tuoi dati. Il segno di uguale potrebbe causare un errore.
- L'esplicabilità non è supportata per i modelli SPSS multiclasse che restituono solo la probabilità della classe vincente.