Lezione 34Explainable AI 2

Settimana: 14 · Fonte: slide del corso Machine Learning, Ingegneria dell'Automazione UniPD (lezione 34)

Argomenti trattati

1. Ripasso: indice di Gini, entropia, information gain, random forest; importanza delle feature ($\Delta Gini$ pesata) con intuizione e derivazione.
2. Metodi agnostici: permutation importance (esempio con errori $20\%$, $40\%$, $80\%$; esempio sul rischio di infarto), PDP, LIME (modelli surrogati locali), cenni a SHAP (valori di Shapley) e AcME.
3. Reti profonde: mappe di salienza e Grad-CAM.
4. Valutazione dell'interpretabilità: livello applicativo, umano, funzionale.

Teoria

• Explainable AI (XAI)approfondimento: non nel programma di Telecomunicazioni. L'interpretabilità è l'arte di produrre descrizioni di un modello abbastanza semplici da essere capite da un umano; la spiegabilità aggiunge la completezza (permettere di anticipare la previsione). I metodi si classificano in intrinseci o post-hoc, agnostici o specifici del modello, globali o locali. Modelli intrinsecamente interpretabili: regressione lineare (pesi $\beta_j$, intervalli di confidenza, LASSO per la sparsità), regressione logistica ($\log\frac y{1-y}=\beta_0+\sum\beta_jx_j$), alberi. Importanza nelle foreste: MDI $=\sum_{\text{nodi}}\frac{n_p}{n_{TOT}}\Delta Gini$ (con feature selection bias). Metodi agnostici: permutation importance (aumento dell'errore dopo aver mescolato una feature), PDP $\hat f_S(x_S)=\frac1n\sum_if(x_S,x_C^{(i)})$ (media delle curve ICE), LIME (modello semplice locale pesato sui punti perturbati), SHAP (valori di Shapley: media dei contributi marginali su tutti gli ordini, somma $=f(x)-f(\text{base})$). Per le reti profonde: mappe di salienza, Grad-CAM, occlusione. Valutazione: livello applicativo, umano, funzionale. Lab: cardiopatia AHD con logistica, LASSO, random forest, ICE, PDP, SHAP.Explainable AI (XAI) →

Esercizi

• Esercizio - XAI su cardiopatia e calcolo a mano di permutation importance, PDP e Shapley

Lezione precedente: Lezione 33 · Explainable AI 1 Lezione successiva: Lezione 35 · Laboratorio di ripasso - XAI