Lezione 33Explainable AI 1

Settimana: 14 · Fonte: slide del corso Machine Learning, Ingegneria dell'Automazione UniPD (lezione 33)

Argomenti trattati

1. Introduzione all'interpretabilità: motivazioni ed esempi (mercato azionario, diagnosi medica, guida autonoma, rischio assicurativo, GDPR), discussione del chirurgo umano contro il chirurgo robotico.
2. Concetti chiave: interpretabilità, spiegabilità, relazione con fiducia, informatività e fairness.
3. Tassonomia: intrinseca o post-hoc, agnostica o specifica, globale o locale.
4. Output dei metodi e caratteristiche delle buone spiegazioni (contrastive, brevi, adatte al pubblico).
5. Regressione lineare: pesi, intervalli di confidenza, LASSO, grouping effect, compromesso accuratezza-interpretabilità (esempio sul noleggio di biciclette).
6. Metodi ad albero: alberi, random forest, importanza MDI e feature selection bias, Boruta, Isolation Forest.
7. Reti profonde: spiegare l'elaborazione, le rappresentazioni, sistemi che producono spiegazioni.

Teoria

• Explainable AI (XAI)approfondimento: non nel programma di Telecomunicazioni. L'interpretabilità è l'arte di produrre descrizioni di un modello abbastanza semplici da essere capite da un umano; la spiegabilità aggiunge la completezza (permettere di anticipare la previsione). I metodi si classificano in intrinseci o post-hoc, agnostici o specifici del modello, globali o locali. Modelli intrinsecamente interpretabili: regressione lineare (pesi $\beta_j$, intervalli di confidenza, LASSO per la sparsità), regressione logistica ($\log\frac y{1-y}=\beta_0+\sum\beta_jx_j$), alberi. Importanza nelle foreste: MDI $=\sum_{\text{nodi}}\frac{n_p}{n_{TOT}}\Delta Gini$ (con feature selection bias). Metodi agnostici: permutation importance (aumento dell'errore dopo aver mescolato una feature), PDP $\hat f_S(x_S)=\frac1n\sum_if(x_S,x_C^{(i)})$ (media delle curve ICE), LIME (modello semplice locale pesato sui punti perturbati), SHAP (valori di Shapley: media dei contributi marginali su tutti gli ordini, somma $=f(x)-f(\text{base})$). Per le reti profonde: mappe di salienza, Grad-CAM, occlusione. Valutazione: livello applicativo, umano, funzionale. Lab: cardiopatia AHD con logistica, LASSO, random forest, ICE, PDP, SHAP.Explainable AI (XAI) →

Esercizi

• Esercizio - XAI su cardiopatia e calcolo a mano di permutation importance, PDP e Shapley

Lezione precedente: Lezione 32 · Laboratorio di ripasso Lezione successiva: Lezione 34 · Explainable AI 2