Controfattuali e scoperta causale

Argomento del corso da 9 CFU. Si appoggia a Inferenza causale - modelli causali strutturali e scala della causalitàI dati e la distribuzione congiunta da soli non dicono quali variabili causano quali: lo mostrano il paradosso di Simpson (la medicina funziona in ogni sottogruppo ma sembra peggiorare la popolazione) e il fatto che reti bayesiane diverse (A→B e B→A) descrivono la stessa congiunta. Serve un modello causale: un modello causale strutturale (SCM) ha variabili esogene U, endogene V e funzioni $v_i=f_i(\text{genitori},u_i)$; il suo grafo è la rete causale, e una rete causale è una rete bayesiana in cui le frecce sono cause. Le tre strutture elementari decidono l'indipendenza: catena $A\to B\to C$ e fork $A\leftarrow B\to C$ si bloccano osservando B, il collider $A\to B\leftarrow C$ si blocca se B e i suoi discendenti NON sono osservati (osservarlo crea dipendenza, explaining away). d-separazione: X e Y sono separati da Z se ogni cammino è bloccato; allora $X\perp!!!\perp Y\mid Z$. La scala della causalità (Pearl): associazione $P(y\mid x)$, intervento $P(y\mid do(x))$, controfattuali. Argomento del corso da 9 CFU.Inferenza causale - modelli causali strutturali e scala della causalità → (SCM, d-separazione) e a Interventi e operatore do - criterio backdoor e aggiustamentoOsservare $X=x$ e forzare $X=x$ sono cose diverse: $P(y\mid x)\ne P(y\mid do(x))$ quando c'è un confondente. L'intervento $do(X=x)$ si calcola con la «chirurgia» del grafo (si tolgono le frecce entranti in X) e si traduce in probabilità osservazionali con la formula di aggiustamento $P(y\mid do(x))=\sum_z P(y\mid x,z)P(z)$, dove $Z$ sono i genitori di X, o più in generale un insieme S che soddisfa il criterio backdoor: blocca ogni cammino backdoor (cammino da X a Y che inizia con una freccia entrante in X) e non contiene discendenti di X. Effetto causale medio $ACE=P(y\mid do(x))-P(y\mid do(\neg x))$. Se il confondente non è osservabile ma c'è un mediatore Z con X→Z→Y, vale il front-door $P(y\mid do(x))=\sum_z P(z\mid x)\sum_{x'}P(y\mid x',z)P(x')$. Mediazione: effetto diretto controllato CDE con $do(x),do(z)$. Se due insiemi backdoor danno risultati diversi sui dati, il modello è sbagliato. Argomento del corso da 9 CFU.Interventi e operatore do - criterio backdoor e aggiustamento →. Per la regressione si veda Regressione lineareNell'apprendimento supervisionato si impara una funzione $F(x)$ dagli esempi $(x,y)$: regressione se $y$ è continua, classificazione se è categorica. Il modello lineare è $F_\beta(x)=\beta_0+\beta_1x_1+\dots+\beta_px_p=X\beta$ (con una colonna di uni per $\beta_0$) e i parametri si scelgono minimizzando l'errore quadratico medio $\mathrm{MSE}=\frac1n\sum_i(y_i-F_\beta(x_i))^2$, funzione convessa dei parametri. Annullando il gradiente di $J(\beta)=|y-X\beta|^2$ si ottengono le equazioni normali $X^TX\beta=X^Ty$ e la soluzione dei minimi quadrati ordinari $\beta=(X^TX)^{-1}X^Ty$. Il coefficiente di determinazione $R^2=1-SS_{res}/SS_{tot}$ misura la qualità del fit (0 = come la media, negativo = peggio della media). Un modello va valutato su un test set mai usato per addestrare: l'errore sul training è ottimistico e un polinomio di grado alto lo azzera senza generalizzare.Regressione lineare →, per le gaussiane Distribuzione gaussiana (normale)N(μ, σ²) ha densità e^(−(x−μ)²/(2σ²)) / √(2πσ²), a campana centrata in μ con larghezza σ; media μ, varianza σ²; si standardizza con Z = (X − μ)/σ ~ N(0, 1) e si calcola P(X ≤ x) = Φ((x − μ)/σ), con Φ(−z) = 1 − Φ(z); aX + b è ancora gaussiana, N(aμ + b, a²σ²).Distribuzione gaussiana (normale) →.

1. Controfattuali

Un controfattuale è una possibilità ipotetica: «cosa sarebbe successo se...?». Esempio: in autostrada c'è molto traffico, esco e prendo una strada di campagna, ma a causa di lavori ci metto comunque molto; arrivato mi chiedo «sarei stato più veloce restando in autostrada?». Si cerca la probabilità di un mondo ipotetico (nel passato) sapendo che cosa è successo davvero. È il terzo livello della scala della causalità.

Definizione

Sia $M$ l'SCM $$X=aU,\qquad Y=bX+U,$$ con grafo $U\to X$ (peso $a$), $U\to Y$ (peso $1$), $X\to Y$ (peso $b$). Si scrive $Y_{X=x}(u)=y$ (o $Y_x(u)=y$) per «$Y$ sarebbe stato $y$ se $X$ fosse stato $x$, nella situazione $U=u$» (per esempio $X$ è il percorso, $Y$ il tempo, $U$ un fattore esterno come il tipo di auto). Il controfattuale produce un modello modificato $M_x$: $$X=x,\qquad Y=bX+U,\qquad\text{quindi}\quad Y_x(u)=bx+u.$$ Allo stesso modo $X_y(u)$ è «cosa sarebbe stato $X$ se $Y$ fosse stato $y$»: nel modello $M_y$ ($X=aU$, $Y=y$) vale $X_y(u)=au$, cioè «se $Y$ fosse stato $y$» non cambia $X$ (come atteso, $Y$ non è causa di $X$).

Con tre valori $u=1,2,3$ e $a=b=1$ si possono scrivere tutti i controfattuali:

Come si legge: $X(u)=u$, $Y(u)=2u$ (mondo reale); $Y_x(u)=x+u$ (per $x=1$: $2,3,4$; per $x=2$: $3,4,5$; per $x=3$: $4,5,6$); $X_y(u)=u$ per ogni $y$.

Controfattuali e interventi

• I controfattuali sono definiti a livello individuale: $Y_x(u)=y$ riguarda l'individuo $u$ e richiede un SCM con le funzioni.
• Gli interventi sono a livello di popolazione: $P(Y\mid do(X=x))$ è la distribuzione di $Y$ su tutta la popolazione quando $X$ è forzato.

Le due nozioni sono legate da $$P(Y\mid do(X=x))\equiv P(Y_x).$$ Ma, con un'evidenza $Z=z$, in generale $$P(Y\mid do(X=x),Z=z)\ne P(Y_x\mid Z=z).$$ Nel primo si interviene su $X$ e poi si guardano le unità con $Z=z$ dopo l'intervento (condizionamento post-intervento); poi si calcola la distribuzione di $Y$. Nel secondo si guardano gli individui con $Z=z$ nel mondo reale (condizionamento pre-intervento) e per quegli stessi individui si chiede quale sarebbe il loro esito se $X$ fosse $x$.

Calcolo di un controfattuale

Risolvere il controfattuale in $M$ equivale a risolvere $Y$ in $M_x$: $Y_x(u)=Y_{M_x}(u)$.

Esempio (tutoraggio). Ore di tutoraggio $X$ migliorano lo studio a casa $H$ e il voto $Y$, secondo $$X=U_X,\qquad H=aX+U_H,\qquad Y=bX+cH+U_Y,\qquad a=0.5,\ b=0.7,\ c=0.4.$$

Caso deterministico. Lo studente Joe ha $X=0.5$, $H=1$, $Y=1.5$. Domanda: quale sarebbe stato il suo voto se avesse raddoppiato lo studio a casa, cioè $H=2$?

1. Abduzione. Dai dati si ricavano i valori delle esogene di Joe, invertendo le equazioni: $$U_X=0.5,\qquad U_H=1-0.5\cdot0.5=0.75,\qquad U_Y=1.5-0.7\cdot0.5-0.4\cdot1=0.75.$$
2. Azione. Si sostituisce l'equazione di $H$ con la costante $H=2$ (modello $M_{H=2}$: $H$ non dipende più da $X$).
3. Predizione. Si calcola $Y$ nel nuovo modello con le $U$ di Joe: $$Y_{H=2}(U_X{=}0.5,U_H{=}0.75,U_Y{=}0.75)=0.7\cdot0.5+0.4\cdot2+0.75=0.35+0.8+0.75=1.9.$$

Il valore $U_H=0.75$ non serve (con $H$ forzato la sua equazione sparisce), ma l'abduzione lo ricava comunque; quello che serve è $U_Y$, la parte del voto di Joe non spiegata da $X$ e $H$. Svolto per intero, con altre domande sullo stesso Joe, in Esercizio - Controfattuali di Joe e della tabella di U (slide del corso).

Caso probabilistico. Invece dei valori $u$ di un individuo si ha la distribuzione $P(U)$ e si calcola la probabilità di un controfattuale data l'evidenza $E=e$, $P(Y_{X=x}\mid E=e)$:

1. Abduzione: si aggiorna $P(U)$ con l'evidenza, ottenendo $P(U\mid E=e)$;
2. Azione: si modifica $M$ sostituendo l'equazione di $X$ con $X=x$ (modello $M_x$);
3. Predizione: si usa $M_x$ con le probabilità aggiornate per calcolare la probabilità di $Y$.

Esempio. Nel modello $X=aU$, $Y=bX+U$ ($a=b=1$) con $P(U=1)=\frac12$, $P(U=2)=\frac13$, $P(U=3)=\frac16$, i controfattuali non condizionati si leggono dalla tabella:

• $P(Y_2=3)=P(U=1)=\frac12$ ($Y_2=3$ solo per $u=1$);
• $P(Y_2>3)=P(U=2)+P(U=3)=\frac13+\frac16=\frac12$;
• $P(Y_2>3,\,Y_1<4)=P(U=2)=\frac13$ (per $u=2$: $Y_2=4>3$ e $Y_1=3<4$; per $u=3$: $Y_1=4$ non è $<4$);
• $P(Y_1<4,\ Y-X>1)=P(U=2)=\frac13$ ($Y-X=u>1$ e $Y_1<4$ solo per $u=2$).

Condizionali: $P(Y_3>Y\mid Y>2)$. Si cercano gli $u$ con $Y>2$: $Y(u)=2u>2$ per $u=2,3$, con probabilità $\frac13+\frac16=\frac12$. Tra questi $Y_3>Y$ solo per $u=2$ ($Y_3=5>4$; per $u=3$ $Y_3=6=Y$). Quindi $$P(Y_3>Y\mid Y>2)=\frac{P(U=2)}{P(U=2)+P(U=3)}=\frac{1/3}{1/2}=\frac23.$$ (Abduzione: dopo l'evidenza $Y>2$ si ha $P(U=2\mid E)=\frac23$, $P(U=3\mid E)=\frac13$; azione: $X=3$; predizione: $Y_3=5>4$ per $u=2$, $6=6$ per $u=3$.) Tutti questi valori sono stati ricalcolati con frazioni esatte.

2. Modelli lineari gaussiani

Finora variabili discrete. Molti problemi hanno variabili continue; si considera una classe ampia: SCM lineari con variabili gaussiane.

Definizione (SCM lineare). Le equazioni strutturali sono lineari, per esempio $$X=U_X,\quad Z=aX+U_Z,\quad W=bX+cZ+U_W,\quad Y=dZ+eW+U_Y.$$ I coefficienti strutturali (di cammino) $a,b,c,d,e$ quantificano l'effetto diretto di un genitore sul figlio.

Variabili gaussiane: $X\sim\mathcal N(\mu,\sigma^2)$ con valore atteso $\mu=E[X]$ e varianza $\sigma^2=E[(X-\mu)^2]$ (Distribuzione gaussiana (normale)N(μ, σ²) ha densità e^(−(x−μ)²/(2σ²)) / √(2πσ²), a campana centrata in μ con larghezza σ; media μ, varianza σ²; si standardizza con Z = (X − μ)/σ ~ N(0, 1) e si calcola P(X ≤ x) = Φ((x − μ)/σ), con Φ(−z) = 1 − Φ(z); aX + b è ancora gaussiana, N(aμ + b, a²σ²).Distribuzione gaussiana (normale) →, Vettori gaussianiX = (X₁, ..., Xₙ) è un vettore gaussiano N(m, Σ) se ogni combinazione lineare a·X è gaussiana (equivalentemente X = m + AZ con Z gaussiane standard indipendenti); se Σ è invertibile ha densità exp(−½(x−m)ᵀΣ⁻¹(x−m)) / √((2π)ⁿ det Σ). Proprietà chiave: AX + b ~ N(Am + b, AΣAᵀ), le marginali sono gaussiane e componenti non correlate sono indipendenti.Vettori gaussiani →). Per le distribuzioni gaussiane valgono due proprietà:

1. $X\perp\!\!\!\perp Y\mid Z\Rightarrow P(Y\mid X,Z)=P(Y\mid Z)\Rightarrow E[Y\mid X,Z]=E[Y\mid Z]$;
2. $\hat Y=E[Y\mid X_1,\dots,X_n]=r_0+r_1X_1+\dots+r_nX_n$, dove $r_1,\dots,r_n$ sono i coefficienti di regressione parziale: pendenze dell'(iper)piano che minimizza la somma dei quadrati degli errori $\arg\min\sum_{i}(y_i-\hat y_i)^2$.

Esempio. Con i punti $(1,6),(2,5),(3,7),(4,10)$: $\bar x=2.5$, $\bar y=7$; $S_{xy}=\sum(x-\bar x)(y-\bar y)=(-1.5)(-1)+(-0.5)(-2)+0.5\cdot0+1.5\cdot3=7$, $S_{xx}=\sum(x-\bar x)^2=5$; pendenza $r_1=7/5=1.4$ e intercetta $r_0=7-1.4\cdot2.5=3.5$, cioè $\hat Y=3.5+1.4X$ (Regressione lineareNell'apprendimento supervisionato si impara una funzione $F(x)$ dagli esempi $(x,y)$: regressione se $y$ è continua, classificazione se è categorica. Il modello lineare è $F_\beta(x)=\beta_0+\beta_1x_1+\dots+\beta_px_p=X\beta$ (con una colonna di uni per $\beta_0$) e i parametri si scelgono minimizzando l'errore quadratico medio $\mathrm{MSE}=\frac1n\sum_i(y_i-F_\beta(x_i))^2$, funzione convessa dei parametri. Annullando il gradiente di $J(\beta)=|y-X\beta|^2$ si ottengono le equazioni normali $X^TX\beta=X^Ty$ e la soluzione dei minimi quadrati ordinari $\beta=(X^TX)^{-1}X^Ty$. Il coefficiente di determinazione $R^2=1-SS_{res}/SS_{tot}$ misura la qualità del fit (0 = come la media, negativo = peggio della media). Un modello va valutato su un test set mai usato per addestrare: l'errore sul training è ottimistico e un polinomio di grado alto lo azzera senza generalizzare.Regressione lineare →).

Coefficienti strutturali = coefficienti di regressione. In un SCM lineare gaussiano, i coefficienti di regressione di ogni variabile endogena sui suoi genitori coincidono con i coefficienti strutturali: $E[Z\mid X]=r_{0Z}+aX$, $E[W\mid X,Z]=r_{0W}+bX+cZ$, $E[Y\mid Z,W]=r_{0Y}+dZ+eW$.

Non basta regredire su variabili qualsiasi: regredire $Y$ solo su $Z$ dà un coefficiente diverso da $d$ (il cammino $Z\leftarrow X\to W\to Y$ è un backdoor aperto).

Effetto causale totale. L'effetto totale tra due variabili è la somma dei prodotti dei coefficienti strutturali lungo ogni cammino orientato (non backdoor) da una all'altra. Nell'esempio, l'effetto totale di $Z$ su $Y$ è $d+ce$ (cammini $Z\to Y$ e $Z\to W\to Y$); quello di $X$ su $Y$ è $ad+be+ace$.

Verifica numerica (coefficienti scelti da me: $a=0.8$, $b=0.5$, $c=0.6$, $d=0.7$, $e=0.4$, rumori $\mathcal N(0,1)$, $500\,000$ campioni):

• regressione sui genitori: $Z\sim X$ dà $0.801$; $W\sim X,Z$ dà $0.499$ e $0.602$; $Y\sim Z,W$ dà $0.701$ e $0.401$: i coefficienti strutturali;
• effetto totale di $Z$ su $Y$: $d+ce=0.7+0.6\cdot0.4=0.94$; la simulazione dell'intervento $do(Z)$ dà $0.94$. Regredire $Y$ solo su $Z$ dà $1.039$ (distorto); regredendo $Y$ su $Z$ e $X$ (insieme backdoor $\{X\}$) il coefficiente di $Z$ è $0.942$;
• effetto totale di $X$ su $Y$: $ad+be+ace=0.56+0.20+0.192=0.952$; la simulazione dà $0.952$ e la regressione semplice $Y\sim X$ $0.955$ (nessun backdoor per $X$).

Procedura generale. Dati osservati: se il modello è lineare gaussiano e tutte le variabili sono osservabili, si fa regressione lineare di ogni figlio sui suoi genitori; se non lo sono, si fa la regressione sulle variabili disponibili (scegliendo un insieme valido per il criterio backdoor, Interventi e operatore do - criterio backdoor e aggiustamentoOsservare $X=x$ e forzare $X=x$ sono cose diverse: $P(y\mid x)\ne P(y\mid do(x))$ quando c'è un confondente. L'intervento $do(X=x)$ si calcola con la «chirurgia» del grafo (si tolgono le frecce entranti in X) e si traduce in probabilità osservazionali con la formula di aggiustamento $P(y\mid do(x))=\sum_z P(y\mid x,z)P(z)$, dove $Z$ sono i genitori di X, o più in generale un insieme S che soddisfa il criterio backdoor: blocca ogni cammino backdoor (cammino da X a Y che inizia con una freccia entrante in X) e non contiene discendenti di X. Effetto causale medio $ACE=P(y\mid do(x))-P(y\mid do(\neg x))$. Se il confondente non è osservabile ma c'è un mediatore Z con X→Z→Y, vale il front-door $P(y\mid do(x))=\sum_z P(z\mid x)\sum_{x'}P(y\mid x',z)P(x')$. Mediazione: effetto diretto controllato CDE con $do(x),do(z)$. Se due insiemi backdoor danno risultati diversi sui dati, il modello è sbagliato. Argomento del corso da 9 CFU.Interventi e operatore do - criterio backdoor e aggiustamento →); se il modello non è lineare gaussiano servono altri metodi.

3. Scoperta causale

La scoperta causale (causal discovery) ricava il grafo causale dai dati. I metodi basati su vincoli usano test di indipendenza condizionata (i vincoli) per identificare il grafo: PC (Spirtes e Glymour), FCI, GES. Qui si studia PC, che richiede quattro assunzioni:

1. Aciclicità: nessun ciclo nel grafo.
2. Sufficienza: nessun confondente non osservato (tutte le cause comuni sono tra le variabili).
3. Markov: la d-separazione nel grafo implica indipendenza condizionata nella distribuzione (grafo causale $\Rightarrow$ dati).
4. Fedeltà (faithfulness): vale anche il viceversa: se $X\perp\!\!\!\perp Y\mid Z$ nei dati, allora $X$ e $Y$ sono d-separati da $Z$ nel grafo (dati $\Rightarrow$ grafo; escludo cancellazioni accidentali di effetti).

Classi di equivalenza di Markov

$A\to B\to C$, $A\leftarrow B\leftarrow C$ e $A\leftarrow B\to C$ implicano la stessa indipendenza condizionata $A\perp\!\!\!\perp C\mid B$ (e nessun'altra): appartengono alla stessa classe di equivalenza di Markov e dai soli dati sono indistinguibili. Il collider $A\to B\leftarrow C$ è diverso: implica $A\perp\!\!\!\perp C$ (non condizionato) e dipendenza dato $B$, quindi si riconosce. Per questo i collider sono decisivi negli algoritmi di scoperta.

Algoritmo PC

Dati da un processo ignoto con grafo vero $G^*$ da scoprire:

1. Grafo completo non orientato tra tutte le variabili.
2. Scheletro. Per $L=0,1,2,\dots$, per ogni arco $X-Y$ si prova ogni insieme $Z$ di $L$ variabili adiacenti: se $X\perp\!\!\!\perp Y\mid Z$ (test statistico, per esempio Fisher $z$ o differenza di BIC) si toglie l'arco e si ricorda $Z$ (insieme separatore).
3. Collider. Per ogni cammino $X-Z-Y$ con $X$ e $Y$ non adiacenti e $Z$ non nell'insieme separatore di $X,Y$: orienta $X\to Z\leftarrow Y$.
4. Propagazione. Un arco $Z-Y$ di un cammino parzialmente orientato $X\to Z-Y$ con $X$ e $Y$ non adiacenti si orienta $Z\to Y$ (altrimenti si creerebbe un collider $X\to Z\leftarrow Y$ che il passo 3 ha escluso).

Esempio (slide). Cinque variabili $A,B,C,D,E$ da un grafo vero $A\to B\leftarrow C$, $B\to D$, $B\to E$. Per concretezza ho generato $5000$ campioni lineari gaussiani da questo grafo e applicato PC con il test di Fisher $z$ (correlazione parziale $r$, $z=\tfrac12\ln\frac{1+r}{1-r}\sqrt{n-|Z|-3}$, livello $0.01$):

• $L=0$: indipendenza non condizionata: solo $A\perp\!\!\!\perp C\mid\{\}$ ($r=0.015$, $p=0.30$): si toglie $A-C$ e si ricorda $\{\}$. Le altre coppie sono correlate ($r$ tra $0.5$ e $0.88$).
• $L=1$: si tolgono $A-D$, $A-E$, $C-D$, $C-E$, $D-E$, tutte con $Z=\{B\}$ (correlazioni parziali tra $-0.007$ e $0.013$). $A-B$, $B-C$, $B-D$, $B-E$ restano (per esempio $A\perp\!\!\!\perp B\mid D$? no, $r=0.39$).
• Scheletro: $A-B-C$, $B-D$, $B-E$.
• Collider: $A-B-C$, $A$ e $C$ non adiacenti, $B$ non nell'insieme separatore $\{\}$: $A\to B\leftarrow C$. Invece $A-B-D$: $B$ è nell'insieme separatore $\{B\}$ di $A,D$, quindi non è un collider (catena o fork: la classe di equivalenza non decide).
• Propagazione: $A\to B-D$ con $A$, $D$ non adiacenti: $B\to D$; $A\to B-E$: $B\to E$.

Risultato: $A\to B\leftarrow C$, $B\to D$, $B\to E$, cioè esattamente $G^*$. Il codice completo, con il test di Fisher scritto in numpy, è in Esercizio - Algoritmo PC sul grafo con cinque variabili (slide del corso). Se il grafo vero fosse una sola catena $A\to B\to C$, PC restituirebbe due archi non orientati (classe di equivalenza): verificato con la stessa funzione, che per un collider orienta invece entrambi gli archi.

Il legame con le reti bayesiane: l'apprendimento della struttura di una rete bayesiana (Apprendimento delle reti bayesiane - parametri e strutturaImparare una rete bayesiana significa stimare i parametri (le CPT) con la struttura nota, oppure trovare la struttura stessa dai dati. Con dati completi la stima di massima verosimiglianza (ML) è una frequenza: $P(B_i\mid A_j,C_k)\approx N_{ijk}/N_{jk}$. Per evitare probabilità zero si usa lo smoothing di Laplace: $P(x_i)=(1+m)/(k+N)$ ($k$ valori, $N$ campioni, $m$ occorrenze). Con valori mancanti si inferisce il valore più probabile dagli altri della riga e si ristimano i parametri; con variabili nascoste si usa l'algoritmo EM (passo E: stima dei dati mancanti con i parametri correnti; passo M: aggiornamento dei parametri), da inizializzazione casuale fino a convergenza. L'apprendimento della struttura è difficile (numero di DAG superesponenziale): metodi globali (ricerca con punteggio, ad esempio BIC $=\log P(D\mid m)-|m|\log|D|/2$ con hill climbing) e metodi locali (test di indipendenza, algoritmo PC).Apprendimento delle reti bayesiane - parametri e struttura →) cerca un grafo compatibile con i dati, ma da solo non dà il verso causale; PC restituisce la classe di equivalenza e orienta solo ciò che i collider permettono.

Domande d'esame

1. SCM $X=2U$, $Y=X+U$. Osservo $X=2$. Quanto varrebbe $Y$ se $X$ fosse stato $5$? Abduzione: $U=1$. Azione: $X=5$. Predizione: $Y_5=5+1=6$.
2. $A\to B\to C$, $A\leftarrow B\to C$ e $A\to B\leftarrow C$ sono distinguibili dai soli dati? I primi due no (stessa classe di Markov, $A\perp\!\!\!\perp C\mid B$); il terzo sì (collider: $A\perp\!\!\!\perp C$ ma non dato $B$).
3. In un SCM lineare $Z=aX+U_Z$, $W=bX+cZ+U_W$, $Y=dZ+eW+U_Y$ quanto vale l'effetto totale di $Z$ su $Y$? $d+ce$ (cammini $Z\to Y$ e $Z\to W\to Y$).
4. Perché $P(Y\mid do(x),z)\ne P(Y_x\mid z)$? Nel primo $Z=z$ è osservato dopo l'intervento, nel secondo gli individui con $Z=z$ sono scelti nel mondo reale prima dell'intervento.