Formula delle probabilità totali e formula di Bayes

Prima: Probabilità condizionataLa probabilità di A sapendo che si è verificato B è P(A ∣ B) = P(A ∩ B) / P(B), con P(B) > 0; è una nuova misura di probabilità, e da essa seguono la regola del prodotto e la regola della catena.Probabilità condizionata →. Dopo: Indipendenza di eventiA e B sono indipendenti se P(A ∩ B) = P(A) P(B), cioè se sapere che uno si è verificato non cambia la probabilità dell'altro; l'indipendenza passa ai complementari, non va confusa con l'incompatibilità, e per più eventi va richiesta su ogni sottofamiglia.Indipendenza di eventi →. Negli appelli compaiono in quasi ogni tema: esercizi svolti sulla malattia XXX (I parziale), sui due dadi da 6 e 12 facce (I appello), sui tre fornitori (III appello).

Quando servono

Molti esperimenti avvengono in due fasi: prima si "sceglie" una situazione (un dado tra due, un fornitore tra tre, un individuo maschio o femmina), poi accade qualcosa la cui probabilità dipende dalla situazione scelta. I dati del problema sono allora del tipo

• $\mathbb{P}(A_i)$: probabilità di ciascuna situazione;
• $\mathbb{P}(B \mid A_i)$: probabilità dell'evento $B$ sapendo di essere nella situazione $A_i$.

Le due formule rispondono alle due domande naturali:

Formula delle probabilità totali

Sia $(A_i)_{i \in I}$ una partizioneFamiglia di eventi a due a due disgiunti la cui unione è Ω: ogni esito sta in uno e un solo A_i.Spazio campionario ed eventi → di $\Omega$ (finita o numerabile) con $\mathbb{P}(A_i) > 0$ per ogni $i$. Allora per ogni evento $B$ $$\boxed{\mathbb{P}(B) = \sum_{i \in I} \mathbb{P}(B \mid A_i)\, \mathbb{P}(A_i)}$$

Dimostrazione. La partizione taglia $B$ in fette disgiunte: $B = \bigcup_i (B \cap A_i)$. Per σ-additività e poi per la regola del prodottoP(B ∩ A_i) = P(B ∣ A_i) P(A_i).Probabilità condizionata →:

$$\mathbb{P}(B) = \sum_i \mathbb{P}(B \cap A_i) = \sum_i \mathbb{P}(B \mid A_i)\, \mathbb{P}(A_i) \qquad \blacksquare$$

Interpretazione: $\mathbb{P}(B)$ è una media pesata delle probabilità condizionate $\mathbb{P}(B \mid A_i)$, con pesi $\mathbb{P}(A_i)$. Quindi è sempre compresa tra la più piccola e la più grande delle $\mathbb{P}(B \mid A_i)$: è un ottimo controllo sui risultati.

Caso più frequente: partizione $\{A, A^c\}$.

$$\mathbb{P}(B) = \mathbb{P}(B \mid A)\, \mathbb{P}(A) + \mathbb{P}(B \mid A^c)\, \mathbb{P}(A^c)$$

Esempio: la malattia XXX (I parziale)

Una malattia colpisce lo $0{,}4\%$ dei maschi e lo $0{,}5\%$ delle femmine; il campione è per metà maschi e per metà femmine. Probabilità che un individuo scelto a caso sia malato?

Eventi: $M =$ "maschio", $F = M^c =$ "femmina" (partizione), $A =$ "malato". Dati: $\mathbb{P}(M) = \mathbb{P}(F) = 0{,}5$, $\mathbb{P}(A \mid M) = 0{,}004$, $\mathbb{P}(A \mid F) = 0{,}005$.

$$\mathbb{P}(A) = 0{,}004 \cdot 0{,}5 + 0{,}005 \cdot 0{,}5 = 0{,}0045$$

Controllo: $0{,}0045$ sta tra $0{,}004$ e $0{,}005$, esattamente a metà perché i pesi sono uguali ✓.

Formula di Bayes

Nelle stesse ipotesi, se $\mathbb{P}(B) > 0$, per ogni $k$ $$\boxed{\mathbb{P}(A_k \mid B) = \frac{\mathbb{P}(B \mid A_k)\, \mathbb{P}(A_k)}{\mathbb{P}(B)} = \frac{\mathbb{P}(B \mid A_k)\, \mathbb{P}(A_k)}{\sum_{i} \mathbb{P}(B \mid A_i)\, \mathbb{P}(A_i)}}$$

Dimostrazione. Per definizione $\mathbb{P}(A_k \mid B) = \frac{\mathbb{P}(A_k \cap B)}{\mathbb{P}(B)}$; al numeratore si usa la regola del prodotto "nell'altro verso", $\mathbb{P}(A_k \cap B) = \mathbb{P}(B \mid A_k) \mathbb{P}(A_k)$, al denominatore le probabilità totali. $\blacksquare$

Interpretazione. $\mathbb{P}(A_k)$ è la probabilità a priori della situazione $A_k$ (prima di osservare $B$); $\mathbb{P}(A_k \mid B)$ è la probabilità a posteriori, aggiornata dopo aver osservato $B$. La formula "inverte" il condizionamento: dai dati del tipo $\mathbb{P}(\text{effetto} \mid \text{causa})$ ricava $\mathbb{P}(\text{causa} \mid \text{effetto})$.

Osservazione utile: il numeratore è uno degli addendi del denominatore. Quindi conviene calcolare prima tutti i prodotti $\mathbb{P}(B \mid A_i)\mathbb{P}(A_i)$, sommarli (probabilità totali) e poi dividere quello che interessa per la somma. Le probabilità a posteriori $\mathbb{P}(A_i \mid B)$ sommano a $1$.

Esempio: la malattia XXX, continuazione

Sapendo che l'individuo scelto è malato, probabilità che sia maschio?

$$\mathbb{P}(M \mid A) = \frac{\mathbb{P}(A \mid M)\, \mathbb{P}(M)}{\mathbb{P}(A)} = \frac{0{,}004 \cdot 0{,}5}{0{,}0045} = \frac{0{,}002}{0{,}0045} = \frac49 \approx 0{,}444$$

Meno di $\frac12$: i maschi si ammalano meno, quindi tra i malati sono la minoranza. Specularmente $\mathbb{P}(F \mid A) = \frac59$, e $\frac49 + \frac59 = 1$ ✓.

Esempio: tre fornitori (III appello)

I componenti arrivano dai fornitori $A, B, C$ con probabilità $\frac12, \frac13, \frac16$; le probabilità di difetto sono $\mathbb{P}(D \mid A) = \frac1{20}$, $\mathbb{P}(D \mid B) = \frac1{10}$, $\mathbb{P}(D \mid C) = \frac15$.

Il fornitore $C$ fornisce pochi pezzi ma molto difettosi: dopo aver visto un difetto, la sua probabilità sale da $\frac16 \approx 0{,}17$ a $\frac4{11} \approx 0{,}36$.

Esempio: un test diagnostico (perché Bayes sorprende)

Una malattia ha prevalenza $1\%$; un test la rileva nel $99\%$ dei malati e dà un falso positivo nel $5\%$ dei sani. Se un individuo risulta positivo ($+$), probabilità che sia malato ($M$)?

$$\mathbb{P}(+) = 0{,}99 \cdot 0{,}01 + 0{,}05 \cdot 0{,}99 = 0{,}0099 + 0{,}0495 = 0{,}0594$$ $$\mathbb{P}(M \mid +) = \frac{0{,}0099}{0{,}0594} = \frac16 \approx 0{,}167$$

Solo un positivo su sei è davvero malato: i sani sono così tanti che anche il $5\%$ di falsi positivi supera di molto i veri positivi. Senza Bayes si confonderebbe $\mathbb{P}(+ \mid M) = 0{,}99$ con $\mathbb{P}(M \mid +)$.

Schema per gli esercizi

1. Dare un nome agli eventi: le "situazioni" ($A_i$, che devono formare una partizione) e l'evento osservato ($B$).
2. Tradurre i dati: le percentuali "tra i maschi", "del fornitore A", "per il dado A" sono probabilità condizionate $\mathbb{P}(B \mid A_i)$; le proporzioni delle situazioni sono $\mathbb{P}(A_i)$.
3. Probabilità totali per $\mathbb{P}(B)$.
4. Bayes se si chiede la probabilità di una situazione sapendo $B$.
5. Controlli: $\mathbb{P}(B)$ tra il minimo e il massimo dei $\mathbb{P}(B \mid A_i)$; le a posteriori sommano a 1.

Errori comuni

• Usare eventi che non formano una partizione (che si sovrappongono o non coprono tutto).
• Confondere $\mathbb{P}(B \mid A)$ con $\mathbb{P}(A \cap B)$: "lo 0,4% dei maschi è malato" è $\mathbb{P}(A \mid M)$, non $\mathbb{P}(A \cap M)$.
• Dimenticare il denominatore in Bayes, o mettere al denominatore $\mathbb{P}(A_k)$ invece di $\mathbb{P}(B)$.