Salta al contenuto
Note per Studenti Esercizio - diagnosi con MAP, ML e minima distanza

Esercizio - diagnosi con MAP, ML e minima distanza

In questa pagina 6

Testo (scheda di esercizi n. 4, modulazione digitale, esercizio 2). Su un'isola l'1%1\% della popolazione ha una rara malattia del sistema immunitario. Tra i sintomi, la malattia aumenta la produzione di linfociti di tipo T2 nel sangue. Un test semplice consiste nel prelevare un campione di sangue e contare quanti linfociti T2 contiene. Per un paziente sano il numero NN di questi linfociti in un campione (circa 5050 mm3^3 di sangue) è una variabile aleatoria di Poisson con media λh=3,8\lambda_h=3{,}8. Per un individuo malato NN è ancora di Poisson, ma con media più alta λs=18,5\lambda_s=18{,}5. Due isolani fanno il test e si trovano con 1010 e 1212 linfociti T2 nel campione, rispettivamente. Qual è la deduzione secondo i criteri MAP, ML e MD? Confrontare e discutere.

Teoria usata: Decisione ottima - criteri MAP e MLIl ricevitore osserva il vettore $\mathbf r$ e deve stimare il simbolo trasmesso $a_0$: lo spazio $\mathbb R^I$ si divide in $M$ regioni di decisione $\mathcal R_j$. La probabilità di decisione corretta è $P[C]=\sum_j\int_{\mathcal R_j}D_j(\boldsymbol\rho),d\boldsymbol\rho$ con $D_j=p_{\mathbf r|a_0}(\boldsymbol\rho|j),p_j$ e si massimizza assegnando ogni $\boldsymbol\rho$ alla regione con $D_j$ più alto: criterio MAP (massimo a posteriori, ottimo). Il criterio ML ($\arg\max_jp_{\mathbf r|a_0}(\boldsymbol\rho|j)$) ignora le probabilità a priori e coincide con MAP per simboli equiprobabili. Il criterio MD (minima distanza, $\arg\min\lVert\boldsymbol\rho-\mathbf s_j\rVert$) coincide con ML se il rumore è AWGN, quindi con simboli equiprobabili e AWGN è ottimo.Decisione ottima - criteri MAP e ML →, Distribuzione di PoissonPoi(λ) conta eventi rari: P(X = k) = e^(−λ) λ^k / k! per k = 0, 1, 2, …, con media e varianza entrambe uguali a λ; approssima la binomiale Bin(n, p) quando n è grande e p piccolo, con λ = np.Distribuzione di Poisson →, Formula delle probabilità totali e formula di BayesSe (A_i) è una partizione di Ω, P(B) = Σ P(B ∣ A_i) P(A_i) (probabilità totali); la formula di Bayes inverte il condizionamento: P(A_k ∣ B) = P(B ∣ A_k) P(A_k) / P(B).Formula delle probabilità totali e formula di Bayes →.

Impostazione

È un problema di decisione con due ipotesi, HhH_h (sano) e HsH_s (malato), e un'osservazione scalare nn (il conteggio). Le informazioni sono:

  • verosimiglianze (Poisson): xh(n)=P[N=n∣sano]=e−λhλhnn!x_h(n)=P[N=n\mid\text{sano}]=e^{-\lambda_h}\frac{\lambda_h^n}{n!} e xs(n)=e−λsλsnn!x_s(n)=e^{-\lambda_s}\frac{\lambda_s^n}{n!};
  • probabilità a priori: ph=0,99p_h=0{,}99, ps=0,01p_s=0{,}01.

Calcolo delle verosimiglianze (con Python):

nn xh(n)x_h(n) xs(n)x_s(n)
1010 0,387%0{,}387\% 1,195%1{,}195\%
1212 0,0423%0{,}0423\% 3,10%3{,}10\%

Criterio MD (minima distanza)

Si sceglie l'ipotesi la cui media è più vicina all'osservazione:

  • paziente 1 (n=10n=10): ∣10−3,8∣=6,2<∣10−18,5∣=8,5⇒|10-3{,}8|=6{,}2<|10-18{,}5|=8{,}5\Rightarrow sano;
  • paziente 2 (n=12n=12): ∣12−3,8∣=8,2>∣12−18,5∣=6,5⇒|12-3{,}8|=8{,}2>|12-18{,}5|=6{,}5\Rightarrow malato.

La soglia MD è nel punto medio 3,8+18,52=11,15\frac{3{,}8+18{,}5}2=11{,}15: da n≥12n\ge12 si dichiara malato.

Criterio ML (massima verosimiglianza)

Si confrontano le probabilità di osservare quel conteggio sotto le due ipotesi (le a priori sono ignorate):

  • n=10n=10: xs=1,195%>xh=0,387%⇒x_s=1{,}195\%>x_h=0{,}387\%\Rightarrow malato;
  • n=12n=12: xs=3,10%≫xh=0,042%⇒x_s=3{,}10\%\gg x_h=0{,}042\%\Rightarrow malato.

La soglia ML è n≥10n\ge10: per n=9n=9 si ha ancora xh=1,02%>xs=0,65%x_h=1{,}02\%>x_s=0{,}65\%, mentre da n=10n=10 in poi xs>xhx_s>x_h (e il rapporto cresce: a n=11n=11 è 2,0%2{,}0\% contro 0,13%0{,}13\%).

Criterio MAP (massimo a posteriori)

Si pesano le verosimiglianze con le probabilità a priori (Decisione ottima - criteri MAP e MLIl ricevitore osserva il vettore $\mathbf r$ e deve stimare il simbolo trasmesso $a_0$: lo spazio $\mathbb R^I$ si divide in $M$ regioni di decisione $\mathcal R_j$. La probabilità di decisione corretta è $P[C]=\sum_j\int_{\mathcal R_j}D_j(\boldsymbol\rho),d\boldsymbol\rho$ con $D_j=p_{\mathbf r|a_0}(\boldsymbol\rho|j),p_j$ e si massimizza assegnando ogni $\boldsymbol\rho$ alla regione con $D_j$ più alto: criterio MAP (massimo a posteriori, ottimo). Il criterio ML ($\arg\max_jp_{\mathbf r|a_0}(\boldsymbol\rho|j)$) ignora le probabilità a priori e coincide con MAP per simboli equiprobabili. Il criterio MD (minima distanza, $\arg\min\lVert\boldsymbol\rho-\mathbf s_j\rVert$) coincide con ML se il rumore è AWGN, quindi con simboli equiprobabili e AWGN è ottimo.Decisione ottima - criteri MAP e ML →), Dj(n)=pj xj(n)D_j(n)=p_j\,x_j(n):

nn Dh=0,99 xhD_h=0{,}99\,x_h Ds=0,01 xsD_s=0{,}01\,x_s decisione
1010 0,383%0{,}383\% 0,012%0{,}012\% sano
1212 0,0419%0{,}0419\% 0,0310%0{,}0310\% sano

Per entrambi i pazienti il MAP dichiara "sano": la malattia è così rara (1%1\%) che anche un conteggio alto è, a posteriori, più probabilmente un sano sfortunato. Le probabilità a posteriori (formula di Bayes, Formula delle probabilità totali e formula di BayesSe (A_i) è una partizione di Ω, P(B) = Σ P(B ∣ A_i) P(A_i) (probabilità totali); la formula di Bayes inverte il condizionamento: P(A_k ∣ B) = P(B ∣ A_k) P(A_k) / P(B).Formula delle probabilità totali e formula di Bayes →) sono P[malato∣n=10]=0,0120,383+0,012=3,0%,P[malato∣n=12]=0,03100,0419+0,0310=42,5%.P[\text{malato}\mid n=10]=\frac{0{,}012}{0{,}383+0{,}012}=3{,}0\%,\qquad P[\text{malato}\mid n=12]=\frac{0{,}0310}{0{,}0419+0{,}0310}=42{,}5\% . La soglia MAP è n≥13n\ge13 per dichiarare malato.

Confronto e discussione

criterio paziente 1 (n=10n=10) paziente 2 (n=12n=12) soglia (n≥n\ge)
MD sano malato 12
ML malato malato 10
MAP sano sano 13
  • MAP ≠\ne ML, perché le probabilità a priori non sono uguali (ph≠psp_h\ne p_s): con ph=psp_h=p_s i due coinciderebbero.
  • ML ≠\ne MD, perché il rumore non è AWGN: la verosimiglianza di Poisson non è una gaussiana centrata nella media (in particolare non è simmetrica e la varianza cresce con la media, λs>λh\lambda_s>\lambda_h), quindi "più vicino alla media" non coincide con "più verosimile".
  • Il criterio ottimo (minima probabilità d'errore) è il MAP. Tuttavia in questo problema minimizzare la probabilità di sbagliare non è l'unico obiettivo: dichiarare "sano" un malato (falso negativo) può essere molto più grave che il contrario, e allora si sceglie una soglia diversa (per esempio quella ML o più bassa).

Errori comuni

  • Applicare MD senza accorgersi che il rumore non è gaussiano (Poisson).
  • Dimenticare le probabilità a priori nel MAP (0,990{,}99 e 0,010{,}01) e dichiarare malati entrambi i pazienti.
  • Confrontare le verosimiglianze come densità di una gaussiana invece che come probabilità di Poisson.

Versione ripasso

  • xh(n)=e−3,83,8nn!x_h(n)=e^{-3{,}8}\frac{3{,}8^n}{n!}, xs(n)=e−18,518,5nn!x_s(n)=e^{-18{,}5}\frac{18{,}5^n}{n!}; ph=0,99p_h=0{,}99, ps=0,01p_s=0{,}01.
  • MD (media più vicina): 10 sano, 12 malato (soglia 11,1511{,}15). ML: entrambi malati (soglia n≥10n\ge10). MAP: entrambi sani (soglia n≥13n\ge13; P[malato∣12]=42,5%P[\text{malato}|12]=42{,}5\%).
  • MAP ≠\ne ML: priori diverse; ML ≠\ne MD: rumore non gaussiano.

Lezioni in cui compare

Teoria collegata