Esercizio - Filtraggio e smoothing nell'ombrello con la nuova versione di pomegranate (materiale supplementare del laboratorio 6)

Parte 1: il foglio di calcolo

Per ogni giorno: predetta $\mathbf p_t=\mathbf T^\top\mathbf f_{t-1}$; grezza $\mathbf v_t=\mathbf l_t\times\mathbf p_t$, con $\mathbf l_t$ la verosimiglianza dell'evidenza data la pioggia; normalizzata $\mathbf f_t=\mathbf v_t/\sum\mathbf v_t$. Se la probabilità di vedere l'ombrello è $q$ (un'evidenza "morbida"), $\mathbf l_t=\langle0{,}9q+0{,}1(1-q);\ 0{,}2q+0{,}8(1-q)\rangle$.

Spiegazioni:

• Non visto: gli ombrelli sono più probabili con la pioggia ($0{,}9$ contro $0{,}2$), quindi la loro assenza (verosimiglianza $0{,}1$ contro $0{,}8$) fa scendere la pioggia da $0{,}5$ a $0{,}111$.
• Nessuna informazione: la verosimiglianza è uguale ($0{,}5$ e $0{,}5$) per i due stati: la grezza è solo il predetto scalato, la normalizzazione la riporta a $\langle0{,}5;\,0{,}5\rangle$ e la filtrata coincide con la predetta. Non si impara nulla.
• Giorno $2$: si ripete esattamente lo stesso calcolo (il modello è modulare) partendo dalla filtrata normalizzata del giorno $1$.

I valori sono stati ricalcolati in Python con la ricorsione del filtraggio (stessi numeri della tabella); i valori di $\mathbf f_2$ per $u_1,u_2$ e per $\neg u_1,u_2$ ($0{,}883$ e $0{,}703$) coincidono con quelli di Esercizio - Filtraggio nell'ombrello con pomegranate (laboratorio 6).

Parte 2: pomegranate (nuova versione)

Nel codice del corso le variabili sono $\text{Rain}_N$ e $\text{Umbrella}_N$; i valori sono $0$ (no) e $1$ (sì), e le tabelle condizionali hanno la forma $[[P(\text{n}\mid\text{n}),P(\text{y}\mid\text{n})],[P(\text{n}\mid\text{y}),P(\text{y}\mid\text{y})]]$, riga = valore del genitore.

from pomegranate.bayesian_network import BayesianNetwork
from pomegranate.distributions import Categorical, ConditionalCategorical

Rain0 = Categorical([[0.5, 0.5]])                       # P(Rain0)
Rain1 = ConditionalCategorical([[[0.7, 0.3],            # P(Rain1 | Rain0 = n)
                                 [0.3, 0.7]]])          # P(Rain1 | Rain0 = y)
Rain2 = ConditionalCategorical([[[0.7, 0.3], [0.3, 0.7]]])
Umbrella1 = ConditionalCategorical([[[0.8, 0.2],        # P(Umbrella1 | Rain1 = n)
                                     [0.1, 0.9]]])      # P(Umbrella1 | Rain1 = y)
Umbrella2 = ConditionalCategorical([[[0.8, 0.2], [0.1, 0.9]]])

model = BayesianNetwork()
model.add_distributions([Rain0, Rain1, Umbrella1, Rain2, Umbrella2])
model.add_edge(Rain0, Rain1); model.add_edge(Rain1, Umbrella1)
model.add_edge(Rain1, Rain2); model.add_edge(Rain2, Umbrella2)

Le query con evidenza passano un tensore con nan per i nodi non osservati, nell'ordine [Rain0, Rain1, Umbrella1, Rain2, Umbrella2]; il risultato è, per ogni nodo, la distribuzione a posteriori.

1. Nessuna evidenza. P(~Rain1) = 0.5, P(Rain1) = 0.5, e lo stesso per Rain2: prima di vedere ombrelli non si può dire nulla sulla pioggia (la distribuzione $\langle0{,}5;\ 0{,}5\rangle$ rappresenta l'ignoranza, stazionaria per la transizione simmetrica).
2. Ombrello al giorno $1$ (scenario = [[nan, nan, 1, nan, nan]]): $\text{Rain}_1$: $\langle0{,}18;\ 0{,}82\rangle$ (filtrata, $0{,}818$); $\text{Rain}_2$: $\langle0{,}37;\ 0{,}63\rangle$ (predizione, $0{,}627$). pomegranate propaga l'evidenza in tutta la rete, quindi calcola anche $\text{Rain}_0$: $\langle0{,}37;\ 0{,}63\rangle$, cioè la probabilità smoothed di pioggia al giorno $0$, benché non sia stato osservato nulla quel giorno. È il messaggio all'indietro: un ombrello al giorno $1$ rende più probabile la pioggia anche il giorno prima (per la persistenza). A mano: $\mathbf f_0\times\mathbf b_{1:1}$ con $\mathbf b_{1:1}=\mathbf T\mathbf O^u\mathbf 1=\langle0{,}7\cdot0{,}9+0{,}3\cdot0{,}2;\ 0{,}3\cdot0{,}9+0{,}7\cdot0{,}2\rangle=\langle0{,}69;\ 0{,}41\rangle$, normalizzato con il prior: $\langle0{,}69\cdot0{,}5;\ 0{,}41\cdot0{,}5\rangle/0{,}55=\langle0{,}627;\ 0{,}373\rangle$.
3. Un terzo giorno e ombrelli nei giorni $1$ e $2$. Si aggiunge $\text{Rain}_3$ (Rain3 = ConditionalCategorical(...), arco $\text{Rain}_2\to\text{Rain}_3$), si crea BayesianNetwork(nodi, archi) e scenario = [[nan, nan, 1, nan, 1, nan]]: $\text{Rain}_1$: $\langle0{,}12;\ 0{,}88\rangle$ e $\text{Rain}_2$: $\langle0{,}12;\ 0{,}88\rangle$. Il valore di $\text{Rain}_2$ è quello filtrato ($0{,}8834$) perché $\text{Rain}_3$ non ha evidenza: i figli senza evidenza non influenzano. Quello di $\text{Rain}_1$ è lo smoothing: $\mathbf f_1\times\mathbf b_{2:2}$ con $\mathbf b_{2:2}=\langle0{,}69;\ 0{,}41\rangle$, $\langle0{,}818\cdot0{,}69;\ 0{,}182\cdot0{,}41\rangle/0{,}639=\langle0{,}883;\ 0{,}117\rangle$ (stesso numero di $\mathbf f_2$ per la simmetria di $\mathbf T$ e di $\mathbf O$ nei due giorni).

Nota. pomegranate non esegue il calcolo del corso (forward-backward): calcola direttamente la probabilità a posteriori di ogni variabile nascosta data l'evidenza, quindi restituisce in automatico gli smoothing di tutti i giorni precedenti all'ultima evidenza (e anche le predizioni per i giorni successivi).

Verifica con numpy

Tutti i numeri sono stati ricalcolati in due modi, con codice proprio: per enumerazione sulla rete srotolata e con forward-backward (Ragionamento probabilistico nel tempo - catene di Markov, HMM, filtraggio e smoothingPer ragionare sul tempo il mondo è una sequenza di istanti: stato nascosto $X_t$ ed evidenza osservata $E_t$. Ipotesi di Markov del primo ordine $P(X_t\mid X_{0:t-1})=P(X_t\mid X_{t-1})$ (modello di transizione) e ipotesi del sensore $P(E_t\mid X_{0:t},E_{1:t-1})=P(E_t\mid X_t)$ (modello del sensore): congiunta $P(X_0)\prod_t P(X_t\mid X_{t-1})P(E_t\mid X_t)$. Un HMM ha uno stato discreto a $S$ valori: transizione = matrice $\mathbf T$ ($T_{ij}=P(X_t=j\mid X_{t-1}=i)$), sensore = matrici diagonali $\mathbf O_t$. Compiti: filtraggio $P(X_t\mid e_{1:t})$, predizione $P(X_{t+k}\mid e_{1:t})$, smoothing $P(X_{t-k}\mid e_{1:t})$, spiegazione più probabile $\arg\max P(x_{1:t}\mid e_{1:t})$. Filtraggio ricorsivo: $\mathbf f_t=\alpha,\mathbf O_t\mathbf T^\top\mathbf f_{t-1}$ (predizione, poi aggiornamento). Mondo dell'ombrello: $\mathbf f_1=\langle0{,}818;\ 0{,}182\rangle$, $\mathbf f_2=\langle0{,}883;\ 0{,}117\rangle$. Senza normalizzare, $\mathbf s_t=\mathbf O_t\mathbf T^\top\mathbf s_{t-1}$ dà la verosimiglianza $P(e_{1:t})$.Ragionamento probabilistico nel tempo - catene di Markov, HMM, filtraggio e smoothing →):

(valori di $P(\text{pioggia})$ per ogni nodo, arrotondati; coincidono con 0.18/0.82, 0.37/0.63 e 0.12/0.88 stampati dal corso).

import numpy as np

T = np.array([[0.7, 0.3], [0.3, 0.7]])
O = {True: np.diag([0.9, 0.2]), False: np.diag([0.1, 0.8])}
f0 = np.array([0.5, 0.5])

def filtro(f, e):
    v = O[e] @ T.T @ f
    return v / v.sum()

f1 = filtro(f0, True)                         # filtrata giorno 1 (u1)
f2 = filtro(f1, True)                         # filtrata giorno 2 (u1, u2)
b = T @ O[True] @ np.ones(2)                  # messaggio all'indietro b_{2:2} = <0.69, 0.41>
s1 = f1 * b; s1 /= s1.sum()                   # smoothing del giorno 1
print(f1, f2, s1)

Output: [0.818 0.182] [0.883 0.117] [0.883 0.117].