Esercizio - bit con rumore gaussiano, decisione a soglia e probabilità totali (esercizi del corso, cap. 2, es. 5, 6 e 11)

---

Teoria usata: Probabilità per le telecomunicazioni - eventi e variabili aleatorie discreteGli eventi hanno probabilità tra 0 e 1 e P(x∪y) = P(x) + P(y) − P(x∩y). Una variabile aleatoria discreta ha un alfabeto A_x e una densità p_x(a) = P(x = a) con somma 1. Si definiscono probabilità condizionata, indipendenza (p_{x,y}(a,b) = p_x(a)p_y(b)), valore atteso E(x) = m_x, potenza M_x = E(x²), varianza σ_x² con M_x = m_x² + σ_x²; l'aspettazione è lineare e per variabili indipendenti E(xy) = E(x)E(y).Probabilità per le telecomunicazioni - eventi e variabili aleatorie discrete →, Variabili aleatorie continue - uniforme, gaussiana, esponenziale e funzione QUna v.a. continua ha funzione di distribuzione F_x(a) = P(x ≤ a) e densità f_x(a) = dF_x/da ≥ 0 con integrale 1; P(A ≤ x ≤ B) = F_x(B) − F_x(A) = ∫_A^B f_x e P(x = A) = 0. Uniforme U([a,b]): densità 1/(b−a), media (a+b)/2, varianza (b−a)²/12. Esponenziale unilatera di media m: (1/m)e^(−a/m), a ≥ 0. Gaussiana N(m, σ²): P(x ≥ A) = Q((A − m)/σ), con Q(A) coda della gaussiana standard. Somme di gaussiane indipendenti sono gaussiane (medie e varianze si sommano); teorema del limite centrale.Variabili aleatorie continue - uniforme, gaussiana, esponenziale e funzione Q →, Formula delle probabilità totali e formula di BayesSe (A_i) è una partizione di Ω, P(B) = Σ P(B ∣ A_i) P(A_i) (probabilità totali); la formula di Bayes inverte il condizionamento: P(A_k ∣ B) = P(B ∣ A_k) P(A_k) / P(B).Formula delle probabilità totali e formula di Bayes →.

Per tutti e tre gli esercizi $x$ è il bit trasmesso ($P(x=1)=p$, $P(x=0)=1-p$) e $w$ è il rumore, con densità gaussiana $\mathcal N(0,\sigma^2)$. Il passo chiave è sempre lo stesso: condizionare al valore di $x$. Se $x$ è noto, $y=x+w$ è una gaussiana con media $x$ e varianza $\sigma^2$, e la probabilità di un evento su $y$ si legge con la $Q$ standardizzando; poi si combinano i due casi con la formula delle probabilità totali.

Esercizio 5

(1) $P(y>0\mid x=1)$. Dato $x=1$ si ha $y=1+w$, quindi $y>0\Leftrightarrow w>-1$. Per una gaussiana a media nulla e deviazione standard $\sigma=1{,}4$, standardizzando ($\frac{a-m}{\sigma}$ con $m=0$): $$P(w>-1)=Q\Big(\frac{-1-0}{1{,}4}\Big)=Q(-0{,}714)=1-Q(0{,}714)=1-0{,}2375=0{,}7625.$$ (Si è usata $Q(-z)=1-Q(z)$: la soglia $-1$ è sotto la media, quindi la coda destra comprende più di metà della probabilità.)

(2) $P(y>0)$. Formula delle probabilità totali sui due valori di $x$: $$P(y>0)=P(y>0\mid x=0)\,P(x=0)+P(y>0\mid x=1)\,P(x=1).$$ Con $x=0$ è $y=w$ e $P(w>0)=Q(0)=0{,}5$ per la simmetria. Quindi $$P(y>0)=0{,}5\cdot(1-0{,}2)+0{,}7625\cdot0{,}2=0{,}4+0{,}1525=0{,}5525.$$

(3) $P(y<0)$. $y$ è una variabile continua, $P(y=0)=0$, quindi $P(y<0)=1-P(y>0)=1-0{,}5525=0{,}4475$.

Esercizio 6

Qui $y=\operatorname{sgn}(x+w)$ prende solo i valori $\pm1$: è una decisione a soglia, che stima il bit con il segno del campione ricevuto (e restituisce $+1$ o $-1$).

(1) $P(y=x)$. Con $x\in\{0,1\}$ e $y\in\{-1,+1\}$ l'uguaglianza $y=x$ può accadere solo per $x=1$, $y=1$ (per $x=0$ nessun valore di $y$ è uguale a $0$). Quindi $$P(y=x)=P(y=1\mid x=1)\,P(x=1)=P(1+w\ge0)\cdot p.$$ Ora $1+w\ge0\Leftrightarrow w\ge-1$, con $\sigma=1$: $P(w\ge-1)=Q(-1)=1-Q(1)=1-0{,}1587=0{,}8413$. Quindi $P(y=x)=0{,}8413\cdot0{,}2=0{,}168$.

(2) $P(y>0\mid x=1)$. $y>0$ equivale a $y=+1$, cioè a $1+w\ge0$: stessa probabilità del punto precedente, $Q(-1)=0{,}8413$.

(3) $P(y=2x-1)$. La funzione $2x-1$ trasforma $x=0$ in $-1$ e $x=1$ in $+1$: la richiesta è che la decisione azzecchi il bit. Ancora per le probabilità totali: $$P(y=2x-1)=P(y=-1\mid x=0)\,P(x=0)+P(y=1\mid x=1)\,P(x=1).$$ Per $x=0$: $y=-1\Leftrightarrow w<0$, con probabilità $0{,}5$; per $x=1$: $y=1$ con probabilità $0{,}8413$. Quindi $$P(y=2x-1)=0{,}5\cdot0{,}8+0{,}8413\cdot0{,}2=0{,}4+0{,}1683=0{,}568.$$ (La probabilità di decisione corretta è bassa perché i due bit hanno distanza $1$ uguale al rumore e la soglia $0$ non è ottima per bit non equiprobabili, argomento del capitolo sui criteri MAP e ML.)

Esercizio 11

Dato $y=x+w$, la variabile $z$ è una decisione a tre livelli con una zona centrale $|y|<A$ in cui non si decide ($z=0$, una "cancellazione"). Con $A=2$:

(1) $P(z=0)=P(|y|<A)$. Si condiziona a $x$ (equiprobabili, $p=0{,}5$).

• Con $x=0$: $y=w$, $P(|w|<2)=1-2Q(2)=1-2\cdot0{,}02275=0{,}9545$.
• Con $x=1$: $y=1+w$ e $|y|<2\Leftrightarrow-3<w<1$. La probabilità di un intervallo è la differenza delle code: $P(-3<w<1)=Q(-3)-Q(1)=(1-Q(3))-Q(1)=1-0{,}00135-0{,}1587=0{,}8400$.

Formula generale: $P(z=0)=0{,}5\,[1-2Q(A)]+0{,}5\,[1-Q(A-1)-Q(A+1)]=0{,}5-Q(A)+0{,}5\,[1-Q(A+1)-Q(A-1)]$. Per $A=2$: $$P(z=0)=0{,}5\cdot0{,}9545+0{,}5\cdot0{,}8400=0{,}4772+0{,}4200=0{,}8972.$$

(2) $1-P(z\ne x\mid x\ne0)$. Condizionare a $x\ne0$ significa $x=1$, quindi $1-P(z\ne1\mid x=1)=P(z=1\mid x=1)$: la probabilità di decidere correttamente il bit $1$, cioè $y>A$ con $y=1+w$: $$P(1+w>2)=P(w>1)=Q(A-1)=Q(1)=0{,}1587.$$ È bassa perché con $A=2$ la soglia di decisione per il valore $1$ è lontana dal punto trasmesso $1$ (distanza $A-1=1$ in unità del rumore).

(Tutti i valori sono stati ricalcolati con Python: $Q(-1/1{,}4)\to0{,}7625$, $P(y>0)=0{,}5525$, $P(y=x)=0{,}1683$, $P(y=2x-1)=0{,}5683$, $P(z=0)=0{,}8972$, $Q(1)=0{,}1587$; coincidono con le soluzioni del corso, che riportano i valori arrotondati $0{,}76$, $0{,}55$, $0{,}45$, $0{,}17$, $0{,}84$, $0{,}57$, $0{,}897$, $0{,}16$.)

Errori comuni

• Dimenticare di condizionare a $x$: $y$ non è gaussiana senza condizionamento (è una miscela di due gaussiane).
• Usare $\sigma^2$ al posto di $\sigma$ nello standardizzare: nell'es. 5 si divide per $1{,}4$, non per $1{,}96$.
• Scambiare $Q(-1)$ con $Q(1)$: $Q(-1)=0{,}8413$ è la probabilità che il rumore stia sopra $-1$.
• Nell'es. 6, contare anche $x=0$ in $P(y=x)$: $y$ vale $\pm1$ e non può essere uguale a $0$.