Quantizzazione e rumore di quantizzazione

La quantizzazione è il blocco che trasforma i campioni, numeri reali, in valori scelti in un insieme finito (Campionamento e conversione analogico-digitalePer trasmettere un segnale analogico $a(t)$ con un sistema digitale lo si trasforma in bit: filtro anti-aliasing, campionatore ($T_s=\frac1{F_s}$, $F_s\ge2B$), quantizzatore su $L=2^b$ livelli, mappa livello $\to$ $b$ bit, serializzatore. Il bit-rate nominale è $R_b=bF_s$. Campionare è reversibile (con un filtro interpolatore, in pratica un holder) se $F_s\ge2B$; quantizzare invece perde informazione in modo irreversibile. Al ricevitore si ripercorre la catena al contrario (D/A).Campionamento e conversione analogico-digitale → ne mostra il posto nella catena A/D). È l'unica operazione della conversione che perde informazione in modo irreversibile, quindi bisogna saper misurare quanto errore introduce e quanti bit servono per tenerlo sotto un valore dato.

1. Il quantizzatore

Definizione (quantizzatore). Un quantizzatore è una funzione $Q:\mathbb R\to\mathcal A_q=\{Q_1,\dots,Q_L\}$ che a ogni campione $a(nT_s)$ associa un livello $a_q(nT_s)=Q(a(nT_s))$. Si divide $\mathbb R$ in $L$ regioni disgiunte $\mathcal R_1,\dots,\mathcal R_L$ separate da $L-1$ soglie $v_2<\dots<v_L$; il campione in $\mathcal R_j$ diventa $Q_j$. Si prende $L=2^b$ con $b$ bit per campione.

Esempio. Le soglie $v=\{-1,0,1\}$ dividono $\mathbb R$ in quattro regioni $(-\infty,-1)$, $(-1,0)$, $(0,1)$, $(1,+\infty)$; con i livelli $\{-1{,}5,-0{,}5,0{,}5,1{,}5\}$ il campione $0{,}3$ diventa $0{,}5$ e il campione $-4$ diventa $-1{,}5$. Si lavora con $L=4$, quindi $b=2$ bit.

Definizione (quantizzatore uniforme e mid-riser). Il quantizzatore uniforme (PCM, pulse code modulation) ha tutte le regioni interne di ampiezza uguale $\Delta$ (il passo di quantizzazione). Si sceglie il range dinamico $[-v_{sat},v_{sat}]$ ($v_{sat}$ è la tensione di saturazione) e si divide in $L$ passi: $$\boxed{\Delta=\frac{2v_{sat}}{L}=\frac{2v_{sat}}{2^b}},\qquad v_{sat}=2^{b-1}\Delta.$$ Nel tipo mid-riser ("la scala sale in zero") le soglie sono i multipli di $\Delta$ (che sono i multipli pari di $\frac\Delta2$) e i livelli sono i punti centrali delle regioni, cioè i multipli dispari di $\frac\Delta2$: $$Q_j=\pm\frac\Delta2,\ \pm\frac{3\Delta}2,\ \dots,\ \pm\frac{(L-1)\Delta}2,\qquad\text{soglie }0,\pm\Delta,\pm2\Delta,\dots,\pm\left(\tfrac L2-1\right)\Delta.$$ Nel mid-tread invece il valore $0$ è un livello e i livelli sono $0,\pm\Delta,\pm2\Delta,\dots$. Negli esercizi si usa il mid-riser.

Le due regioni esterne (sopra l'ultima soglia e sotto la prima) si estendono all'infinito: lì il quantizzatore satura, cioè restituisce sempre l'ultimo livello $\pm\frac{(L-1)\Delta}2=\pm\left(v_{sat}-\frac\Delta2\right)$.

Esempio. $L=8$ ($b=3$) e $v_{sat}=4$ V: $\Delta=\frac{2\cdot4}{8}=1$ V; livelli $\pm0{,}5,\ \pm1{,}5,\ \pm2{,}5,\ \pm3{,}5$ V; soglie $-3,-2,-1,0,1,2,3$ V. L'ingresso $1{,}2$ V cade tra le soglie $1$ e $2$ e diventa $1{,}5$ V (errore $+0{,}3$ V); l'ingresso $-5$ V è oltre la soglia $-3$ V, quindi satura nel livello $-3{,}5$ V (errore $+1{,}5$ V). Non si trova mai il livello $0$.

2. L'errore di quantizzazione

Definizione (errore e rumore di quantizzazione). $e_q(nT_s)=a_q(nT_s)-a(nT_s)$, quindi $a_q=a+e_q$: all'uscita c'è il segnale più un "rumore" additivo, come se l'errore fosse introdotto dal canale.

Come funzione di $a$, l'errore ha l'andamento a dente di sega: nella zona granulare ($\lvert a\rvert\le v_{sat}$) cade sempre in $\left[-\frac\Delta2,\frac\Delta2\right]$, perché il livello è il punto di mezzo della regione; nella zona di saturazione cresce linearmente con la distanza da $v_{sat}$ e non ha limite.

Per misurare quanto è grave si usa la potenza statistica dell'errore, calcolata con la densità $p_a(u)$ del campione. Si scompone l'asse reale nelle tre zone: $$M_{e_q}=E\left[e_q^2\right]=\underbrace{\int_{-\infty}^{-v_{sat}}\left(Q_1-u\right)^2p_a(u)\,du}_{\text{saturazione (a sinistra)}}+\underbrace{\int_{-v_{sat}}^{v_{sat}}\left(Q(u)-u\right)^2p_a(u)\,du}_{\text{granulare}}+\underbrace{\int_{v_{sat}}^{+\infty}\left(Q_L-u\right)^2p_a(u)\,du}_{\text{saturazione (a destra)}}.$$ È un conto pesante: si semplifica con due ipotesi.

(A) La probabilità di saturazione è piccola. La probabilità di saturazione è $$P_{sat}=P\left[\lvert a\rvert>v_{sat}\right]=\int_{\lvert u\rvert>v_{sat}}p_a(u)\,du.$$ Se è piccola l'errore di saturazione pesa poco e lo si trascura. Alcuni casi (per il calcolo si usa la funzione $Q$ della gaussiana, $Q(y)=\frac1{\sqrt{2\pi}}\int_y^\infty e^{-x^2/2}dx$, Distribuzione gaussiana (normale)N(μ, σ²) ha densità e^(−(x−μ)²/(2σ²)) / √(2πσ²), a campana centrata in μ con larghezza σ; media μ, varianza σ²; si standardizza con Z = (X − μ)/σ ~ N(0, 1) e si calcola P(X ≤ x) = Φ((x − μ)/σ), con Φ(−z) = 1 − Φ(z); aX + b è ancora gaussiana, N(aμ + b, a²σ²).Distribuzione gaussiana (normale) →, approfondita in Probabilità d'errore e funzione QPer due segnali di energie $E_1,E_2$ con coefficiente di correlazione $\rho=\frac{\langle s_1,s_2\rangle}{\sqrt{E_1E_2}}$ la distanza è $d_{12}=\sqrt{E_1+E_2-2\rho\sqrt{E_1E_2}}$ e, con rumore AWGN, simboli equiprobabili e criterio MD, $P[E]=Q\left(\frac{d_{12}}{2\sigma_I}\right)=Q\left(\sqrt{\frac{E_s(1-\rho)}{N_0}}\right)$ con $\sigma_I^2=\frac{N_0}2$ e $Q$ la coda della gaussiana. Il caso antipodale ($\rho=-1$) dà $Q\left(\sqrt{\frac{2E_s}{N_0}}\right)$, l'ortogonale ($\rho=0$) $Q\left(\sqrt{\frac{E_s}{N_0}}\right)$: 3 dB peggio. Con $M>2$ segnali si usano limiti: $\frac{N^*}M Q\left(\frac{d_{min}}{2\sigma_I}\right)\le P[E]\le(M-1)Q\left(\frac{d_{min}}{2\sigma_I}\right)$ (union bound); la probabilità dipende solo da $\frac{E_s}{N_0}$, cioè dall'SNR.Probabilità d'errore e funzione Q →):

Per la gaussiana il fattore $2$ conta le due code, a destra e a sinistra.

Se il segnale è certamente limitato, $\lvert a\rvert\le A$, si sceglie $v_{sat}=A$ e $P_{sat}=0$ esattamente; altrimenti in pratica si richiede $P_{sat}$ molto piccola (un valore tipico è $P_{sat}\le10^{-5}$) e si sceglie $v_{sat}$ di conseguenza.

(B) $L$ è grande (il passo $\Delta$ è piccolo rispetto a come varia la densità). Dentro ogni regione $p_a$ è quasi costante, quindi l'errore granulare, che dentro una regione è uguale a "livello meno campione", è uniforme in $\left[-\frac\Delta2,\frac\Delta2\right]$: $p_e(x)=\frac1\Delta\operatorname{rect}\left(\frac x\Delta\right)$. Ne seguono: $$E[e_q]=0,\qquad M_{e_q}=\frac1\Delta\int_{-\Delta/2}^{\Delta/2}x^2dx=\frac1\Delta\cdot\frac23\left(\frac\Delta2\right)^3=\boxed{\frac{\Delta^2}{12}}.$$ (l'integrale di $x^2$ è $\frac{x^3}3$, calcolato tra $-\frac\Delta2$ e $\frac\Delta2$ dà $\frac13\cdot2\cdot\frac{\Delta^3}8=\frac{\Delta^3}{12}$, diviso $\Delta$).

Si assume inoltre che l'errore sia incorrelato con il segnale, $E[e_q\,a]=0$, e che campioni diversi dell'errore siano incorrelati, $E[e_q(nT_s)e_q(mT_s)]=0$ per $n\neq m$: il rumore di quantizzazione è quindi bianco (spettro piatto). Sono ipotesi, non teoremi: funzionano bene per $L$ grande.

Esempio. Con $\Delta=1$ V (esempio sopra) $M_{e_q}=\frac1{12}=0{,}0833$ V$^2$, errore efficace $\sqrt{0{,}0833}=0{,}289$ V, che è $\frac{\Delta}{\sqrt{12}}$ e non $\frac\Delta2$ (l'errore massimo): la media del quadrato è minore del quadrato del massimo.

3. Il rapporto segnale-rumore di quantizzazione

Definizione (SNR di quantizzazione). $$\Lambda_q=\frac{E\left[a(nT_s)^2\right]}{E\left[e_q(nT_s)^2\right]}=\frac{M_a}{M_{e_q}},\qquad[\Lambda_q]_{dB}=10\log_{10}\Lambda_q.$$ Con segnale a media nulla $M_a=\sigma_a^2$ (varianza); in generale $M_a=\sigma_a^2+m_a^2$. Più è alto, più il segnale quantizzato è fedele.

Esempio. Segnale con $\sigma_a^2=2$ V$^2$ e rumore $M_{e_q}=0{,}002$ V$^2$: $\Lambda_q=1000$, cioè $30$ dB.

Con (A) e (B) si sostituisce $M_{e_q}=\frac{\Delta^2}{12}$ con $\Delta=\frac{2v_{sat}}{2^b}$, quindi $\Delta^2=\frac{4v_{sat}^2}{4^b}$: $$\Lambda_q=\frac{\sigma_a^2}{\Delta^2/12}=\frac{12\,\sigma_a^2\,4^b}{4\,v_{sat}^2}=3\,\frac{\sigma_a^2}{v_{sat}^2}\,4^b.$$ Prendendo $10\log_{10}$ (con $10\log_{10}3=4{,}77$ e $10\log_{10}4=6{,}02$): $$\boxed{[\Lambda_q]_{dB}=6{,}02\,b+4{,}77-20\log_{10}\frac{v_{sat}}{\sigma_a}}$$ Il rapporto $\frac{v_{sat}}{\sigma_a}$ si chiama load factor (fattore di carico del quantizzatore). Conseguenze:

• ogni bit in più (il doppio dei livelli, $\Delta$ dimezzato, potenza dell'errore divisa per 4) dà $+6{,}02$ dB;
• allargare il range peggiora l'SNR: con $v_{sat}=k\sigma_a$ si perdono $20\log_{10}k$ dB ($9{,}5$ dB per $k=3$, $12$ dB per $k=4$, $14$ dB per $k=5$) perché a $b$ fisso il passo cresce.

Esempio (tabella, segnale gaussiano, $v_{sat}=k\sigma$).

Per esempio $b=8$, $k=4$: $6{,}02\cdot8+4{,}77-12{,}04=40{,}89$ dB.

Verifica numerica. Per un gaussiano con $\sigma=1$, $v_{sat}=4$, $b=3$ l'integrazione numerica dell'errore (granulare più saturazione) dà $M_{e_q}=0{,}0834$ contro $\frac{\Delta^2}{12}=0{,}0833$ ($\Delta=1$): $\Lambda_q=10{,}79$ dB, uguale alla formula; con $b=8$ si trova $40{,}55$ dB contro $40{,}89$ dB della formula: già lì la saturazione toglie $0{,}3$ dB.

4. Il compromesso su $v_{sat}$ e $L$ e la saturazione non trascurabile

• Per ridurre $P_{sat}$ serve $v_{sat}$ grande (gaussiano: $3\sigma\to2{,}7\cdot10^{-3}$, $4\sigma\to6{,}3\cdot10^{-5}$).
• Ma a $b$ fissato $\Delta=\frac{2v_{sat}}{2^b}$ cresce con $v_{sat}$ e con esso l'errore granulare $\frac{\Delta^2}{12}$.
• Se $b$ è molto grande, $\frac{\Delta^2}{12}$ diventa minuscolo mentre l'errore di saturazione non dipende da $b$ (dipende da $v_{sat}$ e da $p_a$): a un certo punto domina e l'SNR smette di crescere: la regola dei $6$ dB per bit cade.

Quando la saturazione conta, si pesano le due zone, con $P_{sat}$ come probabilità di essere nella zona di saturazione: $$M_{e_q}\simeq(1-P_{sat})\frac{\Delta^2}{12}+P_{sat}\,M_{sat},\qquad M_{sat}=E\left[\left(\lvert a\rvert-v_{sat}+\tfrac\Delta2\right)^2\,\Big|\,\lvert a\rvert>v_{sat}\right],$$ dove l'ultimo livello è a distanza $\frac\Delta2$ dal bordo. Per un segnale gaussiano con $v_{sat}=k\sigma$ e $\Delta$ piccolo il contributo di saturazione è $P_{sat}M_{sat}=2\sigma^2\left[(1+k^2)Q(k)-k\varphi(k)\right]$, con $\varphi(k)=\frac{e^{-k^2/2}}{\sqrt{2\pi}}$ (si ottiene integrando per parti $\int_k^\infty(x-k)^2\varphi(x)dx$).

Esempio. Gaussiano a media nulla con $\sigma^2=0{,}01$ V$^2$ e $v_{sat}=0{,}4$ V ($=4\sigma$, $P_{sat}=6{,}3\cdot10^{-5}$); integrazione numerica:

Con $L=8$ la saturazione non conta; con $L=800$ è quasi alla pari con l'errore granulare e toglie $2{,}5$ dB. Per $\sigma=2$ V e $v_{sat}=8$ V ($4\sigma$) il tetto di SNR dovuto alla sola saturazione è $10\log_{10}\frac{\sigma^2}{2\sigma^2[(1+16)Q(4)-4\varphi(4)]}=52{,}1$ dB: nessun numero di bit lo supera (Esercizio - quantizzazione di segnali uniformi e gaussiani).

5. Progetto di un quantizzatore

I dati tipici: la densità del segnale con il suo parametro, una probabilità di saturazione massima $P_{sat}$ e/o un SNR minimo.

1. $v_{sat}$ dalla probabilità di saturazione (si inverte la tabella del §2):
   • gaussiano: $2Q\left(\frac{v_{sat}}\sigma\right)=P_{sat}\Rightarrow v_{sat}=\sigma\,Q^{-1}\left(\frac{P_{sat}}2\right)$;
   • laplaciano: $v_{sat}=b_L\ln\frac1{P_{sat}}$;
   • esponenziale (solo valori positivi): range $[0,v_{sat}]$, $v_{sat}=\frac1\lambda\ln\frac1{P_{sat}}$ e passo $\Delta=\frac{v_{sat}}L$ (non ha senso sprecare metà dei livelli sui valori negativi che non esistono);
   • segnale limitato $\lvert a\rvert\le A$: $v_{sat}=A$ e $P_{sat}=0$.
2. Bit dall'SNR richiesto: si inverte la formula, $b\ge\frac{\Lambda_{dB}-4{,}77+20\log_{10}(v_{sat}/\sigma_a)}{6{,}02}$ e si arrotonda per eccesso all'intero (con meno bit l'SNR sarebbe sotto la soglia).
3. Risultati: $L=2^b$, $\Delta=\frac{2v_{sat}}{L}$, SNR effettivo (con $b$ intero è un po' maggiore del richiesto), bit-rate $F_sb$.

Esempio (gaussiano). $\sigma=0{,}5$ V, $P_{sat}\le10^{-4}$, SNR $\ge40$ dB. Passo 1: $Q^{-1}(5\cdot10^{-5})=3{,}891$, $v_{sat}=0{,}5\cdot3{,}891=1{,}945$ V. Passo 2: $20\log_{10}\frac{1{,}945}{0{,}5}=11{,}80$ dB, $b\ge\frac{40-4{,}77+11{,}80}{6{,}02}=7{,}81\Rightarrow b=8$. Passo 3: $L=256$, $\Delta=\frac{2\cdot1{,}945}{256}=0{,}0152$ V, $\Lambda_q=6{,}02\cdot8+4{,}77-11{,}80=41{,}13$ dB (calcolo esatto: $41{,}14$ dB). Con $b=7$ sarebbe $35{,}1$ dB, insufficiente.

Esempio (laplaciano). $b_L=1$ V (varianza $2b_L^2=2$ V$^2$), $P_{sat}=2\cdot10^{-4}$, SNR $\ge60$ dB. $v_{sat}=\ln5000=8{,}52$ V; $20\log_{10}\frac{8{,}52}{1{,}414}=15{,}6$ dB; $b\ge\frac{60-4{,}77+15{,}6}{6{,}02}=11{,}77\Rightarrow b=12$, $L=4096$, $\Delta=\frac{2\cdot8{,}52}{4096}=4{,}16$ mV, $\Lambda_q=61{,}4$ dB.

Segnali a media non nulla. Se $E[a]=c\neq0$ un quantizzatore simmetrico spreca il range. Si trasmette $\tilde a(t)=a(t)-c$ (si sottrae la media, e si riaggiunge al ricevitore): la potenza da coprire è $M_{\tilde a}=\sigma_a^2\ll M_a$. Nell'SNR conta la potenza del segnale che si vuole trasmettere: $M_a=\sigma_a^2+m_a^2$ se si quantizza $a$ senza centrarlo, $\sigma_a^2$ se si quantizza $\tilde a$. Per l'esponenziale $\operatorname{Exp}(\lambda)$ la potenza statistica è $M_a=\frac2{\lambda^2}$ (media $\frac1\lambda$, varianza $\frac1{\lambda^2}$).

6. Quantizzatori non uniformi

Se la densità non è uniforme (voce: molti campioni vicino a zero e pochi grandi) conviene avere gradini piccoli dove i campioni cadono spesso e grandi dove sono rari. Il metodo classico è il compander (compressore + espansore): un blocco non lineare comprime la scala, un quantizzatore uniforme lavora sul segnale compresso e un blocco inverso espande al ricevitore. Equivale a una scala di livelli concentrati attorno allo zero. Si può anche scegliere soglie e livelli ottimi per la densità data (si veda l'approfondimento in Esercizio - progetto di un quantizzatore non uniforme).

Errori comuni

• $\Delta=\frac{v_{sat}}L$ (manca il 2 se il range è simmetrico $[-v_{sat},v_{sat}]$; con $[0,v_{sat}]$ è giusto).
• Mettere il livello $0$ nel mid-riser: i livelli sono $\pm\frac\Delta2,\pm\frac{3\Delta}2,\dots$.
• $P_{sat}$ con una coda sola per un segnale simmetrico: sono due code, $2Q\left(\frac{v_{sat}}\sigma\right)$, e in inversione $Q^{-1}\left(\frac{P_{sat}}2\right)$.
• Dimenticare di arrotondare $b$ per eccesso, e di dare poi l'SNR effettivo.
• Usare la varianza al posto della potenza statistica per segnali a media non nulla.
• Credere che l'SNR cresca di $6$ dB per bit sempre: vale finché la saturazione è trascurabile.