Lezione 1Conversione A-D e quantizzazione

Fonte: appunti a mano tlc_01 (conversione A/D e quantizzazione, definizione di informazione ed entropia) e appunti tlc_3 (modulazione analogica in breve e segnali vocali), corso Telecommunications, UniPD.

Argomenti trattati

1. Conversione analogico-digitale: campionamento (reversibile se $F_s\ge2B$, con holder e filtro passa-basso) e quantizzazione (in generale non reversibile); caratteristica ingresso-uscita, soglie e livelli; mappa di bit; symbol rate $F_s$ e bit-rate nominale $R_b=bF_s$.
2. Errore di quantizzazione $e_q=a_q-a$ come rumore additivo; quantizzatore uniforme mid-riser con $\Delta=\frac{2v_{sat}}{L}$, livelli multipli dispari di $\frac\Delta2$, saturazione e probabilità di saturazione $P_{sat}$; scelta di $v_{sat}$ (segnale limitato in $[-A,A]$: $v_{sat}=A$; gaussiano: $P_{sat}=2Q\left(\frac{v_{sat}}{\sigma}\right)$).
3. Ipotesi sull'errore granulare: incorrelato dal segnale, bianco, uniforme in $\left[-\frac\Delta2,\frac\Delta2\right]$, potenza $\frac{\Delta^2}{12}$; segnali a media non nulla (si sottrae la media).
4. SNR di quantizzazione: $\Lambda_q=\frac{M_a}{M_{e_q}}$, formula $6{,}02\,b+4{,}77-20\log_{10}\frac{v_{sat}}{\sigma_a}$ (load factor), $+6$ dB per bit; flusso di progetto ($v_{sat}$, poi $b$ per eccesso); caso con saturazione non nulla; compander.
5. Teoria dell'informazione di Shannon: i quattro postulati, l'informazione $\log_2\frac1P$, il bit; entropia di una variabile discreta, caso binario, $H=0$ se costante, $H\le\log_2M$ (Jensen); entropia congiunta, $H(x,y)=H(x)$ se $y=f(x)$, $H(x,y)\le H(x)+H(y)$.
6. Segnali vocali e modulazione (cenni): AM ($B_{AM}=2B$), FM ($B_{FM}=2(1+\beta)B$), modulazione digitale; voce sonora e sorda; bande tipiche e frequenze di campionamento (telefono $8$ kHz, broadcast $16$ kHz, CD $44{,}1$ kHz, DVD $48$ kHz).

Teoria

• Campionamento e conversione analogico-digitalePer trasmettere un segnale analogico $a(t)$ con un sistema digitale lo si trasforma in bit: filtro anti-aliasing, campionatore ($T_s=\frac1{F_s}$, $F_s\ge2B$), quantizzatore su $L=2^b$ livelli, mappa livello $\to$ $b$ bit, serializzatore. Il bit-rate nominale è $R_b=bF_s$. Campionare è reversibile (con un filtro interpolatore, in pratica un holder) se $F_s\ge2B$; quantizzare invece perde informazione in modo irreversibile. Al ricevitore si ripercorre la catena al contrario (D/A).Campionamento e conversione analogico-digitale → — schema A/D, Nyquist, aliasing, holder, voce e frequenze di campionamento
• Quantizzazione e rumore di quantizzazioneIl quantizzatore mappa ogni campione reale su uno dei $L=2^b$ livelli. Il quantizzatore uniforme mid-riser ha passo $\Delta=\frac{2v_{sat}}{L}$, soglie multiple di $\Delta$ e livelli multipli dispari di $\frac\Delta2$. L'errore $e_q=a_q-a$ è granulare (in $[-\frac\Delta2,\frac\Delta2]$, circa uniforme, potenza $\frac{\Delta^2}{12}$) o di saturazione (fuori da $[-v_{sat},v_{sat}]$, trascurabile se $P_{sat}$ è piccola). L'SNR è $\Lambda_q=\frac{M_a}{M_{e_q}}$ e, con saturazione trascurabile, $[\Lambda_q]{dB}=6{,}02,b+4{,}77-20\log{10}\frac{v_{sat}}{\sigma_a}$: $+6$ dB per ogni bit.Quantizzazione e rumore di quantizzazione → — quantizzatore uniforme, errore granulare e di saturazione, SNR, progetto
• Informazione, entropia e informazione mutuaL'informazione di un evento di probabilità $P$ è $i=\log_2\frac1P$ bit; l'entropia $H(x)=\sum p\log_2\frac1p$ è l'informazione media e misura l'incertezza: $0\le H\le\log_2M$, massimo se i simboli sono equiprobabili. Per due variabili: $\max{H(x),H(y)}\le H(x,y)\le H(x)+H(y)$, $H(x|y)=H(x,y)-H(y)$ e l'informazione mutua $I(x;y)=H(x)-H(x|y)=H(x)+H(y)-H(x,y)\ge0$ (zero se e solo se indipendenti). Per una sorgente di $F_s$ simboli/s: rate di informazione $F_sH_s$, rate nominale $F_s\log_2M$, efficienza $\eta=\frac{H_s}{\log_2M}$.Informazione, entropia e informazione mutua → — informazione, entropia, congiunta (la parte condizionata è nella lezione successiva)

Esercizi

• Esercizio - quantizzazione di segnali uniformi e gaussiani — SNR con $v_{sat}$ diverso, bit per $36$ e $60$ dB e il caso di progetto a $90$ dB

Lezione successiva: Lezione 2 · Entropia condizionata e codifica di sorgente