Processi aleatori attraverso sistemi LTI

Si usano Processi aleatori - definizioni, media e autocorrelazioneUn processo aleatorio x(t), t in I (R o Z(T)), è una famiglia di variabili aleatorie sullo stesso spazio di probabilità; fissato l'esito si ottiene una realizzazione (un segnale). Si descrive con le densità di ordine N (complete), in particolare del primo e del secondo ordine, oppure solo con media m_x(t) e correlazione r_x(t,s) = E[x(t)x*(s)] (descrizione di potenza). Un processo gaussiano è determinato da media e correlazione.Processi aleatori - definizioni, media e autocorrelazione →, Processi stazionari e densità spettrale di potenzaUn processo è stazionario in media, in potenza, nel primo ordine o in correlazione se la rispettiva grandezza non cambia traslando il tempo; stazionario in senso lato (sl) = media costante e r_x(t,s) = r_x(t-s); in senso stretto (ss) = tutte le densità invarianti. La densità spettrale di potenza R_x(f) = F[r_x(τ)] è non negativa e ha integrale = potenza statistica. Rumore bianco: R costante. Ciclostazionario: statistiche periodiche. Ergodico in media: la media temporale di una realizzazione converge a m_x.Processi stazionari e densità spettrale di potenza →, le tf di Trasformazioni e sistemi - proprietàUna trasformazione manda un segnale d'ingresso su I in un segnale d'uscita su U, y = φ[x]. Si classifica per invertibilità, memoria, causalità, stabilità BIBO, linearità, tempo-invarianza e realtà. Una trasformazione lineare ha un nucleo h(t,u) = risposta all'impulso applicato in u; la finestra y = w·x è lineare ma NON tempo-invariante. Le tf LTI (filtri) sono il caso con h(t,u) = g(t-u).Trasformazioni e sistemi - proprietà → e la teoria dei filtri (Sistemi lineari tempo-invarianti e risposta impulsivaUna tf lineare e tempo-invariante (LTI, filtro) ha nucleo h(t,u) = g(t-u): l'uscita è la convoluzione y = gx con la risposta impulsiva g (uscita all'impulso ideale nell'origine). Causale se e solo se g è causale; stabile BIBO se e solo se g è assolutamente integrabile (sommabile); reale se e solo se g è reale. Cascata: g = g2g1; parallelo: g1+g2; retroazione: Ge = G/(1+HG) in frequenza.Sistemi lineari tempo-invarianti e risposta impulsiva →, Risposta in frequenza e filtriLa risposta in frequenza G(f) = F[g] di un filtro LTI dà Y = G·X. Gli esponenziali complessi sono autofunzioni (autovalore G(f)), quindi un ingresso sinusoidale esce sinusoidale con ampiezza moltiplicata per |G(f0)| e fase aumentata di arg G(f0). Il filtro è reale se G è hermitiana, invertibile se G non si annulla. I filtri ideali sono rect in frequenza; non distorsione secondo Heaviside: |G| costante e fase lineare.Risposta in frequenza e filtri →). Per questi argomenti le dispense non erano disponibili: la nota segue l'elenco degli argomenti delle lezioni e la teoria standard, ed è stata confrontata con la registrazione della lezione 25 (trasformazioni di processi, filtraggio, campionamento; il teorema del campionamento per processi è della lezione 26).

Formulazione generale

Una trasformazione $\varphi$ (una di quelle dei segnali determinati) manda un segnale definito su $I$, il dominio d'ingresso, in un segnale definito su $U$, il dominio d'uscita. Se in ingresso c'è un processo $x(t;\omega)$, non si sa quale realizzazione si osserverà: si scrive comunque $x(t)$, $t\in I$, ma si pensa all'insieme di tutte le realizzazioni. Per ogni esito fissato $\omega_0$ la realizzazione $x(\cdot;\omega_0)$ è un segnale determinato, e la sua trasformata è la realizzazione di uscita corrispondente: $$y(t;\omega_0)=\varphi\big[x(\cdot;\omega_0)\big](t),\qquad t\in U.$$ Al variare di $t\in U$ e di $\omega$ nello spazio campione, $y(t;\omega)$ è a sua volta un processo aleatorio, definito sullo stesso spazio di probabilità: $y=\varphi[x]$. È la specificazione indiretta di un processo, ed è l'estensione di ciò che si fa con le variabili aleatorie: lì una funzione $g$ manda numeri in numeri, e $g(X)$ è ancora una variabile aleatoria perché dipende dall'esito $\omega$ (Funzioni di una variabile aleatoriaPer trovare la legge di Y = g(X) si calcola la FdD: F_Y(y) = P(g(X) ≤ y) = P(X ∈ g⁻¹((−∞, y])), poi si deriva; se g è strettamente monotona e derivabile vale la formula f_Y(y) = f_X(g⁻¹(y)) · |(g⁻¹)'(y)|; se g è costante a tratti Y è discreta; se g non è iniettiva (es. X²) si spezza l'evento.Funzioni di una variabile aleatoria →); qui $\varphi$ manda segnali in segnali e $\varphi[x]$ è ancora un processo.

Il problema è ricavare la descrizione statistica di $y$ (completa, del primo o secondo ordine, o di potenza) da quella di $x$ e dalla caratterizzazione di $\varphi$ (per esempio la relazione ingresso-uscita).

Il problema si può sempre risolvere? No: tre controesempi

Anche solo "in linea di principio" (lasciando da parte la difficoltà dei calcoli) la risposta è no in generale: dipende dall'ordine della descrizione cercata e dalla trasformazione. Tre controesempi, uno per ogni tipo di ostacolo.

1. Il primo ordine di $y$ può richiedere il secondo ordine di $x$. Sia $y(t)=x(t)+x(t-T)$. La variabile $y(t)$ dipende non solo da $x(t)$ ma anche da $x(t-T)$, un'altra variabile del processo: servono la densità congiunta $f_x(a_1,a_2;t,t-T)$ e non basta conoscere $f_x(a;t)$ e $f_x(a;t-T)$. Esempio: due processi con lo stesso primo ordine ($x(t)=\pm1$ equiprobabili), uno a campioni indipendenti e uno con $x(t-T)=x(t)$. Nel primo $y(t)\in\{-2,0,2\}$ con probabilità $\frac14,\frac12,\frac14$; nel secondo $y(t)\in\{-2,2\}$ con probabilità $\frac12,\frac12$ (simulazione con $4\cdot10^5$ estrazioni: $0{,}25/0{,}50/0{,}25$ e $0{,}50/0{,}50$). Stesso ingresso al primo ordine, uscite diverse. Qui il secondo ordine di $x$ basta, ma il primo no.
2. La media di $y$ può non dipendere solo dalla media di $x$. Sia $y(t)=x^2(t)$. Allora $m_y(t)=E[x^2(t)]=r_x(t,t)$, la potenza statistica di $x$: servono la correlazione e non la media. Esempio: $x(t)=0$ e $x(t)=\pm1$ equiprobabile hanno entrambi $m_x=0$, ma $m_y=0$ nel primo caso e $m_y=1$ nel secondo.
3. Neanche la descrizione completa di $x$ basta. Sia $y(t)=\max_{u\le t}x(u)$, il massimo dei valori visti finora: è una relazione ingresso-uscita ben definita e ragionevole. Per esempio $$P\big(y(t)\le1\big)=P\big(x(u)\le1\ \text{per ogni }u\le t\big)$$ è la probabilità di un evento che riguarda infinite variabili aleatorie (con la cardinalità del continuo, a tempo continuo). La descrizione statistica completa di $x$ contiene solo le densità congiunte di un numero finito di variabili, per ogni $N$: non permette di calcolare eventi di questo tipo (Processi aleatori - definizioni, media e autocorrelazioneUn processo aleatorio x(t), t in I (R o Z(T)), è una famiglia di variabili aleatorie sullo stesso spazio di probabilità; fissato l'esito si ottiene una realizzazione (un segnale). Si descrive con le densità di ordine N (complete), in particolare del primo e del secondo ordine, oppure solo con media m_x(t) e correlazione r_x(t,s) = E[x(t)x*(s)] (descrizione di potenza). Un processo gaussiano è determinato da media e correlazione.Processi aleatori - definizioni, media e autocorrelazione →).

Condizione sufficiente. Se per ogni $N$ e per ogni vettore di istanti $\mathbf t=(t_1,\dots,t_N)$ di $U$ esistono $M$ e un vettore $\mathbf u=(u_1,\dots,u_M)$ di istanti di $I$ tali che il vettore aleatorio $\mathbf y(\mathbf t)=\big(y(t_1),\dots,y(t_N)\big)$ dipende solo dal vettore aleatorio $\mathbf x(\mathbf u)=\big(x(u_1),\dots,x(u_M)\big)$, allora dalla descrizione statistica completa di $x$ si ricava, in linea di principio, quella di $y$.

Perché: ogni vettore di uscita è funzione di un vettore finito di ingresso (non servono gli stessi istanti né la stessa dimensione: $M$ e $\mathbf u$ possono cambiare con $\mathbf t$), cioè si ha una trasformazione tra vettori aleatori, e la densità di $\mathbf y$ si ricava da quella di $\mathbf x$ con le regole dei vettori aleatori (Vettori aleatori assolutamente continuiUn vettore (X, Y) è assolutamente continuo se P((X, Y) ∈ A) = ∬_A f(x, y) dx dy per una densità congiunta f ≥ 0 con integrale 1; le marginali si ottengono integrando sull'altra variabile (f_X(x) = ∫ f(x, y) dy), X e Y sono indipendenti se f(x, y) = f_X(x) f_Y(y), e E[g(X, Y)] = ∬ g f. Il punto delicato degli esercizi è descrivere bene la regione dove f > 0.Vettori aleatori assolutamente continui →, Funzioni di una variabile aleatoriaPer trovare la legge di Y = g(X) si calcola la FdD: F_Y(y) = P(g(X) ≤ y) = P(X ∈ g⁻¹((−∞, y])), poi si deriva; se g è strettamente monotona e derivabile vale la formula f_Y(y) = f_X(g⁻¹(y)) · |(g⁻¹)'(y)|; se g è costante a tratti Y è discreta; se g non è iniettiva (es. X²) si spezza l'evento.Funzioni di una variabile aleatoria →). Il massimo dei valori passati non soddisfa la condizione proprio perché $y(t)$ dipende da infinite variabili di $x$. Le classi che seguono (lineari, istantanee, tempo-invarianti, e in particolare i filtri) sono quelle per cui si riesce a dire qualcosa di preciso.

Trasformazioni lineari

Teorema (tf lineare). Se $y(t)=\int_Ih(t,u)\,x(u)\,du$ (nucleo $h$; nel discreto l'integrale è la somma pesata con $T$) allora $$m_y(t)=\int h(t,u)\,m_x(u)\,du,\qquad r_y(t,s)=\iint h(t,u)\,r_x(u,v)\,h^*(s,v)\,du\,dv.$$

Perché, passo per passo.

1. Media. $m_y(t)=E\!\left[\int_Ih(t,u)\,x(u)\,du\right]$. Il valore atteso è un integrale rispetto alle ampiezze (con la densità di probabilità) e l'altro è un integrale rispetto al tempo: sono due operazioni lineari e se ne può scambiare l'ordine, quindi $m_y(t)=\int_IE\big[h(t,u)\,x(u)\big]\,du$.
2. Nel prodotto $h(t,u)\,x(u)$ il nucleo $h(t,u)$ è un numero, non una variabile aleatoria: le trasformazioni di questo corso sono deterministiche (dato l'ingresso, l'uscita è una sola; non così per un canale di telecomunicazione, che introduce rumore, ritardi, perdita di pacchetti). Si porta fuori dal valore atteso: $E[h(t,u)x(u)]=h(t,u)\,E[x(u)]=h(t,u)\,m_x(u)$, e si ottiene la formula del teorema. Cioè la trasformazione lineare fa alla media la stessa operazione che fa a ogni realizzazione.
3. Correlazione. $r_y(t,s)=E[y(t)y^*(s)]$ con $y(t)$ e $y^*(s)$ scritti con due variabili di integrazione diverse, $u$ e $v$. Il prodotto dei due integrali è un integrale doppio; il valore atteso entra nell'integrale (linearità); dei quattro fattori $h(t,u)$, $x(u)$, $h^*(s,v)$, $x^*(v)$ due sono costanti (escono) e due sono variabili aleatorie, che non si possono separare perché non si sa se $x(u)$ e $x(v)$ siano indipendenti: resta $E[x(u)x^*(v)]=r_x(u,v)$. La correlazione di $y$ si ottiene quindi applicando la trasformazione lineare due volte a $r_x$, una per ciascun istante ($u\to t$ e $v\to s$). Per processi reali il coniugato scompare, per quelli complessi tocca solo $h^*$ e $x^*$ del secondo termine.

Se $x$ è gaussiano, $y$ è gaussiano (combinazioni lineari di variabili congiuntamente gaussiane sono gaussiane: Vettori gaussianiX = (X₁, ..., Xₙ) è un vettore gaussiano N(m, Σ) se ogni combinazione lineare a·X è gaussiana (equivalentemente X = m + AZ con Z gaussiane standard indipendenti); se Σ è invertibile ha densità exp(−½(x−m)ᵀΣ⁻¹(x−m)) / √((2π)ⁿ det Σ). Proprietà chiave: AX + b ~ N(Am + b, AΣAᵀ), le marginali sono gaussiane e componenti non correlate sono indipendenti.Vettori gaussiani →), quindi basta calcolare media e correlazione.

Esempio (finestra). La finestra $y=w\,x$ ha nucleo $h(t,u)=w(t)\delta(t-u)$, quindi $m_y(t)=w(t)m_x(t)$ e $r_y(t,s)=w(t)\,w^*(s)\,r_x(t,s)$, $M_y(t)=\lvert w(t)\rvert^2M_x(t)$. Anche se $x$ è stazionario, $y$ in generale non lo è: per $x$ a campioni indipendenti a media nulla e varianza $\sigma^2$ si ha $M_y(t)=\sigma^2\lvert w(t)\rvert^2$, che dipende da $t$ (per esempio con $w=\cos(2\pi f_0t)$). I valori di $y$ restano indipendenti ma non identicamente distribuiti (Esercizio - processo a campioni indipendenti attraverso una finestra (prova scritta dell'11 luglio 2025)).

Trasformazioni istantanee

Se $y(t)=\mu[x(t)]$ (tf senza memoria) il primo ordine di $y$ si ricava dal primo ordine di $x$ con la regola della funzione di una variabile aleatoria (Funzioni di una variabile aleatoriaPer trovare la legge di Y = g(X) si calcola la FdD: F_Y(y) = P(g(X) ≤ y) = P(X ∈ g⁻¹((−∞, y])), poi si deriva; se g è strettamente monotona e derivabile vale la formula f_Y(y) = f_X(g⁻¹(y)) · |(g⁻¹)'(y)|; se g è costante a tratti Y è discreta; se g non è iniettiva (es. X²) si spezza l'evento.Funzioni di una variabile aleatoria →), il secondo ordine dal secondo ordine di $x$ con la stessa regola applicata alla coppia $(\mu[x(t)],\mu[x(s)])$. Se i valori di $x$ sono indipendenti anche quelli di $y$ lo sono (funzioni di variabili indipendenti).

In generale la relazione ingresso-uscita è $y(t)=\varphi_t\big(x(t)\big)$, dove la funzione $\varphi_t$ può dipendere dall'istante (parametro $t$) ma non entrano altri valori di $x$: ogni variabile $y(t)$ dipende da una e una sola variabile $x(t)$, allo stesso istante. È quindi un caso particolare della condizione sufficiente (stesso numero di variabili, stessi istanti), e vale per ogni ordine, partendo dallo stesso ordine di $x$. Per il primo ordine, con $F$ funzione di distribuzione: $$F_y(a;t)=P\big(y(t)\le a\big)=P\big(x(t)\in H(a,t)\big)=\int_{H(a,t)}f_x(b;t)\,db,\qquad H(a,t)=\varphi_t^{-1}\big((-\infty,a]\big)=\{b:\varphi_t(b)\le a\}.$$ Il tempo $t$ resta fisso dappertutto; l'integrale è fatto sulle ampiezze $b$, non sul tempo. Lo stesso si scrive per densità, funzioni di probabilità, funzioni caratteristiche, e per l'ordine $n$ ($n$ istanti $t_1,\dots,t_n$, insieme $H\subseteq\mathbb R^n$).

Esempio. $x(t)$ uniforme in $[-1,1]$ per ogni $t$ e $y(t)=x^2(t)$. Per $0\le a\le1$ l'insieme è $H(a)=\{b:b^2\le a\}=[-\sqrt a,\sqrt a]$, quindi $F_y(a)=\int_{-\sqrt a}^{\sqrt a}\frac12\,db=\sqrt a$ (e $f_y(a)=\frac1{2\sqrt a}$). Controllo numerico: $F_y(0{,}25)=0{,}5008$ contro $\sqrt{0{,}25}=0{,}5$, $F_y(0{,}64)=0{,}7994$ contro $0{,}8$.

Esempio. $x$ a simboli indipendenti con $p_x(\pm1)=\frac12$ e $y=e^{x}$: $y(t)\in\{e,e^{-1}\}$ equiprobabili, $m_y=\cosh1=1{,}543$, $M_y=\cosh2=3{,}762$, $\sigma_y^2=\sinh^21=1{,}381$ e per $t\neq s$ $r_y(t,s)=m_y^2=2{,}381$ (indipendenti). Su $\mathbb Z(T)$ questo dà $R_y(f)=m_y^2\sum_n\delta\!\left(f-\frac nT\right)+T\sigma_y^2$: righe a $\frac nT$ (dalla media) più una parte bianca (Esercizio - esponenziale di un processo a simboli binari indipendenti (prova scritta del 30 maggio 2025)).

Trasformazioni tempo-invarianti e stazionarietà in senso stretto

Teorema. Se $\varphi$ è tempo-invariante (commuta con le traslazioni) e $x$ è stazionario in senso stretto, anche $y=\varphi[x]$ è stazionario in senso stretto, rispetto alle traslazioni $\theta$ comuni al dominio d'ingresso $I$ e a quello d'uscita $U$.

Perché: si indica con $x_\theta$ il processo traslato. Tempo-invarianza: $y=\varphi[x]\Rightarrow y_\theta=\varphi[x_\theta]$. Se $x$ è ss, $x$ e $x_\theta$ hanno la stessa descrizione statistica completa. Nelle ipotesi della condizione sufficiente la descrizione completa di $y$ si ricava in modo univoco da quella di ingresso: due ingressi con la stessa descrizione statistica, attraverso la stessa $\varphi$, danno uscite con la stessa descrizione statistica. Ma le uscite sono $y=\varphi[x]$ e $y_\theta=\varphi[x_\theta]$: quindi $y$ e $y_\theta$ hanno la stessa descrizione completa, cioè $y$ è ss.

Resta un dettaglio sui domini. La stazionarietà di $x$ vale per le traslazioni $\theta\in I$; per concludere che $y$ è ss servono tutte le traslazioni $\theta\in U$. Se ogni traslazione di $U$ è anche una traslazione di $I$ (per esempio $I=U$, o $I\supseteq U$) allora $y$ è ss. Altrimenti $y$ è stazionario solo per le traslazioni in $I\cap U$: non è stazionario ma ciclostazionario, con periodo $T_c$ tale che $I\cap U=\mathbb Z(T_c)$. Ne sono esempi il campionatore ($I=\mathbb R\supseteq U=\mathbb Z(T)$: uscita stazionaria) e l'interpolatore ($I=\mathbb Z(T)$, $U=\mathbb R$: uscita ciclostazionaria di periodo $T$, vedi sotto). Vale per le trasformazioni istantanee $\mu[x(t)]$ (tempo-invarianti), per i filtri LTI e per le loro cascate. Non vale per le finestre (non tempo-invarianti), né per il campionatore con istanti non multipli di $T$.

Filtraggio di processi stazionari in senso lato

Teorema (filtro LTI su un processo sl). Sia $x$ sl (media $m_x$, correlazione $r_x(\tau)$, PSD $R_x$) e $y=g*x$ l'uscita di un filtro stabile con risposta impulsiva $g$ e risposta in frequenza $G$. Allora $y$ è sl (conserva la stazionarietà) e $$m_y=G(0)\,m_x,\qquad r_y(\tau)=\iint g(u)\,g^*(v)\,r_x(\tau-u+v)\,du\,dv,\qquad R_y(f)=\lvert G(f)\rvert^2R_x(f).$$ Inoltre la correlazione mutua è $r_{yx}(\tau)=(g*r_x)(\tau)$, $R_{yx}=G\,R_x$. Se $x$ è gaussiano, $y$ è gaussiano e sl, quindi anche ss. Nel discreto gli integrali sono somme con peso $T$ e $G(0)=\sum_kT\,g(kT)$.

Perché, passo per passo. Il filtro è lineare, con nucleo $h(t,u)=g(t-u)$, ed è tempo-invariante con $I=U$.

1. Media. Per la linearità la media di uscita è la media di ingresso trasformata: $m_y(t)=(g*m_x)(t)=\int g(t-u)\,m_x(u)\,du$. Se $x$ è stazionario in media, $m_x(u)=m_x$ è una costante e si porta fuori: $m_y=m_x\int g(t-u)\,du=m_x\int g=m_x\,G(0)$. L'integrale di $g(t-u)$ in $du$ è l'area della risposta impulsiva (ribaltare e traslare non cambia l'area), che è $G(0)$, il valore della risposta in frequenza nell'origine. Non dipende da $t$: $y$ è stazionario in media.
2. Correlazione (con la convenzione $r_x(\tau)=E[x(t)x^*(t-\tau)]$). Dal teorema del nucleo, con $s=t-\tau$ e usando che $x$ è stazionario in correlazione, $E[x(u)x^*(v)]=r_x(u-v)$: $$r_y(\tau)=\iint g(t-u)\,g^*(t-\tau-v)\,r_x(u-v)\,du\,dv.$$ Cambio di variabile $s'=u-v$ (cioè $v=u-s'$): $g^*(t-\tau-v)=g^*(t-u-\tau+s')$, quindi, scambiando gli integrali e portando fuori $r_x(s')$, $$r_y(\tau)=\int r_x(s')\left[\int g(t-u)\,g^*(t-u+s'-\tau)\,du\right]ds'.$$ Con $z=t-u$ l'integrale interno è $\int g(z)\,g^*(z+s'-\tau)\,dz$: non dipende più da $t$, e quindi $r_y$ dipende solo da $\tau$ (stazionarietà in correlazione). Non è ancora una convoluzione, perché nel secondo fattore $z$ compare con segno $+$. Si usa la versione coniugata e ribaltata $g^{*-}(t)=g^*(-t)$: $g^*(z+s'-\tau)=g^{*-}(\tau-s'-z)$, e quindi l'integrale interno è $$\int g(z)\,g^{*-}(\tau-s'-z)\,dz=\big(g*g^{*-}\big)(\tau-s')=C_g(\tau-s').$$
3. Risultato. $C_g=g*g^{*-}$ è l'autocorrelazione del segnale determinato $g$ (nome omonimo della correlazione di un processo, che per questo il corso evita di usare; qui la si indica con $C_g$). Resta $r_y(\tau)=\int r_x(s')\,C_g(\tau-s')\,ds'$, di nuovo una convoluzione: $$r_y=r_x*C_g=r_x*g*g^{*-}\quad(\text{valutata in }\tau).$$ Le due convoluzioni si possono fare nell'ordine che si vuole (proprietà associativa e commutativa, ConvoluzioneLa convoluzione $x*y(t)=\int x(u),y(t-u),du$ combina due segnali ribaltando e traslando il secondo, moltiplicando e integrando. È commutativa, associativa, lineare; l'area del risultato è il prodotto delle aree; l'estensione è la somma delle estensioni (estremo con estremo); l'impulso $\delta$ è l'elemento neutro; la convoluzione con il gradino integra. Per due segnali periodici di uguale periodo si usa la convoluzione ciclica (integrale su un periodo). È l'operazione del filtraggio: l'uscita di un filtro è la convoluzione dell'ingresso con la risposta impulsiva.Convoluzione →). Questa espressione coincide con il doppio integrale scritto nel teorema.
4. Stazionarietà in senso lato. Media e correlazione di $y$ sono costanti e funzioni di $\tau$: se $x$ è sl lo è anche $y$ (e allora anche la covarianza, la varianza e la potenza statistica sono stazionarie). Inoltre, per un filtro con $I=U$, l'uscita è anche stazionaria in senso stretto se lo è l'ingresso (sezione precedente).
5. Densità spettrale di potenza. La trasformata di Fourier trasforma le due convoluzioni in due prodotti: $R_y=R_x\cdot G\cdot\mathcal F[g^{*-}]$. Il segnale $g^{*-}$ è coniugato e ribaltato; la sua trasformata è $G^*$ (coniugata e basta): infatti $\int g^*(-t)e^{-\mathrm i2\pi ft}dt=\int g^*(s)e^{\mathrm i2\pi fs}ds=\big(\int g(s)e^{-\mathrm i2\pi fs}ds\big)^*=G^*(f)$. Il ribaltamento "sparisce" perché il solo coniugio nel tempo dà in frequenza coniugio e ribaltamento ($\mathcal F[g^*](f)=G^*(-f)$), il solo ribaltamento dà il ribaltamento, e facendo entrambe le cose i due ribaltamenti si annullano (coerente con il fatto che un segnale uguale al suo coniugato ribaltato ha simmetria hermitiana e trasformata reale). Allora, con $z\,z^*=\lvert z\rvert^2$: $R_y=G\,G^*R_x=\lvert G\rvert^2R_x$.

In particolare $C_g$ ha trasformata $\lvert G\rvert^2$ ed è la correlazione di uscita quando l'ingresso è un rumore bianco con $R_x=1$ (cioè $r_x=\delta$).

Conseguenze: la potenza di uscita è $M_y=\int\lvert G\rvert^2R_x\,df$; un filtro con $G(0)=0$ elimina la media; il guadagno in potenza è $\lvert G\rvert^2$ (non $\lvert G\rvert$).

Esempio 1 (rumore bianco in un RC). $R_x=\frac{N_0}2$ e $G=\frac1{1+\mathrm i2\pi fT}$: $R_y=\frac{N_0/2}{1+(2\pi fT)^2}$, $r_y(\tau)=\frac{N_0}{4T}e^{-\lvert\tau\rvert/T}$, potenza $M_y=\frac{N_0}{4T}$ (perché $\int\frac{df}{1+(2\pi fT)^2}=\frac1{2T}$). Per un passa-basso ideale di banda $B$ si ha $M_y=N_0B$.

Esempio 2 (FIR su rumore bianco discreto). $x$ a campioni indipendenti con varianza $\sigma^2$ ($R_x=T\sigma^2$) in un FIR con coefficienti $b=\left(\frac12,-\frac13,1\right)$: $M_y=\int_{-1/2T}^{1/2T}\lvert G\rvert^2T\sigma^2\,df=\sigma^2\sum_kb_k^2$ per Parseval. Con $\sigma^2=2$: $M_y=2\cdot\left(\frac14+\frac19+1\right)=2{,}722$; una simulazione con $2\cdot10^6$ campioni dà $2{,}720$.

Esempio 3 (processo con PSD triangolare). $x$ con $R_x=\frac{r_0}{F_1}\operatorname{triang}\frac f{F_1}$ attraverso un passa-basso $G=\operatorname{rect}\frac f{F_1}$ (taglio $\frac{F_1}2$): $R_y=\frac{r_0}{F_1}\operatorname{triang}\frac f{F_1}$ per $\lvert f\rvert<\frac{F_1}2$, e $M_y=\frac{3}{4}r_0$ (l'area di un trapezio: $\int_{-F_1/2}^{F_1/2}\frac{r_0}{F_1}\left(1-\frac{\lvert f\rvert}{F_1}\right)df=r_0\left(1-\frac14\right)$).

Esempio 4 (autocorrelazione del segnale $C_g$: media mobile su rumore bianco). $g=\operatorname{rect}\frac tT$ (media mobile di durata $T$, $G=T\operatorname{sinc}(fT)$) e $x$ bianco con $R_x=\frac{N_0}2$, $r_x=\frac{N_0}2\delta$. Allora $C_g=g*g^{*-}=\operatorname{rect}\frac tT*\operatorname{rect}\frac tT=T\operatorname{triang}\frac\tau T$ ($C_g(0)=T$, $C_g(\frac T2)=\frac T2$, $C_g(T)=0$, verificato numericamente) e $$r_y(\tau)=\frac{N_0}2\,T\operatorname{triang}\frac\tau T,\qquad R_y(f)=\frac{N_0}2\lvert G\rvert^2=\frac{N_0}2T^2\operatorname{sinc}^2(fT),\qquad M_y=r_y(0)=\frac{N_0T}2.$$ Le due strade concordano: l'area di $R_y$ vale $\frac{N_0}2T$ (integrale numerico $0{,}9995$ con $N_0=2$, $T=1$, contro $1$). Un campione dell'uscita è correlato con quelli a distanza minore di $T$, cioè quelli la cui finestra di media si sovrappone.

Campionamento di processi stazionari in senso lato

Il campionatore è la trasformazione $y(nT)=x(nT)$, da $I=\mathbb R$ a $U=\mathbb Z(T)$ (o più in generale $U\subseteq I$): è istantanea e tempo-invariante (per le traslazioni in $\mathbb Z(T)$), quindi ha tutte le proprietà viste sopra. Anche senza stazionarietà, in $t=nT$: $$f_y(a;nT)=f_x(a;nT),\qquad m_y(nT)=m_x(nT),\qquad r_y(nT,kT)=r_x(nT,kT),$$ cioè i primi due ordini, la media e la correlazione dell'uscita sono i campioni delle stesse funzioni dell'ingresso (per la correlazione si campionano entrambi i tempi). Se $x$ è stazionario in correlazione, $r_y(nT,nT-kT)=E[x(nT)x^*(nT-kT)]=r_x(kT)$ non dipende da $n$: $y$ è stazionario in correlazione e $r_y$ è la versione campionata su $\mathbb Z(T)$ di $r_x(\tau)$. È il caso $I\supseteq U$ del paragrafo sulle trasformazioni tempo-invarianti.

Il processo campionato $x_c(nT)=x(nT)$ è quindi ancora sl, con $$m_{x_c}=m_x,\qquad r_{x_c}(kT)=r_x(kT),\qquad R_{x_c}(f)=\sum_{k}R_x\!\left(f-\tfrac kT\right)=\operatorname{rep}_{1/T}R_x(f).$$ (La PSD discreta $\sum_kT\,r_x(kT)e^{-\mathrm i2\pi fkT}$ è la ripetizione periodica per la formula di Poisson: stesso discorso dei segnali, Interpolazione LTI e teorema del campionamentoIl campionatore R→Z(T) ripete lo spettro con periodo Fc = 1/T (Sc(f) = Σ S(f - kFc), senza fattore 1/T). Il filtro interpolatore Z(T)→R ha y(t) = Σ x(nT) g0(t-nT) con g0 = T g e in frequenza Y = G·X. Se S è nulla fuori da (-B,B) e Fc ≥ 2B, con g0(t) = sinc(Fc t) si ricostruisce esattamente s(t) dai campioni. Altrimenti c'è un errore (in banda per l'aliasing, fuori banda per la parte tagliata), ridotto da un prefiltro anti-aliasing.Interpolazione LTI e teorema del campionamento →.) Se $R_x$ è nulla fuori da $(-B,B)$ e $\frac1T\ge2B$ non c'è aliasing. Verifica numerica: per $r_x=2e^{-\lvert\tau\rvert/0{,}5}$ e $T=0{,}4$, $\sum_kT\,r_x(kT)\cos(2\pi fkT)$ e $\sum_jR_x(f-\frac jT)$ coincidono in $f=0{,}7$ ($0{,}46595$).

Principio di irrilevanza

Principio di irrilevanza. Se la PSD del processo è nulla fuori dalla banda passante $\mathcal B$ di un filtro con $G=1$ in $\mathcal B$, il filtro è irrilevante: $y=x$ in media quadratica.

Perché: l'errore $e=y-x$ è l'uscita del filtro $G-1$ applicato a $x$, quindi $E\lvert e\rvert^2=\int\lvert G-1\rvert^2R_x\,df=0$ se $G-1=0$ dove $R_x\neq0$. Analogamente se $G=0$ su tutta l'estensione di $R_x$ l'uscita è nulla (potenza $\int\lvert G\rvert^2R_x=0$).

Interpolazione LTI di un processo stazionario in senso lato

Sia $x(nT)$ un processo sl su $\mathbb Z(T)$ (media $m_x$, $\rho_k=r_x(kT)$, PSD periodica $R_x$) e $$y(t)=\sum_nx(nT)\,g_0(t-nT)=\sum_nT\,x(nT)\,g(t-nT),\qquad g_0=Tg.$$

Ciclostazionarietà. Media e correlazione sono

$$m_y(t)=m_x\sum_ng_0(t-nT),\qquad r_y(t,s)=\sum_{n,m}\rho_{n-m}\,g_0(t-nT)\,g_0^*(s-mT):$$ sostituendo $t\to t+T$, $s\to s+T$ la somma si sposta di un indice e non cambia. Quindi $y$ non è sl in generale, ma è ciclostazionario di periodo $T$ (Processi stazionari e densità spettrale di potenzaUn processo è stazionario in media, in potenza, nel primo ordine o in correlazione se la rispettiva grandezza non cambia traslando il tempo; stazionario in senso lato (sl) = media costante e r_x(t,s) = r_x(t-s); in senso stretto (ss) = tutte le densità invarianti. La densità spettrale di potenza R_x(f) = F[r_x(τ)] è non negativa e ha integrale = potenza statistica. Rumore bianco: R costante. Ciclostazionario: statistiche periodiche. Ergodico in media: la media temporale di una realizzazione converge a m_x.Processi stazionari e densità spettrale di potenza →).

Descrizione "media in un periodo". Mediando su un periodo, $\bar r_y(\tau)=\frac1T\int_0^Tr_y(t+\tau,t)\,dt=\frac1T\sum_k\rho_k\,\Phi(\tau-kT)$ con $\Phi(\tau)=\int g_0(u+\tau)\,g_0^*(u)\,du$ (la cui trasformata è $\lvert G_0\rvert^2=T^2\lvert G\rvert^2$), da cui $$\bar R_y(f)=\lvert G(f)\rvert^2\,R_x(f)\qquad(G=\mathcal F[g],\ R_x\ \text{periodica, esteso a tutto}\ \mathbb R),\qquad\bar M_y=\int_{\mathbb R}\lvert G\rvert^2R_x\,df.$$ Con $x$ a campioni indipendenti di varianza $\sigma^2$ ($R_x=T\sigma^2$) la potenza media è $\bar M_y=T\sigma^2\int\lvert G\rvert^2=\sigma^2\frac1T\int g_0^2\,dt$, che si controlla direttamente da $M_y(t)=\sigma^2\sum_ng_0^2(t-nT)$.

Caso di uscita stazionaria. Con la rappresentazione spettrale $x(nT)=\int_{\text{periodo}}e^{\mathrm i2\pi fnT}dZ(f)$ si trova $r_y(t,s)=\int_{\text{periodo}}R_x(f)\sum_{k,l}G\!\left(f+\tfrac kT\right)G^*\!\left(f+\tfrac lT\right)e^{\mathrm i2\pi[(f+k/T)t-(f+l/T)s]}df$. I termini con $k\neq l$ dipendono da $t$ e $s$ separatamente: l'uscita è sl se e solo se essi si annullano, cioè se per ogni $f$ al più una delle traslate $G(f+\frac kT)$ è diversa da zero dove $R_x(f)\neq0$ (le "immagini" di $G$ non si sovrappongono). È il caso dell'interpolatore ideale $G=\operatorname{rect}\frac f{F_c}$, $F_c=\frac1T$: allora $y$ è sl con $$R_y(f)=\lvert G(f)\rvert^2R_x(f)=R_x(f)\operatorname{rect}\frac f{F_c}\qquad(\text{un solo periodo di }R_x),\qquad m_y=G(0)m_x=m_x.$$

Esempio. $x$ bianco discreto con $\sigma^2=1$, $T$ qualunque e interpolatore sinc ($g_0=\operatorname{sinc}\frac tT$): $R_y=T\operatorname{rect}(Tf)$, $M_y=1=\sigma^2$, $r_y(\tau)=\operatorname{sinc}\frac\tau T$: il processo interpolato è a banda limitata $\frac1{2T}$ e ha la stessa potenza dei campioni.

Teorema del campionamento per processi stazionari in senso lato

Teorema. Sia $x(t)$ sl con PSD nulla fuori da $(-B,B)$ e $F_c=\frac1T\ge2B$. Allora $$x(t)=\sum_{n=-\infty}^{\infty}x(nT)\,\operatorname{sinc}\big[F_c(t-nT)\big]\qquad\text{in media quadratica: }E\Big\lvert x(t)-\sum_nx(nT)\operatorname{sinc}[F_c(t-nT)]\Big\rvert^2=0\ \ \forall t.$$

Dimostrazione. Sia $\tilde x(t)$ la serie e $e=\tilde x-x$.

1. La correlazione $r_x(\tau)$ è un segnale deterministico a banda limitata (la sua trasformata è $R_x$, nulla fuori da $(-B,B)$): per il teorema del campionamento dei segnali, $r_x(t-s)=\sum_nr_x(nT-s)\operatorname{sinc}[F_c(t-nT)]$ per ogni $s$ fissato (la funzione $u\mapsto r_x(u-s)$ ha ancora estensione $(-B,B)$).
2. Quindi $E[e(t)\,x^*(s)]=\sum_nE[x(nT)x^*(s)]\operatorname{sinc}[F_c(t-nT)]-r_x(t-s)=\sum_nr_x(nT-s)\operatorname{sinc}[\cdots]-r_x(t-s)=0$ per ogni $s$: l'errore è ortogonale a ogni valore di $x$.
3. In particolare $e(t)\perp x(mT)$ per ogni $m$, e $\tilde x(t)$ è combinazione lineare dei $x(mT)$, quindi $E[e\,\tilde x^*]=0$. Allora $E\lvert e\rvert^2=E[e(\tilde x-x)^*]=E[e\tilde x^*]-E[e\,x^*]=0-0=0$. $\square$

È la stessa condizione del caso deterministico ($F_c\ge2B$, filtro ideale $\operatorname{rect}\frac f{F_c}$), con convergenza in media quadratica (l'uguaglianza vale con probabilità $1$ per ogni $t$ fissato).

Potenza dell'errore se il processo non è limitato in banda

Se $R_x$ non è limitata in banda (o $F_c<2B$) la ricostruzione con interpolatore ideale ($G=\operatorname{rect}\frac f{F_c}$) non è esatta. Con la rappresentazione spettrale $x(t)=\int_{\mathbb R}e^{\mathrm i2\pi\nu t}dX(\nu)$ (incrementi ortogonali con $E\lvert dX\rvert^2=R_x\,d\nu$) il campionamento "ripiega" $dZ(\nu)=\sum_kdX(\nu+kF_c)$ e l'uscita ideale è $\tilde x(t)=\int_{\lvert\nu\rvert<F_c/2}\sum_kdX(\nu+kF_c)e^{\mathrm i2\pi\nu t}$. L'errore $e=\tilde x-x$ è quindi

$$e(t)=\int_{\lvert\nu\rvert<F_c/2}\sum_{k\neq0}dX(\nu+kF_c)\,e^{\mathrm i2\pi\nu t}-\int_{\lvert\nu\rvert>F_c/2}dX(\nu)\,e^{\mathrm i2\pi\nu t}$$

e, per l'ortogonalità degli incrementi, la sua potenza statistica è

$$M_e=\underbrace{\int_{-F_c/2}^{F_c/2}\sum_{k\neq0}R_x(f-kF_c)\,df}_{\text{errore in banda (aliasing)}}+\underbrace{\int_{\lvert f\rvert>F_c/2}R_x(f)\,df}_{\text{errore fuori banda}}.$$

Se $R_x$ è nulla fuori da $(-B,B)$ e $F_c\ge2B$ entrambi i termini sono nulli (teorema). Se invece $R_x$ ha code oltre $\frac{F_c}2$ i due termini sono positivi: c'è sempre errore.

Esempio. $x$ con $r_x=2e^{-\lvert\tau\rvert/0{,}5}$, $R_x=\frac{2}{1+(\pi f)^2}$, e $F_c=2$: errore in banda $0{,}3923$, fuori banda $0{,}3924$, totale $M_e=0{,}785$ su una potenza $M_x=2$: rapporto segnale/errore $\frac2{0{,}785}=2{,}55\ (4{,}1\ \text{dB})$, perché $R_x$ ha code lunghe. Una simulazione Monte Carlo ($4\cdot10^6$ campioni di un processo esponenziale) dà $0{,}74$-$0{,}76$ (le fluttuazioni statistiche sono di qualche punto percento). Con $F_c$ più alta il rapporto migliora; con un prefiltro anti-aliasing ideale di banda $\frac{F_c}2$ resta solo l'errore fuori banda.

Discussione

• Il campionamento di un processo sl dà un processo sl: tutto passa per la PSD ripetuta periodicamente.
• L'interpolazione LTI produce in generale un processo ciclostazionario; solo con $G$ a banda limitata a una finestra $F_c$ (interpolatore ideale) l'uscita è sl.
• La potenza dell'errore ha due contributi, entrambi dipendenti dalla coda di $R_x$ oltre $\frac{F_c}2$: alzare $F_c$ riduce entrambi, il prefiltro elimina il primo.
• Esattezza della ricostruzione: solo con $R_x$ a banda limitata e $F_c\ge2B$.

Errori comuni

• Dimenticare che un filtro LTI conserva la stazionarietà in senso lato ma una finestra no.
• Moltiplicare $R_x$ per $\lvert G\rvert$ invece che per $\lvert G\rvert^2$.
• Calcolare la media di uscita con $G(f_0)$ invece di $G(0)$.
• Credere che l'interpolazione di un processo sl sia sempre sl: in generale è ciclostazionaria.
• Dimenticare il peso $T$ della somma discreta nell'interpolatore e nella PSD.
• Credere che dal primo ordine (o dalla media) di $x$ si ricavi sempre il primo ordine (o la media) di $y$: lo si fa solo se ogni $y(t)$ dipende dalla sola $x(t)$ (istantanee) o se la trasformazione è lineare (media e correlazione).
• Trattare il nucleo $h(t,u)$ come aleatorio, o spezzare $E[x(u)x^*(v)]$ nel prodotto delle medie: i due valori non sono in generale indipendenti.
• Scrivere $g*g$ invece di $g*g^{*-}$ (coniugata e ribaltata) nella correlazione di uscita.