Teorema centrale del limite e correzione di continuità

Lezione 8 di probabilità, Unità 3-5. Prerequisiti: Variabili aleatorie normali (gaussiane)Z ~ N(0,1) ha densità e^{−x²/2}/√(2π) (normalizzata grazie all'integrale di Gauss), media 0, varianza 1, funzione di distribuzione Φ tabulata per x ≥ 0, con Φ(−x) = 1 − Φ(x). X ~ N(μ, σ²) se (X − μ)/σ ~ N(0,1), cioè X = μ + σZ: media μ, varianza σ², densità e^{−(x−μ)²/(2σ²)}/√(2πσ²). Si calcola sempre standardizzando: P(X ≤ a) = Φ((a − μ)/σ). Regola 68-95-99.7: P(|X − μ| ≤ σ) ≈ 0.683, ≤ 2σ ≈ 0.954, ≤ 3σ ≈ 0.997.Variabili aleatorie normali (gaussiane) →, Varianza e covarianza di variabili discreteVar[X] = E[(X − μ)²] = E[X²] − μ² misura la dispersione attorno alla media μ = E[X]; σ = √Var è la deviazione standard. Var[aX + b] = a² Var[X]; la normalizzata (X − μ)/σ ha media 0 e varianza 1. Varianze notevoli: Be(p) → p(1−p), B(n,p) → np(1−p), Po(λ) → λ, Ge(p) → (1−p)/p². Cov[X,Y] = E[XY] − E[X]E[Y]; variabili indipendenti hanno covarianza nulla, ma non vale il viceversa (X uniforme su {−1,0,1} e X²). Var[X + Y] = Var X + Var Y + 2 Cov[X,Y]: per indipendenti le varianze si sommano.Varianza e covarianza di variabili discrete →.

Variabili i.i.d. e la somma standardizzata

Definizione. $X$ e $Y$ sono identicamente distribuite se $F_X = F_Y$. In tal caso hanno la stessa media e (se finita) la stessa varianza.

Se $X_1, X_2, \dots$ sono indipendenti e identicamente distribuite (i.i.d.) con $E[X_i] = \mu$ e $\operatorname{Var}[X_i] = \sigma^2$, la somma $S_n = X_1 + \cdots + X_n$ ha $$E[S_n] = n\mu, \qquad \operatorname{Var}[S_n] = n\sigma^2 \ (\text{per l'indipendenza})$$ e la sua standardizzata è $\dfrac{S_n - n\mu}{\sqrt{n\sigma^2}}$ (media $0$, varianza $1$).

Il teorema

Teorema centrale del limite (TCL). Siano $X_1, X_2, \dots$ i.i.d. con $E[X_i] = \mu$ e $\operatorname{Var}[X_i] = \sigma^2$ finita. Per ogni $a \in \mathbb{R}$: $$P\left(\frac{X_1 + \cdots + X_n - n\mu}{\sqrt{n\sigma^2}} \le a\right) \xrightarrow[n \to +\infty]{} \Phi(a)$$ (convergenza in distribuzione alla normale standard).

Il fatto sorprendente: la legge delle $X_i$ può essere qualsiasi (Bernoulli, uniforme, esponenziale, …): la somma di tanti contributi indipendenti, opportunamente normalizzata, ha sempre approssimativamente la stessa forma a campana. È il motivo per cui le gaussiane compaiono ovunque (errori di misura, altezze, rumore nei segnali elettronici).

Corollario (uso pratico). Per $n$ grande, $S_n$ ha approssimativamente la legge della normale con la sua stessa media e varianza: $$P(X_1 + \cdots + X_n \le a) \approx P\big(N(n\mu, n\sigma^2) \le a\big) = \Phi\left(\frac{a - n\mu}{\sqrt{n\sigma^2}}\right)$$

Per la media campionaria $\bar X_n = \frac{S_n}{n}$: media $\mu$, varianza $\frac{\sigma^2}{n}$, quindi $\bar X_n \approx N\left(\mu, \frac{\sigma^2}n\right)$. La media di molte osservazioni è molto più concentrata della singola osservazione (deviazione standard divisa per $\sqrt n$).

Le ipotesi contano. Con $X_i = X \sim \operatorname{Be}\left(\frac12\right)$ tutte uguali (non indipendenti), $X_1 + \cdots + X_{1000} = 1000X$ vale $0$ o $1000$ con probabilità $\frac12$: nessuna campana. Serve l'indipendenza.

Esempi del prof

I varchi aeroportuali (MOOC). Il tempo di transito di un passeggero ha media $1$ minuto e varianza $1.4$; $30$ passeggeri indipendenti. La somma ha media $30$ e varianza $42$: $$P(S_{30} < 15) \approx \Phi\left(\frac{15 - 30}{\sqrt{42}}\right) = \Phi(-2.31) \approx 0.010$$

I lanci per arrivare a $300$ (MOOC). Servono almeno $80$ lanci di un dado perché la somma raggiunga $300$ se e solo se dopo $79$ lanci la somma è ancora $< 300$, cioè $\le 299$. Un lancio ha $E = \frac72$, $E[X^2] = \frac{91}{6}$, $\operatorname{Var} = \frac{35}{12}$; $79$ lanci: media $276.5$, varianza $\frac{79\cdot 35}{12} \approx 230.4$: $$P(S_{79} \le 299) \approx \Phi\left(\frac{299 - 276.5}{15.18}\right) = \Phi(1.48) \approx 0.93$$

Le telefonate (MOOC). I tempi tra una telefonata e la successiva sono $\operatorname{Exp}(4)$ (minuti) indipendenti: la prima arriva in media dopo $\frac14$ di minuto. La centesima arriva all'istante $S_{100}$, con media $\frac{100}{4} = 25$ e varianza $\frac{100}{16}$ (deviazione standard $2.5$): $P(S_{100} > 30) \approx 1 - \Phi(2) \approx 0.023$.

Approssimare binomiale e Poisson con la normale

Binomiale. Per $n$ grande, $B(n, p) \approx N(np, np(1 - p))$ in distribuzione (è la somma di $n$ Bernoulli indipendenti). Ragionevole nella pratica se $\frac{1}{n} \ll p \ll 1 - \frac1n$, cioè se $np$ e $n(1 - p)$ sono entrambi grandi. Poisson. Per $\lambda \ge 50$, $\operatorname{Po}(\lambda) \approx N(\lambda, \lambda)$ (somma di $n$ Poisson $\operatorname{Po}(\lambda/n)$ indipendenti).

Quindi la binomiale con $n$ grande e $p$ piccolo si approssima con la PoissonX ~ Po(λ), λ > 0, assume i valori 0, 1, 2, … con P(X = k) = e^{−λ} λᵏ/k!; λ è il numero medio di eventi. Nasce come limite della binomiale: se Xₙ ~ B(n, λ/n) allora P(Xₙ = k) → e^{−λ}λᵏ/k!. In pratica B(n,p) ≈ Po(np) se n è grande e p piccolo (regole del corso: n ≥ 20, p ≤ 0.05, p ≤ 10/n). Modella conteggi di eventi rari in un intervallo di tempo o spazio: telefonate, arrivi, terremoti, difetti, vincite.Variabile di Poisson e approssimazione della binomiale →, con $n$ grande e $p$ "moderato" con la normale.

Esempio del prof. Un dado lanciato $12\,000$ volte: probabilità che il $6$ esca al massimo $1950$ volte. $X \sim B\left(12\,000, \frac16\right)$ ha media $2000$ e varianza $12\,000\cdot\frac16\cdot\frac56 = \frac{5000}{3}$: $$P(X \le 1950) \approx \Phi\left(\frac{1950 - 2000}{\sqrt{5000/3}}\right) = \Phi\left(-\sqrt{3/2}\right) \approx 1 - \Phi(1.22) \approx 0.111$$ Il valore esatto (calcolato al computer) è $0.1124$.

La correzione di continuità

Se $X$ assume solo valori interi, gli eventi $\{X \le 5\}$, $\{X < 6\}$, $\{X \le 5.5\}$ coincidono; ma approssimando con una continua $Y$ danno probabilità diverse. La scelta migliore è il punto di mezzo:

Correzione di continuità. Per $X$ a valori interi approssimata con una normale $Y$: $$P(X \le k) \approx P(Y \le k + 0.5), \qquad P(X = k) \approx P(k - 0.5 \le Y \le k + 0.5)$$ e in generale $P(a \le X \le b) \approx P(a - 0.5 \le Y \le b + 0.5)$ per $a, b$ interi.

Perché: si pensa a ogni valore intero $k$ come al rettangolino di base $[k - 0.5, k + 0.5]$ e altezza $P(X = k)$ (l'istogramma); la curva gaussiana approssima l'istogramma, quindi la probabilità di $\{X = k\}$ va confrontata con l'area sotto la curva su tutto il rettangolino.

Esempi del prof (valori esatti calcolati con Python):

• $508$ teste su $1000$ lanci. Esatto: $\binom{1000}{508}2^{-1000} \approx 0.0222$. Con $Y \sim N(500, 250)$: $P(507.5 \le Y \le 508.5) = \Phi\left(\frac{8.5}{\sqrt{250}}\right) - \Phi\left(\frac{7.5}{\sqrt{250}}\right) \approx \Phi(0.54) - \Phi(0.47)$, che con la tabella dà $\approx 0.0245$ (con valori più precisi di $\Phi$, $0.0222$). Senza correzione la "probabilità di un punto" sarebbe $0$.
• Il $6$ tra $1998$ e $2005$ volte su $12\,000$ lanci: esatto $\approx 0.0780$; normale senza correzione $\Phi\left(\frac{5}{\sigma}\right) - \Phi\left(\frac{-2}{\sigma}\right) \approx 0.068$; con correzione $\Phi\left(\frac{5.5}\sigma\right) - \Phi\left(\frac{-2.5}\sigma\right) \approx 0.0780$ ($\sigma = \sqrt{5000/3} \approx 40.8$). La correzione fa una grande differenza quando l'intervallo è stretto.
• La biblioteca ($\operatorname{Po}(80)$ richieste all'ora), tra $70$ e $90$ richieste: esatto $\approx 0.760$; normale $N(80, 80)$ senza correzione $\approx 0.736$, con correzione $P(69.5 \le Y \le 90.5) \approx 0.760$.
• Il parcheggio ($\operatorname{Po}(50)$ auto all'ora), tra $54$ e $62$: esatto $\approx 0.262$; con correzione $\approx 0.272$; senza $\approx 0.241$.
• Un milione di lanci di moneta, esattamente $500\,000$ teste: $P(499\,999.5 \le Y \le 500\,000.5) = 2\Phi\left(\frac{0.5}{500}\right) - 1 \approx 0.0008$ (con $\sigma = 500$): l'esito "più probabile" ha probabilità meno di uno su mille.

Esercizi: Esercizio 55 · somme di variabili indipendenti e teorema centrale del limite, Esercizio 56 · approssimazione normale di binomiali e Poisson.

Errori comuni

• Usare la varianza della singola $X_i$ invece di quella della somma ($n\sigma^2$) o della media ($\frac{\sigma^2}n$).
• Applicare il TCL a variabili non indipendenti.
• Dimenticare la correzione di continuità per variabili intere, soprattutto per probabilità di singoli valori o intervalli stretti.
• Approssimare con la normale una binomiale con $np$ piccolo (meglio la Poisson).