FormularioCalcolo delle Probabilità: definizioni, teoremi e formule delle note, in ordine di capitolo

In questa pagina 8

1. Spazio di probabilità

Spazio campionario ed eventi

Legge (De Morgan). $(A \cup B)^c = A^c \cap B^c \qquad\qquad (A \cap B)^c = A^c \cup B^c$

Esempio. Dado, $A = \{2,4,6\}$ e $B = \{4,5,6\}$ : $(A \cup B)^c = \{1,3\}$ e $A^c \cap B^c = \{1,3,5\} \cap \{1,2,3\} = \{1,3\}$ .

Definizione (partizione). Una partizione di $\Omega$ è una famiglia di eventi $(A_i)_{i \in I}$ tale che

$A_i \cap A_j = \emptyset$ per ogni $i \ne j$ (sono a due a due disgiunti);

$\bigcup_{i \in I} A_i = \Omega$ (ricoprono tutto $\Omega$ ).

Esempio. Con il dado, $A_1 = \{1,2\}$ , $A_2 = \{3,4\}$ , $A_3 = \{5,6\}$ sono una partizione di $\Omega = \{1, \dots, 6\}$ ; lo sono anche "pari" e "dispari".

Formula (decomposizione di un evento con una partizione). $B = \bigcup_{i \in I} (B \cap A_i)$

Esempio. Dado, partizione $A_1 = \{1, 2\}$ , $A_2 = \{3, 4\}$ , $A_3 = \{5, 6\}$ , evento $B =$ "pari" $= \{2, 4, 6\}$ : le fette sono $B \cap A_1 = \{2\}$ , $B \cap A_2 = \{4\}$ , $B \cap A_3 = \{6\}$ , e la loro unione è proprio $B$ .

Sigma-algebre di eventi

Definizione (σ-algebra). Una famiglia di eventi $\mathcal{F} \subseteq \mathcal{P}(\Omega)$ è una σ-algebra su $\Omega$ se:

$\emptyset \in \mathcal{F}$ ;

se $A \in \mathcal{F}$ allora $A^c \in \mathcal{F}$ (chiusura rispetto al complementare);

se $(A_n)_{n \ge 1}$ sono tutti in $\mathcal{F}$ , allora $\bigcup_{n \ge 1} A_n \in \mathcal{F}$ (chiusura rispetto alle unioni numerabili).

Esempio. Su $\Omega = \{1, \dots, 6\}$ la famiglia $\{\emptyset, \{2,4,6\}, \{1,3,5\}, \Omega\}$ è una σ-algebra; $\{\emptyset, \{1\}, \Omega\}$ non lo è, perché manca il complementare $\{2, \dots, 6\}$ .

Definizione (σ-algebra generata). $\sigma(\mathcal{A}) := \bigcap_{i \in I} \mathcal{F}_i, \qquad \text{dove } (\mathcal{F}_i)_{i \in I} \text{ sono tutte le \sigma -algebre che contengono } \mathcal{A}$

Esempio: $\sigma(\{A\}) = \{\emptyset, A, A^c, \Omega\}$ , la σ-algebra generata da un solo evento vista sopra. Nella pratica, per trovare $\sigma(\mathcal{A})$ su un $\Omega$ finito si aggiungono ad $\mathcal{A}$ complementari, unioni e intersezioni finché la famiglia non si "chiude" (vedi l'esercizio 1).

Proprietà (σ-algebra degli spazi discreti). Se $\Omega$ è discreto (finito o numerabile) si prende sempre $\mathcal{F} = \mathcal{P}(\Omega)$ .

Esempio. Per il dado $\mathcal{F} = \mathcal{P}(\Omega)$ contiene tutti i $2^6 = 64$ sottoinsiemi di $\Omega$ .

Misura di probabilità e sue proprietà

Definizione (misura di probabilità, assiomi di Kolmogorov). Una misura di probabilità su $(\Omega, \mathcal{F})$ è una funzione $\mathbb{P} : \mathcal{F} \to [0, 1], \qquad A \mapsto \mathbb{P}(A) \ \text{(probabilità dell'evento } A\text{)}$ tale che:

$\mathbb{P}(\Omega) = 1$ (normalizzazione);

se $(A_n)_{n \ge 1}$ sono eventi di $\mathcal{F}$ a due a due disgiunti ( $A_i \cap A_j = \emptyset$ per $i \ne j$ ), allora $\mathbb{P}\Big(\bigcup_{n \ge 1} A_n\Big) = \sum_{n \ge 1} \mathbb{P}(A_n) \qquad \text{(}\boldsymbol{\sigma}\textbf{-additività}\text{)}$

Esempio. Dado equo: $\mathbb{P}(\{k\}) = \frac16$ per $k = 1, \dots, 6$ . Gli eventi $\{2\}, \{4\}, \{6\}$ sono disgiunti, quindi $\mathbb{P}(\text{pari}) = \mathbb{P}(\{2\}) + \mathbb{P}(\{4\}) + \mathbb{P}(\{6\}) = \frac36 = \frac12$ .

Proprietà (probabilità del complementare). $\boxed{\mathbb{P}(A^c) = 1 - \mathbb{P}(A)}$

Esempio. Dado equo: $\mathbb{P}(\text{non esce } 6) = 1 - \frac{1}{6} = \frac{5}{6}$ .

Proprietà (monotonia). $\boxed{A \subseteq B \implies \mathbb{P}(A) \le \mathbb{P}(B)}$

Esempio. Dado equo: $\{6\} \subseteq \{4,5,6\}$ e infatti $\mathbb{P}(\{6\}) = \frac{1}{6} \le \frac{3}{6} = \mathbb{P}(\{4,5,6\})$ .

Formula (probabilità dell'unione). $\boxed{\mathbb{P}(A \cup B) = \mathbb{P}(A) + \mathbb{P}(B) - \mathbb{P}(A \cap B)} \qquad \text{per } A, B \text{ qualsiasi}$

Esempio. Dado equo, $A =$ "pari" $= \{2, 4, 6\}$ , $B =$ "almeno 4" $= \{4, 5, 6\}$ : $\mathbb{P}(A \cup B) = \frac36 + \frac36 - \frac26 = \frac46$ . Controllo diretto: $A \cup B = \{2, 4, 5, 6\}$ ha 4 esiti su 6 ✓.

Formula (inclusione-esclusione). $\mathbb{P}\Big(\bigcup_{k=1}^n A_k\Big) = \sum_{\ell = 1}^{n} (-1)^{\ell - 1} \sum_{\substack{I \subseteq \{1, \dots, n\} \\ |I| = \ell}} \mathbb{P}\Big(\bigcap_{i \in I} A_i\Big)$

Esempio numerico. Si lancia un dado equo 3 volte; $A_k =$ "al lancio $k$ esce 6". Con i 216 esiti equiprobabili: $\mathbb{P}(A_k) = \frac{36}{216} = \frac16$ , $\mathbb{P}(A_j \cap A_k) = \frac{6}{216} = \frac1{36}$ , $\mathbb{P}(A_1 \cap A_2 \cap A_3) = \frac1{216}$ . Allora

Spazi di probabilità discreti e uniformi

Proprietà (la probabilità discreta è determinata dai singoletti). Nel caso discreto una misura $\mathbb{P}$ è determinata unicamente dai suoi valori sui singoletti $\{\omega\}$ , $\omega \in \Omega$ .

Esempio. Dado equo: $\mathbb{P}(\{k\}) = \frac{1}{6}$ per ogni $k$ , quindi $\mathbb{P}(\{1,2\}) = \frac{1}{6} + \frac{1}{6} = \frac{1}{3}$ .

Definizione (densità di probabilità discreta). $\boxed{p(\omega) \ge 0 \quad \forall \omega \in \Omega, \qquad \sum_{\omega \in \Omega} p(\omega) = 1}$

Esempio (dado truccato). $\Omega = \{1, \dots, 6\}$ con $p(6) = \frac12$ e $p(1) = \dots = p(5) = \frac1{10}$ . È una densità: valori $\ge 0$ e $5 \cdot \frac1{10} + \frac12 = 1$ ✓. Allora $\mathbb{P}(\text{pari}) = p(2) + p(4) + p(6) = \frac1{10} + \frac1{10} + \frac12 = \frac7{10}$ .

Grafico interattivo: Densità discreta p(n) = (1/2)^n, n = 1, 2, ...: i valori sommano a 1

Formula (probabilità uniforme: casi favorevoli su casi possibili). $\boxed{\mathbb{P}(A) = \sum_{\omega \in A} \frac1{|\Omega|} = \frac{|A|}{|\Omega|} = \frac{\#\,\text{casi favorevoli}}{\#\,\text{casi possibili}}}$

Esempio. Dado equo: $\mathbb{P}(\text{pari}) = \frac{|\{2,4,6\}|}{6} = \frac{1}{2}$ .

Calcolo combinatorio per la probabilità

Principio (di moltiplicazione). Se una scelta si fa in $k$ passi successivi, e al passo $i$ ci sono $n_i$ possibilità qualunque siano le scelte fatte prima, il numero totale di scelte è $n_1 \cdot n_2 \cdots n_k$

Esempio. Un menù con 3 primi, 4 secondi e 2 dolci permette $3 \cdot 4 \cdot 2 = 24$ pasti diversi. Una targa con 2 lettere (26 possibili) e 3 cifre: $26^2 \cdot 10^3 = 676\,000$ .

Formula (disposizioni semplici). $n (n-1) \cdots (n - k + 1) = \frac{n!}{(n-k)!}$

Esempio: podio (oro, argento, bronzo) tra 10 atleti: $10 \cdot 9 \cdot 8 = 720$ .

Formula (combinazioni). $\binom{n}{k} = \frac{n!}{k!\,(n-k)!}$

Esempio. Mani di 5 carte da un mazzo di 52: $\binom{52}{5} = 2\,598\,960$ .

Formula (estrazioni con reinserimento). $\mathbb{P}(k \text{ nere}) = \binom{n}{k} \left(\frac{M}{N}\right)^k \left(1 - \frac{M}{N}\right)^{n-k}$

Esempio. Urna con $M = 8$ nere su $N = 14$ , $3$ estrazioni con reinserimento: $\mathbb{P}(2 \text{ nere}) = \binom{3}{2} \left(\frac{4}{7}\right)^2 \frac{3}{7} = \frac{144}{343} \approx 0{,}420$ .

Formula (estrazioni senza reinserimento, distribuzione ipergeometrica). $\boxed{\mathbb{P}(k \text{ nere}) = \frac{\binom{M}{k} \binom{N - M}{n - k}}{\binom{N}{n}}} \qquad \text{(distribuzione ipergeometrica)}$

Esempio. Stessa urna ( $8$ nere, $6$ bianche), $3$ estrazioni senza reinserimento: $\mathbb{P}(2 \text{ nere}) = \frac{\binom{8}{2}\binom{6}{1}}{\binom{14}{3}} = \frac{28 \cdot 6}{364} = \frac{6}{13} \approx 0{,}462$ .

2. Probabilità condizionata e indipendenza

Probabilità condizionata

Definizione (probabilità condizionata). Siano $A, B$ eventi con $\mathbb{P}(B) > 0$ . La probabilità di $A$ condizionata a $B$ (o "di $A$ dato $B$ ") è $\boxed{\mathbb{P}(A \mid B) = \frac{\mathbb{P}(A \cap B)}{\mathbb{P}(B)}}$

Esempio con due dadi. Sapendo che la somma è $7$ , probabilità che il primo dado abbia dato $1$ ? $B = \{(1,6), (2,5), (3,4), (4,3), (5,2), (6,1)\}$ , $A \cap B = \{(1, 6)\}$ : $\mathbb{P}(A \mid B) = \frac16$ . (Senza informazione era anche $\frac16$ : questo caso particolare si chiama indipendenza.)

Proprietà (la condizionata è una misura di probabilità). Fissato $B$ con $\mathbb{P}(B) > 0$ , la funzione $A \mapsto \mathbb{P}(A \mid B)$ è una misura di probabilità su $(\Omega, \mathcal{F})$ .

Esempio. Dado e $B = \{2,4,6\}$ : $\mathbb{P}(\{2\} \mid B) = \mathbb{P}(\{4\} \mid B) = \mathbb{P}(\{6\} \mid B) = \frac{1}{3}$ , $\mathbb{P}(\{1\} \mid B) = 0$ , e le probabilità sommano a $1$ .

Formula (regola del prodotto). $\boxed{\mathbb{P}(A \cap B) = \mathbb{P}(A \mid B)\, \mathbb{P}(B) = \mathbb{P}(B \mid A)\, \mathbb{P}(A)}$

Esempio (estrazioni senza reinserimento). Urna con 8 nere e 6 bianche, due estrazioni senza reinserimento. $N_i =$ "nera all'estrazione $i$ ":

Formula (regola della catena). $\mathbb{P}(A_1 \cap A_2 \cap \dots \cap A_n) = \mathbb{P}(A_1)\, \mathbb{P}(A_2 \mid A_1)\, \mathbb{P}(A_3 \mid A_1 \cap A_2) \cdots \mathbb{P}(A_n \mid A_1 \cap \dots \cap A_{n-1})$

Esempio: probabilità di pescare 3 assi di fila da un mazzo di 40 carte (4 assi), senza reinserimento: $\frac4{40} \cdot \frac3{39} \cdot \frac2{38} = \frac{24}{59\,280} \approx 0{,}000405$ .

Formula delle probabilità totali e formula di Bayes

Teorema (formula delle probabilità totali). Sia $(A_i)_{i \in I}$ una partizione di $\Omega$ (finita o numerabile) con $\mathbb{P}(A_i) > 0$ per ogni $i$ . Allora per ogni evento $B$ $\boxed{\mathbb{P}(B) = \sum_{i \in I} \mathbb{P}(B \mid A_i)\, \mathbb{P}(A_i)}$

Esempio. Due urne equiprobabili, la prima con il $30\%$ di palline nere e la seconda con il $60\%$ : $\mathbb{P}(\text{nera}) = 0{,}3 \cdot 0{,}5 + 0{,}6 \cdot 0{,}5 = 0{,}45$ .

Teorema (formula di Bayes). Nelle stesse ipotesi, se $\mathbb{P}(B) > 0$ , per ogni $k$ $\boxed{\mathbb{P}(A_k \mid B) = \frac{\mathbb{P}(B \mid A_k)\, \mathbb{P}(A_k)}{\mathbb{P}(B)} = \frac{\mathbb{P}(B \mid A_k)\, \mathbb{P}(A_k)}{\sum_{i} \mathbb{P}(B \mid A_i)\, \mathbb{P}(A_i)}}$

Esempio. Con le due urne: $\mathbb{P}(\text{urna } 1 \mid \text{nera}) = \frac{0{,}3 \cdot 0{,}5}{0{,}45} = \frac{1}{3}$ .

Indipendenza di eventi

Definizione (eventi indipendenti). Due eventi $A$ e $B$ sono indipendenti se $\boxed{\mathbb{P}(A \cap B) = \mathbb{P}(A)\, \mathbb{P}(B)}$

Esempio (due dadi). $A =$ "il primo dado dà 1", $B =$ "la somma è 7". $\mathbb{P}(A) = \frac6{36} = \frac16$ , $\mathbb{P}(B) = \frac6{36} = \frac16$ , $A \cap B = \{(1, 6)\}$ quindi $\mathbb{P}(A \cap B) = \frac1{36} = \frac16 \cdot \frac16$ : indipendenti. Invece con $C =$ "la somma è 12" $= \{(6,6)\}$ : $\mathbb{P}(A \cap C) = 0 \ne \frac16 \cdot \frac1{36}$ : non indipendenti (se il primo dado dà 1 la somma 12 è impossibile).

Proprietà (l'indipendenza passa ai complementari). Se $A$ e $B$ sono indipendenti, allora sono indipendenti anche $A$ e $B^c$ , $A^c$ e $B$ , $A^c$ e $B^c$ .

Esempio. Se $A$ e $B$ sono indipendenti con $\mathbb{P}(A) = \frac{1}{2}$ e $\mathbb{P}(B) = \frac{1}{3}$ : $\mathbb{P}(A \cap B^c) = \frac{1}{2} \cdot \frac{2}{3} = \frac{1}{3}$ .

Definizione (eventi mutuamente indipendenti). Gli eventi $A_1, \dots, A_n$ sono (mutuamente) indipendenti se per ogni sottofamiglia di indici $I \subseteq \{1, \dots, n\}$ con almeno due elementi $\mathbb{P}\Big(\bigcap_{i \in I} A_i\Big) = \prod_{i \in I} \mathbb{P}(A_i)$

Esempio: un sistema con 3 componenti in parallelo, ciascuno guasto con probabilità $0{,}1$ indipendentemente, funziona se almeno uno funziona: $1 - 0{,}1^3 = 0{,}999$ .

Prove ripetute e modello binomiale

Formula (probabilità di una sequenza di prove). $\boxed{p(\omega) = p^{k} (1 - p)^{n - k}, \qquad k = \sum_{i=1}^n x_i}$

Esempio: $n = 4$ , $\omega = (1, 0, 1, 1)$ : $p \cdot (1-p) \cdot p \cdot p = p^3 (1 - p)$ .

Formula (esattamente k successi in n prove). $\boxed{\mathbb{P}(A_k) = \binom{n}{k} p^k (1 - p)^{n - k}, \qquad k = 0, 1, \dots, n}$

Esempio (dado). 10 lanci di un dado equo, probabilità di ottenere esattamente due 6: $n = 10$ , $k = 2$ , $p = \frac16$ :

Grafico interattivo: Modello binomiale con n = 10, p = 0,3: probabilità di k successi (massima per k = 3 = n·p)

Formula (tempo del primo successo). $\mathbb{P}(\text{primo successo alla prova } k) = (1 - p)^{k - 1} p, \qquad k = 1, 2, \dots$

Esempio: con un dado, probabilità che il primo 6 arrivi al terzo lancio: $\left(\frac56\right)^2 \frac16 = \frac{25}{216} \approx 0{,}116$ ; probabilità di non vedere nessun 6 nei primi 3 lanci: $\left(\frac56\right)^3 \approx 0{,}579$ .

3. Variabili aleatorie discrete

Variabili aleatorie discrete e densità discreta

Definizione (variabile aleatoria discreta). Sia $(\Omega, \mathcal F, P)$ uno spazio di probabilità. Una variabile aleatoria (v.a.) discreta è una funzione $X : \Omega \to \mathbb R$ tale che l'insieme dei valori assunti $X(\Omega) = \{X(\omega) : \omega \in \Omega\}$ è finito o numerabile, e tale che per ogni $x \in \mathbb R$ l'insieme $\{\omega \in \Omega : X(\omega) = x\}$ è un evento (cioè sta in $\mathcal F$ ).

Esempio. Nel lancio di due dadi, $S(\omega_1, \omega_2) = \omega_1 + \omega_2$ è una v.a. discreta con alfabeto $\{2, 3, \dots, 12\}$ .

Definizione (densità discreta). La densità discreta (o funzione di massa) di una v.a. discreta $X$ è la funzione $p_X : \mathbb R \to [0, 1], \qquad p_X(x) := P(X = x).$

Esempio. Dado equo: $p_X(k) = \frac{1}{6}$ per $k = 1, \dots, 6$ e $p_X(x) = 0$ altrimenti.

Formula (probabilità di un evento tramite la densità). $\boxed{\;P(X \in B) = \sum_{x \in B \cap \mathcal X_X} p_X(x)\;}$

Esempio. Dado equo: $P(X \in \{2,4,6\}) = \frac{1}{6} + \frac{1}{6} + \frac{1}{6} = \frac{1}{2}$ .

Formula (densità di una funzione di una v.a. discreta). $p_Y(y) = P(g(X) = y) = \sum_{x \in \mathcal X_X : \, g(x) = y} p_X(x).$

Esempio. $X$ uniforme su $\{-1, 0, 1\}$ (ogni valore con probabilità $\frac13$ ) e $Y = X^2$ . L'alfabeto di $Y$ è $\{0, 1\}$ ; $Y = 1$ sia per $x = -1$ sia per $x = 1$ , quindi

Funzione di distribuzione

Definizione (funzione di distribuzione). Sia $X$ una v.a. (qualsiasi: discreta, continua o mista). La funzione di distribuzione (FdD, o funzione di ripartizione) di $X$ è $F_X : \mathbb R \to [0, 1], \qquad F_X(x) := P(X \le x).$

Esempio. Dado equo: $F_X(3{,}5) = P(X \le 3{,}5) = P(X \in \{1,2,3\}) = \frac{3}{6} = \frac{1}{2}$ .

Proprietà (della funzione di distribuzione). (F1) $F_X$ è crescente (debolmente): $x < y \Rightarrow F_X(x) \le F_X(y)$ .

(F2) $\displaystyle\lim_{x \to -\infty} F_X(x) = 0$ e $\displaystyle\lim_{x \to +\infty} F_X(x) = 1$ .

(F3) $F_X$ è continua a destra: $\displaystyle\lim_{y \to x^+} F_X(y) = F_X(x)$ per ogni $x$ .

Esempio. Dado equo: $F_X$ vale $0$ per $x < 1$ e $1$ per $x \ge 6$ , è crescente e continua a destra nei salti (per esempio $F_X(3) = \frac{3}{6}$ ).

Bernoulli, binomiale e uniforme discreta

Definizione (distribuzione di Bernoulli). $X \sim \text{Be}(p)$ , con $p \in [0, 1]$ , se $X$ ha alfabeto $\{0, 1\}$ e $p_X(1) = p, \qquad p_X(0) = 1 - p.$

Esempio. Lancio di una moneta equa (testa $= 1$ ): $X \sim \text{Be}(\frac{1}{2})$ , con $P(X = 1) = P(X = 0) = \frac{1}{2}$ .

Definizione (distribuzione binomiale). $X \sim \text{Bin}(n, p)$ , con $n \in \mathbb N^*$ e $p \in [0, 1]$ , se $X$ ha alfabeto $\{0, 1, \dots, n\}$ e $p_X(k) = \binom nk p^k (1 - p)^{n - k}, \qquad k = 0, 1, \dots, n.$

Esempio. $X \sim \text{Bin}(3, \frac{1}{2})$ : $P(X = 2) = \binom{3}{2} \cdot \frac{1}{8} = \frac{3}{8}$ .

Proprietà (media e varianza della binomiale). Se $X \sim \text{Bin}(n, p)$ : $\quad E[X] = np, \qquad \text{Var}(X) = np(1 - p).$

Esempio. $X \sim \text{Bin}(100, \frac{1}{2})$ : $E[X] = 100 \cdot \frac{1}{2} = 50$ e $\text{Var}(X) = 100 \cdot \frac{1}{2} \cdot \frac{1}{2} = 25$ .

Definizione (uniforme discreta). $X$ è uniforme discreta su $\{x_1, \dots, x_n\}$ (valori distinti) se $p_X(x_i) = \frac1n$ per ogni $i$ .

Esempio. Dado equo: $X$ è uniforme su $\{1, \dots, 6\}$ , con $E[X] = \frac{n+1}{2} = \frac{7}{2}$ e $\text{Var}(X) = \frac{n^2 - 1}{12} = \frac{35}{12}$ .

Grafico interattivo: Densità uniforme sulle facce del dado: sei valori alla stessa altezza 1/6

Distribuzione geometrica

Definizione (distribuzione geometrica). $X \sim \text{Geo}(p)$ se ha alfabeto $\mathbb N^* = \{1, 2, 3, \dots\}$ e $p_X(n) = (1 - p)^{n - 1} p, \qquad n = 1, 2, \dots$

Esempio. Lanciare un dado fino al primo $6$ : $X \sim \text{Geo}(\frac{1}{6})$ e $P(X = 3) = \left(\frac{5}{6}\right)^2 \frac{1}{6} = \frac{25}{216}$ .

Grafico interattivo: Densità di Geo(1/2): P(X = n) = (1/2)^n, si dimezza a ogni passo

Proprietà (probabilità di lunga attesa). $P(X > n) = (1 - p)^n, \qquad n = 0, 1, 2, \dots$

Esempio. $X \sim \text{Geo}(\frac{1}{2})$ : $P(X > 3) = \left(\frac{1}{2}\right)^3 = \frac{1}{8}$ .

Proprietà (assenza di memoria). Per ogni $n, m \ge 0$ interi: $P(X > n + m \mid X > n) = P(X > m).$

Esempio. $X \sim \text{Geo}(\frac{1}{2})$ : $P(X > 5 \mid X > 2) = P(X > 3) = \frac{1}{8}$ .

Proprietà (media e varianza della geometrica). Se $X \sim \text{Geo}(p)$ : $\quad E[X] = \dfrac1p, \qquad \text{Var}(X) = \dfrac{1 - p}{p^2}.$

Esempio. $X \sim \text{Geo}(\frac{1}{6})$ : $E[X] = 6$ e $\text{Var}(X) = \frac{5/6}{1/36} = 30$ .

Distribuzione di Poisson

Definizione (distribuzione di Poisson). $X \sim \text{Poi}(\lambda)$ , con $\lambda > 0$ , se $X$ ha alfabeto $\mathbb N = \{0, 1, 2, \dots\}$ e $p_X(k) = e^{-\lambda} \frac{\lambda^k}{k!}, \qquad k = 0, 1, 2, \dots$

Esempio. $X \sim \text{Poi}(2)$ : $P(X = 0) = e^{-2} \approx 0{,}135$ e $P(X = 1) = 2e^{-2} \approx 0{,}271$ .

Proprietà (media e varianza della Poisson). Se $X \sim \text{Poi}(\lambda)$ : $\quad E[X] = \lambda, \qquad \text{Var}(X) = \lambda.$

Esempio. $X \sim \text{Poi}(3)$ ha $E[X] = \text{Var}(X) = 3$ .

Teorema. Sia $\lambda > 0$ e $X_n \sim \text{Bin}(n, \frac\lambda n)$ . Allora per ogni $k \in \mathbb N$ fissato $\lim_{n \to \infty} P(X_n = k) = e^{-\lambda}\frac{\lambda^k}{k!}.$

Esempio. $X \sim \text{Bin}(100, 0{,}02)$ ha $\lambda = np = 2$ : $P(X = 3) \approx e^{-2}\frac{2^3}{3!} \approx 0{,}180$ (il valore esatto è $0{,}182$ ).

Valore atteso

Definizione (valore atteso). Sia $X$ una v.a. discreta con densità $p_X$ . Se $\sum_{x \in \mathcal X_X} |x| \, p_X(x) < +\infty,$ si dice che $X$ ha valore atteso (o media, o speranza matematica) finito, e si pone $E[X] := \sum_{x \in \mathcal X_X} x \, p_X(x).$

Esempio. Dado equo: $E[X] = \frac{1 + 2 + 3 + 4 + 5 + 6}{6} = \frac{7}{2}$ .

Teorema (fondamentale del valore atteso). Sia $X$ discreta e $g : \mathbb R \to \mathbb R$ . Allora $Y = g(X)$ ha media finita se e solo se $\sum_x |g(x)| \, p_X(x) < \infty$ , e in tal caso $E[g(X)] = \sum_{x \in \mathcal X_X} g(x) \, p_X(x).$

Esempio (III appello 24.06.2026). $X \sim \text{Geo}(\frac12)$ , cioè $p_X(n) = \frac1{2^n}$ per $n \ge 1$ , e $W = \left(\frac32\right)^X$ :

Proprietà (del valore atteso).

Costanti: $E[c] = c$ .

Linearità: $E[aX + b] = aE[X] + b$ , e più in generale $E[aX + bY] = aE[X] + bE[Y]$ per v.a. $X, Y$ con media finita (definite sullo stesso spazio), anche non indipendenti.

Positività e monotonia: se $X \ge 0$ allora $E[X] \ge 0$ ; se $X \le Y$ allora $E[X] \le E[Y]$ .

Indicatrici: $E[\mathbb 1_A] = P(A)$ .

Esempio d'esame. (I parziale 17.11.2025.) Vincita $X = 3Y - 2$ con $Y \sim \text{Bin}(2, \frac47)$ , $E[Y] = 2 \cdot \frac47 = \frac87$ . Per linearità, senza ricalcolare nulla:

Formula (delle code). Se $X$ assume valori in $\{0, 1, 2, \dots\}$ : $E[X] = \sum_{n = 0}^\infty P(X > n).$

Esempio: per $X \sim \text{Geo}(p)$ , $P(X > n) = (1 - p)^n$ e quindi $E[X] = \sum_{n \ge 0} (1 - p)^n = \frac1p$ , senza derivare serie (Distribuzione geometrica).

Varianza e momenti

Definizione (momenti). Sia $k \ge 1$ intero e $X$ una v.a. con $E[|X|^k] < \infty$ .

Il momento $k$ -esimo di $X$ è $E[X^k]$ .

Il momento centrato $k$ -esimo è $E[(X - \mu)^k]$ , con $\mu = E[X]$ .

Esempio. Dado equo: $E[X] = \frac{7}{2}$ e il momento secondo è $E[X^2] = \frac{1 + 4 + 9 + 16 + 25 + 36}{6} = \frac{91}{6}$ .

Definizione (varianza e deviazione standard). Sia $X$ con $E[X^2] < \infty$ e $\mu = E[X]$ . La varianza di $X$ è $\text{Var}(X) := E[(X - \mu)^2] = \sum_x (x - \mu)^2 \, p_X(x) \quad (\text{caso discreto}).$ La deviazione standard è $\sigma_X := \sqrt{\text{Var}(X)}$ .

Esempio. Dado equo: $\text{Var}(X) = E[X^2] - E[X]^2 = \frac{91}{6} - \frac{49}{4} = \frac{35}{12} \approx 2{,}92$ .

Formula (di calcolo della varianza). $\text{Var}(X) = E[X^2] - E[X]^2.$

Esempio. $X \sim \text{Be}(p)$ : $E[X^2] = p$ e $E[X] = p$ , quindi $\text{Var}(X) = p - p^2 = p(1 - p)$ .

Proprietà (della varianza).

$\text{Var}(X) \ge 0$ , e $\text{Var}(X) = 0$ se e solo se $X = \mu$ con probabilità $1$ .

$\text{Var}(aX + b) = a^2 \, \text{Var}(X)$ per ogni $a, b \in \mathbb R$ .

$\text{Var}(X + Y) = \text{Var}(X) + \text{Var}(Y) + 2\,\text{Cov}(X, Y)$ ; se $X$ e $Y$ sono indipendenti, $\text{Var}(X + Y) = \text{Var}(X) + \text{Var}(Y)$ .

Esempio d'esame (I parziale 17.11.2025, III appello 24.06.2026). $X = 3Y - 2$ con $Y \sim \text{Bin}(2, \frac47)$ , $\text{Var}(Y) = 2 \cdot \frac47 \cdot \frac37 = \frac{24}{49}$ :

Disuguaglianze di Markov, Chebyshev e Jensen

Teorema (disuguaglianza di Markov). Sia $X \ge 0$ una v.a. con media finita. Per ogni $a > 0$ : $P(X \ge a) \le \frac{E[X]}{a}.$

Esempio numerico. $X \sim \text{Geo}(\frac12)$ , $E[X] = 2$ . Markov: $P(X \ge 4) \le \frac24 = 0{,}5$ . Valore vero: $P(X \ge 4) = P(X > 3) = \left(\frac12\right)^3 = 0{,}125$ (Distribuzione geometrica). La stima è corretta ma larga.

Grafico interattivo: Geo(1/2), E[X] = 2: la probabilità vera P(X ≥ a) = (1/2)^(⌈a⌉−1) (linea continua a gradini) sta sempre sotto la maggiorazione di Markov 2/a (tratteggiata); in a = 4 vale 0,125 contro 0,5

Teorema (disuguaglianza di Chebyshev). Sia $X$ con $E[X^2] < \infty$ , $\mu = E[X]$ . Per ogni $\varepsilon > 0$ : $P(|X - \mu| \ge \varepsilon) \le \frac{\text{Var}(X)}{\varepsilon^2}.$

Esempio numerico. $X \sim \text{Bin}(100, \frac12)$ : $\mu = 50$ , $\text{Var}(X) = 25$ . Chebyshev:

Grafico interattivo: Chebyshev 1/k² contro il valore vero per una gaussiana, 2(1 − Φ(k)) = 0,317; 0,046; 0,0027 per k = 1, 2, 3: la maggiorazione vale per ogni legge, quindi è larga per quasi tutte

Teorema (disuguaglianza di Jensen). Sia $\varphi : \mathbb R \to \mathbb R$ convessa e $X$ tale che $X$ e $\varphi(X)$ abbiano media finita. Allora $\varphi(E[X]) \le E[\varphi(X)].$ Se $\varphi$ è concava la disuguaglianza si rovescia: $\varphi(E[X]) \ge E[\varphi(X)]$ .

Esempio. $\varphi(x) = x^2$ è convessa, quindi $E[X]^2 \le E[X^2]$ , cioè $\text{Var}(X) \ge 0$ .

4. Variabili aleatorie assolutamente continue

Spazi di probabilità generali e sigma-algebra di Borel

Definizione (σ-algebra di Borel). La σ-algebra di Borel su $\mathbb R$ , indicata con $\mathcal B(\mathbb R)$ , è la σ-algebra generata dagli intervalli: $\mathcal B(\mathbb R) := \sigma\big(\{(a, b] : a < b\}\big).$ I suoi elementi si chiamano boreliani.

Esempio. Intervalli, punti e aperti di $\mathbb{R}$ sono boreliani; per esempio $[a, b] = \bigcap_{n \ge 1} \left(a - \frac{1}{n}, b\right]$ .

Teorema (continuità della probabilità). Sia $(A_n)_{n \ge 1}$ una successione di eventi.

Dal basso: se $A_1 \subseteq A_2 \subseteq \dots$ (crescente), allora $\displaystyle P\Big(\bigcup_{n} A_n\Big) = \lim_{n \to \infty} P(A_n)$ .

Dall'alto: se $A_1 \supseteq A_2 \supseteq \dots$ (decrescente), allora $\displaystyle P\Big(\bigcap_{n} A_n\Big) = \lim_{n \to \infty} P(A_n)$ .

Esempio 1: prima o poi esce testa. Si lancia all'infinito una moneta equa. $A_n =$ "nessuna testa nei primi $n$ lanci" è una successione decrescente (se non è uscita testa nei primi $n+1$ lanci, non è uscita nei primi $n$ ), con $P(A_n) = 2^{-n}$ . L'intersezione $\bigcap_n A_n$ è "non esce mai testa", quindi

Definizione (variabile aleatoria). Una variabile aleatoria su $(\Omega, \mathcal F, P)$ è una funzione $X : \Omega \to \mathbb R$ tale che $\{X \le x\} = \{\omega \in \Omega : X(\omega) \le x\} \in \mathcal F \qquad \text{per ogni } x \in \mathbb R.$

Esempio. Su $\Omega = \{1, \dots, 6\}$ con $\mathcal{F} = \mathcal{P}(\Omega)$ , $X(\omega) = \omega^2$ è una v.a.: ogni $\{X \le x\}$ è un sottoinsieme di $\Omega$ , cioè un evento.

Variabili aleatorie assolutamente continue

Definizione (variabile aleatoria assolutamente continua e densità). Una v.a. $X$ si dice assolutamente continua (a.c.) se esiste una funzione $f_X : \mathbb R \to [0, +\infty)$ integrabile tale che $F_X(x) = P(X \le x) = \int_{-\infty}^x f_X(t) \, dt \qquad \text{per ogni } x \in \mathbb R.$ La funzione $f_X$ si chiama densità (di probabilità) di $X$ .

Esempio. $f_X(x) = 2x$ su $[0,1]$ (e $0$ altrove) è una densità, perché $\int_0^1 2x\,dx = 1$ ; la FdD è $F_X(x) = x^2$ per $x \in [0,1]$ .

Proprietà (della densità). (D1) $f_X(x) \ge 0$ per ogni $x$ .

(D2) $\displaystyle\int_{-\infty}^{+\infty} f_X(x) \, dx = 1$ .

Esempio. $f(x) = 3x^2$ su $[0,1]$ ha $f \ge 0$ e $\int_0^1 3x^2\,dx = 1$ : è una densità.

Definizione (valore atteso di una variabile aleatoria assolutamente continua). Se $\int_{\mathbb R} |x| f_X(x) \, dx < +\infty$ , il valore atteso di $X$ è $E[X] := \int_{-\infty}^{+\infty} x \, f_X(x) \, dx.$

Esempio senza media. La densità di Cauchy $f(x) = \frac{1}{\pi(1 + x^2)}$ ha $\int |x| f(x) \, dx = +\infty$ (l'integranda si comporta come $\frac1{\pi |x|}$ all'infinito): $E[X]$ non esiste, anche se la densità è simmetrica rispetto a $0$ .

Teorema (fondamentale del valor medio, caso continuo). Se $g : \mathbb R \to \mathbb R$ è una funzione (continua a tratti) e $\int |g(x)| f_X(x) \, dx < +\infty$ , allora $E[g(X)] = \int_{-\infty}^{+\infty} g(x) \, f_X(x) \, dx.$

Esempio. $X \sim U(0,1)$ : $E[X^2] = \int_0^1 x^2\,dx = \frac{1}{3}$ .

Distribuzioni uniforme continua ed esponenziale

Definizione (uniforme continua). $X \sim U(a, b)$ , con $a < b$ , se $f_X(x) = \frac{1}{b - a} \, \mathbb 1_{[a, b]}(x), \qquad F_X(x) = \begin{cases} 0 & x < a \\ \dfrac{x - a}{b - a} & a \le x < b \\ 1 & x \ge b. \end{cases}$

Esempio. $X \sim U(0,4)$ ha $f_X = \frac{1}{4}$ su $[0,4]$ e $P(1 \le X \le 3) = \frac{3 - 1}{4} = \frac{1}{2}$ .

Grafico interattivo: FdD di U(0, 1): cresce linearmente da 0 a 1 sull'intervallo

Proprietà (media e varianza dell'uniforme continua). $E[X] = \frac{a + b}{2}, \qquad \text{Var}(X) = \frac{(b - a)^2}{12}.$

Esempio. L'errore di arrotondamento $E \sim U(-\frac12, \frac12)$ ha media $0$ e deviazione standard $\sqrt{1/12} \approx 0{,}289$ .

Definizione (distribuzione esponenziale). $X \sim \text{Exp}(\lambda)$ , con $\lambda > 0$ , se $f_X(x) = \lambda e^{-\lambda x} \, \mathbb 1_{[0, +\infty)}(x), \qquad F_X(x) = \begin{cases} 0 & x < 0 \\ 1 - e^{-\lambda x} & x \ge 0. \end{cases}$

Esempio. $X \sim \text{Exp}(2)$ ha $f_X(x) = 2e^{-2x}$ per $x \ge 0$ e $P(X \le 1) = 1 - e^{-2} \approx 0{,}865$ .

Proprietà (probabilità di sopravvivenza dell'esponenziale). $P(X > t) = e^{-\lambda t}, \qquad t \ge 0.$

Esempio. $X \sim \text{Exp}(\frac{1}{2})$ : $P(X > 4) = e^{-2} \approx 0{,}135$ .

Grafico interattivo: Exp(1): la probabilità di sopravvivenza P(X > 1) = e⁻¹ ≈ 0,368 è l'area della coda a destra di t = 1

Proprietà (media e varianza dell'esponenziale). $E[X] = \frac1\lambda, \qquad \text{Var}(X) = \frac{1}{\lambda^2}.$

Esempio. $X \sim \text{Exp}(2)$ : $E[X] = \frac{1}{2}$ e $\text{Var}(X) = \frac{1}{4}$ .

Proprietà (assenza di memoria dell'esponenziale). Per ogni $s, t \ge 0$ : $P(X > s + t \mid X > s) = P(X > t).$

Esempio. $X \sim \text{Exp}(\lambda)$ : $P(X > 5 \mid X > 2) = P(X > 3) = e^{-3\lambda}$ .

Distribuzione gamma

Definizione (funzione Gamma). Per $\alpha > 0$ , la funzione Gamma di Eulero è $\Gamma(\alpha) := \int_0^{+\infty} x^{\alpha - 1} e^{-x} \, dx.$

Esempio. $\Gamma(1) = \int_0^\infty e^{-x}\,dx = 1$ e $\Gamma(n) = (n-1)!$ : $\Gamma(4) = 3! = 6$ .

Definizione (distribuzione gamma). $X \sim \Gamma(\alpha, \lambda)$ , con forma $\alpha > 0$ e tasso $\lambda > 0$ , se $f_X(x) = \frac{\lambda^\alpha}{\Gamma(\alpha)} \, x^{\alpha - 1} e^{-\lambda x} \, \mathbb 1_{(0, +\infty)}(x).$

Esempio. $X \sim \Gamma(2, 2)$ ha densità $f_X(x) = \frac{2^2}{\Gamma(2)}\,x e^{-2x} = 4x e^{-2x}$ per $x > 0$ .

Grafico interattivo: Densità di Γ(α, 1) al variare della forma α: per α < 1 esplode in 0, per α = 1 è l'esponenziale, per α > 1 parte da 0 e ha il massimo in α − 1; per α = 5 è già quasi simmetrica

Proprietà (media e varianza della gamma). Se $X \sim \Gamma(\alpha, \lambda)$ : $\quad E[X] = \dfrac\alpha\lambda, \qquad \text{Var}(X) = \dfrac{\alpha}{\lambda^2}.$

Esempio. $X \sim \Gamma(3, 2)$ : $E[X] = \frac{3}{2}$ e $\text{Var}(X) = \frac{3}{4}$ .

Teorema (somma di gamma indipendenti). Se $X \sim \Gamma(\alpha, \lambda)$ e $Y \sim \Gamma(\beta, \lambda)$ sono indipendenti (stesso tasso $\lambda$ ), allora $X + Y \sim \Gamma(\alpha + \beta, \lambda).$

Esempio d'esame (I appello 15.01.2026, Esercizio 16 · due esponenziali indipendenti, quadrato e somma): $X, Y \sim \text{Exp}(2)$ indipendenti, $Z = X + Y \sim \Gamma(2, 2)$ , cioè

Distribuzione gaussiana (normale)

Definizione (gaussiana standard). $Z \sim N(0, 1)$ se ha densità $\varphi(z) = \frac{1}{\sqrt{2\pi}} e^{-z^2/2}, \qquad z \in \mathbb R.$ La sua FdD si indica con $\Phi(z) = \displaystyle\int_{-\infty}^z \varphi(t) \, dt$ .

Esempio. $Z \sim N(0,1)$ : $\varphi(0) = \frac{1}{\sqrt{2\pi}} \approx 0{,}399$ e $P(Z \le 0) = \Phi(0) = \frac{1}{2}$ .

Grafico interattivo: Densità della gaussiana standard: campana simmetrica, flessi in ±1

Definizione (gaussiana generale). $X \sim N(\mu, \sigma^2)$ , con $\mu \in \mathbb R$ e $\sigma > 0$ , se $f_X(x) = \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{(x - \mu)^2}{2\sigma^2}\right), \qquad x \in \mathbb R.$ Allora $E[X] = \mu$ e $\text{Var}(X) = \sigma^2$ .

Esempio. $X \sim N(3, 4)$ ha media $3$ , varianza $4$ e deviazione standard $\sigma = 2$ .

Grafico interattivo: Effetto dei parametri: N(2, 1) è la standard traslata di 2 (μ sposta), N(0, 4) ha lo stesso centro ma σ = 2, quindi è più larga e bassa (σ allarga)

Teorema (trasformazioni affini di una gaussiana). Se $X \sim N(\mu, \sigma^2)$ e $a \ne 0$ , $b \in \mathbb R$ , allora $aX + b \sim N(a\mu + b, \ a^2\sigma^2).$

Esempio. $X \sim N(1, 4)$ : $3X - 2 \sim N(3 \cdot 1 - 2,\ 9 \cdot 4) = N(1, 36)$ .

Formula (standardizzazione di una gaussiana). $P(X \le x) = P\left(\frac{X - \mu}{\sigma} \le \frac{x - \mu}{\sigma}\right) = \Phi\left(\frac{x - \mu}{\sigma}\right).$

Esempio. $X \sim N(3, 4)$ : $P(X \le 5) = \Phi\left(\frac{5 - 3}{2}\right) = \Phi(1) \approx 0{,}841$ .

Teorema (somma di gaussiane indipendenti). Se $X \sim N(\mu_1, \sigma_1^2)$ e $Y \sim N(\mu_2, \sigma_2^2)$ sono indipendenti, allora $X + Y \sim N(\mu_1 + \mu_2, \ \sigma_1^2 + \sigma_2^2), \qquad aX + bY \sim N(a\mu_1 + b\mu_2, \ a^2\sigma_1^2 + b^2\sigma_2^2).$

Esempio. $X \sim N(1, 4)$ e $Y \sim N(2, 5)$ indipendenti: $X + Y \sim N(3, 9)$ .

Funzioni di una variabile aleatoria

Principio (metodo generale: passare per la funzione di distribuzione).

Scrivere $F_Y(y) = P(Y \le y) = P(g(X) \le y)$ .

Per ogni $y$ , trovare l'insieme $A_y = \{x : g(x) \le y\} = g^{-1}((-\infty, y])$ dei valori di $X$ che rendono vero l'evento. Aiutarsi col grafico di $g$ : si traccia la retta orizzontale di altezza $y$ e si guarda dove il grafico sta sotto.

Calcolare $F_Y(y) = P(X \in A_y)$ con la FdD o la densità di $X$ .

Guardare $F_Y$ : se è continua e derivabile a tratti, $f_Y = F_Y'$ ; se è a gradini, $Y$ è discreta; se ha salti e tratti crescenti, è mista.

Esempio. $X \sim U(0,1)$ e $Y = X^2$ : $F_Y(y) = P(X^2 \le y) = P(X \le \sqrt{y}) = \sqrt{y}$ per $y \in [0,1]$ , quindi $f_Y(y) = \frac{1}{2\sqrt{y}}$ .

Teorema (densità di g(X) per g strettamente monotona). Sia $X$ a.c. con densità $f_X$ , e sia $g$ strettamente monotona e derivabile sull'insieme dove $f_X > 0$ , con inversa $h = g^{-1}$ derivabile. Allora $Y = g(X)$ è a.c. con densità $f_Y(y) = f_X(h(y)) \, |h'(y)| \qquad \text{per } y \text{ nell'immagine di } g,$ e $f_Y(y) = 0$ fuori dall'immagine.

Esempio: trasformazione affine. $Y = aX + b$ , $h(y) = \frac{y - b}{a}$ , $|h'(y)| = \frac{1}{|a|}$ : $f_Y(y) = \frac{1}{|a|} f_X\left(\frac{y - b}{a}\right)$ . Da qui viene che una gaussiana trasformata in modo affine resta gaussiana (Distribuzione gaussiana (normale)).

Variabili aleatorie miste

Definizione (variabile aleatoria mista). Una v.a. $X$ è mista se la sua FdD si scrive come $F_X(x) = \sum_{i \,:\, x_i \le x} p_i + \int_{-\infty}^x f(t) \, dt,$ dove $x_1, x_2, \dots$ sono i punti di salto, $p_i = P(X = x_i) > 0$ le altezze dei salti, $f \ge 0$ una funzione (la "densità della parte continua"), con $\sum_i p_i + \int_{-\infty}^{+\infty} f(t) \, dt = 1.$

Esempio. $F_X(x) = 0{,}3 + 0{,}7(1 - e^{-2x})$ per $x \ge 0$ (e $0$ per $x < 0$ ): c'è un salto $p_0 = 0{,}3$ in $x = 0$ e una parte continua di massa $0{,}7$ .

Formula (valore atteso di una variabile mista). $E[g(X)] = \sum_i g(x_i) \, p_i + \int_{-\infty}^{+\infty} g(x) f(x) \, dx$ (se la somma e l'integrale convergono assolutamente). In particolare $E[X] = \sum_i x_i p_i + \int x f(x) \, dx, \qquad \text{Var}(X) = E[X^2] - E[X]^2.$

Esempio. Con salto $0{,}3$ in $0$ e parte continua $1{,}4e^{-2x}$ per $x \ge 0$ : $E[X] = 0 \cdot 0{,}3 + 0{,}7 \cdot \frac{1}{2} = 0{,}35$ .

5. Vettori aleatori

Vettori aleatori discreti

Definizione (vettore aleatorio discreto e densità congiunta). Un vettore aleatorio discreto è una coppia (o in generale una $n$ -upla) $(X, Y)$ di v.a. discrete definite sullo stesso spazio $(\Omega, \mathcal F, P)$ . La sua densità congiunta è $p_{X,Y}(x, y) := P(X = x, Y = y), \qquad (x, y) \in \mathbb R^2,$ dove la virgola significa "e": $\{X = x, Y = y\} = \{X = x\} \cap \{Y = y\}$ .

Esempio. Due lanci indipendenti di una moneta equa, $X, Y \in \{0,1\}$ : $p_{X,Y}(x,y) = \frac{1}{4}$ per ogni coppia $(x,y) \in \{0,1\}^2$ .

Formula (densità marginali). $p_X(x) = \sum_{y} p_{X,Y}(x, y), \qquad p_Y(y) = \sum_{x} p_{X,Y}(x, y).$

Esempio. Se $p_{X,Y} \equiv \frac{1}{4}$ su $\{0,1\}^2$ : $p_X(0) = p_{X,Y}(0,0) + p_{X,Y}(0,1) = \frac{1}{2}$ .

Definizione (indipendenza di variabili aleatorie discrete). Le v.a. $X$ e $Y$ sono indipendenti se gli eventi $\{X \in A\}$ e $\{Y \in B\}$ sono indipendenti per ogni scelta di $A, B \subseteq \mathbb R$ . Nel caso discreto questo equivale a $p_{X,Y}(x, y) = p_X(x) \, p_Y(y) \qquad \text{per ogni } (x, y).$

Esempio. Con $p_{X,Y} \equiv \frac{1}{4}$ si ha $p_X = p_Y = \frac{1}{2}$ e $p_X(x)\,p_Y(y) = \frac{1}{4} = p_{X,Y}(x,y)$ : $X$ e $Y$ sono indipendenti.

Teorema fondamentale (caso vettoriale). Per $g : \mathbb R^2 \to \mathbb R$ , se la serie converge assolutamente, $E[g(X, Y)] = \sum_{x} \sum_{y} g(x, y) \, p_{X,Y}(x, y).$

Esempio. Con $p_{X,Y} \equiv \frac{1}{4}$ su $\{0,1\}^2$ : $E[X + Y] = \frac{0 + 1 + 1 + 2}{4} = 1$ .

Vettori aleatori assolutamente continui

Definizione (funzione di ripartizione congiunta). La funzione di ripartizione congiunta (FdR) di un vettore $(X, Y)$ è $F_{X,Y}(x, y) := P(X \le x, Y \le y), \qquad (x, y) \in \mathbb R^2.$

Esempio. $(X, Y)$ uniforme su $[0,1]^2$ : $F_{X,Y}(x, y) = xy$ per $x, y \in [0,1]$ .

Definizione (densità congiunta). Il vettore $(X, Y)$ è assolutamente continuo se esiste $f_{X,Y} : \mathbb R^2 \to [0, +\infty)$ tale che $P((X, Y) \in A) = \iint_A f_{X,Y}(x, y) \, dx \, dy \qquad \text{per ogni } A \subseteq \mathbb R^2 \text{ boreliano}.$ In particolare $\iint_{\mathbb R^2} f_{X,Y} = 1$ e $F_{X,Y}(x, y) = \int_{-\infty}^x \int_{-\infty}^y f_{X,Y}(s, t) \, dt \, ds$ .

Esempio. $f_{X,Y} = 1$ su $[0,1]^2$ (e $0$ altrove) è una densità congiunta: $\iint f_{X,Y} = 1$ .

Formula (densità marginali di un vettore continuo). Se $(X, Y)$ è a.c., allora $X$ e $Y$ sono a.c. con densità $f_X(x) = \int_{-\infty}^{+\infty} f_{X,Y}(x, y) \, dy, \qquad f_Y(y) = \int_{-\infty}^{+\infty} f_{X,Y}(x, y) \, dx.$

Esempio. $f_{X,Y}(x,y) = x + y$ su $[0,1]^2$ : $f_X(x) = \int_0^1 (x + y)\,dy = x + \frac{1}{2}$ .

Definizione (indipendenza di variabili assolutamente continue). $X$ e $Y$ (con $(X, Y)$ a.c.) sono indipendenti se e solo se $f_{X,Y}(x, y) = f_X(x) \, f_Y(y) \qquad \text{per (quasi) ogni } (x, y).$ Equivalentemente, $F_{X,Y}(x, y) = F_X(x) F_Y(y)$ per ogni $(x, y)$ .

Esempio. $f_{X,Y}(x,y) = 4xy$ su $[0,1]^2$ è il prodotto di $f_X(x) = 2x$ e $f_Y(y) = 2y$ : $X$ e $Y$ sono indipendenti.

Formula (valore medio di una funzione del vettore). $E[g(X, Y)] = \iint_{\mathbb R^2} g(x, y) \, f_{X,Y}(x, y) \, dx \, dy.$

Esempio. $f_{X,Y} = 1$ su $[0,1]^2$ : $E[XY] = \int_0^1 \int_0^1 xy\,dx\,dy = \frac{1}{4}$ .

Somma di variabili aleatorie indipendenti

Formula (convoluzione discreta). Se $X$ e $Y$ sono indipendenti a valori interi, $Z = X + Y$ ha densità $p_Z(n) = \sum_{k} p_X(k) \, p_Y(n - k).$

Esempio. Due dadi: $p_Z(7) = \sum_{k=1}^{6} \frac{1}{6} \cdot \frac{1}{6} = \frac{6}{36} = \frac{1}{6}$ .

Formula (convoluzione continua). Se $X$ e $Y$ sono indipendenti e a.c., $Z = X + Y$ è a.c. con densità $f_Z(z) = \int_{-\infty}^{+\infty} f_X(z - y) \, f_Y(y) \, dy = \int_{-\infty}^{+\infty} f_X(x) \, f_Y(z - x) \, dx.$ Si scrive $f_Z = f_X * f_Y$ (convoluzione).

Esempio. $X, Y \sim U(0,1)$ indipendenti: per $0 \le z \le 1$ , $f_Z(z) = \int_0^z 1\,dy = z$ (la densità triangolare).

Proprietà (somma di esponenziali e di gamma). $\text{Exp}(\lambda) + \text{Exp}(\lambda) = \Gamma(2, \lambda)$ , e più in generale $\Gamma(\alpha, \lambda) + \Gamma(\beta, \lambda) = \Gamma(\alpha + \beta, \lambda)$ (indipendenti, stesso tasso).

Esempio. $X, Y \sim \text{Exp}(2)$ indipendenti: $X + Y \sim \Gamma(2, 2)$ , con densità $4z\,e^{-2z}$ per $z > 0$ .

Covarianza e coefficiente di correlazione

Definizione (covarianza). La covarianza di $X$ e $Y$ (con momento secondo finito) è $\text{Cov}(X, Y) := E\big[(X - E[X])(Y - E[Y])\big].$

Esempio. $X, Y \in \{0,1\}$ con $p(0,0) = p(1,1) = \frac{1}{2}$ : $E[XY] = \frac{1}{2}$ e $E[X] = E[Y] = \frac{1}{2}$ , quindi $\text{Cov}(X,Y) = \frac{1}{2} - \frac{1}{4} = \frac{1}{4}$ .

Formula (di calcolo della covarianza). $\text{Cov}(X, Y) = E[XY] - E[X]\,E[Y].$

Esempio. $X \sim U(0,1)$ e $Y = X^2$ : $\text{Cov}(X,Y) = E[X^3] - E[X]E[X^2] = \frac{1}{4} - \frac{1}{2} \cdot \frac{1}{3} = \frac{1}{12}$ .

Proprietà (della covarianza).

Simmetria: $\text{Cov}(X, Y) = \text{Cov}(Y, X)$ .

$\text{Cov}(X, X) = \text{Var}(X)$ .

Costanti: $\text{Cov}(X, c) = 0$ e $\text{Cov}(X + c, Y) = \text{Cov}(X, Y)$ .

Bilinearità: $\text{Cov}(aX + bY, Z) = a\,\text{Cov}(X, Z) + b\,\text{Cov}(Y, Z)$ , e lo stesso nel secondo argomento.

Varianza di una combinazione lineare: $\text{Var}(aX + bY) = a^2\,\text{Var}(X) + b^2\,\text{Var}(Y) + 2ab\,\text{Cov}(X, Y).$

Esempio. Con $\text{Var}(X) = \text{Var}(Y) = 1$ e $\text{Cov}(X,Y) = \frac{1}{2}$ : $\text{Var}(X + Y) = 1 + 1 + 2 \cdot \frac{1}{2} = 3$ .

Teorema (indipendenti implica non correlate). Se $X$ e $Y$ sono indipendenti, allora $\text{Cov}(X, Y) = 0$ , e quindi $\text{Var}(X + Y) = \text{Var}(X) + \text{Var}(Y)$ .

Esempio. Due dadi indipendenti: $\text{Cov} = 0$ e $\text{Var}(X + Y) = 2 \cdot \frac{35}{12} = \frac{35}{6}$ .

Definizione (coefficiente di correlazione). Se $\text{Var}(X), \text{Var}(Y) > 0$ , il coefficiente di correlazione è $\rho(X, Y) := \frac{\text{Cov}(X, Y)}{\sqrt{\text{Var}(X)\,\text{Var}(Y)}} = \frac{\text{Cov}(X, Y)}{\sigma_X\,\sigma_Y}.$

Esempio. Con $\text{Cov}(X,Y) = \frac{1}{4}$ e $\text{Var}(X) = \text{Var}(Y) = \frac{1}{4}$ : $\rho = \frac{1/4}{\sqrt{1/16}} = 1$ (è il caso $Y = X$ ).

Teorema (limiti del coefficiente di correlazione). $-1 \le \rho(X, Y) \le 1$ . Inoltre $|\rho| = 1$ se e solo se $Y = aX + b$ (quasi certamente) per qualche $a \ne 0$ , con $\rho = 1$ se $a > 0$ e $\rho = -1$ se $a < 0$ .

Esempio. $Y = -3X + 1$ ha $\rho(X,Y) = -1$ ; due variabili indipendenti hanno $\rho = 0$ .

Definizione (matrice di covarianza). $\Sigma = (\Sigma_{ij}), \qquad \Sigma_{ij} = \text{Cov}(X_i, X_j).$

Esempio. Se $\text{Var}(X) = 4$ , $\text{Var}(Y) = 1$ e $\text{Cov}(X,Y) = 1$ : $\Sigma = \begin{pmatrix} 4 & 1 \\ 1 & 1 \end{pmatrix}$ .

Vettori gaussiani

Definizione (vettore gaussiano). Un vettore aleatorio $X = (X_1, \dots, X_n)$ è gaussiano se ogni combinazione lineare delle sue componenti $a_1 X_1 + \dots + a_n X_n, \qquad a_1, \dots, a_n \in \mathbb R,$ è una v.a. gaussiana (le costanti contano come gaussiane degeneri, con varianza $0$ ).

Se $m = E[X]$ è il vettore delle medie e $\Sigma$ la matrice di covarianza, si scrive $X \sim N(m, \Sigma)$ .

Esempio. $(Z_1, Z_2)$ con $Z_i \sim N(0,1)$ indipendenti è gaussiano: $aZ_1 + bZ_2 \sim N(0, a^2 + b^2)$ .

Teorema (caratterizzazioni equivalenti dei vettori gaussiani). Per un vettore $X$ con media $m$ e covarianza $\Sigma$ sono equivalenti:

ogni combinazione lineare $a^T X$ è gaussiana;

$X = m + AZ$ , dove $Z = (Z_1, \dots, Z_k)$ ha componenti $N(0, 1)$ indipendenti e $A$ è una matrice $n \times k$ con $AA^T = \Sigma$ ;

la funzione caratteristica è $\varphi_X(\theta) = E[e^{i\theta^T X}] = \exp\left(i\theta^T m - \frac12 \theta^T \Sigma \theta\right)$ per ogni $\theta \in \mathbb R^n$ ;

(se $\det \Sigma > 0$ ) $X$ ha densità $f_X(x) = \frac{1}{\sqrt{(2\pi)^n \det\Sigma}} \exp\left(-\frac12 (x - m)^T \Sigma^{-1} (x - m)\right), \qquad x \in \mathbb R^n.$

Esempio. $X = m + AZ$ con $A = \begin{pmatrix} 1 & 0 \\ 1 & 1 \end{pmatrix}$ e $Z$ standard: $\Sigma = AA^T = \begin{pmatrix} 1 & 1 \\ 1 & 2 \end{pmatrix}$ .

Teorema (trasformazioni affini di un vettore gaussiano). Se $X \sim N(m, \Sigma)$ in $\mathbb R^n$ , $B$ è una matrice $k \times n$ e $b \in \mathbb R^k$ , allora $Y = BX + b \sim N(Bm + b, \ B\Sigma B^T).$

Esempio. $(X, Y)$ standard indipendenti e $B = (1 \ \ 1)$ : $X + Y = B\,(X,Y)^T \sim N(0, BB^T) = N(0, 2)$ .

Teorema (non correlazione e indipendenza per vettori gaussiani). Se $(X, Y)$ è un vettore gaussiano, allora $X$ e $Y$ sono indipendenti se e solo se $\text{Cov}(X, Y) = 0$ . Più in generale, le componenti di un vettore gaussiano sono indipendenti se e solo se $\Sigma$ è diagonale.

Esempio. Se $(X,Y)$ è gaussiano con $\text{Cov}(X,Y) = 0$ , allora $X$ e $Y$ sono indipendenti; per v.a. non congiuntamente gaussiane questo può essere falso.

Grafico interattivo: Curve di livello (distanza 1 dal centro) di vettori gaussiani con varianze 1: ρ = 0 dà una circonferenza (assi indipendenti), ρ = 0,8 un'ellisse lungo la diagonale crescente, ρ = −0,8 lungo quella decrescente

6. Densità e media condizionata

Densità e media condizionata

Definizione (densità e media condizionate a un evento). Se $B$ è un evento con $P(B) > 0$ , la densità di $X$ condizionata a $B$ è $p_{X \mid B}(x) := P(X = x \mid B) = \frac{P(\{X = x\} \cap B)}{P(B)},$ e la media condizionata è $E[X \mid B] = \sum_x x \, p_{X \mid B}(x)$ .

Esempio (dado): $X$ = risultato di un dado, $B$ = "esce pari". $p_{X \mid B}(x) = \frac13$ per $x \in \{2, 4, 6\}$ e $0$ altrove, quindi $E[X \mid B] = 4$ .

Definizione (densità e media condizionate a una v.a. discreta). Siano $X, Y$ discrete. Per ogni $y$ con $p_Y(y) > 0$ , la densità di $X$ condizionata a $Y = y$ è $p_{X \mid Y}(x \mid y) := P(X = x \mid Y = y) = \frac{p_{X,Y}(x, y)}{p_Y(y)},$ e la media condizionata è $E[X \mid Y = y] := \sum_x x \, p_{X \mid Y}(x \mid y)$ .

Esempio. Con $p_{X,Y} \equiv \frac{1}{4}$ su $\{0,1\}^2$ : $p_{X \mid Y}(x \mid 1) = \frac{1/4}{1/2} = \frac{1}{2}$ e $E[X \mid Y = 1] = \frac{1}{2}$ .

Definizione (densità e media condizionate a una v.a. continua). Sia $(X, Y)$ assolutamente continuo. Per ogni $y$ con $f_Y(y) > 0$ , la densità di $X$ condizionata a $Y = y$ è $f_{X \mid Y}(x \mid y) := \frac{f_{X,Y}(x, y)}{f_Y(y)},$ e $E[X \mid Y = y] := \int x \, f_{X \mid Y}(x \mid y) \, dx$ .

Esempio. $f_{X,Y} = 1$ sul quadrato $[0,1]^2$ : $f_{X \mid Y}(x \mid y) = 1$ per $x \in [0,1]$ , cioè $X \mid Y = y \sim U(0,1)$ e $E[X \mid Y = y] = \frac{1}{2}$ .

Grafico interattivo: Densità di X condizionata a Y = y per f = (x + y)/27 sul quadrato [0, 3]²: (2x + 2y)/(6y + 9) cambia con y (più pendente per y = 0 che per y = 3), ma ha sempre area 1

Definizione (media condizionata come variabile aleatoria). $E[X \mid Y] := h(Y), \qquad \text{dove } h(y) = E[X \mid Y = y].$

Esempio. Se $E[X \mid Y = y] = \frac{y}{2}$ , allora $E[X \mid Y] = \frac{Y}{2}$ , una v.a. funzione di $Y$ .

Grafico interattivo: Dato Y = y, X è uniforme su [0, y]: per y = 0,8 sta sul segmento orizzontale e la sua media è 0,4. Al variare di y le medie condizionate stanno sulla retta x = y/2, cioè E[X | Y] = Y/2

Proprietà della torre (o della media iterata): $E\big[E[X \mid Y]\big] = E[X].$ Nel continuo: $E[X] = \int E[X \mid Y = y] \, f_Y(y) \, dy$ ; nel discreto: $E[X] = \sum_y E[X \mid Y = y] \, p_Y(y)$ .

Esempio. $Y \sim U(0,1)$ e $E[X \mid Y] = \frac{Y}{2}$ : $E[X] = E\left[\frac{Y}{2}\right] = \frac{1}{4}$ .

Teorema (vettore gaussiano condizionato). Se $(X, Y)$ è un vettore gaussiano con medie $m_1, m_2$ , varianze $\sigma_1^2, \sigma_2^2 > 0$ e correlazione $\rho$ , allora, dato $Y = y$ , $X \mid Y = y \ \sim \ N\left(m_1 + \rho\frac{\sigma_1}{\sigma_2}(y - m_2), \ \ \sigma_1^2(1 - \rho^2)\right).$ Equivalentemente $E[X \mid Y] = m_1 + \frac{\text{Cov}(X, Y)}{\text{Var}(Y)}(Y - m_2)$ .

Esempio. $(X,Y)$ gaussiano centrato con $\sigma_1 = \sigma_2 = 1$ e $\rho = \frac{1}{2}$ : dato $Y = 2$ , $X \sim N\left(\frac{1}{2} \cdot 2,\ 1 - \frac{1}{4}\right) = N\left(1, \frac{3}{4}\right)$ .

7. Funzioni generatrici

Funzione generatrice dei momenti

Definizione (funzione generatrice dei momenti). La funzione generatrice dei momenti (f.g.m.) di una v.a. $X$ è $M_X(t) := E\big[e^{tX}\big], \qquad t \in \mathbb R,$ definita per i $t$ per cui il valore atteso è finito.

Esempio. $X \sim \text{Be}(p)$ : $M_X(t) = E[e^{tX}] = 1 - p + p\,e^t$ .

Proprietà (momenti dalla f.g.m.). Se $M_X$ è finita in un intorno di $0$ , allora $X$ ha tutti i momenti finiti e $E[X^k] = M_X^{(k)}(0), \qquad k = 1, 2, \dots$

Esempio. $M_X(t) = 1 - p + p\,e^t$ ha $M_X'(0) = p = E[X]$ e $M_X''(0) = p = E[X^2]$ .

Proprietà (trasformazioni affini della f.g.m.). $M_{aX + b}(t) = e^{bt} M_X(at).$

Esempio. $M_{2X + 1}(t) = e^{t} M_X(2t)$ .

Proprietà (f.g.m. di una somma di indipendenti). Se $X$ e $Y$ sono indipendenti, $M_{X + Y}(t) = M_X(t) \, M_Y(t).$

Esempio. Due $\text{Be}(p)$ indipendenti: $M_{X+Y}(t) = (1 - p + p\,e^t)^2$ , la f.g.m. di $\text{Bin}(2, p)$ .

Teorema di unicità. Se $M_X(t) = M_Y(t) < \infty$ per ogni $t$ in un intorno di $0$ , allora $X$ e $Y$ hanno la stessa legge.

Esempio. Se $M_X(t) = e^{t^2/2}$ in un intorno di $0$ , allora $X \sim N(0,1)$ , perché è la f.g.m. di quella legge.

Funzione caratteristica

Definizione (funzione caratteristica). La funzione caratteristica di una v.a. $X$ è $\varphi_X(\theta) := E\big[e^{i\theta X}\big] = E[\cos(\theta X)] + i\,E[\sin(\theta X)], \qquad \theta \in \mathbb R.$

Esempio. $X \sim \text{Be}(p)$ : $\varphi_X(\theta) = (1 - p) + p\,e^{i\theta}$ .

Proprietà (elementari della funzione caratteristica).

$\varphi_X(0) = 1$ .

$|\varphi_X(\theta)| \le 1$ per ogni $\theta$ .

$\varphi_X(-\theta) = \overline{\varphi_X(\theta)}$ (coniugato).

$\varphi_X$ è (uniformemente) continua.

Affinità: $\varphi_{aX + b}(\theta) = e^{ib\theta}\varphi_X(a\theta)$ .

Se $X$ è simmetrica ( $X$ e $-X$ hanno la stessa legge), $\varphi_X$ è reale e pari.

Esempio. $\varphi_{2X + 1}(\theta) = e^{i\theta}\varphi_X(2\theta)$ .

Teorema (momenti dalla funzione caratteristica). Se $E[|X|^k] < \infty$ , allora $\varphi_X$ è derivabile $k$ volte e $\varphi_X^{(k)}(0) = i^k E[X^k], \qquad \text{cioè} \quad E[X^k] = \frac{\varphi_X^{(k)}(0)}{i^k}.$

Esempio. $X \sim \text{Be}(p)$ : $\varphi_X'(0) = i p$ , quindi $E[X] = \frac{\varphi_X'(0)}{i} = p$ .

Proprietà (funzione caratteristica di una somma di indipendenti). Se $X$ e $Y$ sono indipendenti: $\quad \varphi_{X + Y}(\theta) = \varphi_X(\theta)\,\varphi_Y(\theta)$ .

Esempio. $X, Y \sim \text{Be}(p)$ indipendenti: $\varphi_{X+Y}(\theta) = \big(1 - p + p\,e^{i\theta}\big)^2$ , la funzione caratteristica di $\text{Bin}(2, p)$ .

Teorema (di unicità). Unicità. Due v.a. con la stessa funzione caratteristica hanno la stessa legge.

Esempio. Se $\varphi_X(\theta) = 1 - p + p\,e^{i\theta}$ allora $X \sim \text{Be}(p)$ .

Teorema (di inversione). Inversione. Se $\int_{\mathbb R} |\varphi_X(\theta)| \, d\theta < \infty$ , allora $X$ è a.c. con densità $f_X(x) = \frac{1}{2\pi}\int_{\mathbb R} e^{-i\theta x}\varphi_X(\theta) \, d\theta.$

Esempio. $\varphi(\theta) = e^{-\theta^2/2}$ è integrabile e l'inversione restituisce $f(x) = \frac{1}{\sqrt{2\pi}} e^{-x^2/2}$ , la densità di $N(0,1)$ .

Teorema di Bochner. Una funzione $\varphi : \mathbb R \to \mathbb C$ è la funzione caratteristica di qualche v.a. se e solo se $\varphi(0) = 1$ , $\varphi$ è continua e $\varphi$ è definita positiva: per ogni scelta di $\theta_1, \dots, \theta_n \in \mathbb R$ e $c_1, \dots, c_n \in \mathbb C$ , $\sum_{j,k} c_j \overline{c_k}\,\varphi(\theta_j - \theta_k) \ge 0.$

Esempio. $\varphi(\theta) = e^{-\theta^2/2}$ , funzione caratteristica di $N(0,1)$ , soddisfa $\varphi(0) = 1$ , è continua ed è definita positiva.

8. Convergenze e teoremi limite

Convergenza di successioni di variabili aleatorie

Definizione (quattro tipi di convergenza). Quasi certa ( $X_n \xrightarrow{q.c.} X$ ): $P\left(\left\{\omega : \lim_{n\to\infty} X_n(\omega) = X(\omega)\right\}\right) = 1.$

In probabilità ( $X_n \xrightarrow{p} X$ ): per ogni $\varepsilon > 0$ $\lim_{n\to\infty} P(|X_n - X| > \varepsilon) = 0.$

In media $p$ -esima, o in $L^p$ , con $p \ge 1$ ( $X_n \xrightarrow{L^p} X$ ): $\lim_{n\to\infty} E\big[|X_n - X|^p\big] = 0.$ Per $p = 1$ si dice in media, per $p = 2$ in media quadratica (o media seconda).

In distribuzione (o in legge, $X_n \xrightarrow{d} X$ ): $\lim_{n\to\infty} F_{X_n}(x) = F_X(x) \qquad \text{per ogni } x \text{ in cui } F_X \text{ è continua}.$

Esempio. La successione deterministica $X_n = \frac{1}{n}$ converge a $0$ in tutti e quattro i sensi: $|X_n - 0| = \frac{1}{n} \to 0$ .

Proprietà (relazioni tra i tipi di convergenza).

q.c. ⇒ in probabilità.

$L^p$ ⇒ in probabilità.

In probabilità ⇒ in distribuzione.

$L^q$ ⇒ $L^p$ se $q \ge p$ (in particolare $L^2$ ⇒ $L^1$ ).

In distribuzione verso una costante $c$ ⇒ in probabilità verso $c$ .

Esempio. Se $X_n \to X$ in $L^2$ , allora $X_n \to X$ anche in $L^1$ , in probabilità e in distribuzione.

Teorema (di continuità di Lévy). $X_n \xrightarrow{d} X$ se e solo se $\varphi_{X_n}(\theta) \to \varphi_X(\theta)$ per ogni $\theta \in \mathbb R$ .

Più precisamente: se $\varphi_{X_n}(\theta) \to \varphi(\theta)$ per ogni $\theta$ e il limite $\varphi$ è continuo in $0$ , allora $\varphi$ è la funzione caratteristica di una v.a. $X$ e $X_n \xrightarrow{d} X$ .

Esempio. $X_n \sim \text{Bin}(n, \frac{\lambda}{n})$ ha $\varphi_{X_n}(\theta) = \left(1 + \frac{\lambda(e^{i\theta} - 1)}{n}\right)^n \to e^{\lambda(e^{i\theta} - 1)}$ , la funzione caratteristica di $\text{Poi}(\lambda)$ .

Legge dei grandi numeri e metodo Monte Carlo

Teorema (legge debole). Siano $X_1, X_2, \dots$ i.i.d. con media $\mu$ e varianza $\sigma^2$ finita. Allora per ogni $\varepsilon > 0$ $P\big(|\bar X_n - \mu| > \varepsilon\big) \le \frac{\sigma^2}{n\varepsilon^2} \xrightarrow[n\to\infty]{} 0,$ cioè $\bar X_n \xrightarrow{p} \mu$ .

Esempio. Lanci di una moneta equa: $P\left(\left|\bar{X}_n - \frac{1}{2}\right| > 0{,}1\right) \le \frac{1/4}{n \cdot 0{,}01} = \frac{25}{n}$ , che per $n = 1000$ vale $0{,}025$ .

Grafico interattivo: Maggiorazione di Chebyshev 1/(4nε²) con ε = 0,1, in funzione del numero di prove n: scende sotto 0,05 solo da n = 500 in poi

Teorema (legge forte, Kolmogorov). Siano $X_1, X_2, \dots$ i.i.d. con $E[|X_1|] < \infty$ e media $\mu$ . Allora $\bar X_n \xrightarrow{q.c.} \mu, \qquad \text{cioè} \quad P\left(\lim_{n\to\infty}\bar X_n = \mu\right) = 1.$

Esempio. Lanci di una moneta equa: la frequenza di teste $\bar{X}_n$ tende a $\frac{1}{2}$ quasi certamente.

Formula (stima Monte Carlo di un integrale). $\hat I_n := \frac{1}{n}\sum_{k=1}^n g(U_k) \xrightarrow[n\to\infty]{} \int_0^1 g(u) \, du \quad \text{(q.c. e in probabilità)}.$

Esempio. Con $g(u) = u^2$ e $U_k \sim U(0,1)$ indipendenti, $\frac{1}{n}\sum_{k=1}^n U_k^2 \to \int_0^1 u^2\,du = \frac{1}{3}$ .

Teorema del limite centrale e approssimazione normale

Teorema del limite centrale (TLC). $Z_n \xrightarrow{d} Z \sim N(0, 1)$ , cioè $\lim_{n\to\infty} P\left(\frac{S_n - n\mu}{\sigma\sqrt n} \le x\right) = \Phi(x) \qquad \text{per ogni } x \in \mathbb R.$

Esempio. $S_{100}$ = numero di teste in $100$ lanci di una moneta equa ( $n\mu = 50$ , $\sigma\sqrt{n} = \frac{1}{2} \cdot 10 = 5$ ): $P(S_{100} \le 55) \approx \Phi\left(\frac{55 - 50}{5}\right) = \Phi(1) \approx 0{,}841$ .

Proprietà (approssimazione normale della somma). Per $n$ grande: $\quad S_n \approx N(n\mu, n\sigma^2), \qquad \bar X_n \approx N\left(\mu, \frac{\sigma^2}{n}\right),$ $P(S_n \le x) \approx \Phi\left(\frac{x - n\mu}{\sigma\sqrt n}\right).$

Esempio. $S_{100}$ = somma di $100$ lanci di dado ( $\mu = \frac{7}{2}$ , $\sigma^2 = \frac{35}{12}$ ): $S_{100} \approx N\left(350, \frac{3500}{12}\right)$ , con varianza $\approx 291{,}7$ .

Grafico interattivo: X̄ₙ ≈ N(μ, σ²/n) per la frequenza di teste di una moneta equa (μ = 1/2, σ² = 1/4): al crescere di n la campana resta centrata in 1/2 ma si restringe, con scarto σ/√n = 0,05; 0,025; 0,0125

Formula (approssimazione normale della binomiale, De Moivre-Laplace). $\text{Bin}(n, p) \approx N\big(np, \ np(1 - p)\big), \qquad P(X \le k) \approx \Phi\left(\frac{k - np}{\sqrt{np(1 - p)}}\right).$

Esempio. $X \sim \text{Bin}(100, \frac{1}{2})$ : $X \approx N(50, 25)$ e $P(X \le 55) \approx \Phi\left(\frac{55 - 50}{5}\right) = \Phi(1) \approx 0{,}841$ .

Formula (correzione di continuità). Per $X$ a valori interi: $\quad P(X \le k) \approx \Phi\left(\frac{k + 0{,}5 - np}{\sqrt{np(1 - p)}}\right), \qquad P(X \ge k) \approx 1 - \Phi\left(\frac{k - 0{,}5 - np}{\sqrt{np(1 - p)}}\right).$

Esempio. $X \sim \text{Bin}(100, \frac{1}{2})$ : $P(X \le 55) \approx \Phi\left(\frac{55{,}5 - 50}{5}\right) = \Phi(1{,}1) \approx 0{,}864$ .

Grafico interattivo: Y ~ Bin(100, 1/2) ≈ N(50, 25): P(Y ≤ 47) = P(Y ≤ 47,5) è l'area a sinistra di 47,5, cioè Φ(−0,5) ≈ 0,309