Concentration et loi des grands nombres : cours de maths · Terminale spécialité

Dispersion et Bienaymé-Tchebychev

Pour une variable aléatoire $X$ d’espérance $\mu$ et de variance $V$, l’écart type $\sigma=\sqrt V$ mesure la dispersion dans la même unité que $X$. Pour tout réel $\delta>0$ :

P(|X-\mu|\geq\delta)\leq\frac V{\delta^2}.

C’est une majoration universelle, souvent large, pas la probabilité exacte. La borne $\frac V{\delta^2}$ peut dépasser $1$ ; comme une probabilité est au plus $1$, retenir alors le minimum des deux bornes.

Si $\sigma>0$, un écart d’au moins $k\sigma$, $k>0$, a une probabilité au plus $\frac1{k^2}$. Ainsi, un écart d’au moins deux écarts types a une probabilité au plus $\frac14$. Si $V=0$, $X=\mu$ avec probabilité $1$.

Comprendre pourquoi — Pourquoi la variance majore les écarts importants

Pour une variable finie $X$, noter ses valeurs $x_i$, leurs probabilités $p_i$ et son espérance $\mu$. Fixer $\delta>0$ et poser $J=\{i:|x_i-\mu|\geq\delta\}$.

V=\sum_i(x_i-\mu)^2p_i\geq\sum_{i\in J}(x_i-\mu)^2p_i\geq\delta^2\sum_{i\in J}p_i.

La dernière somme vaut $P(|X-\mu|\geq\delta)$, car les issues sont disjointes. Diviser par $\delta^2>0$ donne la borne. Si $J$ est vide, cette probabilité est nulle et le raisonnement reste valable.

Concentration de la moyenne et grands nombres

Soit $M_n$ la moyenne d’un échantillon de $n\geq1$ variables indépendantes de même loi, d’espérance $\mu$ et de variance $V$. Comme $V(M_n)=\frac Vn$, pour $\delta>0$ :

P(|M_n-\mu|\geq\delta)\leq\frac V{n\delta^2}.

Loi des grands nombres : pour chaque précision $\delta>0$ fixée, la probabilité que la moyenne s’écarte de $\mu$ d’au moins $\delta$ tend vers zéro lorsque $n\to+\infty$. Cela ne donne ni égalité exacte à taille finie ni rapprochement monotone à chaque observation.

Pour un échantillon de Bernoulli de paramètre $p$, $M_n$ est la fréquence des succès et $\mu=p$. La dispersion de la moyenne vaut $\frac{\sigma}{\sqrt n}$.

Comprendre pourquoi — Pourquoi la concentration entraîne les grands nombres

La loi et le seuil $\delta>0$ sont fixés ; seule la taille $n$ varie.

La concentration donne, pour tout entier $n\ge1$,

0\le P\bigl(|M_n-\mu|\ge\delta\bigr)\le\frac{V}{n\delta^2}.

La loi et $\delta>0$ sont fixés : $\frac{V}{\delta^2}$ est une constante finie. Comme $\frac{1}{n}\to0$, le majorant tend vers $0$. Le théorème des gendarmes entraîne donc la limite annoncée.

Choisir une taille suffisante

Pour garantir $P(|M_n-\mu|\geq\delta)\leq\alpha$, avec $\delta>0$ et $\alpha>0$, il suffit de choisir un entier :

n\geq1,\qquad n\geq\frac V{\alpha\delta^2}.

Arrondir le quotient par excès et conserver $n\geq1$. En pratique $\alpha<1$. Pour $V=0$, une observation suffit. Cette taille est suffisante selon la borne, sans être nécessaire pour la loi réelle.

À variance fixée, diviser la précision $\delta$ par deux multiplie le quotient par quatre ; diviser le risque $\alpha$ par deux le multiplie par deux.

Voir un exemple — Choisir un entier à partir d’une borne suffisante

Soit un échantillon indépendant de même loi, de variance élémentaire $V=9$. Pour garantir $P(|M_n-\mu|<0{,}7)\geq0{,}95$, il suffit de majorer le risque complémentaire par $\alpha=0{,}05$, avec $\delta=0{,}7$.

n\geq\frac9{0{,}05\times0{,}7^2}=\frac{18000}{49}\approx367{,}347.

L’entier $n=368$ fournit la garantie par cette borne. Une taille inférieure pourrait convenir pour la loi réelle : la borne ne prouve pas le contraire.