La loi des grands nombres

5.1 L'énoncé

Théorème (loi des grands nombres). Soit $M_n$ la moyenne d'un échantillon de taille $n$ d'une variable aléatoire d'espérance $\mu$. Pour tout réel $\delta > 0$ : $\lim_{n \to +\infty} P\big(\lvert M_n - \mu \rvert \geqslant \delta\big) = 0.$

L'écart entre la moyenne de l'échantillon et l'espérance ne dépasse une valeur donnée à l'avance qu'avec une probabilité qui tend vers zéro quand la taille de l'échantillon tend vers l'infini.

5.2 La démonstration

Soit $\delta > 0$. Pour tout entier $n \geqslant 1$, une probabilité étant positive, l'inégalité de concentration donne $0 \leqslant P\big(\lvert M_n - \mu \rvert \geqslant \delta\big) \leqslant \frac{V}{n\,\delta^2}.$ Le nombre $\dfrac{V}{\delta^2}$ est une constante et $\displaystyle\lim_{n \to +\infty} \frac1n = 0$, donc $\displaystyle\lim_{n \to +\infty} \frac{V}{n\,\delta^2} = 0$. D'après le théorème des gendarmes (chapitre 2), $\displaystyle\lim_{n \to +\infty} P\big(\lvert M_n - \mu \rvert \geqslant \delta\big) = 0$.

5.3 Fréquence et probabilité

Pour une épreuve de Bernoulli de paramètre $p$, $M_n$ est la fréquence $F_n$ du succès en $n$ épreuves, et $\mu = p$. La loi des grands nombres dit que, pour tout $\delta > 0$, $P\big(\lvert F_n - p \rvert \geqslant \delta\big)$ tend vers $0$. Elle relie la fréquence et la probabilité.

Exemple 10 (un dé). On lance un dé équilibré, et $X$ vaut $1$ si on obtient six, $0$ sinon : $\mu = \dfrac16$ et $V = \dfrac16 \times \dfrac56 = \dfrac{5}{36}$. Avec $\delta = 0{,}05$, la borne vaut $\dfrac{5/36}{n \times 0{,}05^2}$ :

$n$	$100$	$1\,000$	$10\,000$
Borne	$\approx 0{,}556$	$\approx 0{,}056$	$\approx 0{,}0056$

5.4 Ce qu'elle ne dit pas

• Le hasard ne compense pas. Après cinq lancers sans six, la probabilité d'obtenir six au lancer suivant vaut toujours $\dfrac16$, car les lancers sont indépendants. La moyenne se rapproche de $\mu$ parce que les anciens résultats pèsent de moins en moins, pas parce qu'ils sont corrigés.
• La somme ne se concentre pas. C'est $M_n$ qui se rapproche de $\mu$. L'écart $\lvert S_n - n\mu \rvert$, lui, peut grandir : $\sigma(S_n) = \sqrt{n}\,\sigma$ (voir la marche aléatoire, leçon 7).
• Elle ne dit pas que $M_n = \mu$ pour $n$ grand : elle parle d'une probabilité d'écart, qui tend vers $0$.

5.5 Un peu d'histoire

La parution de l'Ars Conjectandi de Jacques Bernoulli (1713) marque une rupture dans l'histoire des probabilités. Un résultat majeur de cet ouvrage est son « théorème d'or », la loi des grands nombres, qui relie fréquences et probabilité, valide le principe de l'échantillonnage et est le premier exemple de « théorème limite » en théorie des probabilités. En démontrant leur inégalité, Bienaymé et Tchebychev fournissent la possibilité d'une démonstration plus simple : c'est celle de cette leçon.

L'introduction de méthodes statistiques en sociologie est l'œuvre du mathématicien et astronome belge Quételet, dans les années 1830.

5.6 Pour aller plus loin : des ordres de grandeur

Approfondissement possible du programme, non exigible. La borne $\dfrac{1}{4n\,\delta^2}$ vaut pour toute fréquence.

À l'échelle de $10^{23}$ atomes, le hasard est invisible.