Lois des grands nombres

Soit (X_k)_k≥1 une suite de variables al´eatoires r´eelles d´efinies sur le mˆeme espace probabilis´e (Ω,F,P). On ´etudie dans ce chapitre le comportement asymptotique de la suite (M_n)_n≥1 des moyennes arithm´etiques :

M_n := ¹ n^{Sn =} 1 n n X k=1 X_k.

(Re)lecture conseill´ee : [ICP], chap. 6.

8.1 Convergences de suites de variables al´eatoires

Commen¸cons par faire le point sur les divers modes de convergences pour une suite (Y_n)_n≥1 de variables al´eatoires r´eelles. Nous connaissons d´ej`a la convergence presque sˆure qui est l’autre nom de la convergence P-presque partout sur Ω et les convergences Lp (1≤p <+∞) :

Y_n −−−−→^Lp

n→+∞ Y ⇔ kY_n−Yk_p −−−−→

n→+∞ 0 ⇔ E|Y_n−Y|p −−−−→ n→+∞ 0. Il est temps d’y ajouter la convergence en probabilit´e.

D´efinition 8.1. La suite Y_n converge en probabilit´e vers Y (notation Y_n−−−−→^Pr n→+∞ Y) si

∀ε >0, P |Y_n−Y|> ε −−−−→ n→+∞ 0.

Grˆace `a l’in´egalit´e de Markov, on voit imm´ediatement que cette nouvelle convergence est impliqu´ee par n’importe quelle convergence Lp (1≤p < +∞) :

∀ε >0, P |Y_n−Y|> ε ≤ ¹

εpE|Y_n−Y|p.

Comme la convergence L^∞ implique toutes les convergences Lp (cf. th´eor`eme 6.18), elle implique aussi la convergence en probabilit´e.

Proposition 8.2. La convergence presque-sˆure implique la convergence en probabilit´e. D´emonstration. Fixons ε > 0. L’hypoth`ese de convergence presque sˆure de Y_n vers Y signifie que l’´ev´enement

Ω⁰ :={ω ∈Ω; lim

n→+∞Yn(ω) = Y(ω)} a pour probabilit´e 1. D´efinissons

Ω⁰_ε :={ω ∈Ω; ∃k₀ =k₀(ω), ∀n ≥k₀, |Y_n(ω)−Y(ω)|< ε}. C’est bien un ´ev`enement (i.e. Ω⁰_ε ∈F) puisqu’il s’´ecrit

Ω⁰_ε = ^[ k∈_N∗

\

n≥k

{|Y_n−Y|< ε}.

De plus Ω⁰_ε contient Ω⁰, donc P(Ω⁰_ε) = 1. Pour toutk ≥1, notons Ak :={ω ∈Ω; ∀n ≥k, |Yn(ω)−Y(ω)|< ε}= ^\

n≥k

{|Yn−Y|< ε}.

La suite (A_k)_k≥1 est clairement croissante pour l’inclusion et sa r´eunion est Ω⁰_ε. Par continuit´e s´equentielle croissante de P, on a donc P(A_k) ↑ P(Ω⁰_ε) = 1 (k → +∞). Par cons´equent,

∀δ >0, ∃k₁, P(A_k1)>1−δ. Pour toutn ≥k₁, l’´ev`enement{|Y<sub>n</sub>−Y|< ε}contient A<sub>k1</sub>, d’o`u

∀n ≥k₁, P(|Y_n−Y|< ε)>1−δ et en passant `a l’´ev`enement compl´ementaire

∀n≥k₁, P(|Y_n−Y| ≥ε)< δ.

Ceci ´etablit la convergence vers 0 de P(|Y_n−Y| ≥ε). Comme ε´etait quelconque, on a bien convergence en probabilit´e de Y_n vers Y.

Remarque 8.3. La convergence en probabilit´e n’implique pas la convergence presque-sˆure. Voici un contre-exemple. On prend comme espace probabilis´e (]0,1],Bor(]0,1]), λ). On d´efinit les Y_n comme suit :

Y₁ =1_]0,1],

Y₂ =1_]0,1/2], Y₃ =1_]1/2,1],

Y₄ =1_]0,1/4], Y₅ =1_]1/4,1/2], Y₆ =1_]1/2,3/4], Y₇ =1_]3/4,1],

Y₈ =1_]0,1/8], Y₉ =1_]1/8,1/4], . . . , Y₁₅=1_]7/8,1], Y₁₆ =1_]0,1/16], . . . .

Le lecteur qui ne se satisferait pas de cette d´efinition informelle peut toujours s’exercer `

a trouver une formule explicite pourY_n. Sans entrer dans ces d´etails techniques, on peut facilement se convaincre de deux choses :

1. Pour toutω∈]0,1], la suite de«bits»(Y_n(ω))_n≥1 est form´ee d’une infinit´e de 0 et d’une infinit´e de 1. Elle ne peut donc converger (sa limite inf´erieure vaut 0 et sa limite sup´erieure 1). Ainsi non seulement on n’a pas de convergence presque sˆure de Y_n, mais en plus Y_n(ω) ne converge pour aucun ω∈Ω.

2. Pour 0 < ε < 1, P(|Y_n−0| > ε) = P(Y_n = 1) = λ(I_n), en notant I_n l’intervalle dyadique dont Y_n est l’indicatrice. La longueur de cet intervalle tend vers z´ero quand n tend vers l’infini (`a la mˆeme vitesse que l’inverse du logarithme en base deux de n). Donc Y_n converge vers 0 en probabilit´e.

8.2 Loi faible des grands nombres

Rappelons que si X est de carr´e int´egrable (EX2 <+∞), sa variance est d´efinie par VarX :=E(X−EX)².

Si les X_k sont deux `a deux non corr´el´ees (ce qui a lieu en particulier lorsqu’elles sont ind´ependantes), on a l’´egalit´e

VarS_n= n X

k=1

VarX_k. (8.1)

Proposition 8.4 (In´egalit´e de Bienaym´e-Tchebycheff ). Si les X_k sont de carr´es int´egrables et deux `a deux non corr´el´ees,

∀t >0, P n X k=1 (X_k−EX_k) ≥t≤ ¹ t2 n X k=1 VarX_k. (8.2)

Preuve. Il suffit d’´ecrire :

P |S_n−ES_n| ≥t=P |S_n−ES_n|2 ≥t² ≤ ¹

t2E(S_n−ES_n)² (8.3) = ¹

t2 VarS_n,

o`u l’in´egalit´e dans(8.3) est l’in´egalit´e de Markov appliqu´ee `a la variable al´eatoire positive |S_n−ES_n|2. On conclut avec (8.1).

Th´eor`eme 8.5 (Loi faible des G.N.). Si les X<sub>k</sub> sont de mˆeme loi, de carr´e int´egrable et deux `a deux non corr´el´ees, on a la convergence en probabilit´e :

1 n n X k=1 X_k −−−−→^Pr n→+∞ EX₁. (8.4)

Preuve. Comme les X_k ont mˆeme loi, on a pour tout k les ´egalit´es EX_k = EX₁ et VarXk = VarX1. Comme elles sont aussi deux `a deux non-corr´el´ees, (8.1) nous donne VarS_n = nVarX₁. Par lin´earit´e de l’esp´erance on a aussi ES_n = nEX₁. L’in´egalit´e de Bienaym´e-Tchebycheff nous dit alors que :

∀t >0, P |S_n−ES_n| ≥t =P |S_n−nEX₁| ≥t≤ ^nVarX1 t2 . Posant t=nε, on en d´eduit : ∀ε >0, ∀n ∈_N^∗, P |S_n−nEX₁| ≥nε =P S_n n −EX₁ > ε≤ ^nVarX1 n2ε2 = ^VarX1 nε2 . Pour toutε >0 fix´e, on a ainsi

P S_n n −EX1 > ε ≤ ^VarX1 nε2 −−−−→ n→+∞ 0,

ce qui traduit exactement la convergence en probabilit´e de la suite de variables al´eatoires S_n/n vers la variable al´eatoire constante EX₁.

8.3 Lois fortes des grands nombres

Th´eor`eme 8.6 (In´egalit´e de Kolmogorov). Soient X₁, . . . , X_n des variables al´ ea-toires r´eelles ind´ependantes, de carr´es int´egrables et d’esp´erances nulles etSk:=^Pk_i=1Xi. Alors

∀t >0, Pmax

1≤k≤n|S_k| ≥t≤ ¹

t2VarS_n. (8.5) Remarque 8.7. Si lesX_k ne sont pas centr´ees (EX_k6= 0), en posant X_k⁰ :=X_k−EX_k, en appliquant (8.5) auxX_k⁰ et en notant que VarXk = VarX_k⁰, on obtient la version plus g´en´erale de l’in´egalit´e de Kolmogorov :

∀t >0, Pmax

1≤k≤n|S_k−ES_k| ≥t≤ ¹

t2 VarS_n. (8.6) Remarque 8.8. L’in´egalit´e de Kolmogorov ressemble formellement `a celle de Bienaym´ e-Tchebycheff. Elle est cependant beaucoup plus puissante, puisqu’elle permet de contrˆoler en probabilit´e les d´eviations de toute la suite finie (S<sub>k</sub>−ES<sub>k</sub>)<sub>1</sub>≤k≤n au lieu de seulement Sn−ESn pour Bienaym´e-Tchebycheff. L’hypoth`ese est aussi plus restrictive (ind´ epen-dance mutuelle au lieu de non-corr´elation deux `a deux).

Preuve du th´eor`eme 8.6. D´efinissons les ´ev`enements

A₁ :={|S₁| ≥t}={|X₁| ≥t} et A_k:={|S_k| ≥t} ∩^k∩⁻¹

Autrement ditω ∈A_k(l’´ev`enement ´el´ementaireωr´ealise l’´ev`enementA_k) si et seulement si la suite finie |Sj(ω)|

1≤j≤natteint ou d´epassetla premi`ere fois pourj =k. Avec cette interpr´etation, il est clair que les A<sub>k</sub> sont deux `a deux disjoints et que :

A:= ∪ⁿ

k=1Ak =max

1≤k≤n|Sk| ≥t . (8.7) On en d´eduit par croissance et additivit´e de l’int´egrale (ou de la mesure de densit´e S_n² par rapport `a P) la minoration :

ES_n² = Z Ω S_n²dP≥ Z A S_n²dP= n X k=1 Z A_k S_n²dP. (8.8)

En int´egrant surA_k l’in´egalit´e ´el´ementaire

S_n² =Sk+ (Sn−Sk)² ≥S_k²+ 2Sk(Sn−Sk), on obtient Z Ak S_n²dP≥ Z Ak S_k²dP+ 2 Z Ak S_k(S_n−S_k) dP. (8.9)

On remarque alors queR

AkS_k(S_n−S_k) dPpeut s’´ecrireE(Y Z) avec Y :=1_AkS_k etZ := S_n−S_k. Ces deux variables al´eatoires sont de carr´es int´egrables comme combinaisons lin´eaires de variables al´eatoires de carr´es int´egrables. La premi`ere Y est une fonction mesurable du seul vecteur al´eatoire (X<sub>1</sub>, . . . , X<sub>k</sub>) tandis que Z est fonction mesurable du seul vecteur al´eatoire (X<sub>k+1</sub>, . . . , X<sub>n</sub>). Par cons´equent Y et Z sont ind´ependantes (corollaire 5.41) et E(Y Z) =EYEZ (proposition 5.43). Or EZ =E(S<sub>n</sub>−S<sub>k</sub>) =E n X j=k+1 X<sub>j</sub> = n X j=k+1 EX<sub>j</sub> = 0, d’o`u ^R_A

kS_k(S_n −S_k) dP = 0 (r´esultat ´evident directement dans le cas particulier o`u k =n). En reportant ceci dans (8.9), on en d´eduit compte tenu de (8.8) :

VarS_n=ES_n² ≥ n X k=1 Z A_k S_k²dP. (8.10)

Vu la d´efinition de A_k, on a sur cet ´ev`enement |S<sub>k</sub>| ≥ t, d’o`u R AkS2

kdP≥ t2P(A_k). En injectant cette minoration dans (8.10), en utilisant (8.7) et en rappelant que lesA_k sont deux `a deux disjoints, on aboutit `a :

VarS_n ≥ n X k=1 t²P(A_k) =t²P∪ⁿ k=1A_k=t²P(A). L’in´egalit´eP(A)≤t⁻2VarS_n ainsi ´etablie est exactement (8.5).