Chapitre 2: Lois des grands nombres

Chapitre 2: Lois des grands nombres

Prof. Mohamed El Merouani

Université Abdelmalek Essaâdi Faculté des Sciences de Tétouan Département de Mathématiques

https://elmerouani.jimdofree.com/calcul-des-probabilités

2020/2021

Plan :

Introduction Définitions

Loi faible des grands nombres Loi forte des grands nombres Exercices

Introduction :

Soit(X_n)n≥1 une suite de v.a.r. centrées. On cherche des conditions suffisantes pour que la suite de v.a.(_n¹Pn

k=1X_n)n≥1

converge vers0 au sens de l’un des types de convergence introduits au chapitre précèdent.

Seules les convergences en probabilité et presque sûre ont fait l’objet d’une étude systématique.

On parle respectivement de loi faible et de loi forte des grands nombres.

Définitions :

La suite (Xn)n≥1 satisfait la loi faible des grands nombres si la suite du terme général _n¹ Pn

k=1Xn converge vers0 en probabilité.

La suite(Xn)n≥1 satisfait la loi forte des grands nombres si la suite du terme général _n¹ P_n

k=1X_n converge vers0 presque sûre.

On pose, pour toutn≥1:

S_n=

n

X

k=1

X_k, Y_n= S_n n

Rappels :

Rappelons que siX est de carré intégrable (E(X²)<+∞), sa variance est définie par V ar(X) =E[(X−E(X))²].

LesXk sont dites deux à deux non-corrélées siCov(Xi, Xj) = 0, pour tout i, j distincts.

Ceci se produit en particulier lorsque lesXk sont deux à deux indépendantes.

Pour des X_k deux à deux non-corrélées, on déduit l’égalité V ar(S_n) =Pn

k=1V ar(X_k), que l’on écrit : σ²(S_n) =Pn

k=1σ²(X_k).

Loi faible des grands nombres :

Théorème 1 :

Soit (Xn)n≥1 une suite de v.a. de carrés intégrables, deux à deux non-corrélées. Pour toutn≥1, posonsE(X_n) =µ_n,V ar(X_n) =σ_n² et supposons que la suite de terme général ¹_nPn

k=1µk ^−→

n→+∞µet que

1 n²

P_n

k=1σ²_k ^−→

n→+∞0. Alors ^S_nⁿ −→^P µ.

Preuve :

On a : E(^S_nⁿ) = _n¹Pn k=1µk

Les v.a. Xn étant deux à deux non-corrélées, on a : V ar(^S_nⁿ) = _n¹2

Pn k=1σ_k²

L’inégalité triangulaire conduit à l’inégalité :

^Sn

n −µ ≤

^Sn

n −_n¹Pn k=1µ_k

+ ¹

n

Pn

k=1µ_k−µ

Mais, pour tout ε >0, il existeN(ε)∈N^∗ tel que pour tout n≥N(ε) on ait

¹_n Pn

k=1µ_k−µ ≤ ^ε₂

Loi faible des grands nombres :

Preuve : (suite)

Pour tout n≥N(ε), on a donc l’inclusion des événements {

^S_nⁿ −¹_nP_n

k=1µ_k

≤ ₂^ε} ⊂ {

^S_nⁿ −µ ≤ε}

ou encore, pour les complémentaires, l’inclusion : {

^S_nⁿ −µ

> ε} ⊂ {

^S_nⁿ −_n¹Pn k=1µk

> ^ε₂}

L’inégalité de bienaymé-Tchebychev permet d’écrire : P

^S_nⁿ −_n¹ Pn k=1µ_k

> ^ε₂

≤ _ε⁴₂V ar(^S_nⁿ) = _ε⁴2 1 n²

Pn k=1σ²_k Il en résulte que pour toutn≥N(ε), on a :

P(

^S_nⁿ −µ

> ε)≤ _ε⁴_2n¹₂ P_n

k=1σ_k²

ce qui, en utilisant la seconde hypothèse, démontre le résultat.

Loi faible des grands nombres :

Remarque 1 :

En particulier, les hypothèses du théorème précédent sont toutes satisfaites si les v.a.Xn sont indépendantes et de même loi et siX1

admet un moment d’odre deux.

On étudie un cas particulier du théorème précédent (il lui est toutefois historiquement antérieur), c’est le théorème de Bernoulli.

Théorème de Bernoulli :

Soit une suite de népreuves de Bernoulli indépendantes et soit X la v.a. égale au nombre de succès au cours de ces népreuves. Alors

X n

−→P p, oùp est la probabilité de succès.

Loi faible des grands nombres :

Preuve du théorème de Bernoulli :

On sait queX suit la loi binomiale de paramètresn etp :X B(n, p).

Donc E(X) =npetV ar(X) =npq avec q= 1−p.

Soit la v.a. Y = ^X_n, alors E(Y) = _n¹E(X) = ^np_n =pet V ar(Y) =E (^X_n −p)²

= _n¹2E((X−np)²) = ^{V ar(X)}_n2 = ^pq_n

En utilisant l’inégalité de Bienaymé-Tchebychev : P(|Y −p| ≥ε)≤ _nε^pq₂ Comme nous ne connaissons pas la valeur de p, il sera nécessaire de calculer une valeur extrême supérieure de _nε^pq2.

d dp

pq nε²

= _dp^d p−p²

nε²

= ^1−2p_nε2 = 0⇔p= ¹₂

d² dp²

p−p² nε²

= _dp^d 1−2p

nε²

= _nε⁻²2 <0.

Donc p= ¹₂ est un maximum et par conséquent ^pq

nε² ≤ ^12.12

nε² = _4nε¹2

d’oùP(|Y −p| ≥ε)≤ _4nε¹₂ ou encoreP(|Y −p|< ε)≥1−_4nε¹₂ Par conséquent limn→+∞P(|Y −p|< ε) = 1 et ^X_n −→^P p.

Théorème de Bernoulli :

Ce théorème veut dire que nous pouvons utiliser ^X_n pour estimer la probabilitép, puisque c’est une estimation exacte lorsquenest suffisamment grande.

Dans la pratique, le nombrendoit être fini, par conséquent, on doit déterminer le nombrende façon que, avec une probabilité suffisamment grande, la fréquence observée ^X_n soit comprise entre p−εetp+ε.

La fréquence observée des piles dans un jeu de pile ou face, aprèsn tirages, est "proche" de la probabilité (déterministe)p d’obtenir pile, pourvu que nsoit grande.

Donc, sip est inconnue (par exemple, on ne sait pas si la pièce est truquée), nous avons là un moyen de l’approximer.

Loi forte des grands nombres :

Théorème 3 :

Soit (X_n)n≥1 une suite de v.a. de carrées intégrables, centrées et indépendantes. Pour toutn≥1, on poseV ar(Xn) =σ_n² <+∞. Si la sérieP

n≥1 σ_n²

n² est convergente, alors Y_n= ^S_nⁿ −→^p.s. 0(*).

Remarque 2 :

Si les X_n ne sont pas centrées, en appliquant (*) aux : X_n⁰ =Xn−E(Xn), on obtient : ¹_nSn− ¹_nPn

k=1E(Xk)−→^p.s. 0.

Ce résultat est intéressant notamment dans le cas où la suite déterministe(E(X_n))n≥1 a une limite` quandntend vers l’infini.

En effet, le théorème de Césaro nous donne alors la convergence vers` de ¹_nPn

k=1E(X_k),

d’où la convergence p.s. de ^S_nⁿ vers `.

En particulier, si les Xnont même espérance µ, ^S_nⁿ −→^p.s. µ.

Loi forte des grands nombres :

Théorème 4 : (Rajchman)

Soit (X_n)n≥1 une suite de v.a. de carrées intégrables, centrées et indépendantes. Pour toutn≥1, on poseV ar(X_n) =σ_n². Si sup_nσ_n² <+∞, alors :

1 Yn

−→p.s. 0

2 E(|Y_n|²) ^−→

n→+∞0 Preuve :

1 Posonsσ² = sup_nσ_n² <+∞; alorsP

n≥1 σ²_n

n² ≤σ²P

n≥1 1 n² <∞

d’oùY_n−→^p.s. 0d’après le théorème 3 précédent.

2 On a : E(Y_n²) =V ar(Yn) = _n¹2

Pn

k=1σ_k²≤ ^σ_n² −→

n→+∞

0

Loi forte des grands nombres :

Remarque 3 :

Rajchman a établi les mêmes conclusions en remplaçant

"indépendantes" par "deux à deux non-corrélées".

Remarque 4 :

Il en résulte que, dans l’énoncé du théorème de Bernoulli, on peut remplacer la convergence en probabilité par la convergence presque sûre (E. Borel).

Loi forte des grands nombres :

Théorème 5 : (Kolmogorov)

Soit (Xn)n≥1 une suite de v.a.intégrables, centrées, indépendantes et identiquement distribuées. On a : Yn

−→p.s. 0

Corollaire 1 :

Soit (Xn)n≥1 une suite de v.a.intégrables, indépendantes et identiquement distribuées. Alors : Yn= _n¹Pn

k=1X_k−→^p.s. E(X1) Le théorème précédent est le résultat "optimal" pour les v.a.

indépendantes et identiquement distribuées (i.i.d.) en raison de la

"réciproque" suivante : Théorème 6 :

Soit (Xn)n≥1 une suite de v.a. indépendantes et identiquement

distribuées telle que ^S_nⁿ converge presque sûrement. AlorsE|X₁|<+∞

Loi forte des grands nombres :

Preuve :

Par hypothèse ^S_nⁿ converge p.s. vers une certaine v.a.Y. Notons Ω⁰ ={ω∈Ω,^Sn_n^(ω) −→

n→+∞

Y(ω)}.

AlorsP(Ω⁰) = 1 et pour tout ω∈Ω⁰,

Xn(ω)

n = ^Sn(ω)−S_n^n−1(ω) = ^Sn_n^(ω)−ⁿ⁻¹_n ^Sn−1_n−1^(ω)

−→p.s.

n→+∞ 0

puisque ^Sn_n^(ω) et ^Sn−1_n−1^(ω) convergent vers le même réel Y(ω).

Considérons l’événement

B ={ω∈Ω,∃n₀ =n₀(ω),∀n≥n₀,^|Xn_n^(ω)| <1}

Puisque P(Ω⁰) = 1 etΩ⁰ ⊂B, l’évébementB a pour probabilité1, d’où en passant au complémentaire

P_|X

n(ω)|

n ≥1 une infinité de fois

= 0.

Loi forte des grands nombres :

Preuve : (suite)

Il résulte alors du second lemme de Borel-Cantelli que X

n≥1

P

|X_n(ω)|

n ≥1

<+∞.

Les X_n ayant même loi, ceci s’écrit aussi

+∞

X

n=1

P(|X₁| ≥n)<+∞.

Pour finir la preuve, on observe que E(|X₁|) =

Z +∞

0

P(|X₁|> t)dt=

+∞

X

n=0

Z n+1

n

P(|X₁|> t)dt

≤

+∞

X

n=0

P(|X₁| ≥n) = 1 +

+∞

X

n=1

P(|X₁| ≥n)<+∞.

Loi forte des grands nombres :

Rappel : E(|X₁|) =R+∞

0 P(|X₁|> t)dt En effet, on a le résultat suivant :

Soit X une v.a. à valeurs dans[0,+∞[, absolument continue, de densité f, de fonction de survieR(x) = 1−F(x) =P(X > x). Alors on a, dans la demi-droite achevée[0,+∞],R+∞

0 R(x)dx=R+∞

0 xf(x)dx Preuve :

En effet, R+∞

0 R(x)dx=R+∞

0

R+∞

x f(t)dt dx=

=R+∞

0

R+∞

0 f(t)I{t>x}(t, x)dt dx Soit d’après le théorème de Fubini R+∞

0 R(x)dx=R+∞

0

R+∞

0 I{t>x}(t, x)dx

f(t)dt= =R+∞

0 tf(t)dt

Loi forte des grands nombres :

Rappel :

Dans la démonstration précédente, on a fait appel au th. de Fubini pour les intégrales doubles, mais, en fait, il n’y a aucune difficulté ici puisque la fonction à intégrer est positive.

Remarque 5 :

SiX ≥0 et siE(X)<∞, alors E(X) =R+∞

0 R(x)dx

Loi forte des grands nombres :

Complément :

Montrons que si(Xn)n≥1 est une suite de v.a. indépendantes telle que la suite(Y_n)n≥1 (avecY_n= ¹_nPn

k=1X_k) converge p.s. vers une limite Y, alors Y est p.s. constante.

Pour le voir, remarquons tout d’abord que, pour tout x réel, l’événement{Y_k≤x}est indépendant de {Y ≤x}. (L’événement {Y ≤x}ne peut admettre pour probabilité que 0 ou1). On a alors P({Y_k≤x} ∩ {Y ≤x}) =P({Y_k≤x}).P({Y ≤x}),∀x réel. En faisant tendre kvers l’infini, on en déduit P(Y ≤x) =P(Y ≤x)² et donc P(Y ≤x) = 0 ou1 ∀x. Comme l’application x7→P(Y ≤x) est une fonction de répartition, elle est nécessairement égale à l’échelon unité.

AinsiY est p.s. constante.

Exercices :

Exercice 1 :

Soit (Xn)n≥1 une suite de v.a. indépendantes, de même loi, de carrés intégrables.

On pose E(X₁) =µ,V ar(X₁) =σ². Pour tout entier n≥2, on définit les v.a. : Y_n= _n¹Pn

k=1X_k etZ_n= _n−1¹ Pn

k=1(X_k−Y_n)².

1 CalculerE(Zn).

2 Montrer que Zn

−→p.s. σ², lorsquen tend vers l’infini.

Exercices :

Exercice 2 :

Soit (X_n)n≥1 une suite de v.a. indépendantes, identiquement distribuées. On suppose que Yn= ¹_nPn

k=1X_k−→^p.s. Y. Démontrer les propriétés suivantes :

1 P

n≥1P(|X_n| ≥n)<+∞;

2 LesXn sont intégrables ;

3 Y =cste, presque sûrement.

Exercices :

Exercice 3 :

Soit (Xn)n≥1 une suite de v.a.

On pose Sn=Pn k=1X_k. Montrer que si ^√Sn

n

−→L Y, alors ^S_nⁿ −→^P 0,

c’est-à-dire, la suite (X_n)n≥1 vérifie la loi faible des grands nombres.

Exercice 4 :

Soit(X_n)n≥1une suite de v.a. indépendantes de moyennes E(X_n)finies, et soit X une v.a. de variance finie telle que pour tout nles variables X1, X2,· · · , XnetX−(X1+X2+· · ·+Xn) soient indépendantes.

Montrer que X_n est de variance finie et que la série de terme général (X_n−E(X_n))converge presque sûrement.