TD10. Loi des grands nombres, théorème central limite.
1. Soit (Un)n≥1 une suite de variables aléatoires indépendantes toutes de loi uniforme sur l’intervalle [0,1]. Soit f : [0,1]→Rune fonction continue. Que peut-on dire de
f(U1) +. . .+f(Un) n
lorsque n tend vers +∞?
Solution de l’exercice 1. La fonction f, continue sur le segment [0,1], y est bornée.
Ainsi, les variables aléatoires (f(Un))n≥1 sont indépendantes, de même loi et admettent un moment d’ordre 1. On peut leur appliquer la loi forte des grands nombres (puisque la fonction f est bornée, les variables admettent un moment d’ordre 2 et on est même dans le cas dont on a étudié la démonstration en cours) pour trouver que f(U1)+...+f(Un n) converge presque sûrement, lorsque n tend vers l’infini, vers
E[f(U1)] = Z 1
0
f(t)dt.
Cette méthode est parfois utilisée pour calculer des valeurs approchées d’intégrales et s’appelle la méthode de Monte-Carlo.
2. On considère une suite de jets indépendants d’un dé équilibré. On désigne par Xk le résultat du k-ème jet et par Yn le plus grand résultat observé au cours desn premiers jets.
Yn = max
1≤k≤nXk
a) Que peut-on dire des propriétés de convergence de la suite (Yn)n?
b) On pose : Nn =Card{k ≤ n : Xk = 6} pour tout n ∈ N∗. Etablir la convergence presque sûre de la suite Nnn
n∈N∗. Solution de l’exercice 2.
a) Il est assez évident que la suite va converger presque sûrement vers 6 : Yn vaut 6 à partir de la première observation d’un 6, et la probabilité qu’on ne fasse aucun 6est nulle. Formalisons ceci
P(∃k ∈N:Xk = 6) = 1
Or (ω :∃k ∈N:Xk(ω) = 6)⊂(ω : limn→∞Yn(ω) = 6), d’où P
n→∞lim Yn= 6
= 1 et la convergence presque sûre deYn vers 6.
www.alloacademy.com
1b) Nnla variable aléatoire qui compte le nombre de 6 peut se réécrireNn=Pn
k=11Xk=6. La suite de variables aléatoires (Zk := 1(Xk=6)) est indépendante identiquement distribuée. Et 1(X1=6) suit une loi de Bernoulli de paramètre P(X1 = 6) = 16, elle possède donc une espérance. D’après la loi forte des grands nombres, on a
Nn
n = Z1 +...+Zn n
p.s.→ 1 6
3. A l’approche des élections, un institut de sondage contacte successivement des individus. Notre modèle est le suivant : les appels sont indépendants et chaque individu répond qu’il va voter pour le candidat A avec probabilité pA (et pour le candidat B avec probabilité pB= 1−pA). Le but est d’estimer le paramètre pA du modèle.
a) Soit NA(n) le nombre de réponses en faveur du candidat A collectées en n appels.
Que dire de la convergence de la suite NAn(n)?
b) L’application de l’inégalité de Tchebychev à la variable aléatoire NAn(n) permet-elle de retrouver ce résultat ?
c) Déduire de cette même inégalité un intervalle I(n, δ) tel que P(pA∈I(n, δ))≥1−δ
Un tel intervalle est appelé intervalle de confiance pour le paramètre pA.
Solution de l’exercice 3. Introduisons une suite Xk de Bernoullis indépendantes de paramètrepA telle que Xk prend la valeur 1 si lek-ème individu appelé se prononce pour le candidat A, et 0 dans le cas contraire.
a) On note que NA(n) = Pn
k=1Xk et donc d’après la loi forte des grands nombres, NA(n)
n = X1+X2+...+Xn n
→p.s pA
car la suite (Xk)est iid et que X1 admet pour espérance pA. b) On a
E
NA(n) n
= pA Var
NA(n) n
= 1
n2nVar(X1) = pA(1−pA) n
donc l’inégalité de Tchebychev appliquée à la variable aléatoire NAn(n) donne, pour tout ε >0,
P
NA(n) n −pA
≥ε
≤ pA(1−pA) nε2
www.alloacademy.com
2Si on avait P∞ t=0P
NA(n) n −pA
≥ε
< ∞ par application du lemme de Borel- Cantelli (cf exercice 5 TD 8), on obtiendrait la convergence presque sûre de NAn(n) vers pA. Mais l’inégalité obtenue par l’inégalité obtenue ne nous donne pas une majoration par le terme général d’une série convergente, donc n’est pas suffisante pour obtenir la convergence presque sûre...
c) Utiliser l’inégalité de Tchebychev va toutefois nous permettre de construire un inter- valle de confiance de niveau1−δ pourpA, c’est-à-dire une région qui contienne pA avec probabilité au moins 1−δ. Pour cela on choisit dans l’inégalité de Tchebychev ci-dessusε tel que pA(1−pnε A) =δ. Pour cette valeur de ε on a alors
P
NA(n) n −pA
≤ε
≥1−δ En remarquant que ε= √1n
qpA(1−pA)
δ , on peut poser I(n, δ) =
"
NA(n) n − 1
√n
rpA(1−pA)
δ ;NA(n) n + 1
√n
rpA(1−pA) δ
#
4. Soit f : [0,1]→ R une fonction continue. Pour tout n ≥0, on définit la fonction bn : [0,1]→R par la formule
∀x∈[0,1], bn(x) =
n
X
k=0
n k
f
k n
xk(1−x)n−k.
a. Montrer que la suite de fonctions (bn)n≥0 converge simplement vers f, c’est-à-dire
∀x∈[0,1], lim
n→∞bn(x) =f(x).
b. Montrer que la convergence est uniforme, c’est-à-dire que
n→∞lim sup{|bn(x)−f(x)|:x∈[0,1]}= 0.
On a démontré lethéorème de Stone-Weierstrass : toute fonction continue sur un segment y est uniformément approximable par une suite de fonction polynômiales. Plus précisem- ment on a approximé f par une famille depolynômes de Bernstein.
0.0 0.2 0.4 0.6 0.8 1.0
0.0 0.2 0.4 0.6 0.8 1.0
0.0 0.2 0.4 0.6 0.8 1.0
0.0 0.5 1.0 1.5 2.0 2.5
Solution de l’exercice 4.
www.alloacademy.com
3a) Soit x ∈ [0,1]. On observe que bn(x) = E[f(B/n)], où B suit la loi binomiale de paramètres n et x. Considérons donc (Xn)n≥1 une suite de v.a.i.i.d. de loi de Bernoulli de paramètre x. On a
bn(x) = E
f
X1+. . .+Xn n
.
D’après la loi des grands nombres, X1+...+Xn n tend presque sûrement, quand n tend vers l’infini, versE[X1] =x. Puisquef est continue,f X1+...+Xn n
tend donc presque sûrement versf(x). Enfin, puisquef est continue sur[0,1], elle est bornée. La conver- gence presque sûre def X1+...+Xn n
versf(x)est donc dominée par le supremum de f et le théorème de convergence dominée permet d’affirmer que
bn(x) = E
f
X1+. . .+Xn n
n→∞−→ f(x).
b) On cherche à majorer la différence|bn(x)−f(x)| indépendamment dex.
|bn(x)−f(x)| ≤ E
f
X1+...+Xn n
−f(x)
≤ E
f
X1+...+Xn n
−f(x)
1|X1+...+Xnn −x|≥α
+E
f
X1+...+Xn n
−f(x)
1|X1+...+Xnn −x|<α
où l’inégalité ci-dessus est vraie pour tout α. On se fixe ε >0. Par uniforme conti- nuité de f (f est continue sur un segment), il existe unα >0tel que|y−x| ≤α⇒
|f(y)−f(x)| ≤ε/2. On a donc pour ce choix de α,
|bn(x)−f(x)| ≤ 2||f||∞P
X1+...+Xn
n −x
≥α
| {z }
A(x)
+ε/2
Il suffit maintenant de majorer A(x) par un petit nombre indépendamment de x : pour cela il faut appliquer l’inégalité de Tchebychev. Pour tout x∈[0,1], on a : A(x)≤ nα12V ar(X1) = nα12(x∗(1−x))≤ 1∗nα1 2.
Donc en prenant n assez grand, on peut rendre aussi petit que l’on veut supxA(x) ce qui finit la preuve.
5.Soit(Xn)n≥1une suite de variables aléatoires indépendantes de même loi de Poisson de paramètre 1. Soit Sn=Pn
k=1Xk. Rappeler la loi deSn et calculer la limite de la suite
e−nPn k=0
nk k!
n≥1.
www.alloacademy.com
4Solution de l’exercice 5. Une somme de v.a. de Poisson indépendantes est une v.a. de Poisson dont le paramètre (qui est aussi l’espérance et la variance) est la somme de ceux des v.a. qu’on a ajoutées. Ainsi Sn suit une loi de Poisson de paramètre n. En particulier, si k∈N, alors e−n nk!k =P(Sn=k). En sommant, on obtient
e−n
n
X
k=0
nk k!
!
=P(Sn≤n) = P(Sn/n≤1).
La loi des grands nombres nous dit que Sn/n →E[X1] = 1 p.s. AinsiSn/n est proche de 1, mais ce résultat ne nous dit pas s’il est un peu plus grand ou un peu plus petit. Pour avoir des informations sur Sn/n−1, (et en particulier son signe), on applique le théorème de la limite centrale :
Sn−n
√n
−→loi
n→∞ N(0,1).
D’après le corrolaire 4.2.1 du cours, on en déduit que, siY suit une loi normale standard, alors, lorsque n→ ∞,
P(Sn/n≤1) = P(Sn−n
√n ≤0)→P(Y ≤0) = 1/2.
L’égalitéP(Y ≤0) = 1/2 découle du fait que Y est symétrique.
Ainsi, on a montré que
e−n
n
X
k=0
nk k!
!
→1/2.
6.
a) Soit (pn)n≥0 une suite de réels dans ]0,1[ telle que limn→+∞npn = λ > 0. Soit (Xn)n≥0 une suite de v.a. telles que pour tout n : Xn ∼ B(n, pn) et X une v.a. de loi de Poisson paramètre λ. Montrer que (Xn)n≥0 converge en loi vers X.
b) Soit (Xn)n≥0 une suite de v.a. réelles indépendantes de même loi N(0,1). Etudier le comportement asymptotique en loi de la suite Yn= 1nPn
k=1
√kXk Solution de l’exercice 6.
a) Afin de montrer la convergence en loi de(Xn)n≥0versX. Montrons queφXn(t)−−−−→
n→+∞
φX(t)pour toutt∈R, oùφX designe la fonction caractéristique d’une variable aléa- toire X.
www.alloacademy.com
5φXn(t) = 1−pn+pneitn
= exp nln(1−pn+pneit)
= exp −npn(1−eit) +npnεn
où εn−−−−→
n→+∞ 0
∼n exp −npn(1−eit)
−−−−→
n→+∞ eλ(eit−1) =φX(t).
b) Vu la forme de la variable deYn, on est tenté d’appliquer la loi des grands nombres.
Cependant on ne peut pas l’appliquer car les variables √
kXk ne sont pas identi- quement distribuées. On va donc à nouveau utiliser les fonctions caractéristiques afin de démontrer un résultat de convergence en loi. Les variables aléatoiresXn sont indépendantes, donc Yn est une variable gaussienne de moyenne 0 et de variance
n(n+1)
2n2 donc :
φYn(t) =e−n(n+1)2n2 t2 −−−−→
n→+∞ e−t2/2.
On a donc montré que (Yn)n≥1 converge en loi vers une loi normale centrée réduite N(0,12).
7. On suppose que l’intervalle de temps entre deux voitures successives à un passage à niveau (peu fréquenté) suit une loi exponentielle de moyenne 30 minutes. On suppose de plus qu’il y a indépendance entre les intervalles de temps séparant les instants de passage de voitures. Calculer (une valeur approchée) de la probabilité qu’il y ait plus de 50 voitures qui empruntent le passage à niveau une journée donnée.
Solution de l’exercice 7. Soit(Xn)n≥0 une suite de v.a. i.i.d suivant la loi exponentielle de paramètre 1/30. On a alors E[X1] = 30 et V ar(X1) = 900. Xn représente le temps (en minutes) qui sépare le passage de la (n −1)ième voiture de la n−ième voiture. On considère ensuite Sn=X1+. . . Xn. Sn donne l’instant de passage de la n−ième voiture.
On veut déterminer
P[S50 ≤24×60].
Or on a
P[S50≤24×60] =P
S50−50×30 30×√
50 ≤ 24×60−50×30 30×√
50
≈F −2
√50
,
oùF est la fonction de répartition de la loi normale centrée réduite, l’approximation étant donnée par le TCL. De plusF
√−2 50
≈F(−0.283) = 1−F(0.283). En utilisant une table ou un logiciel on obtient F(0.283)≈0.61. On a donc P[S50 ≤24×60] ≈0.39.
www.alloacademy.com
68. Soit f :R→R une fonction continue bornée. Montrer qu’on a
n→+∞lim e−n
∞
X
k=0
f
k−n
√n nk
k! = 1
√2π Z +∞
−∞
f(t)e−t
2 2 dt.
Solution de l’exercice 8. Soit (Xn)n≥1 une suite de variables aléatoires indépendantes de loi de Poisson de paramètre 1. On aE[X1] = 1 etVar(X1) = 1.
D’une part, le théorème central limite assure que la suite
X1+...+X√ n−n n
n≥1 converge en loi vers la loi normale centrée réduite. Ainsi, puisque f est continue et bornée,
n→∞lim E
f
X1+. . .+Xn−n
√n
= 1
√2π Z +∞
−∞
f(t)e−t
2 2 dt.
D’autre part, pour tout n≥1, la variable aléatoireX1+. . .+Xnsuit la loi de Poisson de paramètre n. Ainsi,
E
f
X1+. . .+Xn−n
√n
=e−n
∞
X
k=0
f
k−n
√n nk
k!. En comparant ces deux égalités, on a la convergence voulue.
9. Soient(Xn)n≥1 des variables aléatoires indépendantes identiquement distribuées et de carré intégrable. On suppose que leur loi a la propriété suivante : X1+X2 a même loi que √
2X1.
a) Exprimer, pour toutn ≥0, la loi de X1+. . .+X2n en fonction de celle de X1. b) Déterminer la loi commune des variables aléatoires (Xn)n≥1.
Solution de l’exercice 9.
a) On va montrer par récurrence queX1+. . .+X2n a même loi que√
2nX1, pour tout n≥1. Pour n= 1, c’est l’hypothèse. Supposons le résultat démontré jusqu’au rang n et démontrons le au rang n+ 1. On écrit
X1+. . .+X2n+1 = (X1+. . .+X2n) + (X2n+1+. . .+X2n+1).
La v.a. X2n+1 +. . .+X2n+1 est indépendante de X1 +. . .+X2n (car les Xn sont indépendantes et on utilise des paquets d’indices disjoints) et de même loi. Par l’hy- pothèse de récurrence, ces deux v.a. ont même loi que√
2nX1. Mais alors leur somme a même loi que √
2nX1 +√
2nX2 = √
2n(X1 +X2), qui a bien même loi (d’après l’hypothèse pour n= 1) que √
2n+1X1. Ce qui achève la preuve par récurrence.
b) Comme X1 est de carré intégrable, X1 est intégrable. L’hypothèse entraine alors que E[X1] +E[X1] =√
2E[X1], et donc E[X1] = 0. Soit σ2 =E[X12]. On applique le théorème de la limite centrale :
X1+. . .+Xn
√n
−→loi
n→∞ N(0, σ2).
www.alloacademy.com
7On a la même convergence pour les sous-suites, et en particulier : X1+. . .+X2n
√2n
−→loi
n→∞ N(0, σ2).
Or, d’après la question précédente, le terme de gauche a même loi que X1, qui suit donc la loi N(0, σ2).
