Int´egration et probabilit´es
ENS Paris, 2012-2013TD
() – Lois des grands nombres, th´eor`eme central limite.
Corrig´e
1 – Lois des grands nombres
E
xercice 1. (Calculer en cent lec¸ons) D´eterminer les limites suivantes :. lim
n→∞
Z
[,]nf
x+. . .+xn n
dx. . . dxnpourf une fonion continue sur [,],
. lim
n→∞
n
X
k=
n k
!
pk(−p)n−kf k n
!
pourf une fonion continue sur [,] etp∈[,],
. lim
n→∞
∞
X
k=
e−λn(λn)k k! f k
n
!
pourf une fonion continue et born´ee surR+etλ >.
Corrig´e :
. On a Z
[,]n
f
x+. . .+xn n
dx. . . dxn=E
f
U+. . .+Un n
o `uU, . . . , Unsont des variables al´eatoires ind´ependantes et uniformes sur [,]. D’apr`es la loi forte des grands nombres,n−(U+. . .+Un) converge p.s. et donc en loi vers/. Ainsi,
nlim→∞
Z
[,]n
dx, . . . dxnf
x+. . .+xn n
=f
.
. On a
n
X
k=
n k
!
pk(−p)n−kf k n
!
=E
f
B+. . .+Bn n
,
o `u B, . . . , Bn sont des variables al´eatoires de Bernoulli de param`etrep ind´ependantes. D’apr`es la loi forte des grands nombres,n−(B+. . .+Bn) converge p.s. et donc en loi versp. Ainsi,
nlim→∞
Xn k=
n k
!
pk(−p)n−kf k n
!
=f(p).
Pour des queions, demande de pr´ecisions ou explications, n’h´esitez pas `a m’envoyer un mail `a igor.kortchemski@ens.fr , ou bien `a venir me voir au bureau V.
. On a
∞
X
k=
e−λn(λn)k k! f k
n
!
=E
f
P+. . .+Pn n
,
o `uP, . . . , Pn sont des variables al´eatoires de Poisson de param`etreλind´ependantes. D’apr`es la loi forte des grands nombres,n−(P+. . .+Pn) converge p.s. et donc en loi versλ. Ainsi,
nlim→∞
∞
X
k=
e−λn(λn)k k! f k
n
!
=f(λ).
Remarque :on a utilis´e les r´esultats suivants que vous pourrez v´erifier `a titre d’exercice :
. La somme denvariables al´eatoires de Bernoulli de param`etrep∈[,]ind´ependantessuit une loi binomiale de param`etresnetp.
. La moyenne d’une variable al´eatoire suivant une loi de Poisson de param`etreλ >eλ.
. Soientn≥,λ, . . . , λn>etX, . . . , Xnnvariables al´eatoiresind´ependantes, chaqueXi suivant une loi de Poisson de param`etreλi. AlorsX+. . .+Xnsuit une loi de Poisson de param`etreλ+. . .+λn.
E
xercice 2. (Une loi faible avec fonions cara´eriiques) SoitX, .., Xn, ...une suite de v.a.i.i.d d´efinies sur un espace probabilis´e. On suppose queE[|X|]<∞. Montrer alors (sans utiliser la loi forte des grands nombres) `a l’aide des fonions cara´eriiques queX+...+Xn n
−→(P) E[X].
Corrig´e :
L’ind´ependance des (Xi) implique que pourξ∈R: ϕX+...Xn
n (ξ) =
ϕX ξ
n n
.
CommeXa un moment d’ordrefini,ξ7→ϕ(ξ) ed´erivable ende d´eriv´eeiE[X]. D’o `u
ϕX ξ
n n
= (+iξE[X]
n +o
n
!n
7−→iξE[X].
Ainsi, les fonions cara´eriiques de X+...+Xn n convergent simplement vers la fonion cara´eriique de la mesure de Dirac enE[X], on en d´eduit que
X+...+Xn n
−→(d)
n→∞ E[X].
Or la convergence en loi vers une conante implique une convergence en probabilit´e vers cette conante,
ce qui conclut.
E
xercice 3. (Th´eor`eme de Bernein-Weierrass) Soit f une fonion continue de [,] dansC. Len- i`eme polynˆome de Bernein def,Bn, ed´efini parBn(x) = Xn
k=
n k
!
xk(−x)n−kf k n
!
, x∈R.
. Soit Sn(x) la variable al´eatoire ´etant d´efinie par Sn(x) = Bin(n, x)/n, o `u Bin(n, x) e une variable al´eatoire. de loi binomiale de param`etrenetx. Montrer queBn(x) =E[f(Sn(x))].
. En d´eduire le Th´eor`eme de Berein-Weierrass kBn−fk∞ −→
n→∞ .
Corrig´e :
. C’e´evident.
. Soitε >, soitη >le module d’uniforme continuit´e def associ´e `aε.Alors on a
|f(x)−Bn(x)| = E[|f(x)−f(Sn(x))|]
≤ E[|f(x)−f(Sn(x))||Sn(x)−x|≤η] +E[|f(x)−f(Sn(x))||Sn(x)−x|≥η]
≤ ε+kfk∞P[|Sn(x)−x| ≥η]
Pour ´evaluerP[|Sn(x)−x| ≥η], on utilise l’in´egalit´e de Markov : P[|Sn(x)−x| ≥η]≤Var[|Sn(x)|]
η =x(−x) nη ≤
nη.
La majoration ci-dessus euniforme enx, ce qui permet de conclure.
E
xercice 4. (Loi faible, non forte) Soit (Xn)n≥une suite de variables al´eatoires ind´ependantes de loiPX
n=
ln(n+)n(δn+δ−n) + − nln(n+)
! δ.
. Montrer queYn:=X+...+Xn n converge en probabilit´e vers.
. Montrer que presque s ˆurement,Ynne converge pas.
Corrig´e :
. On montre (en calculant) que
E[(Yn)]−→.
L’in´egalit´e de Markov permet alors de conclure.
. `A l’aide de Borel-Cantelli, on montre que P X
n
n ≥, pour une infinit´e den
=, et l’on conclue
comme dans l’exercice.) du TD.
2 – Th´eor`eme central limite
E
xercice 5. (Un dernier calcul et on s’en va) D´eterminer la limite suivante :nlim→∞e−n
n
X
k=
nk k!.
Corrig´e : On a
e−n Xn k=
nk
k! =P(P+. . .+Pn≤n),
o `uP, . . . , Pnsont des variables al´eatoires de Poisson de param`etreind´ependantes. Et P(P+. . .+Pn≤n) =P P+. . .+Pn−n
√
n ≤
! .
- La variance d’une variable al´eatoire de loi de Poisson de param`etre λ ´etant ´egale `a λ, on a d’apr`es le tcl,
P+. . .+Pn−n
√ n
(loi)
−→
n→∞N ,
o `uN eune variable gaussienne (centr´ee r´eduite). Or la fonion de r´epartition deN econtinue donc
nlim→∞e−n Xn k=
nk
k! =P(N ≤) =
.
E
xercice 6. (Convergence en loi mais pas en proba) Soit (Xn)n≥une suite de variables al´eatoires r´eelles ind´ependantes et de mˆeme loi telle queE(X) =etE(X) =. On poseSn=X+. . .+Xnpour toutn≥.. Montrer que pour toutA >, on a
P lim sup
n→∞
Sn
√ n
≥A
!
=, et en d´eduire que
P lim sup
n→∞
Sn
√
n = +∞
!
=.
. Juifier que si (Snk)k≥eune suite extraite de (Sn)n≥, alors on a : P lim sup
k→∞
Snk
√nk = +∞
!
=.
. En d´eduire que la suite (n−/Sn)n≥ne converge pas en probabilit´e.
Corrig´e :
. D’apr`es letcl, la suite (n−/Sn)n≥converge en loi vers une variable al´eatoireN de loi gaussienne centr´ee r´eduite. SoitA >. On a
P lim sup
n→∞
Sn
√ n
≥A
!
≥P lim sup (Sn
√ n > A
)!
≥lim sup
n→∞
P Sn
√ n > A
! .
La variableN ´etant `a densit´e, on a
nlim→∞
P Sn
√ n> A
!
=P(N > A)>, ce qui implique queP
lim supn→∞
Sn
√ n≥A
>. Or (
lim sup
n→∞
Sn
√ n≥A
)
∈ A∞,
o `uA∞ela tribu asymptotiqueT
n≥σ(Xn, Xn+, . . .). Ainsi P lim sup Sn
√ n
≥A
!
=.
En consid´erant une suite (Ak)k≥↑+∞, on en d´eduit le r´esultat.
. On d´emontre ce r´esultat de la mˆeme mani`ere que le r´esultat pr´ec´edent.
. Si la suite (n−/Sn)n≥converge en probabilit´e vers une variable al´eatoireX, alors on peut extraire une sous-suite (nk−/Snk)k≥telle quenk−/Snk→Xp.s. OrXa la mˆeme loi queN, ce qui contredit le fait que
P lim sup
k→∞
Snk
√nk = +∞
!
=.
3 – Vecteurs gaussiens
E
xercice 7. (Personne n’ejamais assez fort pour ce calcul) Soit (Xn)n≥une suite de variables al´eatoires`a valeurs dansRind´ependantes et indentiquement diribu´ees. ´Etudier le comportement asymptotique de la suite
X+. . .+Xn−nE(X)
√ n
!
n≥
dans les cas suivants :
. Xede loi δ(−,−)+δ(,),
. Xede loi δ(−,−)+δ(,−)+δ(,). Corrig´e :
. Dans ce cas,Xecentr´e et la matrice de covariance deXeCX=
!
.Donc, d’apr`es letcl veoriel, la suite ((X+. . .+Xn)/√
n)n≥converge en loi vers un veeur al´eatoireN de loiN(, CX).
Le veeurN eun veeur gaussien d´eg´en´er´e, il a la mˆeme loi que le veeur (ν, ν) o `u la variable al´eatoire r´eelleνede loiN(,).
. Dans ce cas, on aE(X) = (,/) et la matrice de covariance deXeCX = /
/ /
!
.Donc, d’apr`es le tcl veoriel, la suite ((X+. . .+Xn−nE(X))/√
n)n≥ converge en loi vers un veeur al´eatoireN de loiN(, CX). Le veeurN eun veeur gaussien non-d´eg´en´er´e dont la densit´e e
f(y, y) = π
√exp
−
y+yy+y
.
E
xercice 8. (Suite r´ecurrente al´eatoire) Soient (Uk)k≥une suite de variables al´eatoires r´eelles ind´ependantes et de loi normaleN(, σ) etθ∈R. On d´efinit la suite (Xk)k≥parX=UetXk=θUk−+Uk. Montrer que pour tout n≥, le veeur (X, . . . , Xn) eun veeur gaussien non d´eg´en´er´e dont on pr´ecisera la densit´e, l’esp´erance et la matrice de covariance.Corrig´e :
SoitAla matrice carr´e d’ordrend´efinie par
A=
. . . θ . . .
θ . . . ... . .. ... ...
. . . θ
Alors on voit queX=AU en notantX= (X, . . . , Xn) etU = (U, . . . , Un). DoncXeun veeur gaussien.
De plus det(A) =doncXenon d´eg´en´er´e. On aE(X) =et la matrice de covariance deXedonn´ee par
CX=A(σIn)tA=σAtA=σ
θ
θ +θ θ . .. . .. . ..
θ +θ θ θ +θ
.
Enfin la densit´e deXe fX(x) =√
(π)ndet(CX)e−txCX−x=
(πσ)n/e−txCX−x, x∈Rn.
– Compl´ements (hors TD)
E
xercice 9. (Formule de Stirling)Queion pr ´eliminaire :SoitXune variable al´eatoire r´eelle de carr´e int´egrable d´efinie sur (Ω,A,P). Mon- trer que, pour touta >, on a :E(|X−inf(X, a)|)≤(E(X)P(X≥a))/.
Soit (Xn, n≥) une suite de variables al´eatoires ind´ependantes d´efinies sur (Ω,A,P), de mˆeme loi de Poisson de param`etre. On pose, pour tout entiern≥,
Sn= Xn
i=
Xi et Yn=Sn−n
√ n . On notex−= sup(−x,) pour toutx∈R.
. Pour toutn≥, v´erifier queSn suit la loi de Poisson de param`etren, calculerE(Yn) et en d´eduire que pour touta >,
P(Yn−≥a)≤ a.
. SoitY une variable al´eatoire de loi normaleN(,). Montrer que la suite (Yn−)n≥converge en loi versY−.
. Montrer `a l’aide de la queion pr´eliminaire que E(Yn−) −→
n→∞
E(Y−).
. En d´eduire la formule de Stirling
n! ∼
n→∞
n e
n√
πn.
Corrig´e :
. On a, d’apr`es l’in´egalit´e de Cauchy-Schwarz, E(|X−inf(X, a)|) =E
(X−a)1{X>a}
≤E
X1{X>a}
≤(E(X)P(X > a))/. () (a) On a
E(Yn) = n
Xn i=
Var(Xn) =.
On en d´eduit que
P(Yn−≥a)≤
aE((Yn−))≤
aE(Yn) = a.
() (b) D’apr`es letcl, la suite (Yn)n≥converge en loi versY. Or la fonionx∈R7→x−econtinue donc la suite (Yn−)n≥converge en loi versY−.
() (c) Soita >. La fonionx∈R+7→inf(x, a) econtinue et born´ee donc E(inf(Yn−, a)) −→
n→∞E(inf(Y−, a)).
Et
|E(Yn−)−E(Y−)|
≤ E(|Yn−−inf(Yn−, a)|) +|E(inf(Yn−, a)−inf(Y−, a))|+E(|inf(Y−, a)−Y−|)
≤ |E(inf(Yn−, a)−inf(Y−, a))|+ (P(Yn−≥a))/+ (P(Y−≥a))/, d’apr`es la queion pr´eliminaire. OrP(Yn−≥a)≤a−et
P(Y−≥a)≤ E((Y−))
a ≤E(Y) a =
a. Ainsi,
lim sup
n→∞
|E(Yn−)−E(Y−)| ≤ a. Ceci ´etant vrai pour touta >, on a
lim sup
n→∞
|E(Yn−)−E(Y−)|=.
() (d) La variable al´eatoireSnsuit une loi de Poisson de param`etrendonc
E(Yn−) =
√ n
n
X
k=
(n−k)e−nnk k! =e−n
√ n
n
X
k=
nk+
k! −
n−
X
k=
nk+
k!
= nn+
enn!√ n =
n e
n√ n n!.
Et
E(Y−) =
√π Z∞
xe−x/dx=
√π. Donc,
n e
n√ n n! −→
n→∞
√
π, et donc
n! ∼
n→∞
n e
n√
πn.
E
xercice 10. (Une LGN avec un go ˆut de TCL) On rappelle que la loi de Cauchy `a pour densit´e par rapport `a la mesure de Lebesguef(x) =π(+x ), et pour fonion cara´eriiqueφ(ξ) = exp(−|ξ|).
. SiXetY sont deux variables de Cauchy ind´ependantes.Quelles ela loi de X+Y ?
. SiX, ..., Xnsont des vaiid de loi de Cauchy.Quelle ela loi de X+...+Xn
n ?
Qu’en pensez-vous ?
. Retrouver la forme de la fonion cara´eriique `a partir de la densit´e de la loi de Cauchy.
Corrig´e :
. On calcule :
φ(X+Y)/(t) =E
exp X+Y
·it
=E heiXti
E heiYti
= exp(−|t|/) exp(−|t|/) = exp(−|t|).
On en d´eduit que (X+Y)/suit une loi de Cauchy.
. Le mˆeme raisonnement montre que (X+· · ·+Xn)/nsuit une loi de Cauchy. On peut faire deux remarques :
(i) Znne converge pas p.s. lorsquen→ ∞. Ceci ne contredit pas la loi forte des grands nombres carteXn’a pas de moment d’ordre.
(ii) Le th´eor`eme central limite ne s’applique pas car il n’y a pas de moment d’ordre(et donc pas de moment d’ordre).
. On utilise la formule d’inversion de Fourier (voir les petites queions du TDpour deux queions similaires).
E
xercice 11. (´Equation al´eatoire – ) SoientXetY deux variables al´eatoires ind´ependantes de mˆeme loi, de variance finieσ. On suppose que (X+Y)/√ede mˆeme loi queXetY.Que dire de cette loi commune ?
Corrig´e : Tout d’abord, comme (X+Y)/√
etXont mˆeme loi, on a (E[X]+E[Y])/√
=√
E[X] =E[X].
D’o `uE[X] =.
Ensuite, si (Xi),(Xi0),(Yi),(Yi0) sont des variables al´eatoires ind´ependants de mˆeme loi queX, on d´emontre ais´ement par r´ecurrence surnque
Zn= Pn−
i=(Xi+Xi0+Yi+Yi0)
√
n+
a la mˆeme loi queX. Or d’apr`es le th´eor`eme central limite,Znconverge en loi versN(, σ) (en effet, le num´erateur deZneune somme den+variables al´eatoires r´eelles centr´ees ind´ependantes de mˆeme loi et de varianceσ). On conclut donc queXa la mˆeme loi queN(, σ).
Fin Bonne ann´ee !