2 Loi du 0-1 de Kolmogorov

Probabilités

Chapitre 6 : Limites presque sûres

Lucie Le Briquer 23 novembre 2017

Objectif des probas.(entre autre) On observe plein d’aléas et on essaye d’identifier des évène- ments qui ont lieu tout le temps. Soit(Ω,A,P)un espace de probabilité.

1 Lemme de Borel-Cantelli

Si on a une suite d’évènements(A_n)_n>1 on définit salim suppar : limAn={ω∈Ω|ω est dans une infinité deAn}

={ω∈Ω| ∀n>1, ∃p>n : ω∈Ap}

= \

n>1

[

p>n

Ap

DonclimA_n∈ A.

Remarque.

limA_n= (

ω∈Ω|

+∞

X

n=1

1ω∈An= +∞

)

= (_+∞

X

n=1

1An = +∞

)

1. SiP

n>1P(An)<+∞alorsP(limAn) = 0 2. Si les(A_n)sont indépendants etP

n>1P(A_n) = +∞alorsP(limA_n) = 1 Lemme 1(de Borel-Cantelli)

Preuve.

1.

E

"_+∞

X

n=1

1^An

#

=

Fubini +∞

X

n=1

E(1^An) =

+∞

X

n=1

P(An)<+∞

DoncP

n>11^An est une variable alétoire positive d’espérance finie donc est finie p.s.

Donc X

n>1

<+∞

| {z }

complémentaire delim

p.s. Ainsi P(limA_n) = 0.

2. • 1−P(limAn) =P(S

n>1

T

p>nAp)

•

P Ñ

[

p>n

Ap

é 6P

k

\

p=n

Ap

!

∀k>n

idp=

k

Y

p=n

P Ap

= exp

k

X

p=n

ln(1−P(Ap)) décroissante enk Donc :

P Ñ

\

p>n

Ap

é 6exp

+∞

X

p=n

ln(1−P(Ap))

6exp −

+∞

X

p=n

P(Ap)

!

= 0 DoncP ∪n>1∩p>nAp

6P

n>10 = 0. Donc on a bienlimAn p.s.

Application.(nombre univers)

Soitb∈N, b>2 etx∈R. On regarde la décomposition dexen base b.

x=x0

∈Z

+X

n>1

xi

bⁱ xi∈ {0, ..., b−1}

xi non tous égaux àb−1à partir d’un certain rang.

Sil>1, l∈N, m∈ {0, ..., b−1}^l est un mot de longueurl. On regarde : Nm(x) =Card{i>1|(xi, xi+1, ..., x_i+l−1) =m}

le nombre d’occurence demdansx.

On dit qu’un nombrexest univers en baseb si pour toutl, mon aN_m(x) = +∞.

SoitX ∼ U([0,1])alors(∀b>2, X est univers en baseb p.s) Propriété 1

Remarque.Ce résultat dit que tout nombre assez générique est univers mais il est très difficile d’en exhiber.

Remarque.Cela reste vrai pour n’importe quelle loi à densité par rapport à Lebesgue. Soit : A={x|xn’est pas univers en toute base}

Alors Leb(A∩[0,1]) = 0et de même Leb(A) = 0.

Siµprobabilité de densité f,

µ({univers en toute base}) = 1−µ(A) = 1− Z

A

f(x)dx= 1 Preuve.

Il suffit de prouver que :

• pour bfixé>2

• pour lfixé>1

• pour mfixé∈ {0, ..., b−1}^l on aNm(x) = +∞p.s.

En effet :

(X est univers en toute base)∼





\

b>2

\

l>1

\

m∈{0,...,b−1}^l

{N_m(x) = +∞}





est donc p.s. comme intersection dénombrable de p.s.

Rappel. X_i=bbXc −bbbⁱ⁻¹Xc X =PX_i bⁱ

Alors les(X_i)sont indépendants de loiU({0, ..., b−1}).

Posons :

Ap={(Xpl+1, Xpl+2, ..., Xpl+l=m)}

LesX_i sont indépendants donc par regroupement, lesA_p sont indépendants etA_pcorrespond à l’évènement “le motmapparaît en positionpl+ 1”. DonclimA_p⊆ {N_m(x) = +∞}.

Calculons :P(Ap) =P

(Xpl+1, ..., Xpl+l=m)

= _b¹l. DoncP

p>1P(Ap) =P

p>1 1

b^l = +∞.

Ils sont indépendantss. Par Borel-CantelliP(limAp) = 1. DoncNm(X) = +∞est p.s.

2 Loi du 0-1 de Kolmogorov

Si(X_i)est une suite de variables aléatoires, définissons : τk=σ(Xk, Xk+1, ...) et τ = \

k∈N^∗

τk appelée tribu terminale ou tribu de queue C’est bien une tribu en tant qu’intersection de tribus. C’est la tribu des événements ne dépendant pas d’un nombre fini deX_i.

Si les(X_i)_i>1 sont indépendants alors :

∀A∈τ, P(A)∈ {0,1}

Théorème 1(loi du 0-1 de Kolmogorov)

Exemple. Si les Ai sont indépendants, on pose Xi = 1^Ai et alors la loi du 0-1 s’applique et {limAn}={P

n>11^An= +∞}={P

n>k1^An= +∞} ∀k. DonclimAn∈τetP(limAn)∈ {0,1}.

Exemples. (d’événements dansτ)

• {limXi60}

• n

Card {i>1 |X_i∈A}= +∞o

• P

i>1 Xi

2ⁱ <+∞

Preuve.

SoitA∈τ et soitη={B ∈ A |B, Aindépendants}.η est une classe monotone :

• Soient B, C∈η avecB⊂C :

P((C\B)∩A) =P((C∩A)|(B∩A))

=P(C∩A)−P(B∩A)

=P(C)P(A)−P(B)P(A)

= [P(C)−P(B)]P(A)

=P(C\B)P(A) doncC\B∈η

• Soit(B_n)une suite croissante deη : P

ÇÇ [

n

B_n å

∩A å

=P Ç

[

n

(B_n∩A) å

= lim↑P(Bn∩A)

= lim↑[P(Bn)P(A)]

=P(A)[lim↑P(B_n)]

=P [

n∈N

Bn

! P(A) DoncS

nBn∈η

Par regroupement, σ(X1, ..., X_n−1) est indépendant de τn = σ(Xn, Xn+1, ...), A ∈ τn. Donc σ(X1, ..., X_n−1)⊆η. DoncC=S

n>1↑σ(X1, ..., Xm)⊆η. OrC est stable par intersection finie.

Donc :

σ(X1, X2, ...) =σ(C) =

classes monotonesη(C)⊆η Commeτ⊂σ(X1, X2, ...).

DoncA∈τ ⊂η, ainsiA est indépendant de lui-même :

P(A) =P(A∩A) =P(A)P(A) =P(A)² D’oùP(A)∈ {0,1}.

Application.(récurrence de la Marche Aléatoire Simple surZ)

• Une marche aléatoire se construit à partir d’une suite de variables aléatoires indépendantes de même loi µ : X1, X2, ... (incréments de la marche). La marche alétoire issue de x, d’incréments(Xi)estS= (Sn)n>0 définie par :

ß S₀=x

S_n =x+X₂+...+X_n

• On parle de MAS sur Zsi les (X_i) sont des variables aléatoires iid de loi : P(X_i = 1) = P(X_i=−1) = ¹₂. SoitS la marche issue de 0 :

ß S0= 0

Sn=X1+...+Xn

Objetcif. Comportement de la marche S en temps long. Que dire du nombre de passages en 0 deS? Est-il infini ou non ?

×

× × ×

×

×

×

×

×

×

×

×

×

n

Å lim

n∈NS_n= +∞; lim

n∈N

S_n=−∞

ã p.s.

(“la marche oscille”) Propriété 2

(∀x∈Z, Card{n∈N|S_n=x}= +∞) p.s.

On dit que la marche est “récurrente”.

Corollaire 1

Preuve.(du corollaire)

D’après la proposition,Snpasse une infinité de fois de valeurs> xà des valeurs< xet à chaque fois passe parx.

Preuve.(de la proposition) Soit :

B:= “la marche est bornée⁰⁰= “limS est finie et lalimaussi⁰⁰= [

p>1

↑ {∀n, −p6S_n6p}

Montrons queP(B) = 0. Soitp>1:

{∀n, −p6Sn6p} ⊆ {∀n,∀m, Sn−Sm62p} ⊆ {∀n, Sn+2p+1−Sn6= 2p+1}={∀n, Xn+1, ..., Xn+2p+16= 1}

Mais les(Xi)i>1sont des v.a. indépendantes valant±1avec une probabilité ¹₂. Ainsi en posant : Al=

X_l(2p+1)+1, ..., Xl(2p+1)+2p+1

= (1, ...,1) on définit des événements de probabilité ₂2p+1¹ doncP

P(Al) = +∞.

Ainsi par Borel-CantellilimAlest p.s. Or :

{∀n, (X_n+1, ..., X_n+2p+1)6= (1, ...,1)} ⊆(limA_n)^C AinsiP(∀n, −p6S_n6p) = 0, doncP(B) = 0.

Soit :

A+:=

Å

nlim>1Sn= +∞

ã

= Å

nlim>kSn= +∞

ã

= Å

lim

n>k(Sn−Sk) = +∞

ã

= Å

lim

n>k(Xk+1+...+Xn) = +∞

ã

∈τk ∀k

DoncA+∈τ et par la loi du 0-1,P(A+)∈ {0,1}.

Supposons par l’absurde queP(limS_n= +∞) = 0.(X_i)_i>1a même loi que(−Xi)_i>1doncS et

−S ont même loi. D’où :

P(limS=−∞) =P(lim −S =−∞) =P(limS_n= +∞) = 0 Alors :

1 =P(B) =P(limS= +∞oulimS=−∞) 6P(limS= +∞) +P(limS=−∞)

= 0 Absurde. DoncP(limS= +∞) = 1.

3 Loi forte des grands nombres

X₁, X₂, ... variables aléatoires réelles indépendantes de même loi L¹ (i.e. E[|Xi|] = R|x|dµXi(x)<+∞). Alors :

X1+...+Xn

n −−−−−→

n→+∞ E[X1] p.s.

Théorème 2(loi forte des grands nombres)

Remarque.On dit que la moyenne empirique tend vers la moyenne théorique.

Remarque.Vrai dans R^d, il suffit de l’appliquer sur chaque coordonnée.

Remarque.On peut supposer que pour touti:E[Xi] = 0. Si on a le résultat dans ce cas alors si on prend desY_i non centrées :

Y₁+...+Y_n

n =E[Y₁] +(Y₁−E[Y₁]) +...+ (Y_n−E[Y_n]) n

| {z }

indépendantes centrées de même loiL¹

−−−−−→

n→+∞ E[Y1] +E[Y1−E[Y1]]

| {z }

LFGN

=E[Y1]

Remarque.Démontrons le résultat dans une version plus faible et plus simple. Supposons que la loi fait que les variables sontL⁴. On supposeE[Xi] = 0,E[X_i²] =σ2et E[X_i⁴] =m4. On pose Sn=X1+...+Xn∈L⁴.

E[S_n⁴] =E

(X1+...+Xn)⁴

= X

16i₁...i₄6n

E[Xi₁Xi₂Xi₃Xi₄] Si l’un des indices n’apparaît qu’une fois, par exemplei₁:

E[Xi1

|{z}

Xi2Xi3Xi4] =

idpE[Xi1]

| {z }

0

E[Xi2Xi3Xi4] = 0 Les seuls termes restant sont donc ceux où :

• i1=i2=i3=i4

• il y a deux paires

E[S_n⁴] = X

16i6n

E[X_i⁴] + 3X

i6=j

E[X_i²X_j²]

= X

16i6n

E[X_i⁴] + 3X

i6=j

E[X_i²]E[X_j²]

=nm⁴+ 3n(n−1)(σ²)² 6Cn²

Alors :

E



 X

n>1

ÅS_n n

ã4

 =

Fubini>0

X

n>1

1

n⁴E[S_n⁴]6X

n>1

C

n² <+∞

P

n>1 S_n

n

⁴

est une v.a. positive d’espérance finie donc P

n>1 S_n

n

⁴

finie p.s. C’est une série convergente donc le terme générique−−−−−→

n→+∞ 0. Donc ^S_nⁿ −−−−−→

n→+∞ 0p.s.

Preuve.

X1, X2, ... E[Xi] = 0, même loi, L¹, indépendants. On veut ^X1+...+X_n ⁿ −−−−−→

n→+∞ 0. Il suffit de montrer queX₁+...+X_n ne croît pas linéairement.

Poura >0, soitM = sup_n∈N(X₁+...+X_n−na).

Étape 1. Montrons qu’il suffit de prouver queP(M <+∞)>0. SiP(M <+∞)>0.

{M <+∞}=

® sup

n>0

(X1+...+Xn−na)<+∞

´

=

® sup

n>k

(X1+...+Xn−na)−(X1+...+Xk)<+∞

´

=

® sup

n>k

(X_k+1+...+X_n−na)<+∞

´

∈τ_k

Vrai pour toutk, donc{M <+∞} ∈τ la tribu terminale desXi.

Mais lesXi sont indépendants donc la loi du 0-1 de Kolmogorov s’applique : P(M <+∞)∈ {0,1} donc M <+∞p.s.

M = sup_n>1(X1+...+Xn−na), doncX1+...+Xn−na6M <+∞p.s. Donc : X1+...+Xn

n 6 M

n +a p.s.

CommeM <+∞p.s :

lim X₁+...+X_n

n 6a p.s.

Si c’et vraiment∀a >0en particuler pour toutp∈N^∗(a= ¹_p) : Ñ

∀p∈N^∗

| {z }

intersection dénombrable

, lim X1+...+Xn

n 6 1

p é

p.s

Donclim ^X1+...+X_n ⁿ 60p.s. Le problème est symétrique donc on montre de même : lim −X1−X2−...−Xn

n 60 p.s.

Donc X1+...+Xn

n −−−−−→

n→+∞ 0 p.s.

Étape 2. Montrons que ∀a >0, M = sup_n∈N X₁+...+X_n−naest fini avec un probabilité

>0.

Moralement c’est vrai car :

X1+...+Xn−na= (X1−a) +...+ (Xn−a)

à lan−ième étape on rajouteXn−aqui est une v.a. d’espérance E[Xn−a] = −a <0. Cette suite à tendance à partir vers−∞.

Supposons, par l’absurde, que ça ne soit pas le cas. On aurait : M = sup

n∈N

X₁+...+X_n−na= +∞ p.s.

Posons :

M_k = sup

06n6k

(X₁+...+X_n−na)

Mk est une suite croissante donc Mk ↑ M(= +∞) p.s. Essayons d’exprimer “Mk+1 =Mk+ 1 pas”.

Mk+1= max(0, X1−a, X1+X2−2a, ..., X1+...+Xk+1−(k+ 1)a)

= max(0,(X₁−a) + sup

06n6k

X₂+...+X_1+n−na) (deuxième terme nul pourn= 0)

PosonsM˜k= sup_06n6k(X1+1+...+X1+n−na).M˜k s’obtient à partir de la suite(X2, X3, ...)de la même manière queMk s’obtient à partir de(X1, X2, ...). Or(X2, X3, ...) =

loi(X1, X2, ...). Alors M˜k =

loiMk.

On veut en déduireM˜ = sup_k∈NM˜_k= +∞p.s. Deux arguments possibles :

• La suite( ˜Mk)k>0=F((X1+i)i>1)oùF est tel que(Mk) =F((Xi)i>1). Donc ( ˜Mk)k>0 =

loi

(Mk)k>0. M˜ =

loiM doncM˜ = +∞p.s.

• Ou bien :

P( ˜M 6t) =P(sup

k

M˜_k6t)

= lim

k ↑P( ˜M_k 6t) M˜_k croissant

= lim

k ↑P(Mk 6t)

=P(sup Mk

| {z }

0

6t) = 0

DoncM > t˜ p.s.∀t. AinsiM˜ = +∞p.s.

M_k+1= max(0,(X₁−a) + ˜M_k) M_k+1−M˜_k = max(−M˜_k, X₁−a)

Prenons l’espérance (tout estt L¹ puisque E[|M_k|] = E[|sup_06n6kX₁ +... +X_n −na|] 6 sup_06n6kE[|X₁+...+X_n−na|]<+∞).

• D’un côté,

E[Mk+1−M˜k] =E[Mk+1]−E[ ˜Mk] =E[Mk+1]−E[Mk] =E[Mk+1−Mk

| {z }

>0car croissant

]>0

• À droite,

E[max(X1−a),−M˜k]−−−−−→

n→+∞ max(X1−a,−M˜

|{z}−∞

) =X1−a p.s.

Donc|max(X1−a,−M˜k)|6|X1−a| ∈L²p.s. Donc par TCD : P[max(X1−a,−M˜k)]−−−−−→

k→+∞ E[X1−a]<0

Absurde car on a vu que l’espérance du terme de gauche est >0. DoncP(M <+∞)>0.

Remarque.La LFGN dit que des observations répétées d’une expérience donne accès à des informations sur la loi.

• en probabilités : on a un espace de probabilité donné ou un modèle.

Exemple :X1, X2, ...v.a. indépendanteB(³₄)et on essaye d’en déduire des informations sur lesXi. On peut prouver que ^X1+...+X_n ⁿ −−−−−→

n→+∞

3 4 p.s.

• en statistique : la loi sur l’espace de probabilité est inconnue. SoitX1, X2, ...v.a. indépen- dante de loiB(θ)avecθ inconnu (on veut le retrouver).

Par exemple X_i = 1 si le i−ème habitant veut voter “Oui” au référendum, 0 sinon. On connaît par contre un échantillon de taillen( ˆX₁, ...,Xˆ_n)∈ {0,1}ⁿ. La LFGM nous dit que si on pose θˆn= ^{Xˆ1+...+ ˆ}_n ^Xn alorsθˆn−−−−−→

n→+∞ θ p.s. On dit queθˆn est unestimateur deθ.

L’hypothèseL¹ est nécessaire.

SiX1, ..., Xn v.a. indépendantes de même loi etE[|X1|] = +∞, alors : P

Å

limite X1+...+Xn

n existe dansR ã

= 0 Propriété 3

Preuve.

Si ^X1+...+X_n ⁿ converge dansR, alors : lim X1+...+Xn

n −X1+...+X_n−1

n−1 ×n−1 n

| {z }

Xn n

= 0

Donc ^X_nⁿ −−−−−→

n→+∞ 0.

+∞=E[|X₁]]

Ç

=E ñZ +∞

0

1t6|X₁|

ôå

=

Fubini>0

Z +∞

0

E

1t6|X1| dt

= Z +∞

0

P(|X1|>t)dt

=

+∞

X

n=0

Z n+1 n

P(|X1|>t)

| {z }

6P(|X1|>n)

dt

6

+∞

X

n=0

P(|X1|>n)

=X

n>0

P( |Xn|>n

| {z }

evt idp de somme+∞

) puisque lesX_i ont même loi

D’après le Lemme de Borel-Cantelli,lim {|Xn| >n} p.s, donc “on a une infinité den tels que

|Xn|

n >1” p.s, donc Ä

lim ^|X_n^n|>1ä

p.s. AinsiP ^X_nⁿ

−−−−−→

n→+∞ 0.

Application.(méthode d’intégration de Monte-Carlo) Si on af: [0,1]−→Ret que l’on veut calculer R1

0 f(x)dxjuste à partir de valeurs def(x).

Algorithme. On simuleU₁, U₂, ...des v.a. uniformes sur[0,1]indépendantes.

On renvoie ^{f(U1)+...+f(U}_n ⁿ⁾. La LFGN s’applique donc−−−−−→

n→+∞ E[f(U1)] =R1

0 f(x)dxp.s.

Application.(nombres normaux) Soitb∈N,b>2une base,x∈R.x=x₀

∈N

+P

i>1 x_i

bⁱ sa décomposition en baseb.

Pourl∈N^∗,m∈ {0, ..., b−1}^l, on regarde :

N_mⁿ(x) =Card{16i6n|(xi, xi+1, ..., xi+l−1) =m}

qui correspond au nombre d’occurences dem dansxavant le rangn.

On dit que x est normal en base b si ∀l,∀m, ^Nmn_n^(x) −−−−−→

n→+∞

1

b^l (le rapport correspond à la proportion d’occurences dem).

SiZ∼Leb|_[0,1] alors (Z est normal en toute base) p.s.

Propriété 4

Remarque.Comme pour les nombres univers ceci implique que siµZ a une densité par rapport à Lebesgue alors (Z est normal en toute base) p.s.

Preuve.

Il suffit de prouver qu’àb, l, mfixés ^Nmn_p^(Z) −−−−−→

n→+∞

1

b^l p.s. car alors on fait l’intersection dénom- brable∩_b>2∩_l>1∩m∈{0,...,b−1}^l. Posons :

Xi=1^mapparaît en positioni=1(Z_i,...,Zi+l−1)=m

où(Zi)i>1 est le développement b−adique deZ (ce sont des v.a. indépendantes de loi uniforme {0, ..., b−1}).

P(Xi= 1) =P((Zi, ..., Z_i+l−1) =m) = 1 b^l DoncXi∼ B _b¹l

. Mais les(Xi)i>1 ne sont pas indépendantes.

N_mⁿ(Z) =X₁+...+X_n Posons :

N_m^n,r(Z) =Xr+Xr+l+...+X_r+l(n−1) pour16r6l On a :

N_m^n,1(Z) +...+N_m^n,l(Z) =X₁+...+X_l+l(n−1)=N_m^nl(Z) Intérêt :

N_m^n,1(Z) = X₁

σ(Z₁,...,Zr+l−1mes)

+ X_r+l

σ(Z_r+l,...,Z_r+2l−1)mes

+...+X_r+l(n−1)

Par regroupement, cesXi sont indépendants. Donc par la LFGN : N_m^n,r(Z)

n −−−−−→

n→+∞ E[Xn] = 1 b^l p.s.

Donc :

N_m^nl(Z)

n =N_m^n,1(Z)

n +...+N_m^n,l(Z)

n −−−−−→

n→+∞ l× 1 b^l p.s.

Limite de ^Nmn_n^(Z) :

bⁿ_lcl n

| {z }

−−−−−→

n→+∞

1 l

Nm^bnlc(Z) bⁿ_lc

| {z }

−−−−−→

n→+∞

l bl

6N_mⁿ(Z)

n 6Nm^(bnlc+1)l(Z) bⁿ_lc+ 1

| {z }

−−−−−→

n→+∞

l bl

bⁿ_lc+ 1 n

| {z }

−−−−−→

n→+∞

1 l

Donc ^Nmn_n^(Z) −−−−−→

n→+∞

1 b^l.

Application.(construction d’une mesure singulière)

On se donne(Xi)i>1 des v.a. indépendantes de loiB(¹₃). On poseX =P

i>1Xi

2ⁱ ∈[0,1]p.s.

• sa loi n’a pas d’atomes : six=P

i>1xi

2ⁱ ∈[0,1]

P(X=x) =P(∀i, Xi=xi)6P(∀16i6k, Xi=xi) =

idp k

Y

i=1

P(Xi=xi)6 Å2

3 ã^k

−−−−−→

k→+∞ 0 DoncP(X =x) = 0.

• la loi n’a pas de densité par rapport à Lebesgue. PosonsN ={x|xest normal en base2}

N₁^l(X)

n =X₁+...+X_n n

−−−−−→LFGN n→+∞

1 3+1

2 doncµX(N) =P(X ∈N) = 0. SiµX >f.Leb alors0 =µX(N)>R

Nf(x)dx=R

f(x)dx puisque Leb( ¯N) = 0 doncf = 0 dxp.p.