Lois des grands nombres

Dans ce qui suit, on dit qu’une martingale (Mn) est de carré intégrable si pour tout n ≥ 0, E

M²_n

<+_∞.

Definition 2.1.5. Soit (Mn)une martingale de carré intégrable. On appelle processus croissant associé à (M_n)la suite(hMi_n)_ndéfinie parhMi₀ =0et pour tout n≥0par

hMi_n+1 =hMi_n+_E^h(M_n+1−Mn)²|F_nⁱ.

En d’autres termes, si pour toutk≥0 on noteξ_k+1= M_k+1−M_kla différence de martingale, on a pour toutn≥1

hMi_n =

∑

n k=1

E

ξ²_k|F_k−1.

Ainsi, on peut voir le processus croissant comme la somme des variance des différences de mar-tingales. On peut maintenant introduire les lois des grands nombres pour les martingales de carré intégrable.

Théorème 2.1.5(Première loi des grands nombres). Soit(Mn)une martingale de carré intégrable.

1. Silimn→+_∞hMi_n < +_∞presque sûrement, alors la suite (M_n)converge presque sûrement vers une variable aléatoire M_∞.

2. Silimn→+_∞hMi_n = +_∞presque sûrement, alors la suite

Mn

hMi_n

converge presque sûrement vers 0.

En d’autres termes, si le processus croissant converge presque sûrement, alors (Mn) = O(1) presque sûrement, et si il diverge, alors

|Mn|=o(hMi_n) p.s.

Démonstration. Preuve du point 1. On note T_b = inf{n,hMi_n+1> b}. On a T_b qui est un temps d’arrêt adapté à la filtration, et donc(M_Tb∧n)_nest une martingale. De plus, on a par définition de T_b

E

M²_n∧Tb

=_EM₀²

+hMi_T

b∧n≤_EM²₀ +b

et doncM_Tb∧nest en particulier une martingale dont le moment d’ordre 1 est uniformément borné, et donc d’après le théorème de Doob, on a M_Tb∧nqui converge presque sûrement. En particulier, M_nconverge presque sûrement sur l’évènement{T_b= +_∞}et donc M_n converge presque sûre-ment sur^S_b∈N{T_b= +_∞}={lim_n→+_∞hMi_n <+_∞}.

Preuve du point 2. Pour toutδ∈ (0, 1), on note

V_n = ^M

n2

(1+hMi_n)^{1+δ et An}= ^E

ξ²_n+1|F_n (1+hMi_n+1)^1+δ. CommehMi_n+1estF_n-mesurable et croissant, on a

E[V_n+1|F_n] = ^E

M²_n+1|F_n

(1+hMi_n+1)^1+δ = ^M

n2

(1+hMi_n+1)^1+δ + ^E

ξ²_n+1|F_n

(1+hMi_n+1)^1+δ ≤ ^M

2n

(1+hMi_n)^1+δ +A_n. De plus, pour toute suite croissante(sn)et pour toute fonction croissante f,

∑

n k=1

s_k−s_k−1

f(s_k) ≤

Z _sn

s0

1 f(t)^dt≤

Z +_∞ s0

1 f(t)^dt.

En effet, comme f etsnsont croissantes, Z _sn

s0

1 f(t) =

∑

n k=1

Z _sk

sk−1

1 f(t)^dt≥

∑

n k=1

Z _sk

sk−1

1 f(s_k)^dt=

∑

n k=1

s_k−s_k−1 f(s_k) ^. On a donc, en notants_k =hMi_k+1,

∑

n k=1

A_k ≤

Z _hMin

0

1

(₁+t)^1+δdt≤

Z +_∞ 0

1

(₁+t)^1+δdt<+_∞

et en appliquant le théorème de Robbins-Siegmund, on obtient donc que Vn converge presque sûrement vers une variable aléatoire finie, i.e pour toutδ∈ (0, 1),

M²_n=O

hMi¹_n^+δ p.s et en particulier, on a

M²_n=o hMi²_n p.s

Exemple : Si on considère la martingale M_n = _∑ⁿ_k=1ξ_k avec (ξ_k) une suite de différences de martingales telle qu’il existeCvérifiantE

ξ²_k|F_k−1≤Cpour toutk. AlorshMi_n≤Cn. Donc soit la limite du processus croissant est finie et dans ce cas M_n converge presque sûrement vers une variable aléatoireM_∞, soit elle est infinie et on a alorsn⁻¹M_nqui converge presque sûrement vers 0.

On peut remarquer que la différence avec la loi des grands nombres pour des variables aléatoires i.i.d est que l’on se passe des hypothèses d’indépendance et d’identique distribution, mais le prix à payer est que l’on doit faire des hypothèses sur le comportement du crochethMi_n. A noter éga-lement que dans l’exemple précédent, on aurait pu s’attendre à obtenir une meilleure vitesse de convergence, ce que nous donne la deuxième loi des grands nombres suivante.

Théorème 2.1.6(Deuxième loi des grands nombres). Soit(M_n)une martingale de carré intégrable.

1. SihMi_n−−−−→^p.s

n→+_∞ +_{∞, alors}

M²_n= o(hMi_nln(hMi_n))^1+δ p.s.

2. De plus, si il existe des constantes a>₂et b>₀telles que E

|M_n+1−M_n|^a|F_n≤b Eh

(M_n+1−M_n)²|F_n^ia/2 p.s alors

M²_n=_O(hMi_nln(hMi_n)) p.s.

Démonstration. Preuve du point 1. La preuve est analogue à celle de la première loi des grands nombres. En effet, pour toutδ>0, on pose

V_n = ^M

n2

f_δ(hMi_n) ^{et An}= ^E

ξ²_n+1|F_n f_δ(hMi_n+1)^. avec pour tout x > 0, f_δ(x) = ₍ ¹

1+x)(ln(1+x))^1+δ CommehMi_n+1estF_n-mesurable, et commehMi_n et f_δ sont croissants, on a

E[Vn+₁|F_n] = ^E

M²_n+1|F_n

f_δ(hMi_n+1) = ^M

n2

f_δ(hMi_n+1)+^E

ξ²_n+1|F_n

f_δ(hMi_n+1) ≤ ^M

n2

f_δ(hMi_n)+An. On a donc,

∑

n k=1

A_k ≤

Z _hMin

0

1

(1+t)(ln(1+t))^1+δdt≤

Z +_∞ 0

1

(1+t)(ln(1+t))^1+δdt<+_∞

et donc, grâce au théorème de Robbins-Siegmund,Vnconverge presque sûrement vers une variable aléatoire finie, i.e

M²_n=O

hMi_n(ln(hMi_n))^1+δ p.s et ceOest en fait unocar l’égalité précédente est vraie pour toutδ >0.

Preuve du point 2. On rappelle que pour toutn ≥ 0, on noteξ_n+1 := M_n+1−Mn etξ₀ = 0. Le coefficient d’explosion du processus croissant, que l’on notera f_n, est définie pour toutn ≥0 par

f_n= hMi_n+1− hMi_n hMi_n+1 = ^E

ξ²_n+1|F_n hMi_n+1 ^.

Afin de simplifier la fin de la preuve, on va considérer une modification de ce coefficient, i.e on va considérer

f˜_n= hMi_n+1− hMi_n 1+hMi_n+1 = ^E

ξ²_n+1|F_n 1+hMi_n+1^.

Enfin, on note

V_n = ^M

n2

1+hMi_n ^{et Bn} = f^˜_nV_n.

On ne peut pas passer ici par une approche directe via le théorème de Robbins-Siegmund mais on peut remarquer que

1+hMi_n

1+hMi_n+1 = ¹+hMi_n+1+hMi_n− hMi_n+1

1+hMi_n+1 =1− f^˜n. On peut alors réécrireV_n+1comme

V_n+1= ^M

2n+_2ξn+1M_n+ξ²_n+1

1+hMi_n+1 =V_n 1− f^˜_n

+2ξ_n+1

Mn

1+hMi_n+1 + f^˜_n ξ²_n+1 1+hMi_n

=Vn− f^˜nVn+2gne_n+₁+ f^˜ne²_n+1, avec

g_n= ^Mn qE

ξ²_n+1|F_n

1+hMi_n+1 ^{, en+1} = _q ^ξn+1 E

ξ²_n+1|F_n , ete_n+1=0 siE

ξ²_n+1|F_n=0. Pour simplifier la suite de la preuve, on suppose queE

ξ²_n+1|F_n6=

0 pour toutn. On obtient donc, à l’aide d’une récurrence, V_n+1 =V₀+2

∑

n k=0

g_ke_k+1

| {z }

=:An+1

+

∑

n k=0

f˜_ke²_k+1

| {z }

=:B_n+1

−

∑

n k=0

f˜_kV_k

| {z }

=:Cn

et on va donc majorer chacun de ces termes. A noter queE[e_n+₁|F_n] = 0 etE

e²_n+1|F_n = 1. De plus, on a

E

|e_n+1|^a|F_n= ^E

|ξ_n+1|^a|F_n E

ξ²_n+1|F_n^a/2

≤b.

On a donc (voir Proposition 1.III.19, point 2) dans [Duf90]) Bn=O

∑

n k=₀

f˜_k

! p.s.

De plus, on a

∑

n k=₀

f˜_k =

∑

n k=₀

hMi_k+1− hMi_k 1+hMi_k+1 =

Z _hMin+1 hMi₀

1

t+1dt≤ln(1+hMi_n+₁)

Il reste maintenant à montrer que A_n+1 est négligeable. Pour cela, on commence par remarquer

que c’est une terme de martingale et on calcule son crochet

Si C_n converge presque sûrement, alors A_n+1 converge presque sûrement et alors ce terme est négligeable, et on obtient le résultat. Si limn→+_∞Cn= +_∞presque sûrement, alors

A_n+1= o(C_n) p.s ce qui conclut la preuve.

A noter que les hypothèses (notamment pour la deuxième partie du théorème) peuvent sembler indigestes, mais on peut voir dans l’exemple suivant qu’elles sont généralement "facilement" véri-fiables. ce que l’on peut réécrire comme

la loi des grands nombres nous donne

A noter que pour cet exemple, avec des hypothèses un peu plus restrictives, on peut trouver une meilleure vitesse grâce à la loi du log-itéré pour les martingales.

Théorème 2.1.7(Loi du log-itéré). Soit(M_n)une martingale par rapport à une filtration(F_n)et s²_n

2. Si|M_n+1−M_n| ≤C_nh(^s_s²ⁿ₂

n) avec C_nadapté à la filtration et tendant presque sûrement vers0, alors lim sup |M_n|

h s²_n−1 ≤1

On admettra ce Théorème, mais sa preuve est disponible dans [Duf90] page 31.

Exemple : Soit M_n = _∑ⁿ_k=1ξ_k avecE[ξ_k|F_k−1] = 0. Si il existeC ≥ 0 tel que pour toutk ≥ 0,

|ξ_k| ≤C, alors

1 nM_n

2

=O

ln lnn n

p.s En effet, on ahMi_n ≤Cnet donch(sn) =h(n) = √

2nln lnnet donc, en posantCn= n⁻¹h(n), le point 2 de la loi du log itéré est vérifié, i.e

lim sup

n

|Mn|

h(n) =lim sup

n

|Mn|

√

nln lnn ≤1.

Estimation en ligne des quantiles : On considère l’estimateur en ligne du quantile d’ordrep(noté m) défini de manière récursive pour toutn≥0 par

m_n+1 =m_n−γ_n+1 1Xn+₁≥mn−p

On a déjà vu quem_nest une estimateur fortement consistant dem. On noteFla fonction de répar-tition deX₁, et on peut réécrire

m_n+1−m=m_n−m−γ_n+1(F(m_n)−F(m)) +γ_n+1ξ_n+1

avec ξ_n+1 = F(mn)−1_Xn+1≤mn. Si on note F = (F_n)avec F_n = σ(X₁, . . . ,Xn) la filtration en-gendrée par l’échantillon, on a que(ξ_n)est une suite de différences de martingales. On suppose maintenant queFest dérivable enm. On note f sa dérivée et on a alors pour toutx∈_R,

F(x)−F(m) = (f(m) +r(x)) (x−m)

avecrcontinue en metr(m) = 0. On suppose également que f(m) > 0 et on peut réécrirem_n+1

comme

mn+1−m= (₁−γ_n+1f(_m)) (_mn−m) +γ_n+1ξ_n+1+γ_n+1r(mn) (mn−m)

Dans tout ce qui suit, pour simplifier un peu les calculs, on supposera quec_γf(m) < 1. A l’aide

d’une récurrence, on a

m_n−m= β_n,0(m₀−m) +

n−1 k

∑

=0

β_n,k+1γ_k+1ξ_k+1

| {z }

=:Mn

+

n−1 k

∑

=0

β_n,k+1γ_k+1r(m_k) (m_k−m)

| {z }

=:Rn

(2.1)

avecβ_n,k = _∏ⁿ_j=k+1 1−γ_jf(m)et β_n,n = 1. En effet, pourn = 0, il est clair que cette égalité est vérifiée et en supposant qu’elle est vérifiée pourn, on a, commeβn,n =1,

m_n+1−m= (₁−γ_n+1f(m)) (m_n−m) +γ_n+1ξ_n+1+γ_n+1r(m_n) (m_n−m)

= (₁−γ_n+1f(m)) β_n,0(m₀−m) +

n−1 k

∑

=0

β_n,k+1γ_k+1ξ_k+1+

n−1 k

∑

=0

β_n,k+1γ_k+1r(m_k) (m_k−m)

!

+β_n+1,n+1γ_n+1ξ_n+1+β_n+1,n+1γ_n+1r(m_n) (m_n−m)

= β_n+_1,0(m0−m) +

∑

n k=0

β_n+1,k+1γ_k+1ξ_k+1+

∑

n k=0

β_n,k+1γ_k+1r(m_k) (m_k−m)

On va donc maintenant donner les vitesses de convergence de chacun des termes à droite de l’éga-lité (2.1).

Vitesse de convergence deβn,0(m0−m). Remarquons d’abord que comme on a supposécγf(m)<

1,β_n,k >0. De plus, comme pour toutxon a 1+x≤exp(x), il vient

β_n,0 ≤

∏

n j=1

exp −γ_jf(m) =exp −f(m)

∑

n j=1

γ_j

!

et à l’aide d’une comparaison série-intégrale, on obtient cγ

1−α

(n+1)^1−α−1

=

Z _n+₁ 1

cγ

t^αdt≤

∑

n j=1

γ_j ≤ γ₁+

Z _n+₁ 1

cγ

t^αdt≤c_γ+ ^cγ 1−α

(n+1)^1−α−1 etβn,0converge donc à vitesse exponentielle, i.e

β_n,0≤exp

−f(m) ^cγ 1−α

(n+1)^1−α−1

(2.2)

Vitesse de convergence deM_n. Remarquons d’abord que l’on peut réécrireM_ncomme M_n= β_n,0

n−1 k

∑

=0

β⁻_k+¹_1,0ξ_k+1 =: β_n,0M˜_n

et on remarque que ˜M_nest une martingale. On va donc calculer son crochet. Pour cela, on remarque

d’abord queE

ξ²_k+1|F_k≤_E1_Xk+1≤m_k|F_k≤1. On a donc hM^˜i_n =

n−1 k

∑

=0

β⁻_k+²_1,0γ²_k+1E

ξ²_k+1|F_k−1≤

n−1 k

∑

=0

β⁻_k+²_1,0γ²_k+1

Ainsi, en remarquant que β_n+1,0hM^˜i_n+1 ≤ (1− f(m)γ_n+1)βn,0hM^˜i_n+γ²_n+1, on peut appliquer la Proposition1.4.1et on obtient

β²_n,0hMi_n=

n−1 k

∑

=0

∏

n j=k+2

1−γ_jf(m)γ²_k =O(γ_n)

et donc, il existe une constante positiveCM˜ telle que

hM^˜i_n ≤CM˜β⁻_n,0²γ_n =:s²_n. A noter ques²_n−−−−→

n→+_∞ +_∞et comme log(1−x)∼_x→0 −x, il existe une constantec>0 telle que β⁻_n,0¹ =exp −

∑

n j=₁

log 1−γ_jf(m)

!

≤exp c f(m)

∑

n j=₁

γ_j

!

et on obti

s²_n≤CM˜γnexp

2ccγf(m) +2cc_γf(m) 1−α

(n+1)^1−α−1 .

En particulier, il existe un rangn₀tel que pour toutn≥ n₀,s²_n≤e^{2ccγ1−fα(m)n}, et on a donc ln ln s²_n

≤ln

2cc_γf(m) 1−α n

≤ln(n) +ln(2ccγf(m))−ln(1−α) =O(ln(n)).

De plus, comme|ξn+₁| ≤1, on a

M˜_n−M^˜_n−1

≤ β⁻_n,0¹γ_n= ^s

2n

C_M˜β⁻_n,0¹

= p

γ_nln ln(s²_n) C_M˜

| {z }

=:Cn

s²_n ps²_nln ln(s²_n)

et C_n converge vers 0. De plus, comme s²_nln ln s²_n

= O

β⁻_n,0²γ_nln(n), en appliquant la loi du log-itéré,

M˜²_n=_Oβ⁻_n,0²γ_nln(_n) _p.s et en particulier,

M_n² ≤β²_n,0M˜²_n=O lnn

n^α

p.s. (2.3)

Vitesse de convergence deR_n. Remarquons d’abord que l’on a les relations de récurrence R_n+1= (1−γ_n+1f(m))Rn+γ_n+1r(mn) (mn−m)

|R_n+1| ≤(1−γ_n+1f(m))|Rn|+γ_n+1|r(mn)| |mn−m|. De plus, comme

|m_n−m| ≤ β_n,0|m₀−m|+|M_n|+|R_n| on peut réécrire l’inégalité précédente comme

|R_n+1| ≤(1−γ_n+1f(m))|R_n|+γ_n+1|r(m_n)|(β_n,0|m₀−m|+|M_n|) +γ_n+1|r(m_n)| |R_n| De plus, comme mnconverge presque sûrement versm, par continuité der enm, on ar(mn)qui converge presque sûrement vers 0. Ainsi, on peut réécrire grossièrement l’inégalité précédente comme

|R_n+1| ≤(1−γ_n+1f(m) +o(γ_n+1))|Rn|+o(γ_n+1(βn,0|m0−m|+|Mn|)) p.s.

et comme

βn,0|m0−m|+|Mn|=O

√ lnn n^α/2

! p.s on a

|R_n+1| ≤(1−γ_n+1f(m) +o(γ_n+1))|Rn|+o γ_n+1

√ lnn n^α/2

! p.s.

Le lemme suivant, que l’on peut voir comme une "analogie presque sûre" de la proposition1.4.1 nous donne la vitesse de convergence deR_n, et en particulier nous donne

|mn−m|²=O lnn

n^α

p.s

Lemma 2.1.2. Soient An,Bn,rn des suites de variables aléatoires positives telles que rnconverge presque sûrement vers0et

A_n+1 = (1−cγ_n+1)An+γ_n+1rn(An+Bn) avecγ_n= c_γn^−α. De plus, on suppose

B_n =O(v_n) p.s avec v_n=C_vn^v(lnn)^β avec v∈_Retβ≥0. Alors

A_n=O(v_n) p.s.

Proof of Lemma2.1.2. Afin de simplifier la preuve (et quitte a considérern suffisamment grand), on va supposer que pour tout n ≥ 0, cγ_n+1 ≤ 1. On considère maintenant l’évènement E_n,c =

{|r_n| ≤c/2}, et on a donc1_EC

n,cqui converge presque sûrement vers 1. On peut donc réécrireA_n+1

comme

A_n+1≤(1−cγ_n+1)A_n+ ^c

2γ_n+1(A_n+B_n) +

=:δn

z }| { γ_n+1r_n(A_n+B_n)1_EC

n,c

≤1− ^c 2γ_n+1

A_n+ ^c

2γ_n+1B_n+δ_n1_EC n,c

Par récurrence, on peut facilement montrer que pour toutn≥0, on a An≤ β^˜_n,0A0+ ^c

2

n−1 k

∑

=0

β˜_n,k+1γ_k+1B_k

| {z }

=:A_1,n

+

n−1 k

∑

=0

β˜_n,k+1δ_k1_EC k,c

| {z }

=:A2,n

avec ˜β_n,k = _∏ⁿ_j=k+1 1−₂^cγ_j

et ˜β_n,n = 1. Avec des calculs classiques, on peut facilement montrer que ˜βn,0 converge à vitesse exponentielle. De plus, on peut réécrire A2,n = β^˜n,0∑ⁿ_k=⁻₀¹β˜⁻_k,0¹δ_k1_EC

k,c et comme1_E^C_n,c converge presque sûrement vers 0, la somme est presque sûrement finie et on obtient donc

A2,n =O β˜n,0 p.s

et ce terme converge donc à vitesse exponentielle. Enfin, il existe une variable aléatoireBtelle que pour toutn≥1 on aBn≤ Bvnpresque sûrement, et on obtient donc la relation de récurrence

A_1,n+1=₁− ^c 2γ_n+1

A_1,n+ ^c

2γ_n+1B_n≤₁− ^c 2γ_n+1

A_1,n+ ^c

2Bγ_n+1v_n et en appliquant la proposition1.4.1, on obtient

A1,n =O(vn) p.s.

Exemple : estimation de la médiane de la loi exponentielle. On considère X ∼ E(1)et on s’in-téresse à la vitesse de convergence des estimateurs de la médiane. Figure2.2, on se concentre sur l’erreur quadratique moyenne estimée à l’aide de 50 échantillons. On voit bien que les estimateurs convergent très rapidement vers la médiane.

0 1000 2000 3000 4000 5000

0.000.050.100.150.20

Sample size

Quadratic mean errror

1 5 50 500 5000

5e−045e−035e−02

Sample size

Quadratic mean errror (logarithmic scale)

FIGURE2.2 – Evolution de l’erreur quadratique moyenne des estimateurs en ligne de la médiane d’une loi exponentielle de paramètre 1.

Dans le document AntoineGodichon-Baggioni Algorithmesstochastiques (Page 32-42)