1 Variable aléatoire, loi d’une variable aléatoire, espérance

Université Paris-Dauphine 2018-2019 Cours de “Intégrale de Lebesgue et probabilités" Novembre 2018

Chapitre 7 - Fondement des probabilités

Table des matières

1 Variable aléatoire, loi d’une variable aléatoire, espérance 1

2 Indépendance 5

3 Convergence en loi et applications 7

4 Vecteurs Gaussiens 9

5 Lexique 12

Dans ce chapitre on désigne par(Ω,A, P)un espace probabilisé, c’est-à-dire, un espace mesurable (Ω,A)muni d’une probabilité P. Sont écrites en rougeles parties hors programme, en violetles parties traitées en TD (résultats à connaitre pour sa culture) et enbleu les parties modifiées par rapport au cours en amphi.

1 Variable aléatoire, loi d’une variable aléatoire, espérance

Une variable aléatoireX est une application mesurable définie sur un espace probabilisé(Ω,A, P) et à valeurs dans un espace mesurable(E,E). Sans précision supplémentaire, on utilisera le terme variable aléatoire pour désigné habituellement une variable aléatoire réelle, c’est-à-dire, à valeurs dans(R,B(R)). On utilisera également l’acronyme “var”. On dira que X est un vecteur aléatoire lorsque(E,E) = (R^d,B(R^d)),d≥2.

Dans ce cours, l’espace probabilisé(Ω,A, P)sera fixé et on considérera diverses variables aléatoires définies sur cet espace (dont on étudiera des propriétés). Au moment de “construire” les objets (Ω,A, P)etX, il est parfois utile de procéder dans le sens inverse. On fixe(Ω,A),(E,E) = (Ω,A), X =l’identité, soit doncX(ω) =ω pour toutω∈Ω, et on construitP.

Le vocabulaire en théorie des probabilités est sensiblement différent de celui de la théorie de la mesure et de l’intégration vue jusqu’à maintenant. On le gardera pour des objets “probabilistes”

qui sont par essence connus “sans certitude”. Un petit lexique de correspondances est donné à la fin du chapitre.

Définition 1.1 On appelle loi de X la mesure image X]P de P par X sur (E,E). On notera L(X) =P^X =X]P(=X(P))etX ∼ L(X). On a donc par définition

∀B∈ E, P^X(B) :=P(X ∈B).

En particulier, P^X est une mesure de probabilité.

Exemples 1.2 (de mesures/lois de probabilité)

(i) DansΩ :={a, b}, on appelle loi de Bernouilli de paramètrep∈[0,1]la mesure de probabilité P :=pδb+ (1−p)δa.

C’est la loi de probabilité d’un lancé d’une pièce (éventuellement truquée) dont la réalisation est a (disons pile) avec probabilité 1−pet b(disons face) avec probabilitép.

(ii) Dans Ω :={1, . . . , n}, on appelle loi uniforme la mesure de probabilité P :=

n

X

i=1

1 nδi.

(iii) DansΩ :={0, . . . , n}, on appelle binomiale de paramètresn≥1etp∈[0,1], on noteB(n, p), la mesure de probabilité

P:=

n

X

k=0

C_n^kp^k(1−p)^n−kδ_k.

La loiB(1, p)est une loi de Bernouilli sur {0,1}.

(iv) Dans Ω := N, on appelle loi de Poisson de paramètre λ > 0, on note P(λ), la mesure de probabilité

P :=e^−λ

∞

X

k=0

λ^k k!δk.

(v) DansΩ := [a, b], on appelle loi uniforme, on note U(a, b), la mesure de probabilité

P:= 1 b−adx

(vi) DansΩ :=R+, on appelle loi exponentielle de paramètreλ >0, on noteExp(λ), la mesure de probabilité

P :=λe^−λxdx.

Définition 1.3 DansΩ :=R, on appelle loi gaussienne unidimensionnelleN(µ, σ²)de paramètres σ >0 etµ∈R, la mesure de probabilité

P =g_λ,σ(x)dx, g_λ,σ:= 1

√2πσexp

−(x−µ)² 2σ²

.

Par extension, on appelle loi gaussienne unidimensionnelleN(µ,0)de paramètresσ= 0 etµ∈R, la mesure de Diracδµ. On dit que la loi gaussienne est

— (centrée) réduite siµ= 0et σ= 1;

— centréesiµ= 0;

— dégénéréesiσ= 0(elle n’a alors pas de densité par rapport à la mesure de Lebesgue).

Définition 1.4 SoitX une variable aléatoire à valeurs positives ou intégrable à valeurs dansR^d. On appelle espérance deX, on note E(X), la quantité

E(X) = Z

Ω

XdP ∈[0,∞] ouR^d.

Lemme 1.5 (de transport) Soit X une variable aléatoire à valeurs dans(E,E), φ: (E;E) → (R,B(R))une fonction mesurable avecφ≥0 ouφ∈L¹, alors

E(φ(X)) = Z

Ω

φ◦XdP = Z

E

φ(x)dP^X(x), et ces quantités sont bien définies.

L’inégalité de Tchebychev s’écrit également

Proposition 1.6 (Inégalité de Markov) SiX ≥0 eta >0, alors P(X ≥a)≤1

aE(X).

Définition 1.7 SoitX une variable aléatoire réelle de carrée intégrable, noteX ∈ L². On appelle variance de X, on note Var(X), la quantité

Var(X) :=E((X−E(X))²) =E(X²)−(E(X))².

Plus généralement, si X une variable aléatoire L² à valeurs dans R^d, on définit la matrice de covariance comme étant la matrice de coefficients

cov(X_j, X_k) =E[(X_j−EX_j)(X_k−EX_k)] =E(X_jX_k)−E(X_j)E(X_k).

Exemples 1.8 - SiX ∼ B(n, p), alors E(X) =np et Var(X) =np(1−p).

- SiX ∼ N(µ, σ²), alors E(X) =µ et Var(X) =σ². - SiX ∼ P(λ), alorsE(X) =λet Var(X) =λ.

- SiX ∼ Exp(λ), alors E(X) = 1/λet Var(X) = 1/λ².

Proposition 1.9 Si X∈ L² alors

E[(X−a)²] =Var(X) + (E(X)−a)², ∀a∈R, et en particulier

Var(X) = min

a∈R

E[(X−a)²].

Preuve de la Proposition 1.9. Il suffit de développer

E[(X−a)²] =E[X²]−2aE[X] +a²=E[X²]−(E(X))²+ (E(X)−a)²,

et de prendre éventuellementa:=E(X). tu

Proposition 1.10 (inégalité de Bienaymé-Tchebychev) Si X∈ L² eta >0, alors P(|X−EX| ≥a)≤ 1

a²Var(X).

Preuve de la Proposition 1.10. Il suffit d’appliquer l’inégalité de Markov à la var(X−EX)². tu Il existe différentes façons de caractériser la loi d’une variable aléatoire.

Définition 1.11 Pour un vecteur aléatoire X, on appelle fonction caractéristique de X, on note ϕ^X, la transformée de Fourier de la loiP^X qui est désormais définie par

ϕ^X(ξ) :=

Z

R^d

e^iξ·xdP^X(x) =E(e^iξ·X), ∀ξ∈R^d.

Attention à la convention de signe qui a changée par rapport au chapitre précédent. La fonction caractéristiqueϕ^X caractérise la loi deX, puisque la transformation de Fourier caractérisant une mesure de probabilité : si ϕ^X est la transformation de Fourier d’une mesure de probabilitéµ, alors X ∼µ.

Exemples 1.12 (i) ϕ(t) := (1−it/λ)⁻¹ est fonction caractéristique de X∼ Exp(λ).

(ii) ϕ(t) := exp(λ(e^it−1))est fonction caractéristique de X ∼ P(λ).

(iii)ϕ(t) := exp(µit−σ²t²/2) est fonction caractéristique de X∼ N(µ, σ).

Définition 1.13 Pour une va réelle X, on appelle fonction de répartition deX, on note F^X, la fonction de répartition de la loiP^X. On a donc

∀t∈R, F^X(t) =P^X(]− ∞, t]) =P(X≤t) =E(1X≤t).

Plus généralement, pour un vecteur aléatoireX, on appelle fonction de répartition de X, on note F^X, la fonction de répartition de la loiP^X. On a donc

∀(t₁, . . . , t_d)∈R^d, F^X(t₁, . . . , t_d) = P^X(]− ∞, t₁]× · · · ×]− ∞, t_d])

= P(X1≤t1, . . . , Xd≤td).

= E(1X₁≤t1,...,X_d≤td).

La fonction de répartitionF^X caractérise la loi deX puisque la fonction de répartition caratctérise une mesure de probabilité : siF^X est la fonction de répartition d’une mesure de probabilitéµ, alors X ∼µ.

Exemples 1.14 (i) F(t) := 1−e^−λt est fonction de répartition de la loi exponentielleExp(λ).

(ii) F := 1_[x,∞[ est la fonction de répartition de la masse de Dirac δx, x ∈ R, donc d’une var X =aps.

(iii)F(t) :=P

0≤k≤nC_n^kp^k(1−p)^n−k1_[k,∞[(t)est fonction de répartition de la loi binomialeB(n, p).

(iii)F(t) :=t est la fonction de répartition de la loi uniformeU[0,1].

Définition 1.15 Pour un vecteur aléatoire X à valeurs dans R^d, on appelle fonction génératrice de moments, on noteM^X, la transformée de Laplace de la loiP^X si celle-ci est définie. Plus pré- cisément, en supposant qu’il exister >0 tel quee^r|X|∈ L¹ et en notantr^∗∈(0,∞]le suppremum de ces nombres, on définit

M^X(z) :=

Z

R^d

e^z·xdP^X(x) =E(e^z·X), ∀z∈C^d,|z|< r^∗.

Lemme 1.16 Lorsque celle-ci est définie, la fonction génératrice de momentsM^X caractérise la loi deX puisque la fonction génératrice de moments caratctérise une mesure de probabilité : siM^X est la fgénératrice de moments d’une mesure de probabilitéµ, alors X∼µ. De plus, en dimension d= 1 (pour simpifier), on a

G^X(z) =X

n≥0

zⁿ

n!E(Xⁿ), ∀z∈C,|z|< r^∗.

Afin de voir que la fonction génératrice de momentsM^X caractérise la loi deX, on peut remarque que _dz^dn_nM^X(0) =E(Xⁿ), et que ceux-ci caractérisent la loi deX d’après le corollaire VI.2.9. du théorème de Weierstrass.

Définition 1.17 Pour une vaX à valeurs dansN, la fonction génératrice deX est la série entière

G^X(t) :=E(t^X) =

∞

X

k=0

t^kP(X=k) =

∞

X

k=0

t^kP^X(k), ∀t∈R,|t| ≤1.

Exemples 1.18 Pour la loi de Poisson P(λ), on calcule la fonction génératrice des moments MX(t) =E(e^tX) = exp(λ(e^t−1)), fonction génératrice GX(t) =E(t^X) =e^λ(t−1).

Pour la loi exponentielleExp(λ), on calcule la fonction de répartitionFX= 1−e^−λt et la fonction génératrice des momentsM_X(t) = (1−t/λ)⁻¹.

2 Indépendance

Le concept probablement le plus central de la théorie des probabilités est celui d’indépendance, dont nous rappelons la définition la plus simple.

Définition 2.1 Deux évenementsA etB sont indépendants (on noteA⊥⊥B?) si P(A∩B) =P(A)P(B).

Une famille d’évenements (Ai)_i∈I est mutuellement indépendante si pour toutJ ⊂I fini P \

j∈J

A_j

=Y

j∈J

P(A_j).

Définition 2.2 Une famille(Ci)_i∈I d’ensembles d’événements (sous-tribus, algèbres) est mutuelle- ment indépendante si toute famille d’évènements(A_i)_i∈I,A_i∈Ci, est mutuellement indépendante.

Lemme 2.3 Deux algèbresC1 etC2 sont indépendantes si, et seulement si, les deux tribus σ(C1) et σ(C2) sont indépendantes. De la même manière, n algèbres C1, . . . ,Cn sont indépendantes si, et seulement si, les n tribus σ(C1), . . . , σ(Cn)sont indépendantes, une famille d’algèbres (Ci)_i∈I est mutuellement indépendante si, et seulement si, la famille de tribus(σ(Ci))_i∈I est mutuellement indépendante. En particulier, des événementsAi, i∈I, sont indépendants si, et seulement si, les tribusσ(Ai),i∈I, sont indépendantes.

Preuve du Lemme 2.3. C’est un argument de classe monotone. On ne traite que le cas n= 2. On noteBi:=σ(Ci). PourC1∈C1fixé, on définit

M1:={B1∈B1, P(B1∩C2) =P(B1)P(C2)}.

On aC1⊂ M1⊂B1 par hypothèse etM1est clairement une classe monotone. Par le lemme des classes monotones, on obtientM1=B1. On fixe maintenantB₁∈B1 et on définit

M₂:={B₂∈B2, P(B₁∩B₂) =P(B₁)P(B₂)}.

De la même manière, on montreM₂=B2, ce qui suffit pour conclure. tu Corollaire 2.4 Soit(Ai)_i∈I une famille de sous-tribus,(J`)<sub>`∈L</sub> une partition de l’ensemble d’in- dices I etB`:=σ(Ai, i∈J`). Si la famille(Ai)_i∈I est indépendante alors la famille (B`)<sub>`∈L</sub> est indépendante.

Définition 2.5 Une famille de variables aléatoires (Xi)_i∈I est mutuellement indépendante si la famille des tribus engendrées (σ(Xi))i∈I est mutuellement indépendante.

Théorème 2.6 Une famille finie de variables aléatoires X = (Xj)j∈J,J :={1, . . . , n}, à valeurs dans (E,B) est mutuellement indépendante si, et seulement si, l’une des conditions équivalentes suivantes est réalisée

(1) pour tous les ensembles mesurables B_j ∈ B,

P(Xj ∈Bj,∀j∈J) =Y

j∈J

P(Xj∈Bj);

(2) la loi conjointe desXj,j∈J, est le produit des lois marginales, soit donc

P^X=P^(X1,...,Xn)=P^X1⊗ · · · ⊗P^Xn;

(3) pour toute famille (φj)_j∈J de fonctions boréliennes telles queφj ≥ 0 pour tout j ∈J ou φj(Xj)est intégrable pour toutj∈J, on a

E Y

j∈J

φj(Xj)

=Y

j∈J

E φj(Xj) .

Si les Xi sont réelles (ou à valeurs dansR^d), ces conditions sont également équivalentes à (4) la fonction caractéristique du vecteur aléatoire X est le produit (tensoriel) des fonctions

caractéristiques desXj :

ϕ_X(ξ) =

n

Y

j=1

ϕ_Xj(ξ_j), ∀ξ= (ξ_j1, . . . , ξ_jn).

En particulier, si (X₁, . . . , X_n) ∈ L² est une famille de var indépendantes alors la matrice de covariance associée est diagonale (mais la réciproque est fausse en général !).

Preuve du Théorème 2.6. On procède en plusieurs étapes.

Etape 1. En rapelant que σ(X_j) = σ({Xj ∈ B_j,∀B_j ∈ B}et en utilisant le Lemme 2.3, on a clairement que les(X_j)sont mutuellement indépendants si, et seulement si (1).

Etape 2. Par définition, on a

P^X(B1× · · · ×Bn) =P(Xj∈Bj,∀j∈J) et

P^X1⊗ · · · ⊗P^Xn(B1× · · · ×Bn) =P^X1(B1). . .P^Xn(Bn) =Y

j∈J

P(Xj∈Bj).

On en déduit que (1) est équivalent à l’identité (2) sur les pavés deE^J, et donc (1) est équivalent à (2) d’après le théorème de Fubini.

Etape 3. L’identité (2) sur les pavés de E^J est équivalente à l’identité (3) pour des fonctions φj qui sont des fonctions caractéristiques d’ensemble. L’équivalence entre (2) et (3) s’en déduit immédiatement (en utilisant la construction de l’intégrale de Lebesgue).

Etape 4. LorsqueE=R^d, il est clair que (3) implique (4) en prenantφj(xj) :=e^−iξj·xj. L’impli- cation réciproque provient de la densité de l’espace vectoriel engendré par les fonctions circulaires, résultat démontré au cours de la preuve du Théorème de Lévy. tu Remarque 2.7 Lorsque l’on considère une famille (quelconque, par exemple une suite) de va- riables aléatoires (Xi)_i∈I, le résultat précédent est vrai en remplaçant partout (X1, . . . , Xn) par XJ:= (Xj₁, . . . , Xj_n)pour toute famille finie J:={j1, . . . , jn} ⊂I.

Lemme 2.8 SoitX etY deux variables aléatoires indépendantes. Alors P^X+Y =P^X∗P^Y

et en particulier

φ^X+Y =φ^Xφ^Y. Preuve du Lemme 2.8. On fixeφ:R→R+, et on calcule

Z

R

φ(z)P^X+Y(dz) = E(φ(X+Y))

= Z

R²

φ(x+y)P^(X,Y)(dx, dy)

= Z

R²

φ(x+y)P^X(dx)P^Y(dy).

On suppose maintenant de plus que les loisP^X etP^Y sont à densité et plus précisémentP^X(dx) = f(x)dx,P^Y(dy) =g(y)dy, de sorte que

Z

R

φ(z)P^X+Y(dz) = Z

R²

φ(x+y)f(x)g(y)dxdy

= Z

R

φ(z)Z

R

f(z−y)g(y)dy dz.

Ce la implique

P^X+Y(dz) =Z

R

f(z−y)g(y)dy dz.

Le résultat en termes de fonctions caractéristiques en découle (voir chapitre précédent). tu On observe que siX ⊥⊥Y sont deux var de même loi centrée alors

Var(X+Y) =E(X+Y)²= 2VarX.

De même, siXi est une suite de varL²indépendantes, centrées et de même variance, alors Var( ¯Xn) = 1

nVar(X1), X¯n :=Sn

n.

Exercice 2.9 SoientX∼P(λ)etY ∼P(µ) indépendantes, montrer queX+Y ∼P(λ+µ).

SoientX₁∼ N(µ, σ²₁)etX₂∼ N(µ, σ²₂)indépendantes, montrer que X₁+X₂∼ N(µ, σ²₁+σ²₂).

(Ind. Pour le premier cas, preuve à la main, en calculant P(X +Y =n), ou en passant par la fonction caractéristique.)

3 Convergence en loi et applications

On retiendra du catalogue de résultats de convergence démontrés au chapitre 2, les implications suivantes :

- Si Xn→X dansL¹, alorsXn→X en probabilité.

- Si X_n→X en probabilité, alorsX_nk→X p.s. pour une sous-suite.

Définition 3.1 On dit qu’une suite de variables aléatoires(Xn)converge en loi vers une variable aléatoireX, on noteXn⇒X, siP^Xn * P^X faiblement, soit donc également

E(ϕ(Xn))→E(ϕ(X)), ∀ϕ∈Cb(E).

Nous avons vu que lorsqueE=R^d, la famille des fonctions tests utilisée dans cette définition peut être modifiée. Au lieu deF =C_b(R^d), on peut prendre F =C₀(R^d),F=C_c(R^d)ou en fait même F ={ϕ;ϕ(x) = exp(−ix·ξ), ξ∈R^d} (version faible du Théorème de Lévy).

Lemme 3.2 SiX_n→X p.s., en probabilité ouL¹, alors X_n⇒X.

Preuve du Lemme 3.2. Si Xn → X p.s. alors pour tout ϕ ∈ Cb, on a ϕ(Xn) → ϕ(X) p.s. et

|ϕ(Xn)| ≤ kϕk∞∈ L¹ de sorte que

E(ϕ(Xn))→E(ϕ(X)),

d’après le Théorème de convergence dominée. Cela signifie bienX_n⇒X.

Si Xn → X en probabilité alors pour une sous-suite (Xn_k) on a Xn_k → X et donc Xn_k ⇒ X d’après l’étape précédente. Par unicité de la limite, c’est toute la suite qui converge.

Si Xn→X au sensL¹alorsXn→X en probabilité, et on utilise la deuxième étape. tu

Lemme 3.3 SiXn⇒a,a∈R, alors Xn→a en probabilité.

Preuve du Lemme 3.3. Pour ε >0, on définit la fonctionϕ(x) =|x−a| ∧ε. On estime P{|Xn−a|> ε} = P{|Xn−a| ∧ε > ε}

≤ 1

εE(|Xn−a| ∧ε)

= 1

ε Z

E

ϕ(x)dP^Xn(x)→ 1 ε Z

E

ϕ(x)δa(dx) = 0,

puisque ϕ(x)∈C_b(R). tu

Théorème 3.4 (Loi faible des grands nombres) Soit(Xn)une suite de var iid L¹. On a X¯n:= Sn

n ⇒ E(X1).

Preuve du Théorème 3.4. Preuve dans le casL². Pour une suite (X_n)de var iid etL², on a vu au paragraphe précédent que

Var( ¯X_n) = 1

nVar(X₁).

Pour toutδ >0et n∈N, on a donc (ce n’est rien d’autre que l’inégalité de BT) P({|X¯n−µ|> δ}) = P({|X¯n−µ|²> δ²})

≤ 1

δ²E(( ¯X_n−µ)²)

= 1

δ² 1

nVar(X₁).

Cela prouveX¯n→µen probabilité, et donc en loi d’après le Lemme 3.2.

Preuve dans le cas généralL¹. Quitte à remplacerXiparXi−E(Xi), on peut supposer la moyenne nulle (les var centrées), soit doncE(X1) = 0. On calcule

φX¯n(ξ) =E(e^iX¯nξ) =

n

Y

i=1

E(e^iXiξ/n) =φX₁(ξ/n)ⁿ. La fonction φ_X1 est de classeC¹puisque X₁∈ L¹, et on a donc

φX₁(s) = φX₁(0) +sφ⁰_X1(0) +sε(s)

= 1 +siE(X₁) +sε(s) = 1 +sε(s), avecε(s)→0lorsques→0. Pour z∈C, on majore facilement

(1 +z)ⁿ−1 =

n

X

k=1

C_n^kz^k ≤

n

X

k=1

C_n^k|z|^k =e^nlog(1+|z|)−1≤e^n|z|−1.

On en déduit

|φX¯_n(ξ)−1| ≤e|ξ|ε(|ξ|/n)−1 −→

n→∞0, ∀ξ∈R.

Cela prouve queF(P^X¯n)(ξ)→ F(δ0)(ξ)ponctuellement, doncP^X¯n→δ0d’après le Théorème de

Lévy, et doncX¯n ⇒0en loi. tu

Théorème 3.5 (central limite) Soit(Xn)une suite de var iid L² et soit σ²:=Var(X1). On a

√1

n(X1+· · ·+Xn−nE[X1]) ⇒ N(0, σ²).

Preuve du Théorème 3.5. Quite à remplacer Xn parXn−E[Xn], on peut supposerE[X1] = 0, et on pose

Zn:= 1

√n(X1+· · ·+Xn).

On calcule

φZ_n(ξ) =E(e^iZnξ) =

n

Y

i=1

E(e^iXiξ/

√n) =φX₁(ξ/√ n)ⁿ.

La fonction φ_X1 est de classeC²puisque X₁∈ L², et on a donc φX₁(s) = φX₁(0) +sφ⁰_X1(0) +s²

2 φ⁰⁰_X1(0) +s²ε(s)

= 1 +siE(X₁)−s²

2E(X₁²) +s²ε(s)

= 1−1

2σ²s²+s²ε(s), avecε(s)→0lorsques→0. Pour ξ∈Rfixé, on en déduit

φX₁

√ξ n

n

=

1−1 2σ²ξ²

n +1

nεξ(n)ⁿ

= exp

n ln 1−1 2σ²ξ²

n + 1

nεξ(n)

= exp

−1

2σ²ξ²+ ˜εξ(n) ,

avecεξ(n),ε˜ξ(n)→0lorsque n→ ∞. Finalement, on a

∀ξ∈R, φZ_n(ξ)−→

n→∞exp −1 2σ²ξ²

=:ϕ(ξ). (3.1)

Une façon de justifier ce calcul avec des nombres complexes est la suivante. Pour α ∈ [0,1[ et β ∈C, α+|β| ≤1, on écrit

(1−α+β)ⁿ−(1−α)ⁿ =

n−1

X

k=0

C_n^k(1−α)^kβ^n−k

≤

n−1

X

k=0

C_n^k(1−α)^k|β|^n−k

= (1−α+|β|)ⁿ−(1−α)ⁿ, et on applique le raisonnement précédent avec α:= ¹₂σ^2ξ_n² etβ :=^εξ_n⁽ⁿ⁾. Cela donne

φ_X1 ξ

√n ⁿ

− 1−1

2σ²ξ² n

n ≤

1−1 2σ²ξ²

n + 1

n|ε_ξ(n)|n

− 1−1

2σ²ξ² n

n

.

Comme les trois derniers termes convergent versϕ(ξ), on en déduit (3.1).En observant queϕest la fonction caractéristique d’une loiN(0, σ²), on conclut grâce au théorème de Lévy. tu

4 Vecteurs Gaussiens

Définition 4.1 On dit qu’un vecteur aléatoire X à valeurs dans R^d est gaussien si, pour tout η∈R^d, la variable aléatoire réelleη·X=P

iηiXi suit une loi gaussienne.

Remarque 4.2

(i) En choisissant η:=ei, où (e1, . . . , ed) est la base canonique deR^d, on voit que les compo- santes d’un vecteur gaussien sont des var gaussiennes. En général, la réciproque est fausse ! (ii) Si X est une var gaussienne et a ∈ R, alors X +a est une var gaussienne, ce que l’on voit à partir de la caractérisation des lois gaussiennes et des propriétés élementaires de la transformation de Fourier.

(iii) Plus généralement, siX est un vecteur gaussien, tout vecteur de la formeY =M X+aoù M ∈M_d,k(R)eta∈R^k est aussi un vecteur gaussien, puisqu’alorsη·Y = (^tM η)·X+η·a est une var gaussienne pour toutη∈R^k.

(iv) Si X est un vecteur aléatoire,a∈RetM ∈Md(R), alors

ϕM X+a(ξ) =e^−ia·ξϕX(^tM ξ). (4.1) (v) On rappelle que siX ∼ N(µ, σ²),σ≥0, alors

ϕX(ξ) = exp

iµξ−σ² 2 ξ²

.

Exercice 4.3 Donner un exemple de vecteur aléatoire(X, Y)tel que X etY sont gaussien mais pasX+Y.

Définition 4.4 Soientµ∈R^detK∈Md(R)symétrique. La loi gaussienneNd(µ, K)est l’unique loi surR^d dont la transformée de Fourier est la fonction

gµ,K(ξ) := exp

iµ·ξ−1 2

tξKξ

.

Théorème 4.5 Un vecteur aléatoireX à valeurs dans R^d est gaussien si, et seulement si, sa loi est gaussienne, c’est-à-dire, s’il existe un vecteur µ∈R^d et une matrice symétrique K ∈Md(R) tels que

ΦX =gµ,K (4.2)

De plus,µet K sont l’espérance et la matrice de covariance deX.

Preuve du Théorème 4.5. Etape 1. Montrons queX gaussien implique (4.2). SoitX un vecteur gaussien. Notonsµ˜son espérance etK˜ sa matrice de covariance. Pourη∈R^dfixé, nous définissons Y =η·X et nous calculons

E(Y) =η·µ,˜ Var(Y) =E(ηi(Xi−µ˜i)ηj(Xj−µ˜j)] =^tηKη.˜

Comme par ailleur, on sait queY suit une loi gaussienne, on a nécessairementY ∼ N(η·µ,˜ ^tηKη).˜ D’après le calcul de la fonction caractéristique rappelé en remarque, on a donc

ΦY(ξ) = exp

i(η·µ)ξ˜ −1

2(^tηKη)ξ˜ ²

. On en déduit

ΦX(η) =E e^iX·η

= Φη·X(1) = ΦY(1), ce qui donne bien l’expression annoncée.

Etape 2. Montrons que (4.2) implique X gaussien. Soient η ∈ R^d et Y := η·X. D’après la formule (4.1), pour toutξ∈R, on a

ϕY(ξ) = ϕ^tηX(ξ) =ϕX(ξη)

= exp

−i(η·µ)ξ−

tηKη 2 ξ²

.

On reconnaît la transformée de Fourier de la loi gaussienne N(η·µ,^tηKη). Par injectivité de la transformation de Fourier,Y est gaussienne, de loiN(η·µ,^tηKη). DoncX est gaussien.

D’après l’étape 1, on sait également que ΦX vérifie l’identité (4.2) associée à µ˜ l’espérance de X et K˜ la matrice de covariance de X. On en déduit imméditament que DϕX(0) = µ = ˜µ et D²ϕ_X(0) = K = ˜K. Cela prouve bien que dans (4.2), µ et K correspondent à l’espérance et la

matrice de covariance deX. tu

Proposition 4.6 Si X est un vecteur gaussien, ses composantes sont indépendantes si et seule- ment si sa matrice de covarianceKX est diagonale.

Preuve de la Proposition 4.6. LorsqueX1, ..., Xdsont indépendantes, c’est un fait général que les covariances

cov(Xj, Xk) =E(XjXk)−E(Xj)E(Xk) = 0 sont nulles sij6=k.

Réciproquement, siK est diagonale :

K=





 σ²₁

. .. σ²_d





,

la fonction caractéristique de X vérifie

ΦX(ξ) =Y

j

ΦX_j(ξj).

Donc les X_j sont indépendantes. tu

Exercice 4.7 Donner un exemple de vecteur aléatoire (X, Y) non indépendant, non gaussien et tel que la matrice de covariance associée est diagonale.

Théorème 4.8 SoitX un vecteur gaussien de loi N_d(µ, K). Il existe des réels λ₁, ..., λ_d ≥0, des variables gaussiennes Y₁, ..., Y_d indépendantes de lois respectives N₁(0, λ₁), ..., N₁(0, λ_d) et une matrice orthogonaleA∈Od(R)tels que

X =AY +µ.

Preuve du Théorème 4.8. La matriceKétant une matrice de covariance, elle est symétrique positive (rappelons que ceci se voit par exemple en remarquant que ^tξKXξ =K^tξX = var (^tξ·X)≥0).

Donc, il existe une matrice orthogonaleAet une matrice diagonaleΛ telles que

K=AΛ^tA.

Le vecteur

Y =^tA(X−µ) est gaussien, centré, et de covariance

KY =^tAKA=A⁻¹KA= Λ

(rappelons en effet queKM X+a =M KXtM). CommeΛest diagonale, lesYj sont indépendantes.

De plus,X =AY +µ. tu

Corollaire 4.9 Un vecteur gaussien de covariance K_X admet une densité si et seulement si detKX 6= 0. Sa densité est alors

fX(x) = 1 (2π)^d/2√

detKX

exp

−1 2

t(x−µ)K_X⁻¹(x−µX)

.

Preuve du Corollaire 4.9. Supposons d’abord detKX 6= 0. Reprenons les notations du théorème précédent : il existe un vecteur aléatoire gaussienY de composantes indépendantesYj ∼N1(0, λj) et une matrice orthogonaleAtels que X=AY +µ.

Comme Y = A⁻¹(X −µ), KY = A⁻¹KXA donc detKY = detKX 6= 0 et, puisque KY = Diag(λ₁, ..., λ_d),λ_j >0pour toutj. Donc, pour toutj, la loi deY_j est

PY_j = 1

p2πλ_jexp − y_j² 2λj

! dyj.

Comme les Y_j sont indépendantes, la loi conjointe deY est le produit tensoriel de ses lois :

PY = O

j

PY_j =Y

j

1

p2πλ_jexp − y_j² 2λj

! dyj

= 1

(2π)^d/2√ detKY

exp −^tyK_Y⁻¹y

dy=f_Y(y)dy,

où l’on a utilisé K_Y = Diag(λ⁻¹₁ , ..., λ⁻¹_d ) et detK_Y = Q

jλ_j. La loi de Y étant connue, celle de X = AY +µ s’en déduit par un simple changement de variable : pour toute fonction réelle borélienne positivehsurR^d,

Z

h(X)dP = Z

h(AY +µ)dP

= Z

h(Ay+µ)dP_Y(y) = Z

h(Ay+µ)f_Y(y)dy

= Z

h(x)fY(A⁻¹(x−µ))dx,

où on a effectué le changement de variables y = ϕ(x) = A⁻¹(x−µ) de sorte que |J ϕ(x)| =

|detA⁻¹|= 1. On en déduit queX possède une densité, qui vautf_X(x) =f_Y(A⁻¹(X−µ)), d’où la formule voulue.

Réciproquement, supposons detKX = 0. Il existea∈R^d tel que KXa= 0. La variable aléatoire Z = a·X a pour espérance a·µX et variance σ²_Z = ^taKXa = 0. Donc Z = a·µ p.p. Donc a·(X−µ) = 0 p.p. SoitH l’hyperplan

H=µ+a^⊥ ={x∈R^d, (x−µ)·a= 0}.

Presque sûrement,X ∈H alors queλd(H) = 0. SiX avait une densité, on aurait 1 =P(X ∈H) =

Z

H

fX(x)dx= 0,

ce qui est absurde. tu

Dans le cas dégénéré, la démonstration précédente montre que, si l’on suppose par exemple que σ₁, ..., σ_r>0 tandis que σ_r+1 =...=σ_d = 0, et si V est le sous-espace vectoriel de dimension r image parA desrpremiers vecteurs de la base canonique de Rⁿ, la loi de X est portée parV et X possède une densité relativement à la mesure de Lebesgue associée aux coordonnées d’une base orthogonale quelconque deV.

5 Lexique

Petit lexique de correspondances :

- une partie mesurableA∈ Aest unévénement;

- une fonction mesurableX: (Ω,A)→(E,E)est unevariable aléatoire;

- une propriété presque partout (p.p.) vraie devient une propriétépresque sûrement (p.s.)vraie.