Fonctions caract´ eristiques - Introduction au calcul des probabilit´es et `a la statistique

De manière très générale, la fonction caractéristique d’une variable aléatoire est la transformée de Fourier de sa probabilité image. Elle prend une expression très simple pour des variables aléatoires discrètes ou à densité. Il s’agit d’un outil puis-sant pour étudier les lois des variables aléatoires comme on le verra au paragraphe V.6.

Les paragraphes IV.1 et IV.2 donnent la définition et quelques propriétés des fonctions caractéristiques. On calcule au paragraphe IV.3 les fonctions caractéris-tiques de quelques lois usuelles.

IV.1 D´efinitions

Avant de définir les fonctions caractéristiques, on établit une inégalité. On rap-pelle que siX= (X₁, . . . , X_d) est une v.a. à valeurs dansR^dintégrable (i.e.X_iest intégrable pour 1≤i≤d), alorsE[X] = (E[X₁], . . . ,E[X_d]).

Lemme IV.1. SoitX une v.a. `a valeurs dansR^d. On note|·|la norme euclidienne sur R^d. Si E[|X|]<∞, alors X est int´egrable et on a |E[X]| ≤E[|X|].

Démonstration. Il s’agit d’une application de l’inégalité de Jensen car la fonction

|·| est convexe. On en donne toutefois une démonstration directe. On note X = (X1, . . . , Xd). On a |Xi| ≤ |X|. Comme |X| est intégrable, les variables Xi sont donc intégrables. Il existe un vecteur unitaire v ∈ R^d tel que E[X] = |E[X]|v. Il vient E[(X, v)] = (E[X], v). Par croissance de l’espérance, on a :

|E[X]|=E[(X, v)]≤E[|(X, v)|]≤E[|X| |v|] =E[|X|].

⊓

⊔ Soit u ∈ R. La fonction complexe définie sur R par x 7→ eîux est mesurable, bornée en module par 1. Si X est une v.a. réelle, l’espérance de eîuX a donc un sens grâce au lemme ci-dessus où l’on identifie l’espace complexe àR².

Définition IV.2. Soit X une v.a. réelle, la fonction complexe définie par : ψ_X(u) =E

e^iuX

, u∈R,

s’appelle la fonction caract´eristique de X.

Remarque. Deux v.a. de même loi ont même fonction caractéristique. ♦ Exemple. Si L(X) est la loi uniforme sur [a, b], alors ψ_X(u) = eîub−eîua

iu(b−a), pour

u∈R. ♦

SiX est une v.a. à valeurs entières, la fonction caractéristique apparaˆıt comme le prolongement de la fonction génératrice φ_X sur le cercle unité complexe. En effet, on a ψ_X(u) =φ_X eîu

Exemple. SiL(X) est la loi de Bernoulli de param`etrep, alorsψ_X(u) = 1−p+pe^iu.

♦ Proposition IV.3. La fonction caract´eristiqueψ_X de la v.a.X satisfait les condi-tions suivantes :

1. ψ_X est continue.

2. |ψ_X(u)| ≤1.

3. ψ_X(0) = 1.

4. ψ_X(−u) =ψ_X(u).

Démonstration. La propriété 1 est une conséquence directe du théorème V.3 de convergence dominée pour l’espérance. On peut cependant en donner une démons-tration directe. Soit ε > 0 et u ∈ R fixés. Comme P(X ∈ R) = 1, on déduit de la propriété de convergence monotone des probabilités (cf. proposition I.2 4.) qu’il existen >0 tel que P(X∈[−n, n])≥1−(ε/3). La fonction x7→eîx est continue

IV.2 Propri´et´es

et p´eriodique. Donc il existe η >0 tel que si|x−y| ≤nη, alors

e^ix−e^iy

≤ε/3.

On en d´eduit donc que pour |u−u^′| ≤ η, on a 1_{_X_∈_[₋_n,n]_}

e^iuX−e^iu^′^X

≤ ε/3.

On remarque enfin que grâce au lemme IV.1, puis à la croissance de l’espérance, il vient :

ψ_X(u)−ψ_X(u^′) ≤E

e^iuX−e^iu^′^X i

≤2P(X6∈[−n, n]) +Eh

1_{_X_∈_[₋_n,n]_}

e^iuX−e^iu^′^X i

≤ε.

La fonction caract´eristique est donc continue au point u, et ce pour toutu∈R.

La propriété 2 découle du lemme IV.1. La propriété 3 est claire. Pour la pro-priété 4, on écrit eîuX = cos (uX) +isin (uX) et on utilise la linéarité de

l’esp´e-rance. ⊓⊔

La définition des fonctions caractéristiques se généralise au cas des v.a. vecto-rielles.

Définition IV.4. SoitX = (X1, . . . , X_d) une v.a. à valeurs dans R^d. La fonction complexe définie par :

ψ_X(u) =E h

e^i(u¹^X¹^+···+u^d^X^d⁾i

, u= (u₁, . . . , u_d)∈R^d, s’appelle la fonction caract´eristique de X.

La proposition IV.3 est ´egalement vraie pour les v.a. vectorielles.

IV.2 Propri´et´es

Si X est une v.a.c. r´eelle de densit´ef, on a : ψX(u) =

e^iuxf(x)dx= ˆf(u),

où ˆf est la transformée de Fourier de f. On sait dans certains cas inverser la transformation de Fourier. Ainsi si ˆf est intégrable (

f(u)ˆ

du <∞), alors on peut retrouver la fonctionf `a l’aide de la transform´ee de Fourier inverse de ˆf :

f(x) = Z

e⁻^iuxfˆ(u) du

2π, pour presque tout x∈R.

Ainsi si ψX est intégrable, on peut retrouver la densité de la loi à partir de la fonction caractéristique.

Le théorème suivant que l’on admet, assure qu’il y a une bijection entre les lois et les fonctions caractéristiques.

Théorème IV.5. La fonction caractéristique caractérise la loi : deux v.a. ont même loi si et seulement si elles ont même fonction caractéristique.

Si X et Y sont deux v.a. réelles ou vectorielles, alors les propriétés suivantes sont équivalentes :

1. X etY ont mˆeme loi.

2. P(X∈A) =P(Y ∈A) pour tout bor´elien A.

3. E[g(X)] =E[g(Y)] pour toute fonction gborn´ee mesurable.

4. Les fonctions de répartitions sont égales : F_X =F_Y. 5. Les fonctions caractéristiques sont égales : ψ_X =ψ_Y.

6. (Si X et Y sont des v.a. continues.) Les densit´es sont ´egales presque partout :f_X =f_Y p.p.

7. (Si X etY sont des v.a. discr`etes.)P(X =x) =P(Y =x) pour tout x.

L’équivalence 1⇔ 2 provient de la définition de la loi, l’équivalence 2 ⇔ 3 se déduit de la définition de l’espérance, l’équivalence 1⇔4 correspond au théorème III.5.

Proposition IV.6.

1. Soit X₁, . . . , X_n des v.a. r´eelles ind´ependantes, alors on a : ψ_X₁₊_···_+X_n(u) =

i=1

ψ_X_i(u), ∀u∈R.

2. Soit X₁, . . . , X_n des v.a. r´eelles. Ces variables sont ind´ependantes si et seulement sipour tout u= (u₁, . . . , u_n)∈Rⁿ :

ψ_X₁_,...,X_n(u) =

i=1

ψ_X_i(ui).

IV.2 Propri´et´es

3. Soita, b∈R et X une v.a. r´eelle, alors on a :

ψ_aX+b(u) = e^ibuψX(au), ∀u∈R.

4. Soit X = (X₁, . . . , X_n) une v.a. à valeurs dans Rⁿ. Soit m ∈ N. On suppose que E[|X|^m]<∞. Alors, ψ_X possède des dérivées partielles continues d’ordre k≤m, et pour tout k₁, . . . , k_n∈N tel que k=k₁+· · ·+k_n≤m, on a :

∂^kψ_X

∂^k¹u₁· · ·∂^kⁿu_n(u₁, . . . , u_n) =i^kE h

X₁^k¹· · ·X_n^kⁿ eⁱ⁽^Pⁿ^j=1^u^j^X^j⁾i .

Les propriétés 1, 2 et 3 de la proposition IV.6 s’étendent aux v.a. vectorielles.

Démonstration. La propriété 1 est une application de la définition des v.a. indé-pendantes.

On montre la propriété 2. Si les v.a. sont indépendantes, on a : ψ_X₁_,...,X_n(u) =E[eîu¹^X¹^+···+iuⁿ^Xⁿ] =

k=1

E[e^iu^k^X^k] =

k=1

ψ_X_k(u_k).

Pour la r´eciproque, on suppose que pour toutu∈Rⁿ, on a : ψ_X₁_,...,X_n(u) =

i=1

ψ_X_i(u_i).

Soit ( ˜X1, . . . ,Xñ) une famille de variables aléatoires indépendantes telle que ˜Xi

ait même loi que X_i pour tout i ∈ {1, . . . , n}. Alors on déduit de ce qui précède que ψ_X_˜

1,...,X˜n(u) = Qn i=1ψ_X_˜

i(u_i). Mais comme les v.a. ˜X₁, . . . ,X˜_n ont mˆeme loi queX1, . . . , Xn, on a donc :

ψ_X_˜

1,...,X˜n(u) =

i=1

ψ_X_˜

i(u_i) =

i=1

ψ_X_i(u_i) =ψ_X₁_,...,X_n(u).

Donc ( ˜X₁, . . . ,X˜_n) a mˆeme loi que (X₁, . . . , X_n). En particulier, les v.a.X₁, . . . , X_n sont ind´ependantes.

Enfin la propriété 3 est une conséquence de la définition des fonctions

caracté-ristiques. On admet la propriété 4. ⊓⊔

Remarque. La fonction caractéristique caractérise la loi de la variable aléatoire.

On peut alors se demander, à quelles conditions une fonction ψ définie sur R à valeurs complexes est la fonction caractéristique d’une v.a. réelle. Le théorème de Bochner assure qu’il suffit que la fonctionψ vérifie les conditions suivantes :

1. ψ(0) = 1.

2. ψest continue en 0.

3. Pour toute suite finie de complexes (α_i, i∈I) et de r´eels (u_i, i∈I), on a : X

i,j∈I

α_iα_jψ(u_i−u_j)≥0. (IV.1)

♦ Exercice IV.1.

Montrer que la condition (IV.1) est vérifiée par les fonctions caractéristiques. △

IV.3 Fonctions caract´eristiques usuelles

On donne les fonctions caract´eristiques de quelques lois usuelles.

Proposition IV.7.

Bernoulli (p) : ψ(u) = (1−p) +pe^iu. binomiale (n, p) : ψ(u) =

(1−p) +pe^iun

. géométrique (p) : ψ(u) =peîu/

1−(1−p) e^iu . Poisson (θ) : ψ(u) = e^−θ(1−e^iu⁾.

uniforme [−1,1]: ψ(u) = sin(u) u . gaussienne N(0,1) : ψ(u) = e⁻^u²^/2. gaussienne N(m, σ²) : ψ(u) = e^imu⁻^σ

2u2

2 .

exponentielle (λ) : ψ(u) = λ λ−iu. gamma Γ(λ, α) : ψ(u) =

λ λ−iu

. Cauchy (a) : ψ(u) = e⁻^a^|^u^|.

IV.3 Fonctions caract´eristiques usuelles

Démonstration. Le calcul de la fonction caractéristique est immédiat pour les v.a.d.

ainsi que pour la loi uniforme sur [−1,1]. Pour la fonction caractéristique de la loi gaussienne, grâce à la propriété 3 de la proposition IV.6 et l’exercice III.3, il suffit de calculer la fonction caractéristique de la loiN(0,1).

Soit X une v.a. de loi N(0,1). Soitλ∈R. On a :

On désire étendre cette égalité pour λ ∈ C. Soit λ ∈ C. On remarque d’abord que intégrable. Et on a :

Pour calculer cette derni`ere int´egrale, on introduit g_n(x) = Pn k=0

2 qui est intégrable. Par le théorème de convergence dominée (théorème III.25), on a :

n→∞lim

Par linéarité, on a également : Z

A l’aide d’une intégration par partie, on démontre facilement par récurrence que :` E[X^2m] =

On en d´eduit ainsi la fonction caract´eristique de la loi normale.

Le calcul de la fonction caractéristique de la loi exponentielle est immédiat. En revanche celui de la loi gamma est plus délicat. On admet ce résultat. On calcule la fonction caractéristique de la loi de Cauchy dans l’exercice suivant. ⊓⊔ Exercice IV.2.

Soit Y une variable aléatoire de loi exponentielle de paramètre λ > 0 et ε une variable aléatoire indépendante de Y et telle que P(ε= 1) =P(ε=−1) = 1/2.

1. Calculer la densité et la fonction caractéristique de Z = εY. La loi de Z est appelée loi exponentielle symétrique.

2. En d´eduire la fonction caract´eristique de la loi de Cauchy.

△ Correction IV.2.

1. La densité de la loi de Z, f_Z, a été calculée dans l’exercice III.5 : f_Z(z) = λ

2 e^−λ^|z|. On utilise la formule de d´ecomposition et l’ind´ependance entre Y et εpour obtenir :

ψ_Z(u) =E

e^iuY 1_{ε=1}

e^−iuY 1_{ε=−1}

= 1 2

λ λ−iu +

λ λ−iu

= λ² λ²+u². 2. On remarque que 1

λπψ_Z est la densité de la loi de Cauchy de paramètre λ. À l’aide du théorème d’inversion de la transformée de Fourier pour les fonctions intégrables, on a donc p.p. f_Z(z) =

e^−iuzψ_Z(u) du

2π. Comme les membres de droite et de gauche sont des fonctions continues, on a l’´egalit´e pour tout z∈R. On a donc λ

2e^−λ^|z|= Z

e^−iuz λ² λ²+u²

2π. On en déduit ainsi la fonction caractéristique,ψ, de la loi de Cauchy de paramètreλ: pour toutz∈R,

ψ(z) = Z

e^iuz 1 π

λ²+u² du= e⁻^λ^|^z^|.

IV.4 R´esum´e

– Soit X= (X1, . . . , X_d) une v.a. `a valeurs dans R^d. Sa fonction caract´ eris-tiqueest ψ_X(u) =E

e^i(u¹^X¹^+···+u^d^X^d⁾i

, où u= (u₁, . . . , u_d)∈R^d. – Pour a, b∈RetX à valeurs réelles, on a ψ_aX+b(u) = eîubψ_X(au).

– Les v.a. X₁, . . . , X_d sont ind´ependantes si et seulement si : ψ_X₁_,...,X_d(u₁, . . . , u_d) =

i=1

ψ_X_i(u_i) pour tout (u₁, . . . , u_d).

– Si les v.a. X1, . . . , X_dsont ind´ependantes, alors on a : ψ_X₁₊_···_+X_d(u) =

i=1

ψ_X_i(u) pour tout u.

– Les fonctions caractéristiques des lois usuelles sont : Loi (v.a.d.) Fonction caractéristique Bernoulli (p) ψ(u) = (1−p) +peîu. binomiale (n, p) ψ(u) =

(1−p) +pe^iun

. géométrique (p) ψ(u) =peîu/

1−(1−p) eîu . Poisson (θ) ψ(u) = e⁻^θ(1⁻êîu⁾.

Loi (v.a.c.) Fonction caract´eristique uniforme [−1,1] ψ(u) = sin(u)

u . gaussienneN(0,1) ψ(u) = e^−u²^/2. gaussienneN(m, σ²)ψ(u) = e^{im u}⁻^σ

2u2

2 .

exponentielle (λ) ψ(u) = λ λ−iu. gammaΓ(λ, α) ψ(u) =

λ λ−iu

. Cauchy (a) ψ(u) = e^−a^|u|.

IV.5 Exercices

Les exercices dans la partie du cours sont aux pages suivantes : Exercice IV.1 p. 118, Exercice IV.2 p. 120.

Exercice IV.3.

Soit X₁, X₂ deux v.a. ind´ependantes ayant pour lois respectives N(m₁, σ²₁) et N(m₂, σ₂²). Montrer que la loi deX₁+X₂est la loi gaussienneN(m₁+m₂, σ₁²+σ₂²).

△ Exercice IV.4.

Soit (Xn, n∈N^∗) une suite de v.a. ind´ependantes de loi de Cauchy de param`etre a_n. Montrer que la loi de la moyenne empirique ¹_nP_n

i=1X_i est une loi de Cauchy de param`etre _n¹Pn

i=1a_i. En particulier, si les v.a. indépendantes suivent une loi de Cauchy de même paramètrea, alors la loi de la moyenne empirique suit la loi

de Cauchy de param`etrea. △

Exercice IV.5.

Soit X₁, X₂ deux v.a. ind´ependantes et de lois respectives Γ(λ, α₁) et Γ(λ, α₂).

Le paramètre λest identique. Montrer que la loi de X₁+X₂ est une loi gamma de paramètre (λ, α1 +α2). En déduire que, si (Xn, n ∈ N^∗) est une suite de v.a.

ind´ependantes de loi exponentielle de param`etreλ >0, alors la loi de la moyenne empirique ¯X_n= ¹_nPn

i=1X_i est la loi Γ(nλ, n). △

Exercice IV.6.

Soit (X_n, n∈N^∗) une suite de v.a. ind´ependantes, telle que X_n est de loi χ²(d_n).

Montrer que la loi de la somme S_n = P_n

i=1X_i est la loi du χ² de param`etre P_n

i=1d_i. △

Exercice IV.7.

Soit (X_n, n ∈ N^∗) une suite de v.a. indépendantes et de même loi exponentielle de paramètre λ > 0. Soit T une v.a. de loi géométrique de paramètre p ∈]0,1[, indépendante de la suite de v.a. (X_n, n∈N^∗). Montrer que la loi deZ =P_T

i=1X_i

est une loi exponentielle de param`etre pλ. △

Exercice IV.8.

Soit X une v.a. r´eelle dont la fonction caract´eristique est ψ_X(u). Montrer que

|ψX(u)|² est la fonction caractéristique d’une v.a. réelle. On pourra écrire|ψX(u)|²

comme le produit de deux fonctions. △

Exercice IV.9.

Soit (T_k, k ∈ N^∗) une suite de variables al´eatoires ind´ependantes de loi

exponen-tielle de paramètreλ >0. On définit pour toutt≥0,N_t= inf{k;T₁+. . .+T_k+1≥ t}. Le processus (Nt, t∈R⁺) est appelé processus de Poisson de paramètre λ >0.

Ce processus permet, par exemple, de mod´eliser le processus d’arriv´ee des clients

a un guichet.

1. Calculer la loi de Γ_k=P_k

i=1T_i.

2. Calculer la loi de N_t. V´erifier queP(N_t=k) = e^−λtE[1_{Γ_k_≤t}e^λΓ^k].

3. Montrer que P(N_t=k, N_t+h−N_t≥l) =P(N_t=k)P(N_h≥l).

4. En d´eduire que pour tout t, h≥0,N_t+h−N_t a mˆeme loi queN_h. On dit que les accroissements sont stationnaires.

5. Vérifier queN_tetN_t+h−N_tsont indépendants. Cette propriété d’indépendance des accroissements se généralise à un nombre quelconque d’accroissements (dis-joints).

△ Exercice IV.10.

Soit (N_t, t∈R⁺) un processus de Poisson de param`etreλ >0 (cf l’exercice IV.9).

On note T₀ = 0 et pour k≥1,T_k= inf{t≥0;N^Pk−1

i=0Ti+t=k}. 1. Calculer la loi de (T1, . . . , T_k) conditionnellement `aNt=k.

2. Montrer que conditionnellement àNt=k, (T1, T1+T2, . . . , T1+· · ·+T_k) a même loi que le réordonnement croissant de k variables aléatoires indépendantes de loi uniforme sur [0, t].

△

V

Dans le document Introduction au calcul des probabilit´es et `a la statistique (Page 134-146)