Statistiques et Probabilités

Statistiques et Probabilités

UIT II Informatique - S3 -M3201

Maha Elbayad [email protected]

Franck Corset [email protected]

Cours disponible sur https://fcorset.github.io/cours/cours.html 09 Sept. 2019

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Rappels

Primitives et intégrales

L’intégrale: interprétation graphique

L’intégraleRb

a f(x)dx est l’aire sous la courbeCf d’equation y=f(x) dans le domaine [a,b].

Interpretation valable uniquement pour f :R→R⁺ (positive)

(Le cas dans le cadre de ce cours).

a b

Cf

x y

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Rappels

Primitives et intégrales

Définition: dérivée

Soit f une fonction définie sur un intervalle I eta∈I. Si la limite lim

h→0

f(a+h)−f(a) h existe, on la note f⁰(a) et on l’appelle nombre dérivé de la fonction f en a. On dit quef est dérivable en a.

Sif est dérivable surI on appellef⁰ la fonction d’erivée def. Définition: primitive

Une primitive d’une fonctionf est une fonctionF dontf est la dérivee: F⁰=f.

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Rappels

Primitives et intégrales

Définition: intégrale

L’intégrale sur [a,b] de f est égale à F(b)−F(a) que l’on note [F(x)]^b_a, où F est la primitive de f.

Z b a

f(x)dx=F(b)−F(a) = [F(x)]^b_a Exemple: Pour f :x7→x de primitiveF(x) = ^x₂²

Z 1 0

xdx = x²

2 ¹

0

= 1 2

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Rappels

Primitives et intégrales

Définition: Valeur moyenne

La valeur moyenne d’une fonction continuef sur [a,b] est définie comme:

µ= 1

b−a Z b

a

f(x)dx

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Rappels

Primitives et intégrales

Quelques propriétés des inégrales f positive sur [a,b] =⇒

Z b a

f(x)dx≥0 (Positivité)

Z a a

f(x)dx= 0 Z b

a

f(x)dx=− Z a

b

f(x)dx Z b

a

f(x)dx= Z c

a

f(x)dx+ Z b

c

f(x)dx (Relation de Chasles) Z b

(f(x) +λg(x))dx= Z b

f(x)dx+λ Z b

g(x)dx (Linéarité)

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Rappels

Primitives et intégrales

Int´grer une fonction

•

Des primitives usuelles.

f f⁰ F

x 7→λ x7→0 x 7→λx+C

(∀a∈R\{−1}) x 7→x^a x 7→ax^a−1 x 7→ ^x_a+1^a+1 +C x 7→e^x x 7→e^x x 7→e^x+C

x7→ _x¹ x 7→ −_x¹2 x 7→ln(x) +C x7→cos(x) x7→ −sin(x) x 7→sin(x) +C x 7→sin(x) x 7→cos(x) x7→ −cos(x) +C

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Rappels

Primitives et intégrales

Int´grer une fonction

•

Intégration par partie.

Rappelons la dérivée du produit (uv)⁰=u⁰v+uv⁰, on a:

Z b a

u(x)v⁰(x)dx= [u(x)v(x)]^b_a− Z b

a

u⁰(x)v(x)dx Exemple: Calculer l’integrale def :x 7→xe^x sur [a,b].

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Rappels

Primitives et intégrales

Int´grer une fonction

•

Intégration par changement de variable.

Pour φune fonction dérivable:

Z b a

f (φ(x))φ⁰(x)dx= Z φ(b)

φ(a)

f(y)dy Exemple: Calculer l’integrale def :x 7→x√

1 +x²sur [a,b].

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Objectif des probabilités et statistiques

Les probabilités traitent de modèles mathématiques et de leurs propriétés (théorique) alors que la statistique utilise les probabilités pour les appliquer à des données réelles

(empirique).

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire

Définition: Une variable aléatoire

On appelle variable aléatoire notée X tout nombre réel qui dépend du résultat d’une expérience aléatoire. Proprement dit,X est une fonctionX : Ω7→R⁺où Ω estl’espace des observables.

Définition: support d’une variable al’eatoire

Le support d’une variable aléatoireX est l’ensembleX(Ω) des valeurs atteintes parX.

•

X estdiscrètesi X(Ω) est dénombrable e.g. X(Ω)⊂N.

•

^{X estcontinuesiX}(Ω) est indénombrable e.g. X(Ω) = [0,1].

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire

Exemples:

•

Deux tirages à pile (0) ou face (1) : Ω ={11,10,01,00}.

Et X la somme des deux valeurs X(Ω) ={0,1,2}(discrète).

•

La taille d’une personne en cm: Ω =R⁺. Et X la taille elle-mêmeX(Ω) =R⁺ (continue).

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire discrète

Définition: Masse de probabilité

On appelle fonction de masse de probabilités, la fonction suivante :

∀k ∈X(Ω),P(X =k) =p_k

Oùp_k est la probabilité queX =k se réalise. On a les propriétés suivantes:

∀k ∈X(Ω), p_k ≥0 et X

k∈X(Ω)

p_k = 1

Exemple (1)Un tiarage à pile (0) ou face (1) biaisée

X prend la valeur 1 avecp1=p∈[0,1] et la valeur 0 avec p0= 1−p

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire discrète

Exemple (2)Loi binomiale:

On lancentirages indépendants à pile (0) ou face (1) avec probabilités (1−p,p) et on évalueX la somme desntirages.

On dit queX suit une loi binomiale de paramètren∈N^∗ etp∈[0,1], notéeB(n,p).

X(Ω) ={0,1, . . . ,n}, et les masses de probabilitépk =P(X =k), sont :

∀k∈ {0. . . ,n},pk =P(x =k) =C_n^kp^k(1−p)^n−k Où les coefficients du binôme (cf. triangle de Pascal) sont définis par :

C_n^k = n!

k!(n−k)! (combinaison dek parmin)

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire discrète

Exemple (2)Loi binomiale:

La somme des probabilités est égale à 1:

n

X

k=0

p_k =

n

X

k=0

C_n^kp^k(1−p)^n−k = [p+ (1−p)]ⁿ= 1ⁿ= 1 Résultat de la formule du binôme de Newton: (a+b)ⁿ=Pn

k=0C_n^ka^kb^n−k

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire discrète

Définition: Fonction de répartition

On appelle fonction de répartition de X (f.d.r en français, c.d.f. en anglais pour cumulative density function) la fonction suivanteFX :

∀x ∈R,FX(x) =P(X ≤x) = X

k:X_k≤x

pk

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire discrète

Exemple:

1 2 8

0.2 0.3 0.5

Xk

p_k

FX(0.5) =?0 FX(1) =?0.5 FX(1.5) =?0.5 FX(2.1) =?0.8 F_X(8) =?1

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire discrète

Définition: Espérance

SoitX une variable aléatoire discrète de fonction de masse de probabilité

∀k ∈ X(Ω),f(k) = p_k. On appelle espérance de X, que l’on note E[X], la quantité suivante :

E[X] = X

k∈X(Ω)

kp_k

Dans cette définition, on suppose que cette espérance est finie.

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire discrète

Exemple (1) Loi de Bernoulli

On suppose queX suit une loi de Bernoulli de paramètrep B(p).

On rappelle queX(Ω) ={0,1}etP(X = 1) =p₁=petP(X = 0) =p₀= 1−p.

L’espérance deX est :

E[X] = X

k∈X(Ω)

kpk =

1

X

k=0

kpk = 0∗(1−p) + 1∗p=p

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire discrète

Exemple (1) Loi de Poisson

On suppose queX suit une loi de Poisson de paramètreP(λ),λ >0 . X(Ω) =Net

∀k ∈N,P(X =k) =e^−λλ^k k!

Interprétation: Si le nombre moyen d’occurrences d’événements dans un intervalle de temps fixé estλ, alors la probabilité qu’il existe exactementk occurrences (k ∈N) suit une lois de PoissonP(λ)

La somme des masses:

+∞

Xpk =

+∞

Xe^−λλ^k

=e^−λ

+∞

Xλ^k

=e^−λ∗e^λ= 1 (séries entières usuelles)

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire discrète

Exemple (1) Loi de Poisson L’espérance deX vaut :

E[X] =

+∞

X

k=0

kpk =e^−λ

+∞

X

k=1

kλ^k k! =e^−λ

+∞

X

k=1

λ^k

(k−1)! =λe^−λ

+∞

X

k=1

λ^k−1

(k−1)! =λe^−λ∗e^λ=λ

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire

Définition: Variance

Soit X une variable aléatoire discrète de fonction de masse de probabilité ∀k ∈ X(Ω), f(k) = pk. On appelle variance de X, que l’on note V[X], la quantité suiv- ante :

V[X] =E[(X−E[X])²] =E[X²]−E[X]² où

E[X²] = X

k∈X(Ω)

k²p_k

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire

Exemple (1) Loi de Bernoulli

En reprenant la loi de Bernoulli, on peut calculer le moment d’ordre 2 :

E[X²] = X

k∈X(Ω)

k²pk =

1

X

k=0

k²pk = 0²∗(1−p) + 1²∗p=p La variance deX est donc :

V[X] =E[X²]−E[X]²=p−p²=p(1−p)

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire continue

Définition: densité et fonction de répartition

La variable aléatoireX associée à une fonction f donnée et définie surR, continue par morceaux, représente le fait de tirer un nombre au hasard avec la probabilité suivante :

Proba(X ≤t) = Z t

−∞

f(x)dx =F(t) oùt est un réel fixé.

Cette écriture n’a de sens que sif est une fonction positive surRetR+∞

−∞ f(x)dx = 1.

f est appeléedensité deX etF est safonction de répartition.

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire continue

La valeurF(t) peut être vue comme l’aire de la surface délimitée par la demi-droite ]− ∞,t], la droite x =t et la courbe représentative def.

t Cf

F(t)

x f(x)

Propriétés de la fonction de répartition

(1) F croissante. (2)∀t, F(t)∈[0,1]. (3) lim

t→+∞F(t) = 1. (4) lim

t→−∞F(t) = 0.

(5) SiF est dérivable alorsF⁰(x) =f(x).

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire continue

Propriétés

•

∀a∈R,P(X ≤a) =F(a).

•

∀a∈R,P(X >a) = 1−F(a).

•

∀a,b∈Rtels quea<b,P(X ∈]a,b]) =F(b)−F(a).

•

P(X =x) =F(x)−F(x⁻). Si F est continue à gauche dex alorsP(X =x) = 0

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire continue

Définition: Espérance

L’espérance deX (appelée aussi moyenne deX) correspond à la valeur suivante : E[X] =

Z +∞

−∞

xf(x)dx.

Définition: Variance - écart-type La variance deX est :

Var(X) =E

(X−E[X])²

=E[X²]−E[X]²= Z +∞

−∞

x²f(x)dx−E[X]².

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire continue

Exemple (1)Loi uniforme sur [0,1]

La fonction densité est : f : R −→ R

x 7−→

1 six ∈[0,1]

0 sinon

La fonction de répartition de cette loi est : F : R −→ [0,1]

x 7−→







0 six <0 x six ∈[0,1]

1 six >1 0 0.5 1

1

F(0.5)

x f(x)

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Variable aléatoire : continue vs. discrète

V.a discrète V.a continue X(Ω): dénombrable indénombrable

Masse/Densité (pk)_k∈X(Ω) f(x)

p_k ≥0,P

kp_k = 1 f(x)≥0,R∞

−∞f(x)dx= 1 Fonction de répartition FX(t) = P

k:X_k≤t

pk Rt

−∞f(x)dx Espérance E[X] =P

kkp_k E[X] =R

xf(x)dx Moment d’ordre 2 E[X²] =P

kk²p_k E[X²] =R

x²f(x)dx Variance Var[X] =E

h

(X−E[X])²i

=E X²

−(E[X])²

Rappels:

Intégrales Probabilités:

V.a discrète:

Masse de proba.

Fonction de répartition Espérance et variance V.a continue:

Densité et répartition Espérance et variance Récapitulatif

Probabilités

Propriétés de l’espérance et de la variance

Pour toute v.aX, continue ou discrète:

•

^∀a∈R, E[a] =a

•

∀(a,b)∈R², E[aX +b] =aE[X] +b

•

Pour toute v.a Y, E[X+Y] =E[X] +E[Y]

•

Pour toute fonctiong,

I siX est continue de densitéf: E[g(X)] =R^+∞

−∞g(x)f(x)dx I siX est discrète de masse (pk)k: E[g(X)] =P

kg(k)pk

•

∀a∈R, Var[a] = 0

•

∀a∈R, Var[aX] =a²Var[X]

•

∀a∈R, Var[−aX] =a²Var[X] (Une variance est toujours positive)