Probabilit ´es

• Ev ´enement ´el ´ementaire

• le r ´esultat d’une exp ´erience incertaine

• Univers des possibles ( ´ev ´enement certain)

• l’ensemble de tous les ´ev ´enements ´el ´ementaires

• Ev ´enement ´

• sous-ensemble de l’univers des possibles

• ensemble d’ ´ev ´enements ´el ´ementaires

• Ev ´enements A et B

• A∪B: soit A soit B ont lieu

• A∩B: les deux, A et B ont lieu

• A⊆ B: si A a lieu, alors B aussi

• A: A n’a pas lieu

• /0: ´ev ´enement impossible

• Ω: ´ev ´enement certain

• Fr ´equence

• une exp ´erience est r ´ep ´et ´ee n fois

• l’ ´ev ´enement A a lieu r fois

• la fr ´equence est

f_n(A) = r n

• la probabilit ´e r ´ef `ere `a la fr ´equence en long terme P(A) = lim

n→∞ f_n(A)

• Axiomes de probabilit ´e

• 0≤ P(A)≤ 1

• P(Ω) = 1

• si A∩B= /0 alors P(A∪B) =P(A) +P(B)

• Ev ´enements ind ´ependants

• l’occurrence de A ne donne aucune information sur B

• P(A∩B) = P(A)·P(B)

• Ev ´enements ´ exclusifs

• A et B n’ont pas au lieu en m ˆeme temps

• A∩B= /0

• La r `egle d’addition

• P(A∪B) = P(A) +P(B)−P(A∩B)

• ´ev ´enements ind ´ependants: P(A∪B) =P(A) +P(B)−P(A)P(B)

• ´ev ´enements exclusifs: P(A∪B) =P(A) +P(B)

• La probabilit ´e conditionnelle

• P(A|B) = P(A∩B) P(B)

• ´ev ´enements ind ´ependants: P(A|B) =P(A)

• La r `egle de multiplication

• P(A∩B) = P(A|B)P(B) = P(B|A)P(A)

• ´ev ´enements ind ´ependants: P(A∩B) =P(A)P(B)

• Le th ´eor `eme de Bayes

• P(A|B) = P(B|A)P(A) P(B)

• La loi de la probabilit ´e totale

• P(A) = P(A∩B) +P(A∩B)

• Variables al ´eatoires

•

X

: un ensemble (de valeurs possibles), par.ex. R o `u Z

• unevariable al ´eatoire X associe aux ´ev `enements al ´eatoires possibles une valeur dans

X

• soit ξ⊆

X

• P(X ∈ ξ): la probabilit ´e qu’un des ´ev `enements al ´eatoires possibles corresponde `a une valeur qui soit dans ξ

• Distribution cumulative

• si

X

est un ensemble ordonn ´e (R,Z)

• P(X ≤ x): probabilit ´e cumulative

• F_X(x) =P(X ≤ x): fonction de probabilit ´e cumulative

• cas multivari ´e: F_X(x) = P(X ≤ x) = P(X₁ ≤ x₁,··· ,X_n ≤ x_n)

• Fˆ(x) = #(x_i ≤ x)

n : distribution cumulative empirique

• X est continue (par.ex. R ):

• F_X(x) est une fonction continue

• on dit que X est une variable al ´eatoire continue

• X est discret (par.ex. Z ):

• F_X(x) est une somme de “pas” (constante par parties)

• on dit que X est une variable al ´eatoire discr `ete

• Densit ´e d’une variable al ´eatoire continue

• f(x) est la fonction de densit ´e de X: P(X ∈ ξ) =^Z

ξ

f(x)dx.

• pour

X

⊆ R: f(x) = dF_X(x) dx

• pour

X

⊆ Rⁿ: f(x) = dⁿF_X(x) dx₁...dx_n

• Distribution de probabilit ´e d’une variable al ´eatoire discr `ete

•

X

={x₁,x₂,...}

• p(x_i) =P(X = x_i) est la probabilit ´e que X = x_i

• Union

• P(X ∈ ξ1 ou X ∈ ξ2) = P(X ∈ ξ1) +P(X ∈ ξ2)−P(X ∈ ξ1 et X ∈ ξ2)

• P(X ∈ ξ1 ou X ∈ ξ2) ≤ P(X ∈ ξ1) +P(X ∈ ξ2)

• Probabilit ´e jointe

• P(X = x,Y =y) =P(X = x et Y = y) avec x ∈

X

,y ∈

Y

• pour la variable al ´eatoire Z = (X,Y), qui prend ses valeurs dans

X

×

Y

^.

•

• P(X = x|Y = y) = P(X = x,Y =y)

P

(Y = y) (si P(Y = y) = 0)

• Ind ´ependance

• X etY sont ind ´ependants ssi

P(X ∈ ξ,Y ∈ζ) = P(X ∈ ξ)P(Y ∈ ζ)

• distribution cumulative: F_X,Y(X,Y) = F_X(X)F_Y(Y)

• fonction de densit ´e: f_x,y(x,y) = f_x(x)f_y(y)

• distribution de probabilit ´e: p_x,y(x_i,y_j) = p_x(x_i)p_y(y_j)

• Esp ´erance

• la “moyenne” d’une variable al ´eatoire

• µ= E[X] =^Z

X x f(x)dx

• µ= E[X] =

∑

i

x_ip(x_i)

• E[aX +b] =aE[X] +b

• Variance

• la “largeur” d’une variable al ´eatoire

• σ² =Var[X] = E[(X−E[X])²] = ^Z

X(x−E[X])²f(x)dx

• σ² =Var[X] = E[(X−E[X])²] =

∑

i

(x_i−E[X])²p(x_i)

• Var[aX +b] = a²Var[aX]

• Ecart-type ´

• σ=

Var[X]

• Matrice de covariance

• la “largeur” d’une variable al ´eatoire multivari ´ee

• X= (X₁,...,X_d)

• cov[X] = ^Z

X(x−E[X])(x−E[X])^tf(x)dx

• cov[X]ⁱ,j = E

(X_i−E[X_i])(X_j−E[X_j])

• Moments

• E[X^k]: k-i `eme moment de X

• E[(X −E[X])^k]: k-i `eme moment centr ´e de X

• Loi normale

• f(x) = 1

√2πσe^{−12(x−µ)2/σ2}

• µ: moyenne

• σ²: variance

• Loi normale multivari ´ee

• f(x) = 1

(2π)^n/2|Σ|^1/2e^{−12(x−µ)tΣ−1(x−µ)}

• Σ: matrice de covariance

• Loi des grands nombres

• (X₁,··· ,X_n): n variables ind ´ependantes

• E[X₁] = ... = E[X_n] = µ

• Var[X₁],...,Var[X_n] <∞

• lim

n→∞E[X¯] = µ

• Th ´eor `eme de limite centrale

• La moyenne X¯ d’une s ´equence iid converge en probabilit ´e vers une loi Normale avec esp ´erance E[X] et variance Var[X]/n