Probabilit´es et Statistique pour Informatique et Communications

(1)

Probabilit´es et Statistique pour Informatique et Communications

cA. C. Davison, 2012

http://stat.epfl.ch

1 Introduction 2

1.1 Motivation 3

1.2 Pr´eliminaires 21

1.3 Combinatoire 29

2 Probabilit´e 39

2.1 Espaces de Probabilit´e 41

2.2 Probabilit´e Conditionnelle 64

2.3 Ind´ependance 72

2.4 Exemples Edifiants 80

3 Variables Al´eatoires 87

3.1 Id´ees de Base 89

3.2 Esp´erance 112

3.3 Lois Conditionnelles 120

3.4 Notions de Convergence 124

4 Variables Al´eatoires Continues 131

4.1 Notions de Base 132

4.2 Notions Suppl´ementaires 145

4.3 Loi Normale 152

4.4 Q-Q Plots 164

5. Plusieurs Variables Al´eatoires 170

(2)

5.1 Id´ees de Base 172

5.2 D´ependance 184

5.3 Fonctions G´en´eratrices 195

5.4 Loi Normale Multivari´ee 205

5.4 Transformations 214

5.6 Statistiques d’Ordre 221

6. Approximation et Convergence 224

6.1 In´egalit´es 226

6.2 Convergence 229

6.3 Lois des grands nombres 236

6.4 Th´eor`eme central limite 241

6.5 M´ethode delta 247

7 La Statistique 253

7.1 Introduction 254

7.2 Tests Statistiques 259

7.3 Estimation Ponctuelle 284

7.3 Estimation par Intervalle 297

8 Vraisemblance 309

8.1 Motivation 310

8.2 Param`etre scalaire 318

8.3 Param`etre vecteur 329

8.4 Mod´elisation statistique 334

9 Inf´erence Bayesienne 341

9.1 Id´ees de Bayes 342

9.2 Mod´elisation Bay´esienne 358

(3)

1 Introduction slide 2

1.1 Motivation slide 3

Motivation

Probabilités et statistiques fournissent des outils mathématiques et des modèles pour l’étude d’évènements ‘aléatoires’ :

– prévisions météorologiques, finance (Prix Nobel, 2003), . . .; – modélisation de réseaux ;

– algorithmes stochastiques ; – trafic internet ;

– erreurs dans le codage de signaux ; – traitement d’images ;

– . . .

Ils fournissent des méthodes optimales pour prévoir, éliminer le bruit, pour suggérer une manière de traiter le trafic, et pour la reconstruction du vrai signal ou de l’image.

Probabilit´es et Statistique pour SIC slide 4

R´eseaux stochastiques

Graphe de Erdös–Rényi (1960), avec p= 0.01. Les arcs entre chaque pair de sommets apparaissent avec la probabilités p, indépendamment des autres arcs. Dans ce cas, si p >(1 +ǫ) logn/n,ǫ >0, le graphe sera connecté (presque sûrement).

(4)

‘Giant component’

Graphe de Erdös–Rényi (1960), avec n= 150,p= 0.01. Si quandn→ ∞ on anp→c >1, alors il y a (presque sûrement) un sous-graphe connecté contenant une fraction positive des sommets. Aucun autre composant contient plus que O(logn) des sommets.

R´eseaux stochastiques II

Chain network Nearest-neighbour network Scale-free network

Guo et al. (2011,Biometrika)

(5)

Mod´elisation des pages web comme r´eseaux

person

topic

gener interest

parallel

parallel support

instructor

Fig. 3. Common structure in the webpages data. Panel (a) shows the estimated common structure for the four cat- egories. The nodes represent 100 terms with the highest log-entropy weights. The area of the circle representing a node is proportional to its log-entropy weight. The width of an edge is proportional to the magnitude of the associated

partial correlation. Panels (b)–(d) show subgraphs extracted from the graph in panel (a).

Guo et al. (2011,Biometrika)

Algorithmes al´eatoires

(6)

Traitement de signal

0 200 400 600 800 1000

0204060

NMR data

y

Wavelet Decomposition Coefficients

Daub cmpct on ext. phase N=2 Translate

Resolution Level 987654321

0 128 256 384 512

Donn´ees et coefficients d’une transformation orthogonale

Original coefficients

0 128 256 384 512

Shrunken coefficients

0 128 256 384 512

Coefficients originaux et ‘thresholded’

(7)

0 200 400 600 800 1000

−200204060

NMR data

y

0 200 400 600 800 1000

−200204060

Bayesian posterior median

wr(w)

Données et signal réconstruit par une méthode statistique

Donn´ees video

Time

videoVBR

0 200 400 600 800 1000

50100150200250300350400

Amount of coded information (Variable Bit Rate) per frame for a certain video sequence. There were about 25 frames per second.

(8)

Trafic sur LAN

Time

ethernetTraffic

0 1000 2000 3000 4000

02000600010000

S´erie temporelle avec variation bizarre

S´eries temporelles

0e+006e+04

Number 060000

2010.0 2010.2 2010.4 2010.6 2010.8 2011.0

Value

Time

Nombre et valeur de transactions (unit´es arbitraires) chaque heure pour natels, 2010.

(9)

S´eries temporelles

020004000

Number 020005000

2010.0 2010.2 2010.4 2010.6 2010.8 2011.0

Value

Time

Nombre et valeur de transactions (unit´es arbitraires) chaque heure pour natels, 2010.

Evaluation de performance

Jean-Yves Le Boudec (2010)

(10)

Motivation pratique

Beaucoup des cours ult´erieurs se basent sur la probabilit´e et la statistique : – Traitement du signal statistique et applications (Vetterli) ;

– Automatic speech processing (Bourlard) ; – Biomedical signal processing (Vesin) ;

– Stochastic models in communication (Le Boudec/Thiran) ; – Signal processing for communications (Urbanke) ;

– Pattern classification and machine learning (Gerstner/Seeger) – Models and methods for random networks (Grossglauser/Thiran) – Performance evaluation (Le Boudec)

– Statistical signal processing and applications (Jovanovic/Ridolfi) – Information theory and coding (Urbanke)

– . . .

Organisation

– Enseignant :Professor A. C. Davison

– Assistants :Juliette Blanchet, Mine Alsan, Stefan Bucur, Mohammadjavad Faraji, Marc Vuffray – Cours :Lundi 14.15–16.00, CE6 ; Mardi, 13.15–15.00, CE4

– Exercices :Lundi 16.15–18.00, CE6.

– Test :16 avril, 16.15–18.00, sans aucune matière écrite (calculatrice simple authorisée)

– Bonus :pour quizzes de 15 minutes les 5 et 19 mars, le 2 avril, et les 7 et 21 mai, sans aucune matière écrite (calculatrice simple authorisée)

– TP :avec logicielR(http://stat.ethz.ch/CRAN/), 2 avril, 14 mai

– Page webavec notes de cours, exercices (y compris Random Exercise Generator), probl`emes, etc. :

http://stat.epfl.ch/page-76545.html

Mat´eriel de cours

Livres : Les probabilités constituent à peu près les deux premiers tiers du cours, et un bon livre est : – Ross, S. M. (1999) Initiation aux Probabilités. PPUR : Lausanne.

– Il y a beaucoup d’autres excellents livres d’introduction : regarder au Learning Centre.

Les références en statistiques seront données ultérieurement.

(11)

1.2 Id´ ees pr´ eliminaires slide 21

Les ensembles

D´efinition 1. Unensemble A est une collection d’objets, x₁, . . . , x_n, . . . : A={x₁, . . . , x_n, . . .}.

On écritx∈Apour dire que ‘xest un élément de A’, ou ‘xappartient àA’. La collection de tous les objets possibles dans un contexte donné est appelél’univers Ω.

Exemples :

C_H = {Genève,Vaud, . . . ,Grisons} ensemble des cantons suisses {0,1} = ensemble fini constitué des éléments 0 et 1

N = {1,2, . . .}, nombres entiers positifs, ensemble dénombrable Z = {. . . ,−1,0,1,2, . . .}, nombres entiers, ensemble dénombrable R = nombres réels, ensemble non dénombrable

∅ = { } ensemble vide, n’a pas d’´el´ement

Sous-ensembles

D´efinition 2. Un ensembleA est unsous-ensemble d’un ensemble B six∈A entraine quex∈B : on noteA⊂B.

– SiA⊂B etB ⊂A, alors chaque élément de A est contenu dansB et vice versa, ainsiA=B : les deux ensembles contiennent précisément les mêmes éléments.

– Remarquer que∅ ⊂A pour tout ensemble A. Ainsi,

∅ ⊂ {1,2,3} ⊂N⊂Z⊂Q⊂R⊂C, ∅ ⊂I⊂C

– Les diagrammes de Vennsont utiles pour saisir des relations élémentaires existant entre les ensembles, mais ils peuvent être trompeurs (toutes les relations ne peuvent être représentées).

Cardinal d’un ensemble

Définition 3. Un ensemble fini Aa un nombre fini d’éléments, et ce nombre est appelé son cardinal: cardA, #A, |A|.

– Evidemment |∅|= 0 et |{0,1}|= 2

– Exercise : Montrer que siAet B sont finis et A⊂B, alors |A| ≤ |B|.

(12)

Op´erations Bool´eennes

D´efinition 4. SoientA, B⊂Ω. Alors on peut d´efinir : – l’unionet l’intersection deAet B, soit

A∪B={x∈Ω :x∈A oux∈B}, A∩B ={x∈Ω :x∈A etx∈B}; – lecompl´ementairedeA dans Ωest A^c ={x∈Ω :x6∈A}.

Evidemment A∩B ⊂A∪B, et si les ensembles sont finis, alors

|A|+|B|=|A∩B|+|A∪B|, |A|+|A^c|=|Ω|. On peut aussi d´efinir ladiff´erence entre A et B, soit

A \ B=A∩B^c={x∈Ω :x∈A etx6∈B}, (noter que A \B 6=B \ A), et la diff´erence sym´etrique

A △B = (A \ B)∪(B \A).

Op´erations Bool´eennes

Si{A_j}^∞j=1 est un ensemble infini de sous-ensembles deΩ, alors [∞

j=1

Aj = A1∪A2∪ · · ·: tout x∈Ωs’il appartient au moins `a un Aj

\∞

j=1

A_j = A₁∩A₂∩ · · ·: tout x∈Ωs’il appartient `achaque A_j Ce qui suit est facile `a montrer (diagramme de Venn) :

– (A^c)^c =A, (A∪B)^c=A^c∩B^c, (A∩B)^c=A^c∪B^c;

– A∩(B∪C) = (A∩B)∪(A∩C),A∪(B∩C) = (A∪B)∩(A∪C); – (S∞

j=1A_j)^c =T∞

j=1A^c_j, (T∞

j=1A_j)^c =S∞ j=1A^c_j.

(13)

Partition

D´efinition 5. Unepartition deΩest une collection de sous-ensembles non videsA1, . . . , An de Ω tels que

1. lesA_j sontexhaustifs, c’est `a dire que A₁∪ · · · ∪A_n= Ω, et 2. lesA_j sontdisjoints, c’est `a dire que A_i∩A_j =∅, pour i6=j.

Une partition peut aussi ˆetre compos´ee d’un nombre infini d’ensembles {A_j}^∞j=1.

Exemple 6. SoientA_j = [j, j+ 1), pourj=. . . ,−1,0,1, . . .. Est ce que les A_j forment une partition deΩ =R?

Exemple 7. Soient A_j l’ensemble des entiers divisibles par j, pour j= 1,2, . . .. Est ce que lesA_j forment une partition deΩ =N?

Produit Cart´esien

Définition 8. Leproduit Cartésien de deux ensemblesA, B est l’ensemble des pairesordonnées A×B ={(a, b) :a∈A, b∈B}.

De mˆeme

A₁× · · · ×A_n={(a₁, . . . , a_n) :a₁∈A₁, . . . , a_n∈A_n}. SiA₁=· · ·=A_n=A, alors on ´ecrit A₁× · · · ×A_n=Aⁿ.

Comme les paires sont ordonn´ees, A×B 6=B×A`a moins que A=B.

SiA₁, . . . , A_n sont tous finis, alors

|A₁× · · · ×A_n|=|A₁| × · · · × |A_n|. Exemple 9. Soit A={a, b}, B={1,2,3}. D´ecrireA×B.

(14)

1.3 Combinatoire slide 29

Combinatoire : Rappels

C’est les math´ematiques du d´enombrement. Deux principes de base :

– multiplication : si j’aim chapeaux et n´echarpes, il y am×n diff´erentes fa¸cons de les combiner ensemble ;

– addition :si j’ai m chapeaux rouges etnchapeaux bleux, alors j’ai m+n chapeaux au total.

En termes math´ematiques, soientA1, . . . , A_k des ensembles, alors

|A₁× · · · ×A_k|=|A₁| × · · · × |A_k|, (multiplication), et si lesA_j sont disjoints, alors

|A₁∪ · · · ∪A_k|=|A₁|+· · ·+|A_k|, (addition).

Permutations : S´election ordonn´ee

D´efinition 10. Unepermutationden objets distincts est un ensemble ordonn´e de ces objets.

Théorème 11. Etant donnénobjets distincts, le nombre de permutations différentes (sans répétition) de longueur r≤nest

n(n−1) (n−2) · · · (n−r+ 1) = n!

(n−r)!. Ainsi il y an!permutations de longueur n.

Théorème 12. Etant donnén=Pr

i=1n_i objets de r types différents, où n_i est le nombre d’objets de type iindifférentiables entre eux, le nombre de permutations (sans répétition) des nobjets est

n!

n₁!n₂! · · · n_r!.

Exemple

Exemple 13. Une classe de 20 étudiants élisent un comité de taille 4 pour organiser un voyage d’étude. De combien de manières différentes peuvent-ils choisir le comité si :

(a) il y a 4 rôles distincts (président, secrétaire, trésorier, agent de voyage) ? (b) il y a un président, un trésorier, et deux agents de voyage ?

(c) il y a deux trésoriers et deux agents de voyage ? (d) leurs rôles sont indifférentiables ?

(15)

Coefficients multinomial et binomial

D´efinition 14. Soientn1, . . . , nr des entiers compris entre 0,1, . . . , n, ayant pour total n₁+· · ·+n_r=n. Alors

n n₁, n₂, . . . , n_r

= n!

n₁!n₂! · · · n_r!, est appel´ecoefficient multinomial. Le cas r= 2 est le plus courant :

n k

= n!

k!(n−k)!

=C_n^k dans certains livres

est appel´ecoefficient binomial.

Combinations : S´election non ordonn´ee

Théorème 15. Le nombre de manières de choisir un ensemble de r objets issus d’un ensemble den objets distinct sans répétition est

n!

r!(n−r)! = n

r

.

Théorème 16. Le nombre de manières de répartir nobjets distincts en r groupes distincts de taille n₁, . . . , n_r, où n₁+· · ·+n_r=nest

n!

n₁!n₂! · · · n_r!.

Propri´et´es des coefficients binomiaux

Th´eor`eme 17. Soient n, m∈ {1,2,3. . .} et r∈ {0, . . . , n}, alors : n

r

= n

n−r

; n+ 1

r

= n

r−1

+ n

r

, (triangle de Pascal); Xr

j=0

m j

n r−j

=

m+n r

, (formule de Vandermonde);

(a+b)ⁿ = Xn

r=0

n r

a^rb^n−r, (formule du binˆome de Newton);

(1−x)⁻ⁿ = X∞

j=0

n+j−1 j

x^j, |x|<1, (s´eries binomiales n´egatives).

(16)

Partitions d’entiers

Th´eor`eme 18. (a) Le nombre de vecteurs distincts (n1, . . . , nr) d’entiers positifs, n1, . . . , nr>0, satisfaisantn₁+· · ·+n_r=nest

n−1 r−1

.

(b) Le nombre de vecteurs distincts(n1, . . . , nr)d’entiers non-n´egatifs, n1, . . . , nr≥0, satisfaisant n₁+· · ·+n_r=n est n+r−1

n

.

Exemple 19. De combien de manières différentes peut on mettre 6 balles identiques dans 3 boˆıtes, de fa¸con à ce que chaque boˆıtes contienne au moins une balle ?

Exemple 20. De combien de mani`eres diff´erentes peut on mettre 6 balles identiques dans 3 boˆıtes ?

Rappel : Série géométrique

Théorème 21. (a) Une série géométrique est de la formea, aθ, aθ², . . .; on a Xn

i=0

aθⁱ=

(a^1−θ_1−θⁿ⁺¹, θ6= 1, a(n+ 1), θ= 1.

Si|θ|<1, alors P_∞

i=0θⁱ = 1/(1−θ), et X∞

i=0

i!

(i−r)!θ^i−r= r!

(1−θ)^r+1, r= 1,2, . . . .

(17)

Petit Vocabulaire

Mathematics English Fran¸cais

Ω, A, B . . . set un ensemble

A∪B union l’union

A∩B intersection l’intersection

A^c complement of A (inΩ) le compl´ementaire de A(en Ω)

A \ B difference la diff´erence

A ∆B symmetric difference la différence symétrique A×B Cartesian product le produit cartésien

|A| cardinality le cardinal

{A_j}ⁿj=1 pairwise disjoint {A_j}ⁿj=1 disjoint deux `a deux

partition une partition

permutation une permutation

combination une combinaison

n r

binomial coefficient un coefficient binomial (C_n^r)

n n1,...,nr

multinomial coefficient un coefficient multinomial indistinguishable indiff´erentiable

colour-blind daltonien (ienne)

(18)

2 Probabilit´ e slide 39

Petit Vocabulaire Probabiliste

one fair die (several fair dice) un dé juste/équilibré (plusieurs dés justes/équilibrés)

random experiment une exp´erience al´eatoire

Ω sample space l’ensemble fondamental

ω outcome, elementary event une épreuve, un événement élémentaire

A, B, . . . event un ´ev´enement

F event space l’espace des ´ev´enements

sigma-algebra une tribu

Pr probability distribution/probability function une loi de probabilit´e

(Ω,F,Pr) probability space un espace de probabilit´e

inclusion-exclusion formulae formule d’inclusion-exclusion Pr(A|B) probability ofA given B la probabilit´e deA sachantB

independence ind´ependance

(mutually) independent events les événements (mutuellement) indépendants pairwise independent events les événements indépendants deux à deux conditionally independent events les événements conditionellement indépendants

2.1 Espaces de Probabilit´ e slide 41

Les Joueurs de cartes

Paul C´ezanne, 1894–95, Mus´ee d’Orsay, Paris

Motivation : Jeu de d´e

Deux dés équilibrés sont lancés, un rouge et un vert.

– (a) Quel est l’ensemble des résultats possibles ? – (b) Quels résultats donnent un total de 6? – (c) Quels résultats donnent un total de 12 ? – (d) Quels résultats donnent un total impair ?

– (e) Quelles sont les probabilités des événements (b), (c), (d) ?

(19)

Calcul de probabilit´es

– On peut essayer de calculer les probabilités d’événements tels que (b), (c), (d) en lan¸cant le dé de nombreuses fois et en posant

probabilité d’un événement= #de fois où l’événement se produit

#expériences réalisées .

C’est une réponse pratique plutôt que mathématique, disponible seulement après beaucoup de travail (combien de fois doit-on lancer le dé ?), et donnera des réponses différentes à chaque fois—

insatisfaisante !

– Pour des exemples simples, on utilise souvent la symétrie pour le calcul des probabilités. Ceci n’est plus possible pour des cas plus compliqués—on construit des modèles mathématiques, basés sur les notions d’expérience aléatoireet d’espace de probabilité.

Exp´erience al´eatoire

Définition 22. Une expérience aléatoire est une ‘expérience’ dont le résultat est (ou peut être traˆıté comme) aléatoire.

Exemple 23. Je jette une pi`ece.

Exemple 24. Je lance 2 dés équilibrés, un rouge et un vert.

Exemple 25. Le nombre d’emails que je re¸cois aujourd’hui.

Exemple 26. Le temps d’attente jusqu’`a la fin de ce cours.

Exemple 27. Le temps qu’il fera ici demain `a midi.

Andrey Nikolaevich Kolmogorov (1903–1987)

Grundbegriffe der Wahrscheinlichkeitsrechnung (1933)

(20)

Espace de probabilit´e (Ω,F,Pr)

Une expérience aléatoire est modelisée par un espace de probabilité.

Définition 28. Unespace de probabilité (Ω,F,Pr) est un objet mathématique associé à une expérience aléatoire, constitué de :

1. un ensemble Ω, l’ensemble fondamental, qui contient tous lesr´esultats (´epreuves,

´

evénements élémentaires) ω possibles de l’expérience ;

2. une collection F de sous-ensembles deΩ. Ces sous-ensembles sont appelésévénements, et F est appelél’espace des événements;

3. une fonction Pr :F 7→[0,1]appeléeloi de probabilité, qui associe une probabilitéPr(A) à chaque A∈ F.

Ensemble fondamental

– L’ensemble fondamentalΩ est l’ensemble composé d’éléments représentant tous les résultats possibles d’une expérience aléatoire. Chaque élément ω∈Ω est associé à un résultat différent.

– Ωest analogue à l’ensemble univers. Il peut être fini, dénombrable ou non dénombrable.

– Ωest non-vide. (SiΩ =∅ alors rien d’int´er´essant ne peut arriver.)

Exemple 29. D´ecrire les ensembles fondamentaux pour les Exemples 23–27.

Pour les exemples élémentaires avec Ωfini, on choisit souventΩ de manière à ce que ω∈Ω soit

´equiprobable :

Pr(ω) = 1

|Ω|, pour chaque ω ∈Ω.

Alors Pr(A) =|A|/|Ω|, pour tout A⊂Ω.

Espace des ev´enements

F est un ensemble de sous-ensembles deΩqui représente les événements d’intérêt.

Exemple 30 (Suite de l’exemple 24). Donner les événements A le dé rouge montre 4,

B le total est impair, C le d´e vert montre 2,

A∩B le d´e rouge montre 4 et le total est impair.

Calculer leurs probabilit´es.

(21)

Espace des ev´enements F, II

Définition 31. Unespace des événements F est un ensemble de sous-ensembles deΩtel que : (F1) F est non vide ;

(F2) siA∈ F alors A^c∈ F;

(F3) si{A_i}^∞i=1 sont tous des ´el´ements deF, alors S∞

i=1A_i ∈ F. F est aussi appel´eeune tribu.

SoientA, B, C,{A_i}^∞i=1 des éléments de F. Alors les axiomes précédents impliquent que – Sn

i=1A_i∈ F, – Ω∈ F, ∅ ∈ F,

– A∩B ∈ F, A \ B∈ F, A ∆B ∈ F, – Tn

i=1A_i∈ F.

Espace des ev´enements F, III

– SiΩest dénombrable, on prend souvent pour F l’ensemble de tous les sous-ensembles de Ω. C’est le plus grand (et le plus riche) espace des événements possibles pourΩ.

– On peut définir des espaces des événements différents pour le même ensemble fondamental.

Exemple 32. Donner la tribu pour l’Exemple 23.

Exemple 33. Je lance deux dés équilibrés, un rouge et un vert.

(a) Quel est ma tribuF1?

(b) J’informe mon ami seulement du total. Quel est sa tribuF2?

(c) Mon ami regarde lui-mˆeme les d´es, mais il est daltonien. Quel est alors sa tribuF3?

Espace des ev´enements F, III

– Habituellement l’espace des événements est clair d’après le contexte, mais il est important d’écrire ΩetF explicitement, afin d’éviter la confusion.

– Cela peut aussi être utile lorsque des soi-disant ‘paradoxes’ surviennent (généralement en raison d’une formulation mathématique du problème peu claire ou erronée).

– Il est essentiel de donner Ωet F lors des exercices, tests et examens.

(22)

Exemples

Exemple 34. Une femme planifiant sa future famille considère les situations suivantes (on suppose que les chances d’avoir un gar¸con ou une fille sont égales à chaque fois) :

(a) avoir trois enfants ;

(b) mettre au monde des enfants jusqu’à ce que la première fille naisse, ou jusqu’à ce que les trois enfants naissent, s’arrêter lorsque l’une des 2 situations se réalise.

(c) mettre au monde des enfants jusqu’à ce que il y en ait un de chaque sexe ou jusqu’à ce qu’il en ait trois, s’arrêter lorsque l’une des 2 situations se réalise.

SoientG_i l’événement ‘igar¸cons sont nés’,A l’événement ‘il y a plus de filles que de gar¸cons’.

CalculerPr(G₁) etPr(A) sous (a)–(c).

En fait, le rapport gar¸con/fille est∼105/100 `a naissance.

Exemple 35 (Anniversaires). n personnes sont dans une pièce. Quelle est la probabilité qu’ils aient tous une date d’anniversaire différente ?

Anniversaires

0 10 20 30 40 50 60

0.00.20.40.60.81.0

n

Probability

(23)

Galileo Galilei (1564–1642)

Il Saggiatore, 1623

(24)

Il Saggiatore, 1623

La filosofia è scritta in questo grandissimo libro che continuamente ci sta aperto innanzi a gli occhi (io dico l’universo), ma non si può intendere se prima non s’impara a intender la lingua, e conoscer i caratteri, ne’ quali è scritto. Egli è scritto in lingua matematica, e i caratteri son triangoli, cerchi, ed altre figure geometriche, senza i quali mezi è impossibile a intenderne umanamente parola ; senza questi è un aggirarsi vanamente per un oscuro laberinto.

La philosophie est écrite dans ce vaste livre constamment ouvert devant nos yeux (je veux dire l’univers), et on ne peut le comprendre si d’abord on n’apprend à connaˆıtre la langue et les caractères dans lesquels il est écrit. Or il est écrit en langue mathématique, et ses caractères son le triangle et le cercle et autres figures géométriques, sans lesquels il est humainement impossible d’en comprendre un mot, sans lesquels on erre vainement dans un labyrinthe obscur.

Probl`eme de trois d´es

Trois dés équilibrés sont lancés. Soient T_i l’événement ‘le total esti’, pouri= 3, . . . ,18. Quel est le plus probable,T₉ ou T₁₀?

T9 peut se produire si les d´es ont les r´esultats suivants

9 = 6 + 2 + 1 = 5 + 3 + 1 = 5 + 2 + 2 = 4 + 4 + 1 = 4 + 3 + 2 = 3 + 3 + 3.

T₁₀peut se produire si les d´es ont les r´esultats suivants

10 = 6 + 3 + 1 = 6 + 2 + 2 = 5 + 4 + 1 = 5 + 3 + 2 = 4 + 4 + 2 = 4 + 3 + 3.

Ainsi ils sont ´equiprobables.

Vrai ou faux ?

Loi de probabilit´e Pr

Définition 36. Uneloi de probabilité Prassocie une probabilité à chaque élément de l’espace des

événements F, avec les propriétés suivantes : (P1) si A∈ F, alors 0≤Pr(A)≤1; (P2) Pr(Ω) = 1;

(P3) si {Ai}^∞i=1 sont disjoints deux `a deux (c’est `a dire que, Ai∩Aj =∅,i6=j), alors Pr

[∞

i=1

A_i

!

= X∞

i=1

Pr(A_i).

(25)

Propri´et´es de Pr

Théorème 37. Soient A, B,{Ai}^∞i=1 des événements de l’espace de probabilité (Ω,F,Pr). Alors (a)Pr(∅) = 0;

(b) Pr(A^c) = 1−Pr(A);

(c) Pr(A∪B) = Pr(A) + Pr(B)−Pr(A∩B). SiA∩B=∅, alors Pr(A∪B) = Pr(A) + Pr(B); (d) si A⊂B, alors Pr(A)≤Pr(B), etPr(B \A) = Pr(B)−Pr(A);

(e) Pr (S∞

i=1Ai)≤P∞

i=1Pr(Ai) (in´egalit´e de Boole) ; (f) si A₁⊂A₂⊂ · · ·, alorslim_n→∞Pr(A_n) = Pr (S∞

i=1A_i); (g) si A₁⊃A₂ ⊃ · · ·, alorslim_n→∞Pr(A_n) = Pr (T∞

i=1A_i).

Continuit´e de Pr

Rappel : Une fonctionf est continue en x si pour toute suite{x_n} telle que

n→∞lim x_n=x, on a lim

n→∞f(x_n) =f(x).

Les parties (f) et (g) du Théorème 37 peuvent être étendues pour montrer que pour toutes suites d’ensembles pour lesquelles

n→∞lim A_n=A, on a lim

n→∞Pr(A_n) = Pr(A).

C’est pourquoiPr est appel´eefonction d’ensembles continue.

Formules d’inclusion-exclusion

SiA₁, . . . , A_n sont des ´ev´enements de(Ω,F, P), alors

Pr(A₁∪A₂) = Pr(A₁) + Pr(A₂)−Pr(A₁∩A₂) Pr(A1∪A2∪A3) = Pr(A1) + Pr(A2) + Pr(A3)

−Pr(A₁∩A₂)−Pr(A₁∩A₃)−Pr(A₂∩A₃) +Pr(A₁∩A₂∩A₃)

... P

[n

i=1

A_i

!

= Xn

r=1

(−1)^r+1 X

1≤i1<···<ir≤n

Pr(A_i₁ ∩ · · · ∩A_i_r).

Le nombre de termes dans la formule g´en´erale est n

1

+ n

2

+ n

3

+· · ·+ n

n−1

+ n

n

= 2ⁿ−1.

(26)

Exemple 38. Quelle est la probabilité d’obtenir au moins un 6 quand je lance 3 dés équilibrés ? Exemple 39. Une urne contient 1000 tickets de loterie numérotés de 1 à 1000. On tire un ticket au hasard. Auparavant un artiste de foire a offert de payer $3 à quiconque qui lui donne $2, si le numéro du ticket est divisible par 2, 3, ou 5. Est ce que vous lui donneriez vos $2 avant le tirage ? (Vous perdez votre argent si le ticket n’est pas divisible par 2, 3, ou 5.)

2.2 Probabilit´ e Conditionnelle slide 64

Probabilit´e conditionnelle

Définition 40. SoientA, B des événements de l’espace de probabilité(Ω,F,Pr), tel quePr(B)>0.

Alors laprobabilit´e conditionnelle de A sachant B est Pr(A|B) = Pr(A∩B)

Pr(B) .

SiPr(B) = 0, on adopte la convention Pr(A∩B) = Pr(A|B)Pr(B), des deux côtés on a la valeur zéro. Ainsi

Pr(A) = Pr(A∩B) + Pr(A∩B^c) = Pr(A|B)Pr(B) + Pr(A|B^c)Pr(B^c) mˆeme si Pr(B) = 0 ouPr(B^c) = 0.

Exemple 41. On lance deux dés équilibrés, un rouge et un vert. Soient A et B les événements ‘le total excède 8’, et ‘on a6 sur le dé rouge’. Si on sait queB s’est produit, comment change Pr(A)?

Lois de probabilit´e conditionnelle

Théorème 42. Soit (Ω,F,Pr) un espace de probabilité, et soientB ∈ F tel que Pr(B)>0 et Q(A) = Pr(A|B). Alors (Ω,F, Q) est un espace de probabilité. En particulier,

1. si A∈ F, alors0≤Q(A)≤1; 2. Q(Ω) = 1;

3. si {A_i}^∞i=1 sont disjoints 2 `a 2, alors

Q [∞

i=1

A_i

!

= X∞

j=1

Q(A_i).

(27)

Thomas Bayes (1702–1761)

Essay towards solving a problem in the doctrine of chances. (1763/4) Philosophical Transactions of the Royal Society of London.

Th´eor`eme de Bayes

Théorème 43 (Loi des probabilités totales). Soient{B_i}^∞i=1 des événements disjoints 2 à 2 (i.e.

B_i∩B_j =∅,i6=j) de l’espace de probabilité(Ω,F,Pr), et soit Aun événement satisfaisant A⊂S∞

i=1Bi. Alors

Pr(A) = X∞

i=1

Pr(A∩B_i) = X∞

i=1

Pr(A|B_i)Pr(B_i).

Théorème 44 (Bayes). Supposons que les conditions ci-dessus soient vérifiées, et que Pr(A)>0.

Alors

Pr(B_j |A) = Pr(A|B_j)Pr(B_j) P∞

i=1Pr(A|B_i)Pr(B_i), j∈N.

Ces r´esultats sont aussi vrais si l’ensemble desB_i est finie, et si les B_i partitionent Ω.

Exemples

Exemple 45. Des voitures sont fabriquées dans les villes de Farad, Gilbert et Henry. Sur 1000 voitures produites à Farad, 20% sont défectueuses, sur 2000 produites à Gilbert, 10% sont défectueuses, et sur 3000 produites à Henry, 5% sont défectueuses. Vous achetez une voiture. Si Dest l’événement ‘la voiture est défectueuse’, calculer (a) Pr(F |H^c), (b)Pr(D|H^c), (c) Pr(D), etPr(F |D). Supposez que vous avez les mêmes chances d’acheter une des 6000 voitures produites.

(28)

Conditionnement multiple

Théorème 46 (‘Prediction decomposition’). SoientA1, . . . , An des événements d’un espace de probabilité. Alors

Pr(A1∩A2) = Pr(A2 |A1)Pr(A1)

Pr(A₁∩A₂∩A₃) = Pr(A₃ |A₁∩A₂)Pr(A₂ |A₁)Pr(A₁) ...

Pr(A₁∩ · · · ∩A_n) = Yn

i=2

Pr(A_i|A₁∩ · · · ∩A_i−1)×Pr(A₁)

Exemples

Exemple 47. On lance 2 dés équilibrés. Définir les événements A, B, C qui sont ‘le total est au plus 6’, ‘le total est impair’, et ‘on obtient 4 pour le premier dé ’. (a) Comment la connaissance queB ou C soit réalisé, affecte la probabilité de A? (b) CalculerPr(A∩B∩C).

Exemple 48. nhommes vont à un diner. Chacun laisse son chapeau au vestiaire. Lorsqu’ils repartent, ayant bien échantillioné du vin régional, ils choisissent leurs chapeaux de fa¸con aléatoire.

(a) Quelle est la probabilit´e que personne n’ait son chapeau ?

(b) Quelle est la probabilit´e qu’exactement r hommes choisissent leur propre chapeau ? (c) Que se passe-t-il lorsque nest tr`es grand ?

2.3 Ind´ ependance slide 72

Ev´enements ind´ependants

Intuitivement, dire que ‘A et B sont indépendants’ signifie que la réalisation d’un des deux n’affecte pas la réalisation de l’autre. C’est à dire que, Pr(A|B) = Pr(A), donc la connaissance de la réalisation de B laissePr(A)inchangée.

Exemple 49. Une famille a deux enfants.

(a) On sait que le premier est un gar¸con. Quelle est la probabilit´e que le second soit un gar¸con ? (b) On sait qu’un des deux est un gar¸con. Quelle est la probabilit´e que l’autre soit un gar¸con ?

(29)

Ind´ependance

Définition 50. Soit(Ω,F,Pr) un espace de probabilité. Deux événementsA, B ∈ F sont indépendants(que l’on note A⊥⊥B) ssi

Pr(A∩B) = Pr(A)Pr(B).

Conform´ement `a notre intuition, cela implique que Pr(A|B) = Pr(A∩B)

Pr(B) = Pr(A)Pr(B)

Pr(B) = Pr(A), et par sym´etrie Pr(B|A) = Pr(B).

Exemple 51. Un jeu de cartes est bien battu et une carte est tir´ee au hasard. Est ce que les

événements A ‘la carte est un as’, et C ‘la carte est un coeur’ sont indépendants ? Que peut on dire à propos des événements A et R ‘la carte est un roi’ ?

Types d’ind´ependances

Définition 52. (a) Les événements A₁, . . . , A_n sont(mutuellement) indépendants si pour tout ensemble d’indicesF ⊂ {1, . . . , n}, on a

Pr \

i∈F

A_i

!

=Y

i∈F

Pr(A_i).

(b) Les événements A₁, . . . , A_n sontindépendants 2 à 2 si

Pr(A_i∩A_j) = Pr(A_i) Pr(A_j), 1≤i < j ≤n.

(c) Les événements A₁, . . . , A_n sont conditionnellement indépendants sachant B si pour tout ensemble d’indicesF ⊂ {1, . . . , n} on a

Pr \

i∈F

A_i |B

!

=Y

i∈F

Pr(A_i|B).

(30)

Quelques remarques

– L’indépendance est un idée clé qui simplifie considérablement des calculs de probabilité. En pratique, il est essentiel de vérifier si les événements sont indépendants, étant donné qu’une dépendance non détectée peut modifier grandement le calcul des probabilités.

– L’indépendance mutuelle entraˆıne l’indépendance deux à deux, mais l’inverse est vrai seulement quandn= 2.

– L’ind´ependance mutuelle entraˆıne l’ind´ependance conditionnelle, mais l’inverse est vrai seulement si B = Ω.

Exemple 53. Une famille a deux enfants. Montrer que les événements ‘le premier enfant est un gar¸con’, ‘le second enfant est un gar¸con’, et ‘il y a exactement un gar¸con’ sont indépendants deux à deux mais pas mutuellement.

Exemple 54. Une année donnée, la probabilité qu’un conducteur fasse une déclaration de sinistre à son assurance estµ, indépendamment des autres années. La probabilité pour une conductrice est de λ < µ. Un assureur a le même nombre de conducteurs que de conductrices, et en sélectionne un(e) au hasard.

(a) Donner la probabilité qu’il (elle) déclare un sinistre cette année ?

(b) Donner la probabilité qu’il (elle) déclare des sinistres durant 2 années consécutives ? (c) Si la compagnie sélectionne une personne ayant fait une déclaration au hasard, donner la probabilité qu’elle fasse une déclaration l’année suivante ?

(d) Montrer que la connaissance qu’une déclaration de sinistre ait été faite une année augmente la probabilité d’une déclaration l’année suivante.

Systèmes en séries et parallèles

Un système électrique a des composants 1, . . . , n, qui tombent en panne indépendamment. SoientA_i l’événement ‘leième composant est défaillant’, avecPr(A_i) =p_i. L’événement B, ‘la défaillance du système’ se produit si le courant ne peut pas passer d’un bout du système à l’autre. Si les composants sont arrangés en parallèle, alors

PrP(B) = Pr(A1∩ · · · ∩An) = Yn

i=1

pi.

Si les composants sont arrang´es en s´erie, alors

PrS(B) = Pr(A1∪ · · · ∪An) = 1− Yn

i=1

(1−pi).

(31)

Fiabilit´e

Exemple 55 (Chernobyl). Une centrale nucléaire dépend d’un système de sécurité dont les composants sont arrangés suivant la figure (tableau noir). Les composants tombent en panne

indépendamment avec la probabilitép, et le système devient défaillant si le courant électrique ne peut pas passer de A à B.

(a) Quelle est la probabilité que le système devienne défaillant ?

(b) Les composants sont fabriqués par lots, qui peuvent être bons ou mauvais. Pour un bon lot, p= 10⁻⁶, tandis que pour un lot mauvais p= 10⁻². La probabilité qu’un lot soit bon est 0.99. Quelle est la probabilité que le système soit défaillant (i) si les composants proviennent de différents lots ? (ii) si tous les composants proviennent du même lot ?

2.4 Exemples Edifiants slide 80

Les dames et la mort

(32)

Les fumeuses et la mort

Survie après 20 ans pour 1314 femmes dans la ville de Whickham, Angleterre (Appleton et al., 1996, The American Statistician). Les colonnes contiennent : nombre de mortes après 20 ans/nombre de vivantes au debut de l’étude (%).

Age (ann´ees) Fumeuses Non-fumeuses Total 139/582 (24) 230/732 (31)

18–24 2/55 (4) 1/62 (2)

25–34 3/124 (2) 5/157 (3)

35–44 14/109 (13) 7/121 (6)

45–54 27/130 (21) 12/78 (15) 55–64 51/115 (44) 40/121 (33) 65–74 29/36 (81) 101/129 (78)

75+ 13/13 (100) 64/64 (100)

Selon les totaux, il y a un effet bénéfique d’avoir fumé : 24%<31%!

Paradoxe de Simpson

Definission les événements ‘morte après 20 ans’, M, ‘fumeuse’, F, et ‘dans la catégorie d’âge aau debut’,A=a. Alors pour (presque) chaqueaon a

Pr(M |F, A=a)>Pr(M |F^c, A=a), mais

Pr(M |F)<Pr(M |F^c).

Notons que

Pr(M |F) = X

a

Pr(M |F, A=a)Pr(A=a), Pr(M |F^c) = X

a

Pr(M |F^c, A=a)Pr(A=a),

donc si les probabilités Pr(M |F, A=a) etPr(M |F^c, A =a)varient beaucoup avec a, les pondérer par les Pr(A=a) peut renverser l’ordre des l’inégalités.

C’est un exemple du paradox de Simpson: ‘oublier’ un conditionnement peut changer la conclusion d’une ´etude.

(33)

La triste histoire de Sally Clark

Une avocate anglaise, dont le premier fils est décédé quelques semaines après sa naissance en 1996.

Suite à la mort de son deuxième fils de la même manière, elle fut arrêtée en 1998 et accusée pour un double meurtre. Son inculpation était controversée car un pédiatre très distingué, Professor Sir Roy Meadow, a temoigné que la probabilité que, dans une famille comme celle de Sally Clark, deux enfants meurent à cause du Sudden Infant Death Syndrome (SIDS)était 1 sur 73 million, chiffre qu’il a obtenu comme1/8500², où 1/8500 était la probabilité estimée d’une seule mort à cause du SIDS.

Elle fut condamnée en novembre 1999, puis libérée en janvier 2003, parce que certain preuves pathologiques tendant à la blanchir n’ont pas été divulguées à son avocat. Suite à son cas, le

Procureur-en-Chef a demand´e que des centaines d’autres cas soient revus, et encore deux femmes ont

été libérées de prison.

Elle est décédée d’alcoolisme en mars 2007.

Les taux de SIDS

Donn´ees sur les taux de mortalit´e enfantile, (rapport CESMA SUDI,

http://cemach.interface-test.com/Publications/CESDI-SUDI-Report-(1).aspx)

Sally Clark : Quatres erreurs tragiques – Probabilit´es estim´ees

– ‘Ecological fallacy’

– Ind´ependance ? Vraiment ? – ‘Prosecutors’ fallacy’

(34)

3 Variables Al´ eatoires slide 87

Petit Vocabulaire Probabiliste

one fair die (several fair dice) un dé juste/équilibré (plusieurs dés justes/équilibrés)

random experiment une exp´erience al´eatoire

Ω sample space l’ensemble fondamental

ω outcome, elementary event une épreuve, un événement élémentaire

A, B, . . . event un ´ev´enement

F event space l’espace des ´ev´enements

sigma-algebra une tribu

Pr probability distribution/probability function une loi de probabilit´e

(Ω,F,Pr) probability space un espace de probabilit´e

inclusion-exclusion formulae formule d’inclusion-exclusion Pr(A|B) probability ofA given B la probabilit´e de A sachantB

independence ind´ependance

(mutually) independent events les événements (mutuellement) indépendants pairwise independent events les événements indépendants deux à deux conditionally independent events les événements conditionellement indépendants X, Y, Z, W, . . . random variable/random variate une variable aléatoire

F_X(x) (cumulative) distribution function une fonction de r´epartition

f_X(x) (probability) density/mass function (PDF) une fonction de densit´e/masse (fm)

E(X) expectation/mean ofX l’esp´erance de X

var(X) variance ofX la variance de X

f_X(x|B) conditional density/mass function une fonction de densit´e/masse conditionnelle

(35)

3.1 Id´ ees de Base slide 89

Variables al´eatoires

Souvent on considère des quantités aléatoires numériques.

Exemple 56. Deux dés équilibrés sont lancés, un rouge et un vert. Soit X le total des faces supérieures. Trouver les valeurs possibles deX, et les probabilités correspondantes.

Définition 57. Soit(Ω,F,Pr) un espace de probabilité. Unevariable aléatoire (va)X: Ω7→Rest une application de l’ensemble fondamentalΩdans R.

D´efinition 58. L’ensemble des valeurs prises parX,

D_X ={x∈R:∃ω ∈Ωtel queX(ω) =x}

s’appele le supportdeX. Si DX est dénombrable, alorsX est une variable aléatoire discrète.

La vaX associe des probabilités à des sous-ensembles S inclus dans R, données par Pr(X∈S) = Pr({w∈Ω :X(w) ∈S}).

En particulier, on poseA_x={ω∈Ω :X(ω) =x}. Il est `a noter qu’il faut que A_x∈ F, pour pouvoir calculer Pr(X =x). Si ce n’est pas le cas, on dit queX n’est pasmesurablepar rapport `a(Ω,F,Pr).

Exemples

Exemple 59. On jette une pièce plusieurs fois et indépendamment. Soit X la variable aléatoire représentant le nombre de lancés nécessaires jusqu’à ce qu’on obtienne face. Calculer

Pr(X = 3), Pr(X = 15), Pr(X ≤3.5), Pr(X >1.7), Pr(1.7≤X≤3.5).

Exemple 60. Un ensemble Ωnaturel quand je joue aux fléchettes est le mur sur lequel la cible est fixée. La fléchette attérit à un point ω∈Ω⊂R². Mon score X(ω)∈DX ={0,1, . . . ,60}.

(36)

Jacob Bernoulli (1654–1705)

Ars Conjectandi, Basel (1713)

Variable al´eatoire de Bernoulli

Définition 61. Une variable aléatoire qui prend comme valeurs seulement 0 et 1 est appelée une variable indicatrice, ou unevariable aléatoire de Bernoulli, ou unessai de Bernoulli.

Exemple 62. Supposons que npièces identiques sont lancées indépendamment, soitFi l’événement

‘on obtient face pour la ième pièce’, et soit I_i=I(F_i) l’indicatrice de cet événement. Alors Pr(Ii = 1) = Pr(Fi) =p, Pr(Ii = 0) = Pr(F_i^c) = 1−p,

où p est la probabilité d’obtenir face. Sin= 3 et X=I₁+I₂+I₃, décrire Ω,D_X et les ensembles A_x. Que représentent

X=I₁+· · ·+I_n, Y =I₁(1−I₂)(1−I₃), Z = Xn

j=2

I_j−1(1−I_j)?

(37)

Fonction de masse

Une variable aléatoire X associe des probabilités à des sous-ensembles deR. En particulier lorsque X est discrète, nous avonsA_x={ω ∈Ω :X(ω) =x}, et nous pouvons définir :

D´efinition 63. Lafonction de masse (fm)deX est

f_X(x) = Pr(X =x) = Pr(A_x), x∈R.

Elle a deux propriétés clés :

(i) f_X(x)≥0, et est positif seulement pourx∈D_X, o`uD_X est l’ensemble image de X, c’est `a dire le support def_X;

(ii) la probabilit´e totaleP

{i:xi∈DX}f_X(x_i) = 1.

Quand il n’y a pas de risque de confusion, notonsf_X ≡f et D_X ≡D.

En anglais la fonction de masse est appel´eeprobability mass function (PMF)ouprobability density function (PDF).

Variable al´eatoire binomiale

Exemple 64. Donner les fm et supports de I_i, deY et de X.

D´efinition 65. Une variable al´eatoire binomialeX a une fm f(x) =

n x

p^x(1−p)^n−x, x= 0,1, . . . , n, n∈N,0≤p≤1.

On noteX ∼ B(n, p), et appelle nle dénominateuret pla probabilité de succès. Avecn= 1, c’est une variable de Bernoulli.

Remarque :on utilise ∼comme abr´eviation de ‘a pour distribution’.

Le modèle binomial est utilisé quand on considère le nombre de ‘succès’ d’une épreuve répétée de fa¸con indépendante un nombre fixé de fois, et que chaque essai a la même probabilité de succès.

Fonctions de masse binomiale

0 2 4 6 8 10

0.000.150.30

B(10,0.5)

x

f(x)

0 2 4 6 8 10

0.000.150.30

B(10,0.3)

x

f(x)

0 5 10 15 20

0.000.150.30

B(20,0.1)

x

f(x)

0 10 20 30 40

0.000.150.30

B(40,0.9)

x

f(x)

(38)

Exemples

Exemple 66. Un test contient 20 questions, pour chacune d’elles il faut choisir la bonne réponse parmi 5 réponses possibles. La moyenne est obtenue avec 10 réponses justes. Un étudiant choisit ses réponses au hasard. Donner la loi de son nombre de réponses justes. Quelle est la probabilité qu’il réussisse le test ?

Loi g´eom´etrique

Définition 67. Une variable aléatoire géométrique X a pour fm

f_X(x) =p(1−p)^x−1, x= 1,2, . . . , 0≤p≤1.

On noteX ∼ Geom(p), et on appellep laprobabilit´e de succ`es.

Elle modélise le temps d’attente jusqu’à un premier événement, dans une série d’essais indépendants ayant la même probabilité de succès.

Exemple 68. Pour commencer un jeu de société, des joueurs jettent un dé chacun à leur tour. Le premier qui obtient six commence. Donner les probabilités que le3ème joueur commence, et d’attendre au moins 6 lancés de dé avant le début du jeu.

Théorème 69 (Manque de mémoire). SiX ∼ Geom(p), alors Pr(X > n+m|X > m) = Pr(X > n).

FMs géométrique et binomiale négative

0 10 20 30 40

0.00.20.4

Geom(0.5)

x + 1

f(x)

0 10 20 30 40

0.00.20.4

Geom(0.1)

x + 1

f(x)

0 10 20 30 40

0.000.100.20

NegBin(4,0.5)

x + 4

f(x)

0 10 20 30 40

0.000.100.20

NegBin(6,0.3)

x + 6

f(x)

(39)

Loi binomiale n´egative

Définition 70. Une variable aléatoirebinomiale negative X de paramètres net pa pour fonction de masse

f_X(x) =

x−1 n−1

pⁿ(1−p)^x−n, x=n, n+ 1, n+ 2, . . . , 0≤p≤1.

On noteX ∼ NegBin(n, p). Lorsquen= 1,X ∼ Geom(p).

Elle modélise le temps d’attente jusqu’au nème succès dans une série d’essais indépendants ayant la même probabilité de succès.

Exemple 71. Deux joueurs lancent successivement une pi`ece. Quelle est la probabilit´e que 2 faces apparaissent avant 5 piles ?

Loi binomiale n´egative : version alternative

Parfois on écrit les variables géométriques et binomiale negatives sous une forme plus générale, prenant Y =X−n, et alors la fonction de masse est

fY(y) = Γ(n+α)

Γ(α)y! p^α(1−p)^y, y= 0,1,2, . . . , 0≤p≤1, α >0, o`u

Γ(α) = Z ∞

0

u^α−1e^−udu, α >0 est lafonction Gamma. Ses propri´et´es principales sont :

Γ(1) = 1;

Γ(α+ 1) = αΓ(α), α >0;

Γ(n) = (n−1)!, n= 1,2,3, . . .; Γ(¹₂) = √

π.

Distribution hyperg´eom´etrique

Définition 72. On tire sans remise un échantillon de mboules d’une urne contenant bblanches et n noires. SoitX le nombre de boules blanches tirées. Alors

Pr(X =x) =

b x

_n

m−x

b+n m

, x= max(0, m−n), . . . ,min(b, m), et la loi de X est hyperg´eom´etrique.

Exemple 73. J’ai six boˆıtes, dont 2 contiennent du fruit. Si je choisis 3 des 6 au hasard, trouver la loi du nombre de boˆıtes de fruit parmi les 3.

(40)

Exemples

Exemple 74. Dans le but d’estimer le nombre de poissons N dans un lac, nous attrapons tout d’abord r poissons, les marquons, et les relâchons. Après avoir attendu assez longtemps pour que la population de poissons soit bien mélangée, nous prélevons un autre échantillon de tailles, composé de 0≤m≤spoissons marqués. Trouver la loi du nombre de poissons marqués, M, dans cet échantillon.

Montrer que la valeur de N qui maximise Pr(M =m)est ⌊rs/m⌋, et calculer la meilleure estimation deN lorsques= 50, r= 40, et m= 4.

L’idee à la base de cet exemple est utilisée pour estimer les tailles des populations des espèces en danger, le nombre de toxicomanes, de sans-papiers, etc., dans les populations humaines, etc. Un problème pratique souvent rencontré est que certains individus deviennent plus difficile à recapturer, alors que d’autres l’aiment ; ainsi les probabilités de reprise sont hétérogènes.

Fonction de r´epartition

Définition 75. Lafonction de répartition (fr) d’une variable aléatoireX est F_X(x) = Pr(X≤x), x∈R.

SiX est discr`ete, on peut ´ecrire

F_X(x) = X

{xi∈DX:xi≤x}

Pr(X =x_i),

c’est une fonction en escalier avec des sauts aux points du support D_X def_X(x).

Quand il n’y a pas de risque de confusion, on note F ≡F_X.

Exemple 76. Donner le support et les fonctions de masse et de r´epartition d’une variable al´eatoire de Bernoulli.

Exemple 77. Donner la fonction de répartition d’une variable aléatoire géométrique.

(41)

Exemples

La définition suivante généralise le résultat d’un jet de dé.

Définition 78. Une variable aléatoire discrète uniformeX a pour fm f_X(x) = 1

b−a+ 1, x=a, a+ 1, . . . , b, a < b, a, b∈Z.

La loi de Poisson apparaˆıt partout dans la probabilit´e et les statistiques.

D´efinition 79. Une variable al´eatoire dePoisson X a pour fm f_X(x) = λ^x

x!e^−λ, x= 0,1, . . . , λ >0.

On noteX ∼ Pois(λ).

Sim´eon-Denis Poisson (1781–1840)

‘La vie n’est bonne qu’à deux choses : à faire des mathématiques et à les professer.’