Théorie des probabilités

Considérons une expérience dont le résultat n’est pas connu mais bien l’ensemble des résultats possibles. Un tel type d’expérience est appelé expérience aléatoire. Par exemple, l’expérience peut être l’observation du résultat du lancé d’une pièce de monnaie. Dans cette expérience, les deux seuls résultats possibles sont pile ou face.

Supposons que l’événement A représente un des résultats possible d’une expérience aléa- toire. Par exemple, dans l’expérience de la pièce de monnaie, A peut représenter pile. Appelons Nn(A) le nombre de fois que l’événement A se produit lorsque l’expérience est

réalisée n fois (dans les mêmes conditions). Nn(A) peut donc prendre n’importe quelle

valeur entière comprise entre 0 et n. Nous pouvons donc écrire 0 ≤ Nn(A)

Le rapport Nn(A)_n est appelé fréquence relative de l’événement A. Nous dirons que l’expé- rience présente une régularité statistique si, pour n’importe quelle séquence de n réalisations de l’expérience, la fréquence relative Nn(A)_n converge vers la même limite lorsque n devient très grand. Il semble alors naturel de définir la probabilité de l’événement A comme

p(A) = lim n→∞ Nn(A) n ! (4.2)

Il est important de remarquer que la limite dans l’équation 4.2 ne doit pas être vue d’un aspect mathématique mais qu’il s’agit plutôt d’une définition empirique.

Par exemple, dans l’expérience du lancé de la pièce, nous pouvons supposer que sur un million de lancés, il y ait autant de pile que de face, à condition bien sûr que la pièce ne soit pas truquée ! Nous dirons que la probabilité de l’événement pile est égale à 1/2,

p(pile) = p(f ace) = 1

2

4.2.1. Axiomatique des probabilités

On considère lors d’une expérience aléatoire, l’ensemble Ω de toutes les descriptions pos- sibles du résultat de cette expérience. Un élément de Ω, noté ω dans la suite, décrit une réalisation particulière de l’expérience en cours et sera appelé épreuve. Un événement A est décrit par une propriété caractéristique susceptible d’être vérifiée lors de différentes épreuves. Par conséquent, un événement est un sous-ensemble de Ω, A ⊆ Ω. Il faut bien noter que la description des résultats d’une expérience aléatoire est totalement subjective et laissée à l’appréciation de l’observateur.

Historiquement, la définition de la probabilité d’un événement a été basée sur la fréquence d’apparition de cet événement : à savoir le nombre de cas favorables sur le nombre de cas possibles. On sait que cette approche bien que très parlante à l’intuition, reste floue et conduit à des ambiguïtés. Il faut prendre conscience que les traitements de plus en plus raffinés que l’on fait subir aujourd’hui aux signaux, ne peuvent se contenter d’un point de vue probabiliste aussi élémentaire.

Il est intéressant d’associer à une expérience aléatoire et ses résultats possibles, un es-

pace et ses points. Nous notons alors ωk le point associé au k-ième résultat possible de

l’expérience. L’ensemble de tous les points résultant de l’association de tous les résultats possibles de l’expérience est appelé espace témoin, que nous noterons Ω. Un événement peut correspondre à un point ou à un ensemble de points de Ω. En particulier, l’ensemble de tous les points de Ω est appelé événement certain et l’ensemble vide est appelé événement

impossible. Un point seul est finalement appelé événement élémentaire.

Considérons, à titre d’exemple, l’expérience du lancer de dé. Dans cette expérience, 6 résultats sont possibles : 1, 2, 3, 4, 5 ou 6 sur la face supérieure du dé. En assignant un

point à chacun de ces résultats, on obtient un espace témoin à une dimension contenant 6 points, comme le montre la figure 4.1. L’événement élémentaire tirer un 5 correspond au point {5} de l’espace tandis que l’événement tirer un chiffre pair correspond au sous- ensemble {2, 4, 6}. 6 5 4 3 2 1 événement élémentaire

Espace témoin à une dimension

Figure 4.1. – Espace témoin de l’expérience du lancer de dé.

En théorie des probabilités, on introduit un ensemble noté Ω dont les éléments ω symbo- lisent les différentes épreuves d’une expérience aléatoire. Par épreuve il faut entendre une réalisation possible de l’expérience.

La théorie des probabilités ne s’intéresse qu’aux ensembles d’événements qui possèdent une structure particulière appelée tribu. Une tribu ou σ-algèbre F sur Ω est une famille d’événements (sous-ensembles) de Ω telle que :

— Ω et ∅ sont dans F ,

— si A ∈ F alors le complémentaire de A, noté ¯A, appartient à F ,

— si la suite An∈N ∈ F alorsSn∈NAn ∈ F (union dénombrable permise).

Le couple (Ω, F ) est dit espace mesurable.

En pratique, on est intéressé par la probabilité d’un événement. Par définition, une mesure

de probabilité est une application P de la tribu des événements F vers R composée comme

suit :

1. Un espace témoin Ω d’événements élémentaires.

2. Une classe L d’événements qui sont des sous-ensembles de Ω.

3. Une mesure de la probabilité p(.) associée à chaque événement A de la classe L et qui a les propriétés suivantes :

a) p(Ω) = 1 b) 0 ≤ p(A) ≤ 1

c) Si la suite A_n∈N ∈ F avec Ai∩Aj = ∅ pour i 6= j alors p(Sn∈NAn) =Pn∈Np(An).

Un espace probabilisé est un triplet (Ω, F , P) où Ω est un ensemble quelconque, F est une tribu de Ω, F étant un sous-ensemble de Ω, et P est une mesure positive définie sur F , appelée probabilité, telle que P (Ω) = 1.

Les propriétés (a), (b) et (c) sont connues comme axiomes des probabilités. L’axiome (a) indique que la probabilité de l’événement certain vaut 1. L’axiome (b) indique que la pro- babilité d’un événement est un nombre réel non négatif, inférieur ou égal à 1. Finalement,

étant donné que A et B sont deux événements mutuellement exclusifs, l’axiome (c) indique que la probabilité que l’événement A se produise ou que l’événement B se produise est égale à la somme des probabilités respectives de ces deux événements.

Propriétés.

1. p(Ac_{) = 1 − p(A) où A}c _{(appelé “non A”) est le complément de A.}

2. Si M événements mutuellement exclusifs A1, A2, ..., AM ont la propriété suivante :

A1+ A2+ ... + AM = Ω (4.3)

alors

p(A1) + p(A2) + . . . + p(AM) = 1 (4.4)

3. Si les événements A et B ne sont pas mutuellement exclusifs, la probabilité de l’événement union “A ou B” égale

p(A ∪ B) = p(A) + p(B) − p(A ∩ B) (4.5) où p(A ∪ B) est la probabilité de l’événement joint “A et B”.

Définition 23. p(A ∩ B) est appelée probabilité conjointe. Nous avons l’interprétation

suivante : p(A ∩ B) = lim n→∞ Nn(A ∩ B) n ! (4.6) où Nn(A ∩ B) est le nombre de fois que les événements A et B se réalisent simultanément, n étant le nombre de fois que l’expérience a été répétée.

L’axiome (c) est un cas particulier de la relation 4.5. Quand A et B sont mutuellement exclusifs, p(A ∩ B) = 0.

Probabilité conditionnelle

Définition 24. p(B|A) est appelée probabilité conditionnelle. Elle représente la probabilité

de l’événement B, étant donné que l’événement A s’est réalisé. En supposant que p(A) 6= 0, la probabilité conditionnelle p(B|A) est définie par

p(B|A) = p(A ∩ B)

p(A) (4.7)

Nous pouvons réécrire l’équation 4.7 comme

p(A ∩ B) = p(B|A)p(A) (4.8)

Il est évident que nous pouvons écrire également

p(A ∩ B) = p(A|B)p(B) (4.9)

Il existe des situations pour lesquelles la probabilité conditionnelle p(B|A) et les probabili- tés p(A) et p(B) peuvent être déterminées aisément alors que la probabilité conditionnelle

p(A|B) est inconnue. À partir de 4.8 et 4.9, il est possible de déterminer p(A|B) en utilisant

la relation

p(A|B) = p(B|A)p(A)

p(B) (4.10)

qui constitue une forme spéciale de la formule de Bayes.

Proposition 25. Formule de Bayes p(Ai|B) =

p(B|Ai)p(Ai)

PN

j=1p(B|Aj)p(Aj)

(4.11)

Elle permet le calcul des probabilités a posteriori p(Ai|B) en terme de probabilités a priori p(B|Ai).

Supposons maintenant que la probabilité conditionnelle p(B|A) soit simplement égale à la probabilité d’occurrence de l’événement B, c’est-à-dire

p(B|A) = p(B) (4.12)

Sous cette condition, la probabilité de l’événement joint A ∩ B est égale à

p(A ∩ B) = p(A)p(B) (4.13)

Dès lors,

p(A|B) = p(A) (4.14)

Nous voyons que dans ce cas, la connaissance de l’occurrence d’un des deux événements ne nous renseigne pas plus sur la probabilité d’occurrence de l’autre événement. Des évé- nements A et B qui satisfont cette condition sont dits statistiquement indépendants.