Réseaux bayésiens Réseaux bayésiens

(1)

1

Réseaux bayésiens Réseaux bayésiens

 Damien CRAM

damien.cram@ecl2006.ec-lyon.fr

 Madeth MAY

may.madeth@itc.edu.kh

 Rémi GUELTON

remi.guelton@ecl2006.ec-lyon.fr

 Sereysethy TOUCH

touch.sereysethy@itc.edu.kh

14 novembre 2005

(2)

2

PLAN DE LA PRESENTATION

1. Introduction aux Réseaux bayésiens 2. Théorème de Bayes

3. Notion de causalité 4. Inférences

5. Apprentissage

6. Des applications des Réseaux bayésiens 7. Conclusion

8. Bibliographies

>> Plan de la présentation

(3)

3

1. Introduction aux Réseaux bayésiens

>> Introduction aux Réseaux bayésiens\Généralité

Généralité

Un des enjeux principaux dans le domaine de la recherche IA est d'être capable de concevoir et développer des systèmes dynamiques et évolutifs.

➙

Comportements intelligents qui peuvent apprendre et raisonner.

Problèmes? Les connaissances acquises ne sont pas toujours adéquates afin de permettre au système de faire une décision la plus appropriée possible.

Solutions? Plusieurs méthodologies ont été proposées.

➙

Choix : les approches probabilistes Mieux adaptées

- au raisonnement avec la connaissance et la croyance incertaine - à la structure de la représentation de la connaissance

(4)

4

>> Introduction aux Réseaux bayésiens\Approches probabilistes

Approches probabilistes

Chaque état de changement (événement) dans le monde réel peut être modélisé sous forme de probabilité.

Par exemple, modéliser certains états de changement d’une voiture, d’un corps humain, d’un marché financier, etc.

 La probabilité d'un événement

A

est un nombre compris entre

0

et

1

 Si

P(A) = 1

alors la chance pour laquelle l'événement

A

aura lieu est certaine

 Deux événements

A

et

B

sont dits indépendants si

P(A,B) = P(A) . P(B)

 Etant donné que l'événement

B

s’est produit, la probabilité de l’événement

A

se produira est

x

, et s’écrit

P(A|B) = x

(5)

5

>> Introduction aux Réseaux bayésiens\Réseaux bayésiens\Définition

Réseaux bayésiens (1/2) Définition

Les réseaux bayésiens sont la combinaison des approches probabilistes et la théorie de graphes. Autrement dit, ce sont des modèles qui permettent de représenter des situations de raisonnement probabiliste à partir de connaissances incertaines.

Ils sont aussi connus sous le nom de "belief networks", "causal networks".

 Un réseau bayésien est un graphe acyclique orienté⁽¹⁾ i.e. c'est un graphe orienté sans circuit.

 Chaque nœud d’un réseau bayésien porte une étiquette qui est un des attributs de problème.

(1) On dit souvent: un DAG. De l’anglais directed acyclic graph.

(6)

6

>> Introduction aux Réseaux bayésiens\Réseaux bayésiens\Exemple

Réseaux bayésiens (2/2) Exemple

B

A C

A

et

C

sont conditionnellement indépendants alors on peut dire la probabilité

P(A|B,C) = P(A|B)

C’est-à-dire que la probabilité de A ne dépend que celle de B

La probabilité jointe de toutes les variables est

P(A,B,C) = P(A|B) . P(B) . P(C|B)

(7)

7

2. Théorème de Bayes

>> Théorème de Bayes

Révérend Thomas Bayes, 1702-1761, un théologien et mathématicien britannique qui a écrit une loi de base de probabilité qui est maintenant appelée le théorème de Bayes.

Deux événement

A

et

B

qui sont conditionnellement dépendants et un contexte

c

, le théorème de Bayes peut être représenté comme ci-dessous :

P(B|A,c)

est la probabilité

a posteriori

ou la probabilité de

B

après avoir pris en compte l'effet de

A

dans un contexte

c

,

P(B|c)

est la probabilité

a priori

de l'événement

B

,

P(A|B,c)

est la probabilité de

A

si l'on suppose que

B

est vrai dans un contexte

c

. Elle est appelée aussi la "vraisemblance",

P(A|c)

est la normalisation.

Où

(8)

8

2. Théorème de Bayes

>> Théorème de Bayes\Exemple

Exemple

Supposez que vous habitez à Londres, Angleterre, et d'après votre connaissance, pendant l'hiver, il pleut 50% du temps et que c'est nuageux 80% du temps (quelquefois c'est nuageux sans pluie). Vous savez, bien sûr, que 100% du temps, s'il pleut, alors c'est aussi nuageux.

Quelle est la chance que vous pensez qu'il va pleuvoir sachant qu'il soit simplement nuageux?

En appliquant la règle de Bayes, on peut calculer ceci

Pl

: il pleut à Londres

N

: Il est nuageux

Donc,

5/8

du temps, à Londres pendant hiver, si c'est nuageux, alors c'est pluvieux.

Où

(9)

9

3. Notion de causalité

>> Notion de causalité

 Il s’agit de la notion de « causes » et « effets »

 Si

A

et

B

sont en relation causale, on les relie par une flèche orientée.

A

B

(10)

10

>> Notion de causalité\Exemple

Exemple (1/2)

Ce matin-là, alors que le temps est clair et sec, M. Homles sort de sa maison. Il s’aperçoit que la pelouse de son jardin est humide. Il se demande alors s’il a plu pendant la nuit, où s’il a

simplement oublié de débrancher son arroseur automatique. Il jette alors un coup d’œil à la pelouse de son voisin, M. Watson, et s’aperçoit qu’elle est également humide. Il en déduit alors qu’il a probablement plu, et il décide de partir au travail sans vérification son arroseur automatique.

(11)

11

>> Notion de causalité\Exemple

Exemple (2/2)

Prenons

• A : J’ai oublié de débrancher mon arroseur automatique.

• P : Il a plu pendant la nuit.

• J : L’herbe de mon jardin est humide.

• W : L’herbe du jardin de M. Watson est humide.

A

J

P

W

(12)

12

4. Inférences (1/4)

>> Inférences

 Propager une ou plusieurs informations certaines au sein de réseaux bayésiens

 Déduire comment sont modifiées les croyances concernant les autres nœuds

 Inconvénient: le temps de calcul est exponentiel

(13)

13

>> Inférences\Probabilité a priori et Probabilités conditionnelles

Événement Probabilité Commentaire

A=V 0.4 M. Holmes oublie assez souvent de débrancher son arroseur automatique.

A=F 0.6

P=V 0.4 La région est relativement pluvieuse

P=F 0.6

A=V A=F

P=V P=F P=V P=F

J=V 1 1 1 0

J=F 0 0 0 1

P=V P=F

W=V 1 0

W=F 0 1

Probabilité a priori

Probabilités conditionnelles

(14)

14

>> Inférences\Un peu de calcul…

 Un peu de calcul…

• P(A=V|J=V) = 0.625

• P(P=V|J=V) = 0.625

• P(A=V|J=V,W=V) = 0.4

• P(P=V|J=V,W=V) = 1

(15)

15

>> Inférences\Méthodes

Plusieurs méthodes sont proposés:

Conditionnement Arbre de jonction

Méthodes approchées

…

(16)

16

5. Apprentissage

>> Apprentissage

 Permettre de trouver des paramètres nécessaires pour faire des inférences.

 Deux méthodes sont utilisés:

- Apprentissage de paramètres, - Apprentissage de structure.

(17)

17

6. Des applications des réseaux bayésiens (1/2)

>> Des applications des réseaux bayésiens

 Marketing/Finance :

• ATT : détection de fraudes pour les factures de téléphone

• Altaprofit : optimisation de portefeuilles

 Informatique :

• Microsoft : différents assistants de résolution de problèmes, l’assistant Office.

• MODIST : évaluation de la qualité pour des développements logiciels

• Reconnaissance de la parole, d’objets 3D…

• Diagnostic

(18)

18

6. Des applications des réseaux bayésiens (2/2)

>> Des applications des réseaux bayésiens

 Médecine :

• Aide au diagnostic de problèmes cardio-vasculaires

• Surveillance transfusionnelle, ...

 Industrie :

• NASA : (Vista) aide au diagnostic de pannes en temps réel pour les systèmes de propulsion de la navette

• Lockheed Martin : système de contrôle d’un véhicule sous-marin autonome

• Ricoh : aide au télédiagnostic

• EDF : modélisation de groupes électrogènes

 Environnement :

• Prédiction des pics d’ozone

• Prévisions météo

(19)

19

6. Des applications des réseaux bayésiens

>> Des applications des réseaux bayésiens\Exemples\AutoClass(NASA)

Exemples

AutoClass (NASA)

• Création de classes « naturelles » à partir de données numériques

• Appartenance probabiliste

• Gestion de données manquantes

(20)

20

>> Des applications des réseaux bayésiens\Exemples\Nombreuses utilisations …

Exemples

De nombreuses utilisations pour la NASA et pour d’autres

(21)

21

>> Des applications des réseaux bayésiens\Exemples\Aide au diagnostic médical

Exemples

Aide au diagnostic médical

Diagnostique d’une maladie pulmonaire à partir de:

• les symptômes du patient

• ses activités

• les résultats de la radiographie

(22)

22

>> Des applications des réseaux bayésiens\Construction d’un réseau bayésien

Construction d’un réseaux bayésien

La construction d’un réseau bayésien se fait en 4 étapes:

1 - création des variables représentant l’univers

2 - définition de l’ensemble des valeurs possibles pour chaque variable 3 - définition des relations de dépendances entre les variables

4 - attribution des probabilités conditionnelles

(23)

23

>> Des applications des réseaux bayésiens\Démonstration avec BayesiaLAB

Revenons à l’exemple

Aide au diagnostic

démonstration avec BayesiaLab

(24)

24

7. Conclusion

>> Conclusion\Les réseaux bayésiens

Les réseaux bayésiens

 Formalisme mathématique rigoureux basé sur des règles.

 Outil puissant pour l’aide à la décision et au diagnostic.

 Intelligence artificielle: exploitation des connaissances incertaines.

 Limites: causalité, complexité.

(25)

25

7. Conclusion

>> Conclusion\Etat de la recherche

Etat de la recherche

Projet SIGMA2 de l’INRIA:

 Automobile: identification du comportement dynamique d'un véhicule routier

 Télécommunications: diagnostic de pannes dans les réseaux de télécommunications

 Aéronautique: diagnostic de pannes dans les réseaux de télécommunications

 Chaînes de Markov: systèmes dynamiques stochastiques, optimisation d’un portefeuille

 Optimisation d’algorithmes

(26)

26

?

Questions

(27)

27

8. Bibliographies

[1] : Pearl, J. (1988). Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference. Morgan Kaufmann, San Mateo, CA.

[2] : Howard, R. A., & Matheson, J. E. (1981). Influence diagrams. In Howard, R. A., &

Matheson,

J. (Eds.), The Principles and Applications of Decision Analysis, page 720–762. Strategic Decisions Group, CA.

[3] : Antoine Cornuéjols, Laurent Miclet, Apprentissage artificiel: Concepts et algorithmes, édition Eyrolles, page 364-365.

[4] : Stutz, J. & P. Cheeseman, "A Short Exposition on Bayesian Inference and Probability."

June 1994. National Aeronautic and Space Administration Ames Research Centre:

Computational Sciences Division, Data Learning Group,

[5] : Thomas Richardson. Bayes Net course, Helsinki, April 1997. Lecture 4 part 2, page 5.

http://www.cs.helsinki.fi/research/cosco/Calendar/BNCourse/Notes.html

[6] : Todd A. Stephenson. An introduction to Bayesian network theory and usage. IDIAP-RR 00- 03, febuary 2003