Informatique des Données

(1)

Université Paris 13/Younès Bennani Traitement Informatique des Données 1

6

Younès BENNANI

ILOG 3

Traitement

Informatique des Données

(2)

Méthodes Structurelles

L. Miclet

« Méthodes structurelles pour la reconnaissance des formes » Ed. Eyrolles, 1984.

A. & Y. Belaïd

« Reconnaissance des formes : méthodes et applications » Ed. InterEditions, 1992.

A. Cornuéjols & L. Miclet

« Apprentissage artificiel : concepts et algorithmes » Chapitre 7.

Ed. Eyrolles, 2003.

Méthodes Structurelles

Codage de Freeman :

Méthode d’approximation angulaire. Il peut etre fait suivant la 4-topologie ou la 8-topologie

a b c

d

e

f

g

h

a b a c b a a g a f f h a g e e d e e e d

(3)

Méthodes Structurelles

Les 2 structures les plus courantes : - Les structures de graphes :

- Modèle descriptif

- Outil de mise en correspondance entre un modèle et une forme

- Les structures syntaxiques (théorie des langages formels) : - Forme = mot/phrase

- Grammaire - Analyse

(4)

Structures de graphes

Graphe = outil mathématique permettant de décrire des relations dans un ensemble d’objets.

Modéliser une forme

Problème de décision = algorithmes de comparaisons de graphes

2

3 1

4

b

d a

c

Structures de graphes

Définition :

On appelle graphe, un couple G=(V, E), où V est un ensemble fini de nœuds ou de sommets, et E un ensemble de couples ordonnés de sommets appelés arcs dont les éléments sont nommés origine et extrémité.

Le graphe est dit valué si à chacun de ses arcs est associée une valeur, un poids ou une étiquette.

1 2 3

4

V={1, 2, 3, 4},

E={(1,2), (1,3), (2,1), (2,4), (3,2), (4,2), (4,3)}

(5)

Structures de graphes

Appariement de graphes

Appariement ou isomorphisme de graphes = mettre en correspondance des graphes ou sous graphes.

But : reconnaître si 2 formes ont été représentées de la même façon

Isomorphisme entre graphes : G₁=(V₁, E₁) et G₂=(V₂, E₂)

Il y a appariement entre G₁ et G₂ par l’application ƒ de V₁ ! V₂ " - ƒ est bijective

- (x,y) # E₁" (ƒ(x),ƒ(y)) # E₂ 2

3 1

4

b

d a

c

ƒ : 1 ! d 2 ! c 3 ! a 4 ! b

Structures de graphes

Recherche d’isomorphisme

Combinatoire : étudier, pour chaque couple de nœuds, la validité de la correspondance.

Une correspondance est valide ou licite par l’isomorphisme ƒ si les nœuds associés ont le même nombre d’arcs entrants et sortants.

L’algorithme vérifie d’abord l’égalité des nombres de nœuds : |V₁|= |V₂|=n

V₁ : graphe de référence, nœuds 1 …n

L’algorithme construit progressivement les sous-graphes G₁(k), ^{nœuds 1…k}

Si G₁(k) est isomorphe à un sous-graphe de V₂ayant W comme ensemble de nœuds alors étendre cet isomorphisme à G₁(k+1) En cherchant un nœud dans V₂-W

Sinon, on revient sur G1(k-1) pour tenter un autre isomorphisme

(6)

Structures de graphes

Recherche d’isomorphisme

Fonction Isomorphe (W,k) début

si W=V₂ alors trouvé ' vrai sinon

pour chaque v # V₂-W jusqu’à trouvé faire

si Licite(v,k+1) alors Isomorphe(W${v}, k+1) fsi

fpour fsi

Isomorphe ' trouvé fin

Structures syntaxiques

Grammaires formelles

Définition :

Une grammaire à structure de phrase (ou grammaire de chaînes) est un quadruplet

G=(V_n, V_t, P, S), où :

V_n est un ensemble fini de symboles non-terminaux ; V_t est un ensemble fini de symboles terminaux (alphabet) ; V=V_n$V_t est le vocabulaire total de G ;

P est un ensemble des règles de production : % ! &

où % et & sont des chaînes des symboles de V_t ou V_n et «!» signifie « produit » ou « est remplacé par »

S # V_n est l’axiome : le symbole initial à partir duquel toute génération commence

(7)

Structures syntaxiques

Grammaires formelles

Exemple :

grammaire de chromosomes : 2 classes (symétrique et centré)

Les chromosomes sont représentés par leur contour

Le contour est segmenté en une suite de primitives

a b c d e

abcbabdbabcbabdb Symétrique

ebacab Centré

a a

c b b b b

d d

b

b c

b b

a a

b a

a c e

b

Structures syntaxiques

Grammaires formelles

V_t={a,b,c,d,e}

V_n={S,C,Fond, Flanc, Paire, Droite, Gauche, Bras}

S ! <Paire><Paire>

C ! <Fond><Paire>

<Paire> ! <Flanc><Paire> / <Paire><Flanc> / <Bras><Droite> / <Gauche><Bras>

<Gauche> ! <Bras> c

<Droite> ! c <Bras>

<Fond> ! b <Fond> / <Fond> b / e

<Flanc> ! <Flanc> b / b / d / b <Flanc>

<Bras> ! b <Bras> / <Bras> b / a

(8)

Structures syntaxiques

Apprentissage syntaxique

Inférence grammaticales : Consiste à construire une

grammaire à partir de phrases de référence convenablement choisies.

Induction Données

aaabbb ab

Grammaire S ! aSb

S ! (

Principe :

Découvrir la structure d’un ensemble fini de formes,

décomposées en primitives et de déduire la grammaire qui les décrit au mieux.

Structures syntaxiques

Algorithme de Feldman

Il commence par construire une grammaire non récursive qui génère exactement les phrases données ; ensuite, il fusionne les non-terminaux pour obtenir une grammaire récursive plus simple qui génère un

nombre infini de phrases.

D={caaab, bbaab, caab, bbab, cab, bbb, cb}

caaab S ! cA₁ A₁! aA₂ A₂ ! aA₃ A₃ ! ab bbaab S ! bA₄ A₄! bA₅ A₅ ! aA₆ A₆ ! ab

caab A₃ ! b

S ! cA₁/ bA₄ A₁ ! b / aA₂ A₂! b / aA₃ A₃! b / ab A₄! bA₅ A₅ ! b / aA₆ A₆ ! ab

S ! cA₁/ bA₄ A₁ ! b / aA₂ A₂ ! b / aA₂ / b A₄! bA₅ A₅ ! b / aA₅ / b

S ! cA₁/ bA₄ A₁ ! b / aA₁ A₄ ! bA₅ A₅! b / aA₅ Grammaire

récursive

Simplification fusion

S ! cA₁/ bA₄ A₁! b / aA₁ A₄! bA₁ G=(V_n,V_t,P,S) S ! cA/ bB

V_n={S,A,B} A ! b / aA

Vt={a,b,c} B ! bA

(9)

Structures syntaxiques

Algorithme uv

^k

w

Il s’agit de rechercher des sous-chaines caractéristiques dans les phrases longues de l’échantillon.

Théorème de l’étoile, les phrases assez longues d’un langage régulier doivent avoir une structure de la forme uv^kw.

D={x₁, x₂, x₃}

x₁=aabaaababcabc x₂=abcabaabcbc x₃=aaaaabc

Recherche de répétitions et écriture sous forme uv^kw x₁=(a)²baaababcabc

x₁=aab(a)³babcabc x₁=aabaa(ab)²cabc x₁=aabaaab(abc)²

x₂=abcab(a)²bcbc x₂=abcabaa(bc)² x₃=(a)⁵bc

Hypothèses de récursion : v={a,ab,abc,bc}

Meilleure hypothèse : a Réécriture de D pour z=(a)⁺

x₁=zbzbzbczbc x₂=zbczbzbcbc x₃=zbc

x₁=(zb)³czbc x₁=zbzb(czbc)²

x₂=zbc(zb)²cbc x₂=zbczbz(bc)²

Hypothèses de récursion : v={zb, bc, zbc}

Meilleure hypothèse : zb Réécriture de D pour y=(zb)⁺

x₁=ycyc x₂=ycycbc x₃=yc

Structures syntaxiques

Algorithme uv

^k

w

D={x₁, x₂, x₃}

x₁=aabaaababcabc x₂=abcabaabcbc x₃=aaaaabc

x₁=(zb)³czbc x₁=zbzb(czbc)²

x₂=zbc(zb)²cbc x₂=zbczbz(bc)²

Hypothèses de récursion : v={zb, bc, zbc}

Meilleure hypothèse : zb Réécriture de D pour y=(zb)⁺

x₁=ycyc x₂=ycycbc x₃=yc

Hypothèses de récursion : v={yc}

Réécriture de D pour x=(yc)⁺ x₁=x

x₂=xbc x₃=x

L’expression régulière inférée est : x+xbc = ((a⁺b)⁺c)⁺ + ((a⁺b)⁺c)⁺bc

La grammaire correspondante est : G=(V_n, V_t, P, S)

V_n={S,x, y, z}

V_t={a, b, c}

S !x / xbc x ! yc / ycx y ! zb / zby z ! az / a

(10)

Structures syntaxiques

Grammaire stochastique

Une grammaire stochastique est constituée comme une grammaire ordinaire, mais à chaque règle est associée une probabilité

d’application, chaque non-terminal ayant une probabilité totale de 1 d’être appliqué.

!

S"

0.8

aA S"

0.2

a A"^0.6bA A"

0.4

b

Elle correspond à l’automate

fini stochastique A

F S

a [0.8]

a [0.2]

b [0.6]

b [0.4]

abbb [0.0069]

Structures syntaxiques

Reconnaissance syntaxique

Reconnaissance = analyse syntaxique

Trouver une séquence de règles de production de la grammaire qui permettent de dériver la forme donnée à partir de l’axiome.

Il existe 2 techniques :

- analyse descendante (top-down)

démarre au sommet S, et à travers des applications répétées sur les productions de la grammaire, tente de couvrir la phrase terminale donnée.

- analyse ascendante (bottom-up)

commence à partir de la phrase donnée et tente d’arriver au symbole S en appliquant les productions à l’envers.

(11)

Structures syntaxiques

Reconnaissance syntaxique

Analyse descendante (top-down) S

aSb

S !aSb / ab x=aaabbb

ab

aaSbb aabb

aaabbb aaaSbbb

Analyse ascendante (bottom-up)

aaabbb ! aaSbb ! aSb ! S

Combinaison de modèles

Motivations :

- Améliorer la capacité de généralisation - Augmenter la robustesse

- Allier les points forts des différents modules

La performance de la réponse moyenne d’un ensemble de modèles est meilleure que la moyenne des performances des modèles de cet ensemble.

!

P(x"A/S₁(x))=??

P(x"A/S2(x))=??

P(x"A/S₃(x))=??

!

Comment combiner S1,S2,et S3?

(12)

Combinaison de modèles

Soit un ensemble de L classificateurs et un ensemble de c classes.

Chaque modèle reçoit une entrée et lui associe une étiquette

i.e.

La sortie du modèle est un vecteur de dimension c :

!

D=

{

D₁,D₂, ...,D_L

}

!

"=

{ #

1,

#

2, ...,

#

c

}

!

x=

[

x₁,x₂, ...,x_n

]

^t^,^x^{" #}ⁿ

!

"_i

!

D_i:"ⁿ # $

!

D_i(x)=

[

d_i,1(x), d_i,2(x), ..., d_i,c(x)

]

^t

!

d_i,_j(x)"

[ ]

0,1 ^di,j(x)#P

(

$_j/x

)

i=1, ...,L j=1, ...,c

Combinaison de modèles

Combiner les L modèles (classificateurs) consiste à faire la transformation suivante :

!

DP(x)=

d_1,1(x) d_1,2(x) ... ... d_1,c(x) d_2,1(x) ... ... ... d_2,c(x)

: : : : :

d_L,1(x) d_L,2(x) ... ... d_L,c(x)

"

#

$

%

&

' ' ' ' ' '

!

d₁(x),d₂(x), ...,d_c(x)

[ ]

^t

Combinaison Décisions du modèle 2

Décisions de l’ensemble des modèles pour la classe 2 Decision Profile

(13)

Combinaison de modèles

Considérons l’erreur quadratique et une combinaison linéaire de plusieurs modèles.

est la réponse du i-ème modèle pour l’entrée x, et la réponse du comité (combinaison) est :

L’erreur de généralisation d’un modèle au point x est :

et l’erreur moyenne d’un modèle tiré selon la distribution est :

Et celle du comité est :

!

D_i(x)

!

D (x)= w_iD_i(x)

i=1 L

"

_i=1^"^L^wi⁼¹

!

e_i(x)=E_y

[ (

y"D_i(x)

)

²

]

!

w_i, ...,w_L

( )

!

e (x)= w_ie_i(x)

i=1 L

"

!

e(x)=E_y

[ (

y"D (x)

)

²

]

Combinaison de modèles

Définissons la diversité d’un modèle comme :

et la diversité moyenne comme :

alors on peut montrer que :

L’erreur de généralisation du comité est donc égale à l’erreur de généralisation moyenne moins la diversité moyenne.

Plus la diversité est grande (en supposant l’erreur moyenne fixe) et plus on réduit l’erreur de généralisation en formant un comité.

Le comité sera meilleur que le meilleur de ses membres.

!

d_i(x)=

(

D_i(x)"D (x)

)

²

!

d (x)= w_id_i(x)

i=1 L

"

!

e(x)=e (x)"d (x)

(14)

Combinaison modulaire et d’ensemble

Combinaison modulaire (modular combination) :

Le problème est décomposé en sous-tâches, à chaque sous-tâche est attribué un module (classificateur/régresseur), la solution globale du problème nécessite la contribution de l’ensemble des modules.

Combinaison d’ensemble (ensemble combination/committee machine) :

On entraîne séparément L modèles, de manière à ce qu’ils soient le plus indépendants possible l’un de l’autre, on combine l’ensemble des modules redondants (chaque module produit une solution au problème global).

Fusion de décision

Module 1 Décision 1

Module L Décision L Décision globale

Sous-tâche 1 Décision partielle 1

Sous-tâche L Décision partielle L

Paradigmes de Combinaison

En général 2 types de combinaisons :

- Sélection de modèles (complémentarité)

- chaque module est un « expert » spécialisé pour une région de l’espace des formes

- aiguilleur présente la forme à l’expert approprié pour obtenir la décision

- Fusion de de modèles (compétitivité)

- chaque module donne son avis

- un module de synthèse produit la réponse globale

Décision

Module 1 Module 2 Module L

Décision

(15)

Combinaison modulaire et d’ensemble

Fusion de décision

Module L Décision L

Décision globale

Sous-tâche K Décision partielle K Décision globale

Sous-tâche M Décision partielle M

Combinaison : méthodes de création des modules

• Variation des paramètres d’initialisation

• Variation de la structure des modules

• Variation des algorithmes d’apprentissage

• Variation des caractéristiques d’entrée

• Variation des bases de données d’apprentissage

• Décomposition de tâches

(16)

4 Niveaux de Combinaison

combinaison

X X

X Base de données

Apprentissage Module 1

Apprentissage Module L

Niveau méthodes de combinaison Niveau modules Niveau caractéristiques

Niveau bases d’apprentissage

Variation des bases d’apprentissage

• Méthodes de ré-échantillonnage : - Bootstrap

tirage aléatoire avec remise

- Cross-validation

ex. leave one out

• Bases d’apprentissage disjointes

• Boosting et ré-échantillonnage adaptatif

Entraîner un module sur l’ensemble des données, filtrer les exemples difficiles à apprendre et les traiter par un nouveau module, procéder ainsi en cascades.

• Bagging : Bootstrapping & aggregating

les modules sont entraînes sur des ensembles de données tirées par bootstrap

Apprentissage

test

(17)

Bagging : Bootstrap + Aggregating

Breiman 1996

1- Repeat for b=1,2, …, B

(a) Take a bootstrap replicate of the training data set

(b) Construct a classifier (with a decision boundary ) on

2- Combine classifiers by simple majority voting (the most often predicted label)

to a final decision rule :

!

X^b

Algorithm

!

X

!

C^b(x)

!

C^b(x)=0

!

X^b

!

C^b(x), b=1, 2, ...,B

!

"

(x)=argmax

y# $1,1{ }

%

_sgn_Cb

(x),y

( )

b=1 B

&

!

"(i,j)=

1 if i=j 0 if i#j

$

% &

' &

Boosting

Freund & Schapire 1996

1- Repeat for b=1,2, …, B

(a) Construct the classifier on the weighted version

of training data set using weights (all )

(b) Compute probability estimates of the error : and combining weights :

( c) if , set and renormalise so that

Otherwise, set all weights and restart the algorithm

2- Combine classifiers by weighted majority voting with weights to a final decision rule :

!

X^*=

(

w₁^bX₁,w₂^bX₂, ...,w_n^bX_n,

)

Algorithm

!

C^b(x)

!

err_b=¹_n w_i^b"_i^b

i=1 n

!

#

X=(X₁,X₂, ...,X_n,)

!

w_i^b

{ }_i=1ⁿ

!

w_i^b=1for b=1

!

"i

b=

0 if Xiis classified correctly

1 otherwise

#

$ %

&

%

!

c_b=¹₂log1"err_b err_b

#

$ %

&

' (

!

0<err_b<0.5

!

w_i^b⁺¹=w_i^bexp

(

c_b"_i^b

)

^,ⁱ^=1,^K,ⁿ

!

w_i^b⁺¹

i=1 n

"

⁼ⁿ

!

w_i^b=1,i=1,K,n

!

C^b(x), b=1, 2, ...,B

!

"(x)=argmax

y# $1,1{ }

c_b%_sgn(_Cb(x),y)

b=1 B

&

!

"(i,j)=

1 if i=j 0 if i#j

$

% &

' &

! c_b

(18)

Sorties des modules pour la combinaison

2 types :

- un ensemble de labels (étiquettes) :

Exemple : c=3, L=5

- une matrice de décisions (Decision Profile)

! s_i" #=

{

$1,$2, ...,$c

}

!

DP(x)=

d_1,1(x) d_1,2(x) ... ... d_1,c(x) d_2,1(x) ... ... ... d_2,c(x)

: : : : :

d_L,1(x) d_L,2(x) ... ... d_L,c(x)

"

#

$

%

&

' ' ' ' ' '

!

s₁,s₂, ...,s_L

)₃ )₂ )₂ )₁ )₂ Vote majoritaire )₂

!

d(x)=majority

j

d_ij(x)

( )

?

!

DP(x)=

0.2 0.1 0.7 0.2 0.8 0.0 0.3 0.6 0.1 0.5 0.2 0.3 0.2 0.8 0.0

"

#

$

$ $

%

&

' ' ' ' ' '

Formalisme unifié pour la combinaison

Soit un ensemble de L classificateurs et un ensemble de c classes.

Dans l’espace des décisions, chaque classe est modélisée par :

!

D=

{

D₁,D₂, ...,D_L

}

!

"=

{ #

1,

#

2, ...,

#

c

}

!

"k

!

p D

(

i(x) /"k

)

!

D_i(x)=

[

d_i,1(x), d_i,2(x), ..., d_i,c(x)

]

^t

!

P

( ) "

_k

Fonction de densité Probabilité a priori

!

affecter x"#_j si

P

(

#_j/D₁, ...,D_L

)

⁼^max_k=1^c ^P

⁽

^#^k^/D¹^{, ...,}^D^L

⁾

Théorie de Bayes :

P("k/D1, ...,DL)⁼ ^{p D}( ¹^{, ...,}^D^L^/"^k)^P( )^"k

p D( ₁, ...,D_L)

!

p D( 1, ...,DL)⁼ ^{p D}( 1, ...,DL/"j)^P( )^"^j

j=1 c

#

1

2 3

(19)

Règles de combinaison

Règle du produit (Product Rule)

Distribution de probabilité jointe extraite par les modèles

!

affecter x"#_j si P

( )

#_j ^{p D}

(

ⁱ^/^#^j

)

i=1 L

$

⁼^max_k=1^c ^P

^{( )}

^#^k ^{p D}

⁽

ⁱ^/^#^k

⁾

i=1 L

$

4

2 3

!

p D

(

₁, ...,D_L/"_k

)

!

p D

(

₁, ...,D_L/"_k

)

⁼ ^{p D}

(

i/"_k

)

i=1 L

#

4 et dans

!

P("k/D₁, ...,D_L)⁼

P( )"k ^{p D}( ⁱ^/^"^k)

i=1 L

#

P

( )

"j ^{p D}

(

ⁱ^/^"^j

)

i=1 L

#

j=1 c

$

5

5 dans 1

6

!

affecter x"#j si P^$(L$1)( )#j ^P(^#^j^/^Dⁱ)

i=1 L

% ⁼^maxk=1 c

P^$(L$1)( )#k ^P(^#k/Di)

i=1 L

%

Ou en fonction des probabilités a posteriori :

7

Règles de combinaison

Règle de la somme (Sum Rule)

Hypothèse :

les décisions des différents modules sont proches de la probabilité a priori des classes.

!

affecter x"#_j si

(1$L)P

( )

#j ⁺ ^P

(

^#^j^/^Dⁱ

)

i=1 L

%

⁼^max_k=1^c ^(1$^L)P

^{( )}

^#^k ⁺ ^P

⁽

^#^k^/^Dⁱ

⁾

i=1 L

&

%

' ( )

* +

8

! 7

P

(

"_k/D_i

)

⁼^P

( )

^"k

(

¹⁺^#ki

)

^#ki<<1

8 dans ⁹

!

P"(L"1)

#k

( ) ^P(^#k/D_i)

i=1 L

$ ⁼^P( )^#^k (¹⁺^%ki)

i=1 L

$

!

P( )"k (¹⁺^#ki)

i=1 L

$ ⁼^P( )^"^k ⁺^P( )^"k ^#ki

i=1 L

% ¹⁰

7

et 8 dans

11 10

(20)

Stratégies de combinaison

Les règles et constituent le schéma de base pour combiner des modèles.

!

P

(

"k/D_i

)

i=1 L

#

^$^min_i=1^L ^P

(

^"^k^/Dⁱ

)

^$¹_L ^P

(

^"^k^/Dⁱ

)

^$

i=1 L

%

^max_i=1^L ^P

(

^"^k^/Dⁱ

)

Les règles du produit et de la somme peuvent être approximées par les bornes sup et inf de

12

7 11

12

Cas de décision binaire :

!

"_ki=

1 si P

(

#_k/D_i

)

⁼^max_j=1^c ^P

(

^#j/D_i

)

0 sinon

$

%

&

'

&

13

Stratégies de combinaison

Stratégie du Max :

!

affecter x"#_j si

(1$L)P

( )

#_j ⁺^L^max_i=1^L ^P

(

^#^j^/^Dⁱ

)

⁼^max_k=1^c ^%_&' ⁽¹^$^L)P

^{( )}

^#^k ⁺^L^max_i=1^L ^P

⁽

^#^k^/^Dⁱ

⁾

( ) *

Sous l’hypothèse d’équiprobabilité :

!

affecter x"#_j si maxi=1

L P

(

#_j/D_i

)

⁼^maxk=1

c max

i=1

L P

(

#_k/D_i

)

$

% & '

( )

14

15

11 + approximation de la somme par le max des probabilités a posteriori, on obtient :

(21)

Stratégies de combinaison

Stratégie du Min :

!

affecter x"#_j si

P^$(L$1)

( )

#_j ^min_i=1^L ^P

(

^#^j^/^Dⁱ

)

⁼^max_k=1^c ^P^$(L$1)

^{( )}

^#^k ^min_i=1^L ^P

⁽

^#^k^/Dⁱ

⁾

Sous l’hypothèse d’équiprobabilité :

!

affecter x"#_j si mini=1

L P

(

#_j/D_i

)

⁼^max_k=1^c ^$_%& ^min_i=1^L ^P

⁽

^#^k^/^Dⁱ

⁾

' ( )

16

17

7 + approximation de la somme par le min des probabilités a posteriori, on obtient :

Stratégies de combinaison

Stratégie de la moyenne/médiane :

!

affecter x"#_j si 1

L P

(

#_j/D_i

)

i=1 L

$

⁼^max_k=1^c _L¹ ^P

(

^#^k^/^Dⁱ

)

i=1 L

$

Sous l’hypothèse d’équiprobabilité, la règle de la somme dans ! calcul de la moyenne des probabilités a posteriori pour chaque classe sur l’ensemble des L modules :

11

18

Une approximation robuste de la moyenne est la médiane :

!

affecter x"#_j si medi=1

L

P

(

#_j/D_i

)

⁼^max_k=1^c ^med_i=1^L ^P

⁽

^#^k^/^Dⁱ

⁾

19

(22)

Stratégies de combinaison

Stratégie du vote majoritaire :

!

affecter x"#_j si

$_{j i}

i=1 L

%

⁼^max_k=1^c ^$^{k i}

i=1 L

%

Sous l’hypothèse d’équiprobabilité + + :11

20 13

!

"_ki=

1 si P(#k/Di)^=max_j=1^c ^P(^#j/Di)

0 sinon

$

%

&

'

&

Exemple

!

DP(x)=

0.2 0.1 0.7 0.2 0.8 0.0 0.3 0.6 0.1 0.5 0.2 0.3 0.2 0.8 0.0

"

#

$

$ $

%

&

' ' ' ' ' ' c=3, L=5

Max :

!

affecter x"#_j si maxi=1

L

P

(

#_j/D_i

)

⁼^max_k=1^c ^$_%& ^max_i=1^L ^P

⁽

^#^k^/^Dⁱ

⁾

' ( )

)₂

!

affecter x"#_j si mini=1

L P

(

#_j/D_i

)

⁼^max_k=1^c ^$_%& ^min_i=1^L ^P

⁽

^#^k^/^Dⁱ

⁾

' ( ) Min :

)1

!

affecter x"#_j si

$j i i=1

L

%

⁼^max_k=1^c ^$^{k i}

i=1 L

%

"ki=

1 si P(#k/Di)⁼^max_j=1^c ^P(^#j/Di)

0 sinon

$

%

&

'

&

Majorité :

)2