• Aucun résultat trouvé

Fonctions discriminantes

N/A
N/A
Info
Télécharger
Protected

Academic year: 2022

Partager "Fonctions discriminantes"

Copied!
2
0
0

Chargement.... (Voir le texte intégral maintenant)

Texte intégral

(1)

Fonctions discriminantes

1

• N classes

• g

1

(x), g

2

(x), . . .,g

N

(x) :

Rd

#→

R

• fonction de d ´ecision:

f (x) = C

i

si g

i

(x) ≥ g

j

(x) pour tout j = 1, . . . ,N

• r ´egions de d ´ecision: R

1

,R

2

, . . . ,R

N

x ∈ R

i

si f (x) = C

i

• fronti `ere de d ´ecision: F ⊂

Rd

F = { x |∃ i, j : i ( = j, g

i

(x) = g

j

(x) }

Fonctions discriminantes

2

• Deux classes {− 1, 1 }

• g(x) = g

1

(x) − g

−1

(x)

• fonction de d ´ecision: f (x) = signe(g(x))

• r ´egions de d ´ecision: R

1

= { x : g(x) ≥ 0 } ,R

−1

= { x : g(x) < 0 }

• fronti `ere de d ´ecision: F = {x|g(x) = 0}

Fonctions discriminantes

3

• La densit ´e normale (gaussienne) p(x) = 1

(2!)

d/2

| " |

1/2

exp

!

− 1

2 (x − µ)

t

"

−1

(x − µ) "

• µ: vecteur de moyenne

• ": matrice de covariance (positive semidefinite)

• | " | : d ´eterminante ( ≥ 0)

• "

−1

: inverse (existe)

Fonctions discriminantes

4

• Fonctions discriminantes

• g

i

(x) = ln p

i

(x) = ln p(x | Y = C

i

) + ln P(Y = C

i

)

• g

i

(x) = − 1

2 (x − µ

i

)

t

"

−i1

(x − µ

i

) − d

2 ln 2! − 1

2 ln |"

i

| + ln P(Y = C

i

)

• Cas 1: "

i

= #

2

I (matrices de covariance sph ´eriques)

• |"

i

| = #

2d

• "

−1

=

1

#2

I

g

i

(x) = − )x− µ

i

)

2

2#

2

+ ln P(Y = C

i

) + const.

= − 1

2#

2

(x

t

x − 2µ

ti

x+ µ

ti

µ

i

) + ln P(Y = C

i

) + const.

(2)

Fonctions discriminantes

5

• Cas 1: "

i

= #

2

I

• fonctions discriminantes lin ´eaires: g

*i

(x) = w

ti

x + w

i0

• vecteur de poids: w

i

= 1

#

2

µ

i

• seuil ou biais: w

i0

= − 1

2#

2

µ

ti

µ

i

+ ln P(Y = C

i

)

• fronti `ere de d ´ecision lin ´eaire entre R

i

et R

j

(µ

i

− µ

j

)

t

(x − x

0

) = 0

• x

0

= 1

2 (µ

i

+ µ

j

) +

!

#

2

) µ

i

− µ

j

)

2

ln P(Y = C

i

) P(Y = C

j

)

"

(µ

j

− µ

i

)

• P(Y = C

i

) = P(Y = C

j

): classifieur de plus proche moyenne

Fonctions discriminantes

6

• Cas 2: "

i

= " (matrices de covariance identiques)

• g

i

(x) = − 1

2 (x − µ

i

)

t

"

−1

(x − µ

i

) + lnP(Y = C

i

) + const.

• g

*i

(x) = w

ti

x + w

i0

• vecteur de poids: w

i

= "

−1

µ

i

• seuil ou biais: w

i0

= − 1

2 µ

ti

"

−1

µ

i

+ ln P(Y = C

i

)

Fonctions discriminantes

7

• Cas 2: "

i

= "

• fronti `ere de d ´ecision entre R

i

et R

j

:

"

−1

(µ

i

− µ

j

)

t

(x − x

0

) = 0

• x

0

= 1

2 (µ

i

+ µ

j

) +

!

1

(µ

i

− µ

j

)

t

"

−1

(µ

i

− µ

j

) ln P(Y = C

i

)

P(Y = C

j

)

"

(µ

j

− µ

i

)

• P(Y = C

i

) = P(Y = C

j

): classifieur de plus proche moyenne selon la distance de Mahalanobis:

d(x, µ) =

#

(x − µ)

t

"

−1

(x − µ)

Fonctions discriminantes

8

• Cas 3: "

i

= arbitraire

• g

i

(x) = − 1

2 (x − µ

i

)

t

"

−1i

(x − µ

i

) − 1

2 ln |"

i

| + ln P(Y = C

i

) + const.

• fonctions discriminantes quadratiques: g

i

= x

t

W

i

x + w

ti

x + w

i0

• vecteur de poids: w

i

= "

−i1

µ

i

• W

i

= − 1 2 "

−i1

• seuil ou biais: w

i0

= − 1

2 µ

ti

"

−i1

µ

i

− 1

2 ln |"

i

| + ln P(Y = C

i

)

• fronti `ere de d ´ecision entre R

i

et R

j

: hyperquadriques

Références

Télécharger maintenant ( PDF - 2 Page - 80.19 KB )

Documents relatifs

Nouvelles approches pour la sélection de variables discriminantes

Ces mesures d’association sont utilisées pour construire des algorithmes de sélection de variables hétérogènes, dans le cadre d’un.. problème de discrimination ou de

Choix du nombre de fonctions linéaires discriminantes

un nombre de dimensions au-delà de 2 et des dernières valeurs propres petites, cette approche donne un risque de sous-estimation moins élévé que la procédure que

Fonctions r´ecursives

L’objectif de cette partie est d’abord de voir un autre mod`ele de calcul que les machines de Turing et de montrer qu’il a le mˆeme pouvoir expressif que les machines de Turing

Les fonctions r´ ecursives

Les fonctions Turing (semi-) calculables sont closes par composition, r´ ecursion primitive et minimisation... Th´ eor` eme

Sur l'extension des fonctions C R

La méthode utilisée ici pour démontrer le théorème 2.2 est la méthode de construc- tion de familles de disques analytiques due à Bishop [3] , on va donc énoncer

FONCTIONS COURANTES DU LOGICIEL R

s.class affiche le plan factoriel avec ellipses et traits pour grouper les échantillons ade4 s.value affiche le plan factoriel avec taille des points dépendante d'1 variable ade4.

Fonctions r´eelles

Propri´ et´ es g´ en´ erales des fonctions.. Calcul des fonctions

Fonctions r´eelles

Propri´ et´ es g´ en´ erales des fonctions.. Calcul des fonctions