Utiliser des m´ethodes de discrimination : les Machines `a Vecteurs Supports . 75

`a Vecteurs Supports

Ce travail a ´et´e r´ealis´e en collaboration avec Guillaume Deffuant et Laetitia Chapel¹⁰. Notre contribution concerne la d´emonstration de la convergence de l’algorithme utilisant des m´ethodes de discrimination. Dans cette section, nous reprenons cette d´emonstration apr`es avoir pr´esent´e les motivations de notre d´emarche. L’article comportant la description de la m´ethode de discrimination particuli`ere utilis´ee, les Machines `a Vecteurs Supports (SVM), la v´erification de la satisfaction des hypoth`eses du th´eor`eme de convergence, ainsi que les m´ecanismes de s´election des points de l’ensemble d’apprentissage et les r´esultats obtenus, est reproduit en annexeB. La version de la d´emonstration de convergence avec m´ethode de discrimination retenue dans cet article est l´eg`erement diff´erente de celle que nous proposons dans cette section.

3.3.1 Les motivations

Notre objectif est d’´etendre le calcul effectif de noyaux de viabilit´e aux grandes dimen-sions. Mullon et al. (2004) ont propos´e d’approcher l’enveloppe convexe du noyau de

via-9Il existe ´egalement d’autres formules contenant uniquement des ´evaluations de f d´ej`a ef-fectu´ees [97, Scraton (1964)]. Il apparaˆıt que ces estimateurs de l’erreur de troncature locale pour les m´ethodes de Runge-Kutta soit moyennent cette erreur sur plusieurs pas (m´emoire), soit n´ecessitent des ´evaluations de fonction suppl´ementaires [98, Shampine et Watts (1977)].

10Laboratoire d’Ing´enierie des Syst`emes Complexes (LISC), Cemagref, Groupement de Clermont-Ferrand.

CemOA : archive ouverte d'Irstea / Cemagref

CHAPITRE 3. LES ALGORITHMES DE CALCUL DE NOYAUX DE VIABILIT ´E 76

bilit´e par des intersections de demi-espaces [85]. Cette m´ethode est satisfaisante lorsque le noyau de viabilit´e est convexe (syst`emes lin´eaires). Nous proposons une approche utilisant des m´ethodes de discrimination. L’id´ee est de ne plus ˆetre oblig´e de conserver en m´emoire les labels de tous les points de la grille, mais seulement les labels d’une petite partie d’entre eux s´electionn´es par la m´ethode de discrimination pour construire la fonction de discrimina-tion. Le fait d’avoir une expression analytique du noyau courant grˆace `a une fonction positive

`a l’int´erieur et n´egative `a l’ext´erieur permet ´egalement d’utiliser des techniques standards d’optimisation pour d´eterminer le contrˆole auquel est associ´e le successeur qui maximise cette fonction. Si la valeur de ce maximum est positive, un successeur au moins appartient au noyau courant et r´eciproquement. Le gain de temps est sensible lorsque la dimension de l’espace des contrˆoles augmente.

3.3.2 L’algorithme d’approximation du noyau de viabilit´e discret avec une m´ethode de discrimination

Notations

SoientX :=RⁿetG :X X une correspondance associ´ee `a l’inclusion diff´erentielle discr`ete :

( xⁿ⁺¹ ∈ G(xⁿ)

x⁰ = x₀. (3.40)

Nous supposons queGest une correspondanceµ-Lipschitz `a images ferm´ees. L’objectif est d’approcher le noyau de viabilit´e de K, sous-ensemble compact de Dom(G), pour la dynamique discr`ete d´ecrite parG.

Nous redonnons la d´efinition d’une grilleX_h : un ensemble d´enombrable d’´el´ements de X, tel que :

∀x∈X,∃x_h ∈X_htel que kx−x_hk ≤β(h), (3.41) etβ(h)→0lorsqueh→0.

De plus,

∀K ⊂Xcompact,X_h∩K est un sous-ensemble fini deX_h. (3.42)

Soitl:X →Rune fonction. Nous d´efinissons :

P(l) := {x∈X tels quel(x)≥0}

N(l) := {x∈X tels quel(x)<0}=CP(l), (3.43)

CemOA : archive ouverte d'Irstea / Cemagref

CHAPITRE 3. LES ALGORITHMES DE CALCUL DE NOYAUX DE VIABILIT ´E 77

avecCE d´esignant le compl´ementaire dansXde l’ensembleE ⊂X.

NotonsP_h(l) := P(l)∩X_h (resp. N_h(l) := N(l)∩X_h), l’ensemble des points de la grille pour lesquels la valeur delest positive (resp. strictement n´egative) :

P_h(l)∪N_h(l) =X_hetP_h(l)∩N_h(l) =∅.

Pourλ≥1, nous d´efinissons l’ensemble de fonctionsL_h(P, λ)par L_h(P, λ) = {l:X →R | P(l)est ferm´e

N(l)⊂N_h(l) +β(h)B

etP(l)⊂P_h(l) +λβ(h)B }.

(3.44)

Enfin, notons d(E, F) la distance entre deux sous-ensembles ferm´es de X et B est la boule de centre 0 et de rayon 1.

D´efinition de l’algorithme d’approximation du noyau de viabilit´e discret

Les ´etapes de l’algorithme sont les suivantes (λ ≥1est fix´e) : – La premi`ere fonctionl⁰_h ∈Lh(P, λ)est telle que

K ⊂P(l⁰_h)⊂K+ (1 +λ)β(h)B. (3.45) – Au pasn+ 1, la(n+ 1)^`emefonctionl_hⁿ⁺¹ ∈L_h(P, λ)est choisie telle que :

N_h(lⁿ⁺¹_h ) =N_h(lⁿ_h)∪ {x_h ∈P_h(lⁿ_h)tels qued(G(x_h), P(lⁿ_h))> µβ(h)}, (3.46) L’algorithme se termine lorsque les fonctionsl_hⁿetl_hⁿ⁺¹sont telles que :

P_h(l_hⁿ⁺¹) =P_h(l_hⁿ).

Coh´erence de l’algorithme

A chaque pas, le sous-ensemble form´e des ´el´ements de` L_h(P, λ)qui v´erifient (3.46) est non vide.

SoitP_h etN_h des sous-ensembles deX_h tels queP_h ∪N_h = X_h etP_h ∩N_h = ∅, nous remarquons tout d’abord que les fonctions plus proche voisinˆl(P_h, N_h) : X → R d´efinies par

( ˆl(P_h, N_h)(x) := 0 si {x_h ∈X_h|d(x, x_h) = min_yh∈X_hd(y_h, x)} ∩P_h 6=∅ := −1 sinon,

(3.47)

CemOA : archive ouverte d'Irstea / Cemagref

CHAPITRE 3. LES ALGORITHMES DE CALCUL DE NOYAUX DE VIABILIT ´E 78

appartiennent `aLh(P, λ)pourλ≥1.

Preuve — En effet, soientˆl une fonction de type plus proche voisin et(x_n)une suite deP(ˆl)convergeant versx. Supposons quex /∈ P(ˆl), alors, d’apr`es la propri´et´e (3.42) de la

CemOA : archive ouverte d'Irstea / Cemagref

CHAPITRE 3. LES ALGORITHMES DE CALCUL DE NOYAUX DE VIABILIT ´E 79

Convergence de l’algorithme

L’algorithme se termine apr`es un nombre fini de pasp(h).

D’apr`es la condition (3.46), pour toutn,N_h(lⁿ⁺¹_h )⊃N_h(lⁿ_h). Par cons´equent, P_h(l_hⁿ⁺¹)⊂P_h(l_hⁿ)⊂P_h(l_h⁰).

De plus,P_h(l_h⁰) ⊂(K + (1 +λ)β(h)B)∩X_h. K est compact, doncK + (1 +λ)β(h)Best aussi compact et d’apr`es (3.42), P<sub>h</sub>(l<sup>0</sup><sub>h</sub>)est fini. Nous devons donc obtenir apr`es un nombre fini de pas :

P_h(l_hⁿ) = P_h(l_hⁿ⁺¹).

Le noyau de viabilit´e deK pourGest contenu dansP(l_hⁿ)pour toutn.

Par d´efinition, Viab_G(K)⊂K.

PuisqueK ⊂P(l⁰_h)d’apr`es (3.45), Viab_G(K)⊂P(l⁰_h).

Supposons que Viab_G(K)⊂P(l_hⁿ).

Consid´erons x /∈ P(lⁿ⁺¹_h ). x ∈ N(lⁿ⁺¹_h ) et `a cause de la condition (3.44), il existe x_h ∈ N_h(lⁿ⁺¹_h )tel quekx−x_hk< β(h).

Par cons´equent, puisqueGestµ-Lipschitz,G(x)⊂G(x_h) +µβ(h)B.

De plus, commex_h ∈N_h(l_hⁿ⁺¹), d(G(x_h), P(lⁿ_h))> µβ(h)d’apr`es (3.46).

Ainsi, G(x)∩ P(lⁿ_h) = ∅ et G(x) ⊂ N(l_hⁿ). Par hypoth`ese de r´ecurrence, tout point de N(lⁿ_h) est non viable, donc tous les successeurs de x sont non viables et x est non viable, x /∈ViabG(K).

P(l^p(h)_h )est contenu dans le noyau de viabilit´e deK+ (1 + 2λ)β(h)Bpour la dynamique G+µ(1 +λ)β(h)B.

SoitG_h :X →X, tel queG_h(x) :=G(x) +µ(1 +λ)β(h)B.

Consid´erons un pointxde

P(l^p(h)_h )⊂P_h(l^p(h)_h ) +λβ(h)B ⊂P(l_h⁰) +λβ(h)B ⊂K+ (1 + 2λ)β(h)B d’apr`es (3.45) et (3.46).

D’apr`es la condition (3.44), il existe un pointx_h deP_h(l^p(h)_h )tel que kx−x_hk< λβ(h).

Puisquex_h ∈P_h(l^p(h)_h ),d(G(x_h), P(l_h^p(h)))≤µβ(h)d’apr`es (3.46), et par cons´equent,∃y^p ∈ P(l^p(h)_h )et∃y_h ∈G(x_h)tels queky^p−y_hk ≤µβ(h).

CommeGestµ-Lipschitz,G(x_h)⊂G(x) +µλβ(h)Bet donc,∃y∈G(x)tel que ky_h−yk ≤µλβ(h).

CemOA : archive ouverte d'Irstea / Cemagref

CHAPITRE 3. LES ALGORITHMES DE CALCUL DE NOYAUX DE VIABILIT ´E 80

Enfin,ky^p−yk ≤µ(λ+ 1)β(h)ety^p ∈G_h(x)∩P(l^p(h)_h ).

Nous avons montr´e que pour toutx∈P(l^p(h)_h )⊂K+ (1 + 2λ)β(h)B,G_h(x)∩P(l^p(h)_h )6=∅ et par cons´equent,P(l^p(h)_h )⊂ViabGh(K+ (1 + 2λ)β(h)B).

Conclusion.

Nous avons montr´e que ViabG(K)⊂P(l^p(h)_h )⊂ViabG_h(K+ (1 + 2λ)β(h)B).

De plus, puisqueGestµ-Lipschitz `a images ferm´ees,

Viab_Gh(K+ (1 + 2λ)β(h)B)→Viab_G(K) lorsqueβ(h)→0.

Par cons´equent,P(l_h^p(h))→ViabG(K)lorsqueβ(h)→0.

3.4 Remplacer l’espace par le temps : l’algorithme de