4.3 Apprentissage en dynamique contrainte
4.3.1 Motifs statiques
Dans les chapitres pr´ec´edents (voir page 114), on a vu que la pr´esentation d’un motif statique gaussien peut induire une modification sensible de la
confi-174 Apprentissage : une dynamique sur les poids
Fig. 4.9 – Apprentissage en dynamique contrainte. `A l’initialisation, la dynamique est contrainte par le motif I1. Les 600 premiers pas de temps donnent la dynamique spontan´ee (chaotique). La r`egle d’apprentissage est it´er´ee de t = 600 `
a t = 1200. L’apprentissage conduit `a un r´egime p´eriodique. La pr´esentation d’un second motif I2 non appris produit un nouveau r´egime chaotique. Une nouvelle pr´esentation du motif initial produit un retour `a la dynamique cyclique obtenue en fin d’apprentissage. Param`etres : N = 200, α = 0.1, ¯I = −0.4, σI = 0.3,θ = 0,¯ σθ = 0, ¯J = 0, σJ = 1.
guration spatiale des activations, et provoquer une compl`ete r´eorganisation du circuit d’activation. On sait que pour des motifs statiques de grande amplitude d´efinis selon les param`etres ¯I = −0.4, σI = 0.3, la pr´esentation de chaque motif produit une structure spatio-temporelle diff´erente et sp´ecifique.
Pour ce type de motifs statiques, la fonction de l’apprentissage est simple-ment de renforcer l’organisation interne associ´ee au motif. Pour chaque motif `a apprendre, l’apprentissage est it´er´e sur quelques centaines de pas de temps. Si la dynamique initiale est proche de la fronti`ere du chaos, il est fr´equent de pas-ser du chaos `a une dynamique p´eriodique. Dans tous les cas (mˆeme si on reste en r´egime chaotique), les effets de l’apprentissage se font sentir sur la valeur de d´estabilisation du syst`eme (qui baisse) et la covariance cov[1]ij qui augmente en valeur absolue.
Apprentissage d’un motif unique
La figure 4.9 montre l’´evolution du signal moyen en cours d’apprentissage, pour une dynamique contrainte par un motif statique I1. Le syst`eme passe pro-gressivement d’une dynamique chaotique `a une dynamique p´eriodique.
Pour le cas pr´esent´e, les effets de l’apprentissage sont circonscrits `a la dyna-mique issue de la matrice des poids initiale et du motif I1. En modifiant le motif d’entr´ee, on retrouve un comportement chaotique g´en´erique. Il suffit n´eanmoins
4.3 Apprentissage en dynamique contrainte 175
Fig. 4.10 – Comportement moyen du terme d’´energie globale selon la proximit´e avec le motif appris. La matrice des poids est issue d’un appren-tissage sur 1200 pas de temps avec un motif de r´ef´erence I1. La valeur du terme d’´energie `a l’issue de l’apprentissage vaut −24, 4. L’abcisse donne la corr´elation des motifs de test avec le motif I1. Pour chaque valeur de la corr´elation, on tire 20 motifs mixtes (combinaison entre I1 et un motif al´eatoire). Le terme d’´energie est moyenn´e sur les valeurs associ´ees `a ces 20 motifs. Param`etres : N = 200, α = 0.1,
¯
I = −0.4, σI = 0.3,θ = 0, σ¯ θ = 0, ¯J = 0, σJ = 1.
de pr´esenter `a nouveau le motif I1 pour reproduire `a l’identique la dynamique atteinte en fin d’apprentissage. Le r´eseau a donc appris `a associer un r´egime p´eriodique sp´ecifique `a la stimulation I1.
Plus g´en´eralement, la valeur de l’´energie globale E attach´ee `a la dynamique contrainte par le motif appris est nettement sup´erieure (en valeur absolue) `a l’´energie globale attach´ee `a un motif quelconque (voir figure 4.10). Rappelons que l’augmentation en valeur absolue de E =P
iEi = −P
i,jJijcov[1]ij correspond `
a une augmentation de l’amplitude des signaux d’activation, donc de l’activit´e dynamique. Tout motif ayant une corr´elation positive avec I1 tend `a d´ evelop-per une activit´e dynamique plus importante que celle d´evelopp´ee par un motif non corr´el´e. Les valeurs des termes d’´energie sont mesur´ees pour des motifs Itest combinant les valeurs de I1 et celles d’un autre motif tir´e ind´ependamment I2, comme Itest= ¯I +√
1 − β(I1− ¯I)+√
β(I2− ¯I), avec β ∈ [0, 1], tel que E(Itest) = ¯I et var(Itest) = σ2
I. La valeur 1 − β donne l’esp´erance de la corr´elation entre le motif I1 et le motif Itest. On constate sur cette figure que l’intensit´e de l’acti-vit´e dynamique est proportionnelle `a la corr´elation avec le motif appris. On a Etest' (1 − β)E1+ βE2, o`u E1 est l’´energie attach´ee au motif appris, E2 l’´energie attach´ee en moyenne `a un motif d´ecorr´el´e I2.
Il apparaˆıt donc que l’activit´e dynamique associ´ee au motif I1 tend `a dominer en amplitude celle associ´ee `a tout autre motif. Le comportement initial du
sys-176 Apprentissage : une dynamique sur les poids
t`eme, qui tendait `a produire une activit´e du mˆeme ordre de grandeur pour tout motif, est r´evolu. La configuration associ´ee `a I1 peut ˆetre qualifi´e de persistante, dans la mesure o`u cette configuration se maintient pour une famille de motifs pr´esentant des caract´eristiques communes avec I1.
On appelle rayon d’action du motif I1 la quantit´e βr = E1
E1+E2. Pour des mo-tifs d´efinis selon une valeur de β < βr, le terme E1 domine le terme E2 sur la valeur de Etest, soit (1 − β)E1 > βE2. En ce sens, un apprentissage effectu´e sur des dynamiques de faible amplitude (cycles limites proches de la destabilisation), dont le terme d’´energie initial E2 est faible, tendra `a assurer au motif I1 un rayon d’action ´elev´e, et donc `a faire baisser la sp´ecificit´e de l’apprentissage. Il est ainsi pr´ef´erable de pratiquer l’apprentissage sur des dynamiques nettement chaotiques, dont le terme d’´energie initial est ´elev´e, afin de limiter le rayon d’action de l’ap-prentissage.
Apprentissage de plusieurs motifs
On se donne un jeu de motifs `a apprendre {I1, ..., Im}m=1..M. L’apprentissage de ces motifs est effectu´e de fa¸con crois´ee : un pr´esentation consiste `a pr´esenter au r´eseau chaque motif de la s´erie et `a effectuer pour chacun un apprentissage sur une dur´ee de 100 pas de temps. Plusieurs pr´esentations de la s´erie compl`ete sont ainsi effectu´ees. La dur´ee totale d’apprentissage est la mˆeme pour tous les motifs, ´egale `a 100 fois le nombre de pr´esentations.
On cherche `a estimer les cons´equence de cet apprentissage sur le comportement spontan´e du r´eseau face `a des motifs non sp´ecifiques. Pour les r´esultats d´ecrits ci-dessous, on a pris α = 0.01, et chaque motif a ´et´e pr´esent´e 20 fois en tout. Pour chaque motif, l’apprentissage est effectu´e `a la fronti`ere du chaos. Le tableau ci-dessous donne les valeurs moyennes (sur les M = 10 motifs) de gdest, gchaos et E avant apprentissage et `a l’issue de cet apprentissage, `a la fois pour les motifs appris et des motifs quelconques.
gdest gchaos E
Avant apprentissage 4.9 5.4 - 0.8
Apres apprentissage, motifs appris 2.1 4.6 - 3.7
Apres apprentissage, autres motifs 3.1 5.1 - 1.1
Il apparaˆıt imm´ediatement que les changements sp´ecifiques induits par l’ap-prentissage des 10 motifs ont des r´epercussions vari´ees sur les dynamiques asso-ci´ees aux autres motifs.
Pour les motifs Ik non-appris :
– La valeur de d´estabilisation gdest est fortement modifi´ee de pr`es de deux points. C’est l`a la principale diff´erence par rapport `a la dynamique avant apprentissage. Tout motif tend `a produire un r´egime cyclique pour des valeurs de g plus faibles.
4.3 Apprentissage en dynamique contrainte 177
– La valeur d’entr´ee dans le chaos baisse l´eg`erement, mais de fa¸con beaucoup moins significative.
– L’´energie Ek passe de -0.8 `a -1.1, ce qui est ´egalement peu significatif On voit donc que l’apprentissage de plusieurs motifs modifie essentiellement le comportent de d´estabilisation du r´eseau, et produit pour tout motif une plage de d´estabilisation beaucoup plus large. Par contre, le renforcement de l’activit´e dynamique (terme E) reste sp´ecifique aux motifs appris.
Le comportement dynamique du r´eseau subit un remodelage qui tend `a favoriser de fa¸con g´en´erale le d´eveloppement de r´egimes cycliques et p´ erio-diques (r´egularisation dynamique diffuse), et `a produire une activit´e dyna-mique de plus grande amplitude pour les motifs qui ont ´et´e sp´ecifiquement appris (excitabilit´e sp´ecifique).