Pr´ esentation de motifs dynamiques s´ equentiels

Un motif dynamique s´equentiel est constitu´e par une s´equence de motifs gaus-siens ind´ependants {I₁, I₂, ..., I_τ}, caract´eris´ee par sa p´eriode τ . Chaque motif composant la s´equence est tir´e selon N ( ¯I, σ²_I). Le param`etre σI donne l’´ ecart-type de ces motifs. Les motifs ´etant ind´ependant, σ_I donne ´egalement l’esp´erance de l’´ecart-type du signal s´equentiel I_i(t) en entr´ee de chaque neurone i. La s´ e-quence est pr´esent´ee en boucle au r´eseau I(t) = I(1 + tmodτ ).

On a vu pr´ec´edemment que des motifs statiques modifient l’organisation dy-namique du r´eseau, et donc sa p´eriode interne, mais on ne connait pas a priori cette p´eriode. Dans le cas d’un motif dynamique, au contraire, on impose une p´eriode τ au r´eseau, et le r´eseau va modifier son organisation dynamique sous la contrainte de cette p´eriode. On a donc une contrainte explicite sur la p´eriode.

Route vers le chaos

Lorsqu’un motif dynamique est impos´e, celui-ci alimente de l’ext´erieur la dy-namique du r´eseau. Le syst`eme n’est donc plus autonome. Il s’instaure donc une forme de concurrence entre le r´egime dynamique p´eriodique impos´e et celui qui se d´eveloppe spontan´ement dans le syst`eme.

On peut noter qu’il n’y a plus de r´egime de point fixe, quelle que soit la valeur de g,

146 Dynamique spontan´ee et dynamique contrainte

Pour des s´equences de motifs tels que ¯I = 0, σ_I = 0.1, on observe en g´en´eral le comportement suivant (voir figure 3.26) :

– Pour les valeurs de g correspondant au point fixe en dynamique spontan´ee, la dynamique contrainte est strictement p´eriodique. La dynamique du r´ e-seau est passive et se laisse guider par le signal d’entr´ee. Si la p´eriode de l’entr´ee est τ enti`ere, la dynamique passe strictement par une s´equence de τ ´etats dynamiques distincts.

– Pour les valeurs de g correspondant au r´egime pseudo-p´eriodique en dyna-mique spontan´ee, on observe τ cycles distincts sur un diagramme de premier retour du signal moyen. Le cycle est dupliqu´e τ fois.

– Pour les valeurs de g correspondant au r´egime chaotique en dynamique spontan´ee, on observe sur le diagramme de premier retour, `a la fronti`ere du chaos, τ r´egions o`u la densit´e de points est plus importante, qui sont des reliquats des cycles atteints `a la d´estabilisation. Pour des valeurs de g plus ´elev´ees, on ne parvient plus `a distinguer `a l’oeil la p´eriodicit´e du motif (bien que celle-ci reste d´ecelable par spectre de puissance pour toute valeur de g).

Plus g augmente, plus la dynamique interne semble donc prendre le pas sur la dynamique impos´ee.

Effet sur la valeur d’entr´ee dans le chaos

Il est int´eressant de voir dans quelle mesure la pr´esentation d’un motif dy-namique s´equentiel peut favoriser ou au contraire d´efavoriser le d´eveloppement d’un r´egime chaotique.

On a repr´esent´e sur la figure 3.27 l’´evolution de la valeur d’entr´ee dans le chaos moyenne pour des valeurs croissantes de σI.

On voit que pour des valeurs de σ_I inf´erieures `a 0.2, il y a peu d’effet sur la valeur d’entr´ee dans le chaos. On observe mˆeme une l´eg`ere baisse de cette valeur, ce qui peut ˆetre interpr´et´e comme suit : un motif p´eriodique de faible intensit´e tend `a stimuler la dynamique du r´eseau. La dynamique est nourrie par le signal, mais n’empi`ete pas sur le signal de champ local qui reste d´eterminant sur la valeur du signal de potentiel. La prise en compte prioritaire de l’information en provenance de tous les aff´erents autorise la complexification de cette dynamique. Pour des valeurs plus ´elev´ees de σ_I, la stimulation p´eriodique domine le champ local, et tend donc `a favoriser un r´egime p´eriodique. Le r´egime chaotique est alors plus difficile `a atteindre (n´ecessite des valeurs de g plus ´elev´ees).

On peut noter que dans tous les cas, la propri´et´e de d´ecroissance du dia-gramme d’autocorr´elation n’a plus cours. Les r´egimes chaotiques se “surajoutent” `

a un r´egime p´eriodique immuable. La figure3.28 pr´esente l’aspect du diagramme d’autocorr´elation sur le signal m_N(t) pour une dynamique stimul´ee par une s´ e-quence de p´eriode 3, avec σ_I = 0.2.

3.3 Sensibilit´e dynamique 147

Fig. 3.26 – Route vers le chaos avec un signal d’entr´ee p´eriodique. La p´eriode impos´ee est τ = 5. On a repr´esent´e les diagrammes de premier retour du signal m_N(t). Les valeurs de g sont successivement g = 4 (' point fixe), g = 4.65 (cycles limites), g = 5 (fronti`ere du chaos), g = 6 (chaos profond). On constate, en dynamique pseudo-p´eriodique et `a la fronti`ere du chaos, que la disposition des amas de points reproduit celle observ´ee pour g = 4. Param`etres : N = 200, ¯I = 0, σ_I = 0.1, ¯θ = 0.4, σ_θ = 0.3, ¯J = 0, σ_J = 1.

148 Dynamique spontan´ee et dynamique contrainte

Fig. 3.27 – ´Evolution de la valeur d’entr´ee dans le chaos avec σ_i. La p´eriode du motif dynamique vaut 6. Pour chaque valeur de σ_I, on calcule la valeur d’entr´ee dans le chaos moyenne sur 100 r´eseaux. Param`etres : N = 200,

¯

I = 0, ¯θ = 0, σ_θ = 0, ¯J = 0, σ_J = 1.

Fig. 3.28 – Diagramme d’autocorr´elation en r´egime chaotique avec sti-mulation p´eriodique. Le diagramme porte sur le signal m_N(t) en r´egime sta-tionnaire. La p´eriode de la s´equence impos´ee vaut τ = 3. Param`etres : g = 10, N = 200, ¯I = 0, σ_I = 0.2, ¯θ = 0.4, σ_θ = 0.3, ¯J = 0, σ_J = 1.

3.3 Sensibilit´e dynamique 149

Fig. 3.29 – Capture de la p´eriode pour diff´erentes valeurs de τ . On a repr´esent´e sur ces histogrammes la r´epartition des p´eriodes, mesur´ee sur 100 couples (R´eseau, S´equence) pour τ = 2 (haut, gauche), τ = 3 (haut, milieu), τ = 4 (haut, droite), τ = 6 (bas, gauche), τ = 8 (bas, milieu) et τ = 12 (bas, droite). Param`etres : N = 200, g = 8, ¯I = 0, ¯θ = 0, σ_θ = 0, ¯J = 0, σ_J = 1, σ_I = 0.1.

Capture de la p´eriode

Lorsqu’un motif de p´eriode τ est pr´esent´e en entr´ee, cette p´eriode tend `a im-poser la fr´equence fondamentale du spectre de puissance 1/τ . N´eanmoins, cette pulsation fondamentale n’est pas n´ecessairement celle qui domine le spectre de puissance. On constate que le syst`eme favorise indiff´eremment la fr´equence fon-damentale ou l’une de ses harmoniques. Bien sˆur, plus la valeur de τ est grande, plus le risque de voir se d´evelopper un r´egime dont la p´eriode est fond´ee sur l’un de ces harmoniques est grande.

La p´eriode “captur´ee” est donc celle qui domine le spectre. Pour mesurer les caract´eristiques de cette capture, on d´efinit des s´equences de motifs al´eatoires pour des p´eriodes allant de 2 `a 12. Chaque motif est d´efini selon les param`etres ¯I = 0, σ_I = 0.1. Pour chaque valeur de τ , on tire diff´erents couples (R´eseau, S´equence), et on mesure la p´eriode captur´ee. Les valeurs trouv´ees sont alors r´eparties sur un histogramme (voir figure 3.29).

On voit donc que pour des s´equences de p´eriode 2 ou 3, la capture est conforme `

a la p´eriode impos´ee. Il existe n´eanmoins une minorit´e de r´eseaux pour lesquels une autre p´eriode reste dominante dans le spectre. On peut penser que celle-ci correspond soit `a la p´eriode de la dynamique spontan´ee, soit `a un multiple de la p´eriode impos´ee.

`

150 Dynamique spontan´ee et dynamique contrainte

Fig. 3.30 – Signaux de phase avant et apr`es imposition d’un motif dy-namique de p´eriode 3. Les deux diagrammes correspondent `a des classements diff´erents sur les signaux de phase. Param`etres : N = 100, σ_I = 0.1, ¯I = 0,

¯

θ = 0.4, σ_θ = 0.3, ¯J = 0, σ_J = 1.

Dans presque la moiti´e des cas, l’harmonique 2 est dominante. Ce choix indiff´erent entre la p´eriode fondamentale et ses harmoniques semble r´eduire les chances de capter la p´eriode fondamentale lorsque τ augmente. Par exemple, pour un signal de p´eriode τ = 12, la probabilit´e d’apparition associ´ee `a la p´eriode τ = 12 est `a peu pr`es ´egale `a la probabilit´e d’apparition de chacun de ses harmoniques 6, 4, 3 et 2.

Si, par exemple, l’harmonique τ = 4 domine le spectre pour une stimulation de p´eriode τ = 12, et que le syst`eme tend `a produire un circuit d’activation de p´eriode 4, on peut dire qu’il “interpr`ete” de la mˆeme fa¸con sur ses sorties les 3 s´equences de p´eriode 4 qui forment la s´equence compl`ete.

Effet sur le circuit d’activation

La pr´esentation d’un motif dynamique introduit une nouvelle p´eriode qui pro-duit une r´eorganisation du circuit d’activation. Sur la figure3.30, on a repr´esent´e les signaux de phase class´es avant et apr`es pr´esentation d’une s´equence de p´eriode 3.

Comme on pouvait s’y attendre, le signal d’entr´ee impose donc un circuit d’activation qui est sans rapport avec le circuit d’activation produit en dynamique spontan´ee. Contrairement aux motifs statiques qui tendent `a produire un circuit “arbitraire”, tout motif dynamique p´eriodique impose un circuit de p´eriode fixe.

3.3 Sensibilit´e dynamique 151

Conclusion Locale

Ce chapitre a permis de mettre en avant l’organisation qui se met en place dans le syst`eme, spontan´ement ou sous la contrainte d’une entr´ee ext´ e-rieure. Le terme “organisation” se r´ef`ere ici `a la possibilit´e de cat´egoriser les neurones en classes distinctes. Lorsque le classement porte sur le ni-veau d’activit´e des neurones (neurones actifs/neurones inactifs), on parle de configuration spatiale du syst`eme. Lorsque le classement porte sur les caract´eristiques de phase des signaux ´emis par les neurones, on parle de configuration dynamique. La r´epartition homog`ene des neurones entre ces diff´erentes classes dynamiques est assur´ee par les propri´et´es de d´ecorr´ ela-tion prouv´ees dans le cadre du champ moyen. On a montr´e que l’appa-rition d’un r´egime cyclique `a la d´estabilisation s’accompagne de la mise en place d’un circuit d’activation, correspondant `a l’activation en chaˆıne des diff´erentes classes (ou paquets) de neurones, et dont les caract´eristiques spatiales et temporelles se maintiennent jusque dans les r´egimes chaotiques. On a constat´e par ailleurs que la p´eriode de ce circuit d’activation d´epend fortement de la configuration spatiale des activations `a la d´estabilisation. Cette configuration spatiale pr´esente deux propri´et´es : – 1 – elle tend `a res-ter la mˆeme pour toutes les valeurs de g, c’est `a dire pour tous les r´egimes dynamiques, et – 2 – elle tend `a ´evoluer r´eguli`erement selon les modifi-cations effectu´ee sur les seuils du syst`eme. C’est donc en agissant sur les seuils, et non sur les conditions initiales comme dans le mod`ele de Hop-field, que l’on apporte au syst`eme une information susceptible de modifier son comportement dynamique, en agissant directement sur la configuration spatiale, et par ricochet en modifiant le circuit d’activation. L’extrˆeme sen-sibilit´e du syst`eme `a toute modification de ses entr´ees se manifeste par une reconfiguration du r´eseau.

La pr´esentation de motifs dynamiques de p´eriode τ impose au syst`eme une modulation explicite de son activit´e dynamique. La p´eriode impos´ee, ou l’une de ses harmoniques, domine la dynamique contrainte et conditionne alors le circuit d’activation.

Cette ´etude des propri´et´e d’organisation du syst`eme est un pr´ealable in-dispensable `a la mise en place des algorithmes d’apprentissages d´ecrits dans les chapitres suivants. Ces m´ecanismes de cat´egorisation neuronale permettent de comprendre ensuite le fonctionnement de l’apprentissage.

Chapitre 4

Apprentissage : une dynamique

sur les poids

Notre ´etude sur les dynamiques spontan´ees et contraintes a mis en avant quelques propri´et´es int´eressantes. En dynamique spontan´ee, Les signaux produits par le r´eseau t´emoignent d’une grande vari´et´e de formes et de p´eriodes. Une analyse approfondie de ces signaux permet de diff´erencier les neurones actifs des neurones inactifs (configuration spatiale), ainsi que des circuits d’activation (configuration dynamique). Il s’av`ere en fin de compte qu’`a proximit´e de la d´estabilisation, l’entretien de la dynamique repose sur quelques paquets de neurones actifs qui propagent un signal en chaˆıne d’un paquet de neurones `a l’autre, le nombre de paquets d´eterminant approximativement la p´eriode.

Cette forme d’organisation est sensible `a toute perturbation induite par un motif statique ou dynamique. Un motif statique, par exemple, d´eplace les valeurs des potentiels des neurones, de sorte que certains neurones ac-tifs deviennent inacac-tifs, et certains neurones inacac-tifs deviennent acac-tifs, ce qui tend `a perturber l’organisation spontan´ee et la plupart du temps `a en cr´eer une nouvelle tout `a fait diff´erente. Cette nouvelle organisation peut modifier profond´ement `a la fois la p´eriode et le r´egime dynamique du si-gnal. Chaque motif statique diff´erent peut ainsi produire une organisation dynamique qui lui est propre. Dans le cas de motifs p´eriodiques, la p´eriode impos´ee tend `a se substituer `a la p´eriode spontan´ee, ce qui conditionne ´

egalement l’apparition d’un nouveau circuit d’activation.

Le r´eseau poss`ede donc potentiellement une multitude d’organisations dy-namiques diff´erentes. Chacune peut a priori ˆetre interpr´et´ee comme tˆache cognitive diff´erente. Il apparaˆıt `a pr´esent judicieux de mettre en place une r`egle d’apprentissage qui modifie au mieux les poids du r´eseau afin que les propri´et´es non sp´ecifiques observ´ees sur les dynamiques spontan´ees et contraintes acqui`erent un caract`ere de sp´ecificit´e. On veut que le choix de l’organisation dynamique adopt´ee soit conditionn´e par l’apprentissage. Le pr´esent chapitre d´efinit quelques r`egles d’apprentissage et d´ecrit leurs

154 Apprentissage : une dynamique sur les poids

modes d’action sur l’organisation dynamique. Toutes les r`egles pr´esent´ees se fondent sur la r`egle de Hebb.

La section 4.1 pr´esente deux r`egles d’apprentissage qui ont ´et´e ´etudi´ees en premier lieu dans le cadre de l’apprentissage sur ce mod`ele. La r`egle initiale, fond´ee sur le produit des activations, est pr´esent´ee section 4.1.1. Une version modifi´ee de cette r`egle, qui introduit la notion d’habituation et se fonde sur des diff´erentiels de niveau d’activation est pr´esent´ee section

4.1.2.

La section4.2pr´esente la r`egle qui sera utilis´ee dans le cours de cette th`ese, qui est une r`egle fond`ee sur la covariance effective entre neurone aff´erent et neurone r´ecepteur. La section 4.2.1 d´ecrit la r`egle d’apprentissage `a proprement parler. La section 4.2.2montre que les valeurs des covariance entre neurones se r´epartissent selon une loi de puissance. La section4.2.3

montre l’effet du processus d’apprentissage sur la dynamique spontan´ee du r´eseau et la matrice des poids.

La section4.3met en œuvre l’apprentissage dans le cadre de la dynamique contrainte, dans le cas de motifs statiques (section 4.3.1), de motifs dyna-miques p´eriodiques (section 4.3.2) et enfin dans le cas mixte o`u les motifs statiques sont assimil´es `a des motifs conditionnants (section 4.3.3)

4.1 Historique

En pratique, il a fallu plusieurs essais, plusieurs campagnes de tests pour trouver une r`egle qui pr´esente au mieux les propri´et´es recherch´ees. Pour ne pas alourdir le document, je me contenterai d’un bref rappel du cheminement qui a conduit au choix final.

Toutes ces r`egles se fondent sur le mˆeme principe, celui de Hebb, c’est `a dire sur un calcul de corr´elations entre l’´etat d’un neurone source et celui d’un neu-rone cible. Il s’av`ere que certaines sont meilleures que d’autres, pour des raisons qui tiennent `a la structure du r´eseau et `a la nature des dynamiques qui s’y d´ eve-loppent.

Mˆeme si le choix final d’une r`egle portant sur la composante dynamique du signal paraˆıt naturel au vu de ce qui a ´et´e pr´esent´e dans la premi`ere partie, c’est aussi parce que certaines r`egles d’apprentissage ne conduisaient pas aux r´esultats recherch´es que l’on a ´et´e amen´e `a se pencher sur certains aspects plus subtils de la dynamique qui se d´eveloppe dans le r´eseau. Il faut donc voir que certains r´esultats pr´esent´es pr´ec´edemment dans le cadre de la dynamique spontan´ee proviennent aussi d’interrogations qui ont ´et´e soulev´ees par l’´etude de l’apprentissage.