Les diff´ erents types de r´ eseaux de neurones

L’ensemble des poids ωj sont ind´ependants les uns par rapports aux autres.

Plusieurs fonctions d’activation sont possibles. Elles d´eterminent les valeurs transmises par le neurone (ici, l’analogie avec la biologie s’arrˆete car le neurone nerveux est typique- ment une fonction seuil : l’information passe `a sa valeur maximale ou pas du tout). Elles sont s´electionn´ees selon le type de fonction `a interpoler, les propri´et´es qu’elles attribuent au r´eseau de neurones ou bien la position du neurone dans le r´eseau. La Figure 2.2 pr´esente les fonctions d’activation les plus usuelles. Les fonctions “seuil” ou “pic” sont ´egalements courantes. Les fonctions d’activation sont d´efinies en g´en´eral entre [−1; 1] en abscisse et [0; 1] en sortie. Les abscisses repr´esentent les valeurs de la somme pond´er´ee des entr´ees des fonctions (i.e. des neurones) et les ordonn´ees leur valeur de sortie.

2.1.2

Les diff´erents types de r´eseaux de neurones

Telle la biologie, les neurones n’ont de r´eelles capacit´es que lorsqu’ils sont structur´es en r´eseau. Il existe diff´erents types de r´eseaux car `a l’image de ce qu’il se passe dans un cerveau, le fonctionnement d’un r´eseau de neurones est grandement influenc´e par

couche de sortie 3 4 1 2 couches cachees 1 2

x

x

x

x

y

y

Entrees Sorties

Figure 2.3 – Perceptron multicouches

les connexions entre les neurones. Nous allons voir dans cette section une ´etude non- exhaustive et succincte des diff´erents types de r´eseaux existants ; pour un ´etat de l’art plus complet et d´etaill´e, se r´ef´erer aux ouvrages [Per03, Dre08].

Sch´ematiquement, les RNA peuvent ˆetre s´epar´es en deux cat´egories : statique et dyna- mique. Ils diff`erent tant au niveau de leur architecture (ou topologie) que de leur fonction. 2.1.2.1 R´eseaux de neurones statiques ou non boucl´es

Les r´eseaux statiques sont des r´eseaux `a propagation-avant (feedforward neural net- work), qui ne comportent donc aucune connexion “arri`ere”. L’information est transmise des premiers neurones vers les neurones de sorties et les neurones sont organis´es en couches. La structure la plus simple est le perceptron car il ne poss`ede qu’une couche de neu- rones : la couche de sortie. Il se peut que dans la litt´erature les entr´ees soient consid´er´ees ´

egalement comme une couche. ´Etant donn´e qu’aucun neurone n’est pr´esent en entr´ee, nous ne consid´ererons pas de couche d’entr´ee. La version plus complexe - le perceptron multicouches (PMC) - correspond `a l’ajout d’une ou plusieurs couches, dites cach´ees, entre les entr´ees et la couche de sortie. La Figure 2.3 illustre un PMC `a deux couches cach´ees. Pour information, le nombre d’entr´ees et de sorties sp´ecifi´ees dans cette figure est `a titre d’exemple. De fait, le nombre et la nature de ces param`etres d´ependent de la fonction `a simuler.

Grˆace `a ces r´eseaux, les fonctions sont approxim´ees par d´ecomposition en ´el´ements simples de Taylor : ils peuvent donc mod´eliser une ou plusieurs fonctions alg´ebriques complexes. Le nombre de neurones sera d´ependant de la complexit´e des fonctions `a inter- poler : plus l’ordre de ces fonctions est ´elev´ee, plus le nombre est important.

2.1 D´efinition d’un r´eseau de neurones artificiels 49 Les perceptrons multicouches lorsqu’ils sont associ´ees aux bonnes fonctions d’activa- tion pr´esentent la particularit´e d’ˆetre des approximateurs universels [Cyb89, Hor89]. En fait, ce r´esultat a ´et´e ´etabli pour un r´eseau de neurones comportant une couche de neu- rones cach´es en nombre fini, avec la mˆeme fonction d’activation, et un neurone de sortie lin´eaire. Il est fortement recommand´e de choisir une fonction d’activation de type sigmo¨ıde pour les neurones cach´es [Joa02, Pie04, Dre08].

Ce type de r´eseaux est utilis´e principalement pour traiter des probl`emes de classifi- cation [Aru03], de reconnaissance de forme [Art05] ou mˆeme de pr´ediction [Isa10]. En revanche le temps n’intervient pas comme variable fonctionnelle, ce qui signifie que le r´eseau n’a pas de m´emoire et que les sorties qui sont g´en´er´ees `a un instant t + 1 ne d´ependent pas des sorties g´en´er´ees `a l’instant t. Ils mod´elisent donc des probl`emes sta- tiques qui n’´evoluent pas en fonction du temps.

2.1.2.2 R´eseaux de neurones dynamiques ou boucl´es `

A l’inverse des r´eseaux statiques, les r´eseaux boucl´es pr´esentent des connexions vers l’“arri`ere”. Cette approche consiste `a introduire, en plus des entr´ees et des sorties, un ensemble de variables, dites d’´etat, permettant de d´ecrire l’´etat du r´eseau `a un instant pass´e. La forme canonique ram`ene le r´eseau initial `a un r´eseau non boucl´e dont les va- riables d’´etat sont ramen´ees aux entr´ees avec un retard d’un pas de temps. La Figure 2.4 montre la forme canonique d’un tel r´eseau.

1 1

Réseau statique

u (t)_i y (t+1)_j x (t)k x (t+1)_k variables d'état variables d'état Figure 2.4 – Sch´ema d’un r´eseau boucl´e

D’apr`es la Figure 2.4, les sorties y `a l’instant t d´ependent non seulement des entr´ees u externes `a t, mais aussi (via les variables d’´etat x) de la s´equence des entr´ees externes pr´ec´edente (et de l’initialisation des variables d’´etat). Ces r´eseaux sont principalement utilis´es en automatique ´etant donn´e leur nature dynamique. Ils peuvent servir en tant que commande de processus, de filtrage ou toute autre fonction dont les param`etres finaux sont d´ependants des instants pr´ec´edents.

D’autres types de r´eseaux boucl´es existent tels les r´eseaux de Hopfield qui ne pr´esentent pas d’entr´ees externes, si ce n’est l’initialisation des ´etats des neurones. Pour connaˆıtre plus en d´etails ces r´eseaux, on pourra consulter [Per03, Dre08].

2.1.2.3 Choix du r´eseau

Bien que notre probl´ematique du mouvement pulmonaire puisse ˆetre consid´er´ee comme une simulation dynamique dans le temps, notre choix s’est port´e sur une structure de RNA non boucl´e du type PMC `a une couche cach´ee. En effet, `a l’heure actuelle, nous ne poss´edons pas de donn´ees variables dans le temps qui justifieraient l’emploi d’un r´eseau dynamique. Aussi, un r´eseau de neurones non boucl´e est bien adapt´e en consid´erant le temps comme une variable d’entr´ee (et non comme variable fonctionnelle). De plus, la propri´et´e d’approximation universelle des PMC nous apporte une garantie suppl´ementaire sur la faisabilit´e de la simulation du mouvement pulmonaire.

Dans le document Simulation du mouvement pulmonaire personnalisé par réseau de neurones artificiels pour la radiothérapie externe (Page 66-69)