Crit` eres de performance li´ es ` a l’incertitude

  n X j=1 ρjUj+ n X l=1 βlCl    (1.3)

Ce crit`ere est compos´e par la somme pond´er´ee de deux composantes :

– Les termes en j repr´esentent l’esp´erance des mesures des incertitudes par rapport `a l’´etat r´eel du syst`eme ; ou encore, par rapport `a la pr´ecision n´ecessaire pour atteindre le but. Dans le cadre bay´esien, l’estimation de l’incertitude est bas´ee sur une distribution de probabilit´e sur les ´etats atteignables du syst`eme ;

– Les termes en l repr´esentent l’esp´erance des coˆuts, par exemple, ceux associ´es aux d´eplacements du robot : ´energie, temps, distances aux obstacles, distance au but. Uj et Cl, sont fonctions de la s´equence a1, ..., an. Les pond´erations ρj et βl attribuent un poids diff´erent aux deux termes, et sont des param`etres r´egl´es arbitrairement par le concepteur.

Dans la suite nous pr´esentons quelques crit`eres de performance li´es `a l’incertitude g´en´ erale-ment utilis´es dans la litt´erature de la perception active. Ces crit`eres de performance peuvent ˆetre s´epar´es selon la prise en compte dans les d´ecisions du court ou long terme. Nous rappe-lons que, en ce qui concerne notre application de d´etection et reconnaissance de cibles, nous souhaitons mettre en place des d´ecisions s´equentielles `a long terme, parce que la perception n’est pas seulement une fin en soi, mais aussi un moyen, indispensable au bon accomplisse-ment de la mission tout en tenant compte des coˆuts li´es aux actions de d´eplacement ou de changement d’angle de vue.

1.2.2 Crit `eres de performance li ´es `a l’incertitude

La d´ecision autonome associ´ee `a la perception active se base tr`es fortement sur une mesure de l’incertitude de la croyance courante, souvent d´efinie par une distribution de probabilit´e sur les ´etats du syst`eme dans le cadre bay´esien. Dans la perception active pour la reconnaissance d’une sc`ene ou d’un objet, l’utilit´e d’une observation est d´etermin´ee par le gain d’information. Plusieurs travaux utilisent l’entropie de Shannon pour quantifier l’information associ´ee `a l’´etat de croyance [Burgard et al., 1997, Deinzer et al., 2003, Eidenberger et al., 2009, Eidenberger et Scharinger, 2010]. D’autres utilisent la mesure d’information mutuelle entre deux points de vue diff´erents [Deguchi et Ohtsu, 2006, Yu et al., 2009], ou encore, la divergence de Kullback–Leibler [Candido et Hutchinson, 2011]. Ces fonctions sont pr´esent´ees dans la suite, en nous basant sur l’ouvrage [Cover et Thomas, 2006].

D´efinition 1.2.1 L’entropie de Shannon d’une variable al´eatoire discr`ete X sur un en-semble X est d´efinie par :

H(X) = −^X

x∈X

p(x) log(p(x)) (1.4)

o`u p(x) est la fonction de masse de probabilit´e, c’est-`a-dire, la fonction qui donne la probabi-lit´e d’un r´esultat ´el´ementaire d’une exp´erience telle que p(x) = P r(X = x), x ∈ X . Notons que, 0 ≤ H(X) ≤ log(|X |), o`u |X | repr´esente le nombre total d’´el´ements de l’ensemble X , et que H(X) est maximale quand X est une distribution ´equiprobable sur tous les ´el´ements x ∈ X , ce qui repr´esente, dans le cadre bay´esien, l’absence totale d’information.

L’entropie jointe de deux variables al´eatoires X et Y avec une fonction de masse conjointe p(x, y) peut ˆetre ´etablie ´egalement : H(X, Y ) = −^X

x∈X

X

y∈Y

p(x, y) log(p(x, y)).

D´efinition 1.2.2 L’entropie d’une variable al´eatoire Y conditionn´ee `a la variable al´eatoire X, H(Y |X) est d´efinie par :

H(Y |X) = ^X x∈X p(x)H(Y |X = x) (1.5) = −^X x∈X p(x)^X y∈Y p(y|x) log(p(y|x)) (1.6) = ^X x∈X X y∈Y p(x, y) log(p(y|x)) (1.7)

D´efinition 1.2.3 On consid`ere deux variables al´eatoires X et Y avec une fonction de masse jointe p(x, y) et avec des fonctions de masse marginales p(x) et p(y). La mesure d’informa-tion mutuelle I(X, Y ) est l’entropie relative entre la distribud’informa-tion jointe et le produit des distributions marginales : I(X, Y ) = ^X x∈X X y∈Y p(x, y) log ^{p(x, y)} p(x)p(y) ^(1.8)

L’information mutuelle permet de mesurer le gain d’information d’une variable al´eatoire par rapport `a une autre, et peut ˆetre ´ecrite en fonction de l’entropie conditionnelle :

I(X, Y ) = H(X) + H(Y ) − H(X, Y ) (1.9)

= H(X) − H(X|Y ) (1.10)

= H(Y ) − H(Y |X) (1.11)

D ´ecision `a court terme :

Dans [Burgard et al., 1997], la localisation active est pr´esent´ee avec l’objectif d’estimer la localisation du robot `a partir de donn´ees extraites de capteurs. Ceci en supposant que durant le proc´ed´e de localisation, l’agent dispose d’un acc`es total ou partiel aux commandes de ses capteurs et de ses actionneurs. L’id´ee cl´e de cette approche est que l’efficacit´e de la localisation est am´elior´ee par les commandes actives de la direction des d´eplacements du robot et de ses capteurs. Le principe est de contrˆoler les actionneurs du robot afin de minimiser l’esp´erance de l’incertitude de la distribution de probabilit´e b sur les positions possibles, soit l’´etat de croyance ou l’hypoth`ese courante. Ce crit`ere est mod´elis´e par l’esp´erance de l’entropie de Shannon sur l’´etat de croyance E_a(H(b)), et le coˆut du d´eplacement en jeu c(a).

a^∗ = arg min

a

(Ea(H(b)) + σc(a)), avec σ > 0 (1.12)

1.2. Perception active

La localisation active, pr´esent´ee dans [Burgard et al., 1997], calcule une distribution de probabilit´e b sur toutes les localisations possibles dans l’environnement. Donc, pour r´eduire l’incertitude sur l’estimation de l’´etat, le robot doit choisir l’action qui peut l’aider `a mieux distinguer les diff´erentes positions. Autrement dit, il doit diminuer l’entropie de sa distri-bution de probabilit´e sur ses positions possibles apr`es chaque action. L’avantage de cette approche est que les coˆuts de d´eplacement sont pris en compte, mais, par contre, contrai-rement `a ce que nous souhaitons, il n’y a pas de projection `a long terme. Le crit`ere de performance ici peut ˆetre vu comme un crit`ere local. Le robot choisit l’action qui lui rap-porte imm´ediatement une mesure plus certaine sur sa position avec un coˆut minimum.

Le mˆeme crit`ere de performance est utilis´e dans [Eidenberger et al., 2008] pour la s´election des points de vue ; par contre ce travail ne tient pas compte des coˆuts associ´es aux actions. De plus, une fois qu’un point de vue est choisi par l’agent, il est ensuite p´enalis´e, afin d’´eviter que l’agent r´ealise des prises de vue avec le mˆeme jeu de param`etres. Grˆace au crit`ere de minimisation local, l’estimation de l’´etat va ˆetre am´elior´ee `a chaque instant de d´ecision, par contre l’optimalit´e vis-`a-vis d’un crit`ere global (projection `a long terme) ne peut pas ˆetre garantie.

Dans [Deguchi et Ohtsu, 2006] le crit`ere est d´efini en termes de r´eduction d’incertitude et d’ambigu¨ıt´e de l’observation. L’objectif est de r´eduire le nombre d’´etapes pour la d´ecision finale de reconnaissance d’un objet parmi d’autres enregistr´es dans la base de donn´ees. Les autheurs se sonnent comme objectif de r´eduire le nombre d’´etapes pour la reconnaissance, mais il d´efinissent toutefois un crit`ere local de d´ecision, c’est-`a-dire `a court terme. Le crit`ere cherche `a s´electionner `a l’´etape t le point de vue imm´ediat de l’´etape t + 1 qui maximise le gain d’information entre b_t et b_t+1, qui est quantifi´e par la mesure d’information mutuelle :

I_a(b_t, b_t+1) = H(b_t) − H(b_t+1) (1.13)

= H(bt) − H(bt|a, o_t), (1.14)

o`u l’estimation de l’´etat bt est un vecteur dont chaque composante b<sup>i</sup><sub>t</sub> = P r(Obj = obji) repr´esente la probabilit´e `a l’instant t que i soit l’objet observ´e, o_t repr´esente l’image per¸cue apr`es r´ealisation de l’action a. Ensuite, l’action optimale est ´evalu´ee non seulement en termes de gain d’information, mais aussi en termes de coˆut pour obtenir cette nouvelle image. Les auteurs consid`erent le temps d´epens´e T_a comme coˆut pour amener la cam´era jusqu’`a la nouvelle position. L’action choisie `a l’instant t sera donc celle qui maximise l’information mutuelle avec un temps minimal :

a^∗ = arg max

a

I_a(b_t, b_t+1)

T_a ^{. (1.15)}

Une fois de plus nous tenons `a remarquer que, contrairement `a ce que nous souhaitons, il n’y a pas de projection `a long terme. Le crit`ere de performance peut ˆetre aussi vu comme un crit`ere local. Grˆace au crit`ere de minimisation local, l’estimation de l’´etat pour la reconnaissance va ˆetre am´elior´ee `a chaque instant de d´ecision, par contre l’optimalit´e vis-`a-vis d’un crit`ere global avec une projection `a long terme ne peut pas ˆetre garantie.

[Eidenberger et al., 2009] et [Eidenberger et Scharinger, 2010] mod´elisent le probl`eme de perception active en tant que Processus D´ecisionnel Markovien Partiellement Observable (POMDP). La r`egle de d´ecision optimale est d´efinie par une fonction de valeur (programma-tion dynamique) telle que :

V_t(b_t) = max at  r(b_t, a_t) + γ Z p(o_t+1|a_t, b_t)V_t−1(b^ot+1 at )do_t+1  , avec (1.16) r(b_t, a_t) = −ρE_o[H(b^ot+1 at )] + Z c(s, a_t)b_t(s)ds (1.17) 15

o`u, b<sub>t</sub> repr´esente l’´etat de croyance (distribution de probabilit´e sur les ´etats s) `a l’instant t, b^ot+1

at repr´esente l’´etat de croyance imm´ediat apr`es ex´ecution de at et observations de ot+1, Eo[H(b^ot+1

at )] repr´esente l’esp´erance de l’entropie sur les observations possibles apr`es la r´ealisation de l’action a<sub>t</sub>, c(s, a<sub>t</sub>) le coˆut associ´e `a l’action a_t et aux ´etats s, ρ une constante qui permet d’´equilibrer les deux crit`eres et γ le facteur d’actualisation. Toutefois, le POMDP en question n’est pas r´esolu pour l’obtention d’une politique. La d´ecision, pour l’obtention de l’action optimale π_t(b_t) = a^∗_t, est calcul´ee en ligne par un choix glouton d’action, tel que :

πt(bt) = arg max

at

[r(bt, at)] , (1.18)

Dans [Filliat et Meyer, 2000], la contribution consiste en des d´ecisions de moyen terme par rapport `a des d´eplacements et `a la construction incr´ementale des ´etats `a partir d’un mod`ele POMDP d´egrad´e. Le robot cherche `a construire la carte de son environnement `a partir du choix d’actions qui lui permettront de d´ecouvrir et d’acqu´erir plus d’information sur son environnement, ou du choix d’actions de d´eplacement vers des directions pour lesquelles il n’a encore aucune donn´ee. Malheureusement, dans ce travail aucun crit`ere de d´ecision n’est explicitement formalis´e.

D ´ecision `a long terme :

Dans [Deinzer et al., 2003], l’agent doit choisir des points de prise de vue pour faciliter la classification, en ´evitant des prises de vue ambigu¨es, ou en excluant certaines hypoth`eses d’identification. L’agent dispose d’une cam´era contrˆolable. La mod´elisation du probl`eme attribue une r´ecompense plus importante au choix du point de vue qui augmente la quantit´e d’information acquise en diminuant l’incertitude de l’´etat de croyance b sur les ´etats du syst`eme. La mesure de l’incertitude de l’´etat de croyance est exprim´ee par l’entropie. A l’instant t, le processus de d´ecision, c’est-`a-dire le choix du point de vue (par une politique π), aura pour but la maximisation de l’esp´erance accumul´ee et pond´er´ee des r´ecompenses futures. La r´ecompense, ici, ne d´epend pas des coˆuts li´es aux mouvements de la cam´era, mais seulement de la quantit´e d’information acquise :

π_t^∗(b) = arg max π E [Rt| b_t= b, π] , avec (1.19) Rt = − ∞ X n=0 γⁿH^π(bt+n+1). (1.20)

L’avantage de ce travail est la projection sur le long terme repr´esent´ee par l’esp´erance de la somme pond´er´ee des r´ecompenses futures. Comme exprim´e dans les ´equations 1.19 et 1.20, la r´ecompense `a l’instant t se rapporte seulement sur la somme des mesures de l’incertitude futures de l’´etat de croyance. Ceci est contraire `a ce que nous souhaitons faire, o`u les coˆut associ´es aux d´eplacement de la cam´era devront ˆetre pris en compte dans le crit`ere, ´etant donn´e que notre agent h´elicopt`ere d´epense du carburant pour ses d´eplacements.

Dans [Deutsch et al., 2004], le mˆeme genre de crit`ere de performance est utilis´e pour d´eterminer une s´equence d’actions optimale affectant des niveaux de zoom de la cam´era dans une tˆache de suivi d’objet pour un horizon de d´ecision k donn´e. L’action est s´electionn´ee afin de minimiser l’esp´erance de l’entropie de l’estimation d’´etat conditionnelle aux actions et observations pass´ees. Le mod`ele utilis´e pour l’estimation d’´etat est un filtre de Kalman ´etendu. Pour d´eterminer les actions optimales avant d’obtenir des observations, les auteurs utilisent l’entropie conditionnelle de l’estimation d’´etat courante par rapport `a une s´equence d’actions hai^k et observations hoi^k donn´ees. En moyennant sur toutes les s´equences d’obser-vations hoi^kpossibles, il est possible de retrouver la s´equence optimale d’actions (cf. [Deutsch