Nous avons mis en place dans ce chapitre le cadre th´eorique d’une m´ethode de boosting r´esistante aux donn´ees bruit´ees. Cette m´ethode repose sur la mise en ´evidence de trois cat´egories d’exemples, relativement `a leur impact sur les perfor-mances d’une m´ethode classique de boosting telle que AdaBoost : les outliers, qui peuvent d´egrader les performances de l’hypoth`ese finale, les exemples situ´es en zone d’erreur bay´esienne, qui peuvent ralentir la convergence vers l’erreur opti-male, et ceux situ´es dans les centres de clusters, qui n’apportent pas d’information suppl´ementaire dans le processus d’apprentissage.
En supposant avoir acc`es, via un oracle, `a une information sur la confiance d’un exemple, la m´ethode que nous proposons consiste `a r´eduire invariablement le poids des exemples appartenant aux deux premi`eres cat´egories. Ainsi, leur impact sur les performances de l’hypoth`ese finale est limit´e, voire annihil´e. Les exemples de centre de clusters se voient quand `a eux pond´er´es de la mˆeme mani`ere qu’avec AdaBoost, qui tend ´egalement `a diminuer leurs poids. Sous condition d’une nouvelle hypoth`ese d’apprentissage faible, nous avons fourni plusieurs r´esultats th´eoriques prouvant que notre algorithme OraBoost est bien un algorithme de boosting.
Il s’agit `a pr´esent de mettre notre solution en pratique. C’est l’objet du cha-pitre suivant, qui propose notamment une approche g´en´eraliste de mise en oeuvre d’un oracle, et l’application de celle-ci dans le cas de donn´ees num´eriques d’une part, et de donn´ees symboliques d’autre part.
4 Application d’OraBoost
aux données numériques et
symboliques
R´esum´e :Ce chapitre pr´esente une mise en pratique du mod`ele th´eorique pr´esent´e pr´ec´edemment. Cette mise en oeuvre n´ecessitant l’utilisation d’un oracle de confiance, nous pr´esentons tout d’abord une simulation de celui-ci. Ensuite, nous appliquons notre mod`ele au cas de donn´ees num´eriques, avant de l’exploiter dans le cadre de l’inf´erence grammaticale, domaine manipulant des s´equences de caract`eres.
4.1 Simulation d’un oracle de confiance
Nous nous int´eressons dans cette section `a la mise en oeuvre d’un oracle de confiance. En pratique, nous pouvons assimiler celui-ci `a un expert du domaine ´etudi´e capable de certifier ou non la l´egitimit´e de l’´etiquette d’un exemple. Son
existence est tout `a fait cr´edible dans les domaines o`u le niveau d’expertise est
suffisant. Ceci n’est malheureusement pas toujours le cas, et afin de pouvoir ap-pliquer notre sch´ema de boosting sur un large spectre de probl`emes r´eels, nous allons devoir parfois simuler le comportement d’un oracle. Dans cette section, nous d´ecrivons une approche empirique permettant d’effectuer cette simulation, avec comme objectif principal de s’assurer qu’une confiance positive donn´ee par l’oracle correspond `a un exemple dont l’´etiquette est tr`es probablement correcte. Nous proposons ici une strat´egie qui pourrait s’apparenter aux m´ethodes dites de co-training (Blum & Mitchell, 1998). Ces m´ethodes sont utilis´ees lorsque l’on dispose d’une certaine quantit´e d’exemples, dont seule une petite proportion est ´etiquet´ee. On suppose par ailleurs qu’il existe une partition naturelle des attri-buts des exemples en deux sous-ensembles d’attriattri-buts, ce qui revient `a consid´erer
que l’on dispose de deux repr´esentations diff´erentes des donn´ees. Un algorithme d’apprentissage auxiliaire apprend un mod`ele `a partir d’une des deux repr´esen-tations des exemples ´etiquet´es. Ce mod`ele est alors utilis´e pour ´etiqueter les exemples qui ne le sont pas encore. Un algorithme d’apprentissage utilise ensuite le deuxi`eme sous-ensemble d’attributs, et la totalit´e des exemples, d´esormais tous ´etiquet´es, pour construire un mod`ele final. Dans notre cas, l’oracle joue le rˆole de l’algorithme d’apprentissage auxiliaire. Cependant, il exploite la mˆeme repr´e-sentation des donn´ees que l’algorithme principal. De plus, plutˆot que d’´etiqueter des exemples qui ne le sont pas, il fournit une information suppl´ementaire sur la confiance en l’´etiquette des exemples. Nous proposons ici une strat´egie bas´ee sur un graphe de voisinage, qui permet de distinguer g´eom´etriquement les exemples
douteux des exemples sˆurs.
Nous pensons que les graphes des k plus proches voisins (k ppv) (Cover & Hart, 1967) sont particuli`erement adapt´es pour traiter un tel probl`eme.
Rappe-lons qu’une hypoth`ese de k ppv attribue la classe d’un exemple ei en calculant la
classe majoritaire parmi les k exemples de E qui sont les plus proches de ei. Cette
m´ethode, au-del`a du fait que son erreur limite est th´eoriquement born´ee par deux fois l’erreur bay´esienne, est tr`es r´esistante au bruit. En effet, un exemple bruit´e isol´e au milieu d’exemples de la classe oppos´ee a un impact tr`es limit´e sur la r`egle de classification. La propri´et´e duale que l’on peut d´eduire de la remarque pr´ec´e-dente, est qu’un exemple bruit´e peut ˆetre plus facilement d´etect´e en analysant son voisinage. Si ses performances en g´en´eralisation, en tant qu’hypoth`ese d’ap-prentissage, sont une bonne indication des capacit´es d’une hypoth`ese de k ppv, elles ne seront pas au centre de notre ´etude. Le but est plutˆot ici d’exploiter au mieux ce graphe comme oracle pour optimiser les performances du boosting.
D´efinissons la fonction de marge m(ei) d’un exemple ei de classe yi calcul´ee `a l’aide d’un graphe des k ppv :
m(ei) = Nyi− Nyi Nyi+ Nyi,
o`u Nyi (resp. Nyi) d´esigne le nombre d’exemples parmi les k plus proches voisins de ei ´etant de la mˆeme classe yi (resp. ´etant de la classe oppos´ee yi). Un exemple n’ayant que des voisins de la classe oppos´ee `a la sienne (resp. de la mˆeme classe)
recevra une marge de −1 (resp. +1). Mˆeme si m(ei) semble repr´esenter d’une
certaine mani`ere la valeur de confiance q(ei) utilis´ee dans le chapitre pr´ec´edent,
poser q(ei) = m(ei) ne serait pas judicieux. En effet, la r`egle de classification
d’un k ppv assure simplement la minimisation de l’erreur empirique, et ce n’est pas ce qui nous int´eresse ici. Nous cherchons `a fournir une mesure pertinente
de la confiance des exemples, en nous assurant que les valeurs positives de q(ei)
correspondent aux ei ayant une ´etiquette correcte, dans (100 − ǫ) % des cas (avec
4.2. R´esultats exp´erimentaux sur donn´ees num´eriques 71