et ` a la mod´elisation
Recherche Op´erationnelle et Optimisation Master 1 I2L / ISIDIS
S´ebastien Verel verel@lisic.univ-littoral.fr
http://www-lisic.univ-littoral.fr/~verel
Universit´e du Littoral Cˆote d’Opale Laboratoire LISIC Equipe CAMOME
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Information
But, ´evaluation, objectifs, support de cours, bibliographie : cf. siteweb
Plan
1 Probl`emes d’optimisation combinatoire
2 Probl`emes d’optimisation num´erique
3 Optimisation
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Recherche Op´ erationnelle, m´ ethode d’optimisation
Origine historique
Expression utilis´ee au Royaume-Unis
Seconde guerre mondiale (1938, Royal Air Force) Optimisation des op´erations militaires
Recueil donn´ees station radar, gestion des avions, strat´egie sous-marins allemand
D´efinition contemporaine
Mod´elisation math´ematique d’un probl`eme,
puis r´esoudre ce probl`eme `a l’aide d’une m´ethode informatique
R´ esoudre des probl` emes
Probl`eme du monde r´eel
Des produits sont dans un entrepˆot.
But : Livrer les produits `a tous les clients.
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
R´ esoudre des probl` emes
Probl`eme du monde r´eel
Des produits sont dans un entrepˆot.
But : Livrer les produits `a tous les clients.
Client Dépot
Probl`eme abstrait
But : Minimiser la distance (le coˆut) parcourue en respectant les contraintes horaires
R´ esoudre des probl` emes
Probl`eme du monde r´eel
Des produits sont dans un entrepˆot.
But : Livrer les produits `a tous les clients.
Client Dépot
Probl`eme abstrait
But : Minimiser la distance (le coˆut) parcourue en respectant les contraintes horaires
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Une m´ ethodologie de r´ esolution de probl` eme
Principe
Transformer un probl`eme r´eel en probl`eme optimisation
Problème
Réel Problème
Optimisation Solution(s)
Modélisation Résolution
Mod´eliser :
Abstraire la r´ealit´e
Simplifier la r´ealit´e (nombre de param`etres, “bruit”, d´efauts,...)
Garder les ´el´ements pertinents par rapport au probl`eme `a r´esoudre
Une m´ ethodologie de r´ esolution de probl` eme
Principe
Transformer un probl`eme r´eel en probl`eme optimisation
Problème
Réel Problème
Optimisation Solution(s)
Modélisation Résolution
Concevoir un (bon) mod`ele :
Connaissance experte du domaine
Connaissance des m´ethodes de r´esolution (informatique)
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
D´ etour ou retour : Notion de complexit´ e
cf. cours en annexe : Notion de complexit´e
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Definition of an optimization problem
Optimization problem
Search space : Set of all feasible solutions, X
Objective function : Quality criterium f :X →IR Solving an optimization problem
Find the best solution according to the criterium x?=argmax f
the best solution, good ’robust’ solution...
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Definition of an optimization problem
Optimization problem
Search space : Set of all feasible solutions, X
Objective function : Quality criterium f :X →IR Solving an optimization problem
Find the best solution according to the criterium x?=argmax f
But, sometime, the set of all best solutions, good approximation of the best solution, good ’robust’ solution...
Contexte
Black box Scenario
We have only{(x0,f(x0)),(x1,f(x1)), ...} given by an ”oracle”
No information is either not available or needed on the definition of objective function
Objective function given by a computation, or a simulation Objective function can be irregular, non differentiable, non continous, etc.
Typologie des probl`emes
Optimisation combinatoire : Espace de recherche dont les variables sont discr`etes (cas NP-complet)
optimisation num´erique (continue): Espace de recherche dont les variables sont continues
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Exemple
Questions :
Calculer le nombre de grilles (solutions) possibles au sudoku.
Calculer le temps de traitement par l’ensemble des ordinateurs sur Terrre de ces solutions `a l’aide d’un algorithme ”it´eratif”.
Probl` eme SAT
Premier probl`eme NP-difficile (Cook, 1971) n variables bool´eennes :{x1,x2, ...,xn} litt´eral :l =xi oul = ¯xi
m clauses (disjonction de litt´eraux) :{C1,C2, ...,Cm} kj litt´eraux par clauseCj :{l1,j,l2,j, ...,lkj,j} :
Cj =Wkj
i=1li,j
Trouver l’affectation des variables telle la conjonction des clauses soit vraie :
Vm
j=1Cj
(cas sp´ecial, k-SAT lorsque kj =k)
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
SAT : Applications
V´erification de circuits (model checking), logique, planification, informatique...
cf. solver IBM, etc.
Planification avec SAT
Planification classique
n : Longueur maximale du plan.
Pour toute variable d’´etatv et ∀i ∈ {1, . . . ,n}: variables vi. vi vraie lorsque v vraie apr`es l’action num´ero i.
Pour toute actiona et pour touti ∈ {1, . . . ,n} : variablesai. ai vraie lorsque l’action num´eroi est a.
Exercice
Traduire par une formule SAT :
”L’action afait passer la variablev `a vraie lorsque celle-ci est fausse”.
”Lorsque le syst`eme est dans l’´etate et que l’action a s’effectue alors le syst`eme passe dans l’´etatf”.
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Planification avec SAT
Exercice
Rechercher `a l’aide du web ou de votre exp´erience des exemples de planification.
Exercice
Dessiner un (tr`es) petit labyrinthe.
2 souris doivent sortir de ce labyrinthe mais ne peuvent occuper un mˆeme couloir en mˆeme temps.
Traduire ce probl`eme de planification en probl`eme SAT.
Exercice
Faire traverser ”Le Loup, la Ch`evre et les choux” sur un bateau avec son fermier...
De SAT au probl` eme d’optimisation Max-SAT
Maximiser le nombre de clausesCj v´erifi´ees
f(x) = #{Cj : Cj(x) est vraie}
x est une solution de SAT ssi f(x) =m
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
SAT : Propri´ et´ es physiques !
r´ef´erence bib
Transition de phase suivant : α= mN = nombre de clauses nombre de variables
Siα < αc alors forte probabilit´e qu’une instance al´eatoire ait une solution Siαc < αalors faible probabilit´e qu’une instance al´eatoire ait une solution ... analogie avec la transition de phase entre eau et glace autour de 0◦C.
αc temp. critique
Coloration de graphe
Graphe :
G = (S,A) avecS ens. des sommets et A⊂S2 ens. des arcs
Coloration :
affectation d’une couleur `a chaque noeud
α:S →C avec C ={c1, . . . ,ck} Trouver une (k-)coloration telle que :
si (s,t)∈A alorsα(s)6=α(t)
Applications : affection de fr´equence en t´el´ephonie mobile, emploi du temps, coloration des cartes...
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Coloration de graphe
Affectation de fr´equences
Exercice
Des ´emetteurs radio sont dispos´es dans l’espace g´eographique.
Pour ´eviter les interf´erences, ils ne peuvent diffuser sur la mˆeme fr´equence si leur distance est inf´erieure `a une constanteD.
Traduire ce probl`eme en probl`eme de coloration de graphe.
sudoku : coloration de graphe ?
Exercice
Traduire le probl`eme de sudoku en un probl`eme de coloration de graphe.
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Voyageur de commerce (TSP)
Trouver le parcours le plus court passant par toutes les villes.
n : nombre de villes
drs : distance entre les villesr ets.
Exercice
Exprimer la fonction `a optimiser en fonction des param`etres du probl`eme.
Voyageur de commerce (TSP)
Trouver le parcours le plus court passant par toutes les villes.
n : nombre de villes
drs : distance entre les villesr ets.
Exercice
Exprimer la fonction `a optimiser en fonction des param`etres du probl`eme.
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Quadratic Assignment Problem (QAP)
Probl`eme d’affection quadratique
Minimiser le flux total (Exemple d’apr´es Taillard).
Quadratic Assignment Problem (QAP)
Minimiser le flux total n objets, n emplacements
fij : flot entre objectsi et j,
drs : distance entre emplacement r ets
Applications : r´epartition de batiments ou de servives, affectation des portes d’a´eroport, placement de modules logiques, claviers...
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Quadratic Assignment Problem (QAP)
Exercice
Traduire le probl`eme en un probl`eme d’optimisation en exprimant la fonction `a optimiser.
Vehicule Routing Problem (VRP)
But : transporter des biens `a des clients
V´ehicule `a capacit´e limit´ee, fenˆetre de temps, etc.
Probl`eme : D´eterminer pour chaque v´ehicule leur trajet de mani`ere
`a minimiser les coˆuts (temps, essence, etc.) Application : logistique du dernier kilom`etre, etc.
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Job Scheduling Problem
Ensemble de taches J ={j1,j2,j3, . . . ,jp} temps d’executionp(ji) R´ealis´es sur m machines M ={M1, . . . ,Mm}
Applications : ordonnancement, emploi du temps,...
Paysages NK
f(x) = 1 N
N
X
i=1
fi(xi;xi1, . . . ,xiK)
N nombre d’acides anim´es
K ≤N−1 nombres d’int´eraction entre ac. anim´es deux types d’ac. anim´e 0 ou 1
xk lekeme ac. anim´e d’une chainex {i1, . . . ,iK} ⊂ {1, . . . ,i−1,i+ 1, . . . ,N}
fi:{0,1}K+1→[0,1]
Application : mod´elisation de prot´eines
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
exemple N = 4 K = 2
x = 0110
x1x2x4 f1
000 0.9 001 0.6 010 0.1 011 0.2 . . . . . .
x1x2x3 f2
000 0.4 001 0.8 010 0.3 011 0.2 . . . . . .
x2x3x4 f3
000 0.2 . . . . . . 101 0.9 110 0.1 111 0.5
x1x2x4 f4
000 0.1 001 0.2 010 0.8 011 0.0 . . . . . .
f(x) = 14( f1(010) + f2(011) + f3(110) + f4(010) )
= 14( 0.1 + 0.2 + 0.1 + 0.8 )
= 0.3
Probl` eme du sac ` a dos
Exercice
Traduire en un probl`eme d’optimisation le probl`eme qui consiste `a remplir un sac `a dos avec le plus d’objets de valeur en tenant compte de leur encombrement.
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Docking mol´ eculaire
Position relative qui minimise l’´energie ´electrostatique
ADN - prot´eine ou proteine - prot´eine
(cr´edits S. Fiorucci, universit´e de Nice Sophia Antipolis)
Calibration de mod` ele
Mod´ele cognitif computationnel
stimuli
cognitive data Human
cognitive activity
parameters
stimuli
cognitive
Computational data
Model
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Un mod` ele, ` a quoi ¸ca sert ?...
Pourquoi faire un mod`ele ? Valeur explicative :
D´efinition et utilisation d’un vocabulaire formel pour d´ecrire le comportement cognitif
Approche th´eorique : apport de nouvelles connaissances scientifiques
Valeur pr´edictive :
Utilisation de la simulation d’un mod`ele pour pr´edire le comportement d’un humain
Approche pratique : par exemple en ergonomie
Charge cognitive
Definition
Cognitive Load (or mental workload) is the property emerging from the interaction between the requirements of the task, their
circumstances and the skills, behaviors, and perceptions of the user.
Working Memory (Sweller, 1988) : Problem solving, reasoning, language Attentional capacity :
Divided vs selective attention (Dual-Task Paradigm) Filter Theory of selective attention (Broadbent, 1958) Single channel theory (Welford, 1967, 1980)
Resource Theory (Kahneman, 1973 ; Wickens, 1984) Serial vs Parallel allocation of attention during Dual-Task ?
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Estimation de la charge cognitive
Methods :
Self-report measures (subjective) : uni or multi-dimensional scales (SWAT, NASA-TLX,...).
Physiological measures :
EEGs, Heart rate, Electrodermal activity, pupil diameter,...
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Tˆ ache de m´ emorisation de symboles
Description simple de la tˆache
Une suite de chiffres est ´enonc´ee `a un sujet Le sujet doit restituer cette suite
Quels sont les modalit´es/syst`emes cognitifs mis en jeu ?
Canal auditif
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Tˆ ache de m´ emorisation de symboles
Description simple de la tˆache
Une suite de chiffres est ´enonc´ee `a un sujet Le sujet doit restituer cette suite
Quels sont les modalit´es/syst`emes cognitifs mis en jeu ? M´emoire de travail
Canal auditif
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Un petit test
Protocole
A´ecritn chiffres
A dicte `aB cesn chiffres B restitue ensuite cesn chiffres Pendant ce tempsC ”prend” le pouls
R´esultats : R´eussite ou echec ? Tester avecn = 5 et/oun= 9.
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Un petit test
Protocole
A´ecritn chiffres
A dicte `aB cesn chiffres B restitue ensuite cesn chiffres Pendant ce tempsC ”prend” le pouls
R´esultats : R´eussite ou echec ? Tester avecn = 5 et/oun= 9.
7 +/−2
Estimation de la charge cognitive
Methods :
Self-report measures (subjective) : uni or multi-dimensional scales (SWAT, NASA-TLX,...).
Physiological measures :
EEGs, Heart rate, Electrodermal activity,pupil diameter,...
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Pupil Diameter (Task-evoked Pupillary Responses)
Digit span task
Encoding : increases Recall : decreases
Pupillary response correlates positively with increases in mental processing effort, or workload
(Backs and Walrath, 1992 ; Beatty, 1982 ; Granholm et
al., 1996 ; Just et al., 2003). Kahneman and Beatty (1966)
Task-evoked Pupillary Responses (TEPR)
Number studies have shown significant relations between pupillary responses and cognitive processes
Short-Term Memory (Kahneman and Beatty, 1966 ; Van Der Meer et al, 2005)
Language (Just and Carpenter, 1992)
Reasoning (Nuthmann and Van Der Meer, 2005)
Memory (Karatekin, Couperus, and Marcus, 2004 ; Van Der Meer, Friedrich, Nuthmann, Stelezl, and Kuchinke, 2005) Perception (Verney, Granholm, and Dionisio, 2001 ; Schlemmer el al, 2005)
...
and information seeking ?
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Etude et m´ ethodologie
Goal : Testing attentional load with dual-task paradigm 2 single tasks and 1 dual task
Vision: Word-Search (WS)
Target-word on a set of 12 words randomly displayed (same length)
Lexical Frequency (low vs high) Fitts’index (low vs high) Audition : Digit-Span (DS) Digit from 0 to n
Digits’ sequence (5 digits vs 9 digits) Phase (encoding vs recall)
Vison + Audition: Mixing WS and DS All previous factors
M´ ethodologie
Target +
+ Left bouton
3 sec.
Word search Target word
11 sec. (9 digits) +
+
Recall 10 sec. (5 digits) 18 sec. (9 digits) Encoding
Left bouton 3 sec.
7 sec. (5 digits)
Word Search +
+ Left bouton
3 sec.
Recall Encoding
18 sec. (9 digits) 10 sec. (5 digits) 11 sec. (9 digits) 7 sec. (5 digits) Target Target word
Word Search task Digit Span task Dual task
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
R´ esultats
R´ esultats : succession des essais pour un mˆ eme sujet
-1 0 1 2 3 4 5 6
0 5000 10000 15000 20000 25000 30000
diameter
time
-1 -0.5 0 0.5 1 1.5 2 2.5 3 3.5 4
0 5000 10000 15000 20000 25000 30000
diameter
time
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Pr´ e-traitement
Phase indispensable avant toute mod´elisation
How to build TEPRs :
No consensus in the litterature
TEPRs consist in aggregating pupil diameter over a period of fixed time.
Our construction method :
TEPRs on a variable period of time (Normalized TEPRs)
1 Filtering out saccades and blink related artifacts.
2 Smoothing the data with a low-pass filter
3 Resampling the data with a fixed number of points (250 pts)
Diam` etres pupillaires pour les 24 sujets : encodage
12 premiers sujets 12 derniers sujets
2.5 3 3.5 4 4.5 5
0 50 100 150 200 250 2.5
3 3.5 4 4.5 5
0 50 100 150 200 250
5 nombres `a m´emoriser
2.5 3 3.5 4 4.5 5
0 50 100 150 200 250
2.5 3 3.5 4 4.5 5
0 50 100 150 200 250
9 nombres `a m´emoriser
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Diam` etres pupillaires pour les 24 sujets : Rappel
12 premiers sujets 12 derniers sujets
2.5 3 3.5 4 4.5 5
0 50 100 150 200 250 2.6
2.8 3 3.2 3.4 3.6 3.8 4 4.2 4.4 4.6 4.8
0 50 100 150 200 250
5 nombres `a m´emoriser
2.8 3 3.2 3.4 3.6 3.8 4 4.2 4.4 4.6
0 50 100 150 200 250
2.6 2.8 3 3.2 3.4 3.6 3.8 4 4.2 4.4 4.6
0 50 100 150 200 250
9 nombres `a m´emoriser
Mod´ elisation
Questions
Nature de la mod´elisation :
Qu’est-ce qu’un mod`ele dans notre cas ? Comment d´efinir un comportement moyen ?
Exploitation de la mod´elisation :
Est-ce que la pupille est un marqueur de la charge cognitive pour ces taches ?
Est-ce que les taches sont trait´ees en parall`ele ou en s´erie ?
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Mod´ elisation
Questions
Nature de la mod´elisation :
Qu’est-ce qu’un mod`ele dans notre cas ?
Fonction fθd´ependant de param`etresθdu diam`etre pupillaire en fonction de l’unit´e de temps pour chacune des situations Comment d´efinir un comportement moyen ?
Voir plus loin
Exploitation de la mod´elisation :
Est-ce que la pupille est un marqueur de la charge cognitive pour ces taches ?
Variation non standart (lumi`ere, etc.) du diam`etre de la pupille Est-ce que les taches sont trait´ees en parall`ele ou en s´erie ? Relation entre les mod`eles pour chaque situation
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Mod´ elisation
Questions
Nature de la mod´elisation :
Qu’est-ce qu’un mod`ele dans notre cas ?
Fonction fθd´ependant de param`etresθdu diam`etre pupillaire en fonction de l’unit´e de temps pour chacune des situations Comment d´efinir un comportement moyen ?
Exploitation de la mod´elisation :
Est-ce que la pupille est un marqueur de la charge cognitive pour ces taches ?
Variation non standart (lumi`ere, etc.) du diam`etre de la pupille Est-ce que les taches sont trait´ees en parall`ele ou en s´erie ? Relation entre les mod`eles pour chaque situation
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Mod´ elisation
Questions
Nature de la mod´elisation :
Qu’est-ce qu’un mod`ele dans notre cas ?
Fonction fθd´ependant de param`etresθdu diam`etre pupillaire en fonction de l’unit´e de temps pour chacune des situations Comment d´efinir un comportement moyen ?
Voir plus loin
Exploitation de la mod´elisation :
Est-ce que la pupille est un marqueur de la charge cognitive pour ces taches ?
Variation non standart (lumi`ere, etc.) du diam`etre de la pupille Est-ce que les taches sont trait´ees en parall`ele ou en s´erie ? Relation entre les mod`eles pour chaque situation
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Mod´ elisation
Questions
Nature de la mod´elisation :
Qu’est-ce qu’un mod`ele dans notre cas ?
Fonction fθd´ependant de param`etresθdu diam`etre pupillaire en fonction de l’unit´e de temps pour chacune des situations Comment d´efinir un comportement moyen ?
Voir plus loin
Exploitation de la mod´elisation :
Est-ce que la pupille est un marqueur de la charge cognitive pour ces taches ?
Variation non standart (lumi`ere, etc.) du diam`etre de la pupille Est-ce que les taches sont trait´ees en parall`ele ou en s´erie ?
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Mod´ elisation
Questions
Nature de la mod´elisation :
Qu’est-ce qu’un mod`ele dans notre cas ?
Fonction fθd´ependant de param`etresθdu diam`etre pupillaire en fonction de l’unit´e de temps pour chacune des situations Comment d´efinir un comportement moyen ?
Voir plus loin
Exploitation de la mod´elisation :
Est-ce que la pupille est un marqueur de la charge cognitive pour ces taches ?
Variation non standart (lumi`ere, etc.) du diam`etre de la pupille Est-ce que les taches sont trait´ees en parall`ele ou en s´erie ? Relation entre les mod`eles pour chaque situation
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
mod` ele de comportement moyen ?
Moyenne des formesvs. Forme de la moyenne
Calculer la moyenne des courbes exp´erimentales : {datai} ⇒data
Calculer la fonction d´ecrivant la courbe moyenne :data⇒fθ
Moyenne des formes :
Calculer les fonctions d´ecrivant chaque courbe exp´erimentale : {datai} ⇒ {fθi}
Calculer le mod`ele moyen par la moyenne des param`etres : {fθi} ⇒fθ¯
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
mod` ele de comportement moyen ?
Moyenne des formesvs. Forme de la moyenne Forme de la moyenne :
Calculer la moyenne des courbes exp´erimentales : {datai} ⇒data
Calculer la fonction d´ecrivant la courbe moyenne :data⇒fθ
Moyenne des formes :
Calculer les fonctions d´ecrivant chaque courbe exp´erimentale : {datai} ⇒ {fθi}
Calculer le mod`ele moyen par la moyenne des param`etres : {fθi} ⇒fθ¯
mod` ele de comportement moyen ?
Moyenne des formesvs. Forme de la moyenne Forme de la moyenne :
Calculer la moyenne des courbes exp´erimentales : {datai} ⇒data
Calculer la fonction d´ecrivant la courbe moyenne :data⇒fθ
Moyenne des formes :
Calculer les fonctions d´ecrivant chaque courbe exp´erimentale : {datai} ⇒ {fθi}
Calculer le mod`ele moyen par la moyenne des param`etres : {fθi} ⇒fθ¯
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Average of the normalized encoding curves
5 digits, low frequency lex., easy fitts
0.1 0.2 0.3 0.4 0.5 0.6 0.7
0 5 10 15 20 25
Diameter
Time
0.1 0.2 0.3 0.4 0.5 0.6 0.7
0 5 10 15 20 25
Diameter
Time
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7
0 5 10 15 20 25
Diameter
Time encodage 5 et bf_f
digit word dual
Average of the normalized encoding curves
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7
0 5 10 15 20 25
Diameter
Time encodage 5 et bf_f
digit word
dual 0.1
0.2 0.3 0.4 0.5 0.6 0.7 0.8
0 5 10 15 20 25
Diameter
Time encodage 9 et bf_f
digit word dual
5 d., low, easy 9 d., low, easy
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7
0 5 10 15 20 25
Diameter
Time encodage 5 et hf_f
digit word
dual 0.1
0.2 0.3 0.4 0.5 0.6 0.7 0.8
0 5 10 15 20 25
Diameter
Time encodage 9 et hf_f
digit word dual
5 d., high, easy 9 d., high, easy
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Principe g´ en´ eral de la mod´ elisation
Une id´ee de mod´elisation ?
But : d´eduire des taches simples la tache duale
fWS,fDS : fonctions construites `a partir de l’interpolation lin´eaire des donn´ees exp´erimentales pour chacune des taches simples
F est d´efinie `a partir de fWS et fDS
Principe g´ en´ eral de la mod´ elisation
Une id´ee de mod´elisation ?
But : d´eduire des taches simples la tache duale
fWS,fDS : fonctions construites `a partir de l’interpolation lin´eaire des donn´ees exp´erimentales pour chacune des taches simples
F est d´efinie `a partir de fWS etfDS
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Premi` ere tentative
Intuition/Hypoth`ese
courbeDual : combinaison lin´eaire des courbesWS etDS, Les minima des courbes WS et Dual se ressemblent :
la concavit´e autour du minimum de la courbe de Dual semble ˆ
etre une homoth´etie de celui deWS
0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65 0.7
0 5 10 15 20 25
Diameter
Time w1 = 1.0 w1 = 1.2 w1 = 1.5 w1 = 2.0
fWS(ωt)
Premi` ere tentative
Intuition/Hypoth`ese
courbeDual : combinaison lin´eaire des courbesWS etDS, Les minima des courbes WS et Dual se ressemblent :
la concavit´e autour du minimum de la courbe de Dual semble ˆ
etre une homoth´etie de celui deWS
0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65 0.7
0 5 10 15 20 25
Diameter
Time w1 = 1.0 w1 = 1.2 w1 = 1.5 w1 = 2.0
fWS(ωt)
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Premi` ere tentative
Intuition/Hypoth`ese
courbeDual : combinaison lin´eaire des courbesWS etDS, Les minima des courbes WS et Dual se ressemblent :
la concavit´e autour du minimum de la courbe de Dual semble ˆ
etre une homoth´etie de celui deWS
F(t) =αfDM(t) + (1−α)fWS(ωt)
Premi` ere tentative : r´ esultats
Ajustement ”`a la main” des 2 param`etres α etω.
0.2 0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65
0 5 10 15 20 25
Diameter
Time
dual fit
α= 0.28 etω= 2.1
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Premi` ere tentative : r´ esultats
Observations :
Bonne correspondance des concavit´es autour des minima (mais ce n’est qu’intuitif)
Probl`eme d’´echelle pour obtenir la dur´ee totale !
Courbe Duale serait plus proche de la courbe DS par la suite.
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Deuxi` eme tentative
Intuition/Hypoth`ese
courbeDual : combinaison lin´eaire des courbesWS etDS, Les minima des courbes WS et Dual se ressemblent :
la concavit´e autour du minimum de la courbe de Dual semble ˆ
etre une homoth´etie de celui deWS
2 p´eriodes : avant T, acc´el´eration de la tacheWS et apr`esT, ralentirWS
F(t) =
α2fDM(t) + (1−α2)fWS(ω1T +ω2(t−T)), if ∀t ≥T
ω2= TTmax−ω1T
max−T
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Deuxi` eme tentative
Intuition/Hypoth`ese
courbeDual : combinaison lin´eaire des courbesWS etDS, Les minima des courbes WS et Dual se ressemblent :
la concavit´e autour du minimum de la courbe de Dual semble ˆ
etre une homoth´etie de celui deWS
2 p´eriodes : avant T, acc´el´eration de la tacheWS et apr`esT, ralentirWS
F(t) =
α1fDM(t) + (1−α1)fWS(ω1t) if ∀t <T α2fDM(t) + (1−α2)fWS(ω1T +ω2(t−T)), if ∀t ≥T
ω2= TTmax−ω1T
max−T
Deuxi` eme tentative : r´ esultats
Ajustement ”`a la main” des 4 param`etres α1,α2,ω1 et T.
0.2 0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65 0.7
0 5 10 15 20 25
Diameter
Time
dual fit
α1 = 0.28,α2 = 0.28,ω1= 2.1 et T = 7.
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Deuxi` eme tentative : r´ esultats
Observations :
Bonne correspondance des concavit´es autour des minima (mais ce n’est qu’intuitif)
Pas satisfaisant en fin de tache
Courbes WS et DS ont toutes deux des diam`etres pupillaires sup´erieures `a la tache duale.
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Troisi` eme tentative
Intuition/Hypoth`ese (...)
2 p´eriodes : avantT acc´el´eration de la tacheWS, apr`esT ralentirWS
pas de normalisation de la pond´eration
F(t) =
K2(α2fDM(t) + (1−α2)fWS(ω1T +ω2(t−T))), if ∀t≥T
ω2= TTmax−ω1T
max−T
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Troisi` eme tentative
Intuition/Hypoth`ese (...)
2 p´eriodes : avantT acc´el´eration de la tacheWS, apr`esT ralentirWS
pas de normalisation de la pond´eration
F(t) =
K1(α1fDM(t) + (1−α1)fWS(ω1t)) if ∀t <T K2(α2fDM(t) + (1−α2)fWS(ω1T +ω2(t−T))), if ∀t ≥T
ω2= TTmax−ω1T
max−T
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Recherche des param` etres de la mod´ elisation
6 param`etres `a ajuster...
Passage d’un probl`eme de calibration de mod`ele
`a un probl`eme d’optimisation.
Minimiser la distance entre les donn´ees exp´erimentales et la r´eponse du mod`ele :
D(F,fdual) =
Tmax
X
t=0
(F(t)−fdual(t))2 (1) M´ethode standart
M´ethode least squares : descente de gradient
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Recherche des param` etres de la mod´ elisation
6 param`etres `a ajuster...
Principe
Passage d’un probl`eme de calibration de mod`ele
`a un probl`eme d’optimisation.
Minimiser la distance entre les donn´ees exp´erimentales et la r´eponse du mod`ele :
D(F,fdual) =
Tmax
X
t=0
(F(t)−fdual(t))2 (1) M´ethode standart
M´ethode least squares : descente de gradient
Recherche des param` etres de la mod´ elisation
6 param`etres `a ajuster...
Principe
Passage d’un probl`eme de calibration de mod`ele
`a un probl`eme d’optimisation.
Minimiser la distance entre les donn´ees exp´erimentales et la r´eponse du mod`ele :
D(F,fdual) =
Tmax
X
t=0
(F(t)−fdual(t))2 (1) M´ethode standart
M´ethode least squares : descente de gradient
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Troisi` eme tentative : r´ esultats
0.2 0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65 0.7
0 5 10 15 20 25
Diameter
Time Encod 5 and word search bf easy
dual task fit
αDM1 = 0.26949 +/−3.57272 αWS1 = 0.71589 +/−2.48088 ω1= 2.18175 +/−7.31864 αDM2 = 0.75530 +/−4.03088 αWS2 = 0.26424 +/−7.38936
le nombre de degr´e de libert´e est : dof = 20 Le chi2 est de : chisq = 0.0209632
et donc chisq/dof = 0.00104816
Troisi` eme tentative : premiers r´ esultats
0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65 0.7 0.75 0.8
0 5 10 15 20 25
Diameter
Time Encod 9 and word search bf easy
dual task fit
αDM1 = 0.54886 +/−3.52852 αWS1 = 0.64250 +/−3.11468 ω1= 2.91984 +/−4.88156 αDM2 = 0.58580 +/−1.68662 αWS2 = 0.62422 +/−4.07546
le nombre de degr´e de libert´e est : dof = 20 Le chi2 est de : chisq = 0.0121965
et donc chisq/dof = 0.000609824
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Troisi` eme tentative : premiers r´ esultats
R´esultats ”semblent” visuellement tout juste acceptable pour ces courbes
les αs ont `a peu pr`es le mˆeme ordre de grandeur
Mais dans la m´ethode d’optimisation
algorithme least squares : grande variation de r´esultats selon les ex´ecutions
l’algo. s’arrˆete avant d’avoir converg´e et trouv´e de bonnes valeurs : minima locaux
Troisi` eme tentative : premiers r´ esultats
R´esultats ”semblent” visuellement tout juste acceptable pour ces courbes
les αs ont `a peu pr`es le mˆeme ordre de grandeur Mais dans la m´ethode d’optimisation
algorithme least squares : grande variation de r´esultats selon les ex´ecutions
l’algo. s’arrˆete avant d’avoir converg´e et trouv´e de bonnes valeurs : minima locaux
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Troisi` eme tentative : premiers r´ esultats
0.2 0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65 0.7
0 5 10 15 20 25
Diameter
Time encodage 5 et bf_f
dual
fit 0.25
0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65 0.7 0.75
0 5 10 15 20 25
Diameter
Time encodage 9 et bf_f
dual fit
5 d., low, easy 9 d., low, easy
0.2 0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65
0 5 10 15 20 25
Diameter
Time encodage 5 et hf_f
dual
fit 0.2
0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65 0.7
0 5 10 15 20 25
Diameter
Time encodage 9 et hf_f
dual fit
5 d., high, easy 9 d., high, easy
−→ Utiliser une meilleure m´ethode d’optimisation !
Troisi` eme tentative : r´ esultats !
0.2 0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6
0 5 10 15 20 25
Diameter
Time encodage 5 et bf_f
dual
fit 0.3
0.35 0.4 0.45 0.5 0.55 0.6 0.65
0 5 10 15 20 25
Diameter
Time encodage 9 et bf_f
dual fit
5 d., low, easy 9 d., low, easy
0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65
0 5 10 15 20 25
Diameter
Time encodage 5 et hf_f
dual
fit 0.25
0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65
0 5 10 15 20 25
Diameter
Time encodage 9 et hf_f
dual fit
5 d., high, easy 9 d., high, easy
Introduction Probl`emes d’optimisation combinatoire Probl`emes d’optimisation num´erique Optimisation
Troisi` eme tentative : r´ esultats !
5 d., low, easy
0.2 0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65 0.7
0 5 10 15 20 25
Diameter
Time encodage 5 et bf_f
dual
fit 0.3
0.35 0.4 0.45 0.5 0.55 0.6 0.65
0 5 10 15 20 25
Diameter
Time encodage 9 et bf_f
dual fit
Moindres carr´es CMA-ES
Troisi` eme tentative : r´ esultats !
0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65
0 5 10 15 20 25
Diameter
Time encodage 5 et bf_d
dual
fit 0.2
0.25 0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65
0 5 10 15 20 25
Diameter
Time encodage 9 et bf_d
dual fit
5 d., low, hard 9 d., low, hard
0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65 0.7 0.75
0 5 10 15 20 25
Diameter
Time encodage 5 et hf_d
dual
fit 0.25
0.3 0.35 0.4 0.45 0.5 0.55 0.6 0.65 0.7
0 5 10 15 20 25
Diameter
Time encodage 9 et hf_d
dual fit
5 d., high, hard 9 d., high, hard