Mathématiques 2 1
Séance 3 : Exercices corrigés OPTIMISATION
Objectifs
La méthode du gradient pour la minimisation de fonctions quadratiques. Intérêt d’un précon- ditionnement.
Question 1
Minimisation au sens des moindres carrés.
Déterminer une fonction affineY =aX+bapprochant au sens des moindres carrés ....
− Sans le formalisme de l’énoncé, on cherche un couple(a, b)qui rende minimum l’erreur quadra- tique
E(a, b) =X
i
(aXi+b−Yi)2 On écrit que les dérivées enaetbsont nulles
X
i
Xi(aXi+b−Yi) = 0 (1)
X
i
aXi+b−Yi= 0 (2)
d’où le système linéaire qui détermineaetb.
(X
i
Xi2)a+ (X
i
Xi)b=X
i
XiYi (3)
(X
i
Xi)a+pb=X
i
Yi (4)
− En suivant le formalisme de l’énoncé, on a icin= 2,x= (a, b)et
f(x) = (aX1+b−Y1, . . . , aXi+b−Yi, . . . , aXp+b−Yp) On est ramené à la question suivante avec une matrice
C=
X1,1 ..., ...
Xi,1 ..., ...
Xp,1
ECP 2007-2008 Optimisation
Mathématiques 2 2
et un vecteur
b= (Y1, ..., Yi, ..., Yp)t
•On considère le cas général où la fonctionf(x) = Cx−best linéaire (Cest une matrice(p, n), x∈Rn,b∈Rp).
i) Montrer que la solutionau sens des moindres carrésvérifie CtCx=Ctb Il faut minimiser
F(x) =hCx−b,Cx−bi=hCtCx, xi −2hCtb, xi+hb, bi ce qui équivaut à minimiser
F(x) = 1
2hCtCx, xi − hCtb, xi
C’est un problème d’optimisation quadratique, à matriceCtCsymétrique définie positive, si le rang deCestn. Nous avons vu en cours que la fonctionF(x)est alors strictement convexe et qu’elle a un minimum et un seul qui est solution du système linéaire
CtCx=Ctb
ii) Que doit vérifier la matriceCpour que ce système ait une solution unique ? CtCx= 0 ⇔ hCtCx, xi= 0
et donc
CtCx= 0 ⇔ hCx,Cxi= 0 ⇔ Cx= 0
ce qui impliquex= 0si et seulement si la matriceCanlignes indépendantes ce qui équivaut à dire que le système initial anéquations indépendantes.
Question 2
Régularisation d’un maillage.
•Montrer que le vecteurx= (x1, ..., xn)∈R2nréalise le minimum de la fonction quadratique
F(x) = X
(i=1,N,j≤i)∈E
kxi−xjk2
On obtient les conditions d’optimalité en calculant le gradient X
j|(i,j)∈E
xi−xj = 0
Ce qui signifie bien quexiest le centre de gravité des points auxquels il est relié.
On doit minimiser la fonction F(x) que nous réécrivons F(x) = X
(i=1,n,j≤i)∈E
kxi−xjk2+ X
(i=1,n,j>n)∈E
kxi−xjk2
ECP 2007-2008 Optimisation
Mathématiques 2 3
F(x)est une fonction définie surRndont la partie de degré2est X
(i=1,n,j≤i)∈E
kxi−xjk2+ X
(i=1,n)
kxik2
qui est toujours positive six6= 0et dont la partie linéaire est
2 X
(i=1,n,j>n)∈E
< xi, xj >
C’est donc une fonction strictement convexe qui a un minimum et un seul.
• On utilise la méthode de relaxation par rapport à chacun des vecteursxi ∈ R2, c’est à dire une relaxation par bloc de dimension2. Le minimum par rapport àxi est donc obtenu en remplaçant le pointxi par le centre de gravité des points qui l’entourent. La précision nécessaire est en général assez faible (>10−2) et quelques balayages (<5) du vecteurxsuffisent. La méthode est naturelle, ce qu’apporte ici l’interprétation par le problème de minimisation c’est une preuve de convergence.
Question 3
Notion de préconditionnement.
Voir page 57 et 58 du polycopié.
Question 4
Étude d’une chaîne pesante
• Écrire ce problème comme un problème d’optimisation d’une fonction linéairehP,Ui sous des contraintes quadratiques d’égalitéhBiU,Ui = 1, i = 1, . . . , n+ 1, où le vecteurPet les matrices Bi sont à préciser.
Corr. Le centre de gravité d’une barre est un point d’ordonnée 1
2(yi+yi−1)
Toutes les barres ont la même masse, donc le centre de gravité du système est un point d’ordonnée yG= 1
n+ 1
n+1
X
i=1
1
2(yi+yi−1) on en déduit, en tenant compte dey0=yn+1 = 0,
yG=hP,Ui avec
P= 1
n+ 1(0,1, ...,0,1, ...,0,1)t Il faut écrire que toutes les barres gardent la longueurL, i.e.
(xi−xi−1)2+ (yi−yi−1)2
L2 = 1
ECP 2007-2008 Optimisation
Mathématiques 2 4
ou encore matriciellement
hBiU,Ui= 1, i= 1, . . . , n+ 1
la matriceBi étant la matrice symétrique dont tous les coefficients sont nuls à l’exception de Bi2(i−1)+1,2(i−1)+1=Bi2i,2i=Bi2i+1,2i+1 =Bi2(i+1),2(i+1) = 1
L2 sur la diagonale et, au dessus de la diagonale
Bi2(i−1)+1,2i=Bi2(i+1),2(i+1)
• Pour résoudre de façon approchée ce problème on utilise une méthode de “pénalisation” : cela revient à supposer que les barres sont légèrement déformables et à introduire dans la formulation du problème une pseudo-énergie de déformation de ces barres.
On choisit, pour la barrei, l’expression suivante de la pseudo-énergie de déformation Ei = 1
4((xi−xi−1)2+ (yi−yi−1)2−L2)2
où, lecoefficient de pénalisationest un nombre petit. On montre (cf. chapitre 4) que le minimum libre de la fonction énergie
J(U) =< P,U>+
n+1
X
i=1
Ei est proche du minimum du problème initial.
Montrer que la fonctionJ(U)est coercive.
Si unU tend vers l’infini, la longueur d’une des barres au moins tend vers l’infini et le termeEi
correspondant tend donc vers l’infini.
Est-elle convexe ?
Corr. En fixant tous les variables à0saufx1on obtient J(U) =P1x1+ 1
4(x21−L2)2) qui n’est pas une fonction convexe.
ECP 2007-2008 Optimisation