D´epartement de math´ematiques et de statistique MAT 2100
Universit´e de Montr´eal Analyse 3
TP-9
mardi 11 avril 2017 de 10h30 `a 12h30 local Z-260, pavillon Claire-McNicoll Exercice 1. On dit queC⊂Rn est un cˆone de sommet 0si
∀x∈C,∀λ >0, λx∈C.
(1)
(i) Soitf :Rn→Rune fonction convexe Gateaux diff´erentiable en tout point d’un cˆone convexe C. Montrer que argminf(C)6=∅si et seulement si
∃x∈C, ∇f(x)·x= 0 et ∀y∈C, ∇f(x)·y≥0.
(2)
(ii) Trouver le ou les points minimisants pour
C={(x1, x2) :x1≥0 etx2≥0}et f(x1, x2) = (x1+ 1)2+ (x2−1)2.
Solution. On sait qu’une condition n´ecessaire et suffisante est
∃x∈C, ∀y∈C,∇f(x)·(y−x)≥0.
En prenanty= 2xet y=x/2, il vient
∇f(x)·(2x−x)≥0 et∇f(x)· 1
2x−x
≥0 ⇒ ∇f(x)·x= 0
⇒ ∀y∈C,∇f(x)·y =∇f(x)·(y−x) +∇f(x)·x≥0 + 0 = 0.
R´eciproquement, si 2 est v´erifi´ee, alors
∀y∈C,∇f(x)·(y−x) =∇f(x)·y− ∇f(x)·x≥0−0 = 0.
(ii) On applique la partie (i)f est strictement convexe car sa matrice hessienne est d´efinie positive
∇f(x) = 2
x1+ 1 x2−1
Hf(x) = 1 0
0 1
>0.
La solution sera donc unique. Des conditions (2)
x1≥0, x2≥0, 2(x1+ 1)x1+ 2(x2−1)x2= 0 2(x1+ 1)y1+ 2(x2−1)y2≥0, ∀y1≥0, y2≥0.
En faisanty1= 0 puisy2= 0, il vient
∀y1≥0, 2(x1+ 1)y1≥0, ∀y2≥0, 2(x2−1)y2≥0
⇒ x1+ 1≥0, x2−1≥0
⇒
(x1+ 1≥0, x1≥0, x2−1≥0, x2≥0 (x1+ 1)x1= 0, (x2−1)x2= 0.
)
Il y a 4 solutions possible :x2= 0 viole la conditionx2−1≥0 etx1=−1 viole la conditionx1≥0. Donc (x1, x2) = (0,1).
Exercice 2. Pourε >0, une matricem×net un vecteurc∈Rm on consid`ere le probl`eme suivant :
x∈infRnf(x) +εkxk2Rn, f(x)d´=efkAx−ck2Rm. (3)
(i) Montrer quef est convexe surRn,
(ii) Donner les conditions n´ecessaires et suffisantes pour l’existence d’une solution au probl`eme(3)et montrer qu’il y a toujours existence et unicit´e lorsqueε >0.
(iii) Donner les conditions n´ecessaires et suffisantes pour l’existence d’une solution au probl`eme (3)pourε= 0. Sont-elles toujours v´erif´ees ?
Solution. (i) Soit fε(x) =f(x) +εkxk2. Une condition n´ecessaire et suffisante pour la convexit´e estHfε(y)≥0 sur Rn :
fε′(x;v) = 2(Ax−c)·Av+ 2ε x·v= 2 [A⊤A+εI]x−A⊤c
·v
∇fε(x) = 2 [A⊤A+εI]x−A⊤c
, Hfε(x) = 2 [A⊤A+εI].
On v´erifie queHfε(x) est d´efinie positive. Elle est sym´etrique. Pour 06=v∈Rn, [A⊤A+εI]v·v=kAvk2+εkvk2≥εkvk2>0.
Comme [A⊤A+εI] est inversible, il existe unx∈Rn unique tel que [A⊤A+εI]x=A⊤c ⇒ x= [A⊤A+εI]−1A⊤c
⇒ ∇fε(x) = 2 [A⊤A+εI]x−A⊤c
= 0.
Par Taylor le d´eveloppement est exact et pour touty 6=x fε(y)−fε(x) =∇fε(x)
| {z }
=0
+1
2[A⊤A+εI](y−x)·(y−x)
| {z }
>0
>0
etxest l’unique point minimisant surRn.
(iii) Siε= 0, on n’a pas n´exessairement l’inversibilit´e deA⊤A qui reste quand mˆeme au moins semi-d´efinie positive. Dans ce cas la condition n´ecessaire et suffisante devient
∃x∈Rn tel que∇f(x) = 0 etA⊤A≥0
Comme on sait d´ej`a que A⊤A≥0, il reste la condition n´ecessaire et suffisante suivante
∃x∈Rn tel queA⊤A x=A⊤c.
Pour avoir l’existence nous allons utiliser la partie (ii). Pour toutεn = 1/n, il existe un point uniquexn tel que
A⊤Axn+1
nxn=A⊤c, kAxnk2+ 1
nkxnk2=Axn·c≤ kAxnk kck
⇒ kAxnk ≤ kck, 1
nkxnk2≤ kAxnk kck ≤ kck2, kxnk ≤√ nkck. Comme la suite{Axn} est born´ee, il existe y ∈ Rm et une sous-suite {Axnk} tel queAxnk →y. ety ∈ImA= ImA car c’est un sous-espace lin´eaire (donc ferm´e). Il existe doncxtel que Ax=yFinalement, en passant `a la limite
A⊤Axnk
| {z }
→Ax
+ 1
√nk
xnk
√nk
| {z }
xnk
√nk
≤kck
=A⊤c→A⊤Ax=A⊤c
et il y a bien toujours existence d’une solution dans le casε= 0.
Exercice 3. SoitB une matricen×nsym´etrique et d´efinie positive. On associe
`
aB la fonction
f(x)d´=ef Bx·x
kxk2 , x6= 0, (4)
o`u kxk est la norme euclidienne dansRn.
(i) Montrer qu’il existex∗∈Rn tel quekx∗k= 1 et f(x∗) = inf
06=x∈Rn
Bx·x kxk2 . (5)
(ii) Montrer qu’il existe une constanteβ >0 tel que
∀x∈Rn, Bx·x≥βkxk2. (6)
(iii) Montrer quef est Hadamard/Fr´echet diff´erentiable en x6= 0 et donner l’expression de son gradient. En d´eduire que la plus petite constante β v´erifiant (6) est la plus petite valeur propre de la matriceB.
Solution. (i) Pourx6= 0, on observe que f(x) =B x
kxk· x
kxk ⇒ inf
06=x∈Rnf(x) = inf
x∈Rn,kxk=1Bx·x.
Comme S ={x∈ Rn : kxk = 1} est non-vide et compact et que la fonction x7→ Bx·x :Rn → Rest continue, il existe un x∗ ∈ S qui minimise f et un x∗∈S qui maximisef.
(ii) Commex∗∈S et queB est d´efinie positive,Bx∗·x∗>0 et
∀x6= 0, Bx·x|
kxk2 ≥βd´=efBx∗·x∗>0 ⇒ ∀x∈Rn, Bx·x≥βkxk2. (iii) La fonctionf est le quotient de deux fonctions polynˆomiales qui sont Ha- damard dif´erentiables. Par les r`egles de calcul au pointxdans la directionv, on a pour le num´erateur 2Bx·v et pour le d´enominateur 2x·v ce qui donne
fh′(x;v) = 2Bx·vkxk2−2x·v Bx·x
kxk4 = 2
kxk2[B−f(x)I]·v,
⇒ ∇f(x) = 2
kxk2[B−f(x)I]x,
o`uI est la matrice identit´e dansRn. Au pointx∗on a n´ecessairement 0 =∇f(x∗) = 2
kxk2[B−f(x∗)I]x∗, kx∗k= 1.
La matriceB−f(x∗)I n’est donc pas injective et d´et [[B −f(x∗)I] = 0. On en conclut quef(x∗) >0 est une valeur propre de la matrice B. Si λ est une autre valeur propred deB, alors d´et (B−λI) = 0, la matriceB−λI n’est pas injective et il existexλ6= 0 tel que (B−λI)xλ= 0 ce qui implique
λ= Bxλ·xλ
kxλk2 ≥f(x∗)
par d´efinition du minimum. La valeur propref(x∗) est donc la plus petite.
Exercice 4. Soient A et B deux matrices sym´etriques n×n. On suppose B d´efinie positive. Pourx∈Rn,x6= 0, on d´efinit la fonction
f(x)d´=ef Ax·x Bx·x. (7)
(i) Montrer que l’ensemble U d´=ef {x ∈ Rn : Bx·x = 1} est non-vide et compact.
(ii) Montrer qu’il existexˆ∈Rn tel queBxˆ·xˆ= 1 et f(ˆx) = inf
06=x∈Rn
Ax·x Bx·x. (8)
(iii) Calculer ∇f(x) pour x6= 0 et caract´eriser x. Montrer que pour toutˆ λ tel qued´et (A−λB) = 0, on af(ˆx)≤λ.
Solution. (i) Pour tout 06=z ∈Rn,Bz·z >0 puisque B est d´efinie positive.
On associe `a zle point x= z
√Bz·z ⇒ Bx·x=B z
√Bz·z · z
√Bz·z = Bz·z
Bz·z = 1 ⇒ x∈U.
L’ensemble U n’est donc pas vide et comme x7→ Bx·x est continue, l’image inverse de 1 qui estU est ferm´ee. Enfin, de l’exercice 3, il existeβ >0 tel que
1 =Bx·x≥βkxk2 ⇒ kxk ≤ 1
√β etU est born´e. DoncU est compact non-vide.
(ii) ´Etant donn´e 0≤x∈Rn,Bx·x >0 puisqueB est d´efinie positive et f(x) = Ax·x
Bx·x =A x
√Bx·x· x
√Bx·x ⇒ inf
06=x∈Rnf(x) = inf
x∈UAx·x.
Comme la fonctionAx·x≥0 est continue et queU est compact, il existe ˆx∈U tel que
f(ˆx) = inf
x∈UAx·x= inf
06=x∈Rnf(x) etBˆx·xˆ= 1.
(iii) Mˆeme technique que pour l’exercice 3. On obtient
∇f(x) = 2
Bx·x[A−f(x)B]x et
∇f(ˆx) = 2
Bxˆ·xˆ[A−f(ˆx)B] ˆx= 0 ⇒ d´et [A−f(ˆx)B] = 0 etf(ˆx) est une valeur propre g´en´eralis´ee de la paire (A, B).