Montrer que argminf(C)6=∅si et seulement si ∃x∈C, ∇f(x)·x= 0 et ∀y∈C, ∇f(x)·y≥0

D´epartement de math´ematiques et de statistique MAT 2100

Universit´e de Montr´eal Analyse 3

TP-9

mardi 11 avril 2017 de 10h30 `a 12h30 local Z-260, pavillon Claire-McNicoll Exercice 1. On dit queC⊂Rⁿ est un cˆone de sommet 0si

∀x∈C,∀λ >0, λx∈C.

(1)

(i) Soitf :Rⁿ→Rune fonction convexe Gateaux diff´erentiable en tout point d’un cˆone convexe C. Montrer que argminf(C)6=∅si et seulement si

∃x∈C, ∇f(x)·x= 0 et ∀y∈C, ∇f(x)·y≥0.

(2)

(ii) Trouver le ou les points minimisants pour

C={(x1, x2) :x1≥0 etx2≥0}et f(x1, x2) = (x1+ 1)²+ (x2−1)².

Solution. On sait qu’une condition n´ecessaire et suffisante est

∃x∈C, ∀y∈C,∇f(x)·(y−x)≥0.

En prenanty= 2xet y=x/2, il vient

∇f(x)·(2x−x)≥0 et∇f(x)· 1

2x−x

≥0 ⇒ ∇f(x)·x= 0

⇒ ∀y∈C,∇f(x)·y =∇f(x)·(y−x) +∇f(x)·x≥0 + 0 = 0.

R´eciproquement, si 2 est v´erifi´ee, alors

∀y∈C,∇f(x)·(y−x) =∇f(x)·y− ∇f(x)·x≥0−0 = 0.

(ii) On applique la partie (i)f est strictement convexe car sa matrice hessienne est d´efinie positive

∇f(x) = 2

x1+ 1 x2−1

Hf(x) = 1 0

0 1

>0.

La solution sera donc unique. Des conditions (2)

x1≥0, x2≥0, 2(x1+ 1)x1+ 2(x2−1)x2= 0 2(x1+ 1)y1+ 2(x2−1)y2≥0, ∀y1≥0, y2≥0.

En faisanty1= 0 puisy2= 0, il vient

∀y1≥0, 2(x1+ 1)y1≥0, ∀y2≥0, 2(x2−1)y2≥0

⇒ x1+ 1≥0, x2−1≥0

⇒

(x1+ 1≥0, x1≥0, x2−1≥0, x2≥0 (x1+ 1)x1= 0, (x2−1)x2= 0.

)

Il y a 4 solutions possible :x2= 0 viole la conditionx2−1≥0 etx1=−1 viole la conditionx1≥0. Donc (x1, x2) = (0,1).

Exercice 2. Pourε >0, une matricem×net un vecteurc∈R^m on consid`ere le probl`eme suivant :

x∈infRⁿf(x) +εkxk²Rⁿ, f(x)^d´=^efkAx−ck²R^m. (3)

(i) Montrer quef est convexe surRⁿ,

(ii) Donner les conditions n´ecessaires et suffisantes pour l’existence d’une solution au probl`eme(3)et montrer qu’il y a toujours existence et unicit´e lorsqueε >0.

(iii) Donner les conditions n´ecessaires et suffisantes pour l’existence d’une solution au probl`eme (3)pourε= 0. Sont-elles toujours v´erif´ees ?

Solution. (i) Soit fε(x) =f(x) +εkxk². Une condition n´ecessaire et suffisante pour la convexit´e estHfε(y)≥0 sur Rⁿ :

fε^′(x;v) = 2(Ax−c)·Av+ 2ε x·v= 2 [A^⊤A+εI]x−A^⊤c

·v

∇fε(x) = 2 [A^⊤A+εI]x−A^⊤c

, Hfε(x) = 2 [A^⊤A+εI].

On v´erifie queHfε(x) est d´efinie positive. Elle est sym´etrique. Pour 06=v∈Rⁿ, [A^⊤A+εI]v·v=kAvk²+εkvk²≥εkvk²>0.

Comme [A^⊤A+εI] est inversible, il existe unx∈Rⁿ unique tel que [A^⊤A+εI]x=A^⊤c ⇒ x= [A^⊤A+εI]⁻¹A^⊤c

⇒ ∇fε(x) = 2 [A^⊤A+εI]x−A^⊤c

= 0.

Par Taylor le d´eveloppement est exact et pour touty 6=x fε(y)−fε(x) =∇fε(x)

| {z }

=0

+1

2[A^⊤A+εI](y−x)·(y−x)

| {z }

>0

>0

etxest l’unique point minimisant surRⁿ.

(iii) Siε= 0, on n’a pas n´exessairement l’inversibilit´e deA^⊤A qui reste quand mˆeme au moins semi-d´efinie positive. Dans ce cas la condition n´ecessaire et suffisante devient

∃x∈Rⁿ tel que∇f(x) = 0 etA^⊤A≥0

Comme on sait d´ej`a que A^⊤A≥0, il reste la condition n´ecessaire et suffisante suivante

∃x∈Rⁿ tel queA^⊤A x=A^⊤c.

Pour avoir l’existence nous allons utiliser la partie (ii). Pour toutεn = 1/n, il existe un point uniquexn tel que

A^⊤Axn+1

nxn=A^⊤c, kAxnk²+ 1

nkxnk²=Axn·c≤ kAxnk kck

⇒ kAxnk ≤ kck, 1

nkxnk²≤ kAxnk kck ≤ kck², kxnk ≤√ nkck. Comme la suite{Axn} est born´ee, il existe y ∈ R^m et une sous-suite {Axnk} tel queAxnk →y. ety ∈ImA= ImA car c’est un sous-espace lin´eaire (donc ferm´e). Il existe doncxtel que Ax=yFinalement, en passant `a la limite

A^⊤Axnk

| {z }

→Ax

+ 1

√nk

xnk

√nk

| {z }

xnk

√nk

≤kck

=A^⊤c→A^⊤Ax=A^⊤c

et il y a bien toujours existence d’une solution dans le casε= 0.

Exercice 3. SoitB une matricen×nsym´etrique et d´efinie positive. On associe

`

aB la fonction

f(x)^d´=^ef Bx·x

kxk² , x6= 0, (4)

o`u kxk est la norme euclidienne dansRⁿ.

(i) Montrer qu’il existex∗∈Rⁿ tel quekx∗k= 1 et f(x∗) = inf

06=x∈Rⁿ

Bx·x kxk² . (5)

(ii) Montrer qu’il existe une constanteβ >0 tel que

∀x∈Rⁿ, Bx·x≥βkxk². (6)

(iii) Montrer quef est Hadamard/Fr´echet diff´erentiable en x6= 0 et donner l’expression de son gradient. En d´eduire que la plus petite constante β v´erifiant (6) est la plus petite valeur propre de la matriceB.

Solution. (i) Pourx6= 0, on observe que f(x) =B x

kxk· x

kxk ⇒ inf

06=x∈Rⁿf(x) = inf

x∈Rⁿ,kxk=1Bx·x.

Comme S ={x∈ Rⁿ : kxk = 1} est non-vide et compact et que la fonction x7→ Bx·x :Rⁿ → Rest continue, il existe un x∗ ∈ S qui minimise f et un x^∗∈S qui maximisef.

(ii) Commex∗∈S et queB est d´efinie positive,Bx∗·x∗>0 et

∀x6= 0, Bx·x|

kxk² ≥β^d´=^efBx∗·x∗>0 ⇒ ∀x∈Rⁿ, Bx·x≥βkxk². (iii) La fonctionf est le quotient de deux fonctions polynˆomiales qui sont Ha- damard dif´erentiables. Par les r`egles de calcul au pointxdans la directionv, on a pour le num´erateur 2Bx·v et pour le d´enominateur 2x·v ce qui donne

fh^′(x;v) = 2Bx·vkxk²−2x·v Bx·x

kxk⁴ = 2

kxk²[B−f(x)I]·v,

⇒ ∇f(x) = 2

kxk²[B−f(x)I]x,

o`uI est la matrice identit´e dansRⁿ. Au pointx∗on a n´ecessairement 0 =∇f(x∗) = 2

kxk²[B−f(x∗)I]x∗, kx^∗k= 1.

La matriceB−f(x∗)I n’est donc pas injective et d´et [[B −f(x∗)I] = 0. On en conclut quef(x∗) >0 est une valeur propre de la matrice B. Si λ est une autre valeur propred deB, alors d´et (B−λI) = 0, la matriceB−λI n’est pas injective et il existexλ6= 0 tel que (B−λI)xλ= 0 ce qui implique

λ= Bxλ·xλ

kxλk² ≥f(x∗)

par d´efinition du minimum. La valeur propref(x∗) est donc la plus petite.

Exercice 4. Soient A et B deux matrices sym´etriques n×n. On suppose B d´efinie positive. Pourx∈Rⁿ,x6= 0, on d´efinit la fonction

f(x)^d´=^ef Ax·x Bx·x. (7)

(i) Montrer que l’ensemble U ^d´=^ef {x ∈ Rⁿ : Bx·x = 1} est non-vide et compact.

(ii) Montrer qu’il existexˆ∈Rⁿ tel queBxˆ·xˆ= 1 et f(ˆx) = inf

06=x∈Rⁿ

Ax·x Bx·x. (8)

(iii) Calculer ∇f(x) pour x6= 0 et caract´eriser x. Montrer que pour toutˆ λ tel qued´et (A−λB) = 0, on af(ˆx)≤λ.

Solution. (i) Pour tout 06=z ∈Rⁿ,Bz·z >0 puisque B est d´efinie positive.

On associe `a zle point x= z

√Bz·z ⇒ Bx·x=B z

√Bz·z · z

√Bz·z = Bz·z

Bz·z = 1 ⇒ x∈U.

L’ensemble U n’est donc pas vide et comme x7→ Bx·x est continue, l’image inverse de 1 qui estU est ferm´ee. Enfin, de l’exercice 3, il existeβ >0 tel que

1 =Bx·x≥βkxk² ⇒ kxk ≤ 1

√β etU est born´e. DoncU est compact non-vide.

(ii) ´Etant donn´e 0≤x∈Rⁿ,Bx·x >0 puisqueB est d´efinie positive et f(x) = Ax·x

Bx·x =A x

√Bx·x· x

√Bx·x ⇒ inf

06=x∈Rⁿf(x) = inf

x∈UAx·x.

Comme la fonctionAx·x≥0 est continue et queU est compact, il existe ˆx∈U tel que

f(ˆx) = inf

x∈UAx·x= inf

06=x∈Rⁿf(x) etBˆx·xˆ= 1.

(iii) Mˆeme technique que pour l’exercice 3. On obtient

∇f(x) = 2

Bx·x[A−f(x)B]x et

∇f(ˆx) = 2

Bxˆ·xˆ[A−f(ˆx)B] ˆx= 0 ⇒ d´et [A−f(ˆx)B] = 0 etf(ˆx) est une valeur propre g´en´eralis´ee de la paire (A, B).