On dit qu’une fonction F : R

(1)

Correction du TD3

L3, Dauphine, 2020-2021 D. Gontier, gontier@ceremade.dauphine.fr

Existence de minimiseurs

Exercice 1.

On dit qu’une fonction F : R

^d

→ R est coercive si

∀A ∈ R , ∃R > 0, ∀x ∈ R

^d

, kxk > R = ⇒ F(x) > A.

Montrer que si F est coercive et continue, alors F atteint son minimum.

Soit A := F (0). Pour ce A, il existe R > 0 tel que pour tout x ∈ B(0, R)

^c

, F(x) > A = F (0). Ainsi, si un minimiseur existe, il est forcément dans la boule (fermée) B := B(0, R). Cette boule est compacte car on est en dimension finie. Donc F |

_B

atteint son minimum x

^∗

sur B. Enfin, pour tout x ∈ R , on a soit x ∈ B et F (x) ≥ F (x

^∗

), soit x ∈ / B et F(x) > A = F (0) ≥ F(x

^∗

). Dans les deux cas, on a F(x) ≥ F (x

^∗

), donc x

^∗

est le minimiseur de F sur tout R

^d

.

Exercice 2. (Condition de Palais-Smale)

Soit F : R

^d

→ R une fonction de classe C

¹

et c ∈ R . On dit que F vérifie la condition de Palais-Smale en c s’il existe une suite (x

n

) de R

^d

telle que

n→∞

lim F (x

n

) = c et lim

n→∞

∇F (x

n

) = 0, (PS)

et si, pour toute suite (x

n

) vérifiant (PS), (x

n

) admet une sous-suite convergente. On note S

λ

:=

x ∈ R

^d

, F (x) ≤ λ . a/ Montrer que si F vérifie la condition de Palais-Smale en c, alors il existe un point critique x

^∗

∈ R

^d

de F tel que F (x

^∗

) = c.

b/ Les fonctions suivantes vérifient-elles la condition de Palais-Smale en c = 0 ? F

1

(x) = x

²

, F

2

(x) = exp(x), F

3

(x) = sin

²

(x).

c/ On suppose que F est bornée inférieurement et on note m := inf F.

1. Montrer que si (x

_n

) est une suite telle que F(x

_n

) → m (suite minimisante), et que ∇F(x

n

) 9 0, alors (x

_n

) ne converge pas.

2. Montrer que s’il existe λ > m tel que S

λ

est compacte, alors m est un minimum de F , et F vérifie la condition de Palais-Smale en m.

a/ Soit (x

_n

) une suite telle que F (x

_n

) → µ et ∇F(x

_n

) → 0. D’après la condition de Palais-Smale, il existe x

^∗

∈ R

^d

tel que (x

n

) converge vers x

^∗

à extraction près. A la limite, on obtient, par continuité de F et de ∇F , F (x

^∗

) = c et ∇F(x

^∗

) = 0.

b/ Pour F

1

, soit (x

n

) vérifiant x

²_n

→ 0. Cela implique x

n

→ 0, et la suite converge vers 0. Donc F

1

vérifie PS en 0. Pour F

2

, la suite x

n

:= −n vérifie e

^−xⁿ

→ 0, mais diverge en −∞. DoncF

2

ne vérifie pas PS en 0. Pour F

3

, la suite x

n

:= nπ vérifie F

3

(x

n

) = 0 et F

₃⁰

(x

n

) = 0 (car minimum local). Mais x

n

diverge, donc F

3

ne vérifie pas PS en 0.

c/ 1. Supposons par l’absurde que (x

n

) converge vers x

^∗

. Alors à la limite on a F (x

^∗

) = m, et donc m est un minimum. En particulier, c’est un point critique, et ∇F (x

^∗

) = 0, ce qui contredit l’hypothèse que ∇F (x

n

) 9 0.

Donc la suite (x

_n

) ne converge pas.

2. On a inf

_Rd

F = inf

_S_λ

F = min

_S_λ

F (minimum d’une fonction continue sur un compact) = min

_Rd

F. Ainsi, m est le minimum de F. Soit (x

_n

) une suite telle que F (x

_n

) converge vers m. Alors, à partir d’un certain rang, x

_n

∈ S

_λ

, qui est compact. Ainsi, la suite (x

_n

) converge à extraction près.

Exercice 3. (Fonctions convexes) On dit que F : R

^d

→ R est convexe si

∀x, y ∈ R

^d

, ∀t ∈ (0, 1), F (tx + (1 − t)y) ≤ tF (x) + (1 − t)F (y).

(2)

a/ Montrer que si F est coercive, continue et strictement convexe, alors F admet un unique minimiseur.

b/ Montrer que si F est convexe alors les ensembles S

λ

(F ) :=

x ∈ R

^d

, F (x) ≤ λ sont convexes.

c/ On suppose F continue et strictement convexe. Soit B la boule unité fermée de R

^d

. On considère le problème de maximisation suivant :

max {F(x), x ∈ B} .

Montrer que l’ensemble des maximiseurs est non vide, et que si x

^∗

est un maximiseur de F, alors kx

^∗

k = 1.

a/ F est coercive, donc admet un minimiseur. Si x

₁

6= x

₂

sont deux minimiseurs avec F (x

₁

) = F (x

₂

) = m = min F , alors, pour t =

¹₂

, on a

F ( 1

2 (x

1

+ x

2

)) < 1

2 (F (x

1

) + F(x

2

)) = m, ce qui est un contradiction.

b/ On suppose F convexe. Soit x, y ∈ S

λ

. Pour tout t ∈ (0, 1), on a

F (tx + (1 − t)y) ≤ tF (x) + (1 − t)F (y) ≤ tλ + (1 − t)λ = λ,

donc tx + (1 − t)y ∈ S

_λ

. Ceci étant vrai pour tout x, y ∈ S

_λ

, et tout t ∈ (0, 1), S

_λ

est convexe.

c/ F est continue sur le compact B, donc atteint son maximum. Soit x

^∗

∈ B un maximiseur. On suppose par l’absurde que kx

^∗

k < 1. Alors on peut écrire x

^∗

= ta + (1 − t)b avec kak = kbk = 1, et t ∈ (0, 1). On a alors

F(x

^∗

) = F(ta + (1 − t)b) < tF(a) + (1 − t)F (b) ≤ max{F(a), F (b)},

ce qui est une contradiction. Donc kx

^∗

k = 1.

On retiendra que le maximum d’une fonction convexe sur un ensemble K est atteint sur le bord ∂K.

Autour du gradient et des courbes de niveaux

Exercice 4.

a/ Calculer le gradient des fonctions suivantes (on suppose que A ∈ M

d

( R ) et b ∈ R

^d

) F

1

(x) := 1

2 x

^T

Ax − b

^T

x, F

2

(x) := Tr(xx

^T

), F

3

(x) := (1 + x

1

)(1 + x

2

) · · · (1 + x

d

).

b/ Soit g : R → R une fonction de classe C

¹

, et soit F : R

²

→ R définie par F(x) := g(kxk). Calculer le gradient de F et représenter les courbes de niveau et le gradient de F .

a/ On trouve ∇F

1

(x) =

¹₂

(A + A

^T

)x − b (attention à la transposée). Pour F

2

, on remarque que, par cyclicité de la trace, on a Tr (xx

^T

) = Tr (x

^T

x) = x

^T

x. Donc d’après la question précédente, on a ∇F

2

(x) = 2x. Pour F

₃

, on trouve

∇F

3

(x) =







(1 + x

₂

)(1 + x

₃

) · · · (1 + x

_d

) (1 + x

₁

)(1 + x

₃

) · · · (1 + x

_d

)

.. .

(1 + x

₂

)(1 + x

₃

) · · · (1 + x

_d−1

)





 .

b/ Pour tout x 6= 0, on a ∇kxk =

_kxk^x

. Avec la règle de la composition de la chaîne, on trouve ∇F (x) = g

⁰

(kxk)

_kxk^x

. Les courbes de niveau sont des cercles, et le gradient est orthogonal aux courbes de niveau.

Exercice 5.

On considère un pendule de masse m accroché à un fil (rigide) de longueur L. On note θ l’angle par rapport à l’horizontal.

a/ Montrer (brièvement) que l’énergie du pendule est E(θ, θ) := ˙ 1

2 m(L θ) ˙

²

− mgL cos(θ).

b/ Tracer les courbes de niveau de la fonction E(x, v) := v

²

− cos(x).

c/ Sans action extérieure, un pendule garde une énergie constante. Comment interpréter les courbes de niveaux ?

(3)

a/ Le terme

¹₂

mv

²

est l’énergie cinétique, et v = L θ. Le terme ˙ −mgh est l’énergie potentielle. On a h = L cos θ.

b/ On obtient les courbes suivantes (à justifier)

c/ Les "ellipses" correspondent aux mouvements oscillants, et les "vagues" correspondent aux mouvements où le pendule fait des tours (donc θ croit indéfiniment). Il y a un point critique "instable", qui correspond à la position du pendule en l’air.

Exercice 6.

Soit a > 0, F : x 7→ ax

²

et τ ∈ R . On pose x

₀

= 1 puis x

_n+1

= x

_n

− τ F

⁰

(x

_n

).

a/ Comment se comporte la suite (x

_n

) pour les différentes valeurs de τ ?

b/ On pose maintenant x

_n+1

= x

_n

− τ

¹_ε

[F (x

_n

+ ε) − F (x

_n

)] (différence finie). Que se passe-t-il maintenant ? c/ Que se passe-t-il avec des différences finies centrées ?

a/ On a F

⁰

(x) = 2ax, donc la formule d’itération se réécrit x

n+1

= x

n

(1 − 2τ a). On obtient donc par récurrence x

n

= (1 − 2τ a)

ⁿ

.

— Si (1 − 2τ a) < −1, c’est à dire τ > 1/a la suite diverge en oscillant ;

— Si (1 − 2τ a) = −1, c’est à dire τ = 1/a, la suite oscille entre −1 et 1 ;

— Si |1 − 2τ a| < 1, c’est à dire 0 < τ < 1/a, la suite converge vers 0. La vitesse de convergence est linéaire à taux |1 − 2τ a|. De plus, dans le cas où τ = 1/(2a), on a x

1

= x

2

= · · · = 0 ;

— Si (1 − 2τ a) = 1, c’est à dire τ = 0, la suite est constante égale à 1 ;

— Si (1 − 2τ a) > 1, c’est à dire τ < 0, la suite diverge vers +∞.

b/ On a

¹_ε

a(x

_n

+ ε)

²

− ax

²_n

= 2ax

_n

+ aε, donc la formule d’itération devient x

_n+1

= x

_n

− τ a(2x

_n

+ ε) = (1 − 2τ a)x

_n

− τ aε. En posant y

_n

= x

_n

+

¹₂

ε, on obtient y

_n+1

= (1 − 2τ a)y

_n

. On a les mêmes phénomènes que précédemment pour la suite (y

_n

). En particulier, dans le cas où |1 − 2τ a| < 1, la suite (x

_n

) converge vers −ε/2.

c/ On a

_2ε^a

(x

n

+ ε)

²

− (x

n

− ε)

²

= 2x

n

= F

⁰

(x

n

), donc on retrouve les résultats de question a/ dans le cas des différences finies centrées.

Exercice 7.

Soit F : x 7→ x

²

−

¹₂

x

⁴

, soit τ > 0 et soit (x

n

) la suite définie par x

0

∈ R et x

n+1

= x

n

− τ F

⁰

(x

n

).

a/ Montrer que x

^∗

:= 0 est un minimum local de F .

b/ Montrer que si x

0

> 1, alors pour tout τ > 0, la suite (x

n

) est croissante et diverge vers +∞.

c/ Dans la suite, on suppose |x

0

| < 1. Montrer que pour tout 0 < τ < 1, la suite (|x

n

|) est décroissante, et converge vers x

^∗

.

d/ Montrer que dans ce cas, la vitesse de convergence est linéaire à taux au moins α pour tout |1 − 2τ | < α < 1.

e/ Dans le cas τ =

¹₂

, montrer que (x

_n

) converge vers x

^∗

à l’ordre 3.

f/ Dans le cas τ = 1. Montrer que la suite (|x

_n

|) est décroissante, converge vers 0, et qu’on a 1

x

²_n+1

− 1

x

²_n

= 4 1 − x

²_n

(1 − 2x

²_n

)

²

.

(4)

En déduire que la suite

1 x²_n+1

−

_x¹₂

n

converge vers 4, puis que la suite √

n|x

_n

| converge vers

¹₂

(on pourra utiliser le théorème de Césàro). Combien d’itérations faut-il faire pour avoir une précision de 10

⁻⁶

?

a/ On a F

⁰

(0) = 0 et F

⁰⁰

(0) = 2, donc 0 est un minimum local strict.

b/ On a

x

n+1

= x

n

− τ(2x

n

− 2x

³_n

) = x

n

(1 − 2τ + 2τ x

²_n

) = x

n

τ

n

avec τ

n

:= (1 − 2τ + 2τ x

²_n

).

Si x

_n

> 1, on a τ

_n

> 1, puis x

_n+1

= τ

_n

x

_n

> x

_n

. Ainsi, si x

₀

> 1, on obtient par une récurrence immédiate que les suites (x

n

) et (τ

n

) sont croissantes. En particulier, on a x

n+1

≥ τ

0

x

n

≥ · · · ≥ τ

₀ⁿ

x

0

→ ∞.

c/ Si x

n

∈ (−1, 1), on a x

²_n

∈ (0, 1), et τ

n

∈ (1 − 2τ, 1). En particulier, si 0 < τ < 1, on a |τ

n

| < 1, puis

|x

n+1

| < |x

n

|. La suite (|x

n

|) est donc décroissante et minorée par 0, elle converge vers un certain l. Par conti- nuité, on doit avoir 0 ≤ l < 1 et l = l(1 − 2τ + 2τ l

²

), et donc l = 0.

d/ Soit α > |1 − 2τ|. Comme x

n

converge vers 0, on a |τ

n

| < α à partir d’un certain rang n

0

∈ N . On obtient, pour n > n

0

, |x

n

| ≤ αx

n−1

≤ · · · ≤ α

ⁿ⁻ⁿ⁰

x

n₀

≤ (x

n₀

α

⁻ⁿ⁰

)α

ⁿ

, et la convergence est linéaire de taux α. Ceci étant vrai pour tout α > |1 − 2τ|, on obtient une convergence linéaire à taux |1 − 2τ |.

e/ Dans le cas τ =

¹₂

, on a x

n+1

= x

³_n

= · · · = x

³₀ⁿ⁺¹

, CQFD.

f/ Si τ = 1, on a x

_n+1

= x

_n

(2x

²_n

− 1). Si 0 < |x

n

| < 1, alors |τ

n

| < 1, et donc |x

n+1

| < x

_n

, et si x

_n

= 0, alors x

_n+1

= 0. Dans tous les cas, la suite (|x

_n

|) est décroissante. Sa limite l doit vérifier 0 ≤ l < 1 et l = l(2l

²

− 1) (donc l = 0 ou l = ±1). On obtient l = 0.

On a

1 x

²_n+1

− 1

x

²_n

= 1 x

²_n

1 (2x

²_n

− 1)

²

− 1

= 1 x

²_n

4x

²_n

− 4x

⁴_n

(2x

²_n

− 1)

²

= 4 − 4x

²_n

(2x

²_n

− 1)

²

.

Comme x

n

converge vers 0, le terme de droite converge vers 4. D’après le théorème de Césàro, on a aussi 4 = lim

n→∞

1 n

1 x

²_n

− 1

x

²_n−1

+ 1

x

²_n−1

− 1

x

²_n−2

+ · · · + 1 x

²₁

− 1

x

²₀

= lim

n→∞

1 nx

²_n

− 1

nx

²₀

= lim

n→∞

1 nx

²_n

.

Exercice 8. (Produit scalaire de Frobenius)

On définit sur M

d

( R ) le produit scalaire de Frobenius hA, Bi

F

:= Tr A

^T

B . a/ Montrer que c’est effectivement un produit scalaire.

b/ Montrer que si A ∈ S

d

( R ) est une matrice symétrique réelle, avec valeurs propres λ

1

(A), λ

2

(A), · · · , λ

d

(A) alors

kAk

²_F

=

d

X

i,j=1

|a

ij

|

²

=

d

X

i=1

|λ

i

(A)|

²

.

b/ Calculer le gradient des fonctions suivantes, de M

d

→ R , pour le produit scalaire de Frobenius (on suppose x, b ∈ R

^d

et P ∈ R [X] sont fixés) :

F

1

(A) := Tr (A

^T

A), F

2

(A) := 1

2 x

^T

Ax − b

^T

x, F

3

(A) := Tr (P (A)), F

4

(A) := det(A) (pour A inversible) Indice : Pour F

3

, on pourra montrer que Tr ([A + tH]

^k

) = Tr (A

^k

) + tTr (kA

^k−1

H) + o(t).

a/ Trivial. La symétrie vient du fait que Tr (A) = Tr (A

^T

).

b/ La première égalité est un calcul. Pour la seconde, on note A = U DU

^T

avec D = diag(λ

1

, · · · λ

d

) et U orthonormale. On obtient, par cyclicité de la trace, et en utilisant le fait que U U

^T

= U

^T

U = I

d

,

Tr (A

²

) = Tr (U DU

^T

U DU

^T

) = Tr ([U

^T

U]D[U

^T

U ]D) = Tr (D

²

) =

d

X

i=1

λ

²_i

.

c/ On obtient ∇F

₁

(A) = 2A. Pour F

₂

, on remarque x

^T

Ax = Tr (x

^T

Ax) = Tr (Axx

^T

), donc ∇F

₂

(A) = xx

^T

. Pour F

₃

, on a

(A + tH)

^k

= A

^k

+ t A

^k−1

H + A

^k−2

HA + A

^k−3

HA

²

+ · · · + HA

^k−1

+ o(t).

En prenant la trace, et en utilisant la cyclicité, on obtient Tr (A + tH)

^k

= Tr (A

^k

) + tTr (kA

^k−1

H ) + o(t),

(5)

donc, si g

k

: A 7→ Tr (A

^k

), alors ∇g

k

(A) = k(A

^T

)

^k−1

. On en déduit par linéarité que ∇F

3

(A) = P

⁰

(A

^T

). Enfin, d’après le premier semestre, on a

det(A + tH) = det(A) + t det(A)Tr (A

^−T

H ) + o(t), donc ∇F

4

(A) = det(A)A

⁻¹

(la comatrice dans le cas général).

Méthodes d’accélération

Exercice 9. (Accélération d’Aitken, Partiel 2019)

Soit Φ : R → R de classe C

²

telle que Φ(0) = 0, et 0 < Φ

⁰

(0) < 1. Soit α tel que Φ

⁰

(0) < α < 1.

a/ Montrer qu’il existe ε > 0 tel que, pour tout x ∈ (−ε, ε), on a |Φ

⁰

(x)| < α.

b/ Montrer que la suite définie par x

n+1

= Φ(x

n

) avec x

0

∈ (−ε, ε) converge linéairement vers 0, à taux au plus α.

c/ Montrer que 0 est l’unique point fixe de Φ dans (−ε, ε).

On pose maintenant

Ψ(x) := x − [Φ(x) − x]

²

x − 2Φ(x) + Φ(Φ(x)) . d/ Dans le cas où Φ(x) = αx, que vaut Ψ(x) ?

e/ Dans le cas général, en utilisant le développement limité de Φ, calculer celui de Ψ à l’ordre 1. En déduire que Ψ(0) = 0 et Ψ

⁰

(0) = 0.

f/ On suppose Ψ de classe C

²

, et Ψ

⁰⁰

(0) 6= 0. Montrer que la suite définie par x

_n+1

= Ψ(x

_n

) avec x

₀

suffisamment proche de 0 converge quadratiquement vers 0.

a/ On a 0 < Φ

⁰

(0) < α. Donc par continuité de Φ

⁰

, il existe un voisinage de 0 tel que ces inégalités strictes restent vraies, c’est à dire

∃ε > 0, ∀x ∈ (−ε, ε), 0 < Φ

⁰

(x) < α, et donc |Φ

⁰

(x)| < α.

b/ On suppose x

n

∈ (−ε, ε). On a

|x

_n+1

| = |Φ(x

_n

)| =

Z

xn

0

Φ

⁰

(t)dt

≤ Z

xn

0

|Φ

⁰

(t)| dt ≤ αx

_n

.

En particulier, on en déduit que |x

n+1

| < αε < ε, et donc, par récurrence, on a x

n

∈ (−ε, ε) pour tout n. De plus, on a |x

n+1

| < α|x

n

| ≤ α

ⁿ⁺¹

x

0

par récurrence. On en déduit que (x

n

) converge vers 0 avec une convergence linéaire d’au moins α.

c/ Soit x

₀

un point fixe de Φ dans (−ε, ε). La suite x

_n+1

= Φ(x

_n

) est alors constante égale x

₀

. D’après la question précédente, on a donc x

₀

− → 0, donc x

₀

= 0.

On peut aussi montrer que f(x) = x − Φ(x) est strictement croissante sur (−ε, ε).

d/ Si Φ(x) = αx, on a

Ψ(x) = x − [αx − x]

²

x − 2αx + α

²

x = x − (α − 1)

²

x

²

x(1 − 2α + α

²

) = x − (α − 1)

²

(α − 1)

²

x

²

x = 0.

e/ Dans le cas général, on a Φ(x) = αx + o(x). On en déduit

[Φ(x) − x]

²

= [αx + o(x) − x]

²

= (α − 1)

²

x

²

+ o(x

²

)

et

x−2Φ(x)+Φ(Φ(x)) = x−2(αx+o(x))+Φ(αx+o(x)) = x−2αx+o(x)+α(αx+o(x))+o(x) = x(1−2α+α

²

)+o(x).

Donc

Ψ(x) = x − (α − 1)

²

x

²

+ o(x

²

)

(α − 1)

²

x + o(x) = o(x).

On en déduit que Ψ est dérivable en 0, avec Ψ(0) = 0 et Ψ

⁰

(0) = 0.

f/ Si β := Ψ

⁰⁰

(0) 6= 0, on a Ψ(x) ≈ βx

²

+ o(x

²

). Au premier ordre, on a donc x

n+1

= βx

²_n

, et on en déduit que la suite (x

n

) converge quadratiquement vers 0 si x

0

est proche de 0.

Exercice 10.

On pose x

n

:=

ⁿ⁺¹_n

ⁿ

et y

n

:=

n n−1

n

.

(6)

a/ Montrer que les suites (x

n

) et (y

n

) convergent. Quelle sont les limites, et les vitesse de convergence ? b/ On pose w