On pourra admettre les résultats des questions précédentes.

(1)

Examen de méthodes numériques (L3 2018-2019)

20/05/2019 D. Gontier, gontier@ceremade.dauphine.fr

Deux heures. Les documents et calculatrices ne sont pas autorisés.

1 page recto-verso, 3 exercices. Les exercices sont indépendants.

On pourra admettre les résultats des questions précédentes.

Rappels

On note k · k ou k · k

_Rⁿ

la norme euclidienne usuelle de R

ⁿ

.

On note S

d

l’ensemble des matrices symétriques réelles de M

d

( R ), et S

_d⁺

(resp. S

_d⁺⁺

) le sous-ensemble des matrices symétriques positives (resp. définies positives).

Exercice 1 : Minimisation aux moindres carrés, cas général.

Soit m, n ∈ N , et soit A ∈ M

m,n

( R ). On dit que A est injective si Ker A = {0}.

a/ Montrer que A est injective si et seulement si les colonnes de A sont indépendantes.

b/ Montrer que si A est injective, alors rg A = n, et m ≥ n.

c/ Montrer que A est injective si et seulement si A

^T

A ∈ S

_n⁺⁺

.

On suppose dans la suite que A est injective, et on note A

^†

:= (A

^T

A)

⁻¹

A

^T

. d/ Exemple : Calculer B

^†

, où

B :=



 0 0 0 1 1 1



 .

e/ Montrer que A

^†

A = I

n

. Montrer que AA

^†

= I

m

si et seulement si m = n.

Soit b ∈ R

^m

. On s’intéresse au problème de minimisation suivant

x

^∗

= argmin {kAx − bk

_R^m

, x ∈ R

ⁿ

} (P).

f/ Montrer qu’il existe S ∈ S

_n⁺⁺

et c ∈ R

ⁿ

qu’on explicitera tel que x

^∗

= argmin

1 2 x

^T

Sx − c

^T

x, x ∈ R

ⁿ

.

g/ En déduire que x

^∗

= A

^†

b.

h/ Montrer que si A n’est pas injective, alors le problème (P ) admet plusieurs minimiseurs.

Exercice 2 : Méthode des projections alternées.

On rappelle que si K est un convexe fermé (non vide) de R

^d

, et si P

K

est la projection sur K, alors

∀x ∈ R

^d

, ∀k ∈ K, hx − P

K

(x), k − P

K

(x)i ≤ 0. (∗)

a/ Soit x ∈ R

^d

et soit q ∈ K tel que, pour tout k ∈ K, on a hx − q, k − qi ≤ 0. Montrer que q = P

_K

(x).

Dans la suite, on considère A et B deux convexes fermés de R

^d

tel que A ∩ B 6= ∅. Soit x ∈ R

^d

, et soit (a

_n

) et (b

_n

) les suites définies par a

₀

= P

_A

(x), puis

∀n ∈ N , b

n

= P

B

(a

n

), et a

n+1

= P

A

(b

n

).

b/ Exemple : Représenter graphiquement (sur un dessin grand et propre) les points (a

0

, a

1

, a

2

) et les points (b

0

, b

1

, b

2

) dans le cas où

A = {(x

1

, x

2

) ∈ R

²

, x

1

= 2}, B = {(x

1

, x

2

) ∈ R

²

, x

²₁

+ x

²₂

≤ 4}, x = 0

2 .

(2)

c/ Montrer que K := A ∩ B est un convexe fermé non vide.

d/ Soit k ∈ K. Montrer que

(d1) ka

n

− kk

²

≥ ka

n

− b

n

k

²

+ kb

n

− kk

²

et (d2) kb

n

− kk

²

≥ ka

n+1

− b

n

k

²

+ ka

n+1

− kk

²

. e/ En déduire que :

e1/ la suite ka

n

− kk est convergente ; e2/ la suite (a

_n

) est bornée ;

e3/ la suite ka

n

− b

_n

k converge vers 0.

f/ Soit x

_∞

un point d’accumulation de (a

_n

). Montrer que x

_∞

est aussi un point d’accumulation de (b

_n

). En déduire que x

_∞

∈ K.

g/ Montrer que les suites (a

_n

) et (b

_n

) convergent vers x

_∞

.

Question Bonus. Est-ce que x

_∞

= P

K

(x) ? On pourra faire un dessin pour expliquer.

Exercice 3 : Une méthode conjuguée.

Soit A ∈ S

_d⁺⁺

, soit b ∈ R

^d

, et soit K

0

:= {0} et K

n

:= Vect {b, Ab, A

²

b, · · · , A

ⁿ⁻¹

b} pour 1 ≤ n ≤ d. On pose p

₁

= b, p

₂

= Ap

₁

+ α

₁

p

₁

, avec α

₁

:= − b

^T

A

²

b

^T

Ab , puis, pour n ≥ 2 ,

p

n+1

= Ap

n

+ α

n

p

n

+ β

n

p

_n−1

, avec α

n

:= − p

^T_n

A

²

p

n

p

^T_n

Ap

n

et β

n

:= − p

^T_n

Ap

n

p

^T_n−1

Ap

_n−1

. a/ Montrer que p

_n

∈ K

_n

pour tout n ∈ N

^∗

.

b/ Montrer que p

^T_n

Ap

_n+1

= 0 pour tout n ∈ N

^∗

.

On admet pour la suite que pour tout 1 ≤ n ≤ d, (p

k

)

_1≤k≤n

est une base conjuguée de K

n

. c/ Soit x

^∗

:= A

⁻¹

b. Montrer que

x

^∗

=

d

X

n=1

p

^T_n

b p

^T_n

Ap

n

p

n

.

d/ Soit (x

n

) la suite définie par x

0

= 0 puis, pour n ≥ 1, x

n

= x

_n−1

+

p

^T_n

b p

^T_n

Ap

n

p

n

. Montrer que x

n

∈ K

n

. e/ Soit (x

^(GC)n

) la suite obtenue avec la méthode du gradient conjugué. Montrer que kx

^(GC)n

−x

^∗

k

²_A

≤ kx

n

−x

^∗

k

²_A

. f/ Voici un code (sans erreurs) qui implémente l’algorithme précédent.

1 d e f m e t h o d e C o n j u g u e e( A , b ) : 2 pnm1 , A p n m 1 = b , dot ( A , b )

3 pn = A p n m 1 - dot ( Apnm1 , A p n m 1 ) / dot ( pnm1 , A p n m 1 ) * b 4 Apn = dot ( A , pn )

5 xn = dot ( pnm1 , b ) / dot ( pnm1 , A p n m 1 ) * p n m 1 + dot ( pn , b ) / dot ( pn , Apn ) * pn 6

7 f o r n in r a n g e(2 ,l e n( b ) ) :

8 p n p 1 = Apn - dot ( Apn , Apn ) / dot ( pn , Apn ) * pn - dot ( pn , Apn ) / dot ( pnm1 , A p n m 1 ) * p n m 1 9 A p n p 1 = dot ( A , p n p 1 )

10 pn , Apn , pnm1 , A p n m 1 = pnp1 , Apnp1 , pn , Apn 11 xn = xn + dot ( pn , b ) / dot ( pn , Apn ) * pn

12

13 r e t u r n xn