TD7 : Autour des espaces de Krylov.

(1)

TD7 : Autour des espaces de Krylov.

MNO, L3, Dauphine, 2020-2021 D. Gontier, gontier@ceremade.dauphine.fr

Échauffement et rappels

Exercice 1. (Erreur numérique du produit scalaire, à faire rapidement)

Soit a et b deux vecteurs de R

²

, et soit θ l’angle entre les deux (le signe n’importe pas). On rappelle que ha, bi := kak · kbk · cos(θ) (définition de cos !).

a/ Soit w ∈ R

²

un bruit numérique tel que kwk kak. Montrer que a + w ≈ a.

b/ Dans quel cas peut-on avoir

ha, bi ≈ hw, bi ?

c/ En déduire que le calcul d’un produit scalaire est sensible au bruit si les vecteurs sont presque orthogonaux.

Exercice 2. (Polynôme minimal, rappels)

Soit A ∈ S

d

( R ) un matrice symétrique, et soit λ

1

≤ λ

2

≤ · · · ≤ λ

d

ses valeurs propres.

Soit π le polynôme minimal de A (π est le polynôme unitaire de plus petit degré tel que π(A) = 0).

a/ Montrer que si P ∈ R [X] est tel que P (A) = 0, alors P est divisible par π. En déduire que π divise χ(X ) := det(X I

d

− A) = (X − λ

₁

)(X − λ

₂

) · · · (X − λ

_d

) (polynôme caractéristique).

b/ Soit r ∈ N le degré de π. Montrer que la famille de matrices { I

d

, A, A

²

, · · · , A

^r

} est liée.

c/ Soit r

⁰

∈ N le nombre de valeurs propres différentes parmi {λ

₁

, · · · λ

_d

}. On note {µ

₁

< µ

₂

< · · · < µ

_r⁰

} = {λ

₁

, · · · λ

_d

} .

Montrer que r

⁰

= r, puis que π(X) = (X − µ

1

)(X − µ

2

) · · · (X − µ

r

).

Espaces de Krylov

Dans la suite A ∈ S

_d⁺⁺

, b ∈ R

^d

, et on note (en tant que R -espace vectoriel) K

n

:= Vect

b, Ab, · · · A

ⁿ⁻¹

b , et K

0

:= {0}.

On note A := P

n

i=1

λ

i

|u

i

ihu

i

| (décomposition spectrale), avec 0 < λ

1

≤ · · · ≤ λ

d

et (u

i

)

_1≤i≤n

une base de R

^d

. Exercice 3.

a/ Montrer que K

n

⊂ K

n+1

pour tout n ∈ N , et que AK

n

⊂ K

n+1

.

b/ Montrer que K

n

= K

n+1

si et seulement si il existe un polynôme unitaire Q ∈ R

n

[X] tel que Q(A)b = 0.

En déduire que si K

n

= K

n+1

, alors K

n

= K

n+1

= K

n+2

= · · · .

On peut donc parler du plus petit indice n ∈ N pour lequel K

_n

⊂ K

_n+1

. c/ Soit π le polynôme minimal de A, de degré r ∈ N . Montrer que K

_r

= K

_r+1

.

d/ Soit b

i

:= hu

i

, bi. Montrer que Q(A)b = 0 si et seulement si pour tout 1 ≤ i ≤ d, on a Q(λ

i

)b

i

= 0.

e/ On introduit I l’ensemble des indices pour lesquels b

i

6= 0, puis r ˜ ∈ N le nombre de valeurs propres (λ

i

)

_i∈I

différentes parmi les indices I. Autrement dit,

I := {i ∈ [1, n], b

i

6= 0} , et r ˜ = ] {λ

i

, i ∈ I} . Montrer que r ˜ ≤ r et que K

r˜

= K

˜r+1

.

f/ Montrer que r ˜ est le plus petit indice n ∈ N pour lequel K

n

= K

n+1

.

g/ Montrer que x

^∗

:= A

⁻¹

b appartient à K

r˜

.

(2)

Exercice 4. (Algorithme de Lanczos pour le calcul de la plus petite valeur propre) On rappelle que

λ

1

= min

hx, Axi

kxk

²

, x ∈ R

^d

\ {0}

.

On veut calculer λ

1

, et on l’approxime par

θ

₁⁽ⁿ⁾

:= min

hx, Axi

kxk

²

, x ∈ K

n

\ {0}

.

a/ Montrer que la suite θ

₁⁽ⁿ⁾

n∈N

est décroissante, minorée par λ

1

. En déduire qu’elle admet une limite λ

^(∞)₁

. b/ On note b

i

:= hu

i

, bi. Montrer que

λ

₁

≤ λ

⁽ⁿ⁾₁

:= min ( P

d

i=1

λ

i

|P (λ

i

)|

²

b

²_i

P

d

i=1

|P (λ

_i

)|

²

b

²_i

, P ∈ R

n−1

[X ] avec P (A)b 6= 0 )

.

c/ En déduire que l’erreur à l’étape n est (attention aux indices !)

θ

₁⁽ⁿ⁾

− λ

1

≤ min

( P

d

i=2

(λ

i

− λ

1

) |P(λ

i

)|

²

b

²_i

P

d

i=1

|P (λ

i

)|

²

b

²_i

, P ∈ R

n−1

[X] avec P (A)b 6= 0 )

. (∗).

d/ On suppose que λ

₁

est strictement plus petit que λ

₂

: λ

₁

< λ

₂

≤ · · · ≤ λ

_d

et que b

₁

:= hu

₁

, bi 6= 0. En considérant P(X ) := (X − λ

₂

)(X − λ

₃

) · · · (X − λ

_d

), montrer que P ∈ R

d−1

[X ], que P (A)b ∈ K

_d

( R ) \ {0}, et enfin que θ

₁^(d)

= λ

1

.

Chebyshev, le retour

Exercice 5. (Une propriété des polynômes de Chebyshev)

On rappelle que que n-ème polynôme de Chebyshev est défini par (cf TD6 exo 5) T

₀

(x) = 1, T

₁

(x) = x, T

_n+1

(x) = 2xT

_n

(x) − T

_n−1

(x).

a/ Rappel. Montrer que pour tout x ∈ [−1, 1], on a T

n

(x) = cos(n arccos(x)). En déduire que pour tout x ∈ [−1, 1], on a |T

n

(x)| ≤ 1.

b/ Montrer que pour tout x > 1, on a

¹

T

n

(x) = cosh(n arcosh(x)). En déduire que T

n

est croissante sur [1, ∞].

Soit a < b < c trois réels. On cherche un polynôme "grand" en x = a, et "petit" sur l’intervalle [b, c]. On pose P

n

(x) := T

n

2x − b − c c − b

.

c/ Montrer que pour tout x ∈ [b, c], on a |P

n

(x)| ≤ 1.

d/ Montrer que |T

n

(−x)| = |T

n

(x)|. En déduire que |P

n

(a)| = |T

n

(1 + 2ρ)| avec ρ :=

^b−a_c−b

. e/ Soit R := exp (arcosh(1 + 2ρ)). Montrer que R = 1 + 2ρ + 2 p

ρ

²

+ ρ.

f/ Montrer que

|P

n

(a)| ≥ 1 2 R

ⁿ

.

g/ Applications. En prenant a = λ

₁

, b = λ

₂

et c = λ

_d

dans (∗) de l’exo précédent, montrer que

θ

⁽ⁿ⁾₁

− λ

1

≤

4(λ

d

− λ

1

)kbk

²

b

²₁

1 R

²ⁿ

. En déduire que

θ

₁⁽ⁿ⁾

converge linéairement vers λ

1

à taux au plus R

²

.

1. On rappelle l’identitécosh(a+b) + cosh(a−b) = 2 cosh(a) cosh(b)

2

(3)

Variante du gradient conjugué

Exercice 6. (Examen 2017-2018, Le gradient conjugué réduit) Soit A ∈ S

_d⁺⁺

, b ∈ R

^d

, et soit Q(x) :=

¹₂

x

^T

Ax − b

^T

x.

Soit (u

1

, . . . , u

m

) ∈ ( R

^d

)

^m

une famille de m vecteurs orthonormés, avec m ≤ d, et soit K := Vect(u

1

, . . . , u

m

).

On veut résoudre le problème d’optimisation sous contraintes

(∗) argmin {Q(x), x ∈ K} . a/ Montrer que (∗) admet une unique solution, qu’on notera x

^∗

∈ K.

b/ Montrer que x ∈ K si et seulement si il existe y ∈ R

^m

tel que x = U y, où U ∈ M

_d×m

est la matrice dont la i-ème colonne est u

i

.

c/ Montrer que x

^∗

= U y

^∗

, où y

^∗

∈ R

^m

est solution du problème

(∗∗) argmin 1

2 y

^T

(U

^T

AU )y − (U

^T

b)

^T

y, y ∈ R

^m

.

d/ Montrer que U

^T

U = I

^m

, puis que U

^T

AU ∈ S

_m⁺⁺

. e/ En déduire que x

^∗

= U (U

^T

AU )

⁻¹

U

^T

b.

f/ Proposer des itérations de type (GC) pour résoudre (*). Combien d’itérations faut-il pour trouver x

^∗

? g/ Montrer que la projection P

_K

sur K peut-être définie à partir d’un problème de type (∗).

h/ Montrer que P

_K

= U U

^T

.