Endomorphismes nilpotents.

(1)

Universit´ e de Nice Licence de math´ ematiques

2004-05 Alg` ebre et g´ eom´ etrie

R´ eduction des endomorphismes

Endomorphismes nilpotents.

5. Endomorphismes nilpotents

Un endomorphisme est nilpotent s’il existe une puissance de u qui est l’endomorphisme nul. Le plus petit des en- tiers s ≥ 1 tel que u ^s = 0 dans End(E) est l’indice de nilpotence de u. C’est dire que si l’indice de nilpotence de u est N , le polynˆ ome minimal de u est X ^N et u ^N ⁻¹ n’est pas l’endomorphisme nul.

On voit donc que la seule valeur propre de u est 0, l’es- pace propre associ´ e ´ etant le noyau de u qui n’est donc pas r´ eduit ` a {0}.

Exercice 5.1 . Soit E de dimension finie n sur k et u ∈ End(E). Montrer que les deux conditions suivantes sont

´

equivalentes :

(1) u est nilpotent.

(2) le polynˆ ome caract´ eristique de u est scind´ e et u a 0 comme seule valeur propre.

En d´ eduire que l’indice de nilpotence d’un endomor- phisme est au plus ´ egal ` a n.

Si u est nilpotent d’indice N ≥ 1, alors u ^N−1 n’est pas l’endomorphisme nul ; il existe au moins un vecteur x de E tel que u ^N ⁻¹ (x) 6= 0.

Lemme 5.2. Le syst` eme (x, u(x), . . . , u ^N−1 (x)) est un syst` eme libre de E qui engendre un sous-espace vectoriel F ⊂ E stable par u. La restriction u _|F est un endomor- phisme nilpotent de End(F ) d’indice de nilpotence N . Sa matrice dans la base (u ^N−1 (x), . . . , u(x), x) de F est







0 1 · · · 0 0 0 . . . .. . .. . . . . 1 0 · · · 0 0







On appelle un telle matrice triangulaire sup´ erieure, bloc de Jordan de taille N et de valeur propre 0.

D´ emonstration. Consid´ erons une combinaison lin´ eaire non triviale y = P N −1

i=0 α i u ⁱ (x). Supposons que les α i

ne sont pas tous nuls et appelons i 0 le premier indice i tel que α i 6= 0. Si on applique u ^N−i

⁰

⁻¹ ` a y, on trouve u ^N−i

⁰

⁻¹ (y) = α i

₀

u ^N−1 (x) qui n’est pas nul. On en d´ e- duit que y n’est pas nul. La premi` ere assertion du lemme est d´ emontr´ ee. Prouver les suivantes.

Notre but est de prouver qu’il existe un suppl´ ementaire de F lui aussi stable par u. Pour cela, on va utiliser

la dualit´ e (prop. 4.4). Tout d’abord, il existe une forme lin´ eaire f qui ne s’annule pas sur u ^N−1 (x) (corollaire 4.10). On en d´ eduit que, d’apr` es la d´ efinition du trans- pos´ e :

0 6= hf, u ^N ⁻¹ (x)i = h ^t u ^N ⁻¹ (f ), xi

Il s’ensuit que l’endomorphisme ^t u ^N ⁻¹ n’est pas nul dans End(E ^∗ ). Mais, d’apr` es les propri´ et´ es de composition des transpos´ es ^t u ^j = ( ^t u) ^j pour tout entier j. On en d´ eduit d’une part que ( ^t u) ^N = 0, d’autre part que ( ^t u) ^N ⁻¹ 6= 0, ce qui signifie que ^t u est nilpotent d’indice N exacte- ment.

De mani` ere analogue ` a ce que nous avions fait pour u, on en d´ eduit que G := Vect(f, ^t u(f ), . . . , ^t u ^N ⁻¹ (f )) est un sous-espace de dimension N de E ^∗ qui est stable par

t u.

Lemme 5.3. L’orthogonal de G dans E est un suppl´ e- mentaire de F stable par u. La restriction de u ` a ce sous- espace est nilpotente d’indice de nilpotence au plus ´ egal

`

a celui de u.

D´ emonstration. On sait, d’apr` es la proposition 4.13 que G ^⊥ est stable par u. Comme u ^N = 0 dans End(E), la restriction de u ` a G ^⊥ v´ erifie (u _|G

⊥

) ^N = 0. On sait aussi que l’orthogonal G ^⊥ est de dimension n − N. C’est un suppl´ ementaire de F si et seulement si F ∩ G ^⊥ = {0}. Un ´ el´ ement y non nul de F se d´ ecompose en y = P N −1

i=0 α i u ⁱ (x) avec des α i non tous nuls. Appelons i 0 le premier indice i tel que α _i 6= 0. Si y est aussi dans G ^⊥ il est annul´ e en particulier par ^t u ^N ⁻ⁱ

⁰

⁻¹ (f ) et on obtient :

0 = h ^t u ^N−i

⁰

⁻¹ (f), yi = hf, u ^N−i

⁰

⁻¹ (y)i

= hf, α i

₀

u ^N−1 (x)i = α i

₀

hf, u ^N−1 (x)i ce qui est impossible, d’apr` es la propri´ et´ e de f . On a donc obtenu une contradiction et F ∩ G ^⊥ = {0}.

Th´ eor` eme 5.4 (D´ ecomposition de Jordan des endomor- phismes nilpotents). Soit E un espace vectoriel de di- mension finie sur k et u un endomorphisme nilpotent.

Il existe une d´ ecomposition en somme directe de sous- espaces stables par u

E =

s

M

i=1

E _i

telle que, pour tout i, 1 ≤ i ≤ s, il existe un vecteur x i ∈ E i dont les transform´ es successifs par les puissances de u engendrent E i .

11

(2)

12 Si on note N i la dimension de E i , la restriction u _|E

_i

est un endomorphisme nilpotent d’indice N i . Sa matrice dans la base (u ^N

ⁱ

⁻¹ (x _i ), . . . , x _i ) est un bloc de Jordan de taille N _i et de valeur propre 0. L’entier N = N ₁ = max(N ₁ , . . . , N _s ) est l’indice de nilpotence de u.

D´ emonstration. La d´ emonstration se fait par r´ ecurrence sur la dimension de E. Si la dimension est 0, il n’y a rien

`

a faire. Sinon on trouve, d’apr` es les lemmes 5.2 et 5.3, une d´ ecomposition E = F ⊕ G ^⊥ en sous-espaces stables par u. La restriction u _|F est, par construction, d’indice de nilpotence N ´ egal ` a l’indice de nilpotence de u. On pose E ₁ = F et on suppose, par hypoth` ese de r´ ecurrence, que le th´ eor` eme est vrai pour la restriction de u ` a G ^⊥ qui est nilpotente d’indice au plus ´ egal ` a celui de u. Le th´ eor` eme est alors d´ emontr´ e pour E.

Voyons maintenant comment la suite d’entiers N 1 ≥ . . . ≥ N _s est uniquement d´ etermin´ ee par u. Nous avons d´ ej` a remarqu´ e que la taille du plus grand bloc de Jordan, N = N ₁ = max(N ₁ , . . . , N _s ), est l’indice de nilpotence de u.

Rappelons que chaque sous-espace E _i est engendr´ e par une base (u ^N

ⁱ

⁻¹ (x i ), . . . , x i ). La r´ eunion de ces bases est une base de E que nous notons B.

Combien y a-t-il de blocs de Jordan ? Autant que de vec- teurs de B de la forme u ^N

ⁱ

⁻¹ (x i ). Ces vecteurs forment une base B 1 du noyau de u (le v´ erifier). Le nombre s de blocs de Jordan est donc la dimension du noyau de u.

Combien y a-t-il de blocs de Jordan de taille au moins 2 ? Autant que de vecteurs de B de la forme u ^N

ⁱ

⁻² (x i ) qui, ajout´ es ` a B 1 forment une base B 2 du noyau de u ² (le v´ erifier). Le nombre de blocs de Jordan de taille au moins 2 est donc

dim(ker u ² ) − dim(ker u)

En d´ eduire la preuve de la proposition suivante : Proposition 5.5. Sous les hypoth` eses du th´ eor` eme, la donn´ ee de la suite N ₁ ≥ . . . ≥ N _s des tailles des blocs de Jordan de u est ´ equivalente ` a la donn´ ee de la suite des dimensions des noyaux dim(ker u) ≤ dim(ker u ² ) ≤

· · · ≤ dim(ker u ^N ) = n. La suite N 1 ≥ . . . ≥ N s est donc uniquement d´ etermin´ ee par u.

Exercice 5.6 . On convient de repr´ esenter la suite N ₁ ≥ . . . ≥ N _s par un tableau comme ci-dessous dont la `-` eme ligne comporte N _` cases.

On peut consid´ erer que les cases du tableau indexent les vecteurs de la base B. On peut voir l’action de u sur ces vecteurs comme une translation de 1 case vers la case voi- sine ` a gauche sur la mˆ eme ligne, les cases de la premi` ere

colonne ´ etant associ´ ees ` a des vecteurs du noyau envoy´ es sur 0 par u. De mani` ere analogue ` a l’exemple 2.6.1 on pourrait sch´ ematiser l’action de u sur les vecteurs de B par :

0 ←− ←− ←− ←− ←− ←−

0 ←− ←− ←− ←− ←−

0 ←−

Montrer que le nombre de cases dans la j-` eme colonne du tableau est le nombre de blocs de Jordan de taille au moins j. Exprimer les dimensions des noyaux des puis- sances de u ` a l’aide du tableau.

D´ ecrire la matrice de u dans la base B ⁰ obtenue en pre- nant les vecteurs de B de la premi` ere colonne du tableau

`

a partir du bas, puis ceux de la deuxi` eme colonne ` a partir du bas, etc.

Donnons le th´ eor` eme ´ equivalent pour les matrices nilpo- tentes de M n (k).

Th´ eor` eme 5.7 (D´ ecomposition de Jordan des matrices nilpotentes). Soit A une matrice nilpotente de M _n (k).

Il existe une matrice inversible P de GL n (k) telle que

P ⁻¹ AP =







J _N

₁

0 · · · 0 0 J N

₂

.. . .. . . . . 0 0 · · · 0 J N

_s







est une matrice diagonale par blocs, o` u les matrices J _N

_`

, 1 ≤ ` ≤ s sont des blocs de Jordan de taille N _` et de valeur propre 0. Les entiers N ₁ ≥ . . . ≥ N _s sont unique- ment d´ etermin´ es par A.

Corollaire 5.8. Deux matrices nilpotentes A et B ´ etant donn´ ees dans M n (k), la condition n´ ecessaire et suffi- sante pour qu’il existe une matrice P dans GL n (k) telle que B = P ⁻¹ AP est que A et B d´ efinissent la mˆ eme suite d’entiers N 1 ≥ . . . ≥ N s .

Endomorphismes nilpotents.

Universit´ e de Nice Licence de math´ ematiques

2004-05 Alg` ebre et g´ eom´ etrie

R´ eduction des endomorphismes

Endomorphismes nilpotents.

5. Endomorphismes nilpotents

On voit donc que la seule valeur propre de u est 0, l’es- pace propre associ´ e ´ etant le noyau de u qui n’est donc pas r´ eduit ` a {0}.

Exercice 5.1 . Soit E de dimension finie n sur k et u ∈ End(E). Montrer que les deux conditions suivantes sont

´

equivalentes :

(1) u est nilpotent.

(2) le polynˆ ome caract´ eristique de u est scind´ e et u a 0 comme seule valeur propre.

En d´ eduire que l’indice de nilpotence d’un endomor- phisme est au plus ´ egal ` a n.

Si u est nilpotent d’indice N ≥ 1, alors u N−1 n’est pas l’endomorphisme nul ; il existe au moins un vecteur x de E tel que u N −1 (x) 6= 0.

Lemme 5.2. Le syst` eme (x, u(x), . . . , u N−1 (x)) est un syst` eme libre de E qui engendre un sous-espace vectoriel F ⊂ E stable par u. La restriction u |F est un endomor- phisme nilpotent de End(F ) d’indice de nilpotence N . Sa matrice dans la base (u N−1 (x), . . . , u(x), x) de F est













0 1 · · · 0 0 0 . . . .. . .. . . . . 1 0 · · · 0 0













On appelle un telle matrice triangulaire sup´ erieure, bloc de Jordan de taille N et de valeur propre 0.

D´ emonstration. Consid´ erons une combinaison lin´ eaire non triviale y = P N −1

i=0 α i u i (x). Supposons que les α i

ne sont pas tous nuls et appelons i 0 le premier indice i tel que α i 6= 0. Si on applique u N−i

−1 ` a y, on trouve u N−i

−1 (y) = α i

u N−1 (x) qui n’est pas nul. On en d´ e- duit que y n’est pas nul. La premi` ere assertion du lemme est d´ emontr´ ee. Prouver les suivantes.

Notre but est de prouver qu’il existe un suppl´ ementaire de F lui aussi stable par u. Pour cela, on va utiliser

la dualit´ e (prop. 4.4). Tout d’abord, il existe une forme lin´ eaire f qui ne s’annule pas sur u N−1 (x) (corollaire 4.10). On en d´ eduit que, d’apr` es la d´ efinition du trans- pos´ e :

0 6= hf, u N −1 (x)i = h t u N −1 (f ), xi

De mani` ere analogue ` a ce que nous avions fait pour u, on en d´ eduit que G := Vect(f, t u(f ), . . . , t u N −1 (f )) est un sous-espace de dimension N de E ∗ qui est stable par

t u.

Lemme 5.3. L’orthogonal de G dans E est un suppl´ e- mentaire de F stable par u. La restriction de u ` a ce sous- espace est nilpotente d’indice de nilpotence au plus ´ egal

`

a celui de u.

D´ emonstration. On sait, d’apr` es la proposition 4.13 que G ⊥ est stable par u. Comme u N = 0 dans End(E), la restriction de u ` a G ⊥ v´ erifie (u |G

) N = 0. On sait aussi que l’orthogonal G ⊥ est de dimension n − N. C’est un suppl´ ementaire de F si et seulement si F ∩ G ⊥ = {0}. Un ´ el´ ement y non nul de F se d´ ecompose en y = P N −1

i=0 α i u i (x) avec des α i non tous nuls. Appelons i 0 le premier indice i tel que α i 6= 0. Si y est aussi dans G ⊥ il est annul´ e en particulier par t u N −i

−1 (f ) et on obtient :

0 = h t u N−i

−1 (f), yi = hf, u N−i

−1 (y)i

= hf, α i

u N−1 (x)i = α i

hf, u N−1 (x)i ce qui est impossible, d’apr` es la propri´ et´ e de f . On a donc obtenu une contradiction et F ∩ G ⊥ = {0}.

Th´ eor` eme 5.4 (D´ ecomposition de Jordan des endomor- phismes nilpotents). Soit E un espace vectoriel de di- mension finie sur k et u un endomorphisme nilpotent.

Il existe une d´ ecomposition en somme directe de sous- espaces stables par u

E =

s

M

i=1

E i

telle que, pour tout i, 1 ≤ i ≤ s, il existe un vecteur x i ∈ E i dont les transform´ es successifs par les puissances de u engendrent E i .

11

12

Si on note N i la dimension de E i , la restriction u |E

est un endomorphisme nilpotent d’indice N i . Sa matrice dans la base (u N

−1 (x i ), . . . , x i ) est un bloc de Jordan de taille N i et de valeur propre 0. L’entier N = N 1 = max(N 1 , . . . , N s ) est l’indice de nilpotence de u.

D´ emonstration. La d´ emonstration se fait par r´ ecurrence sur la dimension de E. Si la dimension est 0, il n’y a rien

`

Voyons maintenant comment la suite d’entiers N 1 ≥ . . . ≥ N s est uniquement d´ etermin´ ee par u. Nous avons d´ ej` a remarqu´ e que la taille du plus grand bloc de Jordan, N = N 1 = max(N 1 , . . . , N s ), est l’indice de nilpotence de u.

Rappelons que chaque sous-espace E i est engendr´ e par une base (u N

−1 (x i ), . . . , x i ). La r´ eunion de ces bases est une base de E que nous notons B.

Combien y a-t-il de blocs de Jordan ? Autant que de vec- teurs de B de la forme u N

−1 (x i ). Ces vecteurs forment une base B 1 du noyau de u (le v´ erifier). Le nombre s de blocs de Jordan est donc la dimension du noyau de u.

Combien y a-t-il de blocs de Jordan de taille au moins 2 ? Autant que de vecteurs de B de la forme u N

−2 (x i ) qui, ajout´ es ` a B 1 forment une base B 2 du noyau de u 2 (le v´ erifier). Le nombre de blocs de Jordan de taille au moins 2 est donc

dim(ker u 2 ) − dim(ker u)

· · · ≤ dim(ker u N ) = n. La suite N 1 ≥ . . . ≥ N s est donc uniquement d´ etermin´ ee par u.

Exercice 5.6 . On convient de repr´ esenter la suite N 1 ≥ . . . ≥ N s par un tableau comme ci-dessous dont la `-` eme ligne comporte N ` cases.

On peut consid´ erer que les cases du tableau indexent les vecteurs de la base B. On peut voir l’action de u sur ces vecteurs comme une translation de 1 case vers la case voi- sine ` a gauche sur la mˆ eme ligne, les cases de la premi` ere

colonne ´ etant associ´ ees ` a des vecteurs du noyau envoy´ es sur 0 par u. De mani` ere analogue ` a l’exemple 2.6.1 on pourrait sch´ ematiser l’action de u sur les vecteurs de B par :

Si u est nilpotent d’indice N ≥ 1, alors u ^N−1 n’est pas l’endomorphisme nul ; il existe au moins un vecteur x de E tel que u ^N ⁻¹ (x) 6= 0.

i=0 α i u ⁱ (x). Supposons que les α i

ne sont pas tous nuls et appelons i 0 le premier indice i tel que α i 6= 0. Si on applique u ^N−i

⁻¹ ` a y, on trouve u ^N−i

⁻¹ (y) = α i

u ^N−1 (x) qui n’est pas nul. On en d´ e- duit que y n’est pas nul. La premi` ere assertion du lemme est d´ emontr´ ee. Prouver les suivantes.

la dualit´ e (prop. 4.4). Tout d’abord, il existe une forme lin´ eaire f qui ne s’annule pas sur u ^N−1 (x) (corollaire 4.10). On en d´ eduit que, d’apr` es la d´ efinition du trans- pos´ e :

0 6= hf, u ^N ⁻¹ (x)i = h ^t u ^N ⁻¹ (f ), xi

De mani` ere analogue ` a ce que nous avions fait pour u, on en d´ eduit que G := Vect(f, ^t u(f ), . . . , ^t u ^N ⁻¹ (f )) est un sous-espace de dimension N de E ^∗ qui est stable par

D´ emonstration. On sait, d’apr` es la proposition 4.13 que G ^⊥ est stable par u. Comme u ^N = 0 dans End(E), la restriction de u ` a G ^⊥ v´ erifie (u _|G

) ^N = 0. On sait aussi que l’orthogonal G ^⊥ est de dimension n − N. C’est un suppl´ ementaire de F si et seulement si F ∩ G ^⊥ = {0}. Un ´ el´ ement y non nul de F se d´ ecompose en y = P N −1

i=0 α i u ⁱ (x) avec des α i non tous nuls. Appelons i 0 le premier indice i tel que α _i 6= 0. Si y est aussi dans G ^⊥ il est annul´ e en particulier par ^t u ^N ⁻ⁱ

⁻¹ (f ) et on obtient :

0 = h ^t u ^N−i

⁻¹ (f), yi = hf, u ^N−i

⁻¹ (y)i

u ^N−1 (x)i = α i

hf, u ^N−1 (x)i ce qui est impossible, d’apr` es la propri´ et´ e de f . On a donc obtenu une contradiction et F ∩ G ^⊥ = {0}.

E _i

Si on note N i la dimension de E i , la restriction u _|E

est un endomorphisme nilpotent d’indice N i . Sa matrice dans la base (u ^N

⁻¹ (x _i ), . . . , x _i ) est un bloc de Jordan de taille N _i et de valeur propre 0. L’entier N = N ₁ = max(N ₁ , . . . , N _s ) est l’indice de nilpotence de u.

Voyons maintenant comment la suite d’entiers N 1 ≥ . . . ≥ N _s est uniquement d´ etermin´ ee par u. Nous avons d´ ej` a remarqu´ e que la taille du plus grand bloc de Jordan, N = N ₁ = max(N ₁ , . . . , N _s ), est l’indice de nilpotence de u.

Rappelons que chaque sous-espace E _i est engendr´ e par une base (u ^N

⁻¹ (x i ), . . . , x i ). La r´ eunion de ces bases est une base de E que nous notons B.

Combien y a-t-il de blocs de Jordan ? Autant que de vec- teurs de B de la forme u ^N

⁻¹ (x i ). Ces vecteurs forment une base B 1 du noyau de u (le v´ erifier). Le nombre s de blocs de Jordan est donc la dimension du noyau de u.

Combien y a-t-il de blocs de Jordan de taille au moins 2 ? Autant que de vecteurs de B de la forme u ^N

⁻² (x i ) qui, ajout´ es ` a B 1 forment une base B 2 du noyau de u ² (le v´ erifier). Le nombre de blocs de Jordan de taille au moins 2 est donc

dim(ker u ² ) − dim(ker u)

· · · ≤ dim(ker u ^N ) = n. La suite N 1 ≥ . . . ≥ N s est donc uniquement d´ etermin´ ee par u.

Exercice 5.6 . On convient de repr´ esenter la suite N ₁ ≥ . . . ≥ N _s par un tableau comme ci-dessous dont la `-` eme ligne comporte N _` cases.

D´ ecrire la matrice de u dans la base B ⁰ obtenue en pre- nant les vecteurs de B de la premi` ere colonne du tableau

Th´ eor` eme 5.7 (D´ ecomposition de Jordan des matrices nilpotentes). Soit A une matrice nilpotente de M _n (k).

P ⁻¹ AP =

J _N

est une matrice diagonale par blocs, o` u les matrices J _N

, 1 ≤ ` ≤ s sont des blocs de Jordan de taille N _` et de valeur propre 0. Les entiers N ₁ ≥ . . . ≥ N _s sont unique- ment d´ etermin´ es par A.

Corollaire 5.8. Deux matrices nilpotentes A et B ´ etant donn´ ees dans M n (k), la condition n´ ecessaire et suffi- sante pour qu’il existe une matrice P dans GL n (k) telle que B = P ⁻¹ AP est que A et B d´ efinissent la mˆ eme suite d’entiers N 1 ≥ . . . ≥ N s .