Soient E et F deux espaces vectoriels sur k de dimension finie, munis de formes ses-quilinéaires non dégénéréesf etg respectivement, qui sont simultanément symétriques ou hermitiennes.
Proposition 1.6. Pour toutu∈L(E, F), il existe une unique application u∗∈L(F, E) telle que
∀x∈E, ∀y ∈F, f(x, u∗(y)) =g(u(x), y). (9) L’application u 7→ u∗ est involutive (c’est-à-dire qu’elle vérifie l’égalité (u∗)∗ = u pour tout u ∈ L(E, F)) et semi-linéaire (c’est-à-dire qu’elle vérifie (u +λv)∗ = u∗ +λσv∗ pour tous les λ∈k et u, v∈ L(E, F)). Elle est aussi contravariante (c’est-à-dire qu’elle vérifie id∗ = id et (u◦v)∗ = v∗ ◦u∗ pour tous les u ∈ L(F, G) et v ∈ L(E, F)). En particulier (un)∗ = (u∗)n pour tous les n∈N et u ∈L(E). L’opérateur u∗ est inversible si et seulement si u l’est, et alors (u∗)−1 = (u−1)∗ et si E =F alors (u∗)n = (un)∗ pour tout n∈Z.
L’applicationu∗ est appelée l’adjoint deu (relativement àf etg). Puisquef etg sont simultanément symétriques ou hermitiennes, la formule (9) est équivalente à
∀x∈E, ∀y ∈F, f(u∗(y), x) =g(y, u(x)).
Démonstration. Pour l’existence, soientfe:Eσ →E∗ eteg:Fσ →F∗ les isomorphismes de dualité, de sorte que f(a)(b) =e f(a, b) pour tous les a, b ∈ E. Soit
b
u ∈ L(F∗, E∗) l’applicationduale(on dit parfoistransposée) deu, qui est l’application de précomposition paru des formes linéaires surF, donc définie par`7→`◦u. Notons que si `est une forme linéaire surF, alors `◦u est bien une forme linéaire surE, et que l’application u7→
b u est linéaire.
Rappelons que les groupes additifs sous-jacents àE et àEσ coïncident, ainsi que ceux de F etFσ. Montrons que l’application
u∗ =fe−1◦ b
u◦eg , (10)
considérée comme une application de F dansE convient. En effet, pour tous les x∈E et y∈F, nous avons
f x,fe−1◦ b
u◦eg(y)σ
=f fe−1◦ b
u◦eg(y), x
=fefe−1◦ b
u◦eg(y) (x)
= ( b
u◦eg(y))(x) =eg(y)(u(x)) =g(y, u(x)) =g(u(x), y)σ . Ceci montre la formule (9). De plus, u∗ est un morphisme de groupes additifs, comme composé de trois tels morphismes. Comme l’application
b
u est linéaire et les applications fe:E→E∗et(fe)−1 :E→E∗ sont semi-linéaires (et puisqueσest involutif), l’application u∗ est linéaire.
L’unicité deu∗ est claire, car un vecteur deE orthogonal à tout vecteur deE est nul puisquef est non dégénérée. Elle implique les propriétés d’involution, de semi-linéarité, et
la relation de contravariance (u◦v)∗=v∗◦u∗.
Un opérateur linéaireu∈L(E) est dit
• auto-adjoint siu=u∗ (on dit aussihermitien, etsymétriquedans le cas particulier où f est symétrique),
• positifsi f(u(x), x)∈ {λλσ : λ∈k} pour tout x∈E,22
• normal siu◦u∗ =u∗◦u,
• unitaire siu◦u∗ =u∗◦u= id.
Remarques. (1) SiA(respectivementB) est la matrice def (respectivementg) dans une baseB (respectivementC) deE (respectivement F), siM est la matrice deu∈L(E, F) dans ces bases, alors la matrice M∗ de u∗ ∈L(F, E) dans ces bases est23
M∗ = (Aσ)−1tMσBσ . (11)
En particulier, siE etF sont des espaces euclidiens (respectivement hermitiens), et si B et C sont orthonormées (voir la partie 1.7), alors M∗ est la matrice transposée de M (respectivement la matrice transposée de la matrice conjuguée de M) :
M∗ = tM (respectivement M∗ = tM ).
22. lorsque(k, σ) = (R,id)ou(k, σ) = (C, z7→z), ceci s’écritf(u(x), x)≥0pour toutx∈E
23. En effet, siX,Y sont les vecteurs colonnes des coordonnées de n’importe quelsx∈E,y∈F dans les basesB,C, alors
tX(A(M∗)σ)Yσ = tXA(M∗Y)σ=f(x, u∗(y)) =g(u(x), y) = t(M X)BYσ= tX(tM B)Yσ.
DoncA(M∗)σ= tM B etM∗= (A−1)σ(tM)σBσ.
Donc si E = F et B = C, un opérateur u ∈ L(E) est auto-adjoint si et seulement si sa matrice M dans la base orthonormée B est symétrique tM = M (respectivement hermitienne tM =M ).
(2) Un opérateur linéaireu∈L(E) auto-adjoint ou unitaire est normal. Siu∈L(E) est normal et v∈L(E) est unitaire, alorsv◦u◦v−1 est normal, car
(v◦u◦v−1)∗= (v◦u◦v∗)∗ =v◦u∗◦v∗ =v◦u∗◦v−1
et les conjugués par un même automorphisme de deux endomorphismes qui commutent commutent encore. (3) SiE=F, pour toutu∈L(E), l’applicationh: (x, y)7→f(u(x), y) est une forme sesquilinéaire surE, qui est hermitienne si et seulement siuest auto-adjoint, et qui est positive si et seulement si u est positif.
(4) SiE =F, siσ 6= idet si la caractéristique dekest différente de2, alors un opérateur positif uest auto-adjoint. En effet, par ce qui précède, en posanth: (x, y)7→f(u(x), y), il suffit de montrer que la forme sesquilinéaire positiveh est hermitienne. La forme h, étant positive, prend ses valeurs sur la diagonale de E×E dans l’ensemble {λλσ :λ∈k}, qui est contenu dans le sous-corps fixe k0 de σ. Donc pour tous les x, y∈E, nous avons
h(y, x) +h(x, y) =h(x+y, x+y)−h(x, x)−h(y, y)∈k0.
Notonsι∈kun élément donné par le lemme1.1. En remplaçantyparι−1ydans la formule centrée ci-dessus, nous avons
h(y, x)−h(x, y) =ι h(ι−1y, x) +h(x, ι−1y)
∈ι k0 .
Donc
h(y, x)−h(x, y)σ
= h(y, x) +h(y, x)σ
2 +ιh(y, x)−h(y, x)σ
2ι −h(x, y) +h(x, y)σ
2 +ιh(x, y)−h(x, y)σ 2ι
= (h(y, x)−h(x, y)) + (h(y, x)−h(x, y))σ
2 +ι(h(y, x) +h(x, y))−(h(y, x) +h(x, y))σ 2ι
= 0.
Ceci montre queh est hermitienne.
(5) Par exemple, id∈ L(E) est auto-adjoint et unitaire, et pour tout u dansL(E), les opérateurs linéairesu+u∗ etι(u−u∗) (celui-ci n’étant défini que lorsqueσ 6= idet la caractéristique dekest différente de2) sont auto-adjoints, par les propriétés d’anti-linéarité et d’involution. Si de plus f est positive, alorsidest positif. Siu∈L(E) est auto-adjoint et si v∈L(E) est unitaire, alorsv◦u◦v−1 est auto-adjoint.
De même, pour toute application linéaireu ∈L(E, F), les opérateursu∗◦u∈L(E) etu◦u∗ = (u∗)∗◦u∗ ∈L(F) sont auto-adjoints, car
∀x, y∈E, f(u∗◦u(x), y) =g(u(x), u(y)) =f(x, u∗◦u(y)).
L’opérateur u∗ ◦u ∈ L(E) est positif si g est positive (et donc l’opérateur u◦u∗ = (u∗)∗◦u∗ ∈L(F) est positif sif est positive), car
∀x∈E, f(u∗◦u(x), x) =g(u(x), u(x))∈ {λ λσ :λ∈k}.
Le résultat suivant regroupe les relations élémentaires entre les propriétés d’une appli-cation linéaire de E dansF et celles de son adjoint.24
Proposition 1.7. Soitu∈L(E, F).
(i) L’orthogonal de l’image de u est le noyau de son adjoint et le noyau de u est l’orthogonal de l’image de son adjoint :
u(E)⊥
= ker(u∗) et ker(u) = u∗(F)⊥
.
En particulier, u∗ est injectif si et seulement si u est surjectif, et u∗ est surjectif si et seulement si u est injectif.
(ii) Si f et g sont anisotropes, alors
ker(u) = ker(u∗◦u) et ker(u∗) = ker(u◦u∗).
(iii) Sif etg sont anisotropes, alors les endomorphismesu, u∗, u◦u∗ etu∗◦u ont le même rang.
Dans la suite de cet énoncé, nous supposons que E =F.
(iv) Soit λ∈k. Alors λest valeur propre de u∗ si et seulement si λσ est valeur propre de u :
Vp(u∗) = Vp(u)σ
.
(v) Si V est un sous-espace vectoriel de E invariant (oustable) par u (c’est-à-dire tel que u(V)⊂V), alors V⊥ est invariant par u∗. En particulier, siu est auto-adjoint, et si V est un sous-espace vectoriel de E invariant par u, alors V⊥ est aussi invariant par u.
(vi) Sif est anisotrope et siuest auto-adjoint (respectivement anti-auto-adjoint (c’est-à-dire siu∗ =−u), unitaire), alorsVp(u)est contenu dans le sous-corps fixe k0 ={λ∈k: λσ =λ}de σ (respectivement dans {λ∈k:λσ =−λ}, dansN−1(1) ={λ∈k:λλσ = 1}, dans {λλσ : λ ∈ k}). Si f est anisotrope et positive, et si u est positif, alors Vp(u) est contenu dans {λλσ :λ∈k}.25
(vii) Si f est anisotrope, et si u est normal,26 alors x∈E est un vecteur propre de u associé à la valeur propre λsi et seulement si x est un vecteur propre de u∗ associé à la valeur propre λσ. En particulier ker(u) = ker(u∗) et plus généralement, nous avons, pour tout λ∈k, l’égalité suivante entre les espaces propres Eλ(u) de u pour la valeur propre λ et Eλσ(u∗) deu∗ pour la valeur propreλσ :
Eλ(u) =Eλσ(u∗).
24. Nous renvoyons à un cours d’algèbre linéaire pour la théorie générale de la réduction des endo-morphismes (linéaires) u d’un espace vectoriel de dimension finie E0 sur un corps commutatif k0. L’en-semble Vp(u)desvaleurs propresdeuest l’ensemble desλ∈k0 tels que l’endomorphismeu−λiddeE0 soit non inversible dans l’algèbre L(E0) des endomorphismes linéaires de E0. Pour tout λ ∈k0, posons Eλ0 = {x ∈ E0 : u(x) = λx}, que nous noterons Eλ0(u) lorsqu’il convient de préciser u. Le scalaire λ appartient àVp(u)si et seulementEλ0 n’est pas le sous-espace nul, etEλ0 est alors appelé l’espace propre deuassocié à la valeur propreλ∈Vp(u).
25. En particulier, si E est un espace euclidien ou hermitien, et siu est auto-adjoint (respectivement anti-auto-adjoint, unitaire, positif), alorsVp(u)est contenu dansR(respectivement dansiR(et donc est nul siE est euclidien), dans le cercleS1 ={z∈C:|z|= 1}(et donc dans{±1}siEest euclidien), dans [0,+∞[).
26. Attentionà ne pas oublier l’hypothèse queuest normal dans cette assertion (vii).
Démonstration. (i) Pour tout vecteur y ∈ F, nous avons y ∈ u(E)⊥ si et seulement si g(y, u(x)) = 0pour tout x dansE, si et seulement sif(u∗(y), x) = 0 pour tout xdans E, donc (puisque f est non dégénérée) si et seulement si u∗(y) = 0, c’est-à-dire y ∈ker(u∗).
La seconde égalité de (i) découle de la première en remplaçant u paru∗ et en utilisant la propriété d’involution de u7→u∗.
(ii) L’inclusionker(u)⊂ker(u∗◦u)est immédiate, car siu(x) = 0, alorsu∗◦u(x) = 0.
Réciproquement, si u∗◦u(x) = 0, alors 0 =f(u∗◦u(x), x) =g(u(x), u(x)), donc u(x) = 0 carg est anisotrope. La seconde égalité de (ii) découle de la première en remplaçantu par u∗ et en utilisant la propriété d’involution de u7→u∗.
(iii) Comme f est non dégénérée, par l’assertion (i) et par le théorème du rang, nous avons
dim(imu∗) = dimE−dim (imu∗)⊥
= dimE−dim(keru) = dim(imu), ce qui est l’égalité des rangs de u et deu∗.
Par deux utilisations du théorème du rang et par l’assertion (ii), nous avons dim(im (u∗◦u)) = dimE−dim(ker(u∗◦u)) = dimE−dim(keru) = dim(imu). Ceci montre l’égalité des rangs deu et de u∗◦u. La dernière égalité entre les rangs de u∗ et de u◦u∗ en découle en remplaçant u paru∗ et en utilisant la propriété d’involution de u7→u∗.
Supposons maintenantE=F.
(iv) L’opérateur linéaireu−λid∈L(E) est inversible si et seulement si son adjoint, qui estu∗−λσid, est inversible. DoncVp(u∗) = Vp(u)σ
.
(v) Soient u et V comme dans l’énoncé, et soit x ∈ V⊥. Pour tout y ∈ V, puisque u(y)∈V, nous avons f(u∗(x), y) =f(x, u(y)) = 0. D’oùu∗(x)∈V⊥.
(vi) Soit λ∈Vp(u) une valeur propre de u associée à un vecteur propre non nul donc non isotrope x ∈ Eλ− {0}. Notons que si u est unitaire, alors u est inversible, donc de valeurs propres non nulles, et u∗ =u−1 donc u∗(x) = 1λx car
x=u−1(u(x)) =u−1(λ x) =λ u∗(x).
Siu est autoadjoint (respectivement anti-auto-adjoint, unitaire), posonsλ0 =λ (respecti-vement λ0 =−λ,λ0 = 1λ). Alors
λf(x, x) =f(λx, x) =f(u(x), x) =f(x, u∗(x)) =f(x, λ0x) = (λ0)σf(x, x).
Puisque f(x, x) 6= 0, nous avons doncλ= (λ0)σ. Si u est auto-adjoint, ceci signifie que λ appartient au sous-corps fixek0 de σ. Siu est unitaire, ceci signifie queN(λ) =λλσ = 1.
Siuest positif, alors
λ f(x, x) =f(λ x, x) =f(u(x), x)∈ {µµσ :µ∈k}.
Sif est positive, puisquex n’est pas isotrope, nous avonsf(x, x)∈ {µµσ :µ∈k} − {0}= N(k×), doncλ∈ {µµσ :µ∈k}.
(vii) L’égalité ker(u) = ker(u∗) découle de l’assertion (ii) lorsque u est normal, et l’assertion (vii) en découle en appliquant cette égalité à l’opérateur normal u−λid, dont
l’adjoint est u∗−λσid.
Exercice E.2. Pour tout polynômeP =Pm
i=0aiXi ∈k[X], notonsPσ ∈k[X]le polynôme Pσ =Pm
i=0aσiXi. Soit u∈L(E), de polynôme minimal unitaire Qet de polynôme carac-téristique R. Montrer que le polynôme minimal unitaire de u∗ est Qσ et que le polynôme caractéristique de u∗ estRσ.