Ce chapitre est tr`es proche de [Per96]. SoitKun corps de caract´eristique diff´erente de 2 etEun espace vectoriel de dimensionn <∞surK. La notationqsera r´eserv´ee `a une forme quadratique non d´eg´en´er´ee surE.
6.I. Automorphismes orthogonaux, r´eflexions, g´en´erateurs
6.I.A. Formes quadratiques, isotropie. — SoitFun sous espace vectoriel deE. Le noyau deq|F estF∩F⊥. On a aussi, du moment queqest non d´eg´en´er´ee :
dim(F⊥) =n−dim(F), F⊥ ⊥=F.
D´efinition 6.I.1. — Un sous espace vectorielF{0}deEestisotropesiq|F est d´eg´en´er´ee. On dit queF esttotalement isotrope si q|F = 0. On dit queq estanisotropesiE n’admet pas d’espace vectoriel non nul isotrope.
Remarque 6.I.2. — On aF,{0}isotrope si et seulement siF∩F⊥,0. On en d´eduit queF⊥ est isotrope si et seulement siF⊥l’est. Ainsi,Fest non isotrope si et seulement siE=F⊕F⊥, la somme ´etant orthogonale. Nous notons alors :
E=F
⊥
⊕F⊥.
De plus,F est totalement isotrope si et seulement siF⊂F⊥.
D´efinition 6.I.3. — On note O(q) l’ensemble des automorphismes orthogonaux de (E, q), i.e. les ´el´ementsf ∈GL(E) tels que, pour toutu∈E:
q(u) =q(f(u)).
En passant `a la polarisation, ceci ´equivaut `a ce que, pour toutu, v∈E, on ait : Φq(u, v) =Φq(f(u), f(v)).
6.I.B. Sym´etries, r´eflexions. —
D´efinition 6.I.4. — SoitFun sous espace non isotrope deE. Alors nous avons la sym´etrie orthogonaleτF d´efinie par :
τF(u) =u0−u00, o `u (u0, u00) est l’unique couple deF×F⊥tel queu=u0+u00. On parle de r´eflexion orthogonale siHest un hyperplan. On parle de renversement siHa codimension 2.
Lemme 6.I.5. — Soitu, vvecteurs deEtels queq(u) =q(v),0. Alors il existef ∈GL(E)telle quef(u) =v, o`uf est une r´eflexion ou un produit de deux r´eflexions. Siqest anisotrope etu,v, la r´eflexion d’axe(u−v)⊥convient.
D´emonstration. — Remarquons que (u−v)⊥(u+v), car :
Φq(u+v, u−v) =q(u) +Φq(u, v)−Φq(v, u)−q(v) = 0.
La raison de distinguer deux cas est l’alternativeu−visotrope ou pas.
Siq(u−v),0, nous d´efinissonsH= (u−v)⊥. Il s’agit d’un hyperplan non isotrope, donc nous avons la r´eflexionτH. On a Donc on au+v∈Het on ´ecrit la d´ecomposition deuen E=H⊥⊕H:
u=1
2(u+v) +1 2(u−v).
On en obtient :
τH(u) =1
2(u+v)−1
2(u−v) =v.
Bien s ˆur, nous sommes dans ce cas siqest anisotrope etu,v, i. e.u−v,0.
Maintenant siq(u−v) = 0, on trouveq(u+v),0. En effet : 0 =q(u−v) =q(u)−2Φq(u, v) +q(v), doncq(u) =Φq(u, v), ainsi :
q(u+v) =q(u) + 2Φq(u, v) +q(v) = 4q(u),0.
Dans ce cas, on consid`ereH1= (u+v)⊥. On ´ecrit la d´ecomposition deuenE=H1⊥⊕H1: u=1
2(u−v) +1 2(u+v).
On en obtient :
τH1(u) =1
2(u−v)−1
2(u+v) =−v.
On consid`ere ensuiteH2=v⊥. On av∈H2⊥doncτH2(v) =−v. Finalement : τH2τH1(u) =v.
6.I.C. G´en´erateurs. —
6.I.C.1. G´en´eration par des r´eflexions. —
Th´eor`eme 6.I.6. — Le groupeO(q)est engendr´e par des r´eflexions. Siqest anisotrope,f ∈O(q) peut s’´ecrire comme produit demr´eflexions, avecm≤dim(Fix(f)⊥)≤n.
D´emonstration. — Regardons le premier ´enonc´e. On raisonne par r´ecurrence sur n = dim(E). Si n = 1, nous avons O(q) = {±idE}. Si f = idE, nous n’avons besoin d’aucune r´eflexion et le r´esultat est vrai. Sinonf =−idE, et la r´eflexion d’hyperplanH={0}convient.
Pourn≥2, nous supposons donc que, pour tout espace vectorielF muni d’une forme quadratique non d´eg´en´er´ee, le groupe orthogonal associ´e soit engendr´e par des r´eflexions.
D’abord, commeq est non d´eg´en´er´ee, il existeu∈Etel queq(u),0. En effet, il existe v1, v2∈Etels que :
0,Φq(v1, v2) =1
2(q(v1+v2)−q(v1)−q(v2)),
donc au moins l’une des valeursq(v1+v2),q(v1),q(v2) est non nulle : on choisit donc u parmiv1, v2etv1+v2.
Soit doncf ∈GL(E). Commef est orthogonale,v=f(u) satisfaitq(u) =q(v). D’apr`es le lemme 6.I.5, il existe doncg∈O(q) qui est une r´eflexion ou un produit de deux r´eflexions, tel queg(u) =v. Soith=g◦f. On ah(u) =g(f(u)) =g(v) =u.
Ainsi, nous consid´eronsF=u⊥. Il s’agit d’un sous espace non isotrope deEde dimension n−1, ce qui veut direq|Fnon d´eg´en´er´ee.
Commehest orthogonale,Fest stable parh, donch|Fest un automorphisme orthogonale de (F, q|F). Par hypoth`ese de r´ecurrence, il existe des r´eflexions orthogonalesσ1, . . . , σmdeF telles queh|F=σ1◦· · ·◦σm. Nous avons donc ˜σ1, . . . ,σ˜mr´eflexions deEobtenues par lin´earit´e en d´efinissant pour touti∈~1, m:
˜
σi(v) =σi(v), pour toutv∈F;
˜
σi(u) =u.
Il s’agit bien s ˆur de r´eflexions, eth= ˜σ1◦ · · · ◦σ˜m, car ceci est vrai surFet suru, donc sur une base deE, donc surE. Finalement :
f =g−1◦h=g−1◦σ˜1◦ · · · ◦σ˜m,
ce qui donne le r´esultat. En effet,g ´etant produit de r´eflexions,g−1est aussi un produit de r´eflexions etf est donc exprim´e comme produit de r´eflexions.
Pour montrer le deuxi`eme ´enonc´e, siq est anisotrope on consid`eref ∈O(q), on pose E0= Fix(f)⊥et on raisonne par r´ecurrence surn0= dim(E0). Sin0= 0, on af = idE et le r´esultat est clair, car nous n’avons besoin d’aucune r´eflexion.
Sin0≥1, on prendu∈E0\ {0}, doncv=f(u) est diff´erent deu. Ainsi, d’apr`es le lemme 6.I.5, il la r´eflexiong=σH, o `uH= (u−v)⊥, satisfaitg(u) =v.
De nouveau on poseh=g◦f. Siw∈Fix(f), alorsw⊥(u−v) car : Φq(w, u−v) =Φq(w, u)−Φq(w, v) =
=Φq(w, u)−Φq(f(w), f(u)) =Φq(w, u)−Φq(w, u) = 0.
Ainsi, siw∈Fix(f), on aw∈(u−v)⊥=H, doncwest fix´e parg, r´eflexion d’axeH. Nous avons donc Fix(f)⊂Fix(h).
De plus, Fix(f)(Fix(h) caru∈Fix(h)\Fix(f). Donc Fix(h)⊥(F0, c’est-`a-dire l’espace fixe dehest de dimension au plusn0−1. Par hypoth`ese de r´ecurrence (forte), il existe donc σ1, . . . , σmr´eflexions deEtelles queh=σ1◦ · · · ◦σmavecm≤n0−1. Doncf =g−1◦σ1◦· · · ◦σm. Ainsif s’exprime comme produit d’un nombrem+ 1 de r´eflexions, o `um+ 1≤n0−1 + 1 = n0.
6.I.C.2. Groupe orthogonal positif, renversements. —
Proposition 6.I.7. — Sin≥3,SO(q)est engendr´e par les renversements.
D´emonstration. — Soitf ∈SO(q). Alorsf est produit d’un nombre pair r´eflexions.
Sin= 3 etσ est une r´eflexion, alors−σ est un renversement. En effet, siH est un hy-perplan−σH=σH⊥ etH⊥a dimension 1, i.e., codimension 2. Doncf est le produit (d’un nombre pair de) renversements.
Soitn≥4 et consid´eronsσH1etσH2deux r´eflexions d’hyperplans non isotropesH1=u1⊥ etH2=u2⊥, que l’on peut supposer distincts.
SiH1∩H2est non isotrope, en choisissant les premiersn−3 vecteurs d’une base ortho-gonale deH1∩H2on trouve un sous espace non isotrope de dimensionn−3.
Sinon, soitK= vect(u1, u2). Le noyauK0de la restriction deq`a estK⊥∩K, ce qui est aussi le noyau de la restriction deq `aK⊥. Orq|K ,0 caru1 etu2ne sont pas isotropes. Donc le noyauK0deq|K⊥a dimension 1. Un suppl´ementaire orthogonalFdeK0dansK⊥=H1∩H2 a dimensionn−3 et n’est pas isotrope.
En d´efinitive, on peut choisir un sous espaceFnon isotrope de codimension 3 deH1∩H2. AinsiF⊥⊂Eest un sous espace de dimension 3 contenantu1etu2. Les restrictions deσH1 etσH2 `aFco¨ıncident avec idF, tandis que leurs restrictions `aF⊥sont des r´eflexions.
D’apr`es ce que nous avons vu pour la dimension 3, on a deux renversementsρ1etρ2de F tels queσH1σH2|F =ρ1ρ2. On d´efinit des extensions ˜ρ1 et ˜ρ2 deρ1 etρ2 `aEen posant, pouri∈~1,2:
ρ˜i(v) =ρi(v), pour toutv∈F⊥;
˜
ρi(v) =v, pour toutv∈F.
On aρ1ρ2=σH1σH2, car ceci est vrai surF et surF⊥etE=F⊕F⊥. De plus, ˜ρ1et ˜ρ2sont des renversements.
Maintenant le r´esultat est clair : nous ´ecrivonsf ∈SO(q) comme produit d’un nombre pair de r´eflexions, chaque couple de r´eflexions pouvant s’´ecrire comme produit de deux renversements,f s’´ecrit comme produit (d’un nombre pair) de renversements.
6.II. Groupe orthogonal g´en´eral 6.II.A. Isotropie, hyperbolicit´e. — 6.II.A.1. Plans hyperboliques. —
D´efinition 6.II.1. — SoitP un espace vectoriel surKde dimension 2 etqune forme qua-dratique non d´eg´en´er´ee surP. On dit que (P , q) est un plan hyperbolique s’il existeu∈P\{0} tel queq(u) = 0. Dans ce cas, siB= (u, v) est une base deP telle que
MatB(q) = 0 1 1 0
! , alors on dit queBest une base hyperbolique de (P , q).
Lemme 6.II.2. — Soit(P , q)un plan hyperbolique et u∈P \ {0}isotrope. Alors il existev tel queB= (u, v)soit une base hyperbolique de(P , q).
D´emonstration. — Soitv1un vecteur ind´ependant deu. Il existe alorsa, b∈Ktels que : Mat(u,v1)(q) = 0 a
a b
! ,
aveca,0 carqest non d´eg´en´er´ee. Quelque soitλ∈K, on av2=λu+v1ind´ependant deu etΦq(u, v2) =aetq(v2) = 2λa+b. Si on choisitλ=−b/2a, on trouve :
Mat(u,v2)(q) = 0 a a 0
! ,
Maintenant, on ´ecritv=u+ (1/a)v2. C’est encore un vecteur ind´ependant deu. On ob-tientΦq(u, v) = 1 etq(v) = 0 donc (u, v) est la base cherch´ee.
Remarque 6.II.3. — Soit q non d´eg´en´er´ee sur E et B une base de E. La valeur δ = det(MatB(q)) est non nulle et, si B0 est une autre base deE et δ0 = det(MatB0(q)) alors il existe un carr´e deK, i.e. un ´el´ementε2, o `uε∈Ktel queδ0=ε2δ. La valeurδ, d´efinie `a un carr´e pr`es, est appel´ee le discriminant deq.
Lemme 6.II.4. — Soitqune forme quadratique sur un planP. Alors(P , q)est un plan hyper-bolique si et seulement sidet(q) =−1`a un carr´e deK∗pr`es.
D´emonstration. — Si (P , q) est un plan hyperbolique, on peut en choisir une base
Finalementqest non d´eg´en´er´ee (car son discriminant vaut−1) avec un vecteur isotrope non nul, ainsi (P , q) est un plan hyperbolique.
6.II.A.2. Espaces hyperboliques. — Un espace hyperbolique est une somme directe ortho-gonale de plans hyperboliques.
D´emonstration. — On raisonne par r´ecurrence surr. Sir= 0, il n’y a rien `a d´emontrer. Soit alorsr≥1 et supposons l’´enonc´e valide pour tout sous espace o `u la restriction deqposs`ede un noyau de dimension strictement inf´erieure `ar.
Consid´eronsF0 =U ⊕vect(u2, . . . , ur). On a F0 (F donc F⊥ ((F0)⊥ car si F⊥ = (F0)⊥ on trouveraitF0 =F en prenant encore les orthogonaux. On peut alors choisirv∈(F0)⊥\ F⊥. Ainsi,v ⊥F0, doncv ⊥U et v ⊥ui pour touti ∈~2, rmais v <F⊥donc forc´ement Φq(v, u1),0.
Le planP1= vect(u1, v) est donc hyperbolique car la restriction deq `a ce plan est non d´eg´en´er´ee contient le vecteur isotropeu1,0 etΦq(v, u1),0. On peut alors trouver une base hyperbolique (u1, v1) de ce plan d’apr`es le lemme 6.II.2.
Soit alorsF00=F0⊕P1. Le noyau de la restrictionq00deq `aF00estF000= vect(u2, . . . , un). En effet, on peut en construire une base en juxtaposant une base deU, (u2, . . . , ur) et (u1, v1), en obtenant une matrice diagonale par blocs de noyau vect(u2, . . . , ur).
Ainsi, nous pouvons appliquer l’hypoth`ese de r´ecurrence `a F00, en prenant le suppl´ementaireU00 =U⊕P1 deF000 dansF00. On en obtient (v2, . . . , vr) vecteurs deE tels pour touti∈~1, r. Cette matrice est donc inversible.
Corollaire 6.II.7. — SoitF totalement isotrope. Alors il existeHhyperbolique contenantF tel quedim(H) = 2 dim(F).
SoitHsous espace deE. AlorsHest hyperbolique si et seulement siH admet un sous espace totalement isotropeFtel quedim(H) = 2 dim(F).
D´emonstration. — SiFest totalement isotrope, on aU = 0, en la notation de la proposition pr´ec´edente. Ainsi, le premier ´enonc´e est ´evident.
Si H admet un sous espace totalement isotropeF tel que dim(H) = 2 dim(F), encore une fois en utilisant la proposition pr´ec´edente avecF =F0, il existeG⊂H hyperbolique contenantF, maisG=Hcar dim(G) = 2 dim(F) = dim(H).
SiH est hyperbolique, somme directe orthogonale des plans P1, . . . , Pr ayant bases hy-perboliques (u1, v1), . . . ,(ur, vr), on a F= vect(u1, . . . , ur) sous espace totalement isotrope et dim(F) =r, dim(H) = 2r.
6.II.B. Th´eor`eme de Witt. — Soitqforme quadratique non d´eg´en´er´ee surE.
Th´eor`eme 6.II.8. — Soit F, F0 sous espaces vectoriels de E. Les affirmations suivantes sont
´equivalentes :
i) Il existef ∈O(q)tel quef(F) =F0.
ii) Les formes quadratiquesq|F etq|F0sont ´equivalentes.
Remarque 6.II.9. — Voici une liste d’observations sur ce th´eor`eme.
1) On peut dire aussi que les formes quadratiques q|F et q|F0 sont ´equivalentes si et seulement si il existe une isom´etrie entre (F, q|F) sur (F0, q|F0).
2) L’implication i)⇒ii) est claire. En effet,f|Fest l’isom´etrie entre (F, q|F) et (F0, q|F0).
R´eduction au casF non isotrope. — Supposons que l’´enonc´e est valide pour le cas des sous espaces non isotropes et montrons qu’il est alors valide en g´en´eral.
Soit doncF isotrope. Alorsq|F poss`ede un noyauF0de dimensionr,0. Soit (u1, . . . , ur) une base de F0. Soit U un suppl´ementaire orthogonal de F0 dans F. D’apr`es la propo-sition 6.II.5, il existe r vecteurs (v1, . . . , vr) de E tels que, pour tout i ∈ ~1, r les plans Pi = vect(ui, vi), muni des formes quadratiquesqi =q|P
i admettent (ui, vi) comme base hy-perbolique et que l’on ait une somme directe orthogonale :
G=U
Supposons alors qu’il existeh:F →F0 isomorphisme isom´etrique par rapport `aq|F et q|F0 et montrons qu’il existe alorsf ∈O(q) tel quef(F) =F0. Comme hest isom´etrique,
i. On obtient une somme directe orthogonale : G0=U0 u∈F. On trouve ainsi un isomorphisme deGsurG0, qui est une isom´etrie car ˜hse restreint
`a une isom´etrie deU surU0et aussi dePisurPi0, puisque ˜henvoie bases hyperboliques en bases hyperboliques.
CommeG etG0 sont non isotropes, on a la conclusion g´en´erale si l’´enonc´e est valable pour les sous espaces non isotropes.
Preuve pour sous espaces non isotropes. — SoitFnon isotrope de dimensionm. Montrons le th´eor`eme de Witt par r´ecurrence surm. Bien s ˆur,F0doit aussi avoir dimension 1.
Soitm= 1 etuun g´en´erateur deF,unon isotrope i. e.q(u),0. Soithun isomorphisme deF surF0 etu0 =h(u) doncq(u0) =q(u). Nous avons montr´e au lemme 6.I.5 qu’il existe un automorphisme orthogonalf, plus pr´ecis´ement une r´eflexion ou un produit de deux r´eflexions, tel quef(u) =u0. Ainsi le r´esultat est montr´e sim= 1.
Soit maintenantm≥2 et supposons que le th´eor`eme de Witt soit valide pour tout sous espace non isotrope de dimension au plusm−1 d’un espace vectoriel muni d’une forme quadratique non d´eg´en´er´ee.
Choisissons un vecteuru non isotrope de F (ce qui existe carq|F est non d´eg´en´er´ee) et ´ecrivonsF comme somme directe orthogonale deF1 = vect(u) et d’un suppl´ementaire orthogonalF2. Notonsh1=h|F k(F2). D’apr`es l’hypoth`ese de r´ecurrence, il existe alorsg automorphisme orthogonal de F1⊥ tel queg|F⊥
Corollaire 6.II.10. — Tout sous espace totalement isotrope est contenu dans un sous espace totalement isotrope maximal, et ces derniers ont tous dimensionν(q).
D´emonstration. — SoitFun sous espace totalement isotrope. SoitFest maximal, soit il est strictement contenu dans un sous espace totalement isotrope, qui a son tour est maximal ou pas. Ce processus se termine car dim(E)<∞, doncF est contenu dans un sous espace isotrope maximalG. Soitmsa dimension.
SoitHun autre sous espace isotrope maximal, de dimensionpet supposonsp < m. Tout sous espaceKdeGde dimensionpest isotrope. Ainsi,q|Ketq|Hsont ´equivalentes, `a savoir, elles sont toutes deux nulles.
D’apr`es le th´eor`eme de Witt, il existe alorsf ∈O(q) tel quef(H) =K. MaisK n’est pas maximal, ´etant strictement contenu dansG, alors queHl’´etait, contradiction.
Corollaire 6.II.11. — On peut ´ecrireE=H⊕F, la somme ´etant orthogonale, avecH hyperbo-lique etq|F anisotrope. On a :
i) dim(H) = 2ν(q);
ii) si E=H0⊕F0 somme orthogonale avec avecH0 hyperbolique etq|F0 anisotrope, alors il existef ∈O(q)tel que :
f(H) =H0, f(F) =F0.
En particulier, la forme anisotropeq|Fest uniquement d´etermin´ee `a ´equivalence pr`es.
D´emonstration. — On part deG, un sous espace totalement isotrope maximal deE. Nous pouvons compl´eterGen un espace hyperboliqueH, donc non isotrope. On pose alorsF= H⊥et on aE=H⊕F, la somme ´etant orthogonale. Notons queq|F est anisotrope. En effet, siFcontenait un vecteur isotropeunon nul, on auraitG0= vect(G, u) totalement isotrope, ce qui contredirait la maximalit´e deG.
´Etant donn´e une d´ecompositionE=H⊕F, commeHest hyperbolique de dimension 2m il contient un sous espace isotropeGde dimensionm≤ν(q), donc dim(H)≤2ν(q), etGest maximal dansH, i. e. pour toutu0isotrope deG⊥∩H, on au0∈G.
OrGest maximal aussi dansE. En effet, pour tout vecteuruisotrope deG⊥, on au= u0+u00, avecu0∈Hetu00∈F. Mais siv∈Gon a 0 =Φq(u, v) =Φq(u0, v) doncu0∈G⊥∩H, ainsiu0∈G. On a donc 0 =q(u) =q(u0)+q(u00) =q(u00), et par anisotropie deq|F on au00= 0, i.e.u∈G. Autrement dit,Gest totalement isotrope maximal. Donc dim(G) =ν(q).
´Etant donn´ee une autre d´ecomposition E = H0⊕F0, il est clair que q|H et q|H0 sont
´equivalentes, carHetH0sont hyperboliques de mˆeme dimension. Il existe donc, d’apr`es le th´eor`eme de Witt, un automorphisme orthogonalf deEtel quef(H) =H0. Par cons´equent f(F) =F0, carF=H⊥etF= (H0)⊥.
[Aud06] Mich`ele Audin,G´eom´etrie, EDP Sciences, Les Ulis, France, 2006.
[Per96] Daniel Perrin,Cours d’alg`ebre, Ellipses, Paris, 1996.