Orthogonalité

Dans la suite, B désignera une forme bilinéairesymétrique ou alternéesur un espace vectoriel Vde dimension finiesur un corpsKde caractéristique6=2.

4.1. Définition. — On dit que des vecteursxety sontorthogonauxsi B(x,y)=0 ; vu les propriétés de B, c’est la même chose que de demander B(y,x)=0 : c’est donc une relation symétrique. L’orthogonald’une partie W de V est le sous-espace vectoriel, noté W^⊥, des vecteurs de V orthogonaux à tous les éléments de W. On a par exemple ker(B)=V^⊥.

4. ORTHOGONALITÉ 51

Proposition 4.1. — SiBestnon dégénéréeet queWest un sous-espace vectoriel deV, on a dim(W)+dim(W^⊥)=dim(V).

En particulier, siW∩W^⊥=0(ce qui est équivalent àB|Wnon dégénérée),V=W⊕W^⊥. Démonstration. — L’application linéairer: V^∗→W^∗de restriction des formes linéaires est surjective, donc la composée

r◦B : Vˆ → W^∗ x 7→ B(x,·)

est linéaire surjective. Or ker(r◦B)ˆ =W^⊥, d’où la formule sur la dimension en écrivant que la dimension de V est la somme des dimensions du noyau et de l’image der◦B.ˆ

Voici quelques formules sur l’orthogonal (la seconde est vraie aussi en dimension infi-nie) :

(W^⊥)^⊥=W, (W+W⁰)^⊥=W^⊥∩W^0⊥, (W∩W⁰)^⊥=W^⊥+W^0⊥.

On dit qu’un vecteurx∈V estisotropesi B(x,x)=0, c’est-à-dire six∈x^⊥. On dit aussi que la droiteKxest isotrope.

Un sous-espace vectoriel W⊆V esttotalement isotropesi B|W=0, ce qui est équivalent à W⊆W^⊥.

Exemple 4.2. — Comme on l’a vu dans le § 3.2, une forme quadratiquef surKⁿ⁺¹définit une quadrique projective ¯Q⊆Pⁿ(K). Les points de Q sont en bijection avec les droites vectorielles D⊆Kⁿ⁺¹isotropes pourf.

L’orthogonal D^⊥correspond à l’espace tangent à ¯Q en ce point ; cela résute de la for-mule

d f(x)(y)=2B(x,y)

donnant la différentielle de f enx, obtenue en différentiant la formule de polarisation (14).

Dans l’ex. 3.1 de la conique Q d’équationx₁²−x₂²+2x₂+1=0 dansK², si (a₁,a₂) est un point de Q, la droiteK(1,a₁,a₂) est isotrope pourf (elle définit un point de ¯Q) et son orthogonal pourf est défini par

a₁x₁−a₂x₂+x₂+a₂x₀+x₀=0.

La droite tangente à Q en (a₁,a₂) a donc pour équation affinea₁x₁−a₂x₂+x₂+a₂+1=0.

4.2. Décomposition en somme directe orthogonale : cas d’un vecteur non isotrope. — Si la forme symétrique B n’est pas nulle, il résulte de la formule (14) qu’il existe un vec-teur non isotropex. Dans ce cas, on aKx∩x^⊥=0 donc V=Kx⊕x^⊥. Par récurrence sur la dimension, en considérant la restriction de B àx^⊥, on obtient l’existence d’unebase or-thogonale(e₁, . . . ,e_n), c’est-à-dire satisfaisant B(e_i,e_j)=0 sii6=j. Posantαi =B(e_i,e_i), on obtient

f(x)=α1x₁²+ · · · +αrx_r²,

avec 0ÉrÉnetα1, . . . ,αr non nuls ; c’est laréduction de Gaussde la forme quadratiquef. L’entierrne dépend que de la formef car c’est son rang.

Dans la base (a1e1, . . . ,anen), où ai ∈ K^×, les coefficients αi deviennent αia_i². Si α1, . . . ,αn sont des scalaires non nuls, il est d’usage de noter la forme quadratique non dégénérée (x₁, . . . ,x_n)7→α1x₁²+ · · · +αnx²_nsurKⁿpar le symbole

〈α1, . . . ,αn〉

et l’isométrie entre deux telles formes par le symbole '. Pour tous scalaires non nuls a₁, . . . ,a_n, on a donc

〈α1, . . . ,αn〉 ' 〈a₁²α1, . . . ,a²_nαn〉.

En d’autres termes, on peut considérer que lesαisont dansK^×/K^×2. On a disc(〈α1, . . . ,αn〉)= α1· · ·αn.

Le problème de la classification des formes quadratiques est de savoir quand des formes〈α1, . . . ,αn〉 et〈β1, . . . ,βn〉 sont isométriques, avecα1, . . . ,αn,β1, . . . ,βn ∈K^×/K^×2. Une condition nécessaire est que les discriminants soient les mêmes,α1· · ·αn=β1· · ·βn

dansK^×/K^×2, mais elle n’est en général pas suffisante.

Exemples 4.3. — 1° SiKest un corps algébriquement clos (ou plus généralement siKest quadratiquement clos,c’est-à-direK=K²), on peut toujours trouvera_itel quea_i²=1/αi. Il en résulte qu’étant donnée une forme quadratique non dégénéréef surKⁿ, il existe une base dans laquelle elle s’écrit

f(x)=x²₁+ · · · +x²_n.

Son groupe orthogonal (indépendant donc def) est noté O(n,K).

2° SiK=R, on peut toujours trouvera_i tel quea²_i = ±1/αi. En réarrangeant la base, on déduit qu’étant donnée une forme quadratique non dégénéréef surRⁿ, il existe une base dans laquelle elle s’écrit

f(x)=x²₁+ · · · +x²_s−x²_s+1− · · · −x²_n.

Le couple (s,n−s) est la signature def ; on verra plus loin (ex. 5.6.1°) que c’est un invariant de f. Son groupe orthogonal est noté O(s,n−s,R), ou simplement O(s,n−s), et on note O(n) au lieu de O(n, 0). Comme les groupes orthogonaux def et de−f sont les mêmes, on a O(s,t)'O(t,s). Le discriminant est (−1)^n−sdonc ne suffit pas à distinguer les formes quadratiques.

3° SiK=Fq, alorsF^×_q/F^×_q²est d’ordre 2 (car,qétant impair le noyau dex7→x²dansF^×_q est {±1}). Donc on peut ramener chaqueαi non nul à être égal à 1 ou àα∉F^∗2_q . Mais on peut en fait faire mieux.

Proposition 4.4. — Étant donnée une forme quadratique f non dégénérée surFⁿ_q, il existe une base dans laquelle elle s’écrit sous l’une des deux formes suivantes :

f(x) = x²₁+ · · · +x²_n−1+x_n², f(x) = x²₁+ · · · +x²_n−1+αx²_n, oùαest un scalaire non nul fixé qui n’est pas un carré dansFq.

Notons que les deux formes proposées ne sont pas équivalentes, puisque leurs discri-minants sont 1 etα, qui sont différents dansF^×_q/F^×_q². On déduit de la proposition que des formes quadratiques non dégénérées surFⁿ_qsont équivalentes si et seulement si elles ont même discriminant.

4. ORTHOGONALITÉ 53

Démonstration. — Par récurrence surn. SinÊ2, on va montrer qu’il existee1tel que f(e1)=1. AlorsFⁿ_q=Ke1⊕e^⊥₁ et l’hypothèse de récurrence montre le résultat.

Écrivonsf dans une base orthogonale,f(x)=Pn

i=1αix²_i. Puisqu’il y a^q+1₂ carrés dans F_q (en comptant 0) et queα1α26=0, les quantitésα1x²₁et 1−α2x₂²décrivent toutes deux un ensemble à^q+1₂ éléments quandx₁(resp.x₂) décritF_q. Puisque^q+1₂ >q, il existex₁,x₂ tels queα1x₁²et 1−α2x₂²coïncident, c’est-à-diref(x₁,x₂, 0, . . . , 0)=1.

On a donca priorideux groupes orthogonaux pour chaque dimension, selon que le dis-criminant de la forme est trivial ou non. Cependant les groupes orthogonaux de〈1, . . . , 1〉 et de〈α, . . . ,α〉sont les mêmes et la seconde forme est de discriminantαⁿ.

Sin=2m+1 est impair, on a donc un seul groupe orthogonal, noté O(2m+1,F_q).

Sin=2mest pair, on note les deux groupes orthogonaux O⁺(2m,F_q) et O⁻(2m,F_q)⁽¹⁰⁾ (il ressort de (22) que leurs cardinaux sont différents : ils ne sont donc pas isomorphes).

4° SiK=Q, on a une infinité de discriminants possibles, puisque le groupeQ^×/Q^×2est infini. Étant donnée une forme quadratique surQ, on peut aussi la voir comme une forme quadratique surRet considérer sa signature. Mais, même à discriminant et signature fixés, il existe encore une infinité de classes d’équivalence de formes quadratiques surQ⁽¹¹⁾.

Exercice 4.5. — SoitKun corps. Pour tousα,βdansK^×tels queα+β6=0, montrer〈α,β〉 '

〈α+β,αβ(α+β)〉.

Exemple 4.6(Pinceaux de formes quadratiques). — Soit V un espace vectoriel de di-mensionnsur un corpsKalgébriquement clos et soientf etf⁰des formes quadratiques non dégénérées sur V. Lepinceauengendré parf etf⁰est l’ensemble de formes quadra-tiques

{f_λ:=λf−f⁰|λ∈K}.

On choisit une base de V dans laquelle la matrice def est I_n(ex. 4.3.1°) ; soit M la matrice de g dans cette même base. La forme quadratique f_λ est dégénérée si et seulement si d´et(λI_n−M)=0, c’est-à-dire siλest valeur propre de M. Supposons ces valeurs propres λ1, . . . ,λn toutes distinctes (c’est le cas « général »). La matrice M est alors diagonali-sable⁽¹²⁾ : il existe une base (e₁, . . . ,e_n) de V composée de vecteurs propres de M. Plus précisément, ME_i =λiE_i, où E_i est la matrice (colonne) des composantes dee_i dans la base de départ. On a alors, pouri6=j,

B⁰(e_i,e_j)=^tE_iME_j=λjtE_iE_j, qui est aussi égal, par symétrie de B⁰, à

B⁰(e_j,e_i)=^tE_jME_i=λitE_jE_i=λitE_iE_j.

10. Plus précisément, le groupe O⁺(2m,Fq) est le groupe d’isométries de toute forme quadratique de discri-minant (−1)^m.

11. Pour décrire ces classes d’équivalence, il faut voir une forme quadratique surQcomme une forme quadra-tique non seulement sur son complétéR, mais aussi sur chacun des corpsp-adiquesQp, oùpest un nombre premier impair : des formes quadratiques surQsont équivalentes si et seulement si elles le sont dansRet dans chacun desQp(« Théorème de Hasse-Minkowski » ; Serre, J.-P.,Cours d’arithmétique,chap. IV, th. 9 ;cf.aussi prop. 7). Sur chacun de ces corps, il y a un invariant facile à calculer qui permet de tester l’équivalence (c’est la signature sur le corpsRet un invariant dans {±1} sur les corpsQp).

12. Attention : la matrice M est symétrique, mais cela n’entraîne pas en général qu’elle est diagonalisable !

Commeλi6=λj, on en déduit 0=^tEiEj=B(ei,ej)=B⁰(ei,ej). La base (e1, . . . ,en) est donc orthogonale à la fois pourf et pourf⁰. En remplaçante_ipare_i/p

B(e_i,e_i), on obtient une base de V dans laquelle

f(x) = x₁²+ · · · +x²_n, f⁰(x) = λ1x₁²+ · · · +λnx²_n.

C’est le cas le plus simple. Dans tous les cas, on peut définir pour tout pinceau de formes quadratiques une suite de nombres appeléesymbole de Segredu pinceau et, pour chaque symbole, une « forme normale » des quadriques du pinceau.

4.3. Décomposition en somme directe orthogonale : cas d’un vecteur isotrope. — La forme B est ici symétrique ou alternée, non dégénérée.

Lemme 4.7. — Si x est un vecteur isotrope non nul, il existe un vecteur isotrope y tel que B(x,y)=1.

Dans la base (x,y) du plan P engendré parxety, la matrice de B est µ0 1

ε 0

¶

, oùε=1 ou

−1 selon que B est symétrique ou alternée. On dit que P est unplan hyperbolique.

Démonstration. — Comme B est non dégénérée et quexn’est pas nul, on peut toujours trouverx⁰tel que B(x,x⁰)=1, puis on prendy=x⁰−¹₂B(x⁰,x⁰)x, qui satisfait les propriétés voulues.

L’intérêt d’un plan hyperbolique P est que B|Pest non dégénérée, ou de manière équi-valente P∩P^⊥=0. Il en résulte

V=P⊕P^⊥.

La forme B est encore non dégénérée sur P^⊥et on peut recommencer la même opéra-tion sur P^⊥, si celui-ci admet un vecteur isotrope non nul. Finalement, on fabrique une décomposition en somme directe orthogonale

V=P1

⊕ · · ·⊥ ⊕^⊥P_ν⊕^⊥W,

où P1, . . . , P_νsont des plans hyperboliques et où le seul vecteur isotrope de W est 0 ; on dit que W est unsous-espace anisotrope.

L’entierνest l’indicede la forme B ; on verra plus loin (cor. 5.5.2°) que c’en est un inva-riant. Une somme orthogonale de plans hyperboliques comme ci-dessus P₁⊕ · · ·^⊥ ⊕^⊥P_νest appelée unespace hyperbolique.

On a obtenu à ce stade deux formes de réduction pour une forme quadratiquef : – une décomposition dite de Gauss en〈α1, . . . ,αn〉;

– une décomposition en somme directe orthogonale d’un espace hyperbolique et d’un espace anisotrope.

Remarquons que toute forme 〈α,−α〉 (α ∈ K^×) est un plan hyperbolique, puisqu’elle contient un vecteur isotrope non nul, (1, 1). Concrètement, cette forme s’écritf(x₁,x₂)= αx₁²−αx²₂dans une base (e₁,e₂) etf(y₁,y₂)=2y₁y₂dans la base (_α¹(e₁+e₂),e₁−e₂), qui est donc hyperbolique.