Trouver eﬃcacement un point repr

(1)

Trouver efficacement un point représentatif par composante connexe d’une variété algébrique réelle : l’état de l’art

Lebreton Romain encadr´ e par

N. Vorobjov, Computer Science Departement, University of Bath M. Giusti, Laboratoire Lix, ´ Ecole Polytechnique

3 octobre 2008

Notre probl´ ematique se situe dans l’´ etude informatis´ ee des syst` emes d’´ equations polynomiales ` a plusieurs variables et de leurs solutions, les vari´ et´ es alg´ ebriques. L’´ etude des vari´ et´ es alg´ ebriques est un domaine de math´ ematiques : la g´ eom´ etrie alg´ ebrique. Cependant les r´ e- ponses de la g´ eom´ etrie alg´ ebrique ne sont pas toujours effectives, encore moins efficaces. La g´ eom´ etrie alg´ ebrique effective tend ` a combler cette lacune ; elle reprend les questions de la g´ eom´ etrie alg´ ebrique sous ce nouvel angle. Par exemple, le probl` eme de l’appartenance ` a un id´ eal a conduit ` a la notion de base de Gr¨ obner. La g´ eom´ etrie alg´ ebrique effective vient aussi de l’ing´ enierie. Elle vise ` a fournir des moyens de compr´ ehension des mod` eles impliquant des syst` emes d’´ equations polynomiales ` a plusieurs variables. La majorit´ e des probl` emes tels que la r´ esolution des syst` emes polynˆ omiaux, la d´ etermination de la dimension de leurs solutions ou le trac´ e de courbes sur une vari´ et´ e reliant deux points donn´ es, ont ´ et´ e r´ esolus algorithmi- quement. La recherche porte aujourd’hui d’avantage sur l’efficacit´ e pour pouvoir traiter un plus grand champ de probl` emes concrets.

La d´ etection d’au moins un point par composante connexe d’une vari´ et´ e alg´ ebrique r´ eelle est une probl´ ematique fondamentale dans l’´ etude informatis´ ee des vari´ et´ es alg´ ebriques r´ eelles.

Elle permet de borner le nombre de composantes connexes d’une vari´ et´ e. Elle ouvre la voie aux algorithmes qui calculent exactement le nombre de composantes connexes, et ceux qui d´ ecident s’il y a un chemin trac´ e sur une vari´ et´ e reliant deux points donn´ es. Nous tirons partie d’un nouvel algorithme de r´ esolution des syst` emes polynˆ omiaux pour am´ eliorer la complexit´ e th´ eorique et pratique de notre probl` eme. Dans ce rapport, nous nous restreignons aux cas des vari´ et´ es r´ eelles lisses.

Les algorithmes de recherche d’un point par composante connexe d’une vari´ et´ e alg´ ebrique r´ eelle S consistent ` a choisir de bonnes ´ equations pour d´ efinir une sous-vari´ et´ e de S qui coupe chacune de ses composantes connexes. Rajouter des ´ equations sert ` a baisser la dimension de l’objet g´ eom´ etrique jusqu’` a ce qu’il soit un ensemble fini de points. Il ne reste plus qu’` a r´ e- soudre ces ´ equations pour avoir nos points repr´ esentatifs. Les algorithmes pr´ ec´ edents utilisent pour la r´ esolution des syst` emes polynˆ omiaux des outils bas´ es sur le calcul de base de Gr¨ obner.

Les bases de Gr¨ obner sont un outil tr` es g´ en´ eral qui s’applique sur tout syst` eme polynomial. En contrepartie, les algorithmes de calcul de bases de Gr¨ obner ne tiennent pas compte des ”bons”

syst` emes d’´ equations. Notre approche consiste ` a ´ eviter les bases de Gr¨ obner pour am´ eliorer la

complexit´ e sur un certain ensemble de syst` emes. Pour cela, nous utilisons l’algorithme de r´ e-

solution g´ eom´ etrique pour la r´ esolution des ´ equations. Le premier avantage de cet algorithme

(2)

est qu’il n’utilise pas la repr´ esentation dense des polynˆ omes. Il se sert d’une structure de donn´ ees qui voit le polynˆ ome comme une fonction qui s’´ evalue bien. L’autre avantage est que sa complexit´ e est quadratique en un param` etre intrins` eque, le degr´ e g´ eom´ etrique du syst` eme.

Cependant l’outil ne s’applique qu’` a des syst` emes d’´ equations particuliers. C’est pourquoi nous ´ etudions dans cet article comment trouver des ´ equations suppl´ ementaires qui satisfont les hypoth` eses de l’algorithme de r´ esolution g´ eom´ etrique.

Notre approche de la question pr´ esente de nombreux avantages. D’abord nous obtenons une nouvelle complexit´ e pour notre probl` eme. Cette complexit´ e tient compte de param` etres intrins` eques, tels que la complexit´ e d’´ evaluation de nos ´ equations et le degr´ e g´ eom´ etrique g´ en´ erique des vari´ et´ es polaires associ´ ees ` a S. Ensuite des impl´ ementations du nouvel algorithme et d’un algorithme pr´ ec´ edent ont ´ et´ e compar´ ees sur un probl` eme concret. Les r´ esultats valident notre approche sur cet exemple. D’un autre cˆ ot´ e, nos r´ esultats ne sont valables que pour des syst` emes d’´ equations particuliers. De plus notre approche est bas´ e sur le fait que beaucoup de syst` emes ne sont pas g´ en´ eraux, par exemple les polynˆ omes sont creux. Cela convient ` a de nombreux probl` emes de mod´ elisation mais sans doute moins ` a la cryptographie multivari´ ee o` u les ´ equations sont choisies pour leur manque de bonnes propri´ et´ es. Finalement notre algorithme est probabiliste. Mˆ eme si l’ensemble des param` etres de l’algorithme donnant de mauvais r´ esultats est de mesure nulle dans les r´ eels, le r´ esultat n’est pas certifi´ e.

L’approche ´ etudi´ ee dans ce m´ emoire a fourni une alternative aux algorithmes existants avec une meilleure efficacit´ e sur une classe de probl` eme. De plus, l’algorithme de r´ esolution g´ eom´ etrique a cr´ e´ e une nouvelle approche plus g´ eom´ etrique pour la r´ esolution d’autres probl` emes de g´ eom´ etrie alg´ ebrique effective. La suite logique de ce m´ emoire est d’´ etendre notre algorithme aux vari´ et´ es non lisses. Une autre piste est l’´ etude du bon comportement de l’algorithme de r´ esolution g´ eom´ etrique par rapport aux syst` emes d’´ equations invariantes sous certaines transformations.

Le corps du m´ emoire a ´ et´ e r´ edig´ e en anglais. Ceci ´ etait un des objectifs du stage qui

s’est d´ eroul´ e en Angleterre. Le m´ emoire est pr´ ec´ ed´ e du r´ esum´ e en Fran¸ cais qui suit. Pour les

preuves des propositions du r´ esum´ e, nous renvoyons au m´ emoire en anglais.

(3)

Prol´ egom` enes

L’objet de ce m´ emoire est d’´ etendre le domaine des applications de l’algorithme de r´ esolution g´ eom´ etrique ` a la recherche d’un point repr´ esentatif par composante connexe d’une vari´ et´ e alg´ ebrique r´ eelle S lisse. Pour cela nous allons introduire la notion de vari´ et´ e polaire affine g´ en´ eralis´ ee, qui nous fournira les objets g´ eom´ etriques qu’utilisera l’algorithme de r´ esolution g´ eom´ etrique.

Bien que nous souhaitons travailler avec des vari´ et´ es alg´ ebriques affines r´ eelles, la notion de vari´ et´ e polaire est projective et les corps alg´ ebriquement clos offrent un bon cadre pour la g´ eom´ etrie alg´ ebrique. Ainsi nous ferons un d´ etour par l’espace projectif complexe. Soit P

ⁿ

:= P

ⁿ

( C ) l’espace projectif complexe de dimension n. Pour tout sous-espace lin´ eaire A et B de P

ⁿ

, nous notons hA, Bi l’espace lin´ eaire engendr´ e par A et B. Les espaces A et B s’intersectent transversalement, ce que l’on note A t B, si hA, Bi = P

ⁿ

. Dans le cas contraire, on note A / t B. Notons V une vari´ et´ e projective complexe de codimension pure p, ie telle que chacune de ses composantes irr´ eductibles soient de codimension p, o` u 0 6 p 6 n. ´ Ecrivons V

_reg

pour l’ensemble des points r´ eguliers (lisses) de V . Nous notons V

_sing

:= V \V

_reg

le lieu singulier de V . Pour tout M ∈ V

reg

, l’espace tangent T

M

V est vu comme un espace lin´ eaire de P

ⁿ

contenant M.

Viennent ensuite les notions ´ equivalentes dans le cas affine. Nous fixons une inclusion A

ⁿ

⊆ P

ⁿ

et nous posons H := P

ⁿ

\ A

ⁿ

l’hyperplan ` a l’infini. Soient A ~ et B ~ deux sous-espaces vectoriels de A

ⁿ

. Nous notons A ~ t B ~ si A ~ + B ~ = A

ⁿ

. Soient S une vari´ et´ e alg´ ebrique affine et V sa clˆ oture projective. Nous posons S

_reg

:= V

_reg

∩ A

ⁿ

et S

_sing

:= V

_sing

∩ A

ⁿ

respectivement l’ensemble des points lisses et le lieu singulier de la vari´ et´ e affine S. Pour tout point lisse M de la vari´ et´ e affine S, nous d´ efinissons T

_M

S := T

_M

V ∩ A

ⁿ

l’espace tangent affine de S au point M .

Pour tout espace lin´ eaire A ⊆ P

ⁿ

de dimension a, nous notons A

^⊥

l’orthogonal de A pour le produit scalaire usuel. La dimension de A

^⊥

est n − 1 − a. Si A est un sous-espace lin´ eaire de H, nous posons A

^∗

:= A

^⊥

∩ H son orthogonal dans l’hyperplan. La dimension de A

^∗

est n − a − 2.

Vari´ et´ es Polaires G´ en´ eralis´ ees

A pr´ ` esent nous allons pr´ esenter la notion de vari´ et´ e polaire g´ en´ eralis´ ee contenue dans l’espace projectif P

ⁿ

. Ces vari´ et´ es polaires sont associ´ ees ` a un drapeau donn´ e K d’espaces lin´ eaires projectifs ainsi qu’` a un hyperplan H de P

ⁿ

. Fixons pour le drapeau donn´ e la notation

K : P

ⁿ

) K

ⁿ⁻¹

) · · · ) K

^n−p−1

) · · · ) K

¹

) K

⁰

.

Pour tout ´ el´ ement K d’un drapeau K et pour tout hyperplan H, nous d´ efinissons la vari´ et´ e polaire g´ en´ eralis´ ee W c

K

(V ) associ´ e ` a K comme ´ etant la clˆ oture de Zariski de l’ensemble

M ∈ V

reg

\(H ∪ K) | T

M

V / t hM, Ki ∩ H

∗

. (1)

Remarquons que W c

K

(V ) est inclus dans V . De plus le point M est suppos´ e en dehors de H ∪ K de telle sorte que hM, Ki ∩ H soit toujours de dimension dim K. Les vari´ et´ es polaires g´ en´ eralis´ ees associ´ ees ` a K forment une suite d´ ecroissante :

V = W c

_Kⁿ⁻¹

= · · · = c W

_K^n−p

⊇ W c

_K^n−p−1

⊇ · · · ⊇ W c

_K¹

⊇ c W

_K⁰

.

(4)

Pour 1 6 i 6 n−p, nous notons W c

_K^n−p−i

(V ) la i-` eme vari´ et´ e polaire g´ en´ eralis´ ee de V associ´ ee au drapeau K et ` a l’hyperplan H. L’indice i indique la codimension attendue de c W

_K^n−p−i

(V ) dans V . Observons que la partie utile du drapeau K donnant lieu ` a des vari´ et´ es polaires non triviale est comprise entre K

⁰

et K

^n−p−1

.

Soit K un ´ el´ ement de K et posons H l’hyperplan ` a l’infini de A

ⁿ

⊆ P

ⁿ

. Nous posons c W

K

(S) := W c

K

(V ) ∩ A

ⁿ

la vari´ et´ e affine polaire g´ en´ eralis´ ee associ´ ee ` a K.

Deux types particuliers de drapeaux m´ eritent d’ˆ etre soulign´ es. Le premier type est celui des drapeaux

K : P

ⁿ

) K

ⁿ⁻¹

) · · · ) K

^n−p−1

) · · · ) K

¹

) K

⁰

avec K

ⁿ⁻¹

= H. Nous les appelons drapeaux internes. Pour un ´ el´ ement fix´ e K de K, posons L := K

^∗

. Nous d´ eduisons facilement que la vari´ et´ e affine polaire g´ en´ eralis´ ee W c

_K

(S) est la clˆ oture de Zariski dans A

ⁿ

de l’ensemble

n

M ∈ S

_reg

| − −− → T

_M

S / t L ~ o

. (2)

Ainsi W c

K

(S) est exactement la vari´ et´ e polaire classique de S associ´ ee ` a l’espace vectoriel L. ~ Nous renvoyons ` a [BGHP04] pour plus de d´ etail sur les vari´ et´ es polaires classiques.

Le deuxi` eme type de drapeaux, nomm´ es drapeaux externes sont les drapeaux K : P

ⁿ

) K

ⁿ⁻¹

) · · · ) K

^n−p−1

) · · · ) K

¹

) K

⁰

o` u K

⁰

∈ / H. Nous nommons P l’unique point de K

⁰

. La vari´ et´ e polaire affine c W

_K

(S) correspond alors ` a la clˆ oture de Zariski dans A

ⁿ

de

M ∈ S

_reg

\( ˜ K)

− −− →

T

_M

S / t −−→

M P + K ~

⊥

(3) o` u ˜ K := K ∩ A

ⁿ

est la partie affine de K.

Vari´ et´ es polaires r´ eelles

Une vari´ et´ e polaire affine r´ eelle c W

_K

(S

_R

) peut ˆ etre vide. Mais dans les cas que nous consid´ erons, elle coupe chaque composante connexe de S

_R

et sera donc non vide si S

_R

6= ∅.

Consid´ erons en premier, le cas des drapeaux externes. Nous rappelons que K ⊆ H et que l’on pose L := K

^∗

. Nous d´ eduisons de l’´ equation (2) que c W

_K

(S

_R

) est la clˆ oture de Zariski dans A

ⁿ

de l’ensemble

n

M ∈ (S

_R

)

_reg

| −−−→

T

_M

S

_R

t / ~ L o .

Proposition 1. Soit S

_R

une vari´ et´ e alg´ ebrique r´ eelle R-d´ efinissable lisse et compacte. Alors c W

K

(S

_R

) contient au moins un point par composante connexe de S

_R

.

D´ emonstration. Fixons ~ v ∈ K ⊆ H. Par d´ efinition L ⊆ (~ v)

^⊥

. Supposons que ~ v soit la direction du premier axe de coordonn´ ees. Consid´ erons la fonction qui d’une composante connexe C de la vari´ et´ e S

_R

dans R associe ` a un point M sa premi` ere coordonn´ ee. Cette fonction est continue et atteint son maximum sur le compact C au point P . Ainsi l’espace vectoriel −−−→

T

P

S

_R

est inclus dans ( ~ v)

^⊥

. Nous avons donc −−−→

T

_P

S

_R

+ ~ L 6= A

ⁿ_R

et P ∈ W c

_K

(S

_R

) ∩ C.

Int´ eressons nous maintenant au cas des drapeaux externes. Nous pouvons alors enlever

l’hypoth` ese S compacte.

(5)

Proposition 2. Soit S

_R

une vari´ et´ e alg´ ebrique r´ eelle R -d´ efinissable lisse. Supposons que K * S

_R

. Alors W c

K

(S

_R

) contient au moins un point par composante connexe de S

_R

.

D´ emonstration. Puisque K n’est pas inclus dans S

_R

, il existe un point P ∈ K\S

_R

. Fixons une composante connexe C de S

_R

. Comme C est un ferm´ e, sa distance au point P est atteinte en un point M ∈ C. Comme P n’appartient pas ` a S

_R

, nous avons −−→

M P 6= 0.

Le gradient de la fonction distance au point P en M est colin´ eaire ` a −−→

M P et est orthogonal

`

a l’espace tangent −−−→

T

_M

S

_R

d’apr` es le Th´ eor` eme des multiplicateurs de Lagrange. C’est pourquoi l’espace vectoriel −−−→

T

_M

S

_R

est contenu dans ( −−→

M P )

^⊥

et ainsi M appartient ` a W c

_K

(S

_R

) ∩ C.

Premi` eres ´ equations d´ ecrivant les vari´ et´ es polaires affines

Nous utilisons les coordonn´ ees homog` enes x := (x

0

: x

1

: . . . : x

n

) pour les points de l’espace projectif. Quand x

₀

= 1, nous noterons le point correspondant dans A

ⁿ

par (x

₁

, . . . , x

_n

) :=

(1 : x

1

: . . . : x

n

).

Soient F

1

, . . . , F

p

∈ Q [X

1

, . . . , X

n

] des polynˆ omes ` a coefficients rationnels. Supposons que F

₁

, . . . , F

_p

forment une suite r´ eguli` ere et que l’id´ eal qu’ils engendrent est radical. Soit S la vari´ et´ e r´ eelle qu’ils d´ efinissent. ` A partir de maintenant, nous supposons que la vari´ et´ e affine S est d´ efinie par F

₁

, . . . , F

_p

, ie S := V (F

₁

, . . . , F

_p

). De plus, nous supposons que F

₁

, . . . , F

_p

s’intersectent transversalement, ce qui signifie que les ´ equations ont une matrice jacobienne de rang maximal en tout point de S. De ce fait, S est une vari´ et´ e affine purement p-codimensionelle.

Fixons un indice 1 6 i 6 n −p qui repr´ esente la codimension attendue de la vari´ et´ e polaire dans S. Choisissons des points A

j

= (a

j,0

: . . . : a

j,n

) avec a

j,0

∈ {0, 1} et 1 6 j 6 n −p − i + 1.

Supposons que A

1

, . . . , A

n−p−i+1

engendrent un espace lin´ eaire K de dimension n − p − i.

Consid´ erons la matrice

Γ

⁽ⁱ⁾

(x) =







∂F1

∂X1

. . .

_∂X^∂F¹

..

n

. .. . .. .

∂Fp

∂X1

. . .

_∂X^∂F^p

n

a

_1,1

− a

_1,0

X

₁

. . . a

_1,n

− a

_1,0

X

_n

.. . .. . .. .

a

n−p−i+1,1

− a

n−p−i+1,0

X

1

. . . a

n−p−i+1,n

− a

n−p−i+1,0

X

n





 (x).

Nous notons W la vari´ et´ e d´ efinie par les ´ equations F

1

, . . . F

p

et tous les (n −i+ 1)-mineurs de la ((n−i+1)×n)-matrice Γ

⁽ⁱ⁾

. La proposition suivante nous donne nos premi` eres ´ equations pour W c

_K

(S).

Proposition 3. Supposons que K * S. Alors la vari´ et´ e affine polaire g´ en´ eralis´ ee W c

K

(S) est

´ egale ` a W .

Equations et propri´ ´ et´ es locales de c W

_K

(S)

Dans la suite nous supposons que K * S, ce qui ne restreint pas la g´ en´ eralit´ e de nos propos.

Soit s = n − i + 1. Pour tout sous-ensemble I = {k

₁

, . . . , k

s

} de {1, . . . , n}, nous noterons

M(I) le s-mineur qui correspond ` a toutes les lignes et aux colonnes k

1

, . . . , k

s

de la matrice

Γ

⁽ⁱ⁾

. Notons m le (n − i)-mineur principal de Γ.

(6)

Lemme 4 (Lemme d’´ echange). Soit J = {k

₁

, . . . , k

_s

} un ensemble de colonnes. Alors, pour de bons

j

∈ {−1, 1}, 1 6 j 6 n, nous avons l’´ egalit´ e suivante :

m M (I ) = X

l∈J\{1,...,n−i}

_j

M (J \{l}) M (1, . . . , n − i, l).

Notons M

j

:= M (1, . . . , n − i, j) pour n − i + 1 6 j 6 n. Ces ´ equations jouent un rˆ ole fondamental.

Proposition 5. La vari´ et´ e polaire affine W c

K

(S) est d´ efinie par les ´ equations F

1

, . . . , F

p

, M

n−i+1

, . . . , M

_n

en dehors de V (m).

D´ emonstration. Soit M un point de S de coordonn´ ees x = (x

₁

, . . . , x

_n

). Si m(x) 6= 0 et M

n−i+1

(x) = . . . = M

n

(x) = 0, nous d´ eduisons du lemme d’´ echange que M (J )(x) = 0 pour tout J ∈ P

_n−i+1ⁿ

. Donc tous les (n−i+1)-mineurs s’annulent en M et d’apr` es la Proposition 3, M ∈ W c

K

(S). La r´ eciproque est imm´ ediate.

Il convient alors d’´ etudier ces ´ equations pour en d´ eduire les propri´ et´ es de W c

K

(S). La vari´ et´ e polaire c W

_K^n−p−i

(S) n’est pas toujours de codimension i dans S. Ceci est dˆ u au choix d’un mauvais espace K.

Figure 1 – Deux vari´ et´ es polaires du tore associ´ ee chacune ` a une direction (i=2). ` A gauche, l’ensemble des points du tore o` u la normale est verticale est constitu´ e de 2 courbes. La vari´ et´ e polaire est de mauvaise codimension. ` A droite, une vari´ et´ e pour une direction oblique est constitu´ ee de 4 points. Elle est de bonne codimension.

Dans toute la suite, l’espace K sera suppos´ e g´ en´ erique. Le premier r´ esultat est une cons´ e- quence d’un th´ eor` eme de g´ eom´ etrie diff´ erentielle.

Proposition 6. Pour presque tous les param` etres a

_i,j

o` u 1 6 i, j 6 n, les ´ equations F

₁

, . . . , F

_p

, M

n−i+1

, . . . , M

n

se coupent transversalement sur W c

_K

(S)\V (m).

Ceci implique que la codimension locale de W c

K

(S) dans S en tout point M / ∈ V (m) est i. Le (n − i)-mineur principal m peut ˆ etre remplac´ e par n’importe quel autre (n − i)-mineur sup´ erieur de Γ

⁽ⁱ⁾

. Il reste ` a voir que les ouverts {m 6= 0}, pour tous les mineurs m consid´ er´ es, recouvrent S pour obtenir que W c

_K

(S) est bien de pure codimension i dans S.

Proposition 7. Supposons que la vari´ et´ e polaire affine c W

_K^n−p−i

(S) est non vide. Alors pour

toute composante irr´ eductible C de W c

_K^n−p−i

(S) il existe un (n−i)-mineur sup´ erieur m de Γ

⁽ⁱ⁾

tel que m ne s’annule pas identiquement sur C. Ainsi c W

_K^n−p−i

(S) est de pure codimension i

dans S.

(7)

Nous nous concentrons d´ esormais sur la vari´ et´ e polaire z´ ero-dimensionnelle W c

_K0

(S). Nous souhaitons trouver un mineur m qui ne s’annule en aucun point de c W

_K0

. Rappelons que m et M

p+1

, . . . , M

n

sont des mineurs de la matrice

Γ :=

Jac(F (X))

a

₁

− X

₁

. . . a

_n

− X

_n

o` u a

₁

, . . . , a

_n

sont tir´ es au hasard pour avoir K

⁰

g´ en´ erique. En appliquant alors une transformation lin´ eaire al´ eatoire B ∈ GL

n

(R), nous d´ efinissons de nouvelles coordonn´ ees Z

1

, . . . , Z

n

ainsi que de nouveaux polynˆ omes F

i

(Z), 1 6 i 6 p, o` u l’on a remplac´ e X

1

, . . . , X

n

par leur expression en fonction de Z

₁

, . . . , Z

_n

. On obtient aussi une nouvelle matrice

ExtJac := Γ B =

Jac(F (Z))

c

₁

− Z

₁

. . . c

_n

− Z

_n

et de nouveaux mineurs m

⁰

, M

_p+1⁰

, . . . , M

_n⁰

correspondants.

Proposition 8. Supposons que B ∈ GL

_n

( R ) soit g´ en´ erique. Alors m

⁰

ne s’annule pas sur c W

_K⁰

(S). Ainsi F

₁

, . . . , F

_p

, M

_p+1⁰

, . . . , M

_n⁰

forment une suite r´ eguli` ere et engendrent l’id´ eal de d´ efinition de W c

_K⁰

(S).

R´ esolution r´ eelle de syst` emes polynˆ omiaux

Les pr´ ec´ edents r´ esultats g´ eom´ etriques vont nous permettre d’´ etendre le champ d’application de l’algorithme de r´ esolution g´ eom´ etrique suivant.

Soient F

₁

, . . . , F

_n

des polynˆ omes de Q [X

₁

, . . . , X

_n

] tels que le syst` eme F

₁

= . . . = F

_n

= 0 ait un nombre fini de solutions complexes. Par r´ esoudre, nous entendons calculer une repr´ e- sentation de l’ensemble des solutions de la forme

{(v

₁

(T ), . . . , v

n

(T)) | q(T ) = 0}

o` u q ∈ Q [T ] est unitaire et s´ eparable et les v

i

, 1 6 i 6 n, sont des fonctions rationnelles univari´ ees ` a coefficients rationnels. Cette pr´ esentation est appel´ ee une r´ esolution g´ eom´ etrique.

Les racines r´ eelles de q correspondent exactement aux solutions r´ eelles.

L’algorithme de r´ esolution g´ eom´ etrique tient compte de la complexit´ e d’´ evaluation des polynˆ omes F

₁

, . . . , F

_n

. La complexit´ e d’´ evaluation est le nombre d’op´ erations arithm´ etiques ` a effectuer pour ´ evaluer un polynˆ ome. Par exemple la complexit´ e arithm´ etique (X+1)(Y −2)+Z est au plus 4.

Nous posons δ = max

_i

(deg S

_i

) le degr´ e g´ eom´ etrique maximum des vari´ et´ es interm´ ediaires S

_i

:= V (F

₁

, . . . , F

_i

)\V (g) pour 1 6 i 6 n. L’algorithme est incr´ emental sur le nombre d’´ equations. C’est pourquoi les vari´ et´ es interm´ ediaires S

i

interviennent. Le th´ eor` eme suivant est un cas particulier du r´ esultat principal de [GLS01] et [HMW01].

Th´ eor` eme 9 (Algorithme de R´ esolution G´ eom´ etrique). Soient F

₁

, . . . , F

_n

∈ Q [X

₁

, . . . , X

_n

] de degr´ e au plus d et dont la complexit´ e d’´ evaluation est au plus L, tels que F

₁

, . . . , F

_n

forment une suite r´ eguli` ere et engendrent un id´ eal radical. Une r´ esolution g´ eom´ etrique de la vari´ et´ e V (F

₁

, . . . , F

_n

)\V (g) peut ˆ etre calcul´ ee en O((n ˜

²

L + n

⁵

)d

²

δ

²

) op´ erations arithm´ etiques dans Q .

L’algorithme sous-jacent est de type probabiliste. Sa validit´ e d´ epend du choix de para-

m` etres dans Q . L’ensemble des mauvais choix est inclus dans une hypersurface alg´ ebrique, et

donc presque tous les choix donnent lieu ` a un calcul valide.

(8)

Recherche d’au moins un point par composante connexe d’une vari´ et´ e alg´ e- brique r´ eelle

Soit S

_R

une vari´ et´ e alg´ ebrique r´ eelle. Supposons que S

_R

= V

_R

(F

₁

, . . . , F

_p

) o` u F

₁

, . . . , F

_p

∈ Q [X

₁

, . . . , X

_n

] forment une suite r´ eguli` ere et engendrent un id´ eal radical. De ce fait, S

_R

est une vari´ et´ e alg´ ebrique affine r´ eelle lisse de pure codimension p. Soit S := V (F

1

, . . . , F

p

) la vari´ et´ e alg´ ebrique complexe correspondante.

La vari´ et´ e polaire W c

_K0

(S) pour un K

⁰

g´ en´ erique est z´ ero-dimensionnelle (Proposition 7) et contient au moins un point par composante connexe de S (Proposition 2). On tire au hasard le point (1 : a

₁

: . . . : a

_n

) = K

⁰

ainsi que la transformation G ∈ GL

_n

( Q ). On obtient ainsi notre matrice ExtJac := Γ B.

Une fois calcul´ es les (p + 1)-mineurs M

p+1

, . . . , M

n

, on peut appliquer le Th´ eor` eme 9 aux ´ equations F

₁

= . . . = F

_p

= M

_p+1

= . . . = M

_n

= 0 grˆ ace ` a la Proposition 8. Notons S

_h

:= V (F

₁

, . . . F

_h

), 1 6 h 6 p et ˆ S

_l

:= V (F

₁

, . . . , F

_p

, M

_p+1

, . . . , M

_l

), 1 6 l 6 n − p. Nous posons alors

δ = max

max

_16h6p

(deg S

_h

), max

_16l6n−p

(deg ˆ S

_l

)

le degr´ e g´ eom´ etrique maximum des vari´ et´ es interm´ ediaires. Nous regroupons les r´ esultats pr´ ec´ edents dans le prochain th´ eor` eme.

Th´ eor` eme 10. Soient F

1

, . . . , F

p

de degr´ e au plus d et dont la complexit´ e d’´ evaluation est au plus L, tels que F

1

, . . . , F

p

forment une suite r´ eguli` ere et engendrent un id´ eal de d´ efinition d’une vari´ et´ e S. Alors nous pouvons calculer en O(Ln ˜

⁵

p

²

d

²

δ

²

) op´ erations arithm´ etiques dans Q une r´ esolution g´ eom´ etrique d’un ensemble S ˆ de points repr´ esentatifs de chaque composante connexe de S.

Remarque 1. L’ordre des ´ equations F

1

, . . . , F

p

, M

p+1

, . . . , M

n

est important puisque pour tout 1 6 l 6 n−p, la vari´ et´ e interm´ ediaire ˆ S

_l

= V (F

1

, . . . , F

p

, M

p+1

, . . . , M

_l

) est une vari´ et´ e polaire, donc un objet g´ eom´ etrique li´ e ` a S et que l’on peut esp´ erer comprendre. D’ailleurs il apparaˆıt que δ ne d´ epend pas du choix d’un drapeau externe et est donc un param` etre intrins` eque ` a la vari´ et´ e polaire S.

Remarque 2. Quand la vari´ et´ e S est suppos´ e compacte, on peut alors se restreindre aux

drapeaux internes d’apr` es la Proposition 1. Ceci permet d’am´ eliorer significativement le temps

de calcul de la r´ esolution g´ eom´ etrique de W c

_K⁰

(S).

(9)

1 Introduction 10

2 Basics of Generalized Polar Varieties 11

2.1 Generalized polar varieties . . . 12

2.2 Real polar varieties . . . 13

3 Manipulating Polar Varieties 14 3.1 First equations describing affine polar varieties . . . 14

3.2 Local equations . . . 16

3.3 Smoothness and generic linear space . . . 17

3.4 Simpler Equations . . . 19

3.4.1 Internal Flags . . . 20

3.4.2 External Flags . . . 21

4 Real Polynomial equation solving 22 4.1 A Gr¨ obner-free alternative for polynomial system solving . . . 22

4.2 Finding a point in every connected component of a real algebraic set . . . 23

4.3 Experimental Results . . . 24

5 Conclusion 25

(10)

1 Introduction

In this paper, we intend to address the issue of finding at least one representative point in each connected component of a real algebraic variety. This is a fundamental problem of computational real algebraic geometry that appears in several other problems. It allows us to decide the emptiness of a variety. Another example : it is used to find exactly one point by connected component, hence compute the zeroth Betti number.

The paper is a sum up of previous works [BGHM97, BGHM01, BGHP04, BGHP05]. These papers were motivated by a new algorithm for efficient polynomial equation solving described in [GLS01, HMW01]. The new algorithm, called geometric resolution algorithm, brings with it a new philosophy. In order to understand the changes, let us recall the previous algorithms.

The basic idea of previous elimination procedures is the use of Gr¨ obner bases so we can compute a canonical form, fixed by the choice of a monomial ordering, for every polynomial in the quotient by a given zero-dimensional ideal. We say this tool is algebraic since we do manipulations of monomials. This is a generic tool because there are none assumptions about the equations. On the other hand, the drawback of the generic aspect is that this tool does not take advantage of any ’good’ system of equations to compute faster. The complexity of the algorithm depend on extrinsic parameters, such as the maximal degree d of the equations, the number n of variables. Since polynomials are manipulated through their dense representation, which has asymptotically Θ(d

ⁿ

) terms, the complexity is asymptotically over d

ⁿ

.

The Gr¨ obner-free algorithm of [GLS01, HMW01] is more specific; it requires a system of equations F

₁

= . . . = F

_n

= 0, g 6= 0 that form a reduced regular sequence (see subsection 4.1).

The complexity is related to the geometric object defined by the previous equations, in particular its geometric degree δ. Since this tool is intrinsic, we are prompted to think geometrically when using it. As this algorithm is iterative, we have to take into account all intermediate varieties S

_i

:= V (F

₁

, . . . , F

_i

)\V (g). Moreover the use of a good data structure, the straight-line programs, allows the algorithm to take advantage of system of equations with good evaluation complexity, for example sparse polynomials.

We extend the range of applications of the geometric resolution algorithm to the finding of at least one point in each connected component of a real algebraic variety S. We assume the variety is smooth. The notion of generalized polar varieties will give us the geometric object required to apply the geometric resolution algorithm. This notion is a generalization of classic polar varieties. We give a non formal definition of classic polar varieties : you look at your variety S from a distance and the first polar variety is the contour of what you see.

Other polar varieties are iteration of this process from different directions.

Although we want to work with real affine algebraic set, the notion of generalized polar variety is projective and algebraic geometry is nicer in algebraically closed field, so we make a detour through the complex projective space. Let P

ⁿ

:= P

ⁿ

( C ) be the n-dimensional projective space over the complex numbers C and let, for 0 6 p 6 n, V be a pure p-codimensional projective algebraic variety.

The generalized polar variety of V associated with a given linear subspace K and a given

hyperplane H of the ambient space P

ⁿ

will be denoted W c

K

(V ). We refer to subsection 2.1 for

definition. In this paper we consider mainly the case where H is the hyperplane at infinity of

P

ⁿ

, fixing in this way an embedding A

ⁿ

⊆ P

ⁿ

. Let S := V ∩ A

ⁿ

be the affine trace of V and

suppose S is non-empty. Then S is a pure p-codimensional affine algebraic variety. The affine

trace c W

K

(S) := c W

K

(V ) ∩ A

ⁿ

is called the affine generalized polar variety of S associated

with the linear subvariety K. When K ⊆ H, we notion of generalized affine polar variety

(11)

coincide with the notion of classic affine polar variety (see [BGHM01]).

Now we are going to outline the basic properties of c W

_K

(S). Let Q be the field of rational numbers. From now on, let a regular sequence F

1

, . . . , F

p

∈ Q[X

1

, . . . , X

n

] be given such that (F

₁

, . . . , F

_p

) is the ideal of definition of the affine variety S. Assume that the projective linear variety K of dimension n−p −i is spanned by n− p− i+ 1 rational points A

_j

:= (a

_j,0

, . . . , a

_j,n

) with a

_j,1

, . . . , a

_j,n

generic, for 1 6 j 6 n − p − i + 1. Then, if S is smooth, c W

_K

(S) is either empty or a smooth subvariety of S having pure codimension i in S. Moreover, W c

K

(S) is the variety defined by F

₁

, . . . , F

_p

and by all (n − i + 1)-minors of the polynomial ((n − i + 1) × n) matrix







∂F1

∂X1

. . .

_∂X^∂F¹

..

n

. .. . .. .

∂Fp

∂X1

. . .

_∂X^∂F^p

n

a

_1,1

− a

_1,0

X

₁

. . . a

_1,n

− a

_1,0

X

_n

.. . .. . .. .

a

n−p−i+1,1

− a

n−p−i+1,0

X

₁

. . . a

n−p−i+1,n

− a

n−p−i+1,0

X

_n







(see Proposition 4).

Let R be the field of real numbers and let P

ⁿ_R

and A

ⁿ_R

be respectively the real n-dimensional projective and affine spaces. Let S

_R

:= S ∩ A

ⁿ_R

be the real trace of the complex algebraic variety S. From the hypothesis, we deduce that S

_R

is smooth and its real codimension at any point is p. Then, for generic spaces K, the generalized real affine polar varieties W c

_K

(S

_R

) := c W

_K

(S) ∩ A

ⁿ_R

is well defined and contains for each connected component of S

_R

at least one algebraic sample point. The same is true for the real classic polar varieties if S

_R

is compact (see Propositions 1 and 2).

Finally, we focus on the zero-dimensional generalized affine polar variety c W

K

(S) for K a generic point in P

ⁿ

. The variety W c

K

(S) will be our set of sample point that meet every connected component of S

_R

. We can find good equations that define it. Let c

₁

, . . . , c

_n

be random real numbers and Z

₁

, . . . , Z

_n

be a random new system of coordinates. Let M

_j

be the (p + 1)-minor associated with the columns 1, . . . , p, j of the matrix







∂F1

∂Z1

. . .

_∂Z^∂F¹

..

n

. .. . .. .

∂Fp

∂Z1

. . .

_∂Z^∂F^p

n

c

₁

− Z

₁

. . . c

_n

− Z

_n







for p + 1 6 j 6 n. Then F

₁

, . . . , F

_p

, M

_p+1

, . . . , M

_n

is a reduced regular sequence that define W c

_K

(S) (see Corollary 17). The geometric resolution algorithm applied on this reduced regular sequence is the final step of our algorithm for finding at least one algebraic sample point for each connected component of a given smooth, complete intersection subvariety of A

ⁿ_R

.

2 Basics of Generalized Polar Varieties

Let the ambient space be P

ⁿ

, the n-dimensional complex projective space. For any linear

subspaces A and B of P

ⁿ

, we denote hA, Bi the linear space spanned by A and B. We say

that A and B intersect transversally and note A t B if hA, Bi = P

ⁿ

. In the opposite case,

(12)

we note A / t B. Let V be a projective algebraic subvariety of P

ⁿ

. Suppose that V is of pure codimension p, ie that each irreducible component of V is of codimension p. We write V

reg

for the regular (smooth) points of V . Observe that V

_reg

is a complex submanifold of P

ⁿ

and that V

_reg

is Zariski-dense in V . We call V

_sing

:= V \V

_reg

the singular locus of V . For all M ∈ V

_reg

, the tangent space T

M

V is viewed as a linear subspace of P

ⁿ

containing M.

Here are by the equivalent notions in the affine case. We fix an embedding A

ⁿ

⊆ P

ⁿ

and we denote H := P

ⁿ

\ A

ⁿ

the hyperplane at infinity. For every linear space A * H, we write ˜ A := A ∩ A

ⁿ

the affine trace of A. We can interpret ˜ A as an affine space and thus write ˜ A = M + A ~ where M is a point of ˜ A and A ~ is the vectorial part of ˜ A. If A ⊆ H, the vector space −−−−→

hM, Ai does not depend on the point M ∈ A

ⁿ

. Therefore we can define the vectorial part A ~ := −−−−→

hM, Ai of A. For A ~ and B ~ two vector subspaces of A

ⁿ

, we note A ~ t B ~ if A ~ + B ~ = A

ⁿ

. Let S be a affine algebraic variety and V its projective closure. We respectively call S

_reg

:= V

_reg

∩ A

ⁿ

and S

_sing

:= V

_sing

∩ A

ⁿ

the set of smooth (regular) points and the singular locus of the affine variety S. For any smooth point M of the affine variety S, we define T

_M

S := T ]

_M

V the affine tangent space of S at M .

For a linear subspace A ⊆ P

ⁿ

of dimension a, we denote by A

^⊥

the orthogonal of A with respect to the usual quadratic form P

n

i=0

X

i

. The dimension of A

^⊥

is n − 1 − a. Let us fix a hyperplane H of P

ⁿ

. If A is a linear subspace of H, we denote by A

^∗

:= A

^⊥

∩H its orthogonal in the hyperplane. The dimension of A

^∗

is n − a − 2.

2.1 Generalized polar varieties

Now we are going to precise the notion of generalized polar varieties contained in the projective space P

ⁿ

. Such polar varieties will be associated with a given flag K of linear subvarieties and a hyperplane H of P

ⁿ

. Let us denote the given flag by

K : P

ⁿ

) K

ⁿ⁻¹

) · · · ) K

^n−p−1

) · · · ) K

¹

) K

⁰

.

For a given member K of a flag K and a given hyperplane H, we define the generalized polar variety W c

_K

(V ) associated with K as the Zariski-closure of the set

M ∈ V

_reg

\(H ∪ K) | T

_M

V / t hM, Ki ∩ H

∗

. (4)

Note that W c

_K

(V ) is contained in V . Moreover the point M is chosen outside of H ∪K so that hM, Ki ∩ H is always of dimension dim K. Then the generalized polar varieties associated with K are organized as a decreasing sequence as follows :

V = W c

_Kⁿ⁻¹

= · · · = c W

_K^n−p

⊇ W c

_K^n−p−1

⊇ · · · ⊇ W c

_K¹

⊇ c W

_K⁰

.

For 1 6 i 6 n − p, we call W c

_K^n−p−i

(V ) the i-th generalized polar variety of V associated with the flag K and the hyperplane H. The index i reflects the expected codimension of c W

_K^n−p−i

(V ) in V . Note that the relevant part of the flag K leading to non-trivial polar varieties ranges from K

^n−p−1

to K

⁰

.

Let K be any member of the flag K and assume that H is the hyperplane at infinity of A

ⁿ

⊆ P

ⁿ

. Suppose V is the projective closure of S, a pure p-codimensional affine algebraic set.

Then we denote by c W

_K

(S) := c W

_K

(V ) ∩ A

ⁿ

the affine generalized polar variety associated to K. Hence W c

_K

(S) is the Zariski-closure in A

ⁿ

of the set

M ∈ S

_reg

\(K ∩ A

ⁿ

) | T

_M

S / t hM, Ki ∩ H

∗

. (5)

(13)

Two particular types of flags are noteworthy. The first type correspond to flags K : P

ⁿ

) K

ⁿ⁻¹

) · · · ) K

^n−p−1

) · · · ) K

¹

) K

⁰

with K

ⁿ⁻¹

= H. We call them internal flags. Observe that hM, Ki ∩ H = K. For any member K of the flag K, we define L := K

^∗

. We derive from (4) that W c

K

(V ) coincides with the Zariski-closure of the set

{M ∈ V

_reg

\H | T

_M

V / t L} . (6) As before let H be the hyperplane at infinity of A

ⁿ

⊆ P

ⁿ

and let V be the projective closure of a given pure p-codimensional affine algebraic variety. Once again, we denote L := K

^∗

. From (6), one easily infers that the affine generalized polar variety W c

K

(S) := c W

K

(V ) ∩ A

ⁿ

is the Zariski-closure in A

ⁿ

of the set

n

M ∈ S

_reg

| − −− → T

_M

S / t L ~ o

. (7)

This implies that W c

K

(S) is exactly the classic polar variety of S associated with the linear space L. Finally, let us remark that any classic polar variety of ~ S can be obtained by a suitable choice of linear space K ⊆ H. For definition and basic properties of classic polar varieties, we refer to [Pie78] and the references cited therein. More details on the relations between classic and generalized polar varieties can be found in [BGHP04].

The second type of flags, referred as external flags are the flags K : P

ⁿ

) K

ⁿ⁻¹

) · · · ) K

^n−p−1

) · · · ) K

¹

) K

⁰

with K

⁰

∈ / H. We call P the (only) point of K

⁰

. Since K = hP, K ∩ Hi for any K ∈ K, we have

hM, Ki ∩ H = −−→

M P + K. ~

Hence from (4), we conclude that the generalized polar variety W c

_K

(V ) coincides with the Zariski-closure of the set

M ∈ V

_reg

\(H ∪ K)

−−−→ T

_M

V / t −−→

M P + K ~

⊥

. (8)

Again, let us assume that the variety V is the projective closure of a given pure p-codimensional affine algebraic variety and that H is the hyperplane at infinity of A

ⁿ

⊆ P

ⁿ

. From (8), we deduce that the affine polar variety c W

_K

(S) is the Zariski-closure in A

ⁿ

of the set

M ∈ S

_reg

\( ˜ K)

− −− →

T

_M

S / t −−→

M P + K ~

⊥

. (9)

In the next subsection, we shall discuss real polar varieties.

2.2 Real polar varieties

In principle, a real affine polar variety W c

_K

(S

_R

) may be empty. But in our case, the polar varieties will intersect every connected component of S

_R

and be non-empty if S

_R

6= ∅.

Let us first consider the case of internal flags. For any member K of a given flag K, we have K ⊆ H and we write L := K

^∗

. We deduce from (7) that c W

_K

(S

_R

) is the Zariski-closure in A

ⁿ

of the set

n

M ∈ (S

_R

)

reg

| −−−→

T

M

S

_R

t / ~ L o

.

(14)

Proposition 1. Suppose that S

_R

is a R -definable real affine algebraic variety smooth and compact. Then W c

K

(S

_R

) contains at least one point of each connected component of S

_R

. Proof. We fix ~ v ∈ K ⊆ H. Observe that by definition L ⊆ (~ v)

^⊥

. We can suppose that ~ v is the direction of the first coordinate axis. Consider the function from an connected component C of the variety S

_R

to R that gives the first coordinate of a point M ∈ C. This function is continuous and reaches its maximum on the compact C at the point P . Then the vector space −−−→

T

_P

S

_R

is included in (~ v)

^⊥

. Hence we have −−−→

T

_P

S

_R

+ ~ L 6= A

ⁿ_R

and P ∈ W c

_K

(S

_R

) ∩ C.

Let us now consider the case of W c

K

(S

_R

) for a external flag K. Observe that the variety S

_R

is no longer supposed to be compact.

Proposition 2. Suppose that S

_R

is a R-definable real affine algebraic variety and smooth.

Suppose that K * S

_R

. Then the real affine polar variety W c

_K

(S

_R

) contains at least one point of each connected component of S

_R

.

Proof. Since K is not contained in S

_R

, there exists a point P ∈ K\S

_R

. Consider now an arbitrary connected component C of S

_R

. Then C is a smooth, closed set whose distance to the point P is realised by a point M ∈ C. Since P does not belong to S

_R

, we have −−→

M P 6= 0.

The gradient of the distance to the point P at M is collinear to −−→

M P and is orthogonal to the tangent space −−−→

T

_M

S

_R

according to the Lagrangian Multiplier Theorem. Therefore the vector space −−−→

T

M

S

_R

is included in ( −−→

M P )

^⊥

and so M belongs to c W

K

(S

_R

) ∩ C.

3 Manipulating Polar Varieties

In this section we will describe in more detail the generalized polar varieties of a pure p- codimensional affine variety S, which is given by a system of polynomial equations. We suppose that these equations intersect transversally on the variety S they define. Let K be a

”sufficiently generic” linear subvariety of P

ⁿ

of dimension at most n−p. We will show that the polar variety c W

_K

(S) of S is either empty or equidimensional of expected codimension in S.

We will describe W c

_K

(S) locally by transversal intersections of explicitly given hypersurfaces of A

ⁿ

and globally by explicit polynomial equations.

3.1 First equations describing affine polar varieties

Let P

ⁿ

and A

ⁿ

be the n-dimensional projective and affine space over C . We use the usual homogenous coordinates x := (x

₀

: x

₁

: . . . : x

_n

) for the projective points. Moreover when x

0

= 1 we denote the corresponding point in the affine space A

ⁿ

by (x

1

, . . . , x

n

) := (1 : x

1

: . . . : x

_n

).

From now on, we suppose that the affine variety S is defined by F

₁

, . . . , F

_p

∈ Q [X

₁

, . . . , X

_n

], ie S := V (F

1

, . . . , F

p

). Moreover, we ask the equations F

1

, . . . , F

p

to intersect transversally, which means that they have a Jacobian of maximal rank at every point of S. Thus S is a non-empty purely p-codimensional smooth affine variety.

We fix an index 1 6 i 6 n − p that represents the expected codimension of the generalized affine polar variety in S. Let us pick some points A

_j

= (a

_j,0

: . . . : a

_j,n

) with a

_j,0

∈ {0, 1}

and 1 6 j 6 n − p − i + 1. We assume that the points A

₁

, . . . , A

n−p−i+1

span a space K of dimension n − p − i. Let M = (x

1

, . . . , x

n

) be a point of S\K. The space −−−−−−−−→

hM, Ki ∩ H is

(15)

spanned by the n − p − i + 1 points at infinity A

_j

− a

_j,0

M with 1 6 j 6 n − p − i + 1. Let us consider the matrix

Γ

⁽ⁱ⁾

(x) =







∂F1

∂X1

. . .

_∂X^∂F¹

..

n

. .. . .. .

∂Fp

∂X1

. . .

_∂X^∂F^p

n

a

1,1

− a

1,0

X

1

. . . a

1,n

− a

1,0

X

n

.. . .. . .. .

a

n−p−i+1,1

− a

n−p−i+1,0

X

1

. . . a

n−p−i+1,n

− a

n−p−i+1,0

X

n





 (x)

whose row vectors are the gradient vectors ( −−→

grad F

_i

)(x) and the former vectors A

_j

− a

_j,0

M . Proposition 3. Let M = (x

1

, . . . , x

n

) be a point of S\K. Then all (n − i + 1)-minors of Γ

⁽ⁱ⁾

vanish at M if and only if T

_M

S / t hM, Ki ∩ H

∗

.

Proof. Observe that all (n − i+ 1)-minors of Γ

⁽ⁱ⁾

vanish at M = (x

1

, . . . , x

n

) ∈ S if and only if there exists a dependency relation between the rows of Γ

⁽ⁱ⁾

(x). The first p rows of Γ

⁽ⁱ⁾

(x) are linearly independent by hypothesis on S and the other are also independent since the points A

j

have been chosen linearly independent. Hence the previous conditions are equivalent to the condition saying that the vector space spanned by the first p rows intersects the vector space spanned by the last rows. Finally, this is equivalent to the condition T

_M

S / t hM, Ki ∩ H

∗

from (5).

We define the variety W

_i

by the equations F

₁

, . . . F

_p

and all (n − i + 1)-minors of the ((n − i + 1) × n)-matrix Γ

⁽ⁱ⁾

. We have just shown that

n

M ∈ S\ K ˜ | T

_M

S / t hM, Ki ∩ H

∗

o

= W \ K ˜

and consequently W c

_K

(S) = W \ K. So ˜ W c

_K

(S) is equal to W without its irreducible compo- nents included in ˜ K.

Proposition 4. Assume that K * S. Then the affine generalized polar variety W c

_K

(S) is equal to W .

Proof. From the previous discussion, we have to show that no irreducible component of W

_i

is included in K. We begin with the following lemma.

Lemma 5. Any irreducible component of W

_i

has codimension at most i in S.

Proof. Let us denote by a the ideal of the coordinate ring C[S] of the affine variety S, generated by all (n − i + 1)-minors of the ((n − i + 1) × n)-matrix induced by Γ

⁽ⁱ⁾

in C [S]. Let C be a given irreducible component of the affine polar variety W c

K

(S) and let p be the ideal of definition of C in C [S]. Then p is an isolated prime component of the determinantial ideal a.

From [Eag62] Theorem 3 (see also [Mat86] Theorem 13.10) we deduce that the height of the prime ideal p is bounded by i. This means that the codimension of C in S is at most i.

Assume that C is an irreducible component of W

_i

included in K. Since dim C > n − p − i

and dim K = n − p − i, we must have C = K. This would induce K ⊆ S, which contradicts

the hypothesis.

(16)

3.2 Local equations

From now on we will assume, without loss of generality, that K * S. We will now focus on finding simpler set of equations for W . We will show that W is locally described as a subvariety of S by i equations.

Let M be a (l × m)-matrix and 1 6 k 6 min(l, m). Let P

_k^l

be the set of subset of cardinality k of {1, . . . , l}. We fix I ∈ P

_k^l

. We denote I

^C

its complement in {1, . . . , l}. For I ∈ P

_k^l

, J ∈ P

_k^m

, we denote M

_J^I

the k-minor of M formed with the rows of index in I and the columns of index in J .

Let s ∈ {n − i, n − i + 1}. For any subset I = {k

₁

, . . . , k

s

} of {1, . . . , n} we denote by M (I ) := Γ

^{1,...,s}_{k

1,...,ks}

the s-minor that corresponds to the first s rows and to the columns k

₁

, . . . , k

_s

of the matrix Γ

⁽ⁱ⁾

.

Lemma 6 (Exchange Lemma). Let I

_k

∈ P

_k^s

and I

k−1

∈ P

_k−1^s

be two given index sets. Then, for suitable numbers

_j

∈ {−1, 1} with j ∈ I

_k

\I

_k−1

, we have the following identity:

(∗) M (I

k−1

)M (I

_k

) = X

j∈I_k\Ik−1

_j

M (I

_k

\{j}) M(I

k−1

∪ {j}).

Proof. Consider the following ((2k − 1) × (2k − 1))-matrix L with entries from Γ :

L :=





 0

L

₁

(I

_k

) .. . L

k−1

(I

_k

) L

₁

(I

k−1

)

.. . L

_k

(I

k−1

)

L

₁

(I

_k

) .. . L

_k

(I

_k

)





 .

Here, for any 1 6 j 6 k, L

j

(I

k

) denotes the row vector of length k that we obtain selecting, from the j-th row of the matrix Γ, the k elements placed in the columns with index in I

_k

. Similarly, L

_j

(I

k−1

) is obtained from the j-th row of A selecting the k − 1 elements placed in the columns with index in I

_k−1

.

Let us recall the Laplace expansion which is the generalization of the column (or row) expansion to several columns (or rows).

Lemma 7 (Laplace Expansion). Let M be a (n × n)-matrix and I be a set of rows. For suitable signs

J

∈ {−1, 1}, we have the following identity

det M = X

J∈P_kⁿ

_J

M

_J^I

M

_J^I^CC

.

Proof. From the formula

det M = X

σ∈S_n

ε(σ)

n

Y

i=1

m

_i,σ(i)

,

you just partition S

_n

according to the image set σ(I ).

(17)

Now it is not difficult to verify the identity (∗) by calculating the determinant det L of the quadratic matrix L via Laplace expansion in two different ways. First, by expansion of det L according to the first k − 1 columns of L, we obtain the left-hand side of (∗), disregarding the sign. Expansion of det L according to the first k − 1 rows of L leads to the right-hand side of (∗). This implies the identity (∗) for an appropriate choice of the signs

j

, with j ∈ I

_k

\I

_k−1

.

Let us fix a subset I ∈ P

_n−iⁿ

, say I := {1, . . . , n − i}, and let us consider the upper (n − i)-minor

m := M (I) := det







∂F1

∂X1

. . .

_∂X^∂F¹

..

n−i

. .. . .. .

∂Fp

∂X1

. . .

_∂X^∂F^p

n−i

r

_1,1

(X

₁

) . . . r

1,n−i

(X

n−i

) .. . .. . .. .

r

n−p−i,1

(X

₁

) . . . r

n−p−i,n−i

(X

n−i

)







, r

j,k

(X

k

) := a

j,k

− a

j,0

X

k

,

of the matrix Γ

⁽ⁱ⁾

.

The Exchange Lemma implies, for any subset J ∈ P

_n−i+1ⁿ

, the identity

m M(J) = X

l∈J\{1,...,n−i}

_l

M (J\{l}) M(1, . . . , n − i, l) (10) with

_l

∈ {−1, 1}.

Let us abbreviate M

_j

:= M (1, . . . , n − i, j) for n − i + 1 6 j 6 n. These equations play a fundamental role.

Proposition 8. The affine polar variety c W

K

(S) is defined by the equations F

1

, . . . , F

p

, M

n−i+1

, . . . , M

n

outside the locus V (m).

Proof. Let M be a point of S of coordinates x = (x

1

, . . . , x

n

). If m(x) 6= 0 and M

n−i+1

(x) = . . . = M

_n

(x) = 0, we infer from (10) that M (J )(x) = 0 holds for any subset J ∈ P

_n−i+1ⁿ

. The converse is clear.

3.3 Smoothness and generic linear space

In this section we study the smoothness of the affine polar variety c W

_K

(S) depending on the choice of the linear variety K. We first focus on the open set W c

_K

(S)\V (m). We prove that almost every linear variety K leads to a smooth variety W c

_K

(S)\V (m).

Let Z

n−i+1

, . . . , Z

n

be new indeterminates and consider the ((n − i + 1) × n)-matrix







∂F₁

∂X1

. . .

_∂X^∂F¹

n−i

∂F₁

∂Xn−i+1

. . .

_∂X^∂F¹

..

n

. .. . .. . .. . .. . .. .

∂F_p

∂X₁

. . .

_∂X^∂F^p

n−i

∂F_p

∂Xn−i+1

. . .

_∂X^∂F^p

n

r

1,1

(X

1

) . . . r

_1,n−i

(X

_n−i

) r

_1,n−i+1

(X

_n−i+1

) . . . r

1,n

(X

n

)

.. . .. . .. . .. . .. . .. .

r

_n−p−i,1

(X

1

) . . . r

_{n−p−i,n−i}

(X

_n−i

) r

n−p−i,n−i+1

(X

_n−i+1

) . . . r

_n−p−i,n

(X

n

) r

_{n−p−i+1,1}

(X

₁

) . . . r

n−p−i+1,n−i

(X

_n−i

) Z

_n−i+1

− a

_{n−p−i+1,0}

X

_n−i+1

. . . Z

_n

− a

_{n−p−i+1,0}

X

_n







.

(18)

Let ˜ M

n−i+1

, . . . , M ˜

_n

denote the corresponding (n − i + 1)-minors of this matrix. Let U :=

{m 6= 0} an affine, maybe empty, open set.

Now consider the following morphism of smooth, affine varieties Φ

i

:

( U × A

ⁱ

→ A

^p

× A

ⁱ

(x, z) 7→

F

1

(x), . . . , F

p

(x), M ˜

n−i+1

(x, z), . . . , M ˜

n

(x, z) .

Lemma 9. The origin (0, . . . , 0) of the affine space A

^p

× A

ⁱ

is a regular value of the morphism Φ

i

.

Proof. If the fibre (Φ

_i

)

⁻¹

(0, . . . , 0) is empty, there is nothing to prove. Now assume that the fibre (Φ

_i

)

⁻¹

(0, . . . , 0) is non-empty. Consider a point (x, z) ∈ (Φ

_i

)

⁻¹

(0, . . . , 0) in the fibre and observe that the Jacobian Jac(Φ

i

)(x, z) of Φ

i

at the point (x, z) has the form







∂F1

∂X1

(x) . . .

_∂X^∂F¹

n

(x) 0 . . . 0 .. . .. . .. . .. . .. . .. .

∂Fp

∂X1

(x) . . .

_∂X^∂F^p

n

(x) 0 . . . 0

∗ . . . ∗ m(x) . . . 0

.. . .. . .. . .. . . .. .. .

∗ . . . ∗ 0 . . . m(x)





 .

Since x belongs to U , the first p rows of Jac(Φ

_i

)(x, z) are linearly independent and m(x) 6= 0.

Therefore Jac(Φ

i

)(x, z) is surjective for any point (x, z) in the fibre (Φ

i

)

⁻¹

(0, . . . , 0). This means that (0, . . . , 0) is a regular value of Φ

_i

.

We now apply the Weak-Transversality Theorem of Thom-Sard (see e.g. [Dem89]) to Φ

i

. The theorem roughly states that almost every fibre of a smooth submanifold is smooth. Here we apply it to the submanifold (Φ

i

)

⁻¹

(0, . . . , 0), smooth thanks to Lemma 9. The fibers correspond to the choice of the parameter z ∈ A

ⁱ

. We deduce that there exists a residual dense set Ω of A

ⁱ

, such that for any point z ∈ Ω the polynomial

F

₁

, . . . , F

_p

, M ˜

n−i+1

(X

₁

, . . . , X

_n

, z), . . . , M ˜

_n

(X

₁

, . . . , X

_n

, z)

of Q[X

1

, . . . , X

n

] intersect transversally in any of their common zeros on the open set U.

Thus, for almost all parameters a

1,1

, . . . , a

1,n

, . . . , a

n,1

, . . . , a

n,n

the polynomials F

1

, . . . , F

p

, M

n−i+1

(X

₁

, . . . , X

_n

), . . . , M

_n

(X

₁

, . . . , X

_n

) intersect transversally in any of their common zeros on the open set U .

We have therefore shown the following statement :

Lemma 10. For almost all parameters a

_i,j

, with 1 6 i, j 6 n, the polynomial ((n−i+ 1) ×n)- matrix Γ

⁽ⁱ⁾

satisfies the following condition :

The equations F

1

, . . . , F

p

, M

n−i+1

(X

1

, . . . , X

n

), . . . , M

n

(X

1

, . . . , X

n

) define the generalized polar variety W c

_K

(S) outside the locus V (m) and intersect transversally in any point of the set c W

_K

(S)\V (m). In particular, c W

_K

(S)\V (m) is either empty or a smooth, complete intersection variety of dimension n − p − i.