par Olivier Debarre

(1)

par Olivier Debarre

Ecole normale sup´erieure, Paris´

R ÉSUME´.Un polytope est l’enveloppe convexe d’un ensemble fini de points de l’espace. Il est dit entier si ces points peuvent être choisis à coordonnées entières. Le thème général de ce texte est le comp- tage du nombre de points à coordonnées entières dans un polytope entier et la finitude de l’ensemble des types de polytopes entiers pour lesquels ce nombre est fixé non nul. Les techniques utilisées sont

élémentaires. Outre leur intérêt propre, ces problèmes ont un lien très étroit avec des questions de géométrie algébrique.

MOTS-CLES´ :Polytopes, convexe, points à coordonnées entières, finitude.

1. Introduction

Dans tout ce texte, unpolytopeest l’enveloppe convexe¹d’un sous-ensemble fini de l’espace euclidienRⁿ. C’est donc un compact (ferm´e et born´e). Sadimension est celle de l’espace affine qu’il engendre.

On appelleint´erieur relatifd’un polytopePson int´erieur dans l’espace affine qu’il engendre.

On le noteP⁰.

Un point deP est unsommets’il n’est intérieur à aucun segment entièrement contenu dans P.

Soit Σun sous-ensemble de Rⁿ. Le théorème de Carathéodory énonce que tout point de l’enveloppe convexeConv(Σ)est barycentre, avec coefficients strictement positifs, d’un sous- ensemble deΣformé de points affinement indépendants.

1. L’enveloppe convexe d’un sous-ensembleΣdeRⁿest l’intersection des sous-ensembles convexes deRⁿqui contiennentΣ: c’est le plus petit sous-ensemble convexe deRⁿqui contientΣ. C’est aussi l’ensemble des barycentres `a coefficients positifs de points deΣ.

(2)

Proposition 1. Les sommets d’un polytopePsont en nombre fini et leur enveloppe convexe estP.

D´emonstration. SoitΣun ensemble (fini) de cardinal minimal dontPest l’enveloppe convexe.

Nous allons montrer queΣest exactement l’ensemble des sommets deP. Soitsun sommet de P. Par le théorème de Carathéodory, on peut écrires=λ1s1+· · ·+λmsm, avecs1, . . . , sm

points deΣaffinement indépendants,λi > 0 etλ1+· · ·+λm = 1. Sim > 1, le point sest dans l’intérieur du segment joignant(1−λ3− · · · −λm)s1+λ3s3+· · ·+λmsm à (1−λ3−· · ·−λm)s2+λ3s3+· · ·+λmsmce qui est absurde. On a doncm= 1, c’est-à-dire s∈Σ.

Inversement, pour tout pointsdeΣ, notonsQ ⊂ P l’enveloppe convexe deΣ {s}. On a Q 6=P par minimalité deΣ. Notonsxle point deQle plus proche desetH l’hyperplan affine passant parxet orthogonal au segment[xs]. Son équation estφ(y) =hy−x, s−xi= 0, etφest une fonction affine négative surQ, strictement positive ens. On en déduit queφatteint son maximum surPen le seul points, qui est par conséquent un sommet deP.

¤ Plus généralement, on appellefaced’un polytopeP tout sous-ensemble deP défini comme P ∩H, oùH est un hyperplan affine tel queP soit entièrement contenu dans un des deux demi-espaces fermés queH définit. En particulier,∅est une face deP. Il est aussi pratique de décréter queP est une face deP. Ces deux faces sont ditesimpropres ;les autres sont ditespropres.

On montre quePn’a qu’un nombre fini de faces, et que chaque face est elle-même un polytope, enveloppe convexe des sommets dePqu’elle contient. UnefacettedeP est une face de P de dimensiondim(P)−1. Enfin, un polytope est réunion disjointe des intérieurs relatifs de ses faces.

2. Les simplexes

On appeller-simplexel’enveloppe convexe der+ 1points affinement ind´ependants dansRⁿ. Lesr-simplexes sont donc exactement les polytopes de dimensionravecr+ 1sommets. On appeller-simplexe ouvertl’int´erieur relatif d’unr-simplexe. En particulier, un point est un 0-simplexe et un0-simplexe ouvert.

Proposition 2. Tout polytopeP est r´eunion disjointe de simplexes ouverts dont les sommets sont des sommets deP.

Démonstration. Soitsun sommet deP, soientF1, . . . , Frles faces (propres) dePne contenant pass et soient F₁⁰, . . . , F_r⁰ leurs intérieurs relatifs. Les ensembles {s}, Conv({s} ∪ F₁⁰) {s}, . . . ,Conv({s}∪F_r⁰) {s}forment une partition deP. En raisonnant par récurrence sur la dimension de P, on sait décomposer chaqueFi en réunion disjointe de simplexes ouverts dont les sommets sont des sommets deFi, donc deP. En excluant les simplexes contenus dansFi F_i⁰ , on obtient une décomposition de chaqueF_i⁰en réunion disjointe de simplexes ouverts, donc aussi une telle décomposition de chaqueConv({s} ∪F_i⁰) {s}.

(3)

¤ SoitKun convexe compact d’int´erieur non vide dansRⁿ. Le volume euclidien de l’enveloppe convexe de pointss0, . . . , sndeRⁿest

1

n!|det(−−→s0s1, . . . ,−−→s0sn)|. (1) La fonction qui `an+ 1points deKassocie le volume de leur enveloppe convexe est donc continue. Elle atteint son maximum enn+ 1points affinement ind´ependants et on peut parler d’un simplexe de volume maximal contenu dansK.

Un polytopeP d’intérieur non vide dansRⁿcontient un simplexe de volume maximal dont les sommets sont des sommets deP. En effet, soitsun sommet d’un simplexeSde volume maximal contenu dansP. Considérons l’hyperplan affineHengendré par les autres sommets de S. Le points est un point de P à distance maximale de H. L’intersection avec P de l’hyperplan affine parallèle àHet passant parsest par définition une face dePdonc contient un sommet de P. On peut donc changer s en un sommet de P (sans changer les autres sommets deS). On procède ainsi pour chaque sommet deS.

Proposition 3. SoitKun convexe compact d’int´erieur non vide dansRⁿet soitSun simplexe de volume maximal contenu dansK, de centre de gravit´eg0. On a

K⊂ −nS+ (n+ 1)g0.

D´emonstration. Quitte `a effectuer une translation, on peut supposerg0= 0. Soients0, . . . , sn

les sommets deS. Pour chaquei, on noteHil’hyperplan affine passant par les sommets de Sautres quesi. Le convexeKest tout entier contenu dans la régionRicomposée des points deRⁿ situés à distance moindre qued(si, Hi)deHi. Nous allons montrer que

\n

i=0

Ri, qui contient doncK, est contenu dans−nS. En coordonn´ees barycentriques, on a

Ri=nXⁿ

j=0

αjsj

¯¯

¯ Xn

j=0

αj = 1, |αi|61ª ,

puisque la distance d’un point Xn

j=0

αjsj `aHiest|αi|d(si, Hi). Posonsβj = 1−αj

n ·On a Xn

j=0

βj= 1et comme Xn

j=0

sj = 0, on a aussi

Ri⊂ n

−n Xn

j=0

βjsj

¯¯

¯ Xn

j=0

βj= 1, βi>0 o

.

On en d´eduitK⊂

\n

i=0

Ri⊂ −nS.

¤

(4)

3. Polytopes et points entiers

On appelle point entierdans Rⁿ un point dont toutes les coordonn´ees sont enti`eres, c’est-

à-dire un point deZⁿ. On appellepolytope entierun polytope dont tous les sommets sont entiers. C’est un très vieux problème que d’estimer ou de relier le nombre de points entiers d’un tel polytopeP, le nombre de points entiers dans son intérieur relatifP⁰et le volume de P.

Il est utile d’introduire le concept de base deZⁿ. La d´efinition est la mˆeme que pour un espace vectoriel.

Définition 1. Une famille(x1, . . . , xn)denvecteurs deZⁿ en est une base si tout vecteur deZⁿpeut s’écrire comme combinaison linéaire dex₁, . . . , x_n à coefficients entiers.

Attention,nvecteurs deZⁿ peuvent ˆetre libres dans l’espace vectorielRⁿ sans former une base deZⁿ. On a les caract´erisations suivantes.

Proposition 4. Soient x1, . . . , xn des vecteurs de Zⁿ qui forment une base du R-espace vectorielRⁿ. Les conditions suivantes sont ´equivalentes :

(i) la famille(x1, . . . , xn)est une base deZⁿ;

(ii) le d´eterminant de(x1, . . . , xn)dans la base canonique deRⁿest±1;

(iii) le parallélépipède de sommet0 et de côtésx1, . . . , xn ne contient aucun point entier autre que les2ⁿpointsε1x1+· · ·+εnxn,εi∈ {0,1}.

Démonstration. SoitAla matrice (entière) dont les colonnes sont les coordonnées des vecteurs(x1, . . . , xn)dans la base canonique et soitB son inverse, c’est-à-dire la matrice dont les colonnes sont les coordonnées des vecteurs de la base canonique dans la base(x1, . . . , xn) de l’espace vectorielRⁿ.

Si (i) est vérifié, la matriceBest à coefficients entiers etAB=In. En prenant les déterminants (entiers), on obtient (ii). Inversement, si le déterminant deAest±1, la formule donnant les coefficients de l’inverseA⁻¹ à partir des cofacteurs (entiers) deAmontre queBest aussi à coefficients entiers. On en déduit (i). Donc (i) et (ii) sont équivalents.

Supposons (iii) vérifié. Tout vecteur deZⁿpeut s’écrireλ1x1+· · ·+λnxn, avecλ1, . . . , λn∈ R. Le point entier(λ1−[λ1])x1+· · ·+ (λn−[λn])xnest dans le parallélépipède construit sur les vecteursx1, . . . , xn, doncλi−[λi] = 0pour toutiet (i) est vérifié. Inversement, si (i) est vérifié, tout point entier dans le parallélépipède de sommet0et de côtésx₁, . . . , x_nest combinaison linéaire de ceux-ci à coefficients entiers, qui valent donc nécessairement 0 ou 1.

Donc (i) et (iii) sont ´equivalents.

¤ Lorsque l’on étudie les polytopes entiers, il faut tenir compte des transformations de l’espace euclidien Rⁿ préservant le réseauZⁿ (et donc les notions de point entier et de polytope entier) : ces transformations sont les translations par un vecteur entier et les transformations linéairesx 7→ Ax, oùAest une matrice deGLn(Z)c’est-à-dire, par la proposition 4, une matricen×nà coefficients entiers et de déterminant±1. Une telle transformation préserve

(5)

donc aussi le volume euclidien. Deux polytopes qui diff`erent par une telle transformation seront dits´equivalents.

Attention, des polytopes équivalents peuvent sembler très différents, mais de notre point de vue, leurs propriétés sont les mêmes : même volume, même nombre de points entiers, même nombre de points entiers intérieurs. Les triangles suivants sont équivalents :

..

• •

•

◦

•

◦

4444 44444

7777 7777

7777 ::

:: :: :: :: :: :: :: :: :

44 44 44 44 44 44 44 44 44

Ils sont chacun d’aire 3 et contiennent chacun 7 points entiers dont un seul int´erieur.

L’inégalité suivante majore le nombre de points entiers en fonction du volume. C’est très important de notre point de vue : il nous^¿suffira^À de majorer le volume d’un polytope entier ayant un nombre de points entiers intérieurs fixé.

Th´eor`eme 1(Blichfeldt). SoitKun compact convexe de l’espace euclidienRⁿtel queK∩ Zⁿne soit pas contenu dans un hyperplan. On a

card(K∩Zⁿ)6n+n! vol(K).

D´emonstration. Quitte `a remplacerKpar l’enveloppe convexe de ses points entiers, on voit qu’il suffit de traiter le cas d’un polytope entierPde dimensionn.

On procède par récurrence sur la quantitéCard(P∩Zⁿ), qui est au moins égale àn+ 1. Si Card(P∩Zⁿ) =n+ 1, le polytopePest un simplexe entier, donc de volume au moins égal

`a 1

n! par la formule (1).

SiP n’est pas un simplexe, il existe un sommet sdeP tel que le polytope (entier)Qen- veloppe convexe des sommets de P autres ques soit de dimensionn. Le polytopeQest intersection de demi-espaces d´efinis par ses facettes. Commes /∈ Q, il existe une de ces facettes,F = Q∩H, telle quesetQsoient de part et d’autre deH. SoitR le polytope Conv({s} ∪F). Les polytopesQetRsont chacun de dimensionn, ont strictement moins de

(6)

points entiers queP et ont au moinsnsommets (entiers) en commun (ceux de F). De plus, P =Q∪RetF =Q∩R. On en déduit, à l’aide de l’hypothèse de récurrence,

Card(P∩Zⁿ) 6 Card(Q∩Zⁿ) + Card(R∩Zⁿ)−n

6 n+n! vol(Q) +n! vol(R) = n+n! vol(P), d’où le théorème.

¤ Il n’y a bien sûr pas de majoration générale dans l’autre sens, puisqu’il existe des convexes compacts arbitrairement grands sans point entier. En revanche, pour certains polytopes, on peut obtenir une telle majoration. Ce sera l’objet du paragraphe 6.

4. Polygones entiers

Examinons tout d’abord le cas beaucoup plus simple des polygones (convexes), c’est-à-dire des polytopes de dimension 2. On souhaite estimer le nombre de points entiers sur le bord d’un polygone entierP en fonction du nombre de points entiers dans son intérieurP^◦, ou encore sur son bord ∂P = P P. Le premier résultat dans cette direction est le célèbre^◦ théorème de Pick.

Th´eor`eme 2(Pick, 1900). SiP ⊂R²est un polygone (convexe) entier, vol(P) = Card(P∩Z²)−1

2Card(∂P ∩Z²)−1. (2) Démonstration. Considérons d’abord un triangle entierT dont les seuls points entiers sont les sommets. Les seuls points entiers du parallélogramme obtenu par symétrie deT par rapport au milieu d’un de ses côtés en sont les quatre sommets. Par la proposition 4, l’aire deT est donc 1/2 et la formule (2) est vérifiée dans ce cas.

On traite maintenant le cas d’un triangle entier quelconque, en procédant par récurrence sur le nombre de points entiers qu’il contient. SiT est un triangle entier avec au moins 4 points entiers, on choisit un point entierxdansT qui ne soit pas un sommet. En le joignant aux 3 sommets, on décomposeT en la réunion de 2 ou 3 triangles, selon quexest sur le bord de T ou non, triangles pour lesquels la formule (2) est connue. Dans le premier cas, siT1etT2

sont ces triangles etsle sommet deT oppos´e `ax, on a ainsi vol(T) = vol(T1) + vol(T2)

= Card(T1∩Z²) + Card(T2∩Z²)

−1

2Card(∂T1∩Z²)−1

2Card(∂T2∩Z²)−2

= Card(T ∩Z²) + Card([sx]∩Z²)

−1

2Card(∂T ∩Z²) + 2 Card(]sx[∩Z²) + 2)−2

= Card(T ∩Z²)−1

2Card(∂T ∩Z²)−1.

(7)

On proc`ede de fac¸on analogue si l’on a 3 triangles.

Enfin, on peut traiter le cas des polygones entiers généraux en procédant par récurrence sur le nombre de sommets. Sisest un sommet d’un polygone entierP, on écritPcomme la réunion du triangle de sommetsset les sommets deP voisins des, et du polygoneConv(P {s}), qui a un sommet de moins queP. On utilise ensuite le même raisonnement que celui employé ci-dessus.

¤ Si les seuls points entiers d’un polygone entierP sont sur son bord, on déduit de la formule de Pick l’égalitéCard(P∩Z²) = 2 vol(P) + 2et cette quantité n’est pas bornée comme le montre l’exemple du triangle de sommets(0,0),(0,1)et(d,0)(dentier positif quelconque).

La situation est complètement différente pour les polygones entiers ayant au moins un point entier intérieur, comme le montre le résultat suivant.

Théorème 3(Scott, 1976). SoitP un polygone (convexe) entier dont le nombrekde points entiers intérieurs n’est pas nul. On a

Card(P∩Z²)63k+ 6, sauf siP est ´equivalent au triangle

..

•

?•

??

avec un point entier int´erieur et 10 points entiers.

On d´eduit de la formule de Pick la majoration

vol(P)62k+ 2, sauf dans le cas exceptionnel ci-dessus.

D´emonstration. Il s’agit de montrer que la quantit´e

δ= Card(P∩Z²)−3 Card(P^◦ ∩Z²) = 2(Card(∂P ∩Z²)−vol(P)−1) est major´ee par 6, sauf dans le cas du triangle ci-dessus.

On peut supposer queP est contenu entre les droites horizontales d’´equationy = 0ety = h>2, qu’il rencontre la droitey = 0le long du segment (entier)S0 = [0, a], ainsi que la droitey=hle long d’un segment (entier)Shde longueurb>a. On a

Card(∂P ∩Z²)6a+b+ 2h , vol(P)> 1

2h(a+b)

(8)

donc

δ62(a+b+ 2h)−h(a+b)−2 = 6−(a+b−4)(h−2).

On ah>2carP contient un point int´erieur entier.

Sih= 2, on a terminé. Sih= 3aussi, sauf sia+b63. Sia+b62, on aCard(∂P∩Z²)68 etδ= Card(∂P∩Z²)−2 Card(PZ²)66puisquePcontient (au moins) un point intérieur entier. Sia+b= 3, on aCard(∂P∩Z²)69etδ67, avec égalité si et seulement si

Card(∂P ∩Z²) = 9, Card(P^◦ ∩Z²) = 1, vol(P) = 9 2 = 1

2h(a+b).

Cette dernière égalité montre quePest un trapèze de basesS0etSh. Sia= 1(etb= 2), il y a au plus 7 points entiers sur le bord. Donca= 0etPest un triangle, équivalent au triangle ci-dessus.

Supposons donch>4eta+b 63. On peut aussi supposer que la plus grande différence h⁰entre abscisses de points deP est>h(sinon, on échange les coordonnées). Appliquons une équivalenceA : (x, y) 7→ (x+my, y), avecm ∈ Z, de façon que le segment entier A(Sh)−(0, h), porté par l’axe desx, soit le plus proche possible deS0. La distancedentre ces deux segments entiers est alors 1

2(h−a−b). Si par hasard, h⁰ est devenu < h, on

échange les coordonnées et on recommence le processus (qui doit s’arrêter, puisqu’à chaque pas, l’entierh+h⁰ décroˆıt strictement). On minore alors le volume deP par celui d’un quadrilatère pour obtenir

vol(P)> 1

2h(h⁰−d)> 1

4h(h+a+b), de sorte que

δ 6 2(a+b+ 2h)−1

2h(h+a+b)−2

= 1

2h(8−h)−1

2(a+b)(h−4)−2 6 6.

Ceci termine la d´emonstration.

¤

5. Le polynˆome d’Ehrhart

Ce paragraphe est de nature un peu différente et n’est pas nécessaire pour la suite. Il est consacré à un très joli résultat qui généralise la formule de Pick en toute dimension et ne peut être passé sous silence.

Th´eor`eme 4(Ehrhart, 1967). SoitPun polytope entier dansRⁿ. La fonction φ_P : N−→N^∗

m7−→Card(mP∩Zⁿ)

(9)

est polynomiale, de degr´e la dimension r de P et de coefficient dominant le volume r- dimensionnel de P. On a d’autre part, pour tout entierm >0,

Card(mP⁰∩Zⁿ) = (−1)^rφP(−m).

Un polytope entierPdansRest un intervalle[p, q]. Il contientq−p+ 1points entiers, et φP(m) = mq−mp+ 1,

φP⁰(m) = mq−mp−1 = −φP(−m).

On a de mêmeφ_]p,q](m) =mq−mp=mφ_]p,q](1). On a la même formule pour un segment entier semi-ouvert dans le plan. Lorsque P est de dimension 2, on en déduit φ∂P(m) = mφ∂P(1)d’où, en utilisant la formule de Pick,

φP(m) = m²vol(P) +m

2 Card(∂P ∩Zⁿ) + 1, φP⁰(m) = φP(m)−Card(∂(mP)∩Zⁿ)

= m²vol(P)−m

2 Card(∂P ∩Zⁿ) + 1 = φP(−m).

Inversement, on peut déduire la formule de Pick du théorème.

Démonstration du théorème 4.Grâce à la proposition 2, il suffit pour montrer la première moitié du théorème de traiter le cas d’unr-simplexe entierS, de sommets0, s1, . . . , sr. L’en- semblemSest la réunion disjointe de ses sous-ensembles

Sm,j =n

λ1s1+· · ·+λrsr

¯¯

¯λi>0, Xr

i=1

λi6m, Xr

i=1

[λi] =m−jo

pour j ∈ {0, . . . , m}. Le nombre de points entiers dans Sm,j est le nombre de solutions enti`eres positives de l’´equation

Xr

i=1

xi = m −j, c’est-`a-dire

µm−j+r−1 r−1

¶ , fois le nombreajde points entiers de

n

µ1s1+· · ·+µrsr

¯¯

¯µi∈[0,1[, Xr

i=1

µi6j o

. Commeaj=arpour toutj>r, on en d´eduit

Card(mS∩Zⁿ) = Xm

j=0

aj

µm−j+r−1 r−1

¶

=

r−1X

j=0

aj

µm−j+r−1 r−1

¶ +ar

Xm

j=r

µm−j+r−1 r−1

¶

=

r−1X

j=0

(aj−ar)

µm−j+r−1 r−1

¶ +ar

Xm

j=0

µm−j+r−1 r−1

¶

=

r−1X

j=0

(aj−ar)

µm−j+r−1 r−1

¶ +ar

µm+r r

¶ .

(10)

C’est donc bien un polynˆome enmde degr´eret de coefficient dominant 1 r!ar. Pour tout convexe compactKdansRⁿ, on a d’autre part

Card(mK∩Zⁿ)

mⁿ = volC¹

m ·Card³ K∩ 1

mZⁿ´ , o`uC¹

m est un cube de cˆot´e 1

m. Lorsquemtend vers+∞, cette quantité est supérieure au volume de la réunion des cubes de côté 1

met de sommets dans 1

mZⁿqui sont contenus dans K, et inférieure au volume de la réunion de ces cubes dont un sommet est dansK. On en déduit facilement que la limite est le volume (n-dimensionnel) deK.

Montrons maintenant la seconde partie du théorème, dite formule de réciprocité. LorsqueP est unr-simplexe, on vérifie directement, de façon analogue à ci-dessus, la formuleφP⁰(m) = (−1)^rφP(−m). Si P n’est pas un simplexe, on l’écrit comme dans la démonstration du théorème 1 commeQ∪R, oùQetRsont des polytopes avec strictement moins de points entiers quePqui se rencontrent le long d’une facette communeF. On a alors

φP(m) = φQ(m) +φR(m)−φF(m), φP⁰(m) = φQ⁰(m) +φR⁰(m) +φF⁰(m).

En faisant une r´ecurrence sur le nombre des points entiers du polytope, on obtient φ_P⁰(m) = φ_Q⁰(m) +φ_R⁰(m) +φ_F⁰(m)

= (−1)^rφQ(−m) + (−1)^rφR(−m) + (−1)^r−1φF(−m)

= (−1)^rφP(−m).

Ceci termine la d´emonstration. ¤

6. Points entiers dans des convexes compacts assez sym´etriques

Compter des points entiers dans des polytopes est à l’origine une question liée à^¿l’approximation diophantienne^À(on désigne par cette expression les techniques fines permettant entre autres d’approcher un nombre irrationnel par une suite de nombres rationnels). Cette théorie ancienne progressa beaucoup à la fin du dix-neuvième siècle grâce à Minkowski. Elle permet de montrer l’existence de points entiers dans des compacts convexes symétriques de volume assez grand et, plus généralement, de montrer l’existence de points entiers intérieurs dans des compacts convexes de volume assez grand, en fonction d’un coefficient de symétrie que nous définissons plus bas.

Comme on l’a déjà remarqué, un compact convexe de grand volume peut ne contenir aucun point entier. En revanche, un translaté convenable contiendra obligatoirement de nombreux tels points. C’est l’objet du résultat suivant, élémentaire mais crucial.

Th´eor`eme 5(Blichfeldt, 1914). Soit Kun compact de l’espace euclidienRⁿ et soit kun entier positif. Sivol(K)>k, il existe des points distinctsv0, . . . , vkdeKtels quevi−vj ∈ Zⁿpour tousietj.

(11)

D´emonstration. Posons

C = [0,1[ⁿ⊂Rⁿ.

Lorsqueud´ecritZⁿ, lesu+C forment une partition deRⁿ. Si on poseKu ={x∈ C | u+x∈K}, on a doncvol(K) = X

u∈Zⁿ

vol(Ku). Supposons d’abordvol(K)> k. On a²

k <vol(K) = X

u∈Zⁿ

Z

Rⁿ

1Kudµ= Z

C

X

u∈Zⁿ

1Kudµ.

Comme le volume deC est 1, il existe un pointxdeC v´erifiant X

u∈Zⁿ

1Ku > k, c’est-à-dire appartenant à au moinsk+1ensemblesKu. Autrement dit, il existeu0, . . . , ukdistincts dans Zⁿtels quevj =x+uj ∈ K, d’où le résultat dans ce cas. Le casvol(K) =kse traite en remplaçantKparλK, avecλ >1. Il existe des points distinctsv0(λ), . . . , vk(λ)deλKtels quevi(λ)−vj(λ)∈Zⁿpour tousietj. CommeKest compact, on peut supposer que les limitesvi= lim

λ→1

1

λvi(λ)existent dansKet cela prouve le th´eor`eme.

¤ Le résultat suivant semble dû à Minkowski pourk= 1(1891), et à Blichfeldt en général.

Corollaire 1. SoitKun compact convexe de l’espace euclidienRⁿ, sym´etrique par rapport

`a0, et soitkun entier positif. Sivol(K)>k2ⁿ, il existekpaires disjointes±uj de points non nuls appartenant `aK∩Zⁿ.

Pour tout réelx, notons[x]<le plus grand entier strictement inférieur àx. Le corollaire peut aussi s’exprimer ainsi : siKest un compact convexe symétrique par rapport à un point entier, on peut minorer de façon effective le nombre de points entiers intérieurs àKen fonction de son volume :

Card(K^◦ ∩Zⁿ)>2

hvol(K) 2ⁿ

i

<+ 1 (sik=hvol(K)

2ⁿ i

<, il suffit d’appliquer l’énoncé àλK, oùλ∈]0,1[est tel quevol(λK)>

k2ⁿ).

Démonstration. Appliquons le théorème de Blichfeldt à 1

2K, compact de volume> k: il existe des points distinctsv0, . . . , vk deK tels que 1

2vi− 1

2vj ∈ Zⁿ. Quitte à réordonner lesvi et à changer les coordonnées, on peut supposer que la première coordonnée de v0

est strictement inf´erieure `a celle de chacun des autres vi. Pouri ∈ {1, . . . , k}, les ui = 1

2

¡vi+ (−v0)¢

sont dansK∩Zⁿ. Ils sont distincts, et siui=−uj, on avi+vj = 2v0, ce qui est impossible puisque les premières coordonnées sont différentes.

2. SiAest une partie deRⁿ, on note1A lafonction caractéristiquedeA, c’est-à-dire la fonction Rⁿ→Rdéfinie par1A(x) = 1six∈A, et1A(x) = 0sinon.

(12)

¤ Nous allons étendre le résultat de Minkowski à des convexes quelconques. Pour cela, il sera pratique d’introduire la notion suivante. SoitKun convexe compact de l’espace euclidienRⁿ et soitxun point intérieur àK. Toute demi-droite affineìssue dexcoupe le bord deKen un pointx⁺_` ; on notex⁻_` le point analogue défini par la demi-droite opposée. On définit le coefficient de symétriedeKpar rapport àxpar

a(K, x) = min`

kx−x⁺_`k kx−x⁻_`k.

On a0< a(K, x)61eta(K, x) = 1si et seulement siKest sym´etrique par rapport `ax.

Plusxest pr`es du bord, plusa(K, x)est petit. On a aussi a(K,0) = max{a >0| −aK⊂K}.

En particulier, siP est un polytope de sommetss1, . . . , sr,

a(P,0) = min{a >0| −asi∈Ppour touti}.

Revenant au cas général d’un point intérieurxquelconque, si, pour chaquei ∈ {1, . . . , r}, on noteyil’autre point d’intersection de la droitesixavec le bord deP, on a

a(P, x) = min16i6rkx−yik

kx−sik. (3)

On obtient facilement la g´en´eralisation suivante du corollaire 1.

Corollaire 2. SoitKun compact convexe de l’espace euclidienRⁿcontenant au moins un point entier int´erieur x. On a

Card(K^◦ ∩Zⁿ)>2 h

vol(K)

³ a(K, x) a(K, x) + 1

´_ni

<+ 1.

On utilisera ce corollaire sous la forme plus faible Card(K^◦ ∩Zⁿ)>vol(K)

³a(K, x) 2

´_n .

Démonstration. La démonstration est exactement semblable à celle du corollaire 1. On peut supposerx= 0. Posonsa = a(K,0)etk =

h vol(K)

³ a(K, x) a(K, x) + 1

´_ni

<. Pourλ ∈ ]0,1[

suffisamment proche de 1, le convexe compact Kλ = λ

1

a + 1K est de volume > k. Le th´eor`eme 5 fournit alors2k+ 1points distinctsv0, . . . , vk deKλ tels quevi−vj ∈ Zⁿ pour tousietj. Comme−aKλ⊂Kλet queKλest convexe, les points

vi−vj 1 a + 1 =

1

a(−avj) +vi 1

a + 1

(13)

sont dansKλ, donc les points entiers0,±(v1−v0), . . . ,±(vk−v0)sont dans(1

a+ 1)Kλ, qui est contenu dansK. Si on choisit^◦ v0 comme dans la d´emonstration du corollaire 1, on obtient ainsi2k+ 1points distincts, ce qui montre le corollaire.

¤

7. Énoncé du théorème de Hensley sur les points entiers dans les polytopes entiers Dans ce paragraphe, nous souhaitons estimer le nombre de points entiers sur le bord d’un polytope entier en fonction du nombre de points entiers à l’intérieur, généralisant ainsi en toute dimension le résultat de Scott (th. 3).

Théorème 6(Hensley, 1983). Il existe une constanteB(k, n)ne dépendant que des entiers strictement positifsketn, telle que, pour tout polytope entierPde dimensionnavec exacte- mentkpoints entiers intérieurs, on aitvol(P)6B(k, n).

On en déduit immédiatement le résultat suivant à l’aide de l’inégalité de Blichfeldt.

Corollaire 3. SoitPun polytope entier de dimensionnavec exactementk¿ 0 points entiers int´erieurs. On a

Card(P∩Zⁿ)6n+n!B(k, n).

Autrement dit, le nombre de points entiers sur le bord d’un polytope entier de dimensionn est contrôlé par le nombre de points entiers à l’intérieur de ce polytope... s’il y en a ! Une constanteB(k, n)est explicitement calculée par Hensley dans [H]. Elle est améliorée dans [LZ]] par Lagarias et Ziegler en B(k, n) = k(7(k+ 1))ⁿ²ⁿ⁺¹, qui n’est pas loin d’être optimal : il y a des exemples de polytopes entiersP de dimensionnavec un unique point intérieur et

vol(P)> 1

n!2²ⁿ⁻¹ , Card(P∩Zⁿ)>2²ⁿ⁻² (voir [ZPW] et [LZ]).

8. Le th´eor`eme de Hensley pour les simplexes

On commence par montrer que les points entiers intérieurs d’un simplexe entier ne peuvent pas être trop près du bord. En d’autres termes, le coefficient de symétrie d’un simplexe entier par rapport à un point entier intérieur n’est pas trop petit.

Proposition 5. Pour tous entiers strictement positifsnetk, il existe une constante strictement positiveε(k, n)telle que, pour toutn-simplexe entierSavec exactementkpoints int´erieurs, et tout point entier int´erieurxdeS, on ait

a(S, x)>ε(k, n).

(14)

La constante ε(k, n) est explicite. La valeur obtenue par Hensley (dont nous suivons la d´emonstration plus bas) est de l’ordre de(4k)^−2n!. C’est cette proposition que Lagarias &

Ziegler améliorent, obtenantε(k, n)>(7k+ 7)⁻²ⁿ⁺¹. Il existe des exemples oùε(1, n)est de l’ordre de2⁻²ⁿ. Le théorème de Hensley pour les simplexes se déduit immédiatement de la proposition grâce au corollaire 2.

Corollaire 4. Pour tous entiers strictement positifsnetk, et toutn-simplexe entierSavec exactementkpoints int´erieurs, on a

vol(S)6k³ 2 ε(k, n)

´_n .

D´emonstration de la proposition 5.Celle-ci n´ecessite plusieurs lemmes d’approximation. Le premier est classique.

Lemme 1(Hermite, 1847). Soit(x1, . . . , xn) ∈ Rⁿ et soitN un entier strictement positif fix´e. Il existe des entiersp1, . . . , pn, q avec1 6 q 6 Nⁿ tels que ¯

¯xi− pi

q

¯¯ 6 1 N q pour chaquei∈ {1, . . . , n}.

Démonstration. Pour tout réelx, on note{x}=x−[x]la partie fractionnaire dex. Au moins deux desNⁿ + 1 vecteurs({kx1}, . . . ,{kxn}) de [0,1]ⁿ, lorsque k décrit {0, . . . , Nⁿ}, tombent dans le même cube de côté 1

N et `a sommets dans 1

NZⁿ. Notonsk1etk2 > k1les valeurs correspondantes, et posonsq=k2−k1. On a0< q6k26Nⁿ. Soitpil’entier le plus proche deqxi. On a

|qxi−pi|6|k2xi−k1xi−[k2xi] + [k1xi]|=|{k2xi} − {k1xi}|6 1 N, d’o`u le lemme.

¤ Le lemme suivant n’est qu’une petite adaptation.

Lemme 2. Soit(x1, . . . , xn)∈(R^+∗)ⁿ, avec Xn

i=1

xi = 1, et soitN >nun entier. Il existe des entiersp1, . . . , pn, q, avecpi>0,q=

Xn

i=1

piet16q6Nⁿ⁻¹, tels que|qx1−p1|6 n N, et|qxi−pi|6 1

N pour chaquei∈ {2, . . . , n}.

D´emonstration. On applique le lemme 1 `a(x2, . . . , xn). Pouri∈ {2, . . . , n}, on a|qxi− pi|6 1

N etqxi>0, donc en particulierpi>0. Posonsp1=q−

n−1X

i=1

pi. On a

|qx1−p1|=

¯¯

¯q−q

n−1X

i=1

xi+

n−1X

i=1

pi−q

¯¯

¯6 n N.

(15)

De nouveau, commeqx1>0et n

N 61, on ap1>0.

¤ Voici maintenant le point essentiel.

Lemme 3. Pour tous entiers strictement positifsnet k, il existeα(k, n)>0tel que, pour tout (x1, . . . , xn)∈(R^+∗)ⁿtel que1>

Xn

i=1

xi >1−α(k, n), il existe des entiersp1, . . . , pn, q, avecpi>0etq=

Xn

i=1

pi>0, v´erifiant(kq+ 1)xi> kpipour chaquei∈ {1, . . . , n}.

Avant de démontrer ce lemme, montrons comment il entraˆıne la proposition 5. Rappelons que nous avons affaire à unn-simplexe entierS(dont on peut supposer que les sommets sont 0, s1, . . . , sn) contenant un point entier intérieurx=

Xn

i=1

xisi, avecxi >0et Xn

i=1

xi < 1.

Montrons Xn

i=1

xi61−α(k, n). Si ce n’est pas le cas, on applique le lemme 3 et on consid`ere pour chaque entierj>0le point entier

(jq+ 1)x−j Xn

i=1

pisi= Xn

i=1

¡(jq+ 1)xi−jpi

¢si.

On a Xn

i=1

¡(jq+1)xi−jpi

¢< jq+1−jq= 1. De plus, siqxi−pi>0, on a(jq+1)xi−jpi>

xi>0. Siqxi−pi<0etj6k, on a(jq+ 1)xi−jpi>xi+k(qxi−pi)>0. On obtient donc ainsik+ 1points entiers int´erieurs `aS, ce qui est absurde.

On a donc Xn

i=1

xi 6 1−α(k, n). Siy est l’autre point d’intersection de la droite0xavec S, cela signifie kxk 6 ¡

1−α(k, n)¢

kyk. Comme cela reste valable en remplac¸ant0 par n’importe quel autre sommet deS, on d´eduit de la formule (3) l’estimation

a(S, x)> α(k, n) 1−α(k, n). Ceci termine donc la d´emonstration de la proposition 5.

¤ Démonstration du lemme 3. On procède par récurrence surn. Sin= 1, on cherche un entier q >0tel quex > kq

kq+ 1. C’est possible d`es quex > 1

k+ 1 =α(k,1). Posons N = 1 + maxnh 4k

α(k, n−1) i

,2kn(n+ 1)o ,

α(k, n) = 1

4kNⁿ⁻¹ 6 1

2α(k, n−1).

(16)

Prenonsx1>· · ·>xn>0, posons Xn

i=1

xi= 1−α, et supposons0< α < α(k, n).

Sixn< α(k, n−1)−α, on a

n−1X

i=1

xi = 1−α−xn >1−α(k, n−1). On peut appliquer l’hypoth`ese de r´ecurrence et prendrep1, . . . , pn−1,0etq.

Supposons doncxn>α(k, n−1)−αet appliquons le lemme 2 `a x_i 1−α. On a (kq+ 1)x1−kp1 = x1+k(qx1−p1)

= x1

³

1−kq α 1−α

´ +k

³ q x1

1−α−p1

´

> x1(1−2kqα)−kn N

> x1(1−2kNⁿ⁻¹α)−kn N

= 1

2x₁−kn N

> 1

2(n+ 1)−kn N > 0, carx1> 1−α

n > 1

n+ 1. Pouri>2, on a de mˆeme (kq+ 1)xi−kpi > 1

2xn− k N

> 1 2

¡α(k, n−1)−α¢

− k N

> 1

4α(k, n−1)− k N > 0, et le lemme est d´emontr´e.

¤

9. Le cas général du théorème de Hensley

On a déjà fait la partie la plus difficile : il est facile de déduire le cas général du cas des simplexes.

On rappelle qu’il suffit de minorer le coefficient de symétrie dePpar rapport à un point entier intérieurx. Il découle de la formule (3) que celui-ci est^¿atteint^Àen un sommets: siFest une facette dePcontenant l’autre point d’intersectionyde la droitesxavec le bord deP, on a

a(P, x) = kx−yk kx−sk.

(17)

Par le théorème de Carathéodory, il existe des sommetss1, . . . , srdeF (donc deP) affinement indépendants (donc avecr6n), tels queyse trouve dans l’intérieur relatif du(r−1)- simplexe qu’ils engendrent. SoitSler-simplexe de sommetss, s1, . . . , sr. Son intérieur relatif est contenu dansP^◦ et contient exactementk⁰ 6kpoints entiers, dontx. La proposition 5 entraˆıne

a(P, x)>a(S, x)>ε(k⁰, r) d’o`u, en utilisant le corollaire 2,

vol(P)6k

³ 2

min16k⁰6k,16r6nε(k⁰, r)

´_n ,

ce qui montre le th´eor`eme 6.

10. Un r´esultat de finitude

Théorème 7 (Lagarias & Ziegler, 1991). Pour tous entiers strictement positifs k et n, il n’y a qu’un nombre fini de classes d’équivalence de polytopes entiers de dimensionnavec exactementkpoints entiers intérieurs.

Démonstration. Montrons d’abord quetout simplexe entierSest équivalent à un simplexe contenu dans un parallélépipède^¿rectangle^Àde volume inférieur ou égal àn! vol(S). Par translation entière, on peut supposer que l’origine est un sommet deS. Soients1, . . . , snles autres sommets et soitM = (mij)16i,j6nla matrice (entière) de leurs composantes dans la base canonique(e1, . . . , en). Nous allons démontrer deux lemmes sur les matrices entières.

Pour16i < j 6n, notonsEij la matrice carrée d’ordrendont tous les coefficients sont nuls, sauf celui de lai-ième ligne etj-ième colonne, qui vaut 1. Multiplier une matrice carrée d’ordrenà droite (resp. à gauche) parI+mEij (élément deGLn(Z)) revient à ajouter à la j-ième colonne (resp. ligne)mfois lai-ième colonne (resp. ligne). On peut aussi changer le signe d’une colonne en multipliant à droite par un élément deGLn(Z).

Lemme 4. Etant donn´es des entiers´ a1, . . . , an premiers entre eux (dans leur ensemble), il existe une matrice deGLn(Z)dont la premi`ere colonne esta1, . . . , an.

Démonstration. On peut supposer tous lesaipositifs et on procède par récurrence sur leur somme. Si celle-ci vaut 1, c’est évident. Si elle est>1, au moins deux desaisont non nuls, et on peut supposer par exemplea1 > a2 > 0. Il existe alors par hypothèse de récurrence une matrice A ∈ GLn(Z) dont la première colonne est a1−a2, a2, . . . , an. La matrice (In+E12)Aconvient alors.

(18)

Lemme 5. Etant donnée une matrice entière´ M à déterminant non nul, il existeA∈GLn(Z) tel que

M A=







c11 c12 · · · · · · c1n

0 c22 · · · · · · c2n

... 0 . .. ... ... ... . .. ... ... 0 0 · · · 0 c_nn





 ,

avec06cij < ciipour tous entiersietjtels que16i < j6n.

Démonstration. Soients⁰₁, . . . , s⁰_n les vecteurs colonnes (entiers) de la matrice obtenue à partir deM en supprimant sa première ligne. Cesnvecteurs sont liés dansQⁿ⁻¹: il existe donc des rationnelsa1, . . . , annon tous nuls vérifianta1s⁰₁+· · ·+ans⁰_n = 0. En chassant les dénominateurs, on peut supposer lesajentiers premiers entre eux. On applique le lemme précédent, qui fournit une matriceA∈GLn(Z)de première colonnea1, . . . , an. La matrice M Aest alors du type 





c11 c12 · · · c1n

0 c22 · · · c2n

... ... . .. ... 0 cn2 · · · cnn





.

On peut supposerc₁₁>0et, en faisant une récurrence surn, que cette matrice est triangulaire supérieure avec0 6 cij < cii pour2 6 i < j 6n. Si on effectue la division euclidienne c1j =qjc11+rj, avec06rj < c11, on obtient, après avoir retiré à laj-ième colonneqjfois la première,06c1j< c11, ce qui termine la démonstration du lemme.

Revenons à la démonstration du théorème. On asj =X

i

mijei, d’o`u

A(sj) =X

i

mijA(ei) =X

i

mij

X

k

akiek =X

k

ckjek.

Les colonnes de la matriceM Asont donc, avec l’origine, les sommets du simplexeA(S). La i-ième composante d’un élément deA(S)s’écrit alors

X

j

ljcij,

aveclj >0etX

j

lj 61. Celle-ci est inf´erieure `aX

j

ljcii, donc àcii. Cela signifie que le simplexeA(S)est contenu dans un parallélépipède de sommet l’origine et de côtés parallèles aux axes, de longueursc11, . . . , cnn, donc de volume

c11· · ·cnn= det(AM) =|det(M)|=n! vol(S), ce qui montre ce que l’on voulait.