Divers types de s6paration pour plusieurs ensembles convexes
Jacques Bair
1. Introduction En r6ponse/t un probl6me pos6 par V. L. Klee, nous analysons les rapports qui existent entre divers types de s6paration pour plusieurs ensembles convexes; cette 6tude nous permet d'6tendre la port6e d'un crit6re de s6paration exploit6 par J. Lindenstrauss [8].
Cet article est la suite de [2] o/t nous avons d6fini divers types de s6paration p o u r plusieurs ensembles convexes d'un espace vectoriel r6el E. Nous ne reviendrons pas sur Ies motivations qui nous ont a m e n d / t consid6rer ces notions (cf. [2]), mais nous nous contenterons de rappeler les principales d6finitions qui sont utiles pour le lecteur.
Nous utiliserons la terminologie et les notations qui figurent dans [4]. Nous appellerons cellule convexe (resp. cellule proprement convexe) tout ensemble convexe dont l'internat (resp. l'internat propre) n'est pas vide. Pour la bonne compr6hension du texte, rappelons les d6finitions des divers types de s6paration p o u r n ensembles (n ~ 2) [21.
Des parties A1, A2 . . . . , A, d ' u n espace vectoriel E seront s@ar&s s'il existe des demi-espaces ferm6s Z1, $2 . . . . , Z n tels que ~ = 1 iSJ = ~ et Aj c Sj p o u r j = 1, 2 . . . . .... n; elles seront s@ar&s strictement si elles sont sdpar6es et si Aj c '27j p o u r j =
= 1, 2, ..., n; enfin, elles seront fortement s@ar~es si elles sont s6par6es et si, p o u r tout indice j de {1, 2 . . . n}, il existe un demi-espace ferm6 $5., distinct de Z j, tel que A j c S S . c Z j ; lorsque l'espace vectoriel E sera topologique, on exigera de plus que tous les dembespaces ferm6s consid6r6s soient ferm6s p o u r la topologie vec- torielle de l'espace.
Enfin, nous dirons, dans un espace vectoriel (6ventuellement muni d'une topo- logie vectorielte) de dimension au moins 6gale & n - I, que n ensembles A1, As, ..., A, sont s@arJs au sens de Klee s'il existe un sous-espace vectoriel V (qui dolt ~tre ferm6 lorsqu'on travaille dans un espace vcctoriel topologique) de codimension n - 1 dont aucun translat6 ne rencontre tous les Aj ( j = 1, 2, ..., n).
2 1 2 J. B a i r
2. Lemme 1. Dans un espace vectoriel E quelconque, soient A1, A2, ..., An des eellules proprement convexes. Si .['-l~.=liAj=0 et ('1j~{1,2 ... ,}\{k} iAj ~ 0 pour tout k = 1, 2, ..., n, il existe des demi-espaces fermds Z.j contenant A j ( j = l , 2, ... n) tels que , ij=l j - , ~Jj=127J:
et (~]j=ISj:C(Uj=I
j) est une varidtd lindaire.Comme A~ et B~= A]=~ Aj sont des ensembles convexes dont les internats 'A1
i n i
et B ~ = ~ j = 2 A j sont non vides et disjoints [4; 1.8.1,c, p. 29], ils peuvent atre sdpards par un hyperplan //1 [6; 2.1]; il existe donc un demi-espaee ferm6 27~ con- tenant A~ et tel que i Z l n B ~ = O . En r6p6tant cet argument, on trouve, de proehe en proehe pour k = 2 , 3 . . . n , un demi-espaee ferm6 1~ k qui contient A k et dont l'internat est disjoints de Bk, oia Bk = ( ~ =- ~ Z j) n (0~'=k +1 A j) pour k = 2, 3 . . . n - 1 et B, = (-1~:~ Sj. On peut marne, s'arranger pour que ms, contienne une vari6t6 extra- me V de B, [5; 2.4, corollaire 3, p. 178]. Nous allons montrer que les demi-espaces fermds ~ , 272 . . . 27, ainsi d6termin6s r6pondent/~ la question.
.. ~ " is 0 I1 est clair que A j est inclus dans 27j pour j = l , 2, ., n et que ~ ~j=l j : 9 V6rifions que U~=I 27j=E.
Quitte/~ effectuer une translation, on peut supposer que l'origine appartient fi V.
Ddsignons par S un sous-espace suppldmentaire de V darts E et par S~. la projection canonique de Sj sur S selon V. D ' u n e part, la codimension de V est inf6rieure ou
~gale/t n - 1 [5; 2.3, p. 1 76]; d'autre part, la dimension de S n e peut excdder n - 1, sinon le th6or~me de Helly contredirait les propri6tds d'intersection relatives aux ensembles 1~.. Donc, la dimension de S vaut exactement n - 1 , ce qui prouve que
/ I t
les formes lin6aires associ6es aux demi-espaees ferm6s 271,272 .. . . ,27,_t de S sont lin6airement ind6pendantes [5; 2.3, p. 176]. En d'autres termes, on peut trouver un syst~me de rdfdrences dans S pour lequel on a Z}= {(x~, x~, ..., x , _ 0 : x j - > 0 } pour j = l , 2, ..., n - l , ce qui entraine Zn'={(xl, x2, ..., x , - O : x ~ + x ~ + . . . + x , - ~ < = O } ;
d6s lots, U~-=, S~= S, d'oh i,~1~.=1 27j=E.
Pour d6montrer ]a derni~re pattie de l'6nonc6, on peut reprendre le raisonnement formul6 dans [1; 3.8, p. 288].
3. L e m m e 2 . Dans un espace vectoriel E quelconque, si ~1,Z2, . . . , Z , sont des demi-espaces ferm$s tels que n - 1 d' entre eux ont toujours une intersection non vide et tels que leur rOunion co~'neide avec l'un d'entre eux ou avee tout l'espace, alors leur intersection n'est pas vide.
Par hypoth4se, il existe des points (forc6ment distincts) xl, x2 . . . x, tels que xiC~j pour i ~ j . Dans ces conditions, les ensembles A i = S i n C { x l , x2 . . . x,}
sont des convexes ferm6s darts le sous-espaee vectoriel de dimension finie engendr~
par les points xj; de plus, n - 1 de ces ensembles Ai se rencontrent toujours, tandis que la r6union de t o u s l e s A i e s t convexe. Un lemme de Klee [6; p. 272] montre que
n A n
0 j = l J # 0, d'ofi (-/j=l Z j r 0.
Divers types de s6paration pour plusieurs ensembles convexes 213
4. Theoreme 1. Dans un espaee vectoriel (resp. espaee veetoriel topologique) E de dimension au moins ~gale ~ n - 1 (n=>2), soient A1, A~ . . . . , A , des ensembles' non rides proprement ouverts (resp. ouverts), eonvexes et distinets de E. Les trois' propositions suivantes sont ~quivalentes:
(i) A1, A~, ..., A , sont s~parOs au sens de Klee;
(ii) A1, A2, ..., A,, sont strietement sOpar~s;
(iii) ('1~-=1 A j = O.
II suffit de d6montrer l'6quivalence des deux conditions extremes puisque nous avons 6tabli ant&ieurement celle des deux derni6res [2; Th6or6me 2].
Bien entendu, (i) implique (iii); pour d6montrer la r6ciproque, nous allons proc6der par r6currence et nous contenter de traiter le cas d'un espace non n6ces- sairement muni d'une topologie vectorielle.
Pour n = 2 , le r6sultat d6coule du th6or~me classique de s6paration stricte de deux ensembles convexes proprement ouverts par un hyperplan.
Supposons le r6sultat vrai pour n - 1 (n_->3) et consid6rons n ensembles A,, A2 . . . . , A, non vides proprement ouverts, distincts de E et d'intersection vide.
S'il existe un indice j de {1, 2, ..., n} tel que l'intersection des Ak autres que A j soit vide, l'hypoth~se de r6currence permet de conclure/t l'existence d'une vari6t6 lin6aire de codimension n - 2 dont aucun translat6 ne rencontre tous ces Ak; toute vari6t6 lin6aire de codimension n - 1 incluse dans la prde6dente fait l'affaire.
Sinon, il est possible de construire des demi-espaces ferm6s 271,S ~ .. . . ,27, tels que A j c S j pour j = l , 2 . . . n, U ~ = ~ j = E , (-/~=liSj=0 et tels que
n n i S
V = O j = I S j = C ( U j = I j) soit une vari6t6 lin6aire (lemme 1). D'apr~s le lemme 2, la varidt6 lindaire V n'est pas vide: elle est donc de codimension au plus 6gale/t n - 1 [5; 2.2]. Soit V* une vari6t6 lin6aire incluse dans V et dont la codimension vaut exactement n - 1 ; si un translat6 V' de V* rencontre t o u s l e s A j ( j = 1, 2 . . . n), V' doit atre contenu dans V, ce qui contredit l'inclusion de V dans C(U~=~
A j).
5. Theoreme 2. Dans un espaee veetoriel (resp. espaee loealement eonvexe) E de dimension au moins @ale ~ n - 1 (n=>2), des eonvexes A1, A2, ..., A , , dis- tincts de E, sont fortement sdpards si et seulement s'il existe un eonvexe absorbant (resp. un voisinage de l'origine) V tels que les ensembles A I § V, A2+ V, .... A , + V soient sdpards au sens de Klee.
Nous allons encore une fois uniquement consid6rer le cas d'un espaee vectoriel.
On sait que A1, As . . . A, sont fortement sdpar6s si et seulement s'il existe un convexe absorbant U tel que (-]~=I(Aj+U)=O [2; Th6or~me 3] ou encore, quitte ~ remplacer U par son internat, si et seulement s'il existe un convexe propre- ment ouvert V c o n t e n a n t l'origine tel que (-]~=~ (A j + V ) = 0 . Comme, pour chaque indice j de {1, 2 . . . . , n}, A s + V est proprement ouvert, convexe et distinct de E, le th6or~me pr6c6dent permet de conclure.
214 J. Bair: Divers types de s6paration pour plusieurs ensembles convexes
6. Corollaire. Dans un espace vectoriel (resp, espaee loealement convexe) E de dimension au moins Ogale ~ n - 1 ( n ~ 2 ) , des ensembles eonvexes A1, A2 . . . An f o r t e m e n t sOparOs sont sOparOs au sens de Klee.
I1 s ' a g i t d ' u n e b a n a l e a p p l i c a t i o n d u th4or6me pr4c6dent.
N o u s r e j o i g n o n s s o m m e t o u t e le c o r o l l a i r e 1 de [2] en a b a n d o n n a n t t o u t e f o i s l ' h y p o t h 6 s e seton laquelle l ' e s p a c e consid6r4 est de B a n a c h .
7. Remarques. a ) D a n s los 4nonc6s des th6or6mes 1 et 2, ainsi que d u c o r o l l a i r e , la v e r s i o n p u r e m e n t alg6brique r e n t r e d a n s la v e r s i o n t o p o l o g i q u e si l ' o n f a i t a p p e l
~t la t o p o l o g i e n a t u r e l l e [4; p. 168]; il n o u s a p a r u n 4 a n m o i n s i n t 4 r e s s a n t de d o n n e r les 6nonc6s sous cette d o u b l e f o r m e .
b) L e c o r o l l a i r e p e r m e t d ' o b t e n i r de n o u v e a u x cas de s 6 p a r a t i o n a u sens de K l e e d a n s t o u t e s p a c e l o e a l e m e n t c o n v e x e ; il suffit en effet d e r e p r e n d r e t o u s l e s types de s 6 p a r a t i o n f o r t e o b t e n u s d a n s [2]. N o u s s o m m e s de la sorte en m e s u r e de g6n6raliser un r6sultat d e s 6 p a r a t i o n p o u r p l u s i e u r s e n s e m b l e s d o n n 6 p a r L i n d e n - strauss [8; L e m m a 6, p. 497]; cela c o n s t i t u e un p a s s u p p l 4 m e n t a i r e vers la r 4 s o l u t i o n d u p r o b l 4 m e pos6 p a r K l e e et rappel6 d a n s [2].
Remerciements
N o u s t e n o n s ~t r e m e r c i e r le P r o f e s s e u r K l e e qui n o u s a p r o p o s 6 le p r o b l h m e , le Professeur J o n g m a n s qui n o u s a j u d i c i e u s e m e n t conseill4, ainsi que le r a p p o r t e u r de cet article qui n o u s a p e r m i s de simplifier c o n s i d 6 r a b l e m e n t les p r e u v e s des d e u x lemmes.
Bibliographic
1. BA1R J., Sur la s6paration de families finies d'ensembles convexes, Bull. Soc. Roy. Sci. Liege, 41 (1972), 281 --291.
2. BArn J., A propos d'un probl6me de Klee sur la s6paration de plusieurs ensembles, Math.
Scand. 38 (1976), 341--349.
3. Bum J., Crit6res de s6parations pour poly6dres convexes, (~ paraitre dans J. Geometry).
4. BAIR J., FOURNEAU R., Etude gdomdtrique des espaces vectoriels - - une introduction, Lect.
Notes in Math., vol. 489, Springer-Verlag, Berlin-Heidelberg-New York (1975).
5. BAIR J., FOURNEAU R., Caract6risation de poly~dres convexes et syst6mes d'in6quations lindai- res, Bull. Soc. Roy. Sci. Liege, 45 (1976), 175--182.
6. KLEE V., On certain intersection properties of convex sets, Canad. J. Math., 3 (1951), 272--275.
7. KLE~ V., Separation and support properties of convex sets--a survey, in: Control theory and the calculus of variations, (edited by Balakrishnan) Acad. Press., New York (1969).
8. LINDENSTRAUSS J., On the extension of operators with finitedimensional range, Illinois J. Math., 8 (1964), 488--499.
Received July 26, 1976 Jacques Bait
Universit6 de Li6ge t5, Avenue des Tilleuls 4000 Li6ge
Belgium
