Ensembles convexes
1.1 Ensembles convexes et enveloppe convexe
Pour dénir la notion d'ensemble convexe, il faut pouvoir considérer des combinai- sons linéaires entre paires de points dans l'espace ambiant. Dans un premier temps, on supposera queE est un espace vectoriel (réel), éventuellement de dimension in- nie, et sans structure additionnelle. La plupart des résultats de ce chapitre peuvent êtres retrouvés dans le livre Fundamentals of convex analysis de Hiriart-Urruty et Lemaréchal.
1.1.1 Dénition et exemples
Dénition 1. Une sous-ensemble X d'un espace vectoriel E est dit (i) ane ssi∀(x, y)∈X,∀α∈R, (1−α)x+αy∈X.
(ii) convexe ssi ∀(x, y)∈X,∀α∈[0,1], (1−α)x+αy∈X.
Autrement dit, un ensemble est ane (resp. convexe) s'il contient toute droite (resp. tout segment) passant par deux de ses points.
Exemple 1. Nous commençons par quelques exemples élémentaires.
(i) Tout ensemble ane est convexe.
(ii) Soitk·kune norme sur l'espace vectorielE. Pour toutx∈E etr≥0, la boule centrée enx et de rayonr (ouverte ou fermée) est convexe :
B(x, r) :={y∈E | kx−yk ≤r}.
(iii) Pour toute forme linéaireφ:E →Retb∈R, le sous-niveau{x∈E;φ(x)≤b}
est un ensemble convexe appelé demi-espace.
Proposition 1. (i) L'intersection ∩i∈IKi d'une famille quelconque (Ki)i∈I
de convexes est convexe.
(ii) Le produit cartésien de deux ensembles convexes est convexe.
(iii) L'image directe (resp. réciproque) d'un convexe par une application linéaire
3
est convexe.
Démonstration. Exercice.
Exemple 2. (i) Étant données une famille de formes linéaires(φi)i∈I surE et une famille de réels (bi)i∈I, l'ensemble K ={x ∈E | ∀i, φi(x) ≤bi} est convexe.
Si la familleI est ni, on dit queK est un polyèdre convexe.
(ii) Soit Sn l'espace vectoriel des matrices symétriques sur Rn, et Sn+ l'ensemble des matrices symétriques positives. Alors,Sn est ane et Sn+ est convexe :
Sn+ = \
x∈Rd
{S∈ Sn| hx|Sxi ≥0},
car l'applicationS∈ Sn7→ hx|Sxi est linéaire.
(iii) Soit K l'ensemble deRn déni de la manière suivante :
K:={(u(0), u0(0), . . . , un(0))|u∈ Cn([−1,1]), u croissante}
Alors,K est convexe, carK =φ(L) oùφ(u) := (u(0), u0(0), . . . , un(0))est une forme linéaire etLest un convexe deE :=Cn([−1,1])comme intersection (non dénombrable) de demi-espaces
L={u∈ Cn([−1,1]), ucroissante}
= \
−1≤x≤y≤1
{u∈E|u(x)≤u(y)}.
Dénition 2. La somme de Minkowski de deux sous-ensembles X, Y d'un es- pace vectoriel est X +Y := {x+y | x ∈ X, y ∈ Y}. On dénit de même le produit deX par un scalaireλ∈R, c'est-à-dire λX ={λx|x∈X}.
Par un léger abus, lorsqueX est un ensemble ety un vecteur, on notera X+y={x+y|x∈X} et X−y={x−y |x∈X}.
Proposition 2. Soient K1, . . . , Kk ⊆ E des convexes et α1, . . . , αk ∈ R. Alors α1K1+. . .+αkKk est convexe.
Démonstration. On introduit l'application linéaireφ(x1, . . . , xk) =α1x1+. . .+αkxk, de sorte que α1K1+. . .+αkKk = φ(K1 ×. . .×Kk),. Alors, α1K1⊕. . .⊕αkKk est convexe comme image d'un produit cartésien de convexes par une application linéaire.
1.1.2 Enveloppe convexe, enveloppe ane
Rappelons qu'il existe deux dénition équivalentes du sous-espace vectoriel de E engendré par un ensembleX ⊆E, qu'on notera vect(X). La première consiste à décrirevect(X) comme l'ensemble des combinaisons linéaires d'éléments de X :
vect(X) ={α1x1+. . .+αkxk|k≥1, αi∈R, xi ∈X}.
La deuxième dénition arme que vect(X) est le plus petit sous-espace vectoriel contenantX, qui peut s'écrire
vect(X) = \
F⊆E s.e.v
X⊆F
F.
Notons bien qu'avec cette deuxième dénition, il est immédiat que vect(X) est un sous-vectoriel deE(car une intersection de sous-espaces vectoriels est un sous-espace vectoriel.) La dénition de l'enveloppe convexe et de l'enveloppe ane imite cette deuxième construction.
Dénition 3. Soit X une partie de E. L'enveloppe ane (resp. convexe) de X, notée aff(X) (resp conv(X)), est l'intersection de tous les ensembles anes (resp. ensembles convexes) contenant X :
aff(X) = \
A⊆E ane
X⊆A
A et conv(X) = \
K⊆E convexe
X⊆K
K.
Les deux propositions suivantes donnent des caractérisations plus maniables de l'enveloppe convexe et de l'enveloppe ane d'un ensembleA⊆E.
Dénition 4. Soit X un sous-ensemble d'un espace vectorielE. On appelle : (i) combinaison ane d'éléments de X ⊆ E tout point de la forme α1x1 +
. . .+α1xk où k≥1,xi ∈X,αi∈Retα1+. . .+αk= 1.
(ii) combinaison convexe d'éléments deX ⊆E tout point de la formeα1x1+ . . .+α1xk où k≥1,xi ∈X,αi≥0etα1+. . .+αk= 1.
Proposition 3. Un sous-ensembleX deE est convexe (resp. ane) si et seule- ment si il contient toute combinaison convexe (resp. ane) de ses éléments.
Démonstration. On ne traite que le cas des ensembles convexe, le cas des ensembles anes étant analogue. Par dénition, siX contient toutes les combinaisons convexes de ses éléments alors en particulier il contient toute combinaison convexe de deux de ses éléments et est donc convexe.
Réciproquement, supposons que X soit convexe, c-à-d qu'il contient les combi- naisons convexes de deux éléments. Par récurrence, supposons que X contienne les
combinaisons convexes de m éléments avec m ≥ 2. Soient alors x1, . . . , xm+1 ∈ X etα1, . . . , αm+1≥0tel que Pm+1
i=1 αi = 1. Nous allons montrer quex=Pm+1
i=1 αixi appartient àX en utilisant l'hypothèse de récurrence. On sait qu'il existe itel que αi <1(sinon, il n'y a rien à démontrer). Quitte à réordonner les indices, on suppose queαm+1<1:
x= (1−αm+1)y+αm+1xm+1 avec y:=
X
1≤i≤m
αi 1−αm+1xi
Soitα0i:=αi/(1−αm+1)≥0, de sorte queP
1≤i≤mα0i = 1. Le pointy est donc une combinaison convexe de méléments deX et appartiens donc àX par hypothèse de récurrence. Ainsi, x = (1−αm+1)y+αm+1xm+1 est combinaison convexe de deux éléments deX et appartient donc à X.
Corollaire 4. Soit X une partie de E. Alors, l'enveloppe convexe (resp. af- ne) de X est égale à l'ensemble des combinaisons convexes (resp. combinaisons anes) d'éléments de X :
aff(X) = ( k
X
i=1
αixi |k≥1, xi∈X, αi ∈R,
k
X
i=1
αi = 1 )
, (1.1)
conv(X) = ( k
X
i=1
αixi |k≥1, xi ∈X, αi ≥0,
k
X
i=1
αi = 1 )
. (1.2) Démonstration. De même que précédemment, on se contente de démontrer l'énoncé concernant l'enveloppe convexe. Montrons d'abord que le second membre de (1.2), que nous noterons B, est convexe. Soient x, y ∈ B et λ ∈ [0,1]. Il existe alors x1, . . . , xn ∈ X, y1, . . . , ym ∈ X, α1, . . . , αn ≥ 0 et µ1, . . . , µm ≥ 0 et Pn
i=1αi = Pm
i=1µi = 1tels que
x=
n
X
i=1
αixi ety=
m
X
i=1
µiyi.
Ainsi, le point
λx+ (1−λ)y =λα1x1+· · ·+λαnxn+ (1−λ)µ1y1+· · ·+ (1−λ)µmym
est à nouveau combinaison convexe de points deXet appartient donc àB. Ainsi,B est un convexe contenantX de sorte que par dénition de l'enveloppe convexe, on a conv(X)⊂B.
Réciproquement, l'ensemble conv(X) est convexe et contient donc toute combi- naison convexe de ses éléments. CommeX⊆conv(X), l'ensembleconv(X)contient fortiori toute combinaison convexe d'éléments deX. En d'autres termes,B ⊆conv(X).
Le théorème suivant permet de limiter le nombre de terme à prendre dans la somme de la partie droite de (1.2) en dimension nie.
Théorème 5 (Carathéodory). Soit A une partie d'un espace vectorielE de dimen- sionn. Alors tout élément deconv(A) peut s'écrire comme une combinaison convexe den+ 1éléments de A.
Démonstration. Soitxun point deconv(A), qui peut donc s'écrire comme une com- binaison convexe de m ≥ 1 éléments xi de A, c'est-à-dire, x = Pm
i=1αixi avec α1, . . . , αm ≥0 etPm
i=1αi = 1. Si m≤n+ 1, il n'y a rien à démontrer. Dans le cas contraire, il sut de montrer que l'on peut écrirexcomme une combinaison convexe de m−1des xi, et l'on conclura par récurrence.
Soitv1 =x1−xm, . . . , vm−1=xm−1−xm. L'hypothèsem−1> nimplique que la famille desvi est liée, et il existe donc κ∈Rn non nul tel queP
iκivi = 0. Ainsi, en posantµi =κi pouri < metµm =−P
i<mµi on a
m
X
i=1
µixi = 0
m
X
i=1
µi = 0.
Étant donné λ∈R, on poseαλi =αi−λµi. Alors,
m+1
X
i=1
αλixi=x
m
X
i=1
αλi = 1
Si l'on veut que la combinaison soit convexe, il faut que tout les αλi soient positifs, c'est-à-direλ∈Λoù
Λ ={κ∈R| ∀i∈ {1, . . . , m}, αi−κµi≥0}.
Cet ensemble est non-vide et fermé. De plus, comme les (µi) ne sont pas tous nuls et que leur somme est nulle, il existe un i0 tel queµi0 >0 et alors Λ est majoré par αi0/µi0. Soitλ∗le maximum deΛ. Par l'absurde, il est facile de voir qu'il existei∗ tel queαi∗−λ∗µi∗ = 0. Ceci achève la démonstration : on a écritxcomme combinaison convexe dem−1 desm points originaux.
Exemple 3. (i) Le théorème de Carathéodory arme que pour tout point xdans l'enveloppe convexe conv(A), il existe x0, . . . , xn ∈A tel que x soit une com- binaison convexe des (xi). Cependant, il ne faut pas penser que les points x0, . . . , xn forment une base deconv(A), car ils dépendent du choix dex∈K.
Comme exemple, prenonsA={(±1,±1)}l'ensemble des sommets d'un carré.
Tout point x du carré conv(A) peut s'écrire comme combinaison convexe de trois points parmi les quatre points deA, mais le choix de ces trois points n'est pas unique et dépend dex.
(ii) Montrons que si A⊆ Rn est compact, alors C = conv(A) est compact. L'ap- plication φ:An+1×∆→Rn où ∆ ={α ∈Rn+1+ |α0+. . .+αn = 1} dénie par
φ(x0, . . . , xn, α) = X
0≤i≤n
αixi
est à valeur dansC. Par théorème de Carathéodory, cette application est sur- jective, doncφ(An+1×∆n+1) =C. Conclusion :C est compact, comme image d'un compact par une application continue.
1.2 Propriétés topologiques des convexes
Dans cette section, on s'intéresse à quelques propriétés topologiques simples des ensembles convexes. L'utilité de ces résultats apparaîtra plus clairement lors de l'étude de la continuité des fonctions convexes. Pour cela, on suppose que (E,k.k) est un espace vectoriel normé, muni de la topologie induite par k.k. Étant donnée une partie X de E, on noteraint(X) son intérieur et adh(X) son adhérence.
1.2.1 Intérieur et adhérence d'un convexe
Proposition 6. L'intérieur et l'adhérence d'un convexe C sont convexes.
Lemme 7. SoientB(x0, r0) etB(x1, r1)deux boules dans un espace vectoriel normé.
Alors(1−t)B(x0, r0) +tB(x1, r1) = B((1−t)x0+tx1,(1−t)r0+tr1).
Démonstration. En remarquant queB(x, r) =x+ B(0, r), on a
(1−t)B(x0, r0) +tB(x1, r1) = ((1−t)x0+ (1−t)B(0, r0)) + (tx1+tB(0, r1)
= ((1−t)x0+tx1) + ((1−t)B(0, r0) +tB(0, r1)) B((1−t)x0+tx1,(1−t)r0+tr1) = ((1−t)x0+tx1) + B(0,(1−t)r0+tr1) Il nous reste donc à démontrer l'égalité
(1−t)B(0, r0) +tB(0, r1) = B(0,(1−t)r0+tr1).
L'inclusion⊆est alors une conséquence directe de l'inégalité triangulaire, tandis que l'inclusion inverse provient de l'homogénéité de la norme.
Démonstration. Montrons d'abord la convexité de l'intérieur. Soientx0, y0 ∈int(C) ett∈[0,1]. SiA, Bsont deux parties deC, alors par convexité, pourα∈[0,1], (1−
α)A+αB ⊆C. Par dénition de l'intérieur, il exister0, r1 >0de sorte que les boules B(xi, ri)soient contenues dansC. Alors,
B((1−t)x0+tx1,(1−t)r0+tr1) = (1−t)B(0, r0) +tB(0, r1)⊆C.
Ceci implique que le point (1−t)x0+tx1 est dans l'intérieur de C. Comme ceci est vrai pour toute paire de points de l'intérieur et pour t ∈ [0,1], int(C) est donc convexe.
Passons à la convexité de l'adhérence. Soient x, y∈adh(C) etα∈[0,1]. Alors, il existe des suites(xn)et(yn)d'éléments deC convergeant respectivement versxet y. Ainsiαxn+ (1−α)ynappartient àC et converge versαx+ (1−α)yqui appartient donc àadh(C) qui est donc convexe.
Proposition 8. Soit E un espace vectoriel normé et C⊆E un convexe d'intérieur non vide. Alors, pour toutx∈int(C) ety∈adh(C), on a :
[x, y[ :={(1−t)x+ty; 0≤t <1} ⊆intC
Démonstration. Comme x est dans l'intérieur de C, il existe r > 0 tel que B(x, r) soit contenue dansC. Nous commençons par établir le résultat lorsque le pointyest dansC. Soit t∈[0,1] etxt = (1−t)x+tz,rt = (1−t)r (rt interpole entre r0 =r etr1 = 0). Le Lemme 7 donne l'inclusion
B(xt, rt)⊆C,
pour t ∈ [0,1]. Comme de plus, rt > 0 lorsque t < 1, cela montre que le point xt
est dans l'intérieur de C pour t <1. Dans le cas général, on note(yn) une suite de points deCqui converge vers y, et xnt = (1−t)x+tyn. Pour tout n, on a l'inclusion suivante (où le rayonrt ne dépends pas de n!),
B(xnt, rt)⊆C.
En passant à la limite lorsquentends vers l'inni on obtient donc l'inclusionB(xt, rt)⊆ C, puisxt∈int(C).
Corollaire 9. Soit E un espace vectoriel normé et C ⊆ E un convexe d'intérieur non vide. Alors
(i) adh(intC) = adh(C) (ii) int(C) = int(adh(C))
Démonstration. Nous démontrons le point (i) et laissons (ii) en exercice. Comme int(C)⊆ C, par monotonie de l'adhérence on a adh(int(C))⊆adh(C). Reste donc la réciproque : soitxun point dansadh(C)etz∈int(C)(on a supposéCd'intérieur non vide). Alors, xt= (1−t)z+tx appartient à int(C) par le théorème précédent, et en passant à la limite lorsquet→1, on obtient bienx∈int(C).
Remarque 1. L'hypothèse que C est d'intérieur non vide est cruciale. Soit en eet C= [0,1]× {0} ⊆R2. Alors,adh(C) =C tandis queadh(int(C)) = adh(∅) =∅.
1.2.2 Intérieur relatif et dimension
En analyse convexe, on rencontre souvent des ensembles convexes dont l'intérieur est vide : c'est le cas d'un segment dans R2. La notion d'intérieur relatif permet de donner un sens à l'idée intuitive que l'intérieur d'un segment [x, y] ⊆ R2 est l'intervalle ouvert]x, y[={(1−t)x+ty|0< t <1}. Cette notion est le plus souvent utilisée lorsque l'enveloppe ane du convexe que l'on considère est de dimension nie.
Dénition 5. Soit X une partie d'un espace vectoriel E. L'intérieur relatif de X, noté ri(X), est l'intérieur de X considéré comme sous-ensemble de l'espace métrique (aff(X),k.k). Cela signie que
ri(X) :={x∈X| ∃r >0 t.q.(B(x, r)∩aff(X))⊆X}.
Exemple 4. Pour toutx∈E,ri({x}) =x.
Exemple 5. Soient x0 6=x1 ∈ E,φ(t) = (1−t)x0+tx1 et S = φ([0,1]) le segment joignant x0 à x1. Alors, aff(S) = φ(R), où φ est un homéomorphisme entre les espaces métriques (R,|.|) et (aff(S),k.k). Ainsi, ri(S) = φ(int([0,1])) =φ(]0,1[) est le segment ouvert joignant les pointsx0 etx1.
An d'énoncer le théorème de cette partie, nous devons donner la dénition de la dimension d'un ensemble ane. Celle-ci repose sur le lemme suivant.
Lemme 10. SoitA⊆E un sous-ensemble ane non vide. Alors, (i) ∀x0 ∈A, l'ensembleA−x0 est un sous-espace vectoriel de E.
(ii) ∀x0, x1 ∈A, A−x0=A−x1.
Démonstration. (i) Soit Ex0 = A−x0, u = x−x0 ∈ Ex0, v = y−x0 ∈ Ex0. On veut montrer que pour toutλ, µ∈R, le vecteurw:=λu+µv appartient àEx0, i.e.
w+x0 ∈A. C'est bien le cas, car
w+x0 =λu+µv+x0 =λ(x−x0) +µ(y−x0) +x0
=λx+µy+ (1−λ−µ)x0
est une combinaison ane de trois points de A, et appartient donc à A. Montrons maintenant (ii). Cette propriété est équivalente àA=x0−x1+A. Six est dansA, la somme x0−x1+x est aussi dansA comme combinaison ane d'éléments deA.
Ceci montre l'inclusion x0−x1+A⊆A, et l'inclusion réciproque est démontrée de la même manière.
Cet espace vectoriel A −x0 est appelé espace tangent à A en x0. Le lemme précédent montre que l'espace tangent à un ensemble ane ne dépend pas du choix du point de basex0. A fortiori, la dimension de l'espace tangent ne dépend pas non plus du choix du pointx0, et on l'appelle dimension deA.
Dénition 6. La dimension d'un ensemble ane non-vide A ⊆ E, notée dim(A), est la dimension du sous-espace vectorielA−x0.
Théorème 11. Soient E un espace vectoriel normé, K un convexe non vide de E tel que dim(aff(K))<+∞. Alors l'intérieur relatif ri(K) est non vide.
Démonstration. Soientx0 un point deK,Ex0 = aff(K)−x0 etn:= dim(Ex0). Étape 1 : Montrons queEx0 = vect(K−x0). Un vecteur v est dans Ex0 s'il existe x1, . . . , xk∈K et des réelsα1, . . . , αk de somme1 tels que
v= (α1x1+. . .+αkxk)−x0
=α1(x1−x0) +. . .+αk(xk−x0)∈vect(K−x0).
Ceci démontre l'inclusion Ex0 ⊆ vect(K−x0). Pour l'inclusion réciproque, on re- marque que Ex0 = aff(K) −x0 est un sous-espace vectoriel de E (par le lemme précédent) contenantK−x0. Ainsi, vect(K−x0)⊆Ex0.
Étape 2 : CommeEx0 = vect(K−x0), il existe une base de l'espaceEx0 de la forme (xi−x0)i=1,...,n où x1, . . . , xn sont des points de K. L'application
φ:Rn→aff(K) =x0+Ex0 α7→φ(α) =x0+
n
X
i=1
αi(xi−x0) = 1−
n
X
i=1
αi
! x0+
n
X
i=1
αi(xi−x0)
est une application continue bijective entreRn etaff(K), et établit donc un homéo- morphisme entre ces deux espaces. Soit maintenant
Ω :=
(
α∈Rn,
n
X
i=1
αi<1etαi>0 )
.
Par construction, tout élément de Ω est envoyé par φsur une combinaison convexe d'éléments deK, i.e. φ(Ω)⊆K. De plusΩest d'intérieur non vide et φ un homéo- morphisme, de sorte queφ(Ω)est un ouvert non vide de(aff(K),k.k)qui est contenu dansK. Ceci établit queri(K)6=∅.
On peut aussi montrer un analogue de la proposition 8 pour l'intérieur relatif.
Proposition 12. Soient E un espace vectoriel de dimension nie et C un convexe non vide. Alors, pour toutx∈ri(C) et y∈adh(C), [x, y[⊆ri(C).
Démonstration. SoitF = aff(C). Par dénition de l'intérieur relatif, il existe r >0 tel queB(x, r)⊆C. On suppose queyest dans l'adhérence, le cas général se traitant de la même manière que dans la démonstration de la proposition 8. Pour toutt∈[0,1]
et en utilisant les propriétés de la somme de Minkowski,
B((1−t)x+ty,(1−t)r)∩F = (1−t)(B(x, r)∩F) +ty⊆C.
Ainsi, pourt∈[0,1[, le point(1−t)x+ty est dans l'intérieur relatif deC.
