4.7 Propri´et´es topologiques des fonctions convexes
4.7.3 Enveloppe convexe s.c.i
On peut reprendre toutes les consid´erations sur l’enveloppe convexe faites au §4.6 mais en y rajoutant
maintenant la pr´eoccupation d’approximer une fonction donn´ee par la plus grande fonction convexe et
s.c.i. qui est en dessous de cette fonction. En effet, comme on vient de le dire dans la section pr´ec´edente,
les fonctions convexes s.c.i. sont appel´ees `a jouer un rˆole privil´egi´e. Compte tenu des consid´erations faites ci-dessus sur les fonctions s.c.i. et les enveloppes convexes de fonctions d’une part, celles faites au chapitre pr´ec´edent sur les enveloppes convexes ferm´ees de sous-ensembles (voir §3.6.3) —
con-sid´erations qui s’appliquent ici aux ´epigraphes — d’autre part, il est imm´ediat de d´emontrer le r´esultat suivant.
Th´eor`eme 4.35 (Enveloppe convexe s.c.i. d’une fonction). Pour une fonction f donn´ee, si elle est
mi-nor´ee par une fonction affine, il existe une plus grande fonction convexe s.c.i. inf´erieure ou ´egale `a f .
Elle est appel´ee enveloppe convexe s.c.i. de f not´ee( f ). On a que
( f )= (( f )) = (( f )) .
Par ailleurs,
( f ) (x) = lim inf
y→x ( f ) (y) .
Le dernier r´esultat indique que l’on peut d’abord calculer l’enveloppe convexe de f par la for-mule (4.10), puis modifier cette enveloppe convexe, partout o `u elle n’est pas continue, par une “r´egularisation s.c.i.” obtenue par la formule ci-dessus.
En fait, il existe une autre fac¸on de calculer cette enveloppe convexe s.c.i., et cette autre fac¸on est en rapport avec la remarque que les sous-ensembles convexes ferm´es font l’objet d’une description externe par l’intersection des demi-espaces ferm´es d´elimit´es par tous leurs hyperplans d’appui.
Lemme 4.36. Consid´erons une fonction f : X → R convexe s.c.i.. Son ´epigraphe est ´egal `a
l’intersection des ´epigraphes de tous les fonctions affines continues qui minorent f ainsi que de tous
les demi-espaces “verticaux” dansX × R dont la projection (ou trace) sur X est un hyperplan d’appui
def
.
D´emonstration. On sait que l’´epigraphe est un convexe ferm´e et donc il est ´egal `a l’intersection de tous
les demi-espaces qui le contiennent (que ce soit des hyperplans d’appui ou des hyperplans parall`eles `a des hyperplans d’appui mais laissant le convexe tout entier dans un demi-espace qui le d´elimite — on les appellera “hyperplans s´eparateurs”). Ces hyperplans sont d´efinis dansX × R par
pour tout triplet(r, ρ, β) tels que r ∈ X, ρ ∈ R, β ∈ R et tels que
sup
(x,ξ)∈( f )
r , x + ρξ≤ β . (4.12)
On observe que n´ecessairement ρ ≤ 0, sinon on aboutit `a une contradiction dans l’in´egalit´e (4.12)
puisqueξ peut prendre des valeurs arbitrairement grandes dans un ´epigraphe.4Il faut alors distinguer les casρ < 0 et ρ = 0. Observons aussi que si (x, ξ) ∈ ( f ), alors x ∈ f
(voir Remarque 4.6).
Siρ < 0, il est clair que le sup en ξ `a x fix´e sera atteint pour la valeur f (x) (finie car x ∈ f ) et on peut remplacer (4.12) par l’in´equation variationnelle ´equivalente
∀x ∈ f
, r , x + ρ f (x) ≤ β .
En divisant par−ρ > 0, ce qui ne change pas le sens de l’in´egalit´e, on obtient encore ∀x ∈ f
, f (x) ≥ −r/ρ , x + β/ρ.
Autrement dit, les hyperplans s´eparateurs de l’´epigraphe sont li´es ici `a des fonctions affines con-tinues qui minorent la fonction f (et donc( f ) est inclus dans l’´epigraphe de ces fonctions). R´eciproquement, on peut remonter le calcul et montrer que toute fonction affine continue de ce type engendre un hyperplan s´eparateur de( f ).
Siρ = 0, on obtient que r est tel que
∀x ∈ f
, r , x ≤ β ,
ce qui caract´erise un hyperplan s´eparateur def
(ou def
) dansX, ce que l’on peut voir aussi dansX × R comme un hyperplan s´eparateur de ( f ) “vertical” de “coefficients directeurs”
(r, 0). L`a encore, la r´eciproque est imm´ediate.
Corollaire 4.37. Toute fonction convexe s.c.i. est ´egale `a l’enveloppe sup´erieure de toutes les fonctions
affines continues qui minorent la fonction.
D´emonstration. La seule difficult´e, en fonction de ce qui pr´ec`ede, est de montrer que l’on n’a pas besoin
de consid´erer, dans l’op´eration d’enveloppe sup´erieure — c’est-`a-dire en fait l’op´eration d’intersection de demi-espaces s´eparateurs de( f ), les demi-espaces associ´es `a des hyperplans verticaux s’appuyant dansX sur les hyperplans s´eparateurs de f
(notons d´ej`a que cette cat´egorie est vide sif = X). Dans ce qui suit, on va consid´erer tout triplet(r, ρ, β) ∈ X × R × R comme d´efinissant un demi-espace
ferm´e deX × R, `a savoir {(x, ξ) | r , x + ρξ ≤ β }, et on notera que l’intersection de ces demi-espaces pour une famille de triplets revient `a consid´erer les in´egalit´es pour l’union de ces triplets. Pour que les choses soient claires, on choisit de parler uniform´ement d’union de triplets sans perdre de vue qu’il s’agit de faire l’intersection de demi-espaces. Soit
• F0la famille de triplets(r0, 0, β0) tels que les demi-espaces de X associ´es, r0, x ≤ β0, contien-nent toutf
;
• F1la famille de triplets(r1, ρ1, β1) tels que ρ1< 0 et tels que les demi-espaces de X × R associ´es,
r1, x + ρ1ξ ≤ β1, contiennent tout( f ) ;
4Au cas o`u le lecteur ne l’aurait pas d´ej`a remarqu´e, on est en train de reprendre la discussion du§4.5 qui nous a finalement conduit `a la formule (4.9)
• Fα = $(r1 + αr0, ρ1, β1+ αβ0), l’union ´etant prise pour tous les (ri, ρi, βi) parcourant leurs
famillesFi respectives (i = 0, 1, avec ρ0≡ 0) ;
• F2def
=$α≥0Fα.
On va montrer que l’intersection de demi-espaces associ´es `a tous les ´el´ements de F0∪ F1 engendre le mˆeme sous-ensemble de X × R que celui engendr´e par F2. Or on note d’ores et d´ej`a que pour tout ´el´ement deF2, le scalaireρ est strictement n´egatif et on peut donc associer aux triplets de F2des minorantes affines continues.
D’une part, si(ri, ρi, βi) ∈ Fi, i= 0, 1, alors pour tout α ≥ 0, on obtient, par combinaison lin´eaires `a coefficients positifs d’´el´ements deF0etF1que
r1+ αr0, x + ρ1ξ ≤ β1+ αβ0,
donc on a engendr´e un ´el´ement deF2. R´eciproquement, si l’in´egalit´e ci-dessus est v´erifi´ee pour tout
α ≥ 0, on peut en particulier prendre α = 0 (et on retrouve donc un ´el´ement de F1), puis diviser parα
(ce qui ne change pas le sens de l’in´egalit´e) et laisser tendreα vers +∞ (et on retrouve alors un ´el´ement
deF0). On a donc montrer l’´equivalence recherch´ee.
Corollaire 4.38. L’enveloppe convexe s.c.i. d’une fonction f :X → R est donn´ee par la formule ( f ) (x) = sup (r,α){ r , x + α | ∀y ∈ X, r , y + α ≤ f (y)} . (4.13) D´emonstration. Notons H( f ) : x #→ H ( f )(x)def = sup (r,α){ r , x + α | ∀y ∈ X, r , y + α ≤ f (y)} et observons que • H ( f )(x) ≤ f (x) pour tout x ;
• H ( f ) est, pour toute fonction f , une fonction convexe s.c.i. comme enveloppe sup´erieure d’une
famille de fonctions affines continues ;
• si f ≥ g, alors il y a plus de couples (r, α) qui v´erifient les contraintes pour f que pour g et donc
le sup qui d´efinit H( f )(x) est une fonction croissante de la fonction f .
Par ailleurs, d’apr`es le Corollaire 4.37, H
( f ) = ( f ) (comme pour toute fonction convexe s.c.i. qui peut ˆetre retrouv´ee par l’op´eration H ). Comme( f ) ≤ f , alors ( f ) = H( f )≤ H ( f ) ≤ f , mais comme H( f ) est convexe s.c.i. et que ( f ) est la plus grande minorante de f qui soit convexe
s.c.i., on a aussi que H( f ) ≤ ( f ), donc finalement l’´egalit´e a lieu.
On peut ˆetre plus pr´ecis en ce qui concerne la famille de fonctions affines continues `a consid´erer dans les deux corollaires qui pr´ec`edent. En effet, dans la formule (4.13), pour r fix´e, le plus grandα possible tel
que
est ´egal `a α = inf y∈X f(y) − r , y = − sup y∈X r , y − f (y) = − sup y∈ f r , y − f (y) (car si y /∈ f
, on obtient la valeur−∞ `a ´eviter pour obtenir un sup) = − f(r) ,
d’apr`es la D´efinition 4.20. Par cons´equent, (4.13) devient ( f ) (x) = sup
r∈X
r , x − f(r)
qui n’est rien d’autre que
f
(x) que l’on notera plus simplement f(x). On peut donc ´enoncer le
corollaire suivant.
Corollaire 4.39. L’enveloppe convexe s.c.i. d’une fonction f est ´egale `a f. La transform´ee de
Fenchel est involutive5pour les fonctions convexes s.c.i..