3.1 Théorème de Hahn-Banach

Dualité

3.1 Théorème de Hahn-Banach

3.1.1 Théorème de Hahn-Banach

Le but de cette section est d'énoncer et de démontrer partiellement le théorème de Hahn-Banach.

Théorème 41 (Hahn-Banach). SoitE un espace vectoriel etp:E→Rune fonction sous-linéaire (1-homogène et sous-additive). On se donne un sous-espace vectorielF deE et φ:F →Rune forme linéaire dominée par p, c'est-à-dire que φ≤ p|_F.

Alors, il existe une extension de φà E qui reste dominée parp, c'est-à-dire une forme linéaire ψ:E→R telle que

∀x∈F, ψ(x) =φ(x)

∀x∈E, ψ(x)≤p(x).

Remarques 1. L'extension dénie par cet énoncé n'est généralement pas unique.

Nous ne démontrerons que le cas où F ⊆ E est de codimension nie. La démonstration du cas général n'est pas constructive et repose sur l'axiome du choix.

Démonstration. Par une simple récurrence, il sut de savoir traiter le cas où F est de codimension1. Supposons queE =F+Ry, oùy6∈F. Par dénition, tout vecteur x de E être décomposé de manière unique comme une somme x =z+ty où z est dansF ettdansR. On dénit

ψ(z+ty) =φ(z) +tλ,

où λ := ψ(y) est à déterminer de sorte à respecter la contrainte ψ ≤ p. Ainsi, on voudrait

ψ(z+ty) =φ(z) +tλ≤p(z+ty)

27

Autrement dit, on est ramené à montrer l'existence deλ∈Rtel que

∀z∈F,∀t∈R, tλ≤p(z+ty)−φ(z)

En posant z=tw, en utilisant la 1-homogénéité de p etφ et en distinguant les cas t >0ett <0, il sut que λvérie les inégalités

∀w∈F, φ(w)−p(w−y)≤λ≤p(w+y)−φ(w), Pour montrer qu'un telλexiste, il sut de démontrer que

wmax⁰∈Fφ(w⁰)−p(w⁰−y)≤min

w∈Fp(w+y)−φ(w)

⇐⇒ ∀(w, w⁰)∈F, φ(w⁰)−p(w⁰−y)≤p(w+y)−φ(w)

Nous utilisons nalement l'hypothèseφ≤ppour démontrer cette dernière inégalité : φ(w) +φ(w⁰) =φ(w+w⁰)≤p(w+y−y+w⁰)≤p(w+y) +p(w⁰−y) Corollaire 42. Soit E un espace vectoriel normé, soit F un sous-espace et soit φ une forme linéaire continue sur F. Alors φ s'étend en une forme linéaire continue sur E de même norme que φ: il existeψ∈E^∗ telle queψ_|F =φetkψk_E^∗ =kφk_F^∗. Démonstration. On pose C = kφk_F^∗. Alors φ(x) ≤ Ckxk pour tout x ∈ F. En appliquant Hahn-Banach avec la fonctionj(x) =Ckxk, qui est1-homogène et sous- additive, on obtient le résultat.

Corollaire 43. Soit E un espace vectoriel normé, il existe φ∈E^∗ de norme 1 telle queφ(x) =kxk. Autrement dit

kxk= max{φ(x), kφk_E^∗ ≤1}

Démonstration. Posons pour φ(tx) = tkxk pour tout t∈ R. Alors φ est une forme linéaire continue sur Rx de norme 1 et vériant φ(x) = kxk. D'après le corollaire précédentφ se prolonge en une forme linéaire continue sur de norme1 surE. 3.1.2 Séparation des convexes

Sous sa forme géométrique le théorème de Hahn-Banach arme que deux en- sembles convexes disjoints peuvent être séparés par un hyperplan ane. Pour mon- trer cette forme géométrique, nous utiliserons quelques propriétés de la jauge d'un convexe, dont la démonstration est laissée en exercice.

Dénition 15. La jauge d'une partie convexeC d'un espace vectoriel norméE est la fonction j:E →Rdénie par

j(x) = inf{t >0;x∈tC}

Lemme 44. SoitC un convexe et j sa jauge.

(i) La fonction j est1-homogène et sous-additive

(ii) Si C est un voisinage de l'origine, alors j(z)< Mkzk en tout point.

Démonstration. Pour montrer (ii), nous supposons B(0, r) ⊆ C. Alors, pour tout x∈E,x∈tB(0, r)⊆tC pourt=kxk/r. Ainsi,j(x)≤Mkxkavec M = 1/r. Théorème 45. Soit E un espace vectoriel normé et soient A, B deux ensembles convexes disjoints.

(i) Si A est ouvert il existeφ∈E^∗ telle que

φ(x)< φ(y), ∀x∈A,∀y∈B.

(ii) Si A est compact etB fermé, il existe φ∈E^∗ et >0 tels que φ(x) + < φ(y) ∀x∈A,∀y∈B.

Démonstration. On commence par (i). Il s'agit de démontrer que

∀x, y∈A×B, φ(x−y)<0⇐⇒ ∀w∈C₀, φ(w)<0, (3.1) où C0 = A⊕(−B). L'hypothèse que A et B soient disjoint implique que C0 ne contient pas l'origine. Soitzun point arbitraire deC₀ et soitC=C₀−z. Alors (3.1) est équivalent à

∀w∈C, φ(w)< φ(−z), (3.2) où C est un ouvert convexe contenant l'origine, et−z6∈C.Par le lemme précédent, la jaugej est 1-homogène et sous-additive. Pourt∈Ron poseφ(−tz) =t. Comme

−z6∈C, on aj(−z)>1. Par conséquent,

φ(−tz) =t < tj(−z)

pour tout t ≥ 0. Pour t < 0 on a bien sûr φ(−tz) < 0 ≤ j(−tz). On peut donc appliquer le théorème de Hahn-Banach et prolongerφde manière linéaire surEtout entier, en gardant l'inégalitéφ≤j. Ainsi, pour toutx dansE,

|φ(x)|= max(φ(x), φ(−x))≤max(j(x), j(−x))≤Mkxk par le lemme précédent. Finalement, pour toutw∈C on a bien (3.2) :

φ(w)≤j(w)<1 =φ(−z).

(ii) Soit dB : x ∈ E 7→ infp∈Bkx−pk la fonction distance à B. Cette fonction est 1-Lipschitz, donc continue sur E, et le minimum

η= min

x∈Ad_B(x)

est donc atteint en un point x ∈ A. Comme l'intersection de A et B est vide, la distance minimale η est strictement positive. Par construction, l'ensemble convexe ouvert A⁰ =A⊕int(B(0, η/2)) n'intersecte donc pasB. On peut alors appliquer le résultat précédent àA⁰ etB, et construireφ∈E^∗ telle que

φ(x+u) =φ(x) +φ(u)< φ(y)

pour tout x ∈ A, u ∈ B(0, η/2), y ∈ B. Il sut de poser ε = ¹₂sup{φ(u), u ∈ B(0, η/2)}pour obtenir le résultat recherché.

Corollaire 46 (Hyperplan d'appui). Soit C un convexe fermé d'intérieur non vide et x ∈∂C. Alors C admet un hyperplan d'appui en x : il existe φ∈E^∗ non nulle telle que

φ(y)≤φ(x), ∀y∈C

Démonstration. Il sut d'appliquer (i)à A=

◦

C etB ={x}. 3.1.3 Enveloppe convexe fermée d'un ensemble

Dénition 16. SoitAune partie fermée d'un espace vectoriel norméE. L'enveloppe convexe fermée de A, notée convA, est l'intersection de tout les convexes fermés contenantA.

Remarque 14. L'enveloppe convexe fermée deAest égale à l'adhérence de l'enveloppe convexe deA (car l'adhérence deconv(A) est convexe).

Dénition 17. Un demi-espace de E est un ensemble de la forme H = {x ∈ E;φ(x)≤α} oùφ est une forme linéaire non nulle etα∈R.

Lemme 47. Un demi-espaceH ={x∈E;φ(x)≤α}est fermé si et seulement si la forme linéaire φ:E →Rest continue.

Démonstration. Soitxun point du complémentaire deH, etr >0tel queB(x, r)⊆ E\H. Par dénition, on a

∀z∈B(0,1), φ(x+rz)≥α

Corollaire 48. SoitAune partie d'un espace vectoriel norméE. L'enveloppe convexe fermée de A coïncide avec l'intersection des demi-espaces fermés contenant A. Démonstration. Soit D l'intersection de tous les demi-espaces fermés contenant A. Comme D est un convexe fermé contenant A, on a convA ⊆ D. Pour montrer la réciproque, considérons un pointx6∈convA. Par la version géométrique du théorème de Hahn-Banach (Théorème 45.(ii)), il est possible de séparer strictement {x} de convA, i.e. il existe un demi-espace fermé H contenantconvA et pas x. Ainsi, x 6∈

D.

Corollaire 49. SoitC un ensemble convexe. L'intersection de tous les demi-espaces fermés contenant C est égale à C.

Corollaire 50. Un ensemble convexe C est fermé si et seulement si il est égal à l'intersection de tous les demi-espaces fermés le contenant.

3.1.4 Enveloppe convexe sci d'une fonction

Dénition 18. Une fonction f : E → R est appelée semi-continue inférieurement siepi(f) est fermé dansR×E.

Remarque 15. Certains auteurs utilisent le terme fermée à la place de semi- continue inférieurement.

Un supremum quelconque de fonctions sci est sci, une somme de fonctions sci est sci.

Proposition 51. Une fonctionf :E→R est sci si et seulement si

∀x∈H,∀x_n→x, lim inf

n→+∞f(xn)≥f(x) (3.3)

Démonstration. Soit f une fonction sci, x ∈ E et (xn) une suite de points de E qui converge vers x. Il existe alors une sous-suite xn_k telle que limk→+∞f(xn_k) = lim infn→+∞f(x_n). Comme les points (x_nk, f(x_nk)) sont dansepi(f) et que cet en- semble est fermé, on en déduit que (x,limk→+∞f(xnk))∈epi(f),c'est-à-dire

k→+∞lim f(x_nk) = lim inf

n→+∞f(x_n)≥f(x).

Réciproquement, supposons que f vérie (3.3). Soient (x_n, λ_n) une suite de points de epi(f) de limite (x, λ) ∈ E ×R. Il s'agit de montrer que λ ≥ f(x). Comme (λ_n, x_n)∈epi(f), on aλ_n≥f(x_n), et il sut de prendre la limite inférieure.

Dénition 19. SoitE un espace vectoriel normé etf :E→Rune fonction.

On appelle enveloppe convexe sci de f, et on note convf le supremum des minorantes convexes et semi-continue inférieurement def :

convf(x) = sup{g(x);g:E→R convexe et sci tqg≤f}

On appelle minorante ane continue def toute fonction ane continueφ+α, avecφ∈E^∗ etα∈Rtelle f ≥φ+α.

Théorème 52. Toute fonction convexe f :E →Rsemicontinue inférieurement est égale au supremum de ses minorantes anes continues, i.e.

f(x) = sup{φ(x) +α;φ∈E^∗, α∈R, f ≥φ+α}.

Démonstration. Si domf = ∅, f est constante et égale à +∞ et il n'y a rien à montrer. Supposons doncdomf 6=∅, ou de manière équivalente queC = epi(f) est un convexe fermé non vide deE×R. Posons

g(x) = sup{φ(x) +α;φ∈E^∗, α∈R, ∀y ∈E, f(y)≥φ(y) +α}.

Par dénition,g≤f, il reste donc à montrer l'inégalité inverse, c'est-à-dire que pour tout t0 < f(x0), g(x0) ≥ t0. Si t0 < f(x0), le point (x0, t0) n'appartient pas au

convexe fermé C := epi(f). Il existe donc une fonction ane sur E ×R séparant strictementC de(x₀, t₀), c'est-à-dire(φ, v)∈E^∗×R etε >0 tel que

∀(x, t)∈epi(f), φ(x) +tv≥φ(x₀) +t₀v+ε

⇐⇒∀x∈E, vf(x)≥φ(x₀−x) +t₀v+ε.

En prenant x = x0, on a v(f(x0)−t0) ≥ ε > 0. Comme f(x0) > t0, ceci implique v >0. Ainsi,

∀x∈E, f(x)≥ 1

vφ(x₀−x) +t₀

La fonctiong étant le supremum des minorantes anes continues def, on a g(x)≥ 1

vφ(x₀−x) +t₀, d'oùg(x₀)≥t₀.

Corollaire 53. L'enveloppe convexe sci d'une fonctionf :E→Rest donnée par la formule

convf(x) = sup{φ(x) +α;φ∈E^∗, α∈R, ∀y∈E, f ≥φ+α}.

Corollaire 54. Une fonctionf est convexe et sci si et seulement si elle est égale au supremum de ses minorantes anes.

3.2 Fonction support

3.2.1 Espace de Banach réexif

Notation 1. Étant donnée une forme linéaire continueφsur un espace vectoriel normé E etx un point de E, on noterahφ|xi:=φ(x).

Dénition 20. SoitE un espace vectoriel normé.

(i) L'espace des formes linéaires continues surE est muni de la norme kφk^∗= sup

x∈E\{0}

|φ(x)| kxk,

ce qui en fait un espace vectoriel normé.

(ii) Pour tout x∈E, on considère l'application ex :E^∗→R, φ7→φ(x)

L'applicatione_x est continue sur E^∗ et appartient donc au bidualE^∗∗.

(iii) Un espace E est dit réexif si toute forme linéaire continue ψ:E^∗→R est de la formeex,x∈E.

Proposition 55. Soit E un espace réexif. L'application x∈E 7→ex ∈E^∗∗ est un isomorphisme bijectif.

Démonstration. Il sut de montrer queke_xk_∗∗=kxk, i.e.

sup

φ∈E^∗,kφk_∗=1

e_x(φ) =kxk.

On sait déjà queex(φ) =φ(x)≤ kφk_∗kxk=kxk. Pour l'inégalité réciproque, il sut de démontrer qu'il existeφ∈E^∗ telle que kφk_∗= 1 etφ(x) =kxk. L'existence d'un telφ est une conséquence du théorème de Hahn-Banach (laissée en exercice).

Remarque 16. Tout espace réexif est un espace de Banach.

Soit (E,h·|·i) un espace de Hilbert. Le théorème de Riesz implique que E est réexif.

3.2.2 Fonction support

Dénition 21. SoitAun sous-ensemble d'un espace vectoriel norméE. On appelle fonction support deA la fonction h_A:E^∗ →Rdénie par

h_A:φ∈E^∗ 7→sup

x∈A

hφ|xi (3.4)

Proposition 56. SoitE un espace réexif etA⊆E. La fonction supporth_A:E^∗ → Rest sous-linéaire et semi-continue inférieurement.

Théorème 57. Soit E un espace réexif et h :E^∗ → R une fonction sous-linéaire et semi-continue inférieurement. Alors h=h_C où

C:={x∈E;∀φ∈E^∗,hφ|xi ≤h(φ)}. (3.5) Lemme 58. Une fonction sous-linéaire scif :E→Rest égale au supremum de ses minorantes linéaires.

Démonstration. Une fonction sous-linéaire est convexe, et donc égale au supremum de ses minorantes anes. Soitφ+α,φ∈E^∗ etα∈Rune minorante ane def, i.e.

∀x∈E, φ(x) +α≤h(x).

Alors, par homogénéité,

∀x∈E,∀t >0, tφ(x) +α≤tf(x).

En divisant partet en faisant tendre tvers +∞, ceci montre queφ≤f.

Démonstration du théorème 57. Par le lemme 58, la fonction h est en égale au su- premum de ses minorantes linéaires. Or, par construction de la norme duale, toute forme linéaire continue sur E^∗ est de la forme φ 7→ hφ|xi, où x ∈E. Ainsi, avec C déni par (3.5),

h(φ) = sup{hφ|xi;x∈E,∀ψ∈E^∗, hψ|xi ≤h(ψ)}=hC(φ) (3.6)

Théorème 59. Soit E un espace réexif :

(i) Si C, D sont deux convexes fermés de E, alors C ⊆ D si et seulement si h_C ≤h_D.

(ii) L'application h :C → hC réalise une bijection entre les convexes fermés non vides de E et les fonctions sous-linéaires semi-continues inférieurement h : E→R

(iii) SiC etDsont deux convexes fermés non vides deE, et s, t >0, on ah_sC+tD= sh_C +th_D.

(iv) Si (C_i)i∈I est une famille de convexes fermés d'intérieur non vide, alors avec C= conv∪_i∈ICi

hC = sup

i∈I

hCi

(v) Si (Ci)i∈I est une famille de convexes fermés telle que C =∩_i∈ICi est d'inté- rieur non vide, alors

hC = conv(inf

i∈IhCi)

Démonstration. (i) L'implication directe est évidente : siC⊆D, hC(φ) = sup

x∈C

hφ|xi ≤sup

x∈D

hφ|xi= hD(φ).

Pour démontrer la réciproque, supposons que C 6⊆ D, et soit donc x ∈ C, x 6∈

D. Alors, il existe une forme linéaire continue φ séparant strictement x et D, i.e.

sup_y∈Dφ(y) +ε < φ(x). Ainsi, h_D(φ) < φ(x) ≤ h_C(φ). Ceci contredit l'inégalité hC ≤hD.

(ii) Le point (i) montrer que l'application C 7→h_C est une injection, et le Théo- rème 57 montre que c'est une surjection.

3.3 Transformation de Legendre-Fenchel

Dénition 22 (Transformée de Legendre-Fenchel). Soit E un espace réexif et f : E→R non triviale (dom(f)6=∅). On dénit sa conjuguéef^∗:E^∗→Rpar

f^∗(φ) = sup

x∈E

hφ|xi −f(x).

L'application f 7→f^∗ est appelée transformation de Legendre-Fenchel def.

Exemple 8. Soit Aun ensemble de E, eti_Asa fonction indicatrice (i_A= 0sur Aet+∞ hors deA). Alors,

i^∗_A= sup

x∈E

hφ|xi −i_A(x) = sup

x∈A

hφ|xi= h_A Soit f =k.k. Alors,

f^∗(φ) = sup

x∈E

hφ|xi − kxk

Sikφk_∗ >1, il existe x dansE tel quehφ|xi − kxk>0. En multipliantx par λ, on voit que f^∗(φ) = +∞. Au contraire, si kφk ≤ 1, hφ|xi − kxk ≤ 0 avec égalité lorsquex= 0. Ainsi, f^∗(φ) = 0. Conclusion :f^∗ =i_Bk.

k∗(0,1).

Soit f = φ₀ une forme linéaire. Alors,f^∗(φ) = +∞ si φ 6= φ₀. Au contraire, f^∗(φ₀) = 0. Conclusion, f^∗=i_{φ0}.

Soit f(x) = ¹_p|x|^p surR. Alors, pour y∈R, il sut de calculer (xy−1

p|x|^p)⁰=y−x^p−1

pourx >0, qui s'annule en x=y^1/(p−1). Ainsi, avec q=p/(p−1), f^∗(y) = max

x∈R

xy− 1 p|x|^p

=y^1+1/(p−1)−1

py^p/(p−1)= (1−1/p)y^p/(p−1)= 1/q|y|^q

Proposition 60. Soitf :E→R oùE est un espace réexif. Alors, la conjuguée de f est convexe et sci sur E^∗.

Démonstration. Il sut de remarquer que f^∗ s'écrit comme un supremum de fonc- tions anes continues surE^∗, et est donc convexe et sci.

Dénition 23 (Biconjuguée). SoitE un espace réexif etf :E→R. La conjuguée def^∗ est une applicationf^∗∗:E^∗∗→R. La propriété de réexivité permet d'identi- erE à E^∗∗ via l'isométrie bijectivex ∈E 7→ e_x ∈E^∗∗, et on considèrera donc f^∗∗

comme une fonction sur E, dénie par f^∗∗(x) = sup

φ∈E^∗

hφ|xi −f^∗(φ)

Proposition 61. La conjuguée et la biconjuguée d'une fonction f :E → R propre ont les propriétés suivantes :

(i) (Inégalité de Young) ∀x∈E,∀φ∈E^∗, f(x) +f^∗(φ)≥ hφ|xi (ii) ∀φ∈E^∗,∀x∈E, f^∗(φ) +f^∗∗(x)≥ hφ|xi;

(iii) f^∗∗≤f;

(iv) f^∗(0) = sup−f =−inff.

(v) f^∗∗(0) =−inff^∗.

(vi) ∀λ >0, (λf)^∗(φ) =λf^∗(φ/λ)

Exemple 9. Inégalité de Hölder : avecf(x) = ¹_p|x|^p pourx∈R, on a : xy≤f(x) +f^∗(y) = 1

p|x|^p+1 q |x|^q

En somment, on montre que pourx, y∈Rⁿ, sikxk_p=kyk_q = 1, on a hx|yi=

n

X

i=1

xiyi ≤ 1

pkxk_p+1

q kyk_q= 1

Par homogénéité, cela montre quehx|yi ≤ kxk_pkyk_q pour tout x, y∈Rⁿ.

Dénition 24 (Inf-convolution). Soientf, g:E →Rdeux fonctions propres dénies sur un espace vectoriel E. L'inf-convolée de f et g est la fonction fg : E → R∪ {±∞} dénie par

fg(x) = inf

x1+x2=x x1,x2∈E

f(x₁) +g(x₂) = inf

y f(y) +g(x−y).

Proposition 62. Soientf, g :E→Rdeux fonctions admettant une minorante ane commune. Alors, la fonctionfg est bien dénie de E dans R et (fg)^∗ =f^∗+g^∗ Démonstration. En eet,

(fg)^∗(φ) = sup

x∈E

hφ|xi − inf

x1+x2=xf(x1) +g(x2)

= sup

x1,x2∈E

hφ|x₁+x₂i −(f(x₁) +g(x₂))

=f^∗(φ) +g^∗(φ)

Exemple 10. Soit C un convexe fermé d'un espace vectoriel normé, et dC(x) :=

infx∈Ckx−ck. Alors,

d_C(x) = min

y∈Ckx−yk= (i_Ck.k)(x) Ainsi,d^∗_C =i^∗_C+k.k^∗ = h_C +i_Bk.

k∗(0,1).

Théorème 63 (Fenchel-Moreau). Soitf :E →Rune fonction propre. Alors, f^∗∗= convf. En particulier f =f^∗∗ si et seulement si f est convexe sci.

Démonstration. Comme f^∗∗ ≤ f, il sut de montrer que f^∗∗ est plus grande que toute minorante ane de f. Supposons doncf ≥φ0+α oùφ0 ∈E^∗. Alors,

f^∗(φ0) = sup

x∈E

hφ₀|xi −f(x)≤sup

x∈E

hφ₀|xi −(φ0(x) +α) =−α Ainsi,

f^∗∗(x) = sup

φ∈E^∗

hφ|xi −f^∗(φ)≥ hφ₀|xi −f^∗∗(φ₀) =hφ₀|xi+α.

3.4 Sous-diérentiel

Dénition 25. Soit f :E →Rune fonction convexe sur un espace vectoriel normé etx0 ∈dom(f). Une forme linéaireφ∈E^∗ est appelée sous-gradient de f en x0 si

∀y∈E, f(y)≥f(x0) +hφ|y−x0i.

L'ensemble des sous-gradients def en x0 est appelé sous-diérentiel de f en x0 et noté∂f(x₀).

Remarque 17. Par convention, six0 6∈dom(f), on pose∂f(x0) =∅.

Exemples :|·|,k.k,−√

·, fonction indicatrice d'un convexe

Lemme 64. Une fonction convexe f :E →R atteint son minimum global en x₀ si et seulement si0∈∂f(x₀).

Démonstration.

Proposition 65. Soit f : E → R une fonction convexe propre et x₀ ∈ dom(f). Alors,

∂f(x₀) ={φ∈E^∗;f⁺(x₀;·)≥φ} (3.7) Démonstration. Soit A le second membre de l'égalité. Si φ ∈ A, on a pour tout v dansE,

φ(v)≤f⁺(x0;v) = inf

t>0

f(x0+tv)−f(x0)

t ≤f(x0+v)−f(x0)

Ainsi, en posanty=x₀+v, on ahφ|yi ≤f(y)−f(x₀)et doncφ∈∂f(x₀). Récipro- quement, supposons queφ∈∂f(x0). Alors, pour v∈E,t >0ety=x0+tv,

hφ|y−x0i ≤f(x0+tv)−f(x0), En divisant partet en utilisant y−x₀=tv, on a

hφ|vi=φ(v)≤ f(x₀+tv)−f(x₀) t

ceci étant vrai pour toutf,φ(v)≤f⁺(x₀;v).

Dans toute la suite, on suppose que l'espace E est réexif, ce qui permet d'iden- tier E^∗∗ etE.

Théorème 66. Soitf :E →Rune fonction convexe propre semi-continue inférieu- rement et x0 ∈dom(f). Si f est continue en x0, alors

(i) ∂f(x₀)6=∅

(ii) La fonction f⁺(x₀;·) est la fonction support du sous-diérentiel : f⁺(x0;v) = sup{hφ|vi;φ∈∂f(x0)}

(iii) f est Gâteaux-diérentiable en x0 si et seulement si ∂f(x0) ={φ}, auquel cas f⁺(x₀;·) =φ.

Démonstration. (i) La fonction g =f⁺(x0;·) est convexe, continue et sous-linéaire.

Elle admet donc une minorante ane continue, et par l'argument de changement d'échelle, elle admet également une minorante linéaire continue.

(ii) Par ses propriétés, la fonctiongest la fonction support d'un ensemble convexe non-videC ⊆F =E^∗, c'est-à-dire que

g(v) = sup{hφ|vi;φ∈C}.

Il reste donc à montrer queC =∂g(x0).

(iii) Si f est Gâteaux-diérentiable, alors φ0 =f⁺(x0;·) est linéaire, auquel cas

∂f(x₀) ={φ₀} (cf la proposition précédente. Si∂f(x₀) est un singleton, alors par le point (ii),f⁺(x0;·)est linéaire continue, et f est donc Gâteaux-diérentiable enx0.

3.4.1 Sous-diérentiel et transformée de Legendre-Fenchel

Théorème 67. Soit f : E → R une fonction convexe et x0 ∈ E. Les conditions suivantes sont équivalentes :

(i) φ∈∂f(x₀);

(ii) x0 = arg maxy∈Ehφ|yi −f(y); (iii) f(x₀) +f^∗(φ) =hφ|x₀i

Si de plusf est semi-continue inférieurement, ces conditions sont aussi équivalentes à(iv) x₀ ∈∂f^∗(φ);

(v) φ= arg maxψ∈E^∗hφ|x₀i −f^∗(ψ)

Démonstration. On commence par remarquer qu'une forme linéaire φ appartient à

∂f(x0) si et seulement si

∀y ∈E, f(y)≥f(x₀) +hφ|y−x₀i

⇐⇒∀y ∈E,hφ|yi −f(y)≤ hφ|x₀i −f(x₀)

⇐⇒f^∗(φ) = max

y∈Y hφ|yi −f(y)≤ hφ|x₀i −f(x0)⇐⇒ f^∗(φ) +f(x0)≤ hφ|x₀i La première équivalence montre l'équivalence entre (i) et (ii). Avec l'inégalité de Fenchel-Young,f^∗(φ) +f(x₀)≥ hφ|x₀i, on montre l'équivalence entre (iii) et (ii).

Enn, sif est convexe sci,f^∗∗=f, et ainsi (iii) est équivalent àf^∗∗(x0)+f^∗(φ) = hφ|x₀i. On peut appliquer le raisonnement précédent àf^∗ pour obtenir l'équivalence entre (iii) et (iv) et (v).

Corollaire 68. Soitf :E →Rune fonction convexe propre semi-continue inférieu- rement. Alors, (i) implique (ii) où

(i) f =f^∗∗ est strictement convexe sur son domaine ; (ii) pour tout φ∈dom(f^∗), Card(∂f^∗(φ))≤1.

Démonstration. Supposonsf strictement convexe sur son domaine et montrons (ii).

Par l'absurde, supposons qu'il existeφ∈dom(f^∗)etx₀ 6=x₁tels quex₀, x₁∈∂f^∗(φ). Alors, par convexité du sous-diérentiel, le segment xt= (1−t)x0+tx1 appartient à∂f^∗(φ), et donc

∀t∈[0,1], f^∗(φ) =hφ|x_ti −f(xt) =hφ|x₀i −f(x0) =hφ|x₁i −f(x1) Ainsi,f est linéaire sur le segment, ce qui contredit sa stricte convexité.