Fonctions convexes et conjuguées

Chapitre 3

FONCTIONS CONVEXES

3.1 Notations et définitions préliminaires

L’étude des fonctions convexes montrera que celles ci sont continues sur tout l’intérieur de leur domaine de définition et qu’elles sont presque partout différentiables. Une propriété suffisante pour étudier les fonctions convexes est la semi-continuité inférieure:

Définition 3.1 Soit une fonction f : C 7→ R, où C est un ouvert de IRⁿ. f est dite semi-continue inférieurement (sci) en x ∈ C si, pour toute suite {xk} ⊂ C convergente vers x, on a lim inff(xk)≥f(x).

Une notion fondamentale est celle de la dérivée directionnelle dont on rappelle les définitions :

Définition 3.2 Soit une fonction f : C 7→ R, où C est un ouvert de IRⁿ. La dérivée directionnelle de f enx ∈C dans la direction d∈IRⁿ est définie par la limite quand elle existe de :

f^′(x;d) = lim

t↓0

f(x+td)−f(x) t

La fonction f sera dite différentiable en x∈ C si elle possède des dérivées directionnelles dans toutes les directions et si f^′ est linéaire par rapport à d, i.e. s’il existe un vecteur

∇f(x)appelé le gradientde f en x tel que :

f^′(x;d) =h∇f(x), di

Les composantes du gradient sont alors les dérivées partielles de f par rapport à chaque variable xj, j= 1, . . . , n notées ∂f /∂xj(x).

SiF = [f₁· · ·f_p]^T est un vecteur de fonctions f_i :C 7→ R, i = 1, . . . , pdifférentiables, leJacobien de la fonction vectorielle deIRⁿ dansIR^p est la matriceJF(x) dep lignes etn colonnes dont les lignes sont les gradients ∇fi(x), i= 1, . . . , p.

Si une fonctionf est deux fois différentiable enx, le Hessienest la matrice symétrique (n×n)dont les éléments sont les dérivées secondes partielles par rapport aux variablesxj

et x_k notées ∂²f /∂x_j∂x_k, j, k= 1, . . . , n.

1

(x1, f(x1))

x=λx¹+ (1−λ)x²

(x2, f(x2))

f(x)≤λf(x¹) + (1−λ)f(x²)

Figure 3.1 – Fonction convexe

3.2 Définitions et propriétés

On décrit dans ce chapitre les propriétés des fonctions convexes de IRⁿ.

Définition 3.3 : Soit une fonction f :S 7→ R, où S est un ensemble convexe non vide de IRⁿ.f est dite convexe sur S si :

f(λx₁+ (1−λ)x₂)≤λf(x₁) + (1−λ)f(x₂), ∀x₁ et x₂ ∈S, λ∈(0,1) f est dite strictement convexe si l’inégalité précédente est stricte pour x₁ 6=x₂. Définition 3.4 : f est fortement convexe de constante α >0 si :

f(λx₁+ (1−λ)x₂)≤λf(x₁) + (1−λ)f(x₂)− α

2λ(1−λ)kx₁−x₂k²

On montre facilement qu’une fonction fortement convexe est strictement convexe. On a aussi la caractérisation suivante :

Proposition 3.1 Soit C un convexe de IRⁿ et a ∈ IRⁿ. La fonction f : C 7→ IRⁿ est fortement convexe sur C si et seulement si la fonction g définie ci-dessous est convexe :

g(x) =f(x)−α

2kx−ak² Démonstration : Exercice

Sif est convexe, la fonction g:S7→R telle queg=−f est dite concave surS.

Les fonctions affines deIRⁿ sont bien sûr convexes (elles sont aussi concaves). Comme on le vérifiera plus loin, les fonctions quadratiques convexes de IRⁿ sont celles qui sont associées à une matrice semi-définie positive. Dans IR, des exemples courants de fonctions convexes sont :

f(x) =x² f(x) =e^x

f(x) =−logx, surx >0 f(x) =−√

x surx≥0 f(x) = 1/x surx >0

3.2. DÉFINITIONS ET PROPRIÉTÉS 3

α

S^α

Figure 3.2 – Fonction quasiconvexe f(x) =|x|

Le domaine de définition de f sera noté Dom(f), c.a.d. : Dom(f) ={x∈IRⁿ|f(x)<+∞}

On appelle propres les fonctions qui ne prennent jamais la valeur −∞ et qui ne sont pas identiques à +∞. Par convention, la fonction convexe f prendra la valeur +∞ en dehors de Dom(f) et l’opération ∞ − ∞est interdite.

On utilisera deux outils de représentation des fonctions deIRⁿ :

L’épigraphe qui décrit f dans IRⁿ⁺¹ et les ensembles de niveaux qui sont des surfaces de IRⁿ.

Définition 3.5 : L’épigraphe d’une fonction f de IRⁿ est noté epi(f) et est défini par :

epi(f) ={ x z

!

∈IRⁿ⁺¹ |z≥f(x)}

L’ensemble de niveau α est l’ensemble des x de IRⁿ tels que f(x) =α. On lui associe la section, notéeS_α :

S_α={x∈IRⁿ|f(x)≤α}

L’épigraphe sera particulièrement utile pour transférer les propriétés des fonctions sur les ensembles de IRⁿ⁺¹. Par exemple, un épigraphe fermé signifie que la fonction est semi- continue inférieurement (sci).

On a la caractérisation fondamentale suivante :

Une fonction est convexe si et seulement si son épigraphe est convexe.

Par contre, s’il est vrai qu’une fonction convexe possède des sections convexes (par convention, l’ensemble vide est convexe), il existe des fonctions non convexes dont toutes les sections sont convexes.

Définition 3.6 : Une fonction dont toutes les sections sont convexes est ditequasiconvexe (Fig. 3.2). Une fonction convexe est donc quasiconvexe.

Proposition 3.2 f est quasiconvexe sur un ensemble convexe S si et seulement si :

f(λx₁+ (1−λ)x₂)≤max{f(x₁), f(x₂)},∀x₁, x₂ ∈S et λ∈(0,1) Propriétés des fonctions convexes :

Soient f1 etf2 deux fonctions convexes telles que Dom(f1)∩Dom(f2)6=∅. Alors : i)f₁+f₂ est convexe

ii) af₁ est convexe ∀a≥0 iii)sup{f₁, f₂} est convexe

iv) infz{f₁(z) +f₂(x−z)} est convexe Démonstration :

i) et ii) sont des conséquences immédiates de la définition.

iii) équivaut à epi(f₁)∩epi(f₂) est un ensemble convexe deIRⁿ⁺¹.

iv) équivaut à epi(f₁) +epi(f₂) est un ensemble convexe de IRⁿ⁺¹. Cette dernière opé- ration est appelée l’inf-convolution de f1 et f2, notéef12f2.

f₁2f₂(x) = inf

z {f₁(z) +f₂(x−z)}

En général, la composition de deux fonctions convexes n’est pas convexe. On a par contre le résultat suivant :

Lemme 3.1 Soitf une fonction convexe sur le sous-ensemble Cde IRⁿ, etφune fonction convexe non décroissante de f(C) dans IR. Alors h=φ◦f est convexe sur C.

Démonstration : Exercice.

Composition par une transformation affine :

SoitAune transformation affine deIRⁿdansIR^p etf une fonction convexe de IR^p dans IR. Alors la fonction f◦A:

(f◦A)(x) =f(Ax)

est convexe. En effet, l’épigraphe de f◦A est l’image réciproque de l’épigraphe def par la transformation affine de IRⁿ⁺¹ dansIR^p+1 :(x, z)7→(Ax, z).

De même, sif est une fonction convexe sur IRⁿ, alors la fonction Af définie par : (Af)(x) = inf{f(y)|Ay =x}

est convexe surIR^p. Cette fois-ci, l’épigraphe deAf est l’image directe de l’épigraphe def par la transformation affine précédente.

Application : Soit une fonction f de IRⁿ×IR^p, convexe en (x, y) ∈ IRⁿ×IR^p 7→ f(x, y).

Alors la fonction

x7→h(x) = inf

y∈IR^pf(x, y)

est convexe sur IRⁿ. En effet, elle s’écritAf oùAest l’opérateur de projection deIRⁿ×IR^p sur IRⁿ.

3.3. CONTINUITÉ ET DIFFÉRENTIABILITÉ 5

3.3 Continuité et différentiabilité

Dans la suitef est une fonction convexe propre définie sur un ouvert convexeC deIRⁿ Lemme 3.2 (Monotonie des accroissements) Soit x ∈ C et d une direction de IRⁿ. Alors, la fonction q(t) = ^f(x+td)−f_t ^(x), définie pour des réels tsuffisamment petits, est une fonction croissante de t.

Démonstration Prenons un intervalle [h, k]avec 0< h≤k. On a : x+hd= (1−α)x+ α(x+kd) avec α= ^h_k <1. La convexité impliquef(x+hd) ≤(1−^h_k)f(x) +^h_kf(x+kd) qui s’écrit :

f(x+hd)−f(x)

h ≤ f(x+kd)−f(x) k

Le même raisonnement s’applique pour des pas négatifs. 2

Ce résultat implique, en étudiant les limites à gauche et à droite de q(t) quandttend vers 0, l’existence de dérivées directionnelles en tout point de C, définies par :

f^′(x;d) = lim

t↓0 q(t) = inf

t>0q(t)

Observez que l’infimum est borné car, C étant un ouvert, il existet <0 tel quef^′(x;d) ≥ q(t).

Théorème 3.1 : Une fonction convexe est continue sur rint(Dom(f)), c’est-à-dire en tout point de l’intérieur de Dom(f) relativement à la topologie induite dans aff{Dom(f)}.

Démonstration et résultats connexes : cf. Rockafellar, Convex Analysis, chap. 10.

En résumé, une fonction convexe est continue et différentiable presque partout sur l’intérieur de son domaine. Si f est différentiable enx, on a :

f(y)≥f(x) +h∇f(x), y−xi,∀y∈C

En effet, la dérivée directionnelle satisfaitf^′(x;y−x)≤f(y)−f(x)grâce à la relation de monotonie précédente et, dans le cas différentiable f^′(x;d) =h∇f(x), di. La réciproque est vraie comme l’indique le théorème suivant :

Théorème 3.2 Si f est différentiable sur l’ouvert convexe C, alors les 3 affirmations suivantes sont équivalentes :

f convexe surC

∀x, y∈C h∇f(x), y−xi ≤f(y)−f(x) (3.1)

∀x, y∈C h∇f(y)− ∇f(x), y−xi ≥0 (3.2) Démonstration Montrons que (3.1) implique que f est convexe. Cette inégalité peut s’écrire :

∀y∈C, sup

x∈C{f(x) +h∇f(x), y−xi ≤f(y)

qui est en fait une égalité car on peut échanger les rôles de x ety. Donc,f est convexe en tant que supremum d’une famille de fonctions affines.

Montrons maintenant que (3.2) implique (3.1) par l’absurde. Supposons un segment [x, y]

tel que h∇f(x), y −xi > f(y)−f(x). Grâce au théorème de Rolle, il existe un z = (1−λ)x+λy, λ∈[0,1], satisfaisantf(y) =f(x) +h∇f(z), y−xi. On en déduit :

h∇f(z)− ∇f(x), z−xi=h∇f(z)− ∇f(x), λ(y−x)i<0 ce qui contredit (3.2) pour le couple (x, z).

Les autres implications sont immédiates. 2

Monotonie de l’opérateur Gradient : la relation (3.2) signifie que l’opérateur Gradient

∇f :C7→IRⁿ est monotone surC.

Fonctions fortement convexes différentiable :

Proposition 3.3 : Soit une fonction f de IRⁿ dans IR fortement convexe de constante α sur un ensemble convexe C et différentiable surC; alors :

∀x, y∈C,h∇f(y)− ∇f(x), y−xi ≥αkx−yk²

Corollaire 3.1 (Fonctions convexes deux fois différentiables) Sif est deux fois diffé- rentiable sur C,f est convexe si et seulement si le Hessien∇²f(x) est semi-définie positif sur C.

Démonstration : Exercice.

Exercice : Montrer le résultat suivant :

Sif est deux fois différentiable et fortement convexe (de paramètreα), alors la matrice

∇²f(x)−αI est définie positive.

3.4 Supports affines et fonctions conjuguées

On note Γ0 l’ensemble des fonctions convexes propres et sci. Ce sont les fonctions dont l’épigraphe est un ensemble convexe fermé. D’aprés la représentation externe de ces ensembles abordée au chapitre 1, ces épigraphes coïncident avec l’intersection de tous les demi-espaces qui les contiennent. On peut remarquer sur la figure 3.3 ci-dessus qu’un tel demi-espace (associé à un hyperplan non vertical) est l’épigraphe d’une fonction affine qui minore f.

On a d’ailleurs le théorème fondamental suivant :

Théorème 3.3 : Une fonction f appartient à Γ₀ si et seulement si f est l’enveloppe su- périeure des fonctions affines qui la minorent.

Démonstration Il est clair qu’une fonction qui est l’enveloppe supérieure de fonctions affines de IRⁿ est dansΓ0.

Soit f ∈ Γ₀; puisque f est propre, il existe au moins un x tel que f(x) est fini. On en déduit que le point x

z

!

avec z < f(x) n’appartient pas à epi(f). On peut donc le séparer par un hyperplan qui est clairement non vertical. Il correspond donc à l’épigraphe d’une fonction affine qui minore f. Supposons que f ne soit pas l’enveloppe supérieure de ses minorantes affines. Cela implique qu’il existe x¯ ∈ Dom(f) tel que f(¯x) > z, où¯

¯

z= sup{ha_i,x¯i+b_i, i∈I},I représentant ici les indices des fonctions affines qui minorent

3.4. SUPPORTS AFFINES ET FONCTIONS CONJUGUÉES 7

epi(f)

aⁱ

haⁱ, xi+bⁱ≤f(x)

Figure 3.3 – Fonctions affines minorantes d’une fonction convexe f. A nouveau, on peut séparer x¯

¯ z

!

et l’épigraphe de f pour obtenir une minorante de f contredisant la définition dez.¯ 2

Sif 6∈Γ0, cette enveloppe supérieure notée cl(convf)est la plus grande fonction convexe sci qui minore f.

On remarque que ces demi-espaces définissent des hyperplans frontières non verticaux à condition de se placer à l’intérieur du domaine ; on va maintenant les construire en utilisant l’outil suivant :

Définition 3.7 : On appelle fonction support d’un ensemble C de IRⁿ la fonction σC

définie par :

σC(y) = sup

x∈Chy, xi

Remarquons que σC est convexe et semi-continue inférieurement, en tant que supremum d’une famille de fonctions linéaires.σ_Cest aussi positivement homogène, c’est-à-direσ_C(ay) = aσC(y),∀a≥0. Observez que son épigraphe est un cône convexe. On citera de plus deux propriétés remarquables dont les démonstrations sont laissées en exercice :

1. C₁ ⊂C₂=⇒σC1(y)≤σC2(y),∀y 2. σC =σconv{C} =σcl(conv(C))

Considérons pour une certaine fonction f de Γ₀ le calcul de σepi(f) dans IRⁿ⁺¹ pour la direction (non horizontale) Y = (y₀,−1)^T. Supposons queY ∈Dom(σepi(f)); il existe alors x₀∈Dom(f) tel que :

σepi(f)(Y) =hy₀, x₀i −f(x₀)

Cette correspondance définit une fonction de IRⁿ appeléefonction conjuguéede f : Définition 3.8 : On appelle fonction conjuguée d’une fonction f de IRⁿ la fonction f^∗ définie par :

f^∗(y) = sup

x∈Dom(f)

hy, xi −f(x)

epi(f)

−f^∗(y0) Y H0

x⁰

x z

Figure 3.4 – Conjuguée et support de l’épigraphe Donc, σepi(f)(Y) =hy₀, x₀i −f(x₀) =f^∗(y₀) (Fig. 3.4).

Pour chaque x∈Dom(f),hy, xi −f(x)définit une fonction affine de la variable y. On en déduit quef^∗ ∈Γ₀. La dualité inhérente à la propriété de convexité consiste à identifier les fonctions telles que (f^∗)^∗ =f :

Théorème 3.4 : f ∈Γ0 si et seulement si f^∗∗=f

Démonstration On doit seulement démontrer l’implication directe : l’hyperplan associé au calcul de f^∗(y),H₀, est un hyperplan support de l’épigraphe de f :

H₀={ x z

!

| hy₀, xi −z=hy₀, x₀i −f(x₀)} Donc, f^∗(y₀)≥ hy₀, xi −f(x),∀x∈Dom(f).

Cette inégalité, appelée inégalité de Fenchel peut s’écrire :

f(x)≥ hx, yi −f^∗(y),∀y ∈Dom(f^∗)et∀x∈Dom(f)

En prenant le supremum des termes de droite, on trouve que f^∗∗ = cl(convf). Donc, d’après le théorème précédent, si f ∈Γ₀, f^∗∗=f.2

Exemples de fonctions conjuguées

a) Soit χ_C la fonction indicatrice d’un ensemble C de IRⁿ définie par : χC(x) =

( 0 six∈C +∞ sinon χC est convexe si et seulement siC est convexe.

(χC)^∗(y) = sup{hy, xi −χC(x)}= sup

x∈Chy, xi=σC(y) La fonction support est la conjuguée de l’indicatrice.

3.5. SOUS-DIFFÉRENTIABILITÉ 9

epi(f)

epi(f^∗) [−1/2,7/4]

[−2,−3/4] z=−2x+ 3/4 z=−1/2x−7/4

x y z

w

Figure3.5 – Exemple e) b) f(x) = 1/pkxk^p −→f^∗(y) = 1/qkyk^q, où ¹_p+¹_q = 1

c) DansIRⁿ,f(x) =ha, xi+b=⇒f^∗(y) =−b+χ_{a}(y)

d) Soient f₁ etf₂ deux fonctions convexes deIRⁿ et soit f =f₁2f₂. Alors f^∗=f₁^∗+f₂^∗

En effet,

(f12f2)^∗(y) = sup_x{hy, xi −inf{f1(x1) +f2(x2)|x1+x2=x}}

= sup_xsup{hy, xi −f₁(x₁)−f₂(x₂)|x₁+x₂ =x}

= sup{hy, x₁i+hy, x₂i −f₁(x₁)−f₂(x₂)|x₁, x₂}

= f₁^∗(y) +f₂^∗(y)

e) DansIR,f(x) =x²−x+ 1 =⇒f^∗(y) = sup{x.y−x²+x−1}= 1/4(y+ 1)²−1

3.5 Sous-différentiabilité

Si on reprend l’équation de l’hyperplan support H₀, on a la relation :

∀x∈Dom(f),hy₀, xi −f(x)≤ hy₀, x₀i −f(x₀) On dit alors que y₀ est un sous-gradient de f enx₀.

Définition 3.9 On appelle sous-gradient d’une fonction convexe f en x₀ tout vecteur γ de IRⁿ tel que :

∀x∈Dom(f), f(x)≥f(x₀) +hγ, x−x₀i

L’ensemble des sous-gradients en x₀ est le sous-différentiel de f en x₀, noté ∂f(x₀) et on dira que f est sous-différentiable en x0 s’il existe au moins un sous-gradient.

Exemple :

DansIR,f(x) = max{ax+b, cx+d}où a <0etc >0.

On noterax0= ^d−b_a−c le point qui minimisef, etf0=f(x0)(Figure 3.6) L’ensemble des sous-gradients est le segment [a, c]

Des résultats précédents, on tire donc que les 3 conditions suivantes sont équivalentes :

a

−1

c

−1

γ

−1 epi(f)

x0

Figure 3.6 – Support affine et sous-gradient :γ ∈[a, c]

i) y₀ ∈∂f(x₀) ii) x₀∈∂f^∗(y₀)

iii) f(x₀) +f^∗(y₀) =hx₀, y₀i

On va voir maintenant que ces sous-gradients généralisent le concept de gradient dans certains cas non différentiables.

On a vu plus haut que les dérivées directionnelles existent en tout point intérieur au domaine et dans toute direction. Observons que f^′(x;·) est une fonction positivement homogène et sous-additive, i.e. :

f^′(x;ad) = af^′(x;d) sia≥0 f^′(x;d+d^′) ≤ f^′(x;d) +f^′(x;d^′)

Elle est donc la fonction support d’un ensemble qui n’est autre que le sous-différentiel.

En effet, soit g∈∂f(x₀). On a donc f(x₀+td)≥f(x₀) +thg, di, ce qui implique : f^′(x0;d)≥ hg, di, ∀g∈∂f(x0), et∀d∈aff{Dom(f)} − {x0}

Le sous-différentiel est donc l’ensemble (convexe compact) dont la fonction support est la dérivée directionnelle, soit :

f^′(x₀;d) = max{hg, di |g∈∂f(x₀)}

Une conséquence importante est que, sif est différentiable enx0, le sous-différentiel∂f(x0) se réduit à un élément, le gradient de f en x₀.

f différentiable en x₀ ⇐⇒∂f(x₀) ={∇f(x₀)}

On rejoint alors l’inégalité (3.1) trouvée à la section 3.2 qui exprime que la tangente se situe au dessous du graphe.

Exemples de calcul du sous-différentiel :

a) Soit un ensembleC convexe fermé de IRⁿet soitχC sa fonction indicatrice. On a alors : si x∈C, ∂χC(x) ={g∈IRⁿ|σC(g) =hg, xi}=NC(x), le cône normal à C en x.

b) Dans IR,f(x) =

( x² six <0 2x six≥0

3.6. OPTIMALITÉ 11 f n’est pas différentiable en 0 et ∂f(0) = [0,2].

c) Soit f(x) = max{hai, xi+bi, i ∈ I} une fonction affine par morceaux qui est bien convexe et sci. On se propose de calculer le sous-différentiel en un point x₀ et soitI(x₀) = {i∈I |f(x0) =hai, x0i+bi}. On peut alors réécrire f comme :

f(x) =f(x₀) + max{ha_i, x−x₀i −e_i, i∈I}

oùei =f(x₀)−hai, x₀i−bi≥0(doncei = 0,∀i∈I(x₀)). On en déduit, pourtsuffisamment petit :

f(x₀+td) =f(x₀) +tmax{hai, di, i∈I(x₀)}

Donc f^′(x₀;d) = max_i∈I(x0)ha_i, di et d’après les résultats précédents sur la dérivée direc- tionnelle et le fait que σ_ai,i∈I(x0)=σconv{ai,i∈I(x0)}, on obtient :

∂f(x₀) =conv{a_i, i∈I(x₀)}

On peut généraliser ce résultat au cas d’une fonction ’max’ comme f(x) = max{fi(x), i∈ I} où lesfi sont convexes, différentiables. En x₀ ∈^Ti∈IDom(fi), on a :

∂f(x0) =conv{∇fi(x0), i∈I(x0)}

Ce dernier exemple est un cas particulier du théorème suivant, dû à Danskin :

Théorème 3.5 SoitZ un sous-ensemble compact de IR^m etΦ :IRⁿ×Z 7→IR une fonction continue, différentiable et convexe par rapport à son premier argument x∈IRⁿ et ce, pour tout z∈Z. Soit :

f(x) = max

z∈Z Φ(x, z)

et soit Z(x) l’ensemble des z qui maximisent Φ(x, z) sur Z. Alors : i) f est convexe et f^′(x;d) = max_z∈Z(x)Φ^′(x, z;d)

ii) ∂f(x) =conv{∇xΦ(x, z), z ∈Z(x)}

Démonstration : cf. Hiriart-Urruty et Lemarechal, 1993

3.6 Optimalité

Quand on cherche à minimiser une fonction de IRⁿ, on distingue minimum global de minimum local : un minimum global de f est un point m ∈ Dom(f) tel que f(x) ≥ f(m),∀x ∈ Dom(f); pour définir un minimum local, on remplace x ∈ Dom(f) par x ∈ Dom(f)∩Vǫ(m), oùVǫ(m)est un voisinage demde rayonǫ, i.e.Vǫ(m) ={x| kx−m|| ≤ǫ} pour unǫ >0.

Théorème 3.6 Soitf une fonction convexe de IRⁿetmun point oùf est sous-différentiable.

Une condition nécessaire et suffisante pour qu’un point x soit un minimum global d’une fonction convexe est 0∈∂f(m).

Démonstration Conséquence immédiate de la définition d’un sous-gradient.

f(x)≥f(m)⇐⇒f(x)≥f(m) +h0, x−mi

2

On retrouve dans le cas différentiable la condition nécessaire d’optimalité du premier ordre : sim minimise f, le gradient de f enm est nul. Cette relation est locale, alors que tout minimum local d’une fonction convexe est un minimum global. Dans le cas convexe, la condition d’optimalité du premier ordre est nécessaire et suffisante (Observez que la condition du deuxième ordre est satisfaite en tout point car le Hessien d’une fonction convexe deux fois différentiable est semi-défini positif).

3.6. OPTIMALITÉ 13 Références :

C. Berge et A. Ghouila-Houri, Programmes, Jeux et Transport, Dunod, 1962

J.B. Hiriart-Urruty et C. Lemarechal, Convex Analysis and Minimization Algorithms, Springer V., 1993

P.J. Laurent, Approximation et Optimisation, Hermann, 1972 R.T Rockafellar, Convex Analysis, Princeton U. , 1970

J. Stoer et C. Witzgall, Convexity and Optimization, Springer V., 1970