Contents 1

(1)

(2)

(3)

Introduction G´en´erale

En 1972, M. Valadier a présenté dans l’article intitulé“Sous-différentiabilité des fonctions convexes à valeurs dans un espace vectoriel ordonné”des généralisations de deux théorèmes de Moreau, sur la sous-différentiabilité des fonctions convexes continues en un point.

D’après M. Valadier, l’étude de la sous-différentiabilité des fonctions convexes à valeurs dans un espace vectoriel ordonné n’a été ab ordée que par C. Raffin [68] dans le cadre de l’espace IRÎ.

Les résultats de Valadier concernent le sous-différentiel convexe pour une fonctionf entre deux espaces vectoriels topologiques X etY et donné par

∂_≤f(x₀) ={T ∈ L(X, Y)| T(x−x₀)≤f(x)−f(x₀),∀x∈X}.

Le théorème principal de cet article papier généralise pour les fonctions à valeurs dans un espace vectoriel topologique ordonné normal qui est un treillis vectoriel complet, le résultat bien connu pour les fonctions réelles : le sous-différentiel en un point de continuité d’une fonction convexe est une partie convexe non-vide équicontinue de L(X, Y). De plus, (sous les même hypothèses), il établit la formule de liaison (bien connue) dans le cas réel, entre le sous-différentiel et une dérivée directionnelle f(x₀, h) (introduite aussi dans cet article)

f(x₀, h) = max{T h, T ∈∂_≤f(x₀)}.

Des propriétés d’équicontinuité pour le sous-différentiel ont été également données sous des conditions différentes. Renon¸cant aux conditions de continuité def enx₀ et de normalité de Y, on suppose que les intervalles [x, y] de Y sont bornés et que f est majorée au voisinage dex₀.

L’étude de la sous-différentiabilité vectorielle dans le cadre des treillis ordonnés a été poursuivie et a donné lieu à de nombreuses contributions, notamment par A.G. Kusraev, S.S.

Kutateladze, A.M. Rubinov, N. Papageorgiou. Ce dernier a développé des règles de calculs ( la généralisation de la formule de Moreau-Rockafellar pour la somme des applications convexes continues, la règle de calcul pour la composition et le suprémum des fonctions convexes) ainsi qu’une théorie de la dualité, similaire à celle existant dans le cas réel. Ensuite, il a proposé, toujours pour les fonctions à valeurs dans un treillis ordonné de Banach, une généralisation du sous-différentiel de Clarke pour les applications localement o-Lipschitz; à cette occasion il a défini une notion de dérivée directionnellef^◦(x, h) par

f^◦(x, h) = sup

limsup

n→∞

f(x_n+λ_nd)−f(x_n)

λ_n , (x_n, λ_n)→(x,0)

et introduit le sous-diﬀ´erentiel

∂^Pf(x) ={T ∈ L(X, Y), T(h)≤f^◦(x, h),∀h∈X}.

(6)

Avec ce type de sous-différentiel, il a généralisé les résultats connus pour les applications lipschitziennes réelles et a aussi donné des règles de calcul concernant la somme, la composition et des conditions nécessaires pour l’existence des points de minimum.

Toujours dans le cadre de treillis ordonnés, L. Thibault a proposé un sous-différentiel vectoriel, défini aussi par une dérivée directionnellef^↑(x, h) construite dans ce cas en utilisant le cône tangent de Clarke ; ce sous-différentiel, défini par

∂^Tf(x) ={T ∈ L(X, Y)| T(h)≤ f^↑(x, h),∀h∈X}

a été utilisé pour l’étude des fonctions ”strictement compactement lipschitziennes”, une notion qui généralise la notion de fonction ”strictement différentiable” et qui coïncide avec la notion de fonction lipschitzienne dans le cas des espaces de dimension finie.

On remarque que tous ces sous-différentiels coïncident pour les fonctions convexes avec le sous-différentiel introduit par M. Valadier.

J. Zowe, propose en 1974, dans l’article ”Subdifferentiability of convex functions with values in an ordered vector space” une autre approche qui ne n´ecessite pas la structure de treillis mais impose des conditions topologiques supplémentaires sur le domaine de la fonction. Il a démontré que le résultat d’existence pour le sous-différentiel convexe prouvé par M. Valadier reste vrai si X est un espace de Mackey et si l’intérieur du cône dual de Y (pour la topologie de Mackey) est non vide. Ce résultat est donc applicable lorsque X est un espace réflexif etY un espace semi-réflexif ordonné par un cône avec une base faiblement compacte. Le résultat de J. Zowe a été étendu par M.M. Day, J. Jahn, qui traite aussi le problème de la sous-différentiabilité régulière pour des fonctions convexes.

Cette approche ouvre une autre direction d’étude de la sous-différentiabilité vectorielle par scalarisation. En suivant ce point de vue, J.B. Hiriart-Urruty et L. Thibault ont donné une généralisation du sous-différentiel de Clarke pour les applications localement lipschitzienne f :X →Y où X est un espace de Banach séparable etY un espace de Banach réflexif séparable. Dans ce cadre, ils ont montré l’existence d’un ensemble Γ(f, x₀), convexe, fermé deL(X, Y) maximal pour lequel

∂y^∗◦f(x₀) = y^∗◦Γ(f, x₀), pour touty^∗ ∈Y^∗. Cet ensemble Γ(f, x0) est en faite plen{∂Hf(x0)} o`u ∂Hf(x0) = co{DH

→ f(x0)} et DH

→ est l’ensemble des limites de la forme lim

n→∞Df(xn) avecDf(xn), le sous-différentiel de Hadamard, x_n → x₀ et H soit l’ensemble où f est différentiable au sens de Hadamard (cet ensemble a un complémentaire de mesure de Haar nulle).

Ce sous-différentiel peut être considéré comme une généralisation du sous-différentiel réel de Clarke qui est caractérisé comme l’enveloppe convexe des limites des gradients.

Pour le cas des espace de dimension finie, F.H. Clarke a déjà utilisé la généralisation du sous-différentiel donné par l’enveloppe convexe des toutes les matrices obtenus comme limites des suites de type (Df(x_i))_i où x_i →x₀ et Df(x_i) est la matrice Jacobien classique (supposant qu’elle existe en x_i). Il est bien connu que pour le casY = IR, le sous-différentiel

(7)

d’une fonction convexe coïncide avec le sous-différentiel de Clarke, mais pour un espace de dimension supérieure a 1, cette égalité ne reste pas valable si on considère ce dernier type de généralisation du sous-différentiel.

Pour les application localement lipshitzienne entre deux espace de Banach, A. Ioffe a de son côté proposé une notion de sous-différentiel généralisé (un cas particulier pour la notion de jauge multivoque) exprimé par la correspondance :

y^∗ −−→−→ {x^∗ ∈X^∗ | x^∗, h ≤ y^∗, f(x+h)−f(x), ∀h∈X}.

Dans les années quatre-vingt, un autre type de sous-différentiel vectoriel s’impose, notamment le sous-différentiel de type Pareto, qui permet l’étude de problèmes d’optimisation Pareto, en liaison avec les propriétés topologiques de l’espace et du cône qui engendre l’ordre.

Des résultats concernant ce sous-différentiel (des règles de calcul et des applications dans la théorie de la dualité vectorielle) ont été donnés par T. Tanino et Y. Sawaragi dans le cas des espaces de dimension finie, et ultérieurement A.B. Németh, G. Isac, V. Postolic˘a ont étendu ces résultats dans le cas de la dimension infinie.

Dans les années quatre-vingt-dix, B. Mordukhovich a introduit un autre objet pour l’étude des applications multivoques à graphe fermé. Il s‘agit de la coderivé (qui permet aussi d’introduire un autre type de sous-différentiel pour les applications réelles), liée au cône normal introduit par K. Kruger et B. Mordukhovich. Cette notion permet de traiter beaucoup d‘applications: en analyse non linéaire, au contrôle optimal, etc..

On rappelle aussi, parmi les plusieurs mathématiciens qui ont contribué à l’étude de la sous-différentiabilité vectorielle, J. Borwein, J.P. Penot, C. Malivert, M. Théra, M. Volle, T.

Reiland, H. Sweetser, etc.

Face à ces nombreux types des sous-différentiels vectoriels, on est conduit à se poser une question naturelle. Est-il possible de trouver une procédure générale qui permette de retrouver tous ces sous-différentiels comme des cas particuliers? C’est le but que nous nous sommes fixées dans cette thèse, de trouver une approche unitaire en utilisant à la fois la notion de point efficient ainsi que la scalarisation.

Les ensembles des points efficients approchés étudiés dans le premier chapitre ont permis d’introduire un nouveau type de “domination” et les résultats assurent des conditions pour que cette propriété soit satisfaite (spécialement le Théorème 1.3) ont été utilisés sys- tématiquement dans le Chapitre 3 pour établir des règles de calcul pour les applications multivoques vectorielles.

Elles ont permis aussi, l’introduction d’un nouveau “lagrangian” et le Th´eor`eme 1.3 a

´

eté utilisé pour la généralisation des résultats connus pour la théorie de la dualité dans des espaces de dimension finie.

Concernant les applications multivoques, le théorème de Michael sur l’existence d’une sélection continue pour une application multivoque s.c.i. de graphe fermé, nous a donnée l’idée de trouver une sélection ayant le même sous-différentiel que l’application multivoque considérée;

la dernière partie de cette thèse a été consacré à ce prob lème.

(8)

Le deuxième chapitre traite la sous-différentiabilité à l’aide de la scalarisation; des nouveaux types des sous-différentiels ont été introduits, leurs propriétés principales ont été mise en évidence ainsi que la liaison avec les sous-différentiels vectoriels déjà connus.

Parmi les résultats généralisés, nous avons démontré le théorème de la valeur moyenne de Zagrodny, le théorème de Correa-Jofré-Thibault concernant la liaison entre la monotonie du sous-différentiel et la convexité de la fonction ainsi que quelques résultats d’existence, règles de calcul et propriétés d’optimalité.

La th`ese est structur´ee en trois chapitres.

1. La première partie est consacrée aux points efficients et approximativement efficients qui seront utilisés pour l’étude des sous-différentiels de type Pareto pour des fonctions et des applications multivoques vectorielles.

On étudie une notion d’infimum introduite par S. Dolecki et C. Malivert, V. Postolic˘a à partir de la notion de fermeture supérieure d’un ensemble. De plus, comme dans le cas scalaire, on peut considérer une notion d’infimum approximatif et on étudie des propriétés générales, des résultats d’existence et de domination basés sur un nouveau type de domination en utilisant les points d’infimum.

D´eﬁnitions.

Soit Z un espace localement convexe ordonné par un cône propre, convexe, fermé Z+ et A⊂Z, un ensemble non-vide tel que A={+∞}, ε∈Z₊.

1. On dit que le point p ∈ Z est un point de ε-inﬁmum pour A s’il n’existe pas a ∈ A tel que a <_Z₊ p−ε. L’ensemble des points de ε-inﬁmum sera not´e par ^εI N F(A|Z₊).

2. On dit quep∈Z est un point de ε-minimum pour A sipest un point de ε-inﬁmum pour A et p∈A. L’ensemble des points deε-minimum pour A sera not´e par ^εM I N(A|Z₊).

3. On dit que p ∈ Z est un point de ε-infimum approch´e pour A si p est un point de ε-infimum pour A et si pour tous p ∈ Z, p >Z+ p, il existe a ∈ A tel que a <Z+ p. L’ensemb le des points de ε-infimum approch´es pour Asera noté ^εI N F₁(A|Z₊).

De fa¸con analogue, on peut d´eﬁnir les ensembles^εSUP A,^εM AX A, ^εSUP₁A.

Si l’intérieur du côneZ₊ est non vide, on note les ensembles des points efficients par rapport au cône IntZ+∪ {0} par ^εwI N F A, ^εwM I N A, ^εwI N F1A, respectivement, ^εwSUP A,

εwM AX A,^εwSUP₁A.

Le résultat central du premier chapitre est le théorème suivant qui donne des conditions suffisantes pour avoir la non vacuité de l’ensemblewI N F1A et aussi pour qu’une condition générale de domination pour A soit satisfaite.

Th´eor`eme.

Soit (Z, τ) un espace localement convexe ordonné par un cône convexe, pointé, normal d’intérieur non vide Z₊. On suppose que le cône fermé clZ₊ est de Daniell. Alors,

1. Pour chaque ensembleA ⊆Z tel que wI N F A={−∞} on a wI N F₁A=∅, A⊆wI N F₁A+ IntZ₊{0}

(9)

et

wI N F A= (wI N F1A−IntZ+∪ {0})∪ {−∞};

2. Pour chaque ensembleA ⊆Z tel que wSUP A={−∞}on a wSUP1A =∅, A⊆wSUP1A−IntZ+

{0} et

wSUP A= (wSUP₁A+ IntZ₊∪ {0})∪ {+∞}.

Ce théorème sera systématiquement utilisé pour l’étude du problèmeI N F SU P, une généralisation du problème classiqueM I N M AX et aussi pour les calculs avec des applications multivoques dans le Chapitre 3.

Le problème I N F SU P (etSUP I N F) est défini de la manière suivante:

wI N F1

x∈X

wSUP1f(x, Y) (respectivement

wSUP1

y∈Y

wI N F1f(X, y).)

Les résultats principaux obtenus généralisent les résultats concernant le problème MINMAX et les points selles, connus pour les espaces de dimension finie.

Th´eor`eme.

Si Z est un espace localement convexe, ordonné par un cône convexe, pointé, normal fermé d’intérieur non vide Z₊ qui est de Daniell et si f :X×Y →Z est une application telle que (x₀, y₀) est un µ−η point faiblement selle pour f, avec µ, η∈IntZ₊, alors il existe

α∈wI N F1

x∈X

wSUP1f(x, Y) et

β ∈wSUP₁

y∈Y

wI N F₁f(X, y) tels que

β+η≥IntZ+∪{0} f(x₀, y₀)≥IntZ+∪{0} α−µ.

Si (x0, y0) est un point faiblement selle pour f, alors

∃α∈wI N F₁

x∈X

wSUP₁f(x, Z) et

β ∈wSUP₁

y∈Y

wI N F₁f(X, y)

(10)

avec

β ≥IntZ+∪{0} f(x0, y0)≥IntZ+∪{0} α.

2. Le deuxième chapitre est consacré à l’étude de la sous-différentabilité des fonctions vectorielles.

En s’inspirant du cas réel, on essaye d’exprimer les différents types des sous-différentiels vectoriels connus à l’aide des cônes normaux.

Cette idée nous permet d’introduire aussi des nouveaux types des sous-différentiels vectoriels qui seront étudiés dans cette partie.

Pour des différents types des cônes normaux,z^∗ ∈Z₊^∗ \ {0}et x∈ domf où f :X →Z est une fonction semi-continue inférieurement on peut considérer

∂˜_z∗f(x) ={T ∈ L(X, Z)| (z^∗◦T,−z^∗)∈N_epi(x, f(x))} et

∂˜_z∗f(x) ={T ∈ L(X, Z)| (z^∗◦T,−1)∈Nepi z^∗◦f(x, z^∗◦f(x))} Dans ce chapitre on étudie les sous-différentiels correspondants au cône :

• (C_epif)^◦(x, f(x)) = (cl cone(epif−(x, f(x)))^◦;

• au cˆone polaire au cˆone tangent de Clarke (T_epif^Cl )^◦(x, f(x));

• au cˆone polaire au cˆone contingent (K_epif)^◦(x, f(x));

• au cˆone normal de Fr´echet ˆNepif(x, f(x)) et

• au cˆone de Kruger-Mordukhowich, N_epif^M (x, f(x)).

On note les sous-différentiels ainsi obtenus pour chaque cône et z^∗ ∈Z₊^∗ \ {0},x∈domf par ∂_z∗f(x),∂_z^Cl∗f(x),∂_z^co∗f(x), ˆ∂_z∗f(x),∂_z^M∗f(x), respectivement,∂_z∗f(x),∂_z^Cl∗ f(x),∂_z^co∗f(x),

∂ˆ_z∗f(x), ∂_z^M∗ f(x).

Exception faite des sous-différentiels de Mordukhowich et de Fréchet (dans le cas de dimension infinie), on peut caractériser chaque sous-différentiel en utilisant une dérivée direction- nelleDf(x), introduite comme suit:

Gr Df(x) =T_epif(x, f(x))

c.a.d. le graphe de Df(x) est le cône tangent à l’épigraphe de f au point (x, f(x)).

On trouve alors que:

∂˜_z∗f(x) ={T ∈ L(X, Z) |z^∗◦T(u)≤z^∗(v), ∀v ∈Df(x)(u), u∈P r_XT_epif(x, f(x))}

∂˜_z∗f(x) = {T ∈ L(X, Z) |z^∗◦T(u)≤w, ∀w∈Dz^∗◦f(x)(u), u∈P r_XT_epiz∗◦f(x, z^∗◦f(x))}.

(11)

Dans chaque cas, sous certaines conditions, nous avons que

∂˜_z∗f(x)⊆∂˜_z∗f(x).

Pour chaque cône il y a des propriétés spécifiques pour les sous-différentiels introduits et il y a aussi des propriétés de liaison entre ces sous-différentiels et les sous-différentiels déjà introduits par M. Valadier, T. Tanino et Y. Sawaragi, N. Papageorgiou, L. Thibault et J.B.

Hiriart-Urruty, A. Ioﬀe.

D´eﬁnition.

Soit f : X→Z une fonction semi-continue inf´erieurement et x∈domf. 1. [85]

∂_≤f(x) ={T ∈ L(X, Z)|T(x−x₀)≤f(x)−f(x₀), ∀x∈X}; 2. [71]

∂_>f(x) ={T ∈ L(X, Z)|T(x−x₀)> f(x)−f(x₀), ∀x∈X}; 3. [85]

∂^Vf(x) ={T ∈ L(X, Z)|T(u)≤f(x, u), ∀u∈X} o`u f(x, u) =inf

t>0

f(x+tu)−f(x)

t ;

4. [59] Si Z est un treillis de Banach compl`etement ordonn´e, alors

∂^Pf(x) ={T ∈ L(X, Z)|T(u)≤f^◦(x, u), ∀u∈X} o`u f^◦(x, u) = limsup

x→x, t→0

f(x+tu)−f(x)

t ;

5. [27] Γ(x) est l’ensemble convexe, ferm´e, maximal de L(X, Z) tel quez^∗ ◦Γ(x) =∂^Clz^∗◦ f(x), pour tout z^∗∈Z^∗.

Proposition.

Soit f : X→Z une fonction semi-continue inf´erieurement,x∈domf.

1.

z^∗∈Z₊^∗\{0}∂z^∗f(x) =∂_≤f(x);

2. Si IntZ₊ =∅, alors

z^∗∈Z₊^∗\{0}

∂z^∗f(x) =w∂>f(x).

Proposition.

SoitX, Z deux espaces de Banach tel queZ soit un treillis de Banach complètement ordonné et Z₊ un cône normal de’intérieur non vide. Si f : X → Z est une fonction localement lipschitzienne, alors pour tous x₀∈X et d∈Pr_XT_epi_f(x₀) nous avons

f^◦(x0, d)≤infC^↑f(x0)(d) et

z^∗◦f^◦(x₀, d)≤(z^∗ ◦f)^◦(x₀, d).

(12)

Si de plus, Z+ est Daniell, alors pour tous x0 ∈X etd∈PrXTepif(x0)

z^∗∈Z₊^∗\{0}

∂_z^Cl∗ f(x₀) =∂^Pf(x₀) et

z^∗ ◦f^◦(x₀, d) = (z^∗ ◦f)^◦(x₀, d).

Proposition.

Soit f : X → Z une fonction propre, convexe, semi-continue inférieurement, Z un espace complètement ordonné et on suppose que domf−x₀ est absorbant. Alors,

f_V (x;u) = inf Df(x;u).

Si de plus le cˆone Z₊ est Daniell, la limitef(x;u) existe, et

f_V (x;u) = f(x;u) = inf Df(x)(u) =I M I N Df(x)(u).

Proposition.

Soit X est un espace Banach séparable,Z est un espace réflexif séparable et f :X →Z une fonction lipschitzienne. Si Z₊^∗ −Z₊^∗ =Z^∗, alors

z^∗∈Z₊^∗\{0}∂_z^Cl∗ f(x) = Γ(f, x).

En essayant de généraliser le résultat de Correa-Joffre-Thibault concernant l’équivalence entre la convexité d’une fonction semi-continue inférieurement et la monotonie du sous- différentiel de Clarke on trouve le résultat suivant:

Proposition.

Soit X un espace de Banach séparable, Y un espace de Banach séparable et réflexif et f : X → Y une fonction localement lipschitzienne. Alors, f est convexe si et seulement si l’opérateur x −−→−→

z^∗∈Z^∗₊\{0}∂_z^Cl∗ f(x) est monotone.

Si f est une fonction convexe, alors tous les sous-différentiels introduits coïncident.

En utilisant les relations entre les cˆones normaux, on trouve que pour une fonction semi- continue inf´erieurement, nous avons

∂z^∗f(x)⊆∂_z^co∗f(x)⊆∂_z^Cl∗f(x) et

∂_z∗f(x)⊆∂_z^co∗ f(x)⊆∂_z^Cl∗ f(x).

Les propositions suivantes donne aussi des liaisons entre les différents types des sous- différentiels introduits.

(13)

Proposition.

Si X, Z sont des espaces de dimension ﬁnie, f : X → Z est une fonction semi-continue inf´erieurement tel que ∂_z^co∗f(y)=∅ pour y ∈V ∈ V(x), x∈domf et z^∗∈Z₊^∗ \ {0}, alors

Limsup

y→x, f(y)→f(x)

∂_z^co∗f(y)⊂∂_z^Cl∗f(x).

Proposition.

Soit X, Z deux espace de Banach et f :X →Z une fonction semi-continue inf´erieurement, x∈domf. Alors pour tout z^∗ ∈Z^∗ \ {0}, nous avons

z^∗◦∂_z^M_∗f(x) = Limsup

ε→0, z^∗→z^∗

x→x, f(x)→f(x)

z^∗ ◦∂ˆ_z^ε∗f(x)

et pour z^∗ ∈Z₊^∗ \ {0}

Limsup

ε↓0, x→x

∂ˆ_z^ε∗f(x)⊆∂_z^M∗ f(x).

Si X×Z est un espace d’Asplund, on peut prendre ε= 0.

Si X ×Z est un espace d’Asplund et f est régulièrement différentiable, alors pour z^∗ ∈ Z₊^∗ \ {0},

∂_z^M∗ f(x) =Limsup

x→x

∂ˆ_z∗f(x) =Limsup

x→x

∂_z^M∗ f(x).

Aussi, pour z^∗ ∈Z₊^∗ \ {0}, l’application multivoque x −−→−→ ∂_z^M∗ f(x) est de graphe ferm´e.

Si X et Z sont des espaces réflexifs et f : X → Z est une fonction semi-continue inférieurement, alors pour tout z^∗ ∈Z^∗\ {0}

∂_z^co∗f(x) = ˆ∂_z∗f(x) et

∂_z^co∗ f(x) = ˆ∂_z∗f(x).

Si f est régulièrement différentiable, alors ˆ∂_z∗f(x) =∂_z^M∗f(x).

Pour chaque sous-différentiel on a des résultats d’existence et aussi des règles de calcul.

Proposition.

Si X, Z sont des espaces de Banach et f :X →Z est strictement diﬀ´erentiable en x₀, alors pour z^∗ ∈Z₊^∗

∂_z^M∗f(x₀) = ˆ∂_z∗f(x₀) ={f(x₀)}+M_z∗

o`u M_z∗ ={T ∈ L(X, Y)| z^∗◦T = 0}.

(14)

Proposition.

Soit f : X → Z une fonction continue diﬀ´erentiable en x ∈ dom f, z^∗ ∈ Z₊^∗ \ {0}. Alors,

∂_z^Cl∗f(x) =∂_z^Cl∗ f(x) ={f(x)}+M_z∗. Proposition.

Soit f : X → Z ∪ {+∞} une fonction différentiable (au sens de Fréchet) en x₀ ∈ dom f.

Alors, pour chaquez^∗ ∈Z₊^∗ \ {0}nous avons

∂_z^co∗f(x0) =∂_z^co∗f(x0) ={f(x)}+Mz^∗.

Pour le sous-différentiel vectoriel de Clarke on a aussi une version vectorielle du théorème de la valeur moyenne de Zagrodny pour les fonctions non lisses. Le théorème reste valable pour une classe plus large des sous-différentiels, obtenue par scalarisation des pré-sous- différentiels introduits par Thibault et Zagrodny [83] et la démonstration reprend les idées de Thibault [82] adaptées au cadre vectoriel.

Proposition.

Soit deux espaces normés (X,·) et (Y,·), Y séparable ordonné par un cône Y₊ convexe fermé et pointé. Soit une fonctionf :X →Y ∪ {+∞} semi-continue inférieurement. Etant donnés deux points distinctsaetb du domaine def,ε∈Y₊\{0}ety^∗ dans le quasi-intérieur du cône dual Y₊^∗, il existe une suite (xn)n∈IN de limitecappartenant à [a, b) telle que

n→lim+∞y^∗◦f(xn) =y^∗◦f(c), il existe T_n dans ∂_y∗f(x_n) v´eriﬁant pour toutn,

1. T_n, b−x_n/b−x_n ≥ −ε/n+ (f(b)−f(a))/b−a, 2. T_n, b−a/b−a ≥ −ε/n+ (f(b)−f(a))/b−a, 3. b−a y^∗, f(c)−f(a) ≤ c−a y^∗, f(b)−f(a).

3. Le dernier chapitre contient les principaux résultats et règles de calculs concernant le sous-différentiel de type Pareto pour les applications multivoques. Une section est plus particularement dédiée au problème de trouver une sélection ayant le même sous-différentiel que celui de l’application multivoque considéré.

D´eﬁnition.

1. [71] Pour une application multivoqueG:X −−→−→ Z on note G^∗ :L(X, Z) −−→−→ Z le conjugu´e vectoriel pour G donn´e par

G^∗(T) = SUP₁{T u−y, u∈DomG, y ∈G(u)} Le domaine deG^∗ sera

DomG^∗ ={T ∈ L(X, Z), SU P₁{T u−y, u∈DomG, y ∈G(u)} =∅}.

(15)

2. Pour ε∈Z+ etx0 ∈Domf, on note ∂_>^εG(x0) le sous-différentiel donné par

∂_>^εG(x₀) ={T ∈ L(X, Z)| ∃y₀ ∈G(x₀), T x₀−y₀ < T u−y−ε,∀u∈DomG, y ∈G(u)} et ∂_≤^εG(x0) note le sous-différentiel donné par

∂_≤^εG(x₀) ={T ∈ L(X, Z)| ∃y₀ ∈G(x₀), T x₀−y₀ ≤T u−y−ε,∀u∈DomG, y ∈G(u)}. Dans cette partie on travaille sous les hypothèses générales suivantes : X est un espace localement convexe, Z un espace localement convexe séparé Hausdorff, ordonné par un cône non vide, convexe, pointé Z₊ telque Z soit normal, Z₊ ={0} ∪IntZ₊ et le cône fermé clZ₊ soit de Daniell.

Proposition.

Pour S, T ∈ L(X, Z), F₁ : X −−→−→Z, F₂ : X −−→−→Z, soit F : X −−→−→ Z une application multivoque donn´e par

F(x, y) =F₁(x) +F₂(x−y)−T(x).

Alors, le conjugu´e vectoriel deF est

F^∗(0, S) =SUP₁(F₁^∗(T−S)+F₂^∗(S)).

Proposition.

Pour T ∈ L(X, Z), F1 :X −−→−→Z, F2 :X −−→−→ Z nous avons F₃^∗(T) = SUP₁(F₁^∗(T) +F₂^∗(T)) o`u F3(x) =I N F1[

y∈X

(F1(y) +F2(x−y))] =F1∇F2(x).

Soit G:X −−→−→ Z une application multivoque et on note DomG={x∈X | G(x)=∅}

et G:X →Z l’application multivoque donn´ee par G(x) =







clG(x) for x∈ DomG

∅ for x /∈DomG.

On a le r´esultat suivant : Proposition.

Pour x₀ ∈DomG nous avons : 1. ∂_>^εG(x₀)⊆∂_>^εG(x₀), ∀ε∈Z₊; 2. ∂G(x₀)⊆

ε∈Z+\{0}∂_>^εG(x₀) et

ε∈Z+\{0}∂_>^εG(x₀) =

ε∈Z+\{0}∂_>^εG(x₀);

3. Si ∂_>G(x₀) =

ε∈Z+\{0} ∂_>^εG(x₀) alors ∂G(x₀) =∂_>G(x₀);

(16)

4. Si T ∈

ε∈Z+\{0}∂_>^εG(x0) et l’ensemble Limsup

ε↓0

Mε(T) est non vide, alors T ∈∂>G(x0);

(Ici Mε(T) ={yε∈G(x0) tel que T(x−x0)>y−yε+ε, ∀ε∈G(x), x∈DomG});

5. Si G(x0) est ferm´e, alors ∂>G(x0) =

ε∈Z+\{0} ∂_>^εG(x0) si et seulement si pour tout T qui appartient `a

ε∈Z+\{0}∂_>^εG(x₀), alors Limsup

ε↓0

M_ε(T) est non vide.

Soit G : Dom G→Z, G(x) =







G(x) +Z+ if x∈DomG

∅ if x /∈DomG.

On a le r´esultat suivant:

Proposition.

1. ∂_>^εG(x0) =∂_>^εG(x 0), pour chaque x0 ∈DomG, ε∈Z+.

2. Si cl(G(x) +Z₊) = cl(M I N G(x) +Z₊) pour tout x∈DomG, alors

ε∈Z+\{0}

∂_>^εG(x) =

ε∈Z+\{0}

∂_>^εM I N G(x).

Si G(x) est ferm´e, alors ∂_>G(x) =∂_>M I N G(x) si et seulement si Limsup

ε↓0

M_ε(T)=∅pour tout T ∈ ∩

ε∈Z+\{0}∂_>^εG(x).

3. Si I N F G(x) = {−∞} pour tout x ∈ Dom G et pour tout x avec M I N G(x) = ∅, cl(G(x) +Z+) = cl(M I N G(x) +Z+), alors

ε∈Z+\{0}

∂_>^εG(x) =

ε∈Z+\{0}

∂_>^εI N F₁G(x).

Si G(x) est ferm´e, alors ∂>G(x) =∂>I N F1G(x), si et seulement si Limsup

ε↓0

Mε(T)=∅pour tout T ∈

ε∈Z+\{0}∂_>^εG(x).

Comme on l’a vu déjà (par exemple dans l’étude de la continuité d’une application multivoque), étant donné un prob lème multivoque une autre approche possible est de réduire ce problème à un prob lème univoque, et de trouver une sélection de l‘application multivoque ayant le même sous-différentiel que le sous-différentiel de l’application multivoque considérée.

Dans la suite, on pr´esente les r´esultats obtenus:

Proposition.

SoitX etZ deux espaces localement convexes et on suppose que Z soit ordonné par un cône convexe, pointé, normal. Soit F:X −−→−→ Z une application multivoque telle que l’ensemble IMIN(F(x)) soit non vide pour tout x ∈Dom(F). L’application multivoque F est convexe si et seulement si la fonction m:X → Z ∪ {+∞} donnée par m(x) = IMIN(F(x)) pour x∈DomF etm(x) = +∞pour x /∈DomF est convexe. SiF est continue en x₀ ∈DomF, alors m est continue en x₀. De plus, ∂_≤F(x) = ∂_≤m(x), ∀x∈DomF.

(17)

Proposition.

SoitF :X −−→−→ Z une application multivoque et on suppose que l’ensemble∂_≤F(x0) est non vide pour tout x₀ ∈DomF. Alors,∂_≤F(x₀) =∂_>F(x₀), ∀x₀ ∈DomF si et seulement si la relation d’ordre est totale.

Proposition.

SoitF:X −−→−→ Z une application multivoque, convexe, continue avec Dom F =X et suppose queZ₊a une base compacte. AlorsF admet une s´election convexe, continue,f:X →Z avec

∂_≤f(x) = ∂_≤F(x) pour tout x de X si et seulement si F(x) admet un point de minimum id´eal pour tous x∈X et s‘il existe k∈Y tel que

∀x∈X, f(x) = IMIN(F(x)) +k.

Proposition.

Sous les hypothèses de la proposition précédente, on trouve une sélection convexe, continue f:X →Z pour F telle que ∂_≤F(x) =∂_>f(x) pour tout x∈X, si et seulement si pour tout x∈X nous avons∂_≤F(x) =∂>F(x),F(x) admet un point de minimum idéal et

f(x) = IMIN(F(x)) +k.

Soit ∂_∗F(x) ={T ∈ L(X, Z)| ∀z^∗ ∈Z₊^∗, z^∗◦T ∈∂_≤z^∗◦F(x)}. On a alors:

Proposition.

Sous les hypothèses de la proposition précédente, on peut trouver une sélection convexe, continuef avec la propriété que ∂_∗F(x) =∂_>f(x) pour tout x∈X, si et seulement si pour tout x ∈ X, ∂_≤f(x) = ∂_>f(x), F(x) admet un Z₊^∗-minimum et il existe k_z∗ ∈ Z₊ tel que z^∗◦f(x) = IMIN(z^∗◦F(x)) +k_z∗, pour tout z^∗ ∈Z₊^∗.

En conclusion, on peut dire que les résultats classiques pour les sous-différentiels des applications à valeurs réelles peuvent être généralisés au cadre vectoriel pour des sous-différentiels convenables sous certaines conditions spécifiques à chaque cas.

Les sous-différentiels de type Pareto sont difficiles à utiliser du point de vue des calculs mais ils ont l’avantage qu’on peut les utiliser pour l’étude des points efficients de Pareto; il reste à voir comment on peut appliquer ces résultats pour des espaces vectoriels particuliers.

(18)

(19)

CHAPITRE I

Points eﬃcients

(20)

(21)

TABLE DES MATIRES I

1 - Propri´ et´ es g´ en´ erales pour les points eﬃcients

2 - Dualit´ e pour les applications multivoques

(22)

(23)

1 Propriétés générales pour les points efficients.

It is well-known that efficient points are proved to be useful tools for the study of vectorial optimization problems. Between these, the Pareto efficient points enjoy a powerful study by looking to find some sufficient conditions for the set and for the ordering cone which can ensure the existence of these points. Also, the applications of these points are pursue in the theory of vectorial subdifferentiability and to duality theory. We mention here the papers of J.Borwein [6], J.Jahn [35], Tanino and Sawaragi [71], D.T. Luc [45], C. Malivert [19], [20], Isac and Postolic˘a [31], C.Z˘alinescu [88], [89].

This chapter intends to present an approach of these problems by using the proximal infimum points, which were introduced and used by Isac and Postolic˘a [31] in the study of vectorial sub-differentiability for multifunctions. In fact, this notion is a generalization of the ”weak infimum” defined by Gross and used then in Rⁿ by Tanino and Sawaragi [71].

The advantage of this type of efficient points consists in the fact that there are nonempty for a large class of sets, even if the Pareto minimum points are empty. The main result of the first section, i.e. the theorem which gives sufficient conditions for a set to have proximal infimum, is systematically used in the second section for developing a duality theory and for the study of the classical dual problems. This study is done by using the saddle points for a Lagrangian defined in this case with the proximal infimum points.

In this section we intend to present the general properties of the efficient points which will be utilized, i.e. algebraic and topological properties, and we will introduce a new concept of domination which will be used in the duality theory with multifunction. In the end of this section we present some sufficient conditions which ensure that the domination property is fulfilled and its applications.

In what follows, we will consider Z a vectorial space and Z₊ ⊂ Z a nonempty, convex cone (λZ+ ⊂Z+, ∀λ∈R+,Z++Z+ =Z+) which is pointed (Z+∩−Z+ ={0}). Forx1, x2 ∈Z,we will writex2≤Z+ x1orx1 ≥Z+ x2 ifx1−x2 ∈Z+,x2 <Z+ x1orx1 >Z+ x2ifx1−x2 ∈Z+\{0}, x₁ ≤Z+ x₂or x₂ ≥Z+ x₁if x₂−x₁ ∈/ Z₊ andx₁> _Z₊ x₂ or x₂< _Z₊ x₁ ifx₁−x₂ ∈/ Z₊\{0}. If no confusion can happen, we will renounce to index the cone. We add to Z a smallest element denoted −∞ and a biggest element denoted +∞; we denote Z =Z ∪ {+∞} ∪ {−∞}. We make the following conventions: λ·(±∞) =±∞, x+ (+∞) = +∞ for allλ >0 and x∈Z.

We begin this section with the definitions of the different efficiencies which will be used in this paper.

Let A⊂Z, A=∅, A={+∞}, ε∈Z₊.

Definition 1.1 1. We say that p∈ Z is an ε− infimum of A if there is no a ∈A such thata <Z+ p−ε. The set ofε−infimum points of A will be denoted by ^εI N F(A|Z+).

2. We say that p∈Z is an ε−minimum of A if p isε−inﬁmum ofA and p∈A. The set of the ε−minimum points of A is denoted by ^εM I N(A|Z₊).

3. We say that p ∈ Z is an ε−proximal inﬁmum of A if p is ε−inﬁmum of A and

(24)

∀p ∈ Z, p >Z+ p there exists a ∈ A such that a <Z+ p. The set of ε−proximal inﬁmum points of A is denoted by ^εI N F1(A|Z+).

If the confusion is excluded, we will renounce to the cone index and we denote these sets simply ^εI N F A, ^εM I N A, ^εI N F1A.

In a similar manner, for a setA⊆Z, A={−∞}we deﬁne the sets ^εSUP A, ^εM AX A and

εSUP₁A.

For ε = 0, we meet the above notions to Isac and Postolic˘a [31] and the minimum point for ε = 0 is the Pareto minimum points well-known in vectorial optimization. We mention that we refind the notion SUP₁A in the papers of S. Dolecki, C. Malivert and N. Boissard defined with the aid of the superior closure of A. The notion of ε−minimum is also used in [56], where we find a general notion of H−efficiency with H a sub set of Z+.

Definition 1.2 [56] Let H be a non-void set of Z₊\{0}.A point p∈Ais H−efficient point for A if(p−H−K)∩A=∅. The set of H-efficient points is denoted by^HEf f A.

Remark 1.1 Let A⊂Z, A=∅. If A={+∞}, then

SUP A=M AX A= +∞, I N F₁A =M I N A= +∞, I N F A=Z.

If A={+∞} but +∞ ∈A, then

SUP A=M AX A= +∞, I N F A=I N F(A\ {+∞}).

If +∞∈/ A, b ut A={−∞} then

SUP A=Z, I N F A=M I N A={−∞}. If A={−∞} but −∞ ∈A then

I N F A=M I N A={−∞}, SU P A =SUP(A\ {−∞}).

We can observe that for a nonempty set A ⊂ Z, with A = {+∞},{−∞}, {+∞,−∞}

the study of the eﬃcient points is reduced to the study of eﬃcient points for the set A\ {+∞,−∞} ⊂Z. By this reason, in what follows, we will consider A⊂Z.

Remark 1.2 1. ^εI N F A=−^εSUP(−A), ^εI N F1A=−^εSUP1(−A),

εM I N A=−^εM AX(−A);

2. ^εI N F A =I N F(A+ε) =I N F A+ε=I N F(A+Z₊+ε)

εSUP A=SUP(A−ε) =SUP A−ε=SUP(A−Z₊−ε);