Sous-diérentiabilité

Plusieurs fonctions convexes f nies en x0 et ne sont pas diérentiables en ce point admettent des éléments x0 de E0 satisfont

hx⁰, x − x₀i ≤ f (x) − f (x₀) pour tout x ∈ E. (1.3) Par exemple, la fonction convexe f : R −→ R avec f(x) = |x| n'est pas diérentiable en 0 mais admet des éléments y dans R vérient (1.1), donc on peut énoncer la dénition suivante.

1.7. Sous Diérentiel d'une fonction convexe 19

Dénition 1.7.6. Soient E un espace vectoriel normé, et E0 son dual topologique, f une fonction convexe dénie de E à valeurs dans R et x0 ∈ dom(f ).

Le sous-diérentiel de f au point x0, noté ∂f(x0) est le sous ensemble de E0 déni par ∂f (x₀) = {x⁰ ∈ E⁰, f (x) − f (x₀) ≥ hx⁰, x − x₀i, ∀x ∈ E}.

Un élément quelconque du sous-diérentiel est appelé un sous-gradient. Exemple 1.7.7. 1. Considérons la fonction : f : R −→ R x 7−→ f (x) = |x|. ∂f (0) = [−1, 1]. En eet ∂f (0) = {x⁰ ∈ R : f(x) ≥ f(0) + hx⁰, xi, ∀x ∈ R} = {x⁰ ∈ R : |x| ≥ x⁰x, ∀x ∈ R} = {x⁰ ∈ R : x0x ≤ |x|, ∀x ∈ [0, +∞[ } ∩ {x⁰ ∈ R : x0x ≤ |x|, ∀x ∈] − ∞, 0[ } = {x⁰ ∈ R : x⁰x ≤ x, ∀x ≥ 0} ∩ {x⁰ ∈ R : x⁰x ≤ −x, ∀x < 0} = {x⁰ ∈ R : x⁰ ≤ 1} ∩ {x⁰ ∈ R : x⁰ ≥ −1} = ] − ∞, 1] ∩ [−1, +∞[ = [−1, 1].

2. Soit C ⊂ E un ensemble et x0 ∈ C. Alors x0 ∈ ∂δ_C(x₀) si et seulement si δC(x) ≥ δC(x0) + hx⁰, x − x0i pour tout x ∈ C. On a donc

∂δ_C(x₀) = {x⁰ ∈ E⁰ : hx⁰, x − x₀i ≤ 0 pour tout x ∈ C}.

Lorsque E = R, signalons ici que E0 s'identie à E0 s'identie à E et l'on considère que ∂f (x₀) est un sous-ensemble de R.

Proposition 1.7.8. Soit f : R −→ R ∪ {+∞} une fonction convexe, et soit x0 ∈ int(dom(f )). Alors ∂f (x₀) = [f_g⁰(x₀), f_d⁰(x₀)]. Démonstration. Si x0 ∈ ∂f (x₀), on a f(x) − f(x0) ≥ x⁰(x − x₀), ∀x ∈ R. Alors      f (x)−f (x0) x−x0 ≥ x0 si x > x₀; f (x)−f (x0) x−x0 ≤ x0 si x < x₀.

1.7. Sous Diérentiel d'une fonction convexe 20

Passant à la limite quand x −→ x0, il vient f0

g(x0) ≤ x⁰ ≤ f_d⁰(x0), d'où x ∈ [f0 g(x0), f_d⁰(x0)]. Réciproquement, si x0 ∈ [f0 g(x₀), f_d⁰(x₀)], on a      f (x)−f (x0) x−x0 ≥ x0 si x > x₀; f (x)−f (x0) x−x0 ≤ x0 si x < x0. Donc f(x) − f(x0) ≥ x⁰(x − x₀) ∀x ∈ R, d'où x⁰ ∈ ∂f (x₀).  Remarque 1.7.9.

1. On dit que f est sous-diérentiable au point x0 si et seulement si ∂f(x0) 6= ∅. 2. Si f : E −→ R une fonction propre et f(x0) = +∞, alors ∂f(x0) = ∅.

En eet

x⁰ ∈ ∂f (x) ⇐⇒ f (x) ≥ f (x₀) + hx⁰, x − x₀i, ∀x ∈ E ⇐⇒ f (x) ≥ +∞, ∀x ∈ E.

D'où f ≡ +∞ contradiction donc ∂f(x0) = ∅.

3. Le sous-diérentiel est une multi-application dénie de E à valeurs dans E0 i.e., ∂f (x₀) :E ⇒ E⁰

x0 7→ ∂f (x0) = {x⁰ ∈ E⁰; f (x) − f (x0) ≥ hx⁰, x − x0i, ∀x ∈ E} ⊂ E⁰. Proposition 1.7.10. Si f, g : E −→ R deux fonctions et si x0 ∈ dom(f ) ∩ dom(g) on a

∂f (₀) + g(x₀) ⊂ ∂(f + g)(x₀). Démonstration.

Soit x ∈ E

x⁰+ y⁰ ∈ ∂f (x₀) + ∂g(x₀) =⇒ x⁰ ∈ ∂f (x₀) et y⁰ ∈ ∂f (x₀)

⇐⇒ f (x) − f (x₀) ≥ hx⁰, x − x₀i et g(x) − g(x₀) ≥ hy⁰, x − x₀i Par addition on trouve

f (x) + g(x) − f (x₀) − g(x₀) ≥ hx⁰+ y⁰, x − x₀i ⇐⇒(f + g)(x) − (f + g)(x₀) ≥ hx⁰+ y⁰, x − x₀i ⇐⇒x⁰+ y⁰ ∈ ∂(f + g)(x0). Alors ∂f (₀) + g(x₀) ⊂ ∂(f + g)(x₀). 

1.7. Sous Diérentiel d'une fonction convexe 21

Proposition 1.7.11. Soient E un espace vectoriel normé et soit f : E −→ R une fonction propre convexe, si ∂f(x0) 6= ∅, il y'a équivalence entre

1. x0 ∈ ∂f (x₀); 2. f0(x0; v) ≥ hx⁰, xi, pour tout v ∈ E. Démonstration. 1) =⇒ 2) x⁰ ∈ ∂f (x₀) ⇔ f (x) − f (x₀) ≥ hx⁰, x − x₀i, ∀x ∈ E. En particulier pour x = x0 + tv ∀v ∈ E, ∀t > 0. On a f (x₀+ tv) − f (x₀) ≥ hx⁰, tvi f (x₀+ tv) − f (x₀) t ≥ hx⁰, vi. Par passage à la limite lorsque t ↓ 0 on obtient

f⁰(x₀; v) ≥ hx⁰, vi, ∀v ∈ E. 2) =⇒ 1) f⁰(x0; v) ≥ hx⁰, vi, ∀v ∈ E ⇔ lim t↓0 f (x0+ tv) − f (x0) t − hx⁰, vi ≥ 0, ∀v ∈ E. En particulier pour v = x−x0 t , ∀x ∈ E, on obtient lim t↓0 f (x₀+ t^x−x0 t ) − f (x₀) t − hx⁰,^{x − x0} t i ≥ 0, ∀x ∈ E; lim t↓0 f (x) − f (x₀) t −¹ thx⁰, x − x₀i, ∀x ∈ E; lim t↓0 1 t^{(f (x) − f (x0) − hx} 0 , x − x₀i) ≥ 0, ∀x ∈ E; ⇔ f (x) − f (x₀) − hx⁰, x − x₀i ≥ 0, ∀x ∈ E. D'où x0 ∈ ∂f (x₀). 

Proposition 1.7.12. Soient f : E −→ R une fonction propre, x0 ∈ E telle que f(x0) < +∞, et x0 ∈ E,

alors les propriétés suivantes sont équivalentes a). x0 ∈ ∂f (x₀);

b). f∗(x⁰) + f (x₀) ≤ hx⁰, xi;

1.7. Sous Diérentiel d'une fonction convexe 22 Démonstration. a) ⇐⇒ b) x⁰ ∈ ∂f (x₀) ⇐⇒ f (x) − f (x₀) ≥ hx⁰, x − x₀i, ∀x ∈ E ⇐⇒ f (x) − f (x₀) ≥ hx⁰, xi − hx⁰, x₀i, ∀x ∈ E ⇐⇒ hx⁰, xi ≥ f (x0) − f (x) + hx⁰, xi, ∀x ∈ E ⇐⇒ hx0, x₀i ≥ sup x∈E [hx⁰, xi − f (x)] + f (x₀), ∀x ∈ E ⇐⇒ hx⁰, xi ≥ f^∗(x⁰) + f (x₀) ⇐⇒ f^∗(x⁰) + f (x₀) ≤ hx⁰, x₀i. b) =⇒ c) f^∗(x⁰) = sup x∈E [hx⁰, xi − f (x)] =⇒ f^∗(x⁰) ≥ hx⁰, xi − f (x), ∀x ∈ E

En particulier pour x = x0 ∈ E, on aura alors

f^∗(x⁰) ≥ hx⁰, x₀i − f (x₀) i.e. f^∗(x⁰) + f (x₀) ≥ hx⁰, x₀i. De (b) on trouve f∗(x⁰) + f (x₀) = hx⁰, x₀i. c) =⇒ a) On a hx⁰, x₀i − f (x₀) = f^∗(x⁰) = sup x∈E [hx⁰, xi − f (x)] ≥ hx⁰, xi − f (x), ∀x ∈ E i.e., f (x) − f (x₀) ≥ hx⁰, x − x₀i, ∀x ∈ E. D'où x0 ∈ ∂f (x0).

Montrons que ∂f(x0)est convexe

Soient x0, y⁰ ∈ ∂f (x₀) et t ∈ [0, 1], montrons que : tx0+ (1 − t)y⁰ ∈ ∂f (x₀). On a

x⁰ ∈ ∂f (x₀) ⇐⇒ f (x) − f (x₀) ≥ hx⁰, x − x₀i, ∀x ∈ E; y⁰ ∈ ∂f (x₀) ⇐⇒ f (x) − f (x₀) ≥ hy⁰, x − x₀i, ∀x ∈ E.

1.7. Sous Diérentiel d'une fonction convexe 23

En multipliant ces deux dernières inégalités par t, (1−t) respectivement et en additionnant on obtient

f (x) − f (x₀) ≥ htx⁰+ (1 − t)y⁰, x − x₀i, et par suite tx0+ (1 − t)y⁰ ∈ ∂f (x₀).

Par conséquent ∂f(x0)est convexe. Montrons que ∂f(x0)est fermé Soit (x0

n)_n∈N une suite de ∂f(x0)tel que x0

n converge vers x0 ∈ E0 quand n tend vers +∞. Alors ∀n ∈ N, x⁰n∈ ∂f (x0) ⇐⇒ f^∗(x_n⁰ ) + f (x0) = hx⁰_n, x0i, ∀n ∈ N ⇐⇒ lim n−→+∞f^∗(x⁰_n) + f (x₀) = lim n−→+∞hx⁰_n, x₀i ⇐⇒ lim n−→+∞f^∗(x⁰_n) + f (x₀) = hx⁰, x₀i ⇐⇒ lim n−→+∞[sup x∈E (hx⁰_n, xi − f (x))] + f (x₀) = hx⁰, x₀i ⇐⇒ sup x∈E [ lim n−→+∞(hx⁰_n, xi − f (x))] + f (x₀) = hx⁰, x₀i ⇐⇒ sup x∈E [hx⁰_n, xi − f (x)] + f (x₀) = hx⁰, x₀i ⇐⇒ f^∗(x⁰) + f (x0) = hx⁰, x0i ⇐⇒ x⁰ ∈ ∂f (x₀).

Donc ∂f(x0) est un sous ensemble fermé de E0. 

Théorème 1.7.13. Soit f : E −→ R une fonction propre convexe. Si f est nie et continue au point x0, alors pour tout v ∈ E on a

f⁰(x₀) = sup

x0∈∂f (x0)

hx⁰, vi.

Proposition 1.7.14. Soit f : E −→ R ∪ {+∞} une fonction convexe. Si f est Gâteaux diérentiable au point x0, alors ∂f(x0) est un singleton et est égal à ∇f(x0) i.e.,

∂f (x₀) = ∇f (x₀).

Inversement. Si f est nie et continue en x0 ∈ E, et si ∂f(x0) est un singleton, alors f est Gâteaux diérentiable au point x0 et ∇f(x0) = {∂f (x0)}.

Démonstration.

Supposons que f est Gâteaux diérentiable en x0, donc f⁰(x₀; v) = h∇f (x₀), vi, ∀v ∈ E

1.7. Sous Diérentiel d'une fonction convexe 24

On a

x⁰ ∈ ∂f (x₀) ⇐⇒ f⁰(x₀; v) ≥ hx⁰, vi, ∀v ∈ E, d'où

h∇f (x0), vi ≥ hx⁰, vi, ∀v ∈ E. D'autre part, v ∈ E alors −v ∈ E, donc

h∇f (x₀), −vi ≥ hx⁰, −vi h∇f (x₀), vi ≤ hx⁰, vi, ∀v ∈ E. Alors h∇f (x₀), vi = hx⁰, vi, ∀v ∈ E ⇐⇒ h∇f (x₀) − x⁰, vi = 0, ∀v ∈ E ⇐⇒ ∇f (x0) − x⁰ = 0E0 ⇐⇒ x⁰ = ∇f (x₀).

Alors pour tout x0 ∈ ∂f (x₀), x0 = ∇f (x₀), d'où ∂f(x0) = {∇f (x₀)}. Inversement. D'après le Théorème précédent : f0(x₀; v) = sup

x0∈∂f (x0)

hx0, vi, ∀v ∈ E et comme ∂f(x0) est un singleton, alors f0(x₀; v) = h∂f (x₀), vi, ∀v ∈ E.

Par conséquent f est Gâteaux diérentiable en x0 et ∇f(x0) = {∂f (x0)}.  Corollaire 1.7.15. Soient E un espace vectoriel et f une fonction propre. Alors f admet un minimum global au point x0 si et seulement si 0 ∈ ∂f(x0).

Démonstration. On a

0 ∈ ∂f (x₀) ⇐⇒ f (x) ≥ f (x₀) + h0, x − x₀i, ∀v ∈ E ⇐⇒ f (x) ≥ f (x0), ∀v ∈ E

⇐⇒ x₀ est un minimum global de f.

 Proposition 1.7.16. Soit f : E −→] − ∞, +∞] une fonction propre convexe et soit x₀ ∈ dom(f ).

Alors

1.8. Cône normal 25 Démonstration. Rappelons que (λf∗)(x⁰) = λf^∗(^x_λ⁰). Soient λ > 0 et x0 ∈ ∂(λf )(x₀) x⁰ ∈ ∂(λf )(x₀) ⇐⇒ (λf^∗)(x⁰) + (λf )(x₀) = hx⁰, x₀i ⇐⇒ λf^∗(^x 0 λ^{) + λf (x0) = hx} 0 , x₀i ⇐⇒ f^∗(^x 0 λ^{) + f (x0) = h} x⁰ λ^{, x0}i ⇐⇒ ^x 0 λ ∈ ∂f (x₀) ⇐⇒ x0 ∈ λ∂f (x₀). 

1.8 Cône normal

Dénition 1.8.1. (Le cône). Un sous-ensemble A d'un espace vectoriel E est un Cône si

∀x ∈ A, ∀λ ≥ 0, λx ∈ A.

Dénition 1.8.2. Soient A ⊂ E x ∈ A. Le cône normal à A au point x, noté par NA(x) est l'ensemble déni par

N_A(x) = {x⁰ ∈ E⁰, hx⁰, y − xi ≤ 0, ∀y ∈ A}.

FIGURE 1.1 Proposition 1.8.3.

1. Si x /∈ A, alors NA(x) = ∅.

1.8. Cône normal 26

Proposition 1.8.4. Soit A ⊂ E un sous ensemble convexe tel que int(A) 6= ∅. Si x ∈ F r(A), alors NA(x) 6= {0}.

Chapitre 2

Cône proximal et sous diérentiel

proximal

Nous présentons dans ce chapitre deux concepts de base d'analyse non lisse : le cône proximal et le sous diérentiel proximal. Nous donnons également le lien entre le sous diérentiel proximal et le cône proximal, leurs propriétés ainsi que quelques règles de calcul. Une partie de ce chapitre sera consacrée au sous diérentiel de la fonction distance.

2.1 Normales proximales

Considérons un ensemble fermé S de l'espace de Hilbert H. Le tout premier objet que l'on peut associer à cet ensemble est la fonction distance dS (notée aussi d(., S)) ; elle est dénie de la manière suivante :

∀x ∈ H, d_S(x) = inf

s∈Skx − sk.

Il est important de remarquer que l'inmum de la dénition ci-dessus est toujours réalisé lorsque l'ensemble S est fermé et non vide ; en d'autre termes, pour tout x de H, il existe un point s de S tel que dS(x) = kx−sk, le vecteur x−s est alors appelé normale proximale. Nous noterons projS(x) l'ensemble de tous les points qui réalisent la distance de x à S. Par ailleurs le lemme suivant apporte une première information sur la fonction distance Lemme 2.1.1. La fonction distance est 1-Lipschitzienne sur H.

Dénition 2.1.2. Soient S un ensemble fermé non vide de H. Pour tout x /∈ S, il existe un point s de S le plus proche de x tel que : dS(x) = kx − sk .

2.1. Normales proximales 28

L'ensemble de ces points est noté projS(x) et est déni par proj_S(x) = {s ∈ S, d_S(x) = kx − sk};

= {s ∈ S, inf

s0∈Skx − s⁰k = kx − sk}.

Proposition 2.1.3. Soient S un ensemble fermé non vide de H, et x ∈ H,s ∈ S. Les assertions suivantes sont équivalentes :

(a) s ∈ projS(x); (b) hx − s, s0− si ≤ 1 2ks0− sk2, ∀s⁰ ∈ S; (c) s ∈ projS(s + t(x − s)), ∀t ∈ [0, 1]; (d) dS(s + t(x − s)) = tkx − sk, ∀t ∈ [0, 1]. Démonstration. (a) ⇐⇒ (b) s ∈ proj_S(x) ⇐⇒ d_S(x) = kx − sk ⇐⇒ kx − sk ≤ kx − s⁰k, ∀s⁰ ∈ S ⇐⇒ kx − sk2 ≤ kx − s⁰k2, ∀s⁰ ∈ S ⇐⇒ hx − s, x − si + hx − s, s⁰− xi ≤ hx − s⁰, x − s⁰i + hx − s, s⁰− xi, ∀s⁰ ∈ S ⇐⇒ hx − s, x − s + s⁰− xi ≤ hx − s⁰, x − s⁰i − hx − s, x − s⁰i, ∀s⁰ ∈ S ⇐⇒ hx − s, s0− si ≤ hx − s0, x − s⁰− x + si, ∀s0 ∈ S ⇐⇒ hx − s, s⁰− si ≤ hs⁰− x, s⁰− si, ∀s⁰ ∈ S ⇐⇒ hx, s⁰− si − hs, s⁰− si ≤ hs⁰, s⁰ − si − hx, s⁰− si, ∀s⁰ ∈ S ⇐⇒ 2hx, s⁰− si − hs, s⁰− si ≤ hs⁰, s⁰− si, ∀s⁰ ∈ S ⇐⇒ hx, s⁰− si − ¹ 2hs, s⁰− si ≤ ¹ 2hs⁰, s⁰− si, ∀s⁰ ∈ S ⇐⇒ hx, s⁰− si − ¹ 2hs, s⁰− si − ¹ 2hs, s⁰− si ≤ ¹ 2hs⁰, s⁰− si − ¹ 2hs, s⁰− si, ∀s⁰ ∈ S ⇐⇒ hx, s⁰− si − hs, s⁰− si ≤ ¹ 2hs⁰, s⁰− si − ¹ 2hs, s⁰− si, ∀s⁰ ∈ S ⇐⇒ hx − s, s⁰− si ≤ ¹ 2hs⁰− s, s⁰ − si, ∀s⁰ ∈ S ⇐⇒ hx − s, s⁰− si ≤ ¹ 2ks⁰− sk², ∀s⁰ ∈ S.

2.1. Normales proximales 29 (b) ⇐⇒ (c) Soit t ∈ [0, 1] et s0 ∈ S, on a thx − s, s⁰− si ≤ hx − s, s⁰− si ≤ ¹ 2ks⁰− sk2 ⇐⇒h(s + t(x − s)) − s, s⁰− si ≤ ¹ 2ks⁰− sk2 ⇐⇒s ∈ projS(s + t(x − s)). (c) ⇐⇒ (d) Soit t ∈ [0, 1] s ∈ proj_S(s + t(x − s)) ⇐⇒ ks + t(x − s) − sk = d_S(s + t(x − s)) ⇐⇒ tkx − sk = d_S(s + t(x − s)).  Dénition 2.1.4. Soient S un ensemble fermé non vide de H, et s ∈ S. On dénit le cône normal proximal (où le cône proximal) de S en s de la manière suivante

N_S^p(s) = {v ∈ H, ∃ t > 0, tel que : d_S(s + tv) = tkvk}; = {v ∈ H, ∃ t > 0, tel que : s ∈ proj_S(s + tv)}.

FIGURE 2.1

Le cône proximal réunit toutes les directions v pour lesquelles il existe des normales proxi-males du type x − s où x dans H, s est dans S, et où x − s est positivement colinéaire à v. Nous pouvons en donner la caractérisation suivante.

Proposition 2.1.5. Soit S un ensemble fermé non vide de H, s ∈ S et v ∈ H. Les assertions suivantes sont équivalentes :

(i) v ∈ Np S(s);

2.1. Normales proximales 30

(ii) ∃ t > 0, tel que : projS(s + tv) = s;

(iii) ∃ t > 0, tel que : ∀s0 ∈ S, tkvk ≤ ks + tv − s0k; (iv) ∃ σ ≥ 0 tel que : ∀s0 ∈ S, hv, s0− si ≤ σks0− sk2. Démonstration. (i) ⇐⇒ (ii) v ∈ N_S^p(s) ⇐⇒ ∃ t > 0, dS(s + tv) = tkvk ⇐⇒ ∃ t > 0, s ∈ proj_S(s + tv) ⇐⇒ ∃ t > 0, d_S(s + tv) = tkvk = ks + tv − s⁰k donc s0 = s et on a v ∈ N_S^p(s) ⇐⇒ ∃ t > 0, projS(s + tv) = s. (ii) ⇐⇒ (iii) Soit s0 ∈ S, et v ∈ H s ∈ proj_S(s + tv) ⇐⇒ ∃ t > 0, ks + tv − sk = inf ks + tv − s⁰k, ∀s0 ∈ S ⇐⇒ ∃ t > 0, tkvk ≤ ks + tv − s⁰k, ∀s⁰ ∈ S. (iii) ⇐⇒ (iv) Soient s0, s ∈ S, et v ∈ H tkvk ≤ ks + tv − s⁰k ⇐⇒ t2kvk2 ≤ ks + tv − s⁰k2 ⇐⇒ t2kvk2 ≤ ks − s⁰k2+ t²kvk2+ 2hs − s⁰, tvi ⇐⇒ 2thv, s⁰− si ≤ ks⁰− sk² ⇐⇒ hv, s⁰− si ≤ ¹ 2tks⁰− sk2 ⇐⇒ ∃ σ = ¹ 2t ^{> 0, hv, s} 0− si ≤ σks⁰− sk2, ∀s⁰ ∈ S.  Remarque 2.1.6.

Il est maintenant facile de voir, que le cône proximale est un cône convexe. Mais, il n'a aucune raison d'être fermé.

D'autre part, on se rend bien compte que la structure du cône proximale Np

S(s)dépend de la forme de l'ensemble S dans un voisinage de s. Ceci peut se résumer par la proposition suivante.

2.1. Normales proximales 31

Proposition 2.1.7. Soit δ > 0 donné,alors un vecteur v appartient à Np

S(s)ssi il existe σ = σ(v, s) ≥ 0 tel que

hv, s⁰− si ≤ σks⁰− sk², ∀s⁰ ∈ S ∩ B(s, δ).

Lemme 2.1.8. Soit S un sous-ensemble fermé de Rn, donc projS(x) 6= ∅, pour tout x ∈ Rn/S et l'ensemble {s ∈ projS(x) : x ∈ Rn/S} est dense dans F r(S).

Il est d'autre part intéressant de noter que lorsque l'ensemble S est convexe, le cône proximal coïncide avec le cône normal habituel. Nous avons donc la proposition suivante. Proposition 2.1.9. Soit S un ensemble convexe fermé et non vide. Alors

(a) v ∈ Np S(s) ⇐⇒ hv, s⁰− si ≤ 0, ∀s0 ∈ S. (b) Si H de dimension nie et s ∈ F r(S) =⇒ Np S(s) 6= {0}. Démonstration. (a) =⇒)

D'après la proposition 2.1.5 pour σ = 0, cela implique hv, s⁰ − si ≤ 0, ∀s⁰ ∈ S ⇐=)

S un ensemble convexe c'est-à-dire

∀ s⁰, s ∈ S, ∀t ∈ [0, 1], s₀ = ts⁰+ (1 − t)s ∈ S. En vertu de la proposition 2.1.5 on a

v ∈ N_S^p(s) ⇐⇒ ∃ σ ≥ 0, tel que : ∀s₀ ∈ S, hv, s₀− si ≤ σks₀− sk2

⇐⇒ ∃ σ ≥ 0, tel que : hv, ts⁰+ (1 − t)s − si ≤ σkts⁰+ (1 − t)s − sk², ∀s, s⁰ ∈ S ⇐⇒ ∃ σ ≥ 0, tel que : hv, t(s⁰− s)i ≤ σkt(s⁰− s)k², ∀s, s⁰ ∈ S

⇐⇒ ∃ σ ≥ 0, tel que : thv, s⁰− si ≤ σt²ks⁰ − sk², ∀s, s⁰ ∈ S ⇐⇒ ∃ σ ≥ 0, tel que : hv, s⁰− si ≤ σtks⁰− sk2, ∀s, s⁰ ∈ S

Par passage à la limite lorsque t ↓ 0 on obtient

2.1. Normales proximales 32

(b) Soient x ∈ Rn S et s ∈ F r(S), en vertu du lemme 2.1.8, il existe une suite (si)i de S qui converge vers s, tel que

s_i ∈ proj_S(x_i), ∀x_i ∈ Rn/S et xi −→ x.

2.2. Sous-gradients proximaux 33

Si si ∈ projS(xi), donc xi − si ∈ N_S^p(si) 6= ∅. Soit vi ∈ N_S^p(si), tel que kvik = 1, (vi)i

est bornée dans Rn, donc on peut en extraire une sous suite encore notée vi qui converge vers v et telle que kvk = 1. En utilisant la partie (a), on obtient

hv_i, s⁰− s_ii ≤ 0, ∀s⁰ ∈ S, par passage à la limite quand i −→ +∞, on trouve

hv, s⁰ − si ≤ 0, ∀s⁰ ∈ S, ce qui entraine par application de la partie (a) que v ∈ Np

S(s). Ce qui achève la

démons-tration. 

2.2 Sous-gradients proximaux

Dans cette section, on note F(H) l'ensemble des fonctions semi-continue inférieure-ment de H dans ] − ∞, +∞] i.e.

F (H) = {f : H −→] − ∞, +∞], tel que, f s.c.i}.

Dénition 2.2.1. Un vecteur v ∈ H est appelé sous-gradient proximal de f en x ssi (v, −1) ∈ N_{epi(f )}^p (x, f (x)).

L'ensemble de tous ces v s'appelle le sous diérentiel proximal de f en x, et est noté ∂_pf (x).

Remarque 2.2.2.

1. Si α > 0, alors (v, −α) ∈ Np

epi(f )(x, f (x)) ssi v

α ∈ ∂_pf (x).

2. La remarque 2.1.6 nous permet immédiatement d'armer que ∂pf (x) est un ensemble convexe. Cependant il n'est pas nécessairement ouvert, fermé ou non vide.

Théorème 2.2.3. Soient H un espace de Hilbert, U un ouvert de H, f : U −→ R une fonction Fréchet diérentiable sur U, et f ∈ C2(U ). Alors, il existe σ, δ ≥ 0

f (y) ≥ f (x) + hf⁰(x), y − xi − σky − xk², (2.1) pour tout y ∈ B(x, δ).

Donnons maintenant une caractérisation analytique du sous diérentiel proximal. Celle-ci est fondamentale, elle constitue presque une nouvelle dénition de sous gradients proximaux.

2.2. Sous-gradients proximaux 34

Théorème 2.2.4. Soient f ∈ F et x ∈ dom(f). Alors v ∈ ∂pf (x)ssi ∃ σ, δ ≥ 0, tels que f (y) − f (x) + σky − xk² ≥ hv, y − xi, ∀ y ∈ B(x, δ). (2.2) Démonstration.

⇐=)

Soit y ∈ B(x, δ) et (y, α) ∈ epi(f) (i.e.f(y) ≤ α) l'inégalité (2.2) implique hv, y − xi ≤ α − f (x) + σ[ky − xk2+ |α − f (x)|²]

⇒hv, y − xi ≤ α − f (x) + σh(y − x, α − f (x)), (y − x, α − f (x))i donc

σh(y, α) − (x, f (x)), (y, α) − (x, f (x))i ≥ v(y − x) − (α − f (x)) =⇒ σk(y, α) − (x, f (x))k² ≥ h(v, −1), (y − x, α − f (x))i =⇒ σk(y, α) − (x, f (x))k² ≥ h(v, −1), (y, α) − (x, f (x))i D'après (la proposition 2.1.5 (iv)) on obtient (v, −1) ∈ Np

epi(f )(x, f (x)) =⇒)

Supposons que (v, −1) ∈ Np

epi(f )(x, f (x)), c'est-à-dire Il existe t > 0 tel que

(x, f (x)) ∈ proj_{epi(f )}((x, f (x)) + t(v, −1)), ce qui implique pour (y, α) dans epi(f)

d_{epi(f )}((x, f (x)) + t(v, −1)) = tk(x, f (x)) + t(v, −1) − (x, f (x))k ⇒tk(v, −1)k ≤ k[(x, f (x)) + t(v, −1)] − (y, α)k ⇒t2k(v, −1)k2 ≤ k[(x, f (x)) + t(v, −1)] − (y, α)k2 ⇒t2kvk2+ t² ≤ kx − tv − yk2+ |f (x) − t_α|2 ⇒t²kvk²+ t² ≤ kx − yk²+ t²kvk²+ 2thv, y − xi + (f (x) − t − α)² ⇒(f (x) − t − α)2 ≥ t2+ 2thv, y − xi − kx − yk²

Pour α = f(y) , on trouve

(f (x) − t − f (y))² ≥ t2+ 2thv, y − xi − kx − yk²

Maintenant, t étant constant, il est clair que le membre de droite de l'inégalité ci-dessus est positif pour y susamment proche de x. Par ailleurs, on peut supposer que pour

2.2. Sous-gradients proximaux 35

y ∈ B(x, δ), f(y) − f(x) + t > 0 (ceci car f est s.c.i).

Ainsi, par passage à la racine carrée dans l'inégalité démontrée plus haut, on obtient f (y) ≥ g(y) = f (x) − t + {t²+ 2thv, y − xi − kx − yk²}¹2 (2.3) Montrons que pour tout y dans B(x, δ), on a g0

(x) = v En eet

lim

ε↓0

g(y + tu) − g(y)

ε ^{= hg}

0

(y), ui, ∀u ∈ E. Pour tout u ∈ E on a

lim

ε↓0

g(y + tu) − g(y) ε = lim ε↓0 {t2+ 2thv, y + εu − xi − kx − y − εuk2}¹2 − {t2+ 2thv, y − xi − kx − yk2}¹2 ε = lim ε↓0 2thv, εui − ε²kuk2+ 2εhx − y, ui ε{t2+ 2thv, y + εu − xi − kx − y − εuk2}¹2 + {t2+ 2thv, y − xi − kx − yk2}¹2 = lim ε↓0 2thv, ui − εkvk2+ 2hx − y, ui {t2+ 2thv, y + εu − xi − kx − y − εuk2}¹2 + {t2+ 2thv, y − xi − kx − yk2}¹2 = ^{2thv, ui + 2hx − y, ui} 2{t2 + 2hv, y − xi − kx − yk2}¹2 = h ^{tv + x − y} {t2+ 2hv, y − xi − kx − yk2}¹2 , ui En particulier pour x = y on obtient

lim

ε↓0

g(x + tu) − g(x)

ε ^{= hv, ui = hg}

0(x), ui

alors g0(x) = v, et que g00 existe et est bornée (disons par 2σ > 0) dans un voisinage de x ; ainsi, quitte à modier δ, on a

g(y) ≥ g(x) + hv, y − xi − σky − xk² ∀y ∈ B(x, δ). d'après (2.3), on a

f (y) ≥ f (x) + hv, y − xi − σky − xk² ∀y ∈ B(x, δ).

2.2. Sous-gradients proximaux 36

Remarque 2.2.5. La preuve est considérablement simpliée lorsque la fonction f est supposée localement Lipschitzienne. En eet, la condition susante reste identique (le σ de (??) peut être pris égal à celui de (2.2)). En revanche, si (v, −1) ∈ Np

epi(f )(x, f (x)), la proposition 2.1.5 (iii) permet d'armer qu'il existe σ ≥ 0 tel que

hv, y − xi − (f (y) − f (x)) ≤ σky − xk2+ (f (y) − f (x))²,

pour tout y proche de x. Maintenant, |f(y) − f(x)| est borné localement par K|y − x| ; ceci nous permet de conclure avec σ0 = σ + K.

Corollaire 2.2.6. Soient S un ensemble fermé non vide de H, et x ∈ S. On dénit le cône normal proximal de S en x par Np

S(x) = ∂_pδ_S(x), où δS représente la fonction indicatrice de S. Démonstration. On a δ_S(x) =      0 si x ∈ S +∞ Sinon Soit x ∈ S, on a par dénition du sous diérentiel proximal

v ∈ ∂_pδ_S(x) ⇐⇒ ∃ σ, δ > 0, tel que : hv, y − xi ≤ σky − xk + δ_S(y) − δ_S(x), ∀y ∈ B(x, δ) ⇐⇒ ∃ σ, δ > 0, tel que : hv, y − xi ≤ σky − xk, ∀y ∈ B(x, δ).

D'autre part, on a v ∈ N_S^p(x) ⇐⇒ ∃ t > 0, d_S(x + tv) = tkvk ⇐⇒ ∃ t > 0, tkvk = inf y∈Skx + tv − yk ⇐⇒ ∃ t > 0, tkvk ≤ kx + tv − yk, ∀y ∈ S ⇐⇒ ∃ t > 0, t2kvk2 ≤ kx + tv − yk2, ∀y ∈ S ⇐⇒ ∃ t > 0, t2kvk2 ≤ hx + tv − y, x + tv − yi, ∀y ∈ S ⇐⇒ ∃ t > 0, t2kvk2 ≤ kx − yk2+ t²kvk2+ 2th−y, vi, ∀y ∈ S ⇐⇒ ∃ t > 0, −2thx − y, vi ≤ kx − yk², ∀y ∈ S

⇐⇒ ∃ t > 0, hv, y − xi ≤ ¹

2.2. Sous-gradients proximaux 37 D'près la proposition 2.1.7, on a v ∈ N_S^p(x) ⇐⇒ ∃ σ = ¹ 2t ^{> 0, tel que hv, y − xi ≤ σkx − yk} 2, ∀y ∈ S ∩ B(x, δ) ⇐⇒ ∃ σ = ¹ 2t ^{> 0, tel que hv, y − xi ≤ σkx − yk} 2, ∀y ∈ B(x, δ) ⇐⇒ N_S^p(x) = ∂pIS(x).  Corollaire 2.2.7. Soit f ∈ F et U ⊂ H un ouvert. On a les propriétés suivantes

(a) Supposons que f est Gâteaux diérentiable au point x ∈ U, alors ∂_pf (x) ⊆ {f_G⁰(x)}

(b) Si f ∈ C2(U ), alors

∂_pf (x) = {f⁰(x)}, ∀x ∈ U (c) Si f est convexe, alors v ∈ ∂pf (x) ssi

f (y) ≥ f (x) + hv, y − xi, ∀y ∈ H (2.4) Démonstration.

(a)

Supposons que f est Gâteaux diérentiable au point x ∈ U et v ∈ ∂pf (x), et montrons que ∂pf (x) ⊆ {f_G⁰ (x)}:

On a

f est Gâteaux diérentiable au point x donc lim t↓0 f (x + tv) − f (x) t ^{= hf} 0 G(x), vi, ∀v ∈ H. D'autre part on a

u ∈ ∂_pf (x) = {u ∈ H, ∃ σ, δ > 0 : hu, y − xi ≤ f (y) − f (x) + σky − xk², ∀y ∈ B(x, δ)}. Si on prend y = x + tv pour tout v ∈ H on obtient

u ∈ ∂_pf (x) ⇐⇒ ∃ σ, δ > 0, tel que : hu, x + tv − xi ≤ f (x + tv) − f (x) + σkx + tv_xk² ⇐⇒ ∃ σ, δ > 0, tel que : thu, vi ≤ f (x + tv) − f (x) + σt2kvk2

⇐⇒ ∃ σ, δ > 0, tel que : hu, vi ≤ ^{f (x + tv) − f (x)}

t ^{+ σtkvk}

2. Passons à la limite quand t ↓ 0, on obtient

hu, vi ≤ lim^{f (x + tv) − f (x)}

2.2. Sous-gradients proximaux 38 ce qui implique hf_G⁰(x), vi − hu, vi ≥ 0, et par suite hf_G⁰ (x) − u, vi ≥ 0, Pour v = −(f0 G− u) hf_G⁰ (x) − u, (−f_G⁰ (x) − u)i ≥ 0 =⇒ kf_G⁰(x) − uk² ≤ 0 =⇒ f_G⁰(x) = u. Par conséquent ∂pf (x) ⊆ {f_G⁰ (x)}. (b)

Si f ∈ C2(U ) et x ∈ U, alors f0(x) ∈ ∂_pf (x) par le théorème 2.2.4, puisque (2.1) implique (2.2) si v = f0(x). D'après la partie (a), ∂pf (x) contient seulement f0(x), alors ∂_pf (x) = {f⁰(x)}.

(c)

f est convexe, i.e., ∀x, y ∈ H, ∀t ∈ [0, 1]

f (ty + (1 − t)x) ≤ tf (y) + (1 − t)f (x).

v ∈ ∂_pf (x) ⇐⇒ ∃ σ, δ ≥ 0 tel que : f (y) ≥ f (x) + hv, y − xi − σky − xk², ∀y ∈ B(x, δ). Soit y ∈ H ,t ∈ [0, 1] et (1 − t)x + ty ∈ B(x, δ)

f (x) + hv, (1 − t)x + ty − xi − σk(1 − t)x + ty − xk² ≤ f ((1 − t)x + ty − x) ⇔ f (x) + thv, y − xi − σt2ky − xk2 ≤ tf (y) + (1 − t)f (x)

⇔ f (y) ≥ f (x) + hv, y − xi − σ.tky − xk2

En passant à la limite quand t ↓ 0 on obtient

f (y) ≥ f (x) + hv, y − xi,

ce qui achève la démonstration 

Corollaire 2.2.8. Supposons que f ∈ F.

(a) Si f atteint son minimum local en x , alors 0 ∈ ∂pf (x).

2.2. Sous-gradients proximaux 39

Démonstration. (a)

Supposons que f atteint un minimum local, donc il existe δ > 0 tel que f (y) ≥ f (x) ∀y ∈ B(x, r),

qui est l'inégalité du sous diérentiel proximal pour v = 0 et σ = 0, ce qui implique que 0 ∈ ∂_pf (x).

Pour démontrer (b), en vertu de (2.4) avec v = 0, on obtient f(y) ≥ f(x) pour tout y ∈ H, et par conséquent Alors x est un minimum global de f.  Proposition 2.2.9. Soit f ∈ F, alors

(i) ∂pf (x) + ∂_pg(x) ⊆ ∂_p(f + g)(x). (ii) ∀λ ≥ 0, ∂p(λf )(x) = λ∂_pf (x). Démonstration. (i) Soit x ∈ H (v + u) ∈ ∂_pf (x) + ∂_pg(x) ⇒ v ∈ ∂_pf (x) et u ∈ ∂_pg(x) ⇒∃σ1, δ1 ≥ 0, f (y) ≥ f (x) − σ1ky − xk²+ hv, y − xi ∀y ∈ B(x, δ1) ∃σ₂, δ₂ ≥ 0, g(y) ≥ g(x) − σ₂ky − xk2+ hv, y − xi ∀y ∈ B(x, δ₂) ⇒(f + g)(y) ≥ (f + g)(x) + hv + u, y − xi − (σ₁+ σ₂)ky − xk² ∀y ∈ B(x, δ₁) et y ∈ B(x, δ₂),

donc, il existe σ = (σ1+ σ₂) ≥ 0, pour tout y ∈ B(x, δ1) ∩ B(x, δ₂) tel que (v + u) ∈ ∂_p(f + g).

(ii)

Soient λ > 0, x ∈ H

v ∈ ∂_p(λf )(x) ⇔ ∃σ, δ ≥ 0, (λf )(y) ≥ (λf )(x) − σky − xk²+ hv, y − xi ∀y ∈ B(x, δ) ⇔ ∃σ, δ ≥ 0, λf (y) ≥ λ(f )(x) − σky − xk2+ hv, y − xi ∀y ∈ B(x, δ) ⇔ ∃σ⁰ = ^σ λ^{, δ ≥ 0, f (y) ≥ (f )(x) −} σ λky − xk² + h^v λ^{, y − xi ∀y ∈ B(x, δ)} ⇔ ^v λ ∈ ∂_pf (x) ⇔ v ∈ λ∂_pf (x). 

2.2. Sous-gradients proximaux 40

Proposition 2.2.10. Soient f, g deux fonctions s.c.i sur un ouvert U de Rn. (i) Si v ∈ ∂pmin{f, g}(x), alors v ∈ ∂_pf (x) si le minimum est atteint pour f et v ∈ ∂_pg(x) dans l⁰autre cas.

(ii) Si g ∈ C2(U ), alors

v ∈ ∂_p(f + g)(x) =⇒ v − g⁰(x) ∈ ∂_pf (x) Démonstration.

(i)

Si le minimum est atteint pour f, on peut écrire pour un certain σ ≥ 0, min{f, g}(y) − f (x) + σky − xk² ≥ hv, y − xi

f (y) − f (x) + σky − xk² ≥ hv, y − xi. Ainsi, v ∈ ∂pf (x).

D'autre part, si le minimum est atteint pour g, on peut écrire pour un certain σ ≥ 0, min{f, g}(y) − g(x) + σky − xk² ≥ hv, y − xi

g(y) + σky − xk² ≥ hv, y − xi. Ainsi, v ∈ ∂pg(x).

(ii)

Comme g (ou −g) est deux fois diérentiable dans un voisinage de x on peut trouver une constante σ0 tel que

g(x) − g(y) + σ⁰ky − xk² ≥ h−g⁰(x), y − xi, ∀y ∈ B(x, δ).

D'autre part, comme v ∈ ∂p(f + g)(x) d'après le théorème 2.2.4, il existe σ ≥ 0 tel que (f + g)(y) ≥ (f + g)(x) + hv, y − xi − σky − xk², ∀y ∈ B(x, δ⁰)

⇔f (y) + g(y) ≥ f (x) + g(x) + hv, y − xi − σky − xk2, ∀y ∈ B(x, δ⁰), là aussi dans un certain voisinage de x. En sommant ces deux inégalités, on obtient :

f (y) − f (x) + (σ + σ⁰)ky − xk² ≥ hv − g⁰(x), y − xi Pour σ00 = σ⁰+ σ

f (y) − f (x) + σ⁰⁰ky − xk2 ≥ hv − g⁰(x), y − xi,

quand y ∈ B(x, δ) ∩ B(x, δ0). Ceci implique, en vertu du théorème 2.2.4 que

2.2. Sous-gradients proximaux 41

Théorème 2.2.11. (La valeur moyenne). Soit f : H −→ R une fonction. Supposons que x, y ∈ H et f ∈ F, et f est Gâteaux diérentiable sur un voisinage du segment [x, y] (où [x, y] = {tx + (1 − t)y : t ∈ [0, 1]}), alors il existe z ∈ [x, y] tel que

f (y) − f (x) = hf_G⁰ (z), y − xi. Démonstration.

Considérons la fonction suivante

g : [0, 1] −→ R

x 7−→ g(x) = f (ty + (1 − t)x) − tf (y) − (1 − t)f (x).

On a g est continue sur [0, 1], diérentiable sur ]0, 1[, et vérie g(0) = g(1) = 0. Il s'ensuit qu'il existe un point ¯t ∈]0, 1[ soit un minimum ou un maximum de g sur [0, 1] (i.e., g⁰(¯t) = g(1) − g(0) = 0). Calculons g0(¯t) g⁰(¯t) = f (¯ty + (1 − ¯t)x))⁰− (¯tf (y))⁰ − ((1 − ¯t)f (x))⁰ = f⁰(¯ty + (1 − ¯t)x))(y − x) − (f (y) − f (x)) = hf_G⁰(z), y − xi − (f (y) − f (x)). g⁰(¯t) = 0, alors f (y) − f (x) = hf_G⁰ (z), y − xi.  Théorème 2.2.12. (Théorème de minimisation). Soit f ∈ F, et supposons que f est bornée sur un ensemble borné fermé S ⊂ H avec S ∩ dom(f) 6= ∅. Alors, il existe un ensemble des points x dense dans H, ayant la propriété que la fonction y 7−→ f(y)−hx, yi atteint un minimum unique sur S0.

Nous établissons maintenant un théorème important qui arme que l'ensemble dom(∂pf ) des points dans dom(f) auxquels il existe au moins un sous-gradient proximal est dense dans dom(f).

Théorème 2.2.13. Supposons que f ∈ F, soit x0 ∈ dom(f ), et ε > 0 sont donnés. Alors, il existe un point y ∈ B(x0, ε) satisfaisant ∂pf (y) 6= ∅, et f(x0) − ε ≤ f (y) ≤ f (x₀). En particulier, dom(∂pf ) est dense dans dom(f).

2.2. Sous-gradients proximaux 42

Démonstration.

Supposons que f est s.c.i, c'est-à-dire, il existe δ avec 0 < δ < ε tel que

x ∈ B(x₀, δ) =⇒ f (x) ≥ f (x₀) − ε. Nous donnons d'abord une démonstration dans le cas H = Rn. Dénissions la fonction g(x) =      [δ2− kx − x2 0]⁻¹ si kx − x₀k < 0, +∞ sinon.

La fonction g appartient à C2(B(x₀, δ)), considérons la fonction f + g ∈ F qui est bornée sur la boule fermée de centre x0 et de rayon δ. D'après le théorème de minimisation, la fonction f + g atteint un minimum local y sur B(x0, δ) qui est évidement dans B(x0, δ), alors 0 ∈ ∂p(f + g)(y). Par la proposition 2.2.10 on obtient

−g⁰(y) ∈ ∂_p(f )(y), et par suite, ∂p(f )(y) 6= ∅.

Puisque δ peut être arbitrairement petit, il s'ensuit que dom(∂p(f ))est dense dans dom(f). Il reste à montrer que f(y) ≤ f(x0)

y est un minimum local de f + g i.e.,

(f + g)(y) ≤ (f + g)(x₀), ∀y ∈ B(x₀, δ) ⇒f (y) + g(y) ≤ f (x₀) + g(x₀), ∀y ∈ B(x₀, δ)

⇒f (y) ≤ f (x0) + (g(x0) − g(y)) ≤ f (x0) (car g(x0) ≤ g(y)), ∀y ∈ (x0, δ) ⇒f (y) ≤ f (x₀), ∀y ∈ B(x₀, δ).

Ainsi le preuve est complète dans le cas d'un espace de dimension nie. pour cas d'un

2.3. La fonction distance 43

2.3 La fonction distance

Dans cette partie nous examinons le sous-gradient proximal de la fonction distance dS

associée à un sous-ensemble fermé non vide S de H.

Proposition 2.3.1. Supposons que S un sous-ensemble fermé de H, et que f est K-Lipschitzienne sur un ensemble ouvert U qui contient S. Supposons que s ∈ S est un minimum de f. Alors, la fonction x 7−→ f(x) + KdS(x) atteint son minimum sur U au point x = s. Inversement, si K0 > K et x 7−→ f(x) + K0dS(x) atteint son minimum sur U au point x = s, alors, s ∈ S.

Démonstration.

Supposons que x ∈ U et ε > 0. Soit s0 ∈ S tel que kx − s⁰k < d_S(x) + ε f atteint un minimum sur S à s, i.e. f(s) ≤ f(s0) en utilisant la propriété de Lipschitz nous avons

f (s) ≤ f (s⁰)

< f (x) + Kks⁰− xk < f (x) + Kd_S(x) + εK Passant à la limite lorsque ε ↓ 0 on obtient

f (s) ≤ f (x) + Kd_S(x)

⇔f (s) + KdS(s) < f (x) + KdS(x). On déduit que f + KdS atteint son minimum sur U en x = s.

Pour prouvez l'inverse. Supposons que K0 > K, et le point s /∈ S minimise f + KdS sur U.

Choisissons s0 ∈ S tel que, ks0− sk < K0

Kd_S(s).

Supposons que s minimise x 7−→ f(x) + KdS(x) sur U, et puisque s0 ∈ S ⊂ U, et f est K-Lipschitzienne, nous concluons que

f (s) + K⁰d_S(s) ≤ f (s⁰) + K⁰d_S(s⁰) ≤ f (s) + Kks⁰− sk < f (s) + K⁰d_S(s).

2.3. La fonction distance 44

Le résultat suivant forme un lien entre le cône proximal et le sous diérentiel de la fonction distance .

Théorème 2.3.2. Supposons que S est fermé, et s ∈ S. Alors N_S^p(s) = {tv : t ≥ 0, v ∈ ∂_pd_S(s)}. Démonstration.

Supposons que w ∈ Np

S(s), alors il existe σ ≥ 0 tel que hw, s⁰ − si ≤ σks⁰− sk2

pour tout s0 ∈ S. D'après le théorème de minimisation la fonction

x 7−→ −hw, xi + σkx − sk² atteint son minimum sur S au point x = s i.e., −hw, si ≤ −hw, xi + σkx − sk2.

la fonction x 7−→ −hw, xi + σkx − sk2 est localement lipschitzienne ; en eet | − hw, xi + σkx − sk2+ hw, yi − σky − sk²|

≤ |hw, y − xi + σ(kx − sk2− ky − sk2)|

≤ |hw, y − xi| + σ(|kx − sk + ky − sk|)(|kx − sk − ky − sk|) ≤ ky − xk(kwk + 2σδ),

donc il existe K = kwk + 2σδ ≥ 0 tel que la fonction x 7−→ −hw, xi + σkx − sk2 est K-lipschitzienne, d'après la proposition 2.3.1 la fonction

x 7−→ −hw, xi + σkx − sk²+ Kd_S(x) atteint son minimum local au point x = s i.e., − hw, si ≤ −hw, xi + σkx − sk2+ Kd_S(x) ⇔hw, x − si ≤ σkx − sk2+ Kd_S(x) ⇔h^w K^{, x − si ≤} σ Kkx − sk²+ dS(x) − dS(s) ⇔^w K ∈ ∂_pd_S(s) On déduit que w ∈ {tv : t ≥ 0, v ∈ ∂pd_S(x)}

Pour prouver l'inclusion inverse, on suppose que v ∈ ∂pd_S(s), alors

∃σ, δ ≥ 0 d_S(x) − hv, x − si + σkx − sk² ≥ d_S(s) = 0 ∀x ∈ B(s, δ). En particulier, il existe δ > 0 tel que

2.3. La fonction distance 45

pour tout s0 ∈ S ∩ B(s, δ), ce qui est équivalent à v ∈ N_S^p(s). Or le cône proximal est un cône, on obtient tv ∈ Np

S(s). Ce qui termine la démonstration. 

Nous pouvons de manière équivalente, lorsque f : H −→ ] − ∞, +∞] est semi-continue supérieurement, dénir son sur-diérentiel proximal. En eet −f est une fonction s.c.i, on peut alors dénir le sur-diérentiel proximal ∂pf (x).

Dénition 2.3.3. Supposons que −f ∈ F et x ∈ dom(−f), alors v ∈ ∂pf (x) ssi il existe des nombres positifs σ et δ tels que

f (y) − f (x) − σky − xk² ≤ hv, y − xi ∀y ∈ B(x, δ).

Théorème 2.3.4. Soient S un ensemble fermé non vide de H, x /∈ S, et projS(x) 6= ∅. Alors

∂^pd_S(x) 6= ∅. Démonstration.

Considérons la fonction suivante

f_x(w) = kw − xk.

D'après la dénition de la diérentiabilité au sens de Gâteaux de la fonction fx au point w lim t↓0 fx(w + tv) − fx(w) w ^{= lim}t↓0 kw + tv − xk − kw − xk t = lim t↓0 kw + tv − xk2 − kw − xk2 t(kw + tv − xk + kw − xk) = lim t↓0 tkvk2+ 2hv, w − xi kw + tv − xk + kw − xk = hv, ^{w − x} kw − xk^i. On déduit que : f_x⁰(w) = ^{w − x} kw − xk^.

2.3. La fonction distance 46

De plus la fonction f0

x est K-lipschitzienne sur B(u, δ), d'après le théorème de la valeur moyenne, pour tout x ∈ S et w ∈ B(u, δ), il existe v ∈ [u, w] tel que

f_x(w) − f_x(u) = hf_x⁰(v), w − ui

= hf_x⁰(v) − f_x⁰(u) + f_x⁰(u), w − ui

= hf_x⁰(v) − f_x⁰(u), w − ui + hf_x⁰(u), w − ui ≤ |hf_x⁰(v) − f_x⁰(u), w − ui| + hf_x⁰(u), w − ui ≤ |f_x⁰(v) − f_x⁰(u)|kw − uk + hf_x⁰(u), w − ui ≤ Kkw − uk2+ hf_x⁰(u), w − ui.

Soit ¯x ∈ projS(u), alors pour tout w ∈ B(u, δ) on a

d_S(w) − d_S(u) − K ≤ hf_x¯⁰(u), w − ui, donc f0

¯

x(u) ∈ ∂pd_S(u). 

Proposition 2.3.5. Soit f ∈ F, alors

∂^pf (x) = −∂p(−f )(x).

Théorème 2.3.6. Soient S un ensemble fermé non vide de H, x /∈ S, et projS(x) 6= ∅. Alors

Si ∂pdS(x) 6= ∅, alors dS est Fréchet diérentiable au point x et ∂_pd_S(x) = ∂^pd_S(x) = {d⁰_S(x)} = {^{x − y}

d_s(x)}, tel que projS(x) = {y}.

Proposition 2.3.7. Soient U ⊂ H un ouvert convexe, et f ∈ F(U). Alors f est K-lipschitzienne si et seulement si

∀x ∈ U, ∀v ∈ ∂_pf (x), kvk ≤ K.

Chapitre 3

Processus de rae non convexe du

premier ordre

Le but du dernier chapitre est d'établir un résultat d'existence et d'unicité d'une solution absolument continue pour le processus de rae non convexe du premier ordre avec une perturbation univoque, qui se présente sous la forme

     ˙x(t) ∈ −N_C(t)(x(t)) + h(t) p.p. sur [0, T ]; x(0) = x₀ ∈ C(0); (3.1)

Où C(t) est un ensemble non vide fermé de Rn, uniformément r − prox régulier. Nous détaillons un résultat dû à C. Castaing, A. Salvadori et L.Thibault [9]. Le problème sans perturbation (h ≡ 0), a était initialement étudié par L.Thibault [21], qui a démontré que toute solution du problème est solution du problème équivalent suivant

Dans le document Calcul proximal dans un espace de Hilbert (Page 20-67)