TD 9: Dualité de Fenchel-Rockafellar
Exercice 1. Adapté de l'examen 2015 . On s'intéresse au problème de minimisation suivant, où A est une matrice à m lignes etn colonnes, f :Rm →Rest convexe et continue et g:Rn →R est convexe et de classeC1 :
P = inf
x∈Rn
f(Ax) +g(x),
1. Démontrer queP =DoùD= maxy∈Rm−f∗(y)−g∗(−ATy). On suppose que le problème primal admet un minimiseur x¯ et le problème dual un maximiseur y¯. Démontrer que
f(A¯x) +f∗(¯y)− hAx|¯¯yi ≥0, g(¯x) +g∗(−ATy) +¯ hAx|¯¯yi ≥0.
En utilisant P =D, montrer que la somme de ces deux termes est nulle. Déduire que f(A¯x) +f∗(¯y) =hA¯x|¯yi,
g(¯x) +g∗(−ATy) =¯ −hA¯x|¯yi.
2. Déduire de la question précédente que −ATy¯∈ ∂g(¯x),puis que −ATy¯=∇g(¯x). Dans le casg(x) =kx−x0k22 (oùx0∈Rnest xé), donner une relation explicite entrey¯etx.¯ Exercice 2. Régularisation L1. On se place dans le même cadre que dans l'exercice précédent, mais on suppose de plus que f(y) =kyk1 =P
1≤i≤m|yi|etg(x) =12kx−x0k22. 1. Démontrer que
g∗(x) =1
2kx+x0k22−1 2kx0k22 f∗(y) =
(0 si∀i∈ {1, . . . , m}, |yi| ≤1 +∞ sinon,
2. En déduire que D=−infy∈Rm,kyk
∞≤1 1 2
ATy−x0
2
2−12kx0k2.
Dénition 1. On appelle mesure sur un ensemble compactXtout forme linéaireµ:C0(X)→R continue pour la normek·k∞. Une mesureµest dite positive si∀f ∈ C0(X),(f ≥0 =⇒µ(f)≥0).
Enn, une mesure de probabilité sur X est une mesure positiveµ telle quekµk∗∞= 1.
Exercice 3. Dualité de Kantorovich en dimension innie. SoientX, Y deux ensembles compacts, µ une mesure de probabilité sur X,ν une mesure de probabilité sur Y, et c :X×Y → Rune fonction continue. On considère le problème d'optimisation suivant :
P := inf{−(hµ|φi+hν|ψi)|φ∈ C0(X), ψ∈ C0(Y),∀(x, y)∈X×Y, φ(x) +ψ(y)≤c(x, y)}.
On dénit une forme linéaireΛ :C0(X)× C0(Y)→ C0(X×Y)parΛ(φ, ψ) =φ⊕ψ où φ⊕ψ: (x, y)∈X×Y 7→φ(x) +ψ(y).
1
1. Démontrer que P = inf(φ,ψ)∈C0(X)×C0(Y)f(Λ(φ, ψ)) +g(φ, ψ),où
f :σ∈ C0(X×Y)7→=
(0 si∀(x, y)∈X×Y, σ(x, y)≤c(x, y) +∞ sinon,
g: (φ, ψ)∈E×F 7→ −(hµ|φi+hν|ψi).
2. Démontrer que les conjuguées def etg sont données par les expressions : f∗ :γ ∈(C0(X×Y))∗ :γ 7→ sup
σ∈C0(X×Y),σ≤c
hγ|σi=hγ|ci+ sup
δ∈C0(X×Y),δ≤0
hγ|δi
=
(+∞ si ∃δ∈ C0(X×Y), δ≥0 t.q.hγ|δi<0 hγ|ci sinon
g∗ : (κ, λ)∈(C0(X))∗×(C0(Y))∗ 7→
(0 si(κ, λ) =−(µ, ν) +∞ sinon
3. Soit γ ∈(C0(X×Y))∗ une mesure surX×Y. On pose1 ΠXγ :φ ∈ C0(X) =γ((x, y)7→
φ(x))et de même ΠYγ :ψ∈ C0(Y)7→γ((x, y)7→ψ(y)). Montrer que Λ∗(γ) = (ΠXγ,ΠYγ)∈(C0(X))∗×(C0(Y))∗.
4. Déduire des questions précédentes et du théorème de dualité de Fenchel-Rockafellar la relation P =D (appellée dualité de Kantorovich) où
D:= max
γ∈C0(X×Y)∗
−g∗(−Λγ)−f∗(γ)
= max{−hγ|ci |γ ∈ C0(X×Y)∗ mesure positive tq ΠXγ =ν etΠYγ =ν}.
1. ΠXγ (resp.ΠYγ) est une mesure surX (resp.Y) appelée marge deγ surX (resp.Y).
2