Dualité

Donnons un bref aperçu de la théorie de la dualité pour les problèmes d’optimi-sation. Nous l’appliquerons au problème de minimisation convexe avec contraintes d’inégalité de la sous-section précédente. Nous avons associé à ce problème de minimisation un problème de recherche d’un point-selle (u, p) pour le Lagrangien L(v, q) = J(v) + q · F (v). Mais nous allons voir que, à l’existence d’un point-selle (u, p) du Lagrangien, on peut associer inversement non pas un mais deux problèmes d’optimisation (plus précisément, un problème de minimisation et un problème de maximisation), qui seront dits duaux l’un de l’autre. Nous expliquerons ensuite sur deux exemples simples en quoi l’introduction du problème dual peut être utile pour la résolution du problème d’origine, dit problème primal (par opposition au dual).

Revenons un instant au cadre général de la Définition 4.3.1 où V et Q sont deux espaces vectoriels munis d’un produit scalaire.

Définition 4.3.5 Soit L un Lagrangien défini sur une partie U × P de V × Q. On suppose qu’il existe un point-selle (u, p) de L sur U × P

∀ q ∈ P L(u, q) ≤ L(u, p) ≤ L(v, p) ∀ v ∈ U . (4.40) Pour v ∈ U et q ∈ P , posons

J (v) = sup

q∈PL(v, q) G(q) = inf

v∈UL(v, q) . (4.41)

On appelle problème primal le problème de minimisation inf

v∈UJ (v) , (4.42)

et problème dual le problème de maximisation sup

q∈PG(q) . (4.43)

Remarque 4.3.6 Bien sûr, sans hypothèses supplémentaires, il peut arriver que J (v) = +∞ pour certaines valeurs de v ou que G(q) = −∞ pour certaines valeurs de q. Mais l’existence supposée du point-selle (u, p) dans la Définition 4.3.5 nous assure que les domaines de J et G (i.e. les ensembles {v ∈ U , J (v) < +∞} et {q ∈ P , G(q) > −∞} sur lesquels ces fonctions sont à valeurs finies) ne sont pas vides, puisque (4.40) montre que J (u) = G(p) = L(u, p). Les problèmes primal et dual ont donc bien un sens. Le résultat suivant montre que ces deux problèmes sont

étroitement liés au point-selle (u, p). •

Théorème 4.3.7 (de dualité) Le couple (u, p) est un point-selle de L sur U × P si et seulement si

J (u) = min

v∈U J (v) = max

Remarque 4.3.8 Par la Définition (4.41) de J et G, (4.44) est équivalent à J (u) = min v∈U  sup q∈PL(v, q)  = max q∈P  inf v∈UL(v, q)  =G(p) . (4.45)

Si le sup et l’inf sont atteints dans (4.45) (c’est-à-dire qu’on peut les écrire max et min, respectivement), on voit alors que (4.45) traduit la possibilité d’échanger l’ordre du min et du max appliqués au Lagrangien L. Ce fait (qui est faux si L n’admet pas de point selle) explique le nom de min-max qui est souvent donné à un

point-selle. •

Démonstration. Soit (u, p) un point-selle de L sur U × P . Notons L∗ = L(u, p). Pour v ∈ U, il est clair d’après (4.41) que J (v) ≥ L(v, p), d’où J (v) ≥ L∗ d’après (4.40). Comme J (u) = L∗, ceci montre que J (u) = infv∈UJ (v) = L∗. On montre de la même façon que G(p) = supq∈P G(q) = L∗.

Réciproquement, supposons que (4.44) a lieu et posons L∗ =J (u). La définition (4.41) de J montre que

L(u, q) ≤ J (u) = L^∗ ∀ q ∈ P . (4.46)

De même, on a aussi :

L(v, p) ≥ G(p) = L∗ ∀ v ∈ U , (4.47)

et on déduit facilement de (4.46)-(4.47) que L(u, p) = L∗, ce qui montre que (u, p)

est point-selle. _

Remarque 4.3.9 Même si le Lagrangien L n’admet pas de point selle sur U × P , on a tout de même l’inégalité élémentaire suivante, dite de dualité faible

inf v∈U  sup q∈PL(v, q)  ≥ sup q∈P  inf v∈UL(v, q)  . (4.48)

En effet, pour tout v ∈ U et q ∈ P , L(v, q) ≥ infv′∈UL(v′, q), donc sup_q∈PL(v, q) ≥ sup_q∈Pinfv′∈UL(v′, q), et puisque ceci est vrai pour tout v∈ V , infv∈V sup_q∈PL(v, q) ≥ sup_q∈Pinfv′∈UL(v′, q), ce qui donne (4.48). La différence (positive) entre les deux

membres de l’inégalité (4.48) est appelée saut de dualité. •

Exercice 4.3.2 Soit le Lagrangien L défini pour (v, q) ∈ RN × RN par L(v, q) = ¹

2^Av· v − v · q,

où A est une matrice symétrique définie positive. Calculer la fonction duale G(q). Exercice 4.3.3 Donner un exemple de Lagrangien pour lequel l’inégalité (4.48) est stricte avec ses deux membres finis.

Exercice 4.3.4 Soit U (respectivement P ) un convexe compact non vide de V (res-pectivement Q). On suppose que le Lagrangien est tel que v → L(v, q) est convexe sur U pour tout q∈ P , et q → L(v, q) est concave sur P pour tout v ∈ U. Montrer alors l’existence d’un point selle de L sur U × P .

Application

Nous appliquons ce résultat de dualité au problème précédent de minimisation convexe avec contraintes d’inégalité convexes

inf

v∈V , F (v)≤0J(v) (4.49) avec J et F = (F1, . . . , FM) convexes sur V . On introduit le Lagrangien

L(v, q) = J(v) + q · F (v) ∀ (v, q) ∈ V × (R+)^M . Dans ce cadre, on voit facilement que, pour tout v ∈ V ,

J (v) = sup

q∈(R+)ML(v, q) =^{( J(v)} si F (v) ≤ 0

+∞ sinon , ^(4.50)

ce qui montre que le problème primal inf_v∈V J (v) est exactement le problème d’ori-gine (4.49) ! D’autre part, la fonction G(q) du problème dual est bien définie par (4.41), car (4.41) est ici un problème de minimisation convexe. De plus, G(q) est une fonction concave car elle est l’infimum de fonctions affines (voir l’Exercice 4.1.4). Par conséquent, le problème dual

sup

q∈(R+)MG(q) ,

est un problème de maximisation concave plus simple que le problème primal (4.49) car les contraintes sont linéaires ! Cette particularité est notamment exploitée dans des algorithmes numériques (cf. l’algorithme d’Uzawa). Une simple combinaison des Théorèmes de Kuhn et Tucker 4.3.3 et de dualité 4.3.7 nous donne le résultat suivant. Corollaire 4.3.10 On suppose que les fonctions J, F₁, . . . , FM sont convexes et dé-rivables sur V . Soit u∈ V tel que F (u) ≤ 0 et les contraintes sont qualifiées en u au sens de la Définition 4.2.17. Alors, si u est un minimum global de J sur V , il existe p∈ (R+)M tel que

1. p est un maximum global de G sur (R+)M,

2. (u, p) est un point-selle du Lagrangien L sur V × (R+)M,

3. (u, p)∈ V × (R+)M vérifie la condition d’optimalité nécessaire et suffisante F (u)≤ 0 , p ≥ 0 , p · F (u) = 0 , J^′(u) + p· F^′(u) = 0 . (4.51) L’application la plus courante du Corollaire 4.3.10 est la suivante. Supposons que le problème dual de maximisation est plus facile à résoudre que le problème primal (c’est le cas en général car ses contraintes sont plus simples). Alors pour calculer la solution u du problème primal on procède en deux étapes. Premièrement, on calcule la solution p du problème dual. Deuxièmement, on dit que (u, p) est un

point selle du Lagrangien, c’est-à-dire que l’on calcule u, solution du problème de minimisation sans contrainte

min

v∈V L(v, p) .

Précisons qu’avec les hypothèses faites il n’y a pas a priori d’existence, ni d’unicité, des solutions pour tous ces problèmes.

Remarque 4.3.11 Pour illustrer le Corollaire 4.3.10 et l’intérêt de la dualité, nous considérons un problème de minimisation quadratique dans RN avec contraintes d’inégalité affines min v∈RN, F (v)=Bv−c≤0  J(v) = ¹ 2^Av· v − b · v  , (4.52)

où A est une matrice N × N symétrique définie positive, b ∈ RN, B une matrice M× N et c ∈ RM. Le Lagrangien est donné par

L(v, q) = ¹

2^Av· v − b · v + q · (Bv − c) ∀ (v, q) ∈ RN × (R+)M . (4.53) Nous avons déjà fait dans (4.50) le calcul de J , et dit que le problème primal est exactement (4.52). Examinons maintenant le problème dual. Pour q ∈ (R+)M, le problème

min

v∈RNL(v, q)

a une solution unique puisque v → L(v, q) est une fonction continue, strictement convexe et infinie à l’infini. Cette solution vérifie ∂L

∂v(v, q) = Av− b + B∗q = 0, soit v = A−1(b− B∗q). On obtient donc

G(q) = L A⁻¹(b− B^∗q), q
, et le problème dual s’écrit finalement

sup q≥0  −¹ 2^q· BA⁻¹B^∗q + (BA⁻¹b− c) · q −¹ 2^A −1b· b  . (4.54)

Certes, la fonctionnelle à maximiser dans (4.54) n’a pas une allure particulière-ment sympathique. Il s’agit encore d’un problème avec fonctionnelle quadratique et contraintes affines. Cependant, le Corollaire 4.3.10 nous assure qu’il a une so-lution. On peut voir d’ailleurs que cette solution n’est pas forcément unique (sauf si la matrice B est de rang M car la matrice BA−1B∗ est alors définie positive). Mais l’avantage important du problème dual (4.54) vient du fait que les contraintes (q ≥ 0) s’expriment sous une forme particulièrement simple, bien plus simple que pour le problème primal ; et nous verrons à la Sous-section 4.4.3 que cet avantage peut être utilisé pour mettre au point un algorithme de calcul de la solution du

Exercice 4.3.5 Nous reprenons l’Exemple 4.1.7 de minimisation de l’énergie complé-mentaire. On considère le problème de minimisation sous contrainte

inf −divτ =f dans Ω  G(τ ) = ¹ 2 Z Ω|τ|2dx  . (4.55)

Pour τ : Ω → RN et v : Ω → R, on introduit le Lagrangien correspondant L(τ, v) = ¹ 2 Z Ω|τ|2dx + Z Ω v · (divτ + f)dx.

Montrer que la fonction duale D(v) correspondante n’est rien d’autre que (l’opposée de) l’énergie −J(v) de l’Exemple 4.1.6. En admettant que −J(v) admette un point de maximum u dans V0 et que (4.55) admette un point de minimum σ, montrer que (σ, u) est un point selle du Lagrangien et que σ = ∇u.