3.3 Analyse de convergence globale
3.3.2 Itérations externes
Dans cette sous-section, nous considérons la convergence globale de l’algorithme 3.1. Le resultat sera donné après avoir énoncé et démontré le lemme suivant.
Lemme 3.3.1. Soient {γk} une suite de nombres positifs ou nuls qui converge vers zéro, ` ∈ N, a ∈]0,1[ et K est un ensemble infini de nombres positifs ou nuls. Supposons que
{βk} est une suite de nombres positifs définie par βk+1 ≤amax
βi : (k−`)+≤i≤k +γk pour tout k∈ K, (3.3.7)
βk+1 =βk pour tout k∈N\K. (3.3.8)
Alors, la suite {βk} converge vers zéro.
Preuve. Nous considérons tout d’abord le cas K=N. Alors, la suite{βk} satisfait
βk+1 ≤amaxβi : (k−`)+≤i≤k +γk, (3.3.9) pour tout k ∈ N. La preuve de cette partie se base sur celle de [11, Proposition 1]. Soit
¯
γ := sup{γk :k∈N} etβ := max{β0,γ/(1¯ −a)}. Nous commençons par démontrer par récurrence surk∈Nqueβk ≤β. Le cas de base est trivialement vrai. Pourk ∈Ndonné, supposons que βi ≤β pour tout 0≤i≤k. Alors, βk+1 ≤a β+ ¯γ et donc βk+1 ≤β. Par conséquent, la limite supérieure de la suite{βk}est finie. En prenant la limite supérieure dans l’inégalité (3.3.9), nous obtenons l’inégalité
lim supβk ≤alim supβk,
à partir de laquelle nous déduisons que lim supβk = 0 et par conséquent lim
Considérons maintenant le cas où K ( N. Soit K = {ki}i∈N où ki < ki+1 pour tout
i∈N. Nous commençons par démontrer qu’on a pour tout i∈N
βki+1 ≤amaxβj : (ki−`)+ ≤j ≤ki +γki. (3.3.10) Puisque ki ∈ K, l’inégalité (3.3.7) est vraie pour k = ki. Si ki + 1 ∈ K, alors on a
ki+1 =ki+ 1 et l’inégalité (3.3.10) est trivialement vraie. Si ki+ 1 ∈ K/ , alors on a
βki+1 =βki+1−1 =. . .=βki+1 ≤amaxβj : (ki−`)+ ≤j ≤ki +γki,
ce qui prouve (3.3.10). Montrons maintenant que
maxβj : (ki −`)+≤j ≤ki ≤maxβj :k(i−`)+ ≤j ≤ki . (3.3.11) Si ` ≤ i, alors (i−`)+ = i−` et puisque i ≤ ki, nous avons encore (ki −`)+ = ki−`. Dans ce cas, l’inégalité (3.3.11) découle du fait que ki−` ≤ ki −`. Dans l’autre cas, on a ` > i ce qui implique que k(i−`)+ = k0. Par définition de K, on a βk = βk0 pour tout
0≤k < k0. Il découle de ce qui précède que
max
βj : (ki−`)+ ≤j ≤ki ≤max{βj : 0≤j ≤ki} = max{βj :k0 ≤j ≤ki},
ce qui termine la preuve de (3.3.11). En rappelant que les termes de la suite {βk} sont constants entre deux itérations successives indexées dans l’ensemble K, c’est à dire que
βk =βkj pour tout j ≥1et kj−1 < k≤kj, on obtient
maxβj :k(i−`)+ ≤j ≤ki = maxβkj : (i−`)+≤j ≤i .
En combinant cette égalité et les inégalités (3.3.10) et (3.3.11), on obtient
βki+1 ≤amax
βkj : (i−`)+≤j ≤i +γki. (3.3.12) En définissant βi0 :=βki etγi0 :=γki pour touti∈N, l’inégalité (3.3.12) s’écrit
βi+10 ≤amaxβj0 : (i−`)+ ≤j ≤i +γi0.
En appliquant la première partie de la preuve, cette dernière inégalité implique que la suite{βi0}converge vers zéro et par suite la suite{βk}k∈K converge vers zéro. Finalement, la convergence de toute la suite {βk}k∈N vers zéro est garantie par (3.3.8).
Nous sommes maintenant prêt à énoncer le résultat de convergence globale de l’algo-rithme3.1. Il est supposé implicitement que l’algorithme des itérations internes réussit, à chaque fois appelé, à trouver une paire (wk+1, σk+1)vérifiant (3.2.4). D’après le théorème
3.3.1, cette hypothèse est satisfaite lorsque la fonction objectif est bornée inférieurement.
Théorème 3.3.2. Supposons que l’algorithme 3.1 génère une suite infinie {wk}. Alors, les suites {∇L(wk)} et {g(xk) + σk(λk −yk)} convergent vers zéro. En plus, si nous supposons que la suite{(∇f(xk),∇g(xk))}soit bornée, alors les itérés primaux approchent la faisabilité primale dans le sens où zéro est un point limite de la suite {g(xk)} ou bien ils approchent la stationnarité de la mesure d’infaisabilité x 7→ kg(xk)k, c’est à dire
(i) La suite {yk} est non bornée. Alors, la suite des paramètres de pénalisation {σk}
converge vers zéro et la suite des itérés primaux approche l’échec de la condition de qualification LICQ, i.e. il existe une suite de vecteurs unitaires {uk} telle que
lim infk∇g(xk)ukk= 0. (3.3.13)
(ii) La suite {yk} est bornée. Alors, la suite des itérés primaux est asymptotiquement réalisable, i.e.
limg(xk) = 0. (3.3.14)
Preuve. La convergence des suites {∇L(wk)} et {g(xk) +σk(λk −yk)} découlent de l’étape6de l’algorithme 3.1. Supposons maintenant que la suite {(∇f(xk),∇g(xk))} soit bornée. Pour montrer la deuxième partie de l’affirmation, nous distinguons les deux cas suivants.
Cas 1. L’étape 2 est exécutée une infinité de fois. Soit K l’ensemble des indices des itérations au cours de lesquelles l’étape2est exécutée. Par hypothèse,Kest de dimension infinie. Soit k∈ K. Alors, on a
kg(xk)k ≤amaxηij : (k−`)+ ≤j ≤k et ik+1 =k.
En utilisant ceci et la définition de ηk à l’étape 1de l’algorithme 3.1, on obtient
ηik+1 =ηk =kg(xk)k+ζk
≤amaxηij : (k−`)+ ≤j ≤k +ζk. (3.3.15) Lorsque k /∈ K, on a
ηik+1 =ηik. (3.3.16) En appliquant maintenant le lemme 3.3.1 à la suite {ηik}k∈N définie par les relations (3.3.15) et (3.3.16), nous concluons que {ηik}k∈N converge vers zéro. Ceci implique qu’il existe une sous-suite de {g(xk)}qui converge vers zéro.
Cas 2. L’étape 2 est exécutée un nombre fini de fois. Dans ce cas, il existe k0 ∈ N tel que l’étape 3 est exécutée à chaque itération k ≥ k0. Ceci implique que λk = λk0 pour tout k ≥k0. De plus, le lemme 3.2.1 implique que la suite {σk} converge vers zéro. Soit
k ≥k0. On a
∇g(xk)g(xk) = σk(∇f(xk) +∇g(xk)yk)−σk∇f(xk)
+∇g(xk)(g(xk) +σk(λk0 −yk))− ∇g(xk)(σkλk0).
En prenant la norme des deux côtés, on obtient
k∇g(xk)g(xk)k ≤ σkk∇L(wk)k+σkk∇f(xk)k+k∇g(xk)kkg(xk) +σk(λk0 −yk)k
+k∇g(xk)kkσkλk0k.
En utilisant cette inégalité, la bornitude de {(∇f(xk),∇g(xk))} et la convergence vers zéro des suites{σk},{∇L(wk)}et{g(xk)+σk(λk−yk)}, on obtientlimk∇g(xk)g(xk)k= 0.
Passons maintenant à la preuve du résultat (i). Supposons qu’il existeK ⊂N tel que la sous-suite {||yk||}K tend vers l’infini. Soit k ∈ K et définissons uk := yk
kykk. Nous avons l’inégalité suivante
k∇g(xk)ukk ≤ 1
kykk(k∇L(wk)k+k∇f(xk)k).
En utilisant cette inégalité, la convergence de {∇L(wk)} vers zéro et la bornitude de
{∇f(xk)}, on obtient (3.3.13).
Finalement, pour démontrer (ii), nous distinguons de nouveau deux cas.
Cas 1. L’étape 3 est exécutée une infinité de fois. Dans ce cas, le lemme 3.2.1 implique que la suite {σk} converge vers zéro. D’autre part, on a
kg(xk)k ≤ kg(xk) +σk(λk−yk)k+σk(kλkk+kykk),
Le résultat (3.3.14) est donc obtenu en utilisant cette inégalité, la bornitude de la suite
{yk} et le fait queλk+1 =yk ou λk+1 =λk.
Cas 2. L’étape 3 n’est exécutée qu’un nombre fini de fois. Dans ce cas, il existe k0 ∈ N
tel que l’étape 2 est exécutée à chaque itération k ≥ k0. Ceci implique que ik = k−1
pour toutk > k0. Choisissons k1 > k0 tel que (k1−l)+ > k0. Soit k≥k1. Nous avons
kg(xk)k ≤ amaxηij : (k−`)+≤j ≤k = amaxηj−1 : (k−`)+ ≤j ≤k
= amaxkg(xj−1)k+ζj−1 : (k−`)+ ≤j ≤k
≤ amaxkg(xj−1)k: (k−`)+ ≤j ≤k +amaxζj−1 : (k−`)+ ≤j ≤k .
La convergence de la suite {g(xk)} vers zéro est donc obtenue en appliquant le lemme
3.3.1. Ceci complète la preuve du théorème.
On peut noter que la convergence globale de l’algorithme 3.1 n’est pas affectée par le choix de σk+ à l’étape 2. Nous terminons cette étude de convergence par un théorème qui analyse le comportement de toute la suite {wk}générée par l’algorithme 3.1 incluant celle générée par l’algorithme 3.2.
Théorème 3.3.3. Supposons que la suite {xk} reste dans un ensemble compact, que la suite {Hk} est bornée et que les matrices K(wk, σk) sont uniformément définies positives pour tout tout k∈N. Alors, les deux situations suivantes se produisent :
(i) Si le problème (PE)est non réalisable, alors tout point limite x¯ de la suite {xk} est un point stationnaire de la measure d’infaisabilité, c’est à dire ∇g(¯x)g(¯x) = 0, {yk}
est non bornée et {σk} tend vers zéro.
(ii) Si le problème (PE)est réalisable, alors ou bien la suite {yk} est non bornée et{xk}
a un point limit x¯ tel que la matrice ∇g(¯x) n’est pas de plein rang, ou bien la suite
{yk} est bornée et {wk} vérifie les conditions d’optimalité du problème (PE).
Preuve. Les hypothèses du théorème 3.3.3impliquent que le théorème 3.3.1s’applique, ce qui implique que l’algorithme 3.2 termine après un nombre fini d’itérations lorsqu’il est appelé par l’algorithme 3.1.
Si le problème (PE) est non réalisable, le théorème 3.3.2 implique que{∇g(xk)g(xk)}
tend vers zéro. Par conséquent, tout point limite x¯ de {xk} vérifie ∇g(¯x)g(¯x) = 0. Le résultat (iii) du théorème 3.3.2 implique que la suite {yk} est non bornée et que la suite
{σk}converge vers zéro.
Supposons que le problème (PE) est réalisable. Si {yk} est non bornée, alors le ré-sultat (iii) du théorème 3.3.2 implique qu’au moins un point limite x¯ de {xk} est tel la matrice ∇g(¯x) n’est pas de plein rang. Si {yk} est borné, alors tout point limite w¯ de la suite {wk} vérifie F0( ¯w) = 0.