Résolution de programmes quadratiques en nombres entiers

HAL Id: tel-02459253

https://hal.archives-ouvertes.fr/tel-02459253

Submitted on 29 Jan 2020

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

Résolution de programmes quadratiques en nombres entiers

Amélie Lambert

To cite this version:

Amélie Lambert. Résolution de programmes quadratiques en nombres entiers. Recherche opéra- tionnelle [cs.RO]. Conservatoire National des Arts et Métiers (CNAM), 2009. Français. �tel-02459253�

Centre d’´Etude et de Recherche en Informatique du CNAM – EA 1395 Ecole Doctorale d’Informatique T´el´ecomunications et Electronique

R´ esolution de programmes

quadratiques en nombres entiers

TH ` ESE

pr´esent´ee et soutenue publiquement le 26 novembre 2009 pour l’obtention du

Doctorat du Conservatoire National des Arts et M´ etiers

(sp´ecialit´e informatique) par

Am´elie Lambert

Composition du jury

Directeurs de th`ese : Alain Billionnet

Professeur `a l’Ecole Nationale Sup´erieure d’Informatique pour l’Industrie et l’Entreprise Sourour Elloumi

Maˆıtre de conf´erences `a l’Ecole Nationale Sup´erieure d’Informatique pour l’Industrie et l’Entreprise

Rapporteurs : Walid Ben Ameur

Professeur `a T´el´ecom & Management SudParis Franz Rendl

Professeur `a l’Universit´e de Klagenfurt

Examinateurs : Pierre Hansen

Professeur `a HEC Montr´eal Fr´ed´eric Roupin

Maˆıtre de conf´erences au Conservatoire National des Arts et M´etiers Fran¸cois Vanderbeck

Professeur `a l’Universit´e Bordeaux 1

Lesdeuxpremièrespersonnesquejetiensàremeriersonteuxsansquiettethèsen'aurait

jamaisvulejour.Onpeutdéjà leuraorder laoneptiondesidées quisont labasede e tra-

vail,maisaussi,on peutleurreonnaître l'énorme investissement dansmon enadrement,aussi

bien au niveau sientique et méthodologique, que dans mon intégration au sein de l'équipe

OptimisationCombinatoire.Alors,pourtoutça etpourlereste,meriàvous,AlainetSourour,

de m'avoir permis d'aller aubout deette thèse.

Je remerie également Walid Ben Ameur et Franz Rendl de m'avoir fait l'honneur d'être

rapporteurs de ette thèse. J'éprouve un profond respet pour la qualité de leur travail, et le

regard enourageant qu'ilsont portésurmes travauxmetouhe beauoup.

MeriàPierre Hansen,FrédériRoupinetFrançoisVanderbekd'avoiraeptédefaireparti

de monjury.

Jeremerieaussi,lesmembresdulaboratoireCEDRIC,ettoutpartiulièrement lesmembres

de monéquipe Christophe, Marie-Christine,Eri, Agnès,Alain,Mathieu etBenoît. Hélène mé-

ritebienunephraseentièrepourlaremerierd'avoirpartagénotrebureau,relumathèseetmes

papiers, partagéles réjouissanes despotsde thèse,etbien d'autre hoses enore.

Je remerie également tous eux qui ont étés présents pendant es trois années : Antoine,

Mélu,Manue,William,Manue,Ben,Loig,Mathilde,Greg,Rémi,Marettouseuxquej'oublie.

Je remerie évidemment ma famille sans qui ette thèse n'aurait pu être. Je pense à mes

frères, Olivier et Benoît, ma soeur, Sophie, et bien sûr mes parents, que je remerie d'ailleurs

partiulièrement dem'avoirtoujourssoutenueetenouragée.Jeremerieégalementtoutlereste

delafamille,dont jeneiterai iiquequelquesnoms :Bon-papa,Constane,Mathilde,Thierry

etNathalie. Un remeriement toutspéial àManu pour avoir partiiper à ette thèse au ours

de sonstage.

Je roisqu'il yen aun qui méritesonparagraphe. Je teremerie pour un tasde hoses :le

soutien au quotidien, la partiipation à la releture, réériture de ette thèse, de mes papiers.

Ainsiquepour toutes lesidées quetu m'a souées. Meri pour toutElie.

Notations 5

Introdution 7

1 Etat de l'art 13

1.1 Laprogrammation quadratique nononvexe en nombresentiers . . . . . . . . . . 13

1.2 Laprogrammation quadratique nononvexe en variables mixtes . . . . . . . . . . 18

2 Certaines reformulations de la programmation quadratique en variables 0-1 utilisées dans ette thèse 21 2.1 Reformulations linéairesde programmesquadratiques en variables0-1 . . . . . . 22

2.2 Reformulations quadratiques onvexes de programmesquadratiques en variables 0-1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24

2.2.1 La méthode de lapluspetite valeurpropre, Hammer etRubin,1970 . . . 24

2.2.2 LaméthodeUQCR (Unonstrained Quadrati Convex Reformulation), Billionnet etElloumi,2007 . . . . . . . . . . . . . . . . . . . . . . . . . . 25

2.2.3 LaméthodeQCR (Quadrati Convex Reformulation),Billionnet,Elloumi etPlateau,2009 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

3 Reformulations linéaires de programmes quadratiques en nombres entiers 31 3.1 Introdution etexemple de base. . . . . . . . . . . . . . . . . . . . . . . . . . . . 31

3.2 Unereformulationbaséesurlalinéarisationduproduitdedeuxvariablesbinaires: BBL (Binary Binary Linearization) . . . . . . . . . . . . . . . . . . . . . . . . 32

3.2.1 La méthode BBL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33

3.2.2 Son renforement BBLr . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34

3.2.3 Appliation à l'exemplede base . . . . . . . . . . . . . . . . . . . . . . . . 35

3.3 Unereformulationbaséesurlalinéarisationduproduitd'unevariablebinairepar une variable entière:BIL (Binary Integer Linearization) . . . . . . . . . . . 36

3.3.1 La méthode BIL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37

3.3.2 Son renforement BILr . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38

3.4 Comparaisonthéorique de BBL etBIL. . . . . . . . . . . . . . . . . . . . . . . . . 41

3.5 Conlusion. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

4 Reformulationsquadratiquesonvexesdeprogrammesquadratiquesennombres

entiers 43

4.1 Introdution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43

4.2 Une reformulationonvexe naïve :NC (Naive Convexifiation) . . . . . . . . . 45

4.3 Laméthode IQCR (Integer Quadrati Convex Reformulation) . . . . . . . . . 47

4.3.1 Un shémagénéral de reformulations onvexespour les programmesqua-

dratiquesen nombresentiers . . . . . . . . . . . . . . . . . . . . . . . . . 47

4.3.2 Une projetion du polyèdreassoié . . . . . . . . . . . . . . . . . . . . . . 50

4.3.3 Calul de lameilleure onvexiation au sein de e shéma : laméthode

IQCR . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52

4.3.4 Extension deIQCR auxproblèmes mixtesentiers :laméthode IQCRs . . . 57

4.3.5 Utilisationdesontraintesd'inégalité pour perturberlafontion objetif . 63

4.3.6 Appliation à l'exemplede base . . . . . . . . . . . . . . . . . . . . . . . . 64

4.4 UnerestritionintéressantedeIQCR:CQCR(CompatQuadratiConvexReformulation) 68

4.5 InterprétationdesméthodesNC,CQCRetIQCRpourlaprogrammationquadratique

en variables 0-1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73

4.5.1 La méthode NCorrespondà laméthodede lapluspetitevaleurpropre . 74

4.5.2 La méthode CQCRorrespond à laméthode QCR . . . . . . . . . . . . . . . 74

4.5.3 La méthode IQCRorrespond à unrenforement de QCR . . . . . . . . . . 76

4.6 Conlusion. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80

5 Un algorithme de Branh and Bound spéique pourIQCR fondé sur les pro-

priétés de projetion de la Setion 4.3.2 83

6 Résultats expérimentaux 89

6.1 Résultats expérimentaux pour les problèmes quadratiques en variables entières

soumisà desontraintes linéaires . . . . . . . . . . . . . . . . . . . . . . . . . . . 90

6.1.1 Présentation deslasses deproblèmes étudiées. . . . . . . . . . . . . . . . 90

6.1.2 Lesrésultats . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92

6.2 Résultats expérimentaux pour les problèmes quadratiques envariables 0-1 . . . . 99

6.2.1 Résultats pour le problème non ontraint : les instanes de Pardalos et

Rodgers(1990) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99

6.2.2 Résultats pour des problèmes ave ontraintes d'égalités : le problème

d'aetation detâhes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101

6.3 Conlusion. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102

Bibliographie 109

Annexes 113

A Algorithmes et outils de alul de la programmation semi-dénie 115

A.1 Rappel :lesmatriessemi-dénies positives . . . . . . . . . . . . . . . . . . . . . 115

A.2 Laprogrammation semi-dénie . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116

A.3 Théoriede ladualité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118

A.4 Optimisationfondéesur lesvaleurspropres . . . . . . . . . . . . . . . . . . . . . 121

A.5 Lesalgorithmes de résolution dela SDP . . . . . . . . . . . . . . . . . . . . . . . 123

A.5.1 La méthode despointsintérieurs, Borhers, 1999 . . . . . . . . . . . . . . 123

A.5.2 La méthode desfaiseaux (SpetralBundle), Helmberg, 2000 . . . . . . . 125

B Details des résulats expérimentaux 127 B.1 Résultats pour lalasse deproblèmes (EIQP) ^{. . . . . . . . . . . . . . . . . . . 128}

B.2 Résultats pour lalasse deproblèmes (IIQP) ^{. . . . . . . . . . . . . . . . . . . . 135}

B.3 Résultats pour les instanesde Pardalosand Rodgers . . . . . . . . . . . . . . . . 142

B.4 Résultats pour leproblème d'aetationde tâhe . . . . . . . . . . . . . . . . . . 145

C Le logiiel SIQP (Solution of Integer Quadrati Programs) 147

2.1 Algorithmede résolution de (QP⁰¹) ^basésurle reformulationUQCR . . . . . . . . 27

2.2 Algorithmede résolution de (QP⁰¹) ^basésurle reformulationQCR . . . . . . . . . 29

4.1 Algorithmede résolution de (QP) ^basésurlareformulationIQCR . . . . . . . . . 57

4.2 Algorithmede résolution de (QP) ^basésurlareformulationCQCR . . . . . . . . . 72

4.3 Algorithmede résolution de (QP⁰¹) ^basésurla reformulation IQCR . . . . . . . . 78

5.1 Lesbranhements possiblesdansl'algorithme de Branh and Boundbasé surles solutions de (P_α,β^e ) ^{. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86}

1 Tableau réapitulatifdes méthodesproposées dansette thèse . . . . . . . . . . . 104

Soit (QP) ^{un programme} quadratique en variables entières qui onsiste à minimiser une fontion quadratiquesoumise àdesontrainteslinéaires. Un telproblèmeappartient àlalasse

desproblèmesN P^{-diiles .Lessolveursstandardsquiutilisentdes}algorithmesde Branh and Bound peuvent résoudre eaement (QP) ^{dans le as partiulier où sa fontion objetif est}

onvexe. Ainsi, pour résoudre(QP) ^{nousavonshoisi de le reformuler en un programme équi-}

valent ayantune fontionobjetifonvexe.Deuxassontalors possibles:soitnousreformulons

(QP) ^{en un programme linéaire, soit nous le} reformulons en un programme quadratique et onvexe.

Dans la première partie de ette thèse, nous présentons plusieurs reformulations linéaires

de (QP)^{, i.e.} reformulations en un programme équivalent qui a une fontion objetif linéaire.

Il existe de nombreuses méthodes de linéarisationpour la programmation quadratique binaire.

Une approhe naturelle pour résoudre (QP) ^{est don de le reformuler en un programme qua-}

dratique en variables binaires. Cela peut être fait en remplaçant haque variable entière par

sadéompositionbinaire, puisen linéarisant haque nouveau produitde variablesbinaires.Ce-

pendant, ette méthode que nous appelons BBL (Binary Binary Linearization), fournit un

programme linéaire ave ungrand nombrede variables etde ontraintes. Nous proposonsdon

unenouvelleapprohe,BIL (Binary Integer Linearization),quionsisteàreformuler(QP)

en un programme quadratique partiulier où haque terme quadratique est le produit d'une

variable entière par une variable binaire. Comme dans la méthode BBL, les variables binaires

viennent de la déomposition binaire des variables entières initiales. Ensuite, nous linéarisons

le programme obtenu en remplaçant haque terme quadratique par une variable réelle et un

ensembled'inégalités. Comme lenombrede termesquadratiques estplus petit que danslamé-

thode BBL, le nombre de variables additionnelles est réduit. Don, le programme obtenu ave

la méthode BIL est signiativement plus petit. De plus, ontrairement à e que l'on pourrait

attendre,l'approhe BILfournit uneborneobtenue par relaxationontinue demeilleure qualité

que elle fournie par l'approhe BBL. Chaque reformulation aboutit à un programme linéaire

équivalent à (QP) ^{quenousrenforçonsen lui ajoutant desinégalitésvalides.}

Dans une deuxième partie, nousprésentons plusieurs reformulations quadratiques onvexes

de (QP)^{, i.e. nous} reformulons (QP) ^{en un programme équivalent ayant une fontion objetif}

quadratiqueetonvexe. Nousintroduisonsd'abord une approhe simplepour onvexier(QP)

quionsiste àexprimerlinéairement lesarrésdesvariablesentièresen utilisant leurs déompo-

objetif de (QP)^{. Nous appelons ette méthode NC (Naive} Convexifiation). Ensuite, nous introduisons un nouveau shéma de reformulations onvexes qui perturbe la fontion objetif

à l'aide de l'expression linéaire des produits des variables entières initiales, et des ontraintes

d'égalité de (QP)^{. Puis nous montrons que nous pouvons aluler au sein de e shéma une}

reformulation optimale du point de vue de la borne obtenue par relaxation ontinue : larefor-

mulation IQCR (Integer Quadrati Convex Reformulation). Cette reformulation est basée

sur la solution optimale duale d'une relaxation semi-dénie de (QP)^{. De plus, nous montrons}

que laméthode IQCRpeuts'adapter failement àla programmation mixte entière. Cetteadap-

tation,que nousappelons IQCRs permetégalement d'intégrer les ontraintes d'inégalitédansla

perturbation de lafontion objetif de notreshéma de reformulations onvexes.Ensuite, nous

présentonsunerestrition intéressante delaméthodeIQCR,appeléeCQCR (Compat Quadrati

Convex Reformulation). La diérene entre ette approhe etla méthode IQCR est que CQCR

n'utilisequelesexpressionslinéairesdesarrésdesvariablespour perturberlafontionobjetif,

alors qu'IQCRutiliseelles detouslesproduits.L'intérêtest quedeCQCRfournitun programme

reformulé de plus petite taille en omparaison ave elui de l'approhe IQCR, e qui peut être

avantageux expérimentalement. Finalement, nous appliquons les 3 ^{méthodes NC, CQCR et IQCR}

à la programmation quadratique binaire. Nous montrons que NC et CQCR sont équivalentes à

desméthodesdéjà onnues. Unrésultat intéressant estqueIQCRonstitueune améliorationdes

onvexiations existantes pour laprogrammation quadratique binaire.

Dans une troisième partie, nous présentons un algorithme de Branh andBound spéique

basésur unepropriété de projetion de laméthode IQCR.

Finalement, nous omparons expérimentalement les quatre reformulations linéaires et les

troisreformulationsquadratiques etonvexesde(QP) ^{quenousavonsobtenues. Dansleasoù}

les variables sont entières, les expérimentations onernent deux lasses d'instanes de (QP)^,

l'une ayant uneontrainted'égalité etl'autreune ontrainte d'inégalité. Lesrésultatsmontrent

que la plupart des instanes ayant jusqu'à 40 ^{variables peuvent être résolues en moins d'une}

heureave unsolveur standardpar les reformulationsIQCR etCQCR.Noustestons ensuitenotre

reformulationonvexeIQCRsurlaprogrammation quadratiquebinaire.Lesrésultatsonrment

quenotre approhe IQCR améliore lesonvexiations existantes.

Mots-lés: Programmation en nombres entiers, programmation en variables mixtes-entières,

programmation quadratique, reformulation linéaire, reformulation quadratique onvexe, pro-

grammationsemi-dénie, expérimentations

Let (QP)^{bean integer quadratiprogram that onsistsinminimizing a quadrati funtion}

subjet tolinear onstraints. A suhproblem belongs to thelassof N P^{-Hard problems.Stan-}

dard solvers that use a Branh and Bound algorithm an eiently solve (QP) ^{in the spei}

ase where its objetive funtion is onvex. Thus, to solve (QP)^{, we hoose to} reformulate it into an equivalent problemwith aonvex objetive funtion.Two reformulations arepossible :

eitherwe reformulate (QP) ^{into alinear program, orwe} reformulate it into aonvexquadrati program.

In therst part of this dissertation,we present several linearizations of (QP)^{, i.e.reformu-}

lationsinto anequivalentprogram withalinearobjetivefuntion.Manylinearization methods

for the quadrati binary programs are known. A natural approah when onsidering (QP) ^is

therefore to reformulate it into a quadrati binary program. This an be done by the binary

deompositionofeahintegervariableand thenthelinearizationofeahnewprodutoftwobi-

naryvariables.However,thismethod,thatwedenotebyBBL (Binary Binary Linearization),

leadstoalinearprogramwithalargenumberofvariablesandonstraints.Wethenpresentanew

approah, BIL (Binary Integer Linearization), that onsistsin reformulating (QP) ^{into a}

partiular quadrati integer program where eah quadrati term is the produt of an integer

variable by a binary variable. As in theBBL approah, thebinary variables ome from the bi-

nary deomposition ofthe initialinteger variables.Then, we linearize theobtained program by

replaing eah quadrati term by a new real variable and a set of inequalities. Asthe number

of quadrati terms islowerthan intheBBL approah,the numberof additional variables is re-

dued. Hene, the obtained integer linearprogram is signiantly smallerinthe BIL approah.

Moreover,ontrarytowhatonemightthink,theBILapproahprovidesabetterboundobtained

by ontinuous relaxation than the BBL approah.Eah reformulation leads to an integer linear

program thatis equivalent to (QP) ^{andthat we improve byadding valid} inequalities.

In a seondpart, we present several quadrationvex reformulations of(QP)^{,i.e.we refor-}

mulate (QP) ^{into an equivalent program, with a quadrati onvex objetive funtion.We rst}

introdue a simple approah to onvexify (QP) ^{that onsistsinexpressing linearlythe squares}

of integer variables using their unary deompositions, and then to onvexify with the smallest

eigenvalueoftheHessianmatrixof(QP)^{.WeallthisapproahNC (Naive} Convexifiation).

Then, we introdue anew onvexreformulation shemethat perturbs theobjetive funtion of

(QP)^{withthelinearexpressionoftheprodutsofintegervariables,andtheequalityonstraints}