Approches complètes pour la résolution des problèmes DisCSPs et DCOPs

(1)

Universit´e Mohammed V - Agdal

Facult´

e des Sciences de Rabat

N d’ordre : 2485

TH`

ESE DE DOCTORAT

pre´sent´ee par

Imade BENELALLAM

Discipline : Sciences de l’ingénieur Spécialité : Informatique

Approches compl`

etes pour la r´

esolution des

probl`

emes DisCSPs et DCOPs

soutenue le 05 avril 2010 devant le jury

Pr´esident :

M. El Houssine BOUYAKHF . . . Professeur (PES), Universit´e Mohammed V Agdal Examinateurs :

M. Mustapha BELAISSAOUI . . . Professeur (PH), ENCG (Settat)

M. Christian BESSIERE . . . Directeur de recherche CNRS-LIRMM (France) M. Driss MIZANE . . . Professeur (PES), Facult´e des Sciences (Rabat) M. Sylvain PEICHOWIAK . . . Professeur (PES), Universit´e de Valenciennes (France) M. Ismail KASSOU . . . Professeur (PES), ENSIAS (Rabat)

M. Mostafa BELLAFKIH . . . Professeur (PES), INPT (Rabat) M. Mohammed RAMDANI . . . Professeur (PES), FST (Mohammedia)

Facult´e des Sciences, 4 Avenue Ibn Battouta B.P. 1014 RP, Rabat, Maroc Tel : +212 (0) 37 77 18 34/35/38, Fax : +212 (0) 37 77 42 61, http ://www.fsr.ac.ma

(2)

(3)

i

”TOUTES CHOSES SONT DIFFICILES AVANT QUE D’ˆETRES FACILE.”

(4)

(5)

Table des mati`eres

Avant propos xi

R´esum´e xiii

Introduction g´en´erale 1

I Raisonnement par contraintes distribu´ees : satisfaction 7 1 Probl`emes de Satisfaction de Contraintes 9

1.1 Introduction. . . 9

1.2 Probl`eme de Satisfaction de Contrainte . . . 10

1.2.1 Notations et d´efinitions . . . 10

1.2.2 Exemples de formalisation . . . 12

1.3 M´ethodes de r´esolution des CSPs . . . 15

1.3.1 Le Bachtracking chronologique . . . 15

1.3.2 Le Forward Checking . . . 16

1.3.3 Le Backjumping . . . 17

1.3.4 Le Backtracking dynamique . . . 18

1.3.5 Param`etres de mesure des CSP centralis´es . . . 20

1.3.6 Exp´erimentation . . . 21

1.4 M´ethodes de renforcement de la consistance . . . 22

1.4.1 L’arc-consistance : AC-x . . . 24

1.4.2 L’arc-consistance : AC-2000 . . . 28

1.5 M´ethodes hybrides . . . 29

1.6 M´ethodes de recherche heuristiques . . . 30

1.6.1 Ordonnancement des variables . . . 31

1.6.2 Ordonnancement des valeurs . . . 32

1.6.3 Ordonnancement d’inf´erences . . . 33

1.7 Complexité théorique d’un problème . . . 33

1.8 Probl`emes de d´ecision . . . 33

1.8.1 Décidabilité, adéquation et complétude . . . 34

1.9 Conclusion . . . 35

(6)

iv Table des mati`eres

2 Probl`emes de Satisfaction de Contraintes Distribu´es 37

2.2 Probl`eme de Satisfaction de Contrainte Distribu´e . . . 38

2.2.1 D´efinitions . . . 39

2.2.2 Exemples d’applications . . . 40

2.3 Algorithmes complets pour la r´esolution des DisCSPs . . . 44

2.3.1 Synchronous Backtracking : SBT . . . 45

2.3.2 Asynchronous Backtracking : ABT family . . . 47

2.4 Algorithmes de propagation de contraintes distribu´es . . . 55

2.4.1 Propagation inconditionnelle : ABT-uac . . . 56

2.4.2 Propagation directionnelle : ABT-dac . . . 58

2.4.3 Asynchronous Forward Checking : AFC . . . 62

2.5 M´etriques d’´evaluation des performances . . . 66

2.5.1 Horloge logique pour les syst`emes distribu´es . . . 67

2.5.2 Horloge logique pour les multiprocesseurs . . . 68

2.5.3 Evaluation des algorithmes visant l’Internet´ . . . 68

2.5.4 Evaluations non li´ees `´ a l’horloge logique . . . 70

3 Based-Nogood Asynchronous Forward-Checking 73 3.1 Introduction. . . 73

3.2 Based-nogood AFC . . . 74

3.2.1 Algorithm description . . . 75

3.3 La compl´etude de l’algorithme AFC-ng. . . 78

3.4 R´esultats exp´erimentaux . . . 79

4 Asynchronous Inter Level Forward-Checking 83 4.1 Introduction. . . 83

4.2 Travaux en relation . . . 84

4.3 Nogood-based AFC r´evis´e . . . 84

4.4 Asynchronous Inter Level Forward-Checking . . . 87

4.4.1 Description de l’algorithme . . . 88 4.5 Preuve de correction . . . 89 4.6 Evaluation experimentale . . . 90 4.6.1 Communication rapide . . . 90 4.6.2 Communication lente . . . 91 4.7 Conclusion . . . 92

5 Asynchronous Maintenance of Arc-Consistency 93 5.1 Introduction. . . 93

5.2 Travaux effectu´es dans le domaine . . . 94

5.3 Asynchronous Maintenance of Arc-Consistency . . . 96

5.3.1 Description de l’algorithme . . . 97

5.4 Preuve de correction . . . 99

5.5 R´esultats exp´erimentaux . . . 100

(7)

Table des mati`eres v

II Raisonnement par contraintes distribu´ees : optimisation 103 6 R´eseaux de contraintes et optimisation 105

6.2 R´eseaux de contraintes valu´es . . . 106

6.3 Exemple d’un probl`eme d’optimisation . . . 107

6.3.1 Ordonnancement de systemes satellitaires . . . 107

6.3.2 Commutateurs des r´eseaux mobiles . . . 108

6.4 M´ethodes de r´esolution VCSPs . . . 110

6.4.1 Branch and Bound . . . 110

6.4.2 Prévision d’échecs : FC-valué . . . 111

6.4.3 Extended Forward Checking Valu´e . . . 111

6.4.4 Directed Arc Concistancy Valu´e . . . 112

6.4.5 Hybridation EFC et DAC Valu´e . . . 112

6.4.6 Principe de m´emorisation des ´eches. . . 113

6.4.7 Quelques r´esultats emp´eriques . . . 119

7 Probl`emes d’optimisation de contraintes distribu´es 121 7.1 Introduction. . . 121

7.2 D´efinitions. . . 122

7.3 Exemples d’optimisation distribu´ee . . . 122

7.4 Méthodes de résolution complétes. . . 125

7.4.1 Asynchronous Forward-Bounding . . . 127

7.4.2 Asynchronous Forward-Bounding with backjumping . . . 129

7.4.3 L’algorithme ADOPT . . . 132

8 Asynchrounous Beardth First Search DCOP algorithm 137 8.1 Introduction. . . 137

8.2 Le concept d’arbre BFS . . . 138

8.3 Le pr´etraitement . . . 140

8.3.1 Premi`ere phase : calcule des pseudo-voisins d’un agent . . . 140

8.3.2 De l’AFB-BJ `a l’ABFS . . . 141

8.3.3 Deuxi`eme phase : initialisation de borne . . . 144

8.4 Description de l’algorithme ABFS . . . 145

8.5 Exp´erimentations . . . 148

9 Distributed Dynamic Branch & Bound algorithms 153 9.1 Introduction. . . 153

9.2 Distributed Dynamic Branch and Bound . . . 154

9.2.2 Ad´equation et optimalit´e . . . 157

9.2.3 Exp´erimentations . . . 158

9.3 Dynamic Backtracking for Optimization : DyBop . . . 160

9.3.2 Ad´equation et optimalit´e . . . 161

9.3.3 Exp´erimentations . . . 161

(8)

vi Table des mati`eres

Conclusions et Perspectives 169

10 Conclusion g´en´erale 169

Annexes 175

(9)

Table des figures

1.1 Exemple d’un probl`eme de coloriage de carte. . . 13

1.2 Les deux solution pour le probl`eme de 4 reines . . . 14

1.3 Solution d’une r`egle de Golomb `a 4 marques. . . 14

1.4 Exemple de recherche arborescente sur un probl`eme de 4-reines. . . 16

1.5 (La moyenne du nombre de nœuds visit´es pour resp. 0.4 (a) et 0.7 (b) . . . 21

1.6 (La moyenne du nombre de contraintes testés pour resp. 0.4 (a) et 0.7 (b) . 22 2.1 Modèle d’un CSP distribué . . . 39

2.2 Distances inter-villes . . . 42

2.3 la repr´esentation DisCSP du probl`eme MSP . . . 43

2.4 Une Instance du probl`eme de capteurs mobiles distribu´es . . . 43

2.5 Exemple d’ex´ecution de l’algorithme ABT. . . 52

3.1 Nogood-based AFC algorithm (Partie 1) . . . 76

3.2 Nogood-based AFC algorithm (Partie 2) . . . 77

3.3 Non concurrent constraints checks et communication cost exécuté par AFC et AFC-NG sur des problèmes DisCSPs aléatoires (P1 = 0,5) . . . 80

3.4 Non concurrent constraints checks et communication cost exécuté par AFC et AFC-NG sur des problèmes DisCSPs aléatoires (P1 = 0,8) . . . 80

4.1 Nogood-based AFC algorithm running by agent self (partie 1) . . . 85

4.2 Nogood-based AFC algorithm running by agent self (Part 2) . . . 86

4.3 An example of the AILFC execution . . . 87

4.4 New lines/procedures of AILFC with respect to AFC-ng. . . 89

4.5 Total number of messages sent and NCCCs on fast communication (p1 = 0,25) . . . 90

4.6 Total number of messages sent and NCCCs on fast communication (p1 = 0,75) . . . 91

4.7 Total number of messages sent and ENCCCs on slow communication (p1 = 0,25) . . . 91

4.8 Total number of messages sent and ENCCCs on slow communication (p1 = 0,75) . . . 92

5.1 L’algorithme AMAC (Partie 1) . . . 97

5.2 L’algorithme AMAC (Partie 2) . . . 99

(10)

viii Table des figures

5.3 Non concurrent constraints checks et le coût de la communication exécutée par les algorithmes AMAC, ABT-dac et ABT-uac dans les problèmes

ran-dom DisCSPs (p1 = 0,5) . . . 100

5.4 Non concurrent constraints checks et le coût de la communication exécuter par les algorithmes AMAC, ABT-dac et ABT-uac dans les problèmes ran-dom DisCSPs (P1 = 0,8) . . . 101

5.5 Non concurrent constraints checks et le coût de la communication exécutée par les algorithmes AMAC, ABT-dac et ABT-uac dans les problèmes ran-dom DisCSPs (p2=0.30, d=10, 10≤ n≤ 50) . . . 101

6.1 Probl`eme d’ordonnancement des satellites . . . 107

6.2 Probl`eme d’affectation des cellules `a des commutateurs . . . 109

6.3 Exemple d’un graphe de contraintes valu´ees . . . 114

6.4 La moyenne du nombre de noeds visit´e resp. 0.25 (a) et 0.75 (b) . . . 119

7.1 Un graphe DCOP du probl`eme DMS avec l’approche PEAV . . . 125

7.2 Example d’un r´eseau de contraintes DCOP . . . 128

7.3 Les messages ´echang´es dans ADOPT . . . 134

7.4 Exemple d’ex´ecution de l’algorithme ADOPT . . . 135

8.1 Transformation d’un graphe de contraintes en un arbre DFS . . . 139

8.2 M´ecanisme d’envoi des messages FB ESTIMATE dans l’ABFS . . . 144

8.3 Le nombre moyen des messages envoy´es par ABFS and ABF-BJ en r´esolvant des instances Max-DisCSP de p1 = 0.4 . . . 148

8.4 Le nombre de NCCCs effectué par ABFS and ABF-BJ en résolvant des instances Max-DisCSP à p1 = 0.4 . . . 148

8.5 Le nombre moyen des messages envoyés par ABFS and ABF-BJ en résolvant des problèmes de coloriage de graphe à 3 colours. . . 149

8.6 Le nombre de NCCCs effectué par ABFS and ABF-BJ en résolvant des problèmes de coloriage de graphe à 3 colours. . . 149

8.7 La charge de communication de ABFS et ABF-BJ sur des problèmes DMS 150 8.8 Le nombre de NCCCs effectué par ABFS and ABF-BJ pour la résolution des problèmes DMS . . . 150

9.1 Exemple d’un graphe de contraintes DCOP . . . 155

9.2 Nombre moyen de messages envoy´es par DisDB&B et SynB&B . . . 159

9.3 Nombre moyen de messages envoy´es par DisDB&B et SynB&B . . . 159

9.4 Comparaison des algorithmes DyBop, ABFS, et AFB-BJ. . . 163

(11)

Liste des Algorithmes

1.1 Le Backtracking chronologique . . . 16

1.2 La fonction d’anticipation de l’algorithme FC. . . 17

1.3 Conflict-directed backjumping . . . 18

1.4 Dynamic Backtracking . . . 20

1.5 Proc´edure de filtrage AC-3 . . . 24

2.1 L’algorithme SBT . . . 46

2.2 L’algorithme ABTkernel: Le noyau de la recherche asynchrone avec le retour en arri`ere (1/2). . . 49

2.3 L’algorithme ABTkernel: Le noyau de la recherche asynchrone avec le retour en arri`ere (2/2). . . 50

2.4 L’algorithme ABT : Ajout de liens permanents. Seules les nouvelles parties ou celles modifiées sont présentées en respectant l’ABTkernel qui figure dans l’algorithme 2.2 . . . 53

2.5 L’algorithme ABTnot : sans ajout de liens. Seules les nouvelles parties ou celles modifiées sont présentées en respectant l’ABTkernel qui figure dans l’algorithme 2.2 . . . 54

2.6 L’algorithme AC pour la phase de pr´etraitement des DisCSPs . . . 57

2.7 L’algorithme ABT-uac : Seules les nouvelles parties ou celles modifiées sont présentées en respectant l’ABTlien . . . 59

2.8 L’algorithme ABT-dac : Seules les nouvelles parties ou celles modifiées sont présentées en respectant l’ABT-c . . . 61

2.9 L’algorithme Asynchronous Forward Checking : AFC (1/2) . . . 63

2.10 L’algorithme Asynchronous Forward Checking : AFC (2/2) . . . 64

2.11 Horloge logique de Lamport entretenait par un agent Ai. . . 67

6.1 La proc´edure B&B . . . 110

6.2 La fonction d’anticipation du Forward Checking valu´e ´etendue . . . 111

6.3 Pseudo code de l’EFC Value . . . 112

6.4 Pseudo code du DAC Value . . . 112

6.5 Pseudo code de l’EFC+DAC Value . . . 113

6.6 Valued Dynamic Backtracking . . . 116

6.7 Valued Dynamic Backtracking . . . 118

7.1 L’algorithme AFB-BJ . . . 131

8.1 La première phase de prétraitement dans ABFS effectué par l’agent Ai pour calculer ses pseudo-voisins. . . 140

(12)

8.2 La deuxième phase de prétraitement dans ABFS effectuée par l’agent Ai . . 145

8.3 L’algorithme ABFS ex´ecut´e par un agent Ai . . . 147

9.1 L’algorithme DisDB&B . . . 158

9.2 L’algorithme DyBop . . . 162

10.1 L’algorithme DisAC9 . . . 177

10.2 L’algorithme ADOPT . . . 178

10.3 Proc´edures de reception de messages dans l’AFB (Partie 1) . . . 179

(13)

Avant propos

Ce mémoire de thèse a été réalisé au sein du laboratoire LIMIARF (Laboratoire Infor-matique, Mathématique appliquées, Intelligence Artificielle et Reconnaissance de Forme) de la faculté des sciences de Rabat.

Ce travail a été effectué sous la direction du Professeur El Houssine Bouyakhf de la faculté des sciences de Rabat en Codirection avec le Professeur Mustapha BELAISSAOUI de l’ENCG de Settat, leur disponibilité et leur soutien m’ont permis d’achever ce travail. Je tiens à leur exprimer ma reconnaissance et ma profonde gratitude.

Je remercie également les Professeurs Driss Mizane, Mr.Christian Bessiere et Sylvain PEICHOWIAK tous les trois rapporteurs de cette thèse, pour avoir accepter d’évaluer mon travail, de lire de manière approfondie mon manuscrit pour apporter leurs précieux conseils.

Je tiens aussi à remercier plus particulièrement Mr. Christian Bessiere pour son en-cadrement, ces conseils et les différents échanges que nous avons pu avoir et qui m’ont permis de faire évoluer mes idées et de me donner une autre vision de la recherche. Je remercie également mes examinateurs Mr. Ismail KASSOU, Mr. Mostafa BELLAFKIH et Mr. Mohammed RAMDANI pour l’intérêt qu’ils ont porté à mon travail.

Merci à tout les membres de ma grande et ma petite famille, pour leur soutien durant toutes ces années d’études, je ne saurais être qu’infiniment reconnaissant quant aux sa-crifices qu’ils ont consentis. Merci à tous les collègues du laboratoire LIMIARF pour leur amitié et bonne humeur qui ont égayé ma vie au laboratoire.

Enfin merci à ceux et celles que je n’ai pas pu citer, mes sincères amitiés et remercie-ments.

(14)

(15)

R´esum´e

Notre travail de recherche s’articule autour de l’étude de la technologie contraintes à laquelle nous avons apporté plusieurs contributions. Dans un premier temps, nous avons étudié le formalisme des Problèmes de Satisfaction de Contraintes Distribués (DisCSP) par la suite nous avons développé plusieurs algorithmes à aspect différent. Dans un deuxième temps, nous nous sommes intéressés aux Problèmes d’Optimisation de Contraintes Dis-tribués (DCOP) dans le but de proposer des techniques originales.

Les travaux que nous avons apporté dans cette thèse peuvent se résumer comme suit. D’une part nous avons proposé trois contributions dans le cadre des DisCSPs.❶ AFC-ng (based-nogood Asynchronous Forward-Checking) : C’est un algorithme qui consiste à intégrer le concept de nogood dans le protocole AFC d’origine. Ce mécanisme nous a permis de réduire considérablement l’arbre de recherche à travers un apprentissage dy-namique des agents.❷AILFC (Asynchronous Inter Level Forward-Checking) : Dans cette méthode nous exploitons les caractéristiques intrinsèques du graphe de contraintes, ce der-nier est transformer en une structure pseudo-arborescente. Cette approche nous a permis d’améliorer les performances, à travers une recherche asynchrone et parallèlement concur-rente. ❸ AMAC(Asynchronous Maintenance of Arc-Consistency AMAC) : Cette contribu-tion consiste à la propagation des effets d’arc-inconsistance à travers les agents voisins. Cet algorithme contribue à la réduction de l’espace de recherche de manière à ce que les inconsistances causées par les suppressions potentielles des valeurs soient propagées. D’autre part nous avons réalisé trois approches de résolution des problèmes DCOPs. ❶ ABFS (Asynchronous Breadth-First Search DCOP) : Cet algorithme consiste à transfor-mer le graphe de contraintes du problème à résoudre en un arbre Breadth-First Search (BFS), le parcours des agents en largeur-d’abord a permis la réduction de l’espace de recherche et l’amélioration de la solution. ❷ DisDB&B (Distributed Dynamic Branch and Bound) : Une nouvelle méthode pour l’ordonnancement dynamique des agents et c’est aussi une approche de base pour l’apprentissage distribué des nogoods valués. ❸ DyBop (Dynamic Backtracking for DCOP) : Une version Asynchrone de l’algorithme DisDB&B. Cette technique est basée sur l’intégration du mécanisme “forward checking”, permettant l’amélioration des bornes inférieures.

Tous ces algorithmes ont été implémentés dans la plate-forme DisChoco, ce qui a permis de réaliser plusieurs évaluations expérimentales. Celles-ci ont montré que ces algorithmes permettent d’obtenir un niveau de performances beaucoup plus élevé que les méthodes déjà existantes.

(16)

xiv R´esum´e

Abstract

This thesis articulates mainly around the study of two distributed resolution forma-lisms. So, several contributions have been proposed. At first, we have studied Distributed Constraints Satisfaction Problems ( DisCSP) and developed several algorithms with dif-ferent aspect. Then, we have been interested in Distributed Constraints Optimization Problems (DCOP) and we have proposed original techniques.

The work we have made in this thesis can be summarized as follows. First we have proposed three contributions in DisCSP.❶AFC-ng(based-nogood Asynchronous Forward-Checking) : This algorithm is conceived by the intergration of nogood concept in the original protocol (AFC). This mechanism allowed us to reduce considerably the size of the search tree by a dynamic learning of the agents. ❷ AILFC (Asynchronous Inter Le-vel Forward-Checking) : This method exploits the intrinsic properties of the constraints network by transforming the constraints graph into a pseudo-tree structure. This trans-formation allowed us to improve the performances through a parallel concurente search strategy.❸AMAC(Asynchronous Maintenance of Arc-Consistency AMAC) : This contribu-tion consists of the propagacontribu-tion of arc-consistency. the AMAC algorithm contribute in the reduction of the search space in a way that the inconsistencies caused by the potential de-letions are propagated. On the other hand we have made three DCOP solving approach.❶ ABFS(Asynchronous Breadth-First Search DCOP) : This algorithm is based on processing the constraints graph into a Breadth-First Search tree. ❷ DisDB&B (Distributed Dyna-mic Branch and Bound) : It’s a new approach of dynaDyna-mic agents re-ordering for DCOPs resolution. It can be considered as a preliminary algorithm for valued nogoods learning. ❸ DyBop (Dynamic Backtracking for DCOP) : It’s an extended asynchronous version of DisDB&B algorithm. It consists in the integration of the Forword-Checking mecanism to improve the lower bound estimations.

All these algorithms have been implemented in DisChoco plateform, which has allowed certain experiments evaluation. These have shown that these algorithms can obtain a level of performance higher than other existing methods.

(17)

Introduction g´en´erale

Contexte du travail

Paradigme de programmation

La programmation par contraintes est l’un des paradigmes les plus intéressants qui a occupé récemment une place importante dans la recherche scientifique. En effet, elle a apportée un nouveau souffle à la résolution des problèmes fréquemment rencontrés (des problèmes de taille, à domaine discret et souvent avec des contraintes non linéaires), là où les autres techniques ne pouvaient plus les prendre en considération. Cette techno-logie contrainte est considérée comme étant un cadre de résolution des problèmes pu-rement combinatoires. L’intérêt d’une telle approche est évident, la spécification et la conception du problème peuvent être confiées à un spécialiste dans son domaine (planifi-cation, gestion de stocks, conception de circuits,...) mais non spécialiste dans la résolution des problèmes combinatoires. L’idée sous-jacente est que la partie difficile du travail sera résolue définitivement lors de l’écriture du solveur de contraintes. Comme a dit Eugene C. Freuder : ”La programmation par contraintes représente une des avancées que l’informa-tique ait jamais réalisée qui se rapproche le plus du Saint Graal de la programmation : l’utilisateur définit le problème, l’ordinateur le résout”.

Constraint programming represents one of the closest approaches computer science has yet made to the Holy Grail of programming : the user states the problem, the computer solves it. Eugene C. Freuder, CONSTRAINTS, April 1997 Cependant, Un nombre important d’entreprises et de projets de recherches se sont lancés dans le développement de solveurs de contraintes : CHIP (COSYTEC), Ilog Solver (Ilog), CHOCO, Minion, etc. Malgré ces efforts, cette discipline a connu un manque impor-tant des solveurs distribués. Le solveur DisChoco de notre laboratoire est l’un des projets aboutis dans ce domaine. Cette plate forme va servir comme une base d’implémentation et d’évaluation des techniques proposées dans cette thèse.

Formalismes de r´esolution distribu´es

Le formalisme des probl`emes de satisfaction de contraintes [Tsa93] (Constraint Sa-tisfaction Problems CSP) a permis de couvrir depuis une d´ecennie un grand nombre de

(18)

2 Introduction g´en´erale

problèmes pratiques (planification, ordonnancement, emploi du temps ...) dont de nom-breux exemples ont été recensés et catalogués. D’un point de vue calculatoire, les problèmes considérés induisent bien souvent des complexités algorithmiques élevées appartenant à la classe des problèmes NP-complets. Ces problèmes partagent une structure de descrip-tion commune, basée sur un formalisme très simple, qui autorise une modélisadescrip-tion claire et intuitive, permettant de résoudre le problème d’une manière à satisfaire toutes les contraintes imposées. Souvent certains problèmes combinatoires n’admettent aucune so-lution. Cette classe de problèmes dite surcontrainte est résolue par un formalisme plus vaste des problèmes d’optimisation de contraintes COPs. Les contraintes sont souvent pondérées, et le but revient à minimiser ou maximiser une fonction objectif.

De nombreux problèmes combinatoires à caractère distribué sont exposés devants la communauté d’intelligence artificielle : les problèmes de gestion distribuée de ressources, les problèmes de gestion du trafic aérien distribués, le problème de gestion d’une constellation de satellites d’observation de la Terre, les réseaux de capteurs distribués (Distributed Sen-sor Network ), ainsi que des problèmes plus quotidiens, telle que la planification distribuée des réunions (distributed meeting scheduling) etc. En général, pour ce type de problèmes, il est impossible ou peu souhaitable de rassembler toutes les données du problème sur un seul site, pour le résoudre par un solveur centralisé. Les raisons les plus immédiates sont : Le surcoût de traduction de tous les sous-problèmes dans un format commun et la confi-dentialité des données. Ces questions ont motivé une partie de la communauté scientifique `

a s’intéresser au raisonnement par contraintes distribuées, dont les travaux ont porté sur le développement des techniques de modélisation et de résolution de problèmes combinatoires distribués avec ou sans critère d’optimisation.

Le raisonnement par contraintes distribué apporte lui aussi sur deux principales for-malismes assez riches par leurs simplicités et par leurs puissances d’expression. Ces forma-lismes sont dits Problèmes de Satisfaction de Contraintes Distribués (DisCSP) et Problèmes d’Optimisation de Contraintes Distribués (DCOP). Ils permettent de définir un problème d’une fa¸con simple et naturelle à l’aide de la notion de contraintes.

Le problème de satisfaction de contraintes distribué (DisCSP) est une discipline encore jeune. Les premiers papiers sont apparus au début des années 90 [Gue93]. Après les travaux pilotes de Yokoo et de ses collaborateurs [YDIK92], [YH96], [Yok95], beaucoup de papiers sont apparues et finalement le formalisme DisCSP est devenu un cadre de recherche trop riche. Récemment (en 2003), ce formalisme a été étendu par J.P. Modi pour traiter les problèmes combinatoires distribués avec critère d’optimisation. Le nouveau formalisme est dit Problèmes d’Optimisation de Contraintes Distribués (DCOP).

Au cours des dix dernières années, de nombreux algorithmes et systèmes ont été développés pour résoudre les problèmes DisCSP/DCOPs. Classiquement, on identifie deux grandes familles au sein de ces techniques de résolution. D’une part, les méthodes complètes (ou exactes), dont l’objectif est de répondre à un problème de décision. D’autre part, les méthodes incomplètes (ou approchées) qui ne peuvent pas aboutir à l’insatisfiabilitè d’un problème. Dans cette thèse nous nous intéressant plus particulièrement aux méthodes complètes.

L’objectif de notre travail est de contribuer à la résolution des problèmes combina-toires à aspect distribué. Pour ce faire, nous nous sommes intéressés au développement des algorithmes de résolution efficaces pour les problèmes DisCSP et DCOP.

(19)

Motivations

L’ensemble des formalismes que nous venons d’exposer est trop vaste, leurs principes fondamentaux sont très variés et leurs propriétés sont diverses. En outre, les approches qui nous interesse présentent une véritable caractéristique de complètude. Cependant, l’uti-lisateur se trouve souvent confronté à un dilemme. En effet, si les méthodes complètes présentent l’avantage de garantir le résultat de recherche (preuve d’insatisfiabilité, obten-tion possible de l’ensemble des soluobten-tions, obtenobten-tion de la soluobten-tion optimale), elles trouvent toutefois des limites avec l’augmentation de la taille et de la complexité des problèmes considérés. En particulier dans le cas de problèmes NP-complets, l’explosion combinatoire de l’espace de recherche induit un coût de calcul prohibitif.

Notre principale motivation est de proposer des nouvelles approches de résolution des problèmes DisCSPs/DCOPs, qui sont plus performants par rapport à ce qui existe actuel-lement sur le marché des solveurs. Dans notre travail nous nous sommes intéressés à deux principales préoccupations :

Résolution des problèmes de satisfaction de contraintes distribués :

Dans le cadre des problèmes de satifaction de contraintes distribués (DisCSPs) plu-sieurs algorithmes ont vu le jour. Parmi ces méthodes nous nous intéressons aux plus récentes, entre autres, l’algorithme Asynchronous Forward-Checking (AFC)

[MZ03,AGM08] qui a prouv´e sa performance par rapport `a l’algorithme ABT

(l’algo-rithme le plus étudié dans la litérature). Bien que AFC a montré ses performances vis `

a vis les algorithmes existants, nous avons constaté que ce dernier présente toujours un certain nombre de défaillances (Un échange inutile des messages, ré-explorations redondantes de l’arbre de recherche, ...). Pour remédier à ces problèmes nous allons proposé trois approches possibles de résolution. la première consiste à une intégration cohérente du concept des nogoods dans l’algorithme AFC. La deuxième est basée es-sentiellement sur le principe de calcule parallèle et la stratégie de recherche DFS (Depth First Search). la troisième approche est fondée sur le principe de la propa-gation de l’arc-consistance.

Résolution des problèmes d’optimisation de contraintes distribués :

Dans le cadre des problèmes d’optimisation de contraintes distribués (DCOP), l’al-gorithme Asynchronous forward-bounding (AFB) a été récemment proposé comme nouvelle méthode de résolution des DCOPs [MZ05]. Cet algorithme a été étendu par Gershman et al. [GMZ07] en ajoutant un mécanisme de backjumping. L’algorithme résultant est appelé AFB with backjumping (AFB-BJ) [GMZ07]. Dans [GMZ07] les résultats montrent que l’AFB-BJ obtient de meilleures performances par rap-port à ADOPT l’algorithme le plus connu pour résoudre les DCOPs [MSTY05]. Cependant, nous avons observé que cet algorithme exécute plusieurs opérations re-dondantes lors du calcul des coûts et d’envoi de messages. Dans un premier lieu, nous nous intéressons à l’élimination de ces opérations redondantes en utilisant une stratégie de recherche basée sur la transformation du graphe des agents en un arbre BFS. En second lieu, nous nous préoccupons de l’efficacité en utilisant un ordre dy-namique des agents. Plusieurs algorithmes DCOP utilisent un ordre statique sur les agents, ce qui limite leurs efficacités. L’utilisation d’un ordre dynamique est toujours préférable. Mais, pour assurer la complètude, un mécanisme de mémorisation des parties explorées est nécessaire. Finalement, le concept des nogoods valués [DV96] a déjà prouvé son efficacité dans le cadre centralisé. Nous nous intéressons à adapter ce concept pour développer des algorithmes dynamiques pour résoudre les problèmes d’optimisation de contraintes distribués (DCOP).

(20)

4 Introduction g´en´erale

Contributions

Journaux internationaux :

1. “Asynchronous Maintenance of Arc Consistency”. I. Benelallam, S. Hammoujan, R. Ezzahir, H. Bouyakhf. In Journal of Applied Mathematical Sciences, Vol. 4, 2010, no. 25, 1197 - 1212 .

2. “Asynchronous Breadth First Search DCOP algorithm”. R. Ezzahir, C. Bessi´ere, I. Benelallam, H. Bouyakhf, M. Belaissaoui. In Journal of Applied Mathematical Sciences, Vol. 2, 2008, no. 37, 1837 - 1854.

Conf´erences internationales :

1. “Distributed Dynamic Branch-and-Bound for DisCOPs”. I. Benelallam, M. Belais-saoui, R. Ezzahir, E.H. Bouyakhf. In proceeding of CARI’09, Rabat, Morocco. 2. “Asynchronous Iter-level Forward-Checking for DisCSPR”. R. Ezzahir, C. Bessiere,

M. Wahbi, I. Benelallam, E. H. Bouyakhf. In Proceeding of CP’09, Portugal. 3. “Dynamic Branch and Bound distribu´e”. I. Benelallam, M. Belaissaoui, R.

Ezza-hir, E.H. Bouyakhf. In proceeding of JFPC’08, Nantes, France.

4. ”Dynamic Backtracking search for Distributed Constraint Optimization Problems“. R. Ezzahir, C. Bessi´ere, I. Benelallam, E.H. Bouyakhf, M. Belaissaoui. In Euro-pean Conference in Artificial Intelligence ECAI’08.

5. ”Asynchronous Breadth First Search DCOP algorithm“. R. Ezzahir, C. Bessi´ere, I. Benelallam, H. Bouyakhf, M. Belaissaoui. In fifth European Workshop on Multi-Agent Systems. EUMAS’07, Hammamat, Tunisia.

6. ”Problèmes de satisfaction des contraintes valués : Technique de résolution des em-plois du temps universitaires“, I. Benelallam, E. Bouyakhf, M. Belaissaoui, S. Pie-chowiak, MCSEAI’06, Agadir, Maroc.

Conférences nationales avec comité de selléction :

1. ”AMAC : Asynchronous Maintenance of Arc Consistency“. S. Hammoujan, I. Be-nelallam, H. Bouyakhf. In proceeding of JOSTIC’08, Rabat, Maroc.

2. ”Distributed Constraints Optimization Problems based valued nogoods recording“. I. Benelallam. R. Ezzahir, H. Bouyakhf, M. Belaissaoui, In proceeding of SI-TA’08, Rabat, Maroc.

(21)

Organisation de la th`

ese

Le rapport de cette thèse se divise en deux parties qui débutent par un rappel de l’état de l’art des deux formalismes DisCSP et DCOP. La première partie est composée de cinq chapitres. Le premier chapitre présente le cadre des méthodes de résolution CSP, avec un rappel des notations et des principales caractéristiques d’une modélisation CSP en citant des exemples pratiques. Ensuite, nous décrivons la résolution des problèmes par des méthodes complètes, introduisant les notions de consistances, de filtrage, de propagation et les algorithmes en faisant usage. Dans le deuxième chapitre nous présentons l’extension du formalisme DisCSP par un rappel des principales méthodes de résolution. Dans les trois derniers chapitres nous présentons les trois principales contributions, à savoir les algorithmes AFC-ng, AILFC et AMAC.

La seconde partie est composée de quatre chapitres, elle est consacrée au formalisme des Problèmes d’Optimisation de Contraintes Distribués (DCOPs). Nous introduisons tout d’abord dans le premier chapitre le concept des CSPs valués, permettant de for-maliser les problèmes d’optimisation par la technologie contrainte. Ensuite, un ensembles des méthodes d’optimisation complètes est présenté. Introduisant ainsi le concept des no-goods valués, d’ordonnancement dynamique et les algorithmes faisant usage. Le chapitre suivant sera consacré à l’étude distribuée des problèmes d’optimisation. Les deux derniers chapitres serrons consacrés à la présentation des trois nouvelles approches d’optimisation de contraintes distribués à savoir les algorithmes DisB&B , DyBop et ABFS.

Finalement, dans le dixième chapitre, nous présentons une conclusion générale qui résumera nos contributions et ouvrira sur des différentes perceptives de recherches.

(22)

(23)

Premi`

ere partie

Raisonnement par contraintes

distribu´

ees : satisfaction

(24)

(25)

Chapitre

1

Probl`emes de Satisfaction de Contraintes

Préambule

Dans ce apitre, nous présentons les principales notions liées aux problèmes de satisfaction de contraintes

centralisée (CSP Constraint Satisfaction Problem), qui se situe au cœur de nos travaux de reere. Nous

présentons ici à travers des exemples un formalisme générique et aisé, pour introduire dans notre état de

l’art les teniques de base de la programmation par contrainte d’une part, et d’autre part, se servir de ces

déﬁnitions pour présenter nos contributions dans les apitres qui suivent.

1.1 Introduction

L

a majorité des problèmes issus du domaine Intelligence Artificielle ainsi que d’autres disciplines de l’informatique peuvent être modélisés comme des problèmes de satisfaction de contraintes (CSP) [Nad90]. Nous trouvons des exemples en conception de scènes en 3D [DR81], en maintien de la cohérence [Dec87, DD88], en ordonnancement [DR90], en raisonnement temporel [All83], en théorie des graphes [McG79], en architecture [Eas72], en planification d’expérimentations génétiques [Ste81], en conception de circuit [dKS80], en conception et fabrication de machines [FM87], ou encore en raisonnement diagnostique [GP87].

Le concept CSP vise à représenter sous forme de contraintes les propriétés et les re-lations qui existent entre les objets manipulés. Ces contraintes peuvent être décrites de multiples fa¸cons (par une équation, une in-équation, un prédicat, une fonction booléenne, une énumération des combinaisons de valeurs autorisées, etc). Elles traduisent l’autorisa-tion ou l’interdicl’autorisa-tion d’une combinaison de valeurs. Toutefois, trouver une solul’autorisa-tion à de tels problèmes exige très souvent un temps de calcul exponentiel.

Dans ce qui suit, nous rappellerons les notations, les définitions liées à ce formalisme, par la suit nous décrivons la complexité théorique d’un problème combinatoire ainsi que des exemples de son utilisation. Des méthodes de résolution, de filtrage et de consistance d’arc seront discutées à la fin.

(26)

10 Chapitre 1. Probl`emes de Satisfaction de Contraintes

1.2 Probl`

eme de Satisfaction de Contrainte

1.2.1 Notations et d´efinitions

Un CSP est généralement présenté sous la forme d’un ensemble de variables, auxquelles sont associés des domaines, ainsi qu’un ensemble de contraintes. Chaque contrainte est définie sur un sous-ensemble de l’ensemble des variables et limite les combinaisons de valeurs que peuvent prendre ces variables. La résolution d’un CSP consiste à trouver une affectation de valeur pour chaque variable de telle sorte que l’ensemble des contraintes soit satisfait. Pour certains problèmes, le but est de trouver toutes ces affectations. Toutefois, trouver une solution à de tels problèmes exige très souvent un temps de calcul exponentiel. ce qui est NP-complet. Nous allons par la suite présenter non pas le cadre général, mais nous restreindre à des domaines finis de valeurs discrètes. Cette limitation se traduit dans les exemples présentés et, nous verrons par la suite, se justifie par des expérimentations pour des problèmes à domaines finis.

Définition 1.1. (Un problème de satisfaction de contraintes [Mon74, Tsa93]) : Un problème de satisfaction de contraintes (CSP) est défini par un triplet hX, D, Ci où :

≻ l’ensemble X = {x1, ..., xn} est un ensemble de n variables.

≻ `a chaque variable xi ∈ X est associ´ee un domaine de valeurs Di ∈ D. Elle peut

donc recevoir toute valeur a ∈ Di (D = {D1, D2, ..., Dn}).

≻ l’ensemble C est un ensemble de contraintes. Chaque contrainte c ∈ C est d´efinie sur un ensemble de variables Xc ⊂ X (scope(c)=Xc) par une relation, ´egalement

not´ee c, qui est un sous-ensemble du produit cart´esien Q

i∈XcDi qui sp´ecifie les

combinaisons de valeurs (ou tuples) autoris´ees pour les variables de Xc.

Les contraintes peuvent être exprimées sous différentes formes : en extension, en présentant l’ensemble des tuples autorisés (ou interdits), ou en intention, en donnant les formules mathématiques, etc. Ce sont des relations entre des variables qui définissent la structure du problème à résoudre.

D´efinition 1.2. (Contrainte) :

Soit un CSP hX, D, Ci, une contrainte c ∈ C sur les variables xi1, ..., xik pour i1, ..., ik ∈

{1, ..., n} est une relation dans Dxi1 × ... × Dxik , domaines des variables xi1, ..., xi_k . On

a donc :

c ⊆Qik

j=i1Dxj

On note var(c), l’ensemble des variables intervenant dans la contrainte c. D´efinition 1.3. (Arit´e) :

L’arit´e d’une contrainte c ∈ C est le nombre de variables sur lesquelles elle porte (i.e. le cardinal de var(c)). On dira que la contrainte est :

≻ unaire si son arité est égale à 1 ≻ binaire si son arité est égale à 2 ≻ n-aire si son arité est égale à n ´

Etant donné un CSP hX, D, Ci, sa résolution consiste à affecter des valeurs aux va-riables, de telle sorte que toutes les contraintes soient satisfaites. On introduit pour cela les notations et définitions suivantes.

(27)

1.2. Probl`eme de Satisfaction de Contrainte 11

D´efinition 1.4. (Affectation partielle) :

Soit un CSP hX, D, Ci, une affectation partielle A d’un ensemble de variables XA =

{x1, ..., xk} ⊂ X affecte `a chaque variable de XA une valeur de son domaine. En d’autres

termes, une affectation de XA correspond `a un k-uplet de D1× ... × Dk. On notera A(xi)

la valeur que A affecte `a xi. Une affectation est une fonction :

s : X →Qk

i=1Dxi

telle que s(xi) ∈ Dxi pour i ∈ [1..k].

Une affectation est dite totale si elle instancie toutes les variables du probl`eme ; elle est dite partielle si elle n’en instancie qu’une partie.

D´efinition 1.5. (Affectation partielle localement consistante) :

Une affectation partielle d’un ensemble de variables XA⊂ X est localement consistante si

et seulement si elle satisfait toutes les contraintes portant uniquement sur des variables de XA.

Lemme 1.1. Une affectation partielle localement inconsistante est globalement incohérente. D’autres définitions sont nécessaires pour énoncer les principales caractéristiques des CSP ; nous devons définir les notions de solution et d’espace de recherche. Nous terminerons par une représentation graphique d’un problème.

D´efinition 1.6. (Espace de recherche) :

L’espace de recherche d’un CSP P = hX, D, Ci est l’ensemble des affectations possibles que l’on notera S.

S = Dx1 × Dx2 × ... × Dxn

Avec D = {Dx1, ..., Dxn}. L’espace de recherche est ´egal au produit cart´esien de l’ensemble

des domaines des variables et une affectation s sera assimilée à un élément de cet ensemble S (i.e. s = (d1, ..., dn)).

On dit qu’une affectation partielle est globalement consistante (ou complètable) si et seulement si elle peut être étendue à une solution.

Une affectation s ∈ S satisfait une contrainte ck∈ C si toutes les variables de var(ck)

sont instanciées par s et si la relation définie par ckest vérifiée pour les valeurs des variables

de var(ck) donn´ees par s. Pour simplifier, on notera : s ∈ ck .

D´efinition 1.7. (Solution) :

Une solution d’un CSP P = hX, D, Ci est une affectation s ∈ S qui satisfait toutes les contraintes. On note Sol(P ) l’ensemble des solutions.

Sol(P ) = {s ∈ S | ∀c ∈ C, s ∈ c}

L’ensemble des solutions correspond à tout élément de l’espace de recherche (affectations) appartenant aussi aux valeurs permises pour chaque contrainte.

D´efinition 1.8. (Graphe et hyper-graphe de contraintes) :

A chaque CSP P = hX, D, Ci peut être associé, pour les contraintes binaires, un graphe des contraintes (ou graphe associé) obtenu en représentant chaque variable du réseau par un sommet et chaque contrainte binaire qui porte sur les variables xi et xj , notée cij ∈ C

par une arˆete entre les sommets xi et xj. Dans le cas des CSP avec des contraintes

n-aires, on peut utiliser la représentation par hyper-graphe, en rempla¸cant les arêtes par des hyper-arêtes.

(28)

Un système de contraintes est communément représenté par un graphe non orienté. Il permet d’avoir un rendu graphique du problème ; il se trouve ainsi être parfois l’in-termédiaire entre le problème réel et sa transcription dans le formalisme CSP. C’est le cas par exemple pour le problème de coloriage de graphe qui sera présenté dans la section suivante.

1.2.2 Exemples de formalisation

Comme suggéré en début de chapitre, une multitude de problèmes se modélisent sous forme de CSP. Dans ce qui suit nous rappellerons des problèmes simples, i.e., académiques. 1.2.2.1 Le problème du Zèbre

Le problème du Zèbre est un puzzle logique qui figure parmi les classiques du genre, il se pose comme suit : Cinq maisons de couleurs différentes sont habitées par cinq personnes de nationalités distinctes, ces personnes ont leurs boissons préférées, leurs animaux domes-tiques et leurs sports pratiqués eux aussi différents. Les informations dont nous disposons sont les suivantes :

≻ l’anglais habite la maison rouge ; ≻ l’espagnol a un chien ;

≻ la personne dans la maison verte boit du caf´e ; ≻ l’irlandais boit du th´e ;

≻ la maison verte est `a droite de la maison ivoire ; ≻ le joueur de Go poss`ede un escargot ;

≻ la personne dans la maison jaune joue au cricket ; ≻ la personne dans la maison du milieu boit du lait ; ≻ le nig´erien habite la premi`ere maison ;

≻ le judoka habite à côté de la personne qui a un renard ; ≻ le joueur de cricket est à côté de celui qui a un cheval ; ≻ le joueur de poker boit du jus d’orange ;

≻ le japonais joue au polo ;

≻ le nigérien habite à côté de la maison bleue ;

La question est alors la suivante : «Qui possède le zèbre et qui boit de la Guinness ?» Le problème est modélisé en numérotant les maisons de gauche à droite, de 1 à 5. Chaque couleur, personne, chose, animal, sport, boisson constitue une variable dont le domaine contient initialement les nombres de 1 à 5. Ainsi, si la couleur bleue est instancièe par la valeur 3, cela signifie que la maison 3 est bleue. Soit la liste des variables de taille 5 suivante, rangées par catégorie :

≻ Anglais, Espagnol, Irlandais, Nig´erien, Japonais, ≻ Rouge, Verte, Bleue, Ivoire, Jaune,

≻ Chien, Escargot, Renard, Z`ebre, Cheval, ≻ Judo, Go, Cricket, Poker, Polo

≻ Lait, Guinness, Caf´e, Th´e, Jus, La liste des contraintes :

≻ Anglais = Rouge, ≻ Espagnol = chien, ≻ Verte = Caf´e

(29)

1.2.2.2 Probl`eme de coloriage de graphes ´

Etant donné un graphe et un nombre de couleurs. Le problème consiste à affecter une couleur pour chaque nœud du graphe en respectant la contrainte que les nœuds adjacents ne doivent pas avoir la même couleur. Une instance du problème de coloriage de graphe est le coloriage de carte : Il s’agit de colorier toutes les régions d’une carte, de telle sorte que deux régions ayant une frontière en commun soient coloriées avec deux couleurs différentes. Pour cela on dispose d’un ensemble de couleurs et on peut établir aussi que chaque région puisse choisir sa couleur à partir d’un sous-ensemble de cet ensemble. La figure1.1montre un exemple de coloriage de carte : à gauche la carte à colorer avec trois couleurs (r : rouge, v : vert et b : bleu) et à droite la présentation du problème en problème de coloriage de graphe où chaque noeud représente une zone de la carte et des arcs représentent les contraintes. Ce problème est un CSP (X, D, C) où :

X = {w, x, y, z} est l’ensemble de variables.

D = {Dw, Dx, Dy, Dz/Dw = Dx= Dy = Dz = {r, v, b}} est l’ensemble des domaines.

C = {Cw,x, Cw,y, Cx,y, Cx,z, Cy,z} l’ensemble de contraintes o`u Cx,y : x 6= y

≻ L’affectation partielle A1 = (x = r, z = v) est localement consistante.

≻ L’affectation A2 = (x = r, z = v, w = b) est localement consistante mais elle est

globalement incohérente. Car on ne peut affecter aucune valeur à la variable y. ≻ Une solution pour ce problème est : (x = r, y = v, z = b, w = b)

Fig._{1.1 – Exemple d’un probl`eme de coloriage de carte.}

1.2.2.3 Probl`eme de N-reines

Parmi les problèmes de CSP les plus connus figurent le problème de n-reines et le problème de coloration de graphe. Le problème de n-reines consiste à placer n reines sur un échiquier comportant n lignes et n colonnes, de manière à ce qu’aucune reine ne soit en

(30)

prise. On rappelle que 2 reines sont en prise si elles se trouvent sur une même diagonale, une même ligne ou une même colonne de l’échiquier. On peut prendre par exemple n=4 ou n=5.

Une mod´elisation simple du probl`eme de n-reines : • Variables : X = { xi / 1 ≤ i ≤ n}.

• Domaines : ∀xi ∈ X , D(xi) = { j /1 ≤ j ≤ n }

• Contraintes :

⋆ Les reines doivent ˆetre sur des lignes diff´erentes : Clig = {xi 6= xj / i 6= j, 1 ≤ i ≤ n et 1 ≤ j ≤ n}

⋆ Les reines doivent ˆetre sur des diagonales montantes diff´erentes : Cdm = {xi+i 6= xj+j / i 6= j , 1 ≤ i ≤ n et 1 ≤ j ≤ n}

⋆ Les reines doivent ˆetre sur des diagonales descendantes diff´erentes : Cdd = {xi-i 6= xj-j / i 6= j , 1 ≤ i ≤ n et 1 ≤ j ≤ n}

L’ensemble des contraintes est d´efini par l’union de ces 3 ensembles : C = Clig∪ Cdm∪ Cdd.

Les deux solutions possibles pour le cas de 4-reines sont pr´esent´ees dans la figure1.2.

(a) solution 1 (b) solution 2

Fig._{1.2 – Les deux solution pour le probl`eme de 4 reines}

1.2.2.4 La r`egle de Golomb

Le problème de Golomb consiste à placer N marques sur une règle pour que toutes les distances entre les marques soient différentes, la figure 1.3illustre le placement de quatre marques.

Fig. _{1.3 – Solution d’une r`egle de Golomb `}_{a 4 marques.}

Les règles du professeur de mathématiques Solomon W. Golomb suscitent un intérêt particulier et l’aspect combinatoire de ce problème est encore aujourd’hui étudié, comme le montre les travaux de Meyer et al. [MJ06].

(31)

1.3. M´ethodes de r´esolution des CSPs 15

1.3 M´

ethodes de r´

esolution des CSPs

Le concept CSP permet de représenter un grand nombre de problèmes, comme rappelée dans la section précédente, et il n’existe pas de méthode universelle pour une résolution efficace. Diverses techniques ont été mises au point, notamment en utilisant les notions de parcours d’arbre et de consistance, que nous allons développer dans ce chapitre, ainsi que des combinaisons de ces méthodes pour former des algorithmes de résolution.

´

Etant donné un CSP, un solveur a pour objectif de fournir les solutions satisfaisant les contraintes dans la mesure où cela est possible. Les propriétés des solveurs peuvent s’énoncer ainsi :

≻ Un solveur est complet s’il est toujours capable de r´epondre par vrai ou faux concer-nant l’existence d’une solution.

≻ Un solveur est correct s’il ne calcule que des solutions.

≻ Un solveur est fiable s’il calcule toutes les solutions pour un problème donné. Dans un cas idéal, l’exécution d’un solveur doit se terminer en un temps fini, four-nir toutes les solutions, satisfaisant bien sûr toutes les contraintes. Pour éviter de tester toutes les combinaisons variable-valeur inhérentes à la formulation d’un CSP, la plupart des approches utilisent le filtrage par consistance. Ce filtrage consiste à supprimer les va-leurs des domaines ne pouvant satisfaire certaines contraintes et ainsi à réduire l’espace de recherche.

Dans cette section, nous présenterons différentes méthodes pour la résolution des CSP par des algorithmes complets, de l’énumération de toutes les combinaisons possibles vers des méthodes plus élaborées : utilisation des consistances et d’algorithmes de filtrage dédiés `

a chaque type de contraintes. Nous présenterons les propriétés de consistance et nous verrons dans quelle mesure elles sont transcrites en terme d’algorithmes.

1.3.1 Le Bachtracking chronologique

Le backtracking est sans aucun doute la méthode la plus répandue pour une recherche systématique. Il est considéré comme étant l’algorithme de base de résolution des problèmes CSPs est le simple retour-arrière «Backtracking» [BR75]. Le Backtracking est une stratégie de recherche qui a été largement utilisée dans les solveurs de contraintes (Choco, Minion, etc). Dans le cadre CSP, le fonctionnement de base est de choisir une seule variable à la fois, et d’envisager pour elle une valeur de son domaine, en s’assurant que la nouvelle valeur choisie est compatible avec l’affectation partielle courante. Si l’affectation actuellement choisie viole certaines contraintes une autre valeur qui est disponible est prise. Si toutes les variables sont affectées, alors le problème est résolu. Si, à n’importe quelle étape, aucune valeur ne peut être affectée à une variable sans violer une contrainte, l’affectation de la dernière variable (juste avant l’échec) est révisée, et une autre valeur, lorsqu’elle est disponible, est assignée à cette variable. Cela procède de suite jusqu’à ce qu’une solution soit trouvée ou que tous les tests des combinaisons de valeurs aient échoué. La figure 1.4 présente un exemple de la recherche arborescente utilisée dans le Backtracking sur une instance de CSP à trois variables A, B, et C. Les arcs représentent les paires de valeurs autorisées.

L’algorithme 1.1 montre la méthode de recherche Backtracking, sous forme d’une procédure récursive. Appelée avec l’affectation vide, cette fonction détecte et termine lors qu’une solution est trouvée ou si le problème n’a pas de solution. Il est important de no-ter que la no-terminaison de cette méthode provient du parcours arborescent : grâce à cette procédure, une branche ou affectation partielle n’est explorée qu’aux plus une fois (et leur nombre est fini). Cet algorithme peut être amélioré, notamment en supprimant dans les

(32)

Fig._{1.4 – Exemple de recherche arborescente sur un probl`eme de 4-reines.}

domaines des variables non affect´ees les valeurs qui sont incompatibles avec l’affectation partielle courante : utilisation de techniques d’anticipation (look-ahead) par v´erification en avant (forward checking) par exemple.

Algorithme 1.1 : Le Backtracking chronologique procedure BacktrackingSearch(A)

1

if all variables are assigned in A then

2

return the solution A

3

else

4

let x be an unassigned variable

5

for each possible value v of x do

6 x := v 7 8 if isConsistent(A ∪ {x := v}) then 8 BacktrackingSearch(A ∪ {x := v}) 9 10 unassign x 10 1.3.2 Le Forward Checking

Une technique de filtrage d’un réseau de contraintes, aussi appelée propagation de contraintes, a pour fonction de mettre en évidence le fait que certaines combinaisons de valeurs localement cohérentes ne peuvent mener à une solution. Le forward checking

[HE80b] est considéré comme étant la technique de prévision d’échec la plus simple à

utiliser pendant la recherche d’une solution pour un problème CSP. Elle consiste à explorer toutes les variables non instanciées et s’appuie sur le lemme suivant pour détecter une

(33)

´eventuelle incoh´erence globale.

Lemme 1.2. S’il existe une extension coh´erente avec toutes les variables, il en existe avec chacune d’entre elles.

Réciproquement, une affectation est globalement inconsistante s’il existe une variable avec laquelle elle ne peut pas être étendue.

Algorithme 1.2 :La fonction d’anticipation de l’algorithme FC.

#y /∈ A 1 Function F C isConsistent(A, y) 2 foreach value v of y do 3

if not isConsistent(A ∪ {y := v}) then

4

remove v from domain

5

if the domain of y is empy then

6

return false

7

return true

8

L’algorithme du Forward Checking (FC) s’obtient en rempla¸cant la fonction isCon-sistent (Algorithme1.1, ligne 9) par la fonction F C isConsistent(A, y) appliquée à toute variable y /∈ A non encore instanciée. Cette fonction supprime toute valeur dans le do-maine de y incohérente avec l’instanciation courante. Si le dodo-maine de y est complètement vidé la fonction retourne échec, et par conséquence l’affectation courante ne peut pas être étendue, ainsi la variable en question est désinstanciée (Algorithme 1.1, ligne 11). En pra-tique, les domaines des variables futures (sur lesquels les opérations de suppression ou du filtrage sont effectuées) seront restaurés à l’état précédent chaque fois qu’une affectation a échouée.

1.3.3 Le Backjumping

Pendant que la procédure Backtracking revient sur l’instanciation de la variable précé-dant immédiatement la variable courante en cas de retour arrière, les méthodes rétrospectives tentent d’identifier les causes de l’échec. Elles tirent parti de cette information pour sélectionner un meilleur point de retour [J.G79]. Lorsque l’affectation d’un variable est échouée, le Backtracking n’effectue qu’un simple retour en arrière en mettant en cause la variable instanciée. Une analyse bien menée permettra un saut vers un niveau plus élevé (Backjump) s’il s’avère que la cause d’échec est en amont dans l’arbre de recherche. Lorsque l’extension d’une Affectation A avec une variable x = v échoue, cela est dû à la violation d’une contrainte c. Cette extension restera impossible tant que les valeurs de A mises en cause dans cette contrainte sont présentes dans l’affectation courante. Lorsque toutes les extensions avec les valeurs d’une variable x ont échoué, on dispose d’un ensemble de variables affectées responsables chacune du rejet d’une valeur qu’on notera par la suite l’ensemble de conflit. Tant que le retour en arrière n’atteint pas l’une des variables de ces ensembles, une extension complète est impossible car aucune valeur ne peut être affectée `

a la variable x. L’algorithme fera donc un saut (Backjump) vers la valeur de la derni`ere variable affect´ee dans l’union de ces ensembles de conflit. Cette union est la cause du Ba-ckjumping : elle constituera l’ensemble des conflits responsables du rejet de la valeur sur laquelle se porte le backtrack.

(34)

Algorithme 1.3 : Conflict-directed backjumping procedure CBJ(A)

1

2

3

else

4

let x be an unassigned variable and S := ∅

5

6 x := v 7 cs ← CBJ Evaluate(A ∪ {x := v}) 8 if cs is empty then 9 cs ← CBJ(A ∪ {x := v}) 10 if x /∈ cs then 11 unassigne x ; /* backjumping */ 12 return cs 13 S ← S ∪ cs 14

return S − {x} ; /* all values of x are failed */

15 function CBJ Evaluate(A) 16 if A is consistent then 17 return ∅ 18 else 19

let c a constraint violated by A

20

return scope(c)

21

L’algorithme du «Graph-based backtracking» [Dec93] se borne à considérer que les va-leurs responsables sont celles de variables liées à x par des contraintes. Plus précisément le «Conflict-directed backjumping» [P.80] ainsi que les méthodes s’appuyant sur la mémorisation des échecs considèrent les variables mises en jeu dans les contraintes effectivement violées. Algorithme 1.3 présente la méthode Conflict-directed backjumping. La procédure CBJ tente l’extension d’une affectation A initialement vide, et renvoie un ensemble de va-riables responsables de l’échec de l’extension. L’évaluation de la consistance locale des affectations CBJ Evaluate(A), retourne un ensemble de variables provoquant l’éventuelle incohérence. Cet ensemble souvent appelé conflict-set (cs) est créé lors d’une instanciation et stocke l’ensemble des variables de l’affectation courante en conflits avec une variable x (lignes 16-21). Ainsi, lorsque toutes les valeurs d’une variable ont échoué, l’algorithme revient à la variable la plus récente dans l’union de ces ensembles retournés, en effectuant un saut vers la plus proche variable en conflit y (lignes 11-13). Si y ne peut s’instancier, le retour se fait vers la plus proche parmi S − {y} (ligne 14). Lors d’une phase de retour de x vers y, le backjump se fait toujours vers une variable en conflit (lignes 11-13), les variables entre x et y voient leur domaines restaurés, leurs ensembles CS réinitialisés.

1.3.4 Le Backtracking dynamique

La dernière grande famille des algorithmes complets des CSPs cherche à mémoriser les causes des échecs afin d’éviter de les reproduire dans la suite l’exploration des conditions de ces échecs. Plus précisément, la consistance d’une affectation partielle responsable d’une incohérence globale peut être réutilisée pour déduire l’incohérence globale de toutes ses

(35)

extensions. Les principes de mémorisation ont pour but de conserver les causes des échecs tant qu’ils ont la possibilité d’exhiber pendant l’exploration. Ces causes mémorisées vont être utilisés dans la suite de la recherche. La notion centrale de ces algorithmes est celle du nogood [Bry86,SV94,Dec93].

D´efinition 1.9. Nogood :

Un nogood est une paire (A, C) où A est une affectation partielle appelé affectation du nogood, et C un ensemble de contraintes appelé justification du nogood.

Un nogood (A, C) induit par inférence logique d’un CSP est valide si toute extension complète de A viole au moins une contrainte de C. En d’autres termes, A est une affecta-tion globalement inconsistante du CSP réduit aux contraintes de C.

R´esolution des nogoods

Lorsque l’affectation d’une variable xk par une valeur c a ´echou´e, cette valeur sera

supprim´ee du domaine de xk en la justifiant par une m´emorisation d’un nogood de la

forme : (xi = a ∧ xj = b ∧ ... ⇒ xk 6= c). On d´efinit la partie gauche et la partie droite de

cette expression `a partir de la position du ⇒. Quand toutes les valeurs d’une variable xk

sont éliminées de son domaine, l’ensemble de ces nogoods est résolu par rapport à l’une des variables incriminées xj, et un nouveau nogood est produit, avec en partie gauche

la conjonction des partie gauches (left-hand side - lhs) de tous les nogoods de xk, en

omettant xj. La partie droite (right-hand side - rhs) est xj = b si b ´etait la valeur de xj

dans l’ensemble des nogoods de xk. Dans ce qui suit, on note par Nxbj le nogood r´esultant.

Propri´et´e 1.1. Union des nogoods :

Soit x une variable, et pour chaque valeur v de x un nogood (Ai ∪ {x = v}, Ci) tel que

x /∈ Ai. Si les affectations Ai sont compatibles alors (∪i(Ai), ∪i(Ci)) est un nogood.

Le Dynamic Backtracking [GM94] (DBT) est l’algorithme qui exploite d’une fa¸con ef-ficace la mémorisation des nogoods. A chaque valeur v de chaque variable x est associé à un nogood Nv

x , initialiser au vide, interdisant ´eventuellement l’extension d’une affectation

A avec la valeur x = v. Ce nogood est souvent appelé explication ou justification de rejet de la valeur v. Il y a généralement plusieurs explications possibles pour le retrait d’une valeur. On pourrait vouloir mémoriser l’ensemble de toutes ces justifications, mais cela conduirait à une complexité spatiale exponentielle. Algorithme 1.4 présente la méthode Dynamic Backtracking. Dans cet algorithme, le domaine courant d’une variable corres-pond à l’ensemble des valeurs qui ont une justification de retrait vide.

(36)

Algorithme 1.4 : Dynamic Backtracking Procedure DBT(A)

1

2

3

else

4

let x be an unassigned variable

5

6

x := v

7

nogood ← DBT Evaluate(A ∪ {x := v})

8

if nogood is empty then

9 nogood ← DBT(A ∪ {x := v}) 10 if (x = v) != rhs(nogood) then 11 foreach value u ∈ Dx do 12 if rhs(nogood) ∈ Nu

x ; /* Nxu the nogood associated to v */ 13

then

14

N_xu ← ∅ ; /* updating domain */

15

return nogood ; /* Dynamic Backtrack */

16

else

17

store nogood as justification of v removal

18 return ∪v∈Dx(Nxv) 19 Function DBT Evaluate(A) 20 if A is consistent then 21 return ∅ 22 else 23

let c a constraint violated by A

24

return A ↓c 25

La fonction DBT réalise la boucle (récursive) principale qui essaye l’extension d’une affectation A initialement vide en affectant des valeurs aux variables futures tant qu’une solution n’a pas été trouvée. la fonction DBT Evaluate() détermine si la nouvelle affec-tation est consistante ; si elle ne l’est pas, cette fonction retourne un nogood expliquant l’échec. Afin de restaurer un état cohérent la fonction DBT saute récursivement vers une affectation partielle consistance. Les domaines et les nogoods sont mis à jour grâce à une méthode «update domain» qui utilise la partie droite du nogood retourné.

1.3.5 Param`etres de mesure des CSP centralis´es

Avant de montrer les résultats du programme, deux grandeurs caractérisant un réseau de contraintes doivent être définies. Ce sont la densité des contraintes p1 et la dureté des

contraintes p2.

Définition 1.10. Densité d’un réseau de contraintes :

Pour un réseau de contraintes, on appelle densité des contraintes le nombre de contraintes par rapport au nombre maximal de contraintes possibles. Pour un réseau de n variables avec c contraintes d’arité k, on aura alors la densité p1 est égale :

(37)

p1=

c Ck

n

D´efinition 1.11. Duret´e d’une contrainte :

On appelle dureté d’une contrainte la proportion de tuples interdits par cette contrainte. Pour une contrainte d’arité k portant sur des variables dont les domaines sont de taille d, décrite par ti tuples interdits, on aura la dureté p2 est égale :

p2 =

ti

dk

Pour comparer les trois algorithmes traités dans la section précedente, nous allons utiliser deux métriques de mesure. Ce sont le nombre de nœuds visités NNV et le nombre des contraintes testées NCT. Ces deux métriques permettent de valoriser l’effort produit par chaque algorithme pour résoudre un problème donné.

D´efinition 1.12. Nombre de nœuds visit´es :

C’est le nombre de nœuds, dans l’arbre de recherche, visités lors du processus de recherche. Définition 1.13. Nombre des contraintes testées :

C’est le nombre de contraintes que les algorithmes vérifient qu’elles sont violées ou satis-faites par une affectation donnée.

1.3.6 Exp´erimentation

Nous avons généré 100 problèmes aléatoires. Un problème aléatoire est définit par hn, d, p1, p2i, où n est le nombre de ses variables, d est le nombre de valeurs par

va-riable, p1 est la densité du réseau de contraintes (voir définition 1.10), et p2 est la dureté

des contraintes (voir d´efinition 1.11). Ces probl`emes sont de classe h10, 10, 0.4, p2i avec

différentes duretés (p2) variant de 0.1 à 0.9 avec un pas de 0.1. Puis nous avons généré

100 autres probl`emes de classes h10, 10, 0.7, p2i. Pour chaque classe nous avons calcul´e la

moyenne du nombre de nœuds visités NNV et du nombre des contraintes testées NCT. La figure1.5montre les résultats obtenus pour NNV, et la figure 1.6montre les résultats obtenus pour NCT.

p2

0.0 0.2 0.4 0.6 0.8

Nombre des noeudes visites

0.00e+00 2.00e+04 4.00e+04 6.00e+04 8.00e+04 1.00e+05 1.20e+05 BT CBJ FC < n = 10, d = 10, p1 = 0,4 > (a) P2 0.0 0.2 0.4 0.6 0.8

Nombres des noeudes visites

0 5000 10000 15000 20000 25000 BT CBJ FC < n = 10, d = 10, p1 = 0.7 > (b)

(38)

Lorsque p2 prend des valeurs petites (entre 0.1 et 0.3), les trois algorithmes convergent

vers une solution avec tr`es peu d’effort car les probl`emes sont moins contraints (nombre de couples interdits est petit). Quand p2 prend des valeurs moyennes (entre 0.4 et 0.7),

les algorithmes effectuent plus d’effort pour r´esoudre les probl`emes de ce genre car ils sont plus contraints par rapport aux valeurs petites de p2. Lorsque p2 prend des valeurs

plus grandes (entre 0.8 et 0.9), les problèmes deviennent plus contraints, l’échec peut être donc détecté par les trois algorithmes avec peu d’effort par rapport à des problèmes moyennement contraints.

P2

0.0 0.2 0.4 0.6 0.8

Nombres de contraintes testØes

0.00e+00 5.00e+05 1.00e+06 1.50e+06 BT CBJ FC (a) P2 0.0 0.2 0.4 0.6 0.8

Nombres de contraintes testØes

0.00e+00 1.00e+05 2.00e+05 3.00e+05 4.00e+05 BT CBJ FC (b)

Fig. _{1.6 – (La moyenne du nombre de contraintes testés pour resp. 0.4 (a) et 0.7 (b)} Nous remarquons que le nombre des nœuds visités (figure1.5) lors de l’exécution du BT est plus grand que celui lors de CBJ et FC, notamment lorsque p2 s’approche de la

valeur 0.4. Ceci est normal si nous analysons la manière avec laquelle les trois algorithmes parcourent l’arbre de recherche. Le BT parcourt chaque nœud chaque fois qu’il trouve une affectation consistante. Le FC évite de visiter les nœuds si son affectation actuelle ne peut etre étendue en une autre affectation consistante (si toutes les valeurs du domaine d’une variable sont filtrées). Le CBJ visite les nœuds de l’arbre de recherche si l’affectation actuelle est consistante, mais il fait des sauts lors des retour-arrières ce qui permet d’éviter de revoir des sous-arbres déjà testés sils ne participent à aucune solution. Ceci explique aussi que le nombre de nœuds visités dans le CBJ est plus grand que le nombre des nœuds visités lors du FC dans les problèmes où p2 prennent des valeurs entre 0.4 et 0.6.

Pour le nombre de contraintes testées la même explication peut être conclue, sauf dans le cas du FC où le nombre de contraintes testées est plus important que dans CBJ. Ceci est dû au filtrage qui nécessite la vérification des contraintes pour enlever une valeur du domaine d’une variable ou non. Dans le FC le nombre de contraintes testées lorsque p2

prend des valeurs petites le nombre de contraintes testées est grand car le nombre de valeurs filtrées est petit car les problèmes sont moins contraints, donc l’opération se répète plusieurs fois pour rendre le nombre de contraintes testées plus grand.

1.4 M´

ethodes de renforcement de la consistance

Comme notre objectif est de trouver une affectation pour chaque variable satisfaisant toutes les contraintes, l’idée est alors de réduire l’espace de recherche (l’espace des pos-sibilités). Pour ce faire, ces algorithmes vont essayer de supprimer certaines valeurs dans