Syst` eme de traitement de graphes parall` eles

Il existe d’autres logiciels permettant la distribution et la parall´elisation d’algorithmes comme OpenMP ou encore les syst`emes MPI. Certains de ces lo-giciels sont intrins`equement destin´es aux graphes. Nous proposons de lister les principales solutions permettant le traitement de graphes et le d´eveloppement d’algorithmes de graphes dans un environnement parall`ele et distribu´e.

Pour g´erer la parall´elisation et la distribution d’algorithmes, les syst`emes ont dˆu choisir entre diff´erents mod`eles. Nous avons d´ej`a vu le patron de conception MapReduce d’Hadoop ou encore la notion de RDD avec Spark, mais il en existe d’autres comme les BSP (pour ”Bulk synchronous parallel”) ou encore le mod`ele RAD (pour ”Rassembler-Appliquer-Disperser”).

Le mod`ele BSP (Valiant (1990)) d´ecrit un ensemble de paires processeurs-m´emoires homog`enes en nombre fixe. De par un r´eseau de communication et une unit´e de synchronisation globale, les ´echanges de donn´ees entre

proces-seurs sont rendus possibles. L’ex´ecution se d´eroule en plusieurs ´etapes, chacune constitu´ee d’une phase de calculs locaux (effectu´ee sur chaque processeur) et d’une phase de communication entre les diff´erents processeurs qui s’effectue avec des phases de synchronisation. Ce syst`eme garantit le d´eterminisme des applications d´evelopp´ees et assure l’absence d’´etreintes fatales (interblocages).

Le mod`ele RAD (Gonzalez et al. (2012)) est intrins`equement destin´e au graphe. Dans la premi`ere phase de ”Rassemblement”, un sommet accumule de l’information sur ses voisins. La seconde phase ”Application” applique la va-leur accumul´ee `a ce sommet et met `a jour ses sommets adjacents et arˆetes. La derni`ere phase ”Dispersion” active les sommets voisins. Les sommets peuvent directement tirer de l’information des sommets voisins sans toujours interagir avec eux, `a l’instar du mod`ele BSP. Le mod`ele GAS permet des ex´ecutions asyn-chrones sans l’aide de barri`ere de synchronisation.

A partir des deux mod`eles cit´es ci-dessus, des syst`emes pour le traitement de graphes en environnement parall`ele et distribu´e ont pu voir le jour.

Pregel (Malewicz et al. (2010)) est la premi`ere impl´ementation utilisant le principe du BSP. Ce logiciel a ´et´e orient´e vers les sommets du graphe. Les cal-culs portant sur le graphe sont sp´ecifi´es en termes de ce que doivent faire les nœuds. Les arˆetes servent de canaux et transmettent l’information r´esultante d’un sommet vers un autre mais ne participent pas au calcul. Un sommet peut avoir deux ´etats : actif et inactif. Les nœuds actifs peuvent envoyer et recevoir les messages de leurs voisins (ou d’un autre sommet du graphe). Les super-´

etapes se terminent avec une barri`ere de synchronisation, assurant que tous les messages ont bien ´et´e transmis. Pregel se termine lorsque tous les sommets sont inactifs. Toutes les op´erations avec Pregel sont effectu´ees en m´emoire. Pregel ne permet pas l’´ecriture sur disque, ce qui oblige `a avoir un important cluster de machines si la quantit´e de donn´ees `a traiter est grande. L’architecture de Pregel est de type maˆıtre-esclave. Le nœud maˆıtre du cluster coupe les donn´ees en lots qui forment des sous-graphes. Chaque sous-graphe est envoy´e `a un ”worker” sp´ecifique (ordinateur du cluster qui effectue une tˆache) qui travaille de mani`ere ind´ependante des autres. Le nœud maˆıtre est responsable de la bonne synchro-nisation.

Giraph (Avery (2011)) est une solution open source construite sur Hadoop et utilisant le HDFS pour stocker les donn´ees. Giraph permet la cr´eation de struc-tures de graphes et autorise certaines op´erations MapReduce. Giraph utilise Zoo-keeper pour la coordination, les points de reprise et la d´efaillance des syst`emes de r´ecup´eration. Facebook (Ching (2013)) a utilis´e Giraph avec quelques am´eliorations de performances pour analyser 1000 milliards d’arˆetes (relations) en 4 minutes sur un cluster de 200 machines, dans le but de faire un algorithme de recherche d’information sur les sommets. Cependant, Giraph cessa depuis 2015 d’ˆetre document´e, cela ´etant dˆu principalement `a la complexit´e de d´eveloppement et au temps de traitement des donn´ees trop important pour certains

algo-rithmes, principalement globaux. De nombreux bugs ont ´egalement ´et´e signal´es, d´ecr´edibilisant l’utilisation ce cette solution (Salihoglu et al. (2015)).

GPS (Salihoglu et Widom (2013)) (pour ”A Graph Processing System”) est un logiciel open source fond´e sur Pregel. Des exp´erimentations ont montr´e qu’il ´

etait jusqu’`a 12 fois plus rapide que Giraph sur certains algorithmes comme le parcours en largeur. Des optimisations par rapport `a Pregel portent sur l’am´elioration des communications, o`u les op´erations se font par processeur dans un premier temps, puis entre processeurs dans un second temps, et non plus par voisinage comme sur Pregel. Cela permet une r´eduction de la synchronisation des threads (moins d’´echanges entre processeurs) et une am´elioration de la per-formance d’ex´ecution en termes de temps. Une caract´eristique de GPS est un partitionnement de graphe dynamique pour la r´epartition des donn´ees sur le cluster. Alors que certains syst`emes partitionnent le graphe avant d’effectuer un processus, des migrations dynamiques de sommets ont lieu entre machines du cluster. Cette migration est fond´ee non sur une ´equir´epartition des som-mets (r´epartition de mani`ere uniforme) du graphe au sein du cluster, mais sur une ´equir´epartition des messages envoy´es entre sommets afin de minimiser leur nombre. Cependant, la mise `a jour des listes de voisins lors des migrations en-traˆıne un gain de temps qui ne permet pas au syst`eme d’ˆetre plus performant en termes d’ex´ecution que le mod`ele de base de Pregel. GPS offre aussi les ”grandes listes d’adjacences partitionnables” (GLAP) qui permettent de g´erer des nœuds avec beaucoup de connexions. Une migration des algorithmes de graphes s’ef-fectue `a ce jour vers GraphX.

Mizan (Khayyat et al. (2013); Kalnis et al. (2012)) est un logiciel open source fond´e sur l’architecture de GPS avec des am´eliorations concernant les structures de donn´ees utilis´ees et les m´ethodes de partitionnement. Il a ´et´e report´e comme ´

etant deux fois plus rapide que Giraph en mode statique (sans l’option de migra-tion de nœuds au cours de la partimigra-tion). Mizan a un partimigra-tionnement se fondant sur la topologie du graphe. L’algorithme, par une estimation de Kolmogorov (Pettitt et Stephens (1977)), peut d´etecter si le graphe est un graphe de ter-rain, auquel cas, un partitionnement sp´ecifique aura lieu, dans lequel les hubs (nœuds avec de fortes connexions) seront r´epliqu´es sur plusieurs processeurs. Comme GPS, Mizan a une option avec partitionnement dynamique au cours de l’ex´ecution d’un programme en se fondant sur la distribution des messages entre sommets du graphe. On reporte cependant de tr`es nombreux bugs. La documentation laisse `a penser que le projet n’est plus d’actualit´e.

GraphLab (Low et al. (2014)) est un projet open source qui int`egre les fonc-tionnalit´es de Powergraph (Gonzalez et al. (2012)). GraphLab utilise le mod`ele RAD. L’une des diff´erences avec les autres logiciels est que le partitionnement ne concerne que les nœuds, pas les arˆetes. Les arˆetes ne sont assign´ees que sur une seule machine alors que les nœuds sont r´epliqu´es dans la m´emoire cache des machines du cluster suivant la distribution de leurs degr´es (cela pr´evaut pour les hubs). Cela a pour cons´equence un gain de temps notable. GraphLab supporte

les modes d’ex´ecution synchrone et asynchrone. Les sommets qui n’envoient pas de messages ne sont pas consid´er´es lors des calculs et retir´es du cache, ce qui am´eliore le temps de calcul.

HAMA (Seo et al. (2010)) est un logiciel fond´e sur le mod`ele BSP tout en ´

etant construit sur Hadoop. Il n’est pas exclusivement destin´e aux graphes mais pr´esente de tr`es nombreux avantages. Il fut con¸cu pour g´erer de tr`es grandes matrices ainsi que leurs op´erations ´el´ementaires (multiplication, inversion, etc.). Il est principalement destin´e `a l’alg`ebre lin´eaire. HAMA pr´esente cependant un int´erˆet particulier pour les algorithmes it´eratifs car il permet de conserver les donn´ees en m´emoire et de ne pas les ´ecrire sur le disque, tel un pr´ecurseur de Spark. Les exp´erimentations r´ealis´ees sur PageRank ont montr´e que HAMA ´

etait jusqu’`a trois fois plus rapide que Giraph.

Syst`emes permettant le traitement de graphes parall`eles

Syst`eme Langage Mod`ele optimisation partitionnement Hadoop Java MapReduce - hashage Spark Scala RDD r´eutilisation 1D−2D

des donn´ees

Pregel C + + BSP - hashage GPS Java BSP GLAP, GLAP

migration dynamique

Mizan C + + BSP migration, Mizan α − β r´eplication hashage Giraph Java BSP, MapReduce ´ecriture en m´emoire hashage GraphLab C + + RAD calcul synchrone Metis,

et asynchrone ParMetis, hashage Powergraph C + + BSP,RAD graphes sur les arˆetes

de terrains avec une coupe

minimale

Tableau 2.3 – Caract´eristiques globales des syst`emes pour le traitement de graphes de mani`ere parall`ele et distribu´ee