Étude des attaques Sybil sur les jeux hédoniques

Étude des attaques Sybil sur les jeux hédoniques

Thibaut Vallée Grégory Bonnet Bruno Zanuttini François Bourdon

GREYC (UMR6072), ENSICAEN, Université de Caen Basse-Normandie, Campus Côte de Nacre, Boulevard du Maréchal Juin

14032 Caen Cedex 5, France Emails: firstname.name@unicaen.fr

Résumé :

Un jeu hédonique modélise la manière dont un ensemble d’agents décide collectivement qui va coopérer avec qui, et ceci à partir de préférences exprimées par les agents vis-à-vis des autres. Dans cet article, nous étudions une manipulation particulière sur de tels jeux, appelée at- taque Sybil. Il s’agit d’une manipulation où un agent mal- veillant s’introduit dans le jeu sous plusieurs fausses iden- titées, appelées Sybil, afin d’en modifier favorablement le résultat. Nous présentons deux manipulations portant sur des jeux hédoniques ayant des solutions stables selon le concept de solution de Nash et étudions leurs propriétés.

Nous montrons que ce sont en essence les deux seules at- taques possibles, et qu’elles sont difficiles à calculer. En- fin, nous montrons empiriquement que de telles manipu- lations sont rarement possibles sur une collection de jeux aléatoires.

Mots-clés :Jeux hédoniques, Attaque Sybil, Manipula- tion, Systèmes multi-agents, Nash-stabilité

Abstract:

Hedonic games model agents which decide with whom they will momentarily collaborate, given some prefe- rences on other agents. We study manipulations on such games, by a malicious agent which may introduce mul- tiple false identities (a.k.a. Sybil agents), so that the out- come of the game is more interesting for it. Taking Nash stability as the solution concept, we exhibit two manipu- lations and study their properties. Then we show the ra- ther unexpected result that these are essentially the only possible Sybil manipulations, and moreover that they are computationally hard to achieve. With small experiments, we also show that they are seldom possible in random games.

Keywords:Hedonic Games, Sybil Attack, Manipulation, Multi-Agent Systems, Nash-stability

1 Introduction

Une des problématique des systèmes multi- agents est de déterminer, à un instant donné, quels agents vont coopérer avec quels autres.

De tels problèmes peuvent être modélisés par un jeu de coalition. Canoniquement, les jeux de coalition sont fondés sur des fonctions d’uti- lité dites transférables, mais les jeux hédoniques diffèrent de ce modèle en permettant à chaque agent d’exprimer des préférences sur les autres agents avec lesquels il souhaite coopérer. Le problème revient alors à trouver un partition-

nement des agents qui est satisfaisant pour cha- cun d’entre eux. Parmi les partitions possibles, une partition en équilibre de Nash est une par- tition où aucun agent ne souhaite individuelle- ment changer de coalition. Cependant, cette no- tion d’équilibre ne garantit pas l’optimalité du résultat pour tous les agents. Ainsi, un agent égoïste peut mentir sur ces préférences indivi- duelles afin que le solution du jeu lui soit plus favorable, quand bien même cela serait au dé- triment des autres agents. Un tel mensonge est appelé une manipulation.

Dans cette étude, nous nous intéressons à une catégorie particulière de manipulations appelée attaque Sybil. Une telle manipulation consiste, pour un agent malveillant, à intégrer le système sous de multiples fausses identités, de manière à faire croire aux autres agents que ces identi- tés constituent des agents distincts. L’agent mal- veillant peut alors mentir sur ces propres pré- férences et faire exprimer par ses fausses iden- tités d’autres préférences définies sur mesure.

Ces manipulations sont donc une généralisation du vote stratégique abondament étudié dans le cadre des systèmes de votes. Toutefois, à notre connaissance, ces manipulations n’ont pas en- core été étudiées dans le cadre des jeux hédo- niques.

Dans cet article, après avoir présenté un état de l’art en section 2, nous proposons en section 3 un modèle d’attaque Sybil sur les jeux hédo- niques. Dans les sections 4 et 5, nous présen- tons alors deux attaques Sybil qui ont la parti- cularité de n’utiliser qu’une seule fausse iden- tité, qui ne nécessitent pas de connaître les pré- férences des autres agents et ne reposent que sur quelques hypothèses de bon sens. Nous présen- tons alors les conditions nécessaires à leur effi- cacité et montrons qu’il est difficile de calculer si elles le seront. Nous montrons ensuite dans la section 6 qu’il s’agit en essence des deux seules attaques possibles. Ce résultat est plutôt inat- tendu puique nous ne limitons pas dans notre modéle d’attaque le nombre de Sybil possibles, ni la connaissance des agents malveillants sur

les préférences des autres agents. De plus, dans la section 7, nous montrons empiriquement que les conditions nécessaires à la mise en place de ces manipulations sont rares, ce qui nous per- met de dire que les jeux hédoniques ayant des solutions stables selon le concept de solution de Nash sont robustes aux attaques Sybils.

2 État de l’art

La problématique de partitionement d’un en- semble d’agents tel que tous soient satisfaits de leur coalition été largement étudié dans la lit- térature. De nombreux modèles permettant aux agents de déterminer quelles coalitions ils sou- haitent former ont été proposés [?,?,?,?,?,?].

Ces derniers considèrent différentes propriétés permettant de garantir un équilibre comme l’op- timalité au sens de Pareto ou encore la stabilité au sens de Nash. Toutefois, décider s’il existe une partition stable au sens de Nash est un pro- blème NP-complet [?].

Comme la stabilité d’une solution dépend des préférences de chaque agent, il est naturel de se demander si un agent malveillant peut ma- nipuler le système en mentant sur ces propres préférences. Dans la littérature, les manipula- tions ont été étudiées sur de nombreux systèmes tels que les réseaux pair-à-pair [?], les systèmes de votes [?], les jeux de votes pondérés [?], les enchères combinatoires [?], les problèmes d’appariement [?], les réseaux sociaux [?] ou encore les sytèmes de réputation [?]. Dans le contexte des systèmes de votes, Bartholdi, To- vey et Trick [?] ont présentés deux familles de manipulations : les manipulations contructives et les manipulations destructives qui ont respec- tivement pour objectif de faire gagner ou perdre un candidat donné. Ces auteurs ont montré par ailleurs que même si certaines règles de votes, tels que la règle de Copeland, sont résistantes aux manipulations, la majorité ne le sont pas.

Walsh [?] a montré empiriquement que même s’il est NP-difficile de manipuler un vote dans le pire des cas, cela reste facile en pratique pour STV et les votes par veto.

Une attaque Sybil [?] (aussi appelé false- name manipulation[?]) consiste à introduire de fausses identités dans un système. Différentes approches ont été proposées afin de rendre un système robuste à de telles manipulations. Nous pouvons citer l’utilisation d’une autorité cen- trale de certification [?] ou encore la recherche de cliques d’agents dans le graphe d’interaction

du système [?, ?, ?]. Cependant, ces approches portent sur les systèmes de réputation ou les enchères combinatoires. Ainsi, á notre connais- sance, il n’existe pas d’études portant sur les at- taques Sybil dans le cadre des jeux hédoniques.

Nous pouvons toutefois mentionner les travaux portant sur le clonage stratégique de candidats dans les systèmes de votes [?]. En effet, de tels problèmes peuvent rappeler les jeux hédoniques où dupliquer un agent revient à dupliquer les coalitions possibles sur lesquelles les agents ex- priment des préférences.

3 Modèle

Dans cette section, nous présentons dans un pre- mier temps notre modèle de jeu hédonique ayant pour solutions stables le concept de solution de Nash. Dans un second temps, nous présentons notre modèle de manipulation pour les attaques Sybil sur de tels jeux. Tout au long de cette sec- tion, un exemple applicatif illustrera et justifiera nos hypothèses de travail.

3.1 Jeux hédoniques

Afin de motiver notre modèle, considérons une plateforme de jeu vidéo en ligne où les joueurs peuvent créer avec d’autre des parties, plusieurs d’entre elles pouvant être lancées indépendam- ment par un sous-ensemble de joueurs (pos- siblement tous). Un joueur peut alors préfé- rer jouer avec certains plutôt qu’avec d’autres.

Ces préférences peuvent se fonder sur des expé- riences de jeu précédentes ou sur des liens so- ciaux préalables entre joueurs. La question est alors de déterminer quel joueur rejoindra quelle partie, en sachant qu’il n’est pas possible pour un joueur de rejoindre une partie déjà commen- cée. Notons qu’un joueur peut toujours jouer seul, même si cela est peut ne pas être satisfai- sant.

Un tel problème de décision collective peut être modélisé par un jeu hédonique, chaque agent (joueur) exprimant des préférences sur les coa- litions du système (parties) où unecoalitionest un ensemble d’agents avec qui il souhaite jouer.

Définition 1 Unjeu hédonique(en abrégé jeu) est un coupleG=hN,ioùN = (a₁, . . . , a_n) est un ensemble d’agents et est un profil de préférence (₁, . . . ,_n) qui associe à chaque agent a_i une relation de préférence _i sur les sous-ensembles deN contenanta_i(coalitions).

Comme précisé dans notre exemple applicatif, la relation de préférence d’un agent peut être construite à partir d’une notion de confiance ou de réputation vis-à-vis des autres agents, ou en- core à partir des résultats de jeux précédents.

Dans notre cas, nous ne nous intéressons uni- quement au jeu à un instant donnée et supposons donc que le profil de préférence existe, sans faire d’hypothèse sur son origine.

Définition 2 SoitN un ensemble d’agents. Une relation de préférencesurN est une relation réflexive et transitive sur un sous-ensemble de N.(resp.∼) est une préférence stricte (resp.

symétrique). Pour deux coalitions C, C⁰ ⊆ N, C C⁰ se lit “C estpréféréeàC⁰”, etC ∼C⁰ est lu “l’agent estindifférententreCetC⁰”.

Exemple 1 Dans la suite de cet article, nous utiliserons l’exemple de la Figure 1 où, par sim- plification, nous omettons volontairement les in- dices sur les relations de préférence et écri- vons13mpour la coalition {h₁, h₃, m}. La no- tation h correspond à un agent “honnête”, m à l’agent “malveillant” etsà un agent “Sybil”

(une fausse identité dem). Ici, du point de vue de l’agenth₁, la coalition12 est préférée à la coalition13m qui est à son tour préférée à 13 et12m,h₁étant indifférent à ces deux dernières coalitions.

Résoudre un jeu hédonique consiste à trouver un ensemble de coalitions qui satisfontles pré- férences de tous les agents. Dans notre modèle, nous interdisons les coalitions recouvrantes, c’est-à-dire nous interdisons à un agent d’appar- tenir à plusieurs coalitions simultanément. Nous notons parΠ = {C1, . . . , Cm}une partition de Net parC_i^Πl’unique coalition dansΠcontenant l’agent a_i. Enfin, nous adoptons le concept de solution fondé sur la stabilité selon Nash. Une partitionΠ est stable au sens de Nash si aucun agent ne désire (unilatéralement) rejoindre une autre coalition de cette partition.

Définition 3 Soit G = hN,i un jeu hédo- nique. Une partitionΠ de N est dite stable au sens de Nashsi :

∀a_i ∈N,@C ∈Π∪ {∅}, C∪ {a_i} _i C_i^Π

Exemple 2 La ligne “NS_G” de la Figure 1 in- dique les deux seules partitions stables au sens de Nash du jeu.

En général, un jeu G peut avoir zéro, une ou plusieurs partitions stables au sens de Nash.

Même si ce concept de solution peut sembler restrictif, il nous permet de modéliser les cas où aucun agent ne donne son accord à une solu- tion. Dans notre exemple applicatif, cela arrive lorsque chaque joueur désire jouer avec un autre qui, lui, ne le désire pas.

Dans la suite, nous désignons par partition stable une partition stable au sens de Nash et écrivons NS_G pour noter l’ensemble des parti- tions stables dans un jeu G. Notons que dans un jeu hédonique, tout agent peut décider d’être dans la coalition singleton, ce qui signifie sim- plement qu’il ne collabore pas avec les autres agents. Ainsi, pour un agent ai, les coalitions qui ne sont pas préférées à la coalition singleton {a_i} ne peuvent pas appartenir à une partition stable. Afin de simplifier la lecture de cet article, nous ne représentons dans_ique les coalitions préférées (ou également préférées) à la coalition singleton.

3.2 Attaque Sybil

Un agent effectue une attaque Sybil [?] en en- trant dans le système sous de multiples fausses identités. Par exemple, dans notre exemple ap- plicatif, un joueur peut pour cela créer différents comptes. Dans cet article, nous supposons qu’il n’y a qu’un unique agent malveillantm qui es- saye de manipuler le jeu hédonique en créant un nombre arbitraire de fausses identités. Nous ne faisons alors aucune hypothèse sur la connais- sance quema du jeu.

Intuitivement, l’agent malveillant manipule un jeu par une attaque Sybil en rapportant, d’une part, de fausses préférences pour lui-même et, d’autre part, en introduisant de fausses identités ayant leurs propres relations de préférence dans le jeu.

Définition 4 SoitG=hN,iun jeu hédonique etm∈N un agent. Uneattaque SybilsurGef- fectuée par m est définie par un ensemble de nouveaux agents {s₁, . . . , s_k} (k ≥ 0) appe- lésagents Sybil, une relation de préférence ⁰_m pour m et une relation de préférence ⁰_s

i pour chaque agent Sybils_i.

Remarquons que cette définition est générale dans le sens où aucune hypothèse n’est faite sur le nombre d’agents Sybil, ni sur les connais- sances de m vis-à-vis du jeu. En effet, l’agent

h₁ 1213m 13∼12m123m ∼11m∼123 h₂ 12∼23m 123∼2m12m23123m∼2 h₃ 13∼23m 3m12323123m∼313m m 1m 2m 3m m12m 13m ∼23m123m

NS_G Π₁ ={12,3m},Π₂ ={13,2m}

URG Π3 ={1,23m},Π4 ={12m,3},Π5 ={123m}

FIGURE1 – Exemple de jeu hédonique avec 4 agents.

malveillant peut ne pas connaître le nombre d’agents du jeu ou, à l’inverse, avoir une connaissance parfaite des préférences de ces derniers. De même, nous pouvons remarquer que si l’agent malveillant m n’utilise aucune fausse identité, l’attaque consiste alors pour m à simplement mentir sur ses préférences.

Comme de nouveaux agents sont introduits par la manipulation, nous devons définir la rela- tion de préférence⁰_i de chaque autre agent h_i vis-à-vis des coalitions contenant ces nouveaux agents. Pour cela, nous posons deux hypothèses.

La première est l’indépendence aux alternatives non pertinentes [?] couramment utilisée dans les systèmes de votes. Dans notre contexte, cela si- gnifie que si un agent préfère une coalitionC1à une coalitionC₂, alors l’introduction d’un nou- vel agent dans le jeu ne changera pas cet ordre.

La seconde hypothèse, que nous appelons le bé- néfice du doute, modélise le fait que les agents sonta prioriindifférents à former une coalition avec un agent qu’ils ne connaissent pas.

Hypothèse 1 (Indépendance aux alternatives)

∀C₁, C₂ ⊆N,∀a_i ∈C₁∩C₂ : C1 i C2 ⇔C1 ⁰_i C2

Hypothèse 2 (Bénéfice du doute)

∀C⊆N,∀a_i ∈C,∀u /∈N, C ∼⁰_i C∪ {u}

Exemple 3 Si s intègre le jeu de la Figure 1 alors ⁰₁ satisfait 12 ∼⁰₁ 12s ⁰₁ 13m ∼⁰₁ 13ms⁰₁ 13∼⁰₁ 13s∼⁰₁ 12m . . .

L’hypothèse 1 est une hypothèse de bon sens.

L’hypothèse 2 est, quant à elle, nécessaire pour modéliser des systèmes ouverts en permettant aux nouveaux agents de coopérer avec des agents déjà présents. En effet, [?] énonce cette propriété désirable dans le cadre des systèmes

de réputation :les nouveaux entrants ne doivent pas être pénalisés en ayant par défaut une faible valeur de réputation. Dans notre exemple ap- plicatif, il est raisonable de supposer que les joueurs sont indifférents à la présence de nou- veaux joueurs car cela peut permettre de lier de nouvelles amitiés ou affronter de nouveaux ad- versaires.

Ainsi, les hypothèses 1 et 2 permettent de définir clairement les nouvelles relations de préférence des agents honnêtes lors de l’arrivée d’un nou- vel agent. Lorsque plusieurs identités intègrent le jeu, les nouvelles relations de préférence sont déterminées par induction : le premier nouvel agent est introduit, puis le second sur les préfé- rences qui en résultent, et ainsi de suite.

Définition 5 Soit G = hN,i un jeu hédo- nique avec N = {h₁, . . . , h_n, m}. Le jeu ré- sultant d’une attaque Sybil ({s₁, . . . , s_k},⁰_m ,(⁰_s1, . . . ,⁰_s

k)) sur G par m est le jeu G⁰ = hN ∪ {s₁, . . . s_k},(⁰₁, . . . ,⁰_n,⁰_m,⁰_s

1

, . . . ,⁰_s

k)i, où ⁰_i est définie à partir de _i et des hypothèses 1 et 2.

3.3 Rationalité de l’attaquant

Nous considérons les agents malveillants comme rationnels dans le sens où ils n’ef- fectueront une attaque que si et seulement si ils préfèrent la solution du jeu résultant de la manipulation à la solution du jeu initial. La définition formelle de cette notion de rationalité est donnée dans cette section.

Toutefois, nous supposons que les agents mal- veillants ne connaissent pas la manière dont la solution est déterminée si ce n’est que cette solution sera nécessairement stable au sens de Nash. Elle peut par exemple être déterminée par un protocole de négociation ou un tirage aléa- toire. Nous représentons alors cette ignorance par l’hypothèse ci-dessous.

Hypothèse 3 Le solution d’un jeu G est se- lectionnée aléatoirement uniformément parmi NS_G.

Cette hypothèse nous permet de définir de ma- nière générale l’objectif d’un agent malveillant.

Intuitivement, une manipulation est efficace si elle augmente la proportion de partitions stables satisfaisantes. La satisfaction de l’agent mal- veillant se définit alors relativement à unecoali- tion seuilC_θqui la coalition minimalement pré- férée dontmsouhaite être membre.C_θest alors choisie par m et lui permet de comparer deux manipulations distinctes.

Définition 6 Soit G = hN,i un jeu hédo- nique. Une partition Π de N est dite satisfai- sante pour m relativement à la coalition seuil C_θ si et seulement siΠ∈NS_G etC_m^Π _mC_θ.

Exemple 4 Sur la Figure 1, il n’y a pas de par- tition satisfaisante pourm si Cθ = 1m. En re- vanche, si m choisit Cθ = 3m alors les deux partitions stables (ligne “NS_G”) sont satisfai- santes.

Dans un jeu résultant d’une manipulation,mest présent à la fois sous sa véritable identité et sous celles de ces fausses identitéss₁, . . . , s_k. Intui- tivement, simdésire rejoindre une coalitionC, il sera également satisfait si une de ses fausses identités la rejoint à sa place. Ainsi, nous pou- vons redéfinir la notion de partition satisfaisante pour un jeu résultant d’une manipulation.

Définition 7 Soit G⁰ = hN ∪ {s₁, . . . , s_k},⁰ i un jeu hédonique résultant d’une manipula- tion de m. Une partition Π⁰ est dite satisfai- sante relativement à la coalition seuil Cθ si Π⁰ ∈ NS_G⁰ et que C_m^Π0 _m C_θ ou que ∃s_i ∈ {s₁, . . . , s_k}, C_s^Π0

i ∪ {m} \ {s_i} _m C_θ.

Nous insistons ici sur le fait que la satisfaction de m dans le jeu G⁰ résultant de la manipula- tion est définie à partir de ses préférences ini- tiales_m (données dans Get donc portant sur N). En particulier, une coalition contenant plu- sieurs des identités dem ne peut pas être satis- faisante. Ceci modélise le fait que l’agent mal- veillant ne peut pas concrétement agir simul- tanément sous plusieurs fausses identités. Par

conséquent, une fois la solution du jeu détermi- née, une seule des identités de m peut partici- per aux coalitions, les autres devant être aban- données. Cet abandon se fait après la formation effective des coalitions et donc n’affecte pas la solution elle-même. Dans notre exemple appli- catif, cette hypothèse est réaliste car un joueur peut à tout moment quitter une partie mais ne peut pas en rejoindre une autre déjà commen- cée. Plus généralement, une identité peut tou- jours quitter une coalition en simulant une dé- faillance critique.

Comme la solution d’un jeu G est choisie uniformément parmi l’ensemble des partitions stables, nous définissons l’efficacité d’une ma- nipulation en fonction de la proportion de parti- tions satisfaisantes pourmqu’elle génère.

Définition 8 Soit G un jeu hédonique, m un agent malveillant et G⁰ le jeu résultant d’une manipulation de m sur G. Soit C_θ la coalition seuil choisie par m. Une manipulation est effi- cace relativement à C_θ si r^G_θ⁰ > r_θ^G où r_θ^G est le ratio de partitions satisfaisantes pourmdans G:

r_θ^G= |{Π|Πest satisfaisante pourm}|

|NS_G|

Par convention, r^G_θ = 0 lorsqueNS_G = ∅. Re- marquons que si C_θ est fixée comme étant la coalition singleton {m} alors toutes les parti- tions stables sont satisfaisantes pour m. Ainsi, si le jeu initial possède au moins une partition stable alors r_θ^G vaut 1. Dans ce cas particulier, aucune manipulation ne peut donner un ratio strictement supérieur (et donc être efficace).

4 Attaque Sybil constructive

Nous présentons maintenant une première attaque Sybil. Cette manipulation est dite constructivedans le sens où l’agent malveillant manipule le jeu afin de rendre stables des parti- tions instables désirées.

4.1 Définitions

Pour toute partition instable Π d’un jeu G, les agents peuvent être séparés en deux groupes : ceux qui ne veulent pas changer de coalition et ceux qui le souhaitent. Ces derniers sont ditres- ponsablesde l’instabilité deΠ.

Définition 9 Soit G un jeu hédonique, a_i un agent etΠ une partition instable deG. L’agent a_i est dit responsable de l’instabilité de Π si

∃C ∈ Π telle queC ∪ {a_i} _i C_i^Π. Une telle coalition est diteattractive(poura_i).

Exemple 5 La ligne “UR_G” de la Figure 1 montre l’ensemble des partitions instables dont l’agentmest l’unique responsable.

Intuitivement, l’attaque constructive est efficace si l’agent malveillant m est l’unique respon- sable de l’instabilité d’une partitionΠet que la coalition attractive pourmdansΠest également satisfaisante simla rejoint. Informellement, m manipule alors le jeu en prétendant être indiffé- rent à toutes les coalitions possibles et en intro- duisant une seule fausse identité qui rapportera ses véritables préférences afin de profiter du bé- néfice du doute (Hypothèse 2).

De manière à simplifier la lecture, nous définis- sons par l’indifférencede m (noté∼⁰_m) la rela- tion de préférence où m est indifférent à toute les coalitions qu’il peut rejoindre (C₁ ∼_m C₂ pour toutC₁, C₂ 3 m). Nous notons aussi _m [m/s]la relation de préférence obtenue en rem- placantmparsdans toutes les coalitions dem. Définition 10 Soit G = h{h1, . . . , hn, m},i un jeu hédonique. L’attaque constructive de G parmest la manipulation utilisant un agent Sy- bil s où m et s rapportent respectivement les relations de préférence suivantes : ⁰_m := ∼_m et⁰_s:=_m [m/s].

Notons que l’agent Sybil indique qu’il nedésire pas rejoindre m (car m est remplacé par s in ⁰_s).

Exemple 6 La manipulation constructive du jeu de la Figure 1 consiste à ajoutersavec pour relation de préférence1s⁰_s 2s⁰_s3s⁰_s s.

4.2 Efficacité

Nous présentons ici sous quelles conditions l’at- taque constructive est efficace. Dans les lemmes suivants, nous caractérisons les conditions né- cessaires pour qu’un agent honnête ou un agent Sybil souhaite changer de coalition dans une partition du jeu résultant de la manipulation.

Trivialement, l’agent malveillant ne changera

jamais de coalition car il est indifférent à toutes les coalitions.

Fixons tout d’abord un jeu G = hN,i, un agent malveillant m ∈ N et une partition Π de G. Notons G⁰ le jeu résultant de l’attaque constructive de G par m. Notons aussi C₀ ∈ Π ∪ {∅} une coalition quelconque de Π et Π⁰ la partition deG⁰ obtenue par l’ajout de l’agent Sybil sdans C₀, c’est-à-direΠ⁰ = Π\ {C₀} ∪ {C₀ ∪ {s}}. Afin de simplifier l’écriture, nous notonsΠ⁰ = Π[s→C₀].

Lemme 1 Un agent honnête hne désire chan- ger de coalition dansΠ⁰que si et seulement si il le désire dansΠ.

Démonstration Par définition, h désire chan- ger de coalition dansΠ⁰ si et seulement si∃C⁰ ∈ Π⁰telle queC⁰∪{h} ⁰_h C_h^Π0. En raison de l’Hy- pothèse 2, nous avonsC⁰∪{h} ∼⁰_h C⁰∪{h}\{s}

etC_h^Π0 ∼⁰_h C_h^Π0\{s}. Ainsi,C⁰∪{h} ⁰_h C_h^Π0 est équivalent àC⁰∪ {h} \ {s} ⁰_h C_h^Π0 \ {s}. Ce- pendant, commeC_h^Π0\{s}=C_h^Πet queC⁰\{s}

est définie dans Π, nous pouvons dire queh ne souhaite rejoindreC⁰ dansΠ⁰ que si il souhaite

rejoindreC⁰ \ {s}dansΠ. 2

Lemme 2 L’agent Sybils ne désire changer de coalition dansΠ⁰ que si et seulement sim∈C₀ ou que∃C∈Πtelle quem /∈CetC∪{m} _m C₀∪ {m}.

Démonstration Supposons tout d’abord m ∈ C₀. Dans ce cas, s souhaite nécessairement changer de partition dansΠ⁰(au moins pour for- mer la coalition{s}).

Supposons maintenant que m /∈ C₀. Si s pré- fère une coalitionC⁰ ∈Π⁰à la coalitionC₀∪{s}

alors il existeCtelle quem /∈CetC∪{m} _m C₀ ∪ {m}. Commes souhaite changer de coa- lition, nous avons C⁰ ∪ {s} ⁰_s C₀ ∪ {s}. Or par définition de⁰_s, nous avons nécessairement m /∈C⁰ etC⁰ ∪ {m} m C0∪ {m}.

Inversement, si nous supposons qu’il existe une telle coalitionC, par définition de⁰_s,ssouhaite rejoindre la coalitionC∪ {s}dansΠ⁰. 2 Le corollaire suivant se déduit à partir des deux lemmes ci-dessus.

Corollaire 1 Une partition Π⁰ est stable dans G⁰ si et seulement si, pour la partition Π telle

NS^θ_G ={Π∈NS_G|Πest satisfaisante pourm}

UR_G={Π∈/ NS_G |mest l’unique responsable de l’instabilité deΠ}

UR^θ_G ={Π∈UR_G|∃C∈Π, C ∪ {m} _m C_θ}

FIGURE2 – Partitions remarquables d’un jeu hédonique queΠ⁰ = Π[s→ C₀], soit (1)Πest stable dans

G, soit (2)mest l’unique responsable de l’insta- bilité deΠdansGetC0∪ {m}est la coalition quempréfère à toutes les autres dansΠ.

Exemple 7 Sur le jeu de la Figure 1, Π⁰₃ = Π₃[s →1] ={1s,23m}est une partition satis- faisante dans le jeu résultant de la manipulation constructive siC_θ = 1m tandis que la partition Π⁰₁ = Π₁[s → 12] ={12s,3m}est stable mais non satisfaisante.

Nous pouvons maintenant caractériser les conditions nécessaires à l’efficacité de l’attaque constructive sur un jeu hédoniqueG. Pour une coalition seuil C_θ donnée, consiérons les par- titions NS^θ_G, UR_G et UR^θ_G dont les définitions sont données en Figure 2.

Exemple 8 Sur la Figure 1, pour C_θ = 1m ou C_θ = 2m, UR^θ_G est {Π₃} et, pour C_θ = 3m, UR^θ_Gest{Π₃,Π₄}.

Par souci de lisibilité, nous supposons ici que l’agent malveillant possède des préférences li- néaires. Toutefois, le résultat suivant peut être généralisé en comptant le nombre de coalitions satisfaisantes présentes dans les partitions de Π ∈ NS^θ_G ∪UR^θ_G au lieu de ne compter que 1par partition.

Proposition 1 Supposons que m rapporte une relation de préférence linéaire (asymétrique et totale). L’attaque constructive est efficace sur un jeuGsi et seulement si soit (1) NS^θ_G =∅et UR^θ_G 6=∅, soit (2)NS^θ_G 6=∅et ^|UR_|UR^θG|

G| > ^|NS_|NS^θG|

G|. Démonstration Supposons tout d’abord NS^θ_G = ∅. La manipulation est alors efficace si et seulement siG⁰ possède au moins une parti- tion satisfaisanteΠ⁰. Notons Π⁰ = Π[s → C₀].

Selon le Corollaire 1, ceci n’est possible que si Π∈ NS_G ou queΠ ∈UR_G. CommeΠ⁰ est sa- tisfaisante, soitC₀∪ {m} _m C_θ, soitC_m^Π _m

Cθ. Dans les deux cas, commeNS^θ_G = ∅, nous avonsΠ∈/ NSG, ce qui implique queΠ∈URG

et donc queΠ ∈UR^θ_G.

Supposons maintenant NS^θ_G 6= ∅. Comparons les ratios de partitions satisfaisantes dans G et dans G⁰. Ainsi, r_θ^G = |NS^θ_G|/|NS_G|. Selon le Corollaire 1 et par linéarité de_m, nous avons

|NS_G⁰|=|NS_G|+|UR_G|.

Comptons désormais combien de partitions sont satisfaisantes dans NS_G⁰. Considérons dans un premier temps les partitions stables Π ∈ NS_G. Pour chaque partition Π ∈ NS_G, il y a exac- tement une partition stable Π⁰ (dans G⁰) de la forme Π[s → C₀]. Comme Π est stable, C₀ ∪ {m} 6_m C_m^Π. Par conséquent, Π⁰ est sa- tisfaisante dans G⁰ si et seulement si Π est sa- tisfaisante dans G. Considérons maintenant les partitions instables. Selon le Corollaire 1, pour chaque partition Π ∈/ NS_G, la partition Π⁰ = Π[s → C₀] n’est stable dans G⁰ que si m est l’unique responsable de l’instabilité de Π dans G, et queC₀∪{m}est la coalition quempréfère à toutes les autres dansΠ. Ainsi,Π⁰ est satisfai- sante dansG⁰si et seulement siC₀∪ {m} C_θ, i.e.,Π∈UR^θ_G.

Enfin, le nombre de partitions satisfaisantes dans G⁰ est |NS^θ_G| + |UR^θ_G|. Ainsi, la mani- pulation n’est efficace que si et seulement si

|NS^θ_G|+|UR^θ_G|

|NS_G|+|UR_G| > ^|NS_|NS^θG|

G|, i.e. ^|UR_|UR^θG|

G| > ^|NS_|NS^θG|

G|. 2 Remarque 1 La condition (1) ne nécessite pas la linéarité de _m. Comme nous le montrerons dans la section 6 la condition (2) n’a pas de réelle importance en pratique. En effet, lorsque 0<|NS^θ_G|<|NS_G|, l’attaque destructive (pré- sentée dans la section 5) est aussi efficace.

Exemple 9 Sur la Figure 1, l’attaque construc- tive est efficace (NS^θ_G = ∅etUR^θ_G = {Π₃}) si C_θ = 1m. Cependant, siC_θ = 2m, la solution est strictement pire pour m (NS^θ_G = {Π₂} et UR^θ_G ={Π₃}). En effet, dans ce cas, r_θ^G = 1/2 etr^G_θ⁰ = 2/5.

Il est intéressant de remarquer que décider si l’attaque constructive est efficace requière plus de connaissances sur le jeu initial que pour sim- plement construire cette attaque. En effet, il est nécessaire de connaître les préférences des autres agents pour calculer le nombre de par- titions stables dans G. Nous concluons donc cette section en montrant qu’il s’agit d’un pro- blème de décision difficile quemdoit résoudre s’il ne souhaite pas risquer d’empirer sa situa- tion en manipulant le jeu (comme illustré par l’Exemple 9).

Proposition 2 Il est NP-difficile pour mde dé- cider si l’attaque constructive est efficace surG.

Démonstration Nous allons ici donner une ré- duction au problème de décider si, pour un jeu donnéG0, il existe au moins une partition stable au sens de Nash. Ce problème a été prouvé NP- complet [?].

À partir deG₀, construisons un jeuGoùNS^θ_G=

∅mais oùUR^θ_G 6= ∅uniquement siG₀ possède une partition stable. Selon la Proposition 1, l’at- taque constructive n’est efficace surGque siG₀ possède une partition stable au sens de Nash.

Notons G₀ = hN₀,₀i avec N₀ = {h₁, . . . , h_n}. Le jeu G est défini à partir de G₀ en y ajoutant deux nouveaux agents, h et m, ayant les relations de préférences suivantes : {h, m} m {m}, {h} h C pour toute coali- tionC 6= {h}. Pour tout agenthi ∈ N0, i est calculée à partir de(0)selon les Hypothèses 1 et 2.

Intuitivement,hsouhaite être seul etmveut re- joindre h. Les autres agents sont indifférents à eux et conservent leurs préférences de G₀. Tri- vialement,Gpeut être construit en un temps po- lynomial en la taille de G₀. Fixons C_θ comme étant la coalition{h, m}.

Il n’existe alors pas de partition stable dans G puisqueh souhaite être dans une coalition sin- gleton et que m veut le rejoindre. Supposons qu’il existe une partition stable Π₀ dans G₀ et considérons la partitionΠ = Π₀∪ {{h},{m}}

dans G. Alors, m est l’unique responsable de l’instabilité de Π. Par ailleurs, la coalition at- tractive pourm est satisfaisante dansΠ. Ainsi, Π ∈ UR^θ_G. Par dualité, si toutes les partitions Π₀deG₀sont instables, commeh₁, . . . , h_nsont indifférents enversh, m, toute partition deGin- tégranthetmest alors instable.

Ainsi,Gn’a pas de partition stable etUR^θ_G 6=∅ si et seulement siG₀a une partition stable. 2

5 Attaque Sybil destructive

Nous présentons dans cette section une attaque Sybil destructive dans le sens où l’agent mal- veillant manipule le jeu afin de rendre instable une partition stable non désirée.

5.1 Définitions

Dans la définition de la stabilité au sens de Nash, un unique agent “veto” peut refuser une coalition et ainsi rendre une partition donnée instable. L’attaque destructive repose sur ce constat et utilise une unique fausse identité qui posera un veto sur toutes les partitions qui ne satisfont pasm.

Définition 11 Soit G = hN,i un jeu hédo- nique. L’attaque destructive de m sur G est la manipulation utilisant un agent Sybilsoùm et srapportent respectivement les relations de pré- férence suivantes :⁰_m:=m et⁰_sdéfinie pour toute coalitionC ⊆Npar (1)C∪{s} ⁰_s {s}si m ∈CetC m C_θ, et par (2){s} ⁰_sC∪ {s}

dans les autres cas.

Notons ques rapporte{s} ⁰_s Cθ ∪ {s} et que mrefuse d’être dans la même coalition ques.

Exemple 10 Sur la Figure 1, si C_θ = 2m, la relation de préférence de s lors d’une attaque destructive est 3ms, ms, 12ms, 13ms, 23ms, 123ms⁰_s s.

5.2 Efficacité

Nous montrons maintenant que l’attaque des- tructive ne peut être efficace sur un jeu hédo- nique que s’il existe au moins une partition sa- tisfaisante dans le jeu initial. Pour cela, fixons un jeuGoù un agent malveillantmchoisit une coalition seuil C_θ. Notons G⁰ le jeu résultant d’une attaque destructive demsurG.

Lemme 3 Il existe une partition stable dansG⁰ si et seulement si il existe au moins une parti- tion satisfaisante pourmdansG. De plus, toute partition stable deG⁰ est satisfaisante pourm.

Démonstration Supposons tout d’abord l’exis- tence d’une partition Π satisfaisante dans G.

Dans ce cas,Π∪{{s}}est nécessairement satis- faisante dansG⁰. Supposons maintenant qu’une partition Π⁰ soit satisfaisante pour m dans G⁰. Prenons la partition Π de G telle que Π⁰ = Π[s → C₀]. Sim est satisfait parΠ⁰ dansG⁰, il est nécessairement satisfait parΠdansG. Dans le cas contraire,Π⁰ ne pourrait être satisfaisante que par la présence deC₀∪{s}. Or, selon la défi- nition de⁰_s,ssouhaiterait changer de coalition pour rejoindre la coalition dem, ce qui contredit la stabilité deΠ⁰.

Montrons maintenant que toutes les partitions stables de G⁰ sont satisfaisantes pour m. Sup- posons qu’il existe une partition stableΠ⁰ dans G⁰mais non satisfaisante pourm. Selon la défi- nition de⁰_s,sdoit être dans la même coalition quem. Cependant,mpréférerait alors être dans sa coalition singleton, ce qui contredit la stabi-

lité deΠ⁰. 2

Il est intéressant de noter que lorsque l’attaque Sybil destructive est efficace, elle l’est totale- mentdans le sens où toutes les partitions stables du jeu résultant de la manipulation sont satisfai- santes. Les conditions nécessaires à son effica- cité sont alors les suivantes :

Proposition 3 L’attaque destructive est efficace sur un jeu hédonique G si et seulement si il existe dans G au moins une partition satisfai- sante et au moins une partition stable mais non satisfaisante.

Dans cette proposition, la présence d’une par- tition stable mais non satisfaisante dans G est nécessaire par le fait que si toutes les partitions d’un jeuGsont satisfaisantes, alors il ne peut y avoir de manipulation donnant un ratio de parti- tions satisfaisantes — strictement — supérieur.

Exemple 11 Sur la Figure 1, l’attaque destruc- tive est efficace pour la coalition seuilC_θ = 2m (Π₂ est satisfaisante, Π₁ ne l’est pas et donc seule Π₂[s → ∅] = {13,2m, s} est stable et satisfaisante dans G⁰). En revanche, pour C_θ = 3m, l’attaque destructive n’est pas effi- cace (m est déjà totalement satisfait dans G), tout comme pourC_θ = 1m(r_θ^G =r_θ^G0 = 0).

Comme pour l’attaque constructive, il est, d’une part, difficile de décider si cette manipulation

est efficace et, d’autre part, cela nécessite de connaître les préférences des autres agents. Cela est toutefois moins problématique pour m car cette attaque, au pire cas, ne change pas sa si- tuation.

Proposition 4 Il est NP-difficile pourm de dé- cider si une attaque destructive est efficace sur G.

Démonstration La démonstration est simi- laire à celle de la Proposition 2. Soit G₀ = hN₀,₀i un jeu hédonique donné. Nous pou- vons construire à partir de G₀ un jeu G pos- sédant à la fois une partition stable et satisfai- sante et une partition stable mais non satisfai- sante uniquement si G₀ possède au moins une partition stable.

Le jeuGest défini à partir deG₀en y intégrant trois nouveaux agents h, h⁰, et m dont les re- lations de préférence sont {h, h⁰, m} _a {a}

poura∈ {h, h⁰, m}. Les préférences des agents de N₀ sont définies dans G à partir de ₀ et des Hypothèses 1 et 2. Intuitivement,h,h⁰ etm souhaitent tous être membres{h, h⁰, m}ou être dans la coalition singleton. Les autres agents restent indifférents vis-à-vis d’eux. Fixons alors la coalition seuilC_θcomme étant{h, h⁰, m}.

Soit une partition Π de G. Si au moins un des trois nouveaux agents est en coalition avec un agent de N₀ alors Π n’est pas stable puisque cet agent préférera rejoindre sa coalition sin- gleton. Π ne peut pas être stable non plus si exactement deux des nouveaux agents sont en coalition. Les deux cas restants sont ceux où h, h⁰, msont respectivement dans leur coalition singleton ou tous ensemble.Πne peut alors être stable que si Π \ {{h},{h⁰},{m},{h, h⁰, m}}

est stable dans G₀. Notons par ailleurs que les deux partitions sont alors stables mais que seule celle incluant la coalition{h, h⁰, m}est satisfai-

sante pourm, comme désiré. 2

6 Jeux manipulables

Dans cette section, nous montrons enfin que les jeux hédoniques ne sont manipulables dans le cas général que si les conditions caractérisées précédemment sont satisfaites, dans le sens où si une attaque Sybil quelconque est efficace sur un jeu G, alors l’attaque constructive ou l’attaque destructive l’est également. Ce résultat est inat- tendu puisque ces deux attaques ne nécessitent

qu’une unique fausse identité et peuvent être construites sans connaissance sur le jeu (y com- pris le nombre d’agents présents). Ainsi, utiliser un large nombre de fausses identités et/ou avoir des connaissances sur le jeu n’aide nullement un agent malveillant dans la construction d’une at- taque Sybil.

Proposition 5 Soit G un jeu hédonique, m un agent malveillant dans G et C_θ une coalition seuil choisie par m. Si une attaque Sybil quel- conque M de m sur G est efficace, alors l’at- taque constructive ou l’attaque destructive dem surGl’est aussi.

Démonstration Supposons qu’il existe une manipulationM efficace sur un jeu G. Suppo- sons que l’attaque destructive ne soit pas ef- ficace sur G et montrons alors que l’attaque constructive est efficace.

Comme l’attaque destructive n’est pas efficace, la Proposition 3 indique que soit toutes les parti- tions stables dansGsont satisfaisantes, soit au- cune ne l’est. Dans le premier cas, M ne peut pas être efficace, ce qui contredit l’hypothèse.

Ainsi, G ne possède pas de partition satisfai- sante pourm.

NotonsG⁰ le jeu résultant de la manipulationM surG etS l’ensemble des agents Sybil utilisés par m afin d’effectuer M. Comme M est effi- cace, il existe une partition Π⁰ dans G⁰ qui est satisfaisante pour m. Notons Π la partition de G telle que Π = {C⁰ \S | C⁰ ∈ Π⁰}. Mon- trons alors que soit Π est satisfaisante dans G (ce qui serait en contradiction avec le fait qu’il n’en existe pas), soitΠ ∈UR^θ_G.

Remarquons tout d’abord qu’aucun agent hon- nêteh_ine souhaite changer de coalition dansΠ.

En effet, dans le cas contraire, selon l’hypothèse de bénéfice du doute (Hypothèse 2), h_i désire- rait effectuer le même changement dansΠ⁰, ce qui est en contradiction avec la stabilité deΠ⁰. Du point de vue de m, nous distinguons alors deux cas possibles.

Supposons qu’il n’existe pas dans Π⁰ de coali- tion préférée parm à celle dont il est membre :

∀C ∈Π⁰,C\S∪{m}^m C_m^Π0\S. Dans ce cas, la partition Π est stable puisque m ne souhaite pas changer de coalition. Par ailleurs, comme m est dans la coalition qu’il préfère dansΠ⁰ et queΠ⁰est satisfaisante,Πest également satisfai- sante. Ceci est en contradiction avec l’absence de partition satisfaisante dansG.

Ainsi, nous avons nécessairement une coalition C ∈Π⁰ telle queC∪ {m} \S _m C_m^Π0 \S.m souhaite alors rejoindre cette coalition C dans Π. De plus, commmeΠ⁰est satisfaisante pourm dansG⁰, une telle coalition C doit être satisfai- sante pourm. Ainsi,Πdoit nécessairement être dans l’ensemble UR^θ_G. Comme G ne possède pas de partition satisfaisante (NS^θ_G = ∅), l’at- taque constructive est alors efficace surG(Pro- position 1 (1), voire également la Remarque 1).

2

Remarque 2 La démonstration montre que c’est seulement dans le cas où un jeu G ne possède aucune partition satisfaisante que l’at- taque constructive peut être efficace sans que l’attaque destructive ne le soit.

7 Étude empirique

Nous présentons dans cette section des résultats de simulations qui suggèrent que, même si cer- tains jeux sont manipulables (c’est-à-dire qu’il est possible de les manipuler efficacement), la majorité des jeux hédoniques ne le sont pas en pratique. Nous considérons ici les attaques constructives, les attaques destructives et aussi qu’une troisième manipulation que nous nom- mons l’attaque hybride. Une attaque hybride consiste à appliquer successivement une attaque constructive puis une attaque destructive. Tri- vialement, une telle attaque ne peut être efficace que si l’attaque constructive l’est et que le jeu résultant ne possède pas un ratio de satisfaction de1.

Afin d’obtenir une estimation de la probabilité qu’un jeu soit manipulable, nous avons effec- tué un ensemble d’expériences en faisant varier le nombre d’agents entre 3 et 10. Pour chaque expérience, nous avons effectué 10000 simula- tions, chacune consistant à manipuler un jeu G dont des relations de préférence des agents sont tirées aléatoirement de manière uniforme. La Fi- gure 3) indique la proportion de ces jeux qui sont manipulables et la Figure 4 indique la pro- portion de ces mêmes jeux selon leur nombre de partitions stables initiales.

La Figure 3 suggère que plus il y a d’agents, plus la probabilité qu’un jeu quelconque soit manipulable est faible. Ce résultat est conforme à l’intuition puisque plus il y a d’agents, moins l’agent malveillant a de chances d’être l’unique responsable de l’instabilité d’une partition. La

FIGURE3 – Proportion de jeux manipulables en fonction du nombre d’agents

FIGURE 4 – Proportion de partitions stables en fonction du nombre d’agents

Figure 4, quant à elle, suggère que plus il y a d’agents, moins un jeu hédoniste possède de partitions stables selon le concept de solution de Nash. Ici aussi, ce résultat est conforme à l’in- tuition car augmenter le nombre d’agents aug- mente de fait le nombre d’agents “veto”.

Sur la Figure 3, nous constatons que la propor- tion de jeux manipulables décroit rapidement.

En effet, pour6agents, seulement67des10000 jeux sont manipulables par l’attaque destructive.

De plus, au-delà de7agents, moins de10%des jeux sont manipulables quelle que soit la mani- pulation.

En raison, d’une part, de la difficulté pour un agent malveillant de décider si une manipula- tion donnée est efficace et, d’autre, du fait que les jeux sont en pratique rarement manipulables, nous concluons que les jeux hédoniques ayant des solutions stables selon le concept de solu- tion de Nash sont robustes aux attaques Sybil.

8 Conclusion

Dans cet article, nous nous sommes intéressés à la robustesse des jeux hédoniques ayant des solutions stables selon le concept de solution

de Nash face à un type général de manipula- tion, appelée attaque Sybil. Nous avons mon- tré qu’un jeu n’est manipulable que s’il satisfait certaines conditions, et avons présenté deux at- taques Sybil qui couvrent ces conditions. Ces at- taques sont simples à construire dans le sens où elles ne nécessitent qu’une unique fausse iden- tité et aucune connaissance sur le jeu (y com- pris le nombre d’agents présents). En revanche, nous avons montré qu’il est difficile pour l’agent malveillant de décider si elles sont efficaces.

De plus, nous avons montré empiriquement que les conditions nécessaires à l’efficacité des at- taques Sybil quelconques sont rarement pré- sentes dans les jeux hédoniques. C’est pourquoi nous concluons que les jeux hédoniques ayant des solutions stables selon le concept de solu- tion de Nash sont robustes aux attaques Sybil.

Nos résultats reposent sur deux hypothèses por- tant sur l’attitude des agents honnêtes vis-à-vis des agents qu’ils ne connaissent pas. Ces deux hypothèses, l’indépendance aux alternatives non pertinentes et le bénéfice du doute, peuvent sem- bler être à l’avantage des agents malveillants.

Cependant, il est important de noter que relâcher l’une de ces hypothèses rendrait encore plus dif- ficile toute manipulation. Ceci vient alors ren- forcer notre conclusion. Toutefois, il pourait être intéressant de considérer de nouvelles hypo- thèses comme celles où les agents honnêtes pré- fèrent collaborer avec les nouveaux entrants, ou au contraire les refusent. Intuitivement, mettre en œuvre une manipulation serait plus simple et efficace dans le premier cas, et plus difficile et moins efficace dans le second. Plus fondamen- talement, nous envisagons d’étendre notre étude à d’autres concepts de solution tels que la stabi- lité individuelle ou la stabilité contractuelle [?].

Ces concepts de solution sont moins restictifs que la stabilité au sens de Nash et, par consé- quent, les conditions nécessaires à la mise en œuvre de manipulations sur les jeux les utilisant pourraient être moins restrictives elles-aussi.