Détection de sujets de controverse

Un sujet de controverse peut être défini comme un sujet « provoquant une discussion publique dans laquelle les membres de l’audience expriment des opinions opposées, de la sur- prise ou de l’incrédulité » (traduit de l’anglais depuis [Popescu et Pennacchiotti, 2010]). Par exemple, des sujets tels que l’avortement, le mariage homosexuel et la vaccination sont carac- térisés par le clivage existant entre les protagonistes qui s’expriment sur chacun de ces sujets. La détection de sujets de controverse peut être alors vue comme un moyen de lutter contre les phénomènes de chambres d’échos [Sunstein, 2009] et de bulles de filtre [Pariser, 2011]. En effet, l’identification des sujets de controverse pourrait permettre d’avertir les internautes en leur signalant que le sujet qu’ils consultent (par exemple, par l’intermédiaire d’un moteur de recherche) est susceptible de soulever des points de vue opposés et donc que les documents s’y rapportant devraient être lus avec précaution.

Dans la littérature, la détection de controverses a été abordée à la fois par des méthodes supervisées [Balasubramanyan et al., 2012; Popescu et Pennacchiotti, 2010; Wang et al., 2014] et par des méthodes non supervisées [Dori-Hacohen et Allan, 2013, 2015; Garimella et al., 2016; Guerra et al., 2013; Jang et Allan, 2016; Jang et al., 2016]. Pour détecter sur Twitter les événements controversés (par exemple, l’accusation de viol portée sur David Copperfield entre 2007 et 201015), Popescu et Pennacchiotti [2010] ont proposé un classifieur de type arbre de décision et un ensemble de traits tels que les parties de discours, la présence de mots issus de lexiques d’opinion ou de controverse et les interactions entre utilisateurs (retweet et reply). Balasubramanyan et al. [2012] ont quant à eux étendu le modèle LDA supervisé pour prédire le niveau de controverse associé à différents thèmes, discutés dans des commentaires de blogs

15. http://www.rtl.be/info/monde/france/david-copperfield-implique-dans-une-affaire-de- viol--21473.aspx

politiques. Des classifieurs de type machine à vecteur de support et régression logistique ont également été proposés dans [Wang et al., 2014] pour détecter les disputes dans les discussions de pages Wikipédia16_.

D’autres travaux ont également exploité Wikipédia pour détecter de manière non supervi- sée les pages Web traitant d’un sujet controversé ou non [Dori-Hacohen et Allan, 2013, 2015; Jang et Allan, 2016; Jang et al., 2016]. Dori-Hacohen et Allan [2013, 2015]; Jang et Allan [2016] ont proposé d’aligner les pages Web aux pages Wikipédia en postulant qu’une page traite d’un sujet controversé si la page Wikipédia décrivant ce sujet est elle-même controversée. La nature controversée ou non d’une page Wikipédia est quant à elle détectée automatique- ment en se basant sur les métadonnées et discussions associées à la page. Dans [Jang et al., 2016], les auteurs ont construit un modèle de langue des sujets controversés appris sur les articles Wikipédia et utilisé ensuite pour identifier si une page Web est controversée.

La détection de controverses dans les réseaux sociaux a également été abordée sans su- pervision en se basant les interactions entre les différents utilisateurs [Garimella et al., 2016; Guerra et al., 2013]. Ces deux travaux ont défini des mesures basées sur la topologie du réseau pour quantifier le niveau de controverse d’un sujet. La méthode adoptée par Guerra et al. [2013] se base sur la mesure de modularité originalement proposée par Newman [2006]. Gari- mella et al. [2016] ont pour leur part proposé des approches de mesure alternatives également basées sur le réseau, telles que la marche aléatoire (random walk), le plongement de graphe (graph embedding) et le moment dipolaire (dipole moment). Les auteurs ont par ailleurs testé des méthodes simples basées sur le contenu et ont noté leur inefficacité par rapport aux méthodes basées sur le graphe d’utilisateurs.

2.5

Conclusion

Au cours de ce chapitre, nous avons passé en revue les différents travaux de l’état de l’art traitant de la notion de point de vue. Nous avons découpé ces travaux suivant trois niveaux : le niveau microscopique, le niveau mésoscopique et le niveau macroscopique. Au niveau microscopique, nous avons décrit les approches permettant de détecter les expressions d’argumentation ou de contention ainsi que celles employées pour classer les documents courts selon leur point de vue. Les travaux positionnés au niveau mésoscopique ont quant à eux abordé l’identification de points de vue dans les documents longs tels que les essais et les textes législatifs, ou exprimés par des utilisateurs dans les médias sociaux. Enfin, les tâches de fouille de points de vue au niveau macroscopique se focalisent sur l’analyse comparative du discours adopté par différentes populations (chacune associée à un point de vue) et la détection de sujets de controverse.

Parmi les méthodes employées pour résoudre ces différents problèmes, on distingue les méthodes supervisées, généralement basées sur des classifieurs tels que les machines à vec- teurs de support et les réseaux de neurones, et les méthodes non supervisées, majoritai-

rement construites sur des modèles thématiques. Les modèles thématiques constituent une approche polyvalente pour modéliser et extraire sans annotations préalables des thèmes ainsi que d’autres dimensions latentes telles que les points de vue à partir d’un corpus de textes. L’annotation d’un corpus étant souvent coûteuse et difficile à obtenir, nous avons décidé de baser nos approches de fouille de points de vue sur les modèles thématiques et en particulier ceux inspirés de LDA, que nous décrivons en détail dans le Chapitre 3.

Chapitre 3

Modèles thématiques probabilistes

Sommaire

3.1 Introduction . . . . 53 3.2 LDA : allocation de Dirichlet latente . . . . 54

3.2.1 Histoire générative . . . 54 3.2.2 Représentation sous forme de modèle graphique . . . 56 3.2.3 Vraisemblance et probabilité postérieure du modèle . . . 56

3.3 Méthodes d’inférence postérieure approchées . . . . 57

3.3.1 Échantillonnage de Gibbs . . . 58 3.3.2 Inférence variationnelle . . . 65

3.4 Évaluation . . . . 67

3.4.1 Perplexité . . . 68 3.4.2 Cohérence thématique . . . 69 3.4.3 Évaluation basée sur des tâches externes . . . 70

3.5 Conclusion . . . . 71

3.1

Introduction

Les modèles thématiques (topic models) regroupent l’ensemble des approches dont le but est de découvrir de manière non supervisée les thèmes latents apparaissant dans une collection de documents textuels. Cette tâche est parfois connue sous le nom d’indexation sémantique latente (LSI – latent semantic indexing) ou d’analyse sémantique latente (LSA – latent se-

mantic analysis), provenant du premier modèle thématique proposé dans [Deerwester et al.,

1990]. L’approche fondatrice de Deerwester et al. [1990] consiste à former une matrice d’occur- rences terme-document pour la collection concernée, puis à lui appliquer une décomposition en valeurs singulières (SVD – singular value decomposition). Enfin, en ne conservant que les

T plus grandes valeurs singulières, on obtient une approximation de rang inférieure de la

matrice d’occurrences. Le nombre T désigne alors le nombre de thèmes et est choisi très pe- tit devant la taille du vocabulaire. Toutefois, le modèle LSI représente les documents et les termes par des vecteurs à valeurs réelles (pouvant être positives ou négatives) dans l’espace des thèmes de dimension T . Il est alors difficile d’interpréter les composantes négatives de ces vecteurs. Pour pallier ce problème, Hofmann a proposé une version probabiliste de LSI, intitulée pLSI (probabilistic latent semantic indexing), qui présente l’avantage de n’utiliser

que des vecteurs à valeurs positives. Cependant, pLSI n’est pas un modèle génératif – il ne permet pas de calculer naturellement la probabilité d’un nouveau document – et est sujet au surapprentissage.

Pour surmonter ces différentes limites, Blei et al. [2001, 2003] ont proposé l’allocation de Dirichlet latente (LDA – latent Dirichlet allocation), la version générative et bayésienne de pLSI. En raison de sa flexibilité, LDA a par la suite connu une grande popularité et a été adapté à diverses applications [Boyd-Graber et al., 2017]. Par exemple, des extensions de LDA ont été proposées pour modéliser conjointement les thèmes et les opinions [Jo et Oh, 2011; Lin et He, 2009], pour décrire la dynamique temporelle des thèmes [Blei et Lafferty, 2006; Wang et McCallum, 2006] ou pour découvrir les communautés dans les réseaux sociaux [Sachan

et al., 2012]. Nous avons également développé des extensions de LDA pour modéliser les

points de vue, qui seront détaillés dans les Chapitres 4 et 5. Le chapitre présent fait ainsi office d’introduction au modèle LDA et plus généralement aux aspects et méthodes propres à ses extensions. Dans la Section 3.2, nous fournissons une description formelle du modèle LDA. La Section 3.3 aborde ensuite la question de l’inférence du modèle LDA et de ses extensions. Enfin, la Section 3.4 présente les différentes méthodes utilisées dans la littérature pour évaluer et comparer les performances des modèles thématiques1.