Utiliser des graphes de connaissances pour détecter et expliquer la désinformation sur le Web

Using Knowledge Graph To Detect And Explain Misinformation Spread On The Web

• Auteur / Autrice : Youri Peskine
• Direction : Paolo Papotti
• Type : Projet de thèse
• Discipline(s) : Sciences de l'ingénieur
• Date : Inscription en doctorat le ; Soutenance le 28/03/2025
• Etablissement(s) : Sorbonne université
• Ecole(s) doctorale(s) : École doctorale Informatique, télécommunications et électronique de Paris
• Partenaire(s) de recherche : Laboratoire : Institut EURECOM
• Partenaire(s) de recherche : Equipe de recherche : Data Science
• Jury : Président / Présidente : Jean-Luc Dugelay
• Jury : Examinateurs / Examinatrices : Kalina Bontcheva, Serena Villata, Mehwish Alam, Raphaël Troncy, Paolo Papotti
• Jury : Rapporteurs / Rapporteuses : Kalina Bontcheva, Serena Villata

Mots clés

Mots clés libres

Graphes

Désinformation

Web

Tal

Graphs

Misinformation

Web

Nlp

Résumé

La désinformation en ligne est un problème majeur dans la société actuelle, car le flux d'informations partagées ne cesse d'augmenter. La désinformation a des répercussions sur des sujets tels que la santé (l'« infodémie » liée à la COVID-19), la politique (élections américaines, Brexit) ou encore l'environnement (déni du changement climatique). Bien qu'il existe des initiatives dédiées à la vérification des faits, ces dernières rencontrent des défis complexes. La désinformation est facile à créer et se propage rapidement, alors que la vérification des faits prend du temps et ne s'adapte pas bien à grande échelle. Souvent, les vérificateurs de faits doivent concentrer leurs efforts sur les affirmations les plus virales. Dans notre travail, nous présentons des recherches visant à aider les vérificateurs de faits à mieux analyser les contenus en ligne. Nous proposons tout d'abord des approches automatiques pour extraire plusieurs caractéristiques textuelles à partir de publications sur les réseaux sociaux. Nous détectons les théories du complot liées à la COVID-19 et les techniques de persuasion dans des tweets et des mèmes en utilisant des modèles basés sur BERT, atteignant des résultats de l'état de l'art. Nous identifions également les émotions, les sentiments et les orientations politiques dans les postes sur les réseaux sociaux, ce qui permet une analyse approfondie du discours social autour de la COVID-19. Nous étudions également les « tropes », des dispositifs facilement reconnaissables utilisés dans les récits pour véhiculer un thème ou une idée spécifique. Nous annotons des tweets en fonction de neuf tropes différents autour des sujets de la vaccination et de l'immigration, et nous proposons des modèles automatiques pour les détecter. Pour comprendre comment toutes ces caractéristiques textuelles sont liées entre elles, nous effectuons une analyse de corrélation entre ces dernières. Avec l'émergence des grands modèles de langage dans la recherche en traitement automatique des langues (TAL), nous analysons leur capacité à détecter les théories du complot et les techniques de persuasion, tout en explorant l'impact des définitions des classes dans la performance des annotations. Nous constatons que de meilleures définitions conduisent à de meilleurs résultats et proposons une méthode pour générer des définitions performantes. Analyser la relation entre la désinformation, la vérification des faits et l'écosystème de l'information est essentiel pour comprendre la propagation de la désinformation. Ces recherches s'appuient sur diverses sources de données, telles que des postes sur les réseaux sociaux, des articles de presse ou des affirmations, avec différentes métadonnées associées. Nous présentons Cimple KG, un graphe de connaissances public et continuellement mis à jour, dédié aux contenus liés à la désinformation. Cimple KG relie différents ensembles de données statiques publiés auparavant sur la désinformation à des vérifications quotidiennes d'affirmations provenant d'organisations de vérification des faits fiables, et les enrichit avec des informations supplémentaires, telles que des entités nommées et des caractéristiques textuelles. Enfin, nous explorons de nouvelles mesures de similarité textuelle, en nous concentrant sur les applications de vérification des faits. Notamment, nous utilisons des récits, des entités, et comparons des documents de différentes longueurs. En résumé, notre travail vise à utiliser des outils de traitement automatique des langues et des graphes de connaissances pour aider les vérificateurs de faits dans leur tâche. Nous présentons de nombreuses approches pour détecter des caractéristiques textuelles, proposons diverses nouvelles mesures de similarité et mettons à disposition Cimple KG, une ressource précieuse pour soutenir la recherche sur la désinformation.

Online misinformation is a major problem in current society, as the flow of shared information is increasing. Misinformation has impacted topics such has health (COVID-19 ``infodemic''), politics (US elections, Brexit) or environment (climate change denial). While there are dedicated initiatives for fact-checking, they face complex challenges. Misinformation is easy to create and spread fast, but fact-checking is time consuming and does not scale well. Often times, fact-checkers have to focus their effort on the most viral claims. In our work, we present research that could help fact-checkers in their ability to verify online content. We first propose automatic approaches to extract several textual features from social media posts. We detect COVID-19 related conspiracy theories and persuasion techniques from tweets and memes using BERT-based models, reaching state-of-the-art results. We also detect emotion, sentiment and political-leaning in social media posts, allowing an in-depth analysis of the social discourse around COVID-19. We also study ``Tropes'', easily recognizable devices used in narratives to convey a specific theme or idea. We annotate tweets regarding 9 different tropes around vaccine and immigration topics and propose automatic models to detect them. To understand how all the textual features relate to one another, we perform correlations analysis between them. As large language models are becoming prominent in natural language processing research, we analyze their ability to detect conspiracy theories and persuasion techniques, and explore the impact of definitions of the class labels in the annotation performance. We find that better definitions lead to better results, and propose a way to generate good performing definitions. Analyzing the relationship between misinformation, fact-checking and the information ecosystem is essential to understand the spread of misinformation. These research topics rely on different data source, from social media posts, news articles or claims, with different metadata attached. We introduce Cimple KG, a continuously updated public knowledge graph of misinformation-related content. Cimple KG links various previously published static misinformation datasets with daily updated claims verification from vetted fact-checking organizations and augments them with additional information such as named entities and textual features. Lastly, we explore novel textual similarity measures, focusing on fact-checking applications. Notably, we use narratives, entities and compare documents with different length. In summary, our work aims at using natural language processing tools and knowledge graphs to help fact-checkers in their task. We present many approaches to detect textual features, propose different novel similarity measures, as well as releasing Cimple KG, a useful resource supporting misinformation research.