Détection des fake news dans les Réseaux Sociaux : Modéliser, Simuler et Prévenir

Detection of Fake News in Social Networks: Modeling, Simulating and Preventing

• Auteur / Autrice : Quy Thanh Le
• Direction : Maamar El Amine Hamri
• Type : Projet de thèse
• Discipline(s) : Informatique
• Date : Inscription en doctorat le 10/11/2023
• Etablissement(s) : Aix-Marseille
• Ecole(s) doctorale(s) : Ecole Doctorale Mathématiques et Informatique de Marseille
• Partenaire(s) de recherche : Laboratoire : LIS Laboratoire d'Informatique et Systèmes

Mots clés

Mots clés libres

Détection des fake news

Modélisation

Simulation à événements discrets

Explicabilité IA

Fake News Detection

Modeling

Discrete Event Simulation

Explainability AI

Résumé

La dissémination de fausses informations (en anglais, fake news) n'a rien d'un phénomène nouveau, elle est observée depuis l'antiquité. Les fausses nouvelles, qu'elles proviennent de sources individuelles ou d'institutions comme les médias ou les gouvernements, visent généralement à tromper pour des objectifs variés tels que la déstabilisation, le profit financier ou la manipulation électorale. Ces dernières années, cette tendance a fortement augmenté, notamment en raison de l'essor des réseaux sociaux qui permettent la diffusion rapide et massive d'informations non vérifiées. Même les utilisateurs experts des réseaux sociaux peinent à repérer les fausses informations, car elles sont conçues pour paraître crédibles. De nos jours, nous assistons même à la création de fausses vidéos réalisées avec une qualité visuelle proche de celle du cinéma, appelées deep fakes, ce qui rend la tâche de détection de ce type de contenu extrêmement ardue. L'un des objectifs majeurs est de parvenir à détecter automatiquement ces contenus générés par des utilisateurs dès que possible, afin d'éviter leur propagation ou, si nécessaire, de les rectifier. Des événements d'envergure internationale, tels que le Fake News Challenge 1 ou le Fake News Detection Challenge de KDD 2, ont mobilisé la communauté scientifique pour faire progresser la recherché dans le domaine de la détection automatique des fausses informations. L'étendue du travail à réaliser pour la détection automatique des fausses nouvelles, ainsi que sa rapide évolution, ont suscité la publication de nombreuses études scientifiques, ces dernières années, en vue de synthétiser les avancées dans ce domaine. Plusieurs domaines de recherche contribuent à détecter les fausses nouvelles, notamment le traitement automatique du langage naturel, l'extraction de caractéristiques textuelles, la théorie des graphes et les réseaux complexes, ainsi que l'analyse et la manipulation d'images. Les approches qui combinent différentes sources d'informations sont également à l'étude. Les caractéristiques qui sont extraites pour détecter les fausses nouvelles sont multiples et variées, allant du contenu linguistique tel que la représentation des mots, les mots-clés liés aux sentiments ou aux émotions, les descripteurs de la parole et de la syntaxe, etc., aux signaux visuels tels que la cohérence de l'image ou les mesures de similarité. Elles peuvent également porter sur les réseaux d'information, tels que les graphes d'interaction, les liens d'amitié entre les utilisateurs, la chronologie (timeline), les traces sociales ou autres propriétés telles que la popularité, la réputation et la fraîcheur. En outre, certaines approches sont souvent mentionnées, comme dans, où les méthodes sont classées selon qu'elles soient basées sur les connaissances, qu'elles dépendent de la propagation de l'information au sein d'un réseau, qu'elles vérifient l'information dans des sources externes (fact-checking), ou qu'elles analysent le style d'écriture de l'information. Juger une nouvelle comme étant fausse et la classer par la suite dans la catégorie des fake news est un travail qui nécessite des outils assez conséquents, sans faille et démontrables. Une des solutions peut être dans l'emploi des techniques de preuve pour justifier et argumenter une telle décision. Il faudra alors formaliser une description qui reste toutefois informelle par une formelle. Souvent une information tente de décrire un récit dans un contexte particulier, il sera alors possible d'identifier un ensemble d'événements pertinents et assez représentatif du récit considéré. Afin de construire un tel ensemble d'événements de la manière la plus rigoureuse possible, il convient évidemment d'utiliser plusieurs techniques différentes telles que TAL, apprentissage automatique, etc. Une fois cet ensemble est défini, il convient d'appliquer une technique de preuve pour justifier et argumenter la présence de chaque événement. Il sera également possible de formuler des propriétés à base de tels événements représentatifs de l'information et d'affirmer ou infirmer cette dernière. D'autre part, cette information à étudier doit être placée dans son environnement (contexte) pour être analysée et évaluée correctement. Dans ce sens, la simulation constituerait un cadre idéal pour analyser à la fois, l'évolution de l'information à étudier et de son environnement. A son tour, la modélisation de l'environnement nécessitera une attention particulière dû à sa complexité spatiale et temporelle. La théorie des systèmes et particulier DEVS (Discrete Event System specification) offre un cadre idéal d'une part pour modéliser le contexte et simuler son évolution suite à l'occurrence d'événements qui peuvent représenter des fake news. Il sera également possible si la fake news s'est avérée, de préparer des arguments voire des actions pour démonter de telles nouvelles par la sensibilisation et la prévention des populations ciblées. Enfin, la complexité des réseaux sociaux qui constituent un terrain de diffusion par excellence des fake news où différentes tranches d'âge coexistent, nécessitera des moyens de calcul colossaux. En effet, ces moyens sont indispensables pour exécuter de telles simulations à grande échelle. La simulation distribuée qui permet de dispatcher un modèle sur plusieurs machines (serveurs) tout en garantissant la causalité entre les événements reçus et émis par les différents sous-modèles peut être une solution satisfaisante mais face à la taille des données gigantesque et les calculs intensifs à effectuer, il faudra s'appuyer également sur les techniques de calcul haute performance (High Performance Computing) pour accélérer ces simulations afin de pouvoir prendre rapidement les décisions qui s'imposent.

The dissemination of false information (known as fake news in English) is not a new phenomenon; it has been observed since antiquity. Fake news, whether originating from individual sources or institutions like the media or governments, generally aims to deceive for various objectives such as destabilization, financial profit, or electoral manipulation. In recent years, this trend has significantly increased, especially due to the rise of social networks that allow for the rapid and massive spread of unverified information. Even expert social media users struggle to spot false information because it is designed to appear credible. Nowadays, we even witness the creation of fake videos produced with visual quality akin to cinema, known as deep fakes, which makes detecting such content extremely challenging. One of the major goals is to detect these user-generated contents automatically as soon as possible to prevent their spread or, if necessary, to rectify them. International events, such as the Fake News Challenge 1 or the KDD Fake News Detection Challenge 2, have mobilized the scientific community to advance research in the field of automatic fake news detection. The extensive work required for automatic fake news detection and its rapid evolution have led to numerous scientific studies in recent years, aiming to synthesize advancements in this field. Several research domains contribute to detecting fake news, including natural language processing, text feature extraction, graph theory and complex networks, as well as image analysis and manipulation. Approaches that combine different sources of information are also under study. The features extracted to detect fake news are multiple and varied, ranging from linguistic content such as word representation, keywords related to sentiments or emotions, speech and syntax descriptors, etc., to visual signals such as image coherence or similarity measures. They may also involve information networks, such as interaction graphs, friendship links between users, timeline, social traces, or other properties like popularity, reputation, and freshness. Moreover, certain approaches are often mentioned, as in, where methods are classified based on whether they are knowledge-based, depend on information propagation within a network, verify information through external sources (fact-checking), or analyze the writing style of the information. Judging news as false and subsequently classifying it as fake news is a task that requires substantial, flawless, and demonstrable tools. One solution might be employing proof techniques to justify and argue such decisions. It will then be necessary to formalize an informal description into a formal one. Often, information attempts to describe a narrative in a particular context; it will be possible to identify a set of relevant and sufficiently representative events of the considered narrative. To construct such a set of events as rigorously as possible, it is obviously necessary to use various techniques such as NLP, machine learning, etc. Once this set is defined, a proof technique should be applied to justify and argue the presence of each event. It will also be possible to formulate properties based on such representative events of the information and affirm or refute the latter. On the other hand, this information to be studied must be placed in its environment (context) to be analyzed and evaluated correctly. In this sense, simulation would constitute an ideal framework for analyzing both the evolution of the information to be studied and its environment. In turn, modeling the environment will require particular attention due to its spatial and temporal complexity. Systems theory and particularly DEVS (Discrete Event System Specification) offers an ideal framework to model the context and simulate its evolution following the occurrence of events that may represent fake news. If the fake news is proven, it will also be possible to prepare arguments or even actions to debunk such news through awareness and prevention of targeted populations. Finally, the complexity of social networks, which constitute a prime terrain for the dissemination of fake news where different age groups coexist, will require colossal computational resources. These resources are indispensable for executing such large-scale simulations. Distributed simulation, which allows a model to be dispatched across multiple machines (servers) while ensuring causality between events received and emitted by different sub-models, can be a satisfactory solution. However, given the gigantic data size and intensive calculations required, it is also necessary to rely on high-performance computing (HPC) techniques to accelerate these simulations to make timely decisions.