Profilage et détection des acteurs malveillants dans les réseaux sociaux en ligne par l'intelligence artificielle

Malicious actors profiling and detection in Online Social Networks through Artificial Intelligence

• Auteur / Autrice : Mamadou Keita
• Direction : Abdelmalik Taleb-ahmed
• Type : Projet de thèse
• Discipline(s) : Traitement du signal et des images
• Date : Inscription en doctorat le 30/11/2022
• Etablissement(s) : Valenciennes, Université Polytechnique Hauts-de-France
• Ecole(s) doctorale(s) : Ecole Doctorale Polytechnique Hauts-de-France
• Partenaire(s) de recherche : Laboratoire : Institut d'Electronique, de Microélectronique et de Nanotechnologie
• Partenaire(s) de recherche : Equipe de recherche : IEMN-Site Valenciennes (UPHF)

Mots clés

Mots clés libres

Profilage d' acteurs malveillant

Intelligence artificielle

Reseaux sociaux

Detection acteurs malveillant

Malicious actors profiling

Online Social Networks

Detection of Malicious actors

Artificial Intelligence

Résumé

Dans ce projet, nous cherchons à révéler et à détecter la présence d'acteurs malveillants dans les réseaux sociaux en ligne et à dresser le profil de ces acteurs par une approche multidisciplinaire, incluant des experts dans l'utilisation de nouvelles techniques informatiques des domaines de l'intelligence artificielle et de la vision par ordinateur et des experts du domaine des sciences comportementales. Le projet s'appuiera également sur une approche multimodale, en analysant les textes, les images, les vidéos, les structures de réseaux audio, les interactions entre utilisateurs et les perceptions de confiance. Dans le domaine de la recherche en sciences du comportement, différentes approches, dont la psychologie, l'analyse du discours, la sociologie et l'interaction homme-machine, nous permettront d'établir une taxonomie des différents acteurs malveillants et de les profiler. Dans le domaine de l'intelligence artificielle, des outils tels que l'apprentissage profond, le traitement avancé du langage naturel et l'analyse des réseaux sociaux nous fournissent les instruments nécessaires à la création d'un outil logiciel pour l'analyse et la détection de ces acteurs malveillants, avec des caractéristiques novatrices telles que le multilinguisme, la facilité d'explication et un fort accent sur une solution open source.

There is no doubt that Online Social Networks have changed the way people communicate and interact. These platforms have helped to break down barriers and to ease worldwide communication, to share multimedia content or to easily know what is happening in almost any point in the world. Facebook (2004) or Twitter (2006) but also other social media platforms such as Youtube (2005) or messaging services such as WhatsApp (2009) have promoted this new era. However, the meteoric rise of the use of these platforms has also been followed by continuous attempts to subvert their original purposes, using them by the so-called malicious actors for evil purposes. Examples of this can be the generation of mistrust against vaccines, the creation of content supporting climate denial theories, or disinformation campaigns trying to manipulate people's opinion to alter the results of democratic elections. Therefore, there is a wide variety of different types of attempts to undermine social networks and to distorse public discourse. In this project, we seek to reveal and detect the presence of malicious actors in Online Social Networks and to profile these actors through a multidisciplinary approach, including experts in the use of novel computational techniques from the Artificial Intelligence and Computer Vision fields and experts from the Behavioural Sciences field. The project will also leverage a multimodality approach, analysing text, images, videos, audio network structures, interactions between users and trust perceptions. From the Behavioural Sciences research field, different approaches, including psychology, discourse analysis, sociology and human- computer interaction will allow us to build a taxonomy of the different malicious actors and to profile them. From the Artificial Intelligence field, tools such as Deep Learning, advanced Natural Language Processing, and Social Network Analysis provide us with the necessary instruments to build a software tool for the analysis and detection of these malicious actors with novel features such as multilingualism, explainability, and a strong focus on an open- source solution.