Détection des fausses identités et des fausses activités dans les réseaux sociaux en ligne basée sur l'apprentissage par transfert

Fake identity & fake activity detection in online social networks based on transfer learning

• Auteur / Autrice : Koosha Zarei
• Direction : Noël Crespi
• Type : Thèse de doctorat
• Discipline(s) : Informatique, données, IA
• Date : Soutenance le 12/07/2022
• Etablissement(s) : Institut polytechnique de Paris
• Ecole(s) doctorale(s) : École doctorale de l'Institut polytechnique de Paris
• Partenaire(s) de recherche : Laboratoire : Télécom SudParis (Evry ; 2012-....) - Institut Polytechnique de Paris / IP Paris - Département Réseaux et Services Multimédia Mobiles / RS2M - Réseaux, Systèmes, Services, Sécurité / R3S-SAMOVAR
• Partenaire(s) de recherche : Etablissement opérateur d'inscription : Télécom SudParis (Evry ; 2012-....)
• Jury : Président / Présidente : Luis Muñoz Gutierrez
• Jury : Examinateurs / Examinatrices : Xiaoming Fu, Elena Cabrio, Reza Farahbakhsh, Bruce Macdowell Maggs, Albert Meroño-Peñuela, Christophe Cerisara
• Jury : Rapporteur / Rapporteuse : Xiaoming Fu, Elena Cabrio

Mots clés

Mots clés contrôlés

Traitement automatique du langage naturel

Informatique

Intelligence artificielle

Mots clés libres

Apprentissage machine

IA

NLP

Les média sociaux

Apprentissage par transfert

Réseaux sociaux

Intelligence artificielle

Traitement automatique des langues

Machine learning

Fake content

NlP

Social media

Deep learning

Social networks

Artificial intelligence

Automatic language processing

Fake identities

Résumé

Les médias sociaux ont permis de connecter un plus grand nombre de personnes dans le monde entier et d'accroître la facilité d'accès à des contenus gratuits, mais ils sont confrontés à des phénomènes critiques tels que les faux contenus, les fausses identités et les fausses activités. La détection de faux contenus sur les médias sociaux est récemment devenue une recherche émergente qui attire une attention considérable. une recherche émergente qui suscite une attention considérable. Dans ce domaine, les fausses identités jouent un rôle important dans la production et la propagation de faux contenus dans les réseaux sociaux en ligne réseaux sociaux en ligne tels que Meta (Facebook), Twitter et Instagram. La principale raison de ce phénomène est que les médias sociaux encouragent les usurpateurs d'identité, les comptes malveillants, les trolls et les robots sociaux àproduire du contenu et interagir avec des humains ou d'autres robots sans tenir compte de la crédibilité du contenu. La détection de faux contenus sur les médias sociaux est récemment devenue une recherche émergente qui attire une attention considérable. une recherche émergente qui suscite une attention considérable. Dans ce domaine, les fausses identités jouent un rôle important dans la production et la propagation de faux contenus dans les réseaux sociaux en ligne réseaux sociaux en ligne tels que Meta (Facebook), Twitter et Instagram. La principale raison de ce phénomène est que les médias sociaux encouragent les usurpateurs d'identité, les comptes malveillants, les trolls et les robots sociaux à produire du contenu et interagir avec des humains ou d'autres bots sans tenir compte de la crédibilité du contenu et inciter les utilisateurs à cliquer et à les partager.L'objectif de cette thèse est d'étudier le problème des fausses identités, des fausses activités et du contenu authentique qu'elles génèrent dans les médias sociaux et de proposer des algorithmes pour classifier le contenu factice. Nous définissons le faux contenu comme un élément d'information vérifiable et faux partagé intentionnellement pour tromper les lecteurs. Je propose différentes approches dans lesquelles j'adapte des modèles avancés de Transfer Learning (TL) et des techniques NLP pour détecter les fausses identités et classer le faux contenu automatiquement.

While Social Media has connected more people around the world and has increased the easeof access to free content, but is dealing with critical phenomena such as fake content, fakeidentities, and fake activities. Fake content detection on social media has recently becomeemerging research that is attracting tremendous attention. In this area, fake identities areplaying an important role in the production and propagation of fake content in Online SocialNetworks such as Meta (Facebook), Twitter, and Instagram. The main reason behind thisis that social media encourages impersonators, malicious accounts, trolls, and social bots toproduce content and interact with humans or other bots without considering the credibilityof the content and entice users to click and share them.In this thesis, I primarily concentrate on impersonators as one of the concerning vari-eties of fake identities. These entities are nefarious fake accounts that intend to disguise alegitimate account by making similar profiles and then striking social media with fake con-tent, which makes it considerably harder to understand which posts are genuinely produced.The recent advancements in Natural Language Processing (NLP), and Transformer-basedLanguage Models (LM) can be adapted to develop automatic methods for many relatedNLP downstream tasks in this area. Language Models and their flexibility to cope withany corpus delivering great results has made this approach very popular. The fake contentclassification can be handled using Pretrained Language Models (PLM) and accurate deeplearning models.The aim of this thesis is to investigate the problem of fake identities, fake activities, andtheir generated ingenuine content in social media and propose algorithms to classify fakecontent. We define fake content as a verifiably false piece of information shared intentionallyto mislead the readers. I propose different approaches in which I adapt advanced TransferLearning (TL) models and NLP techniques to detect fake identities and classify fake contentautomatically.