Détection des discours haineux dans les réseaux sociaux : apport des expressions polylexicales

Hate speech detection in social media : contribution of multiword expressions

• Auteur / Autrice : Nicolas Zampieri
• Direction : Irina Illina, Dominique Fohr
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 13/12/2023
• Etablissement(s) : Université de Lorraine
• Ecole(s) doctorale(s) : École doctorale IAEM Lorraine - Informatique, Automatique, Électronique - Électrotechnique, Mathématiques de Lorraine (1992-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire lorrain de recherche en informatique et ses applications
• Jury : Président / Présidente : Agata Savary
• Jury : Examinateurs / Examinatrices : Irina Illina, Farah Benamara, Richard Dufour, Frédéric Béchet, Claire Gardent
• Jury : Rapporteurs / Rapporteuses : Farah Benamara, Richard Dufour

Mots clés

Mots clés contrôlés

Figement (linguistique)

Réseaux sociaux (Internet)

Traitement automatique du langage naturel

Discours de haine

Mots clés libres

Discours haineux

Traitement du langage

Réseaux sociaux

Expressions polylexicales

Natural language processing

Hate speech

Social media

Multiword expressions

Résumé

Au cours de ces dernières décennies, l'utilisation d'Internet s'est répandue de manière exponentielle, notamment avec l'avènement des réseaux sociaux. Cependant, cette augmentation de l'utilisation des médias sociaux a engendré une prolifération des messages néfastes, tels que les discours haineux. Les discours haineux sont des formes de communication dégradantes qui ciblent spécifiquement un individu ou un groupe, pouvant mener à des menaces et à des actes de violence. Les modèles basés sur l'apprentissage profond sont rapidement devenus une solution pour détecter les discours haineux. Cependant, ces modèles nécessitent une quantité considérable de données d'apprentissage pour atteindre des niveaux de performance élevés. Pour palier au problème de la quantité de données d'apprentissage, qui est restreinte pour la détection de la haine, certaines caractéristiques peuvent être efficaces en entrée de réseaux neuronaux. Dans cette thèse, nous explorons deux principaux axes de recherches visant à améliorer les performances de classification des discours haineux. Nos approches sont validées sur quatre ensembles de données distincts, permettant ainsi une évaluation approfondie de leur efficacité pour la détection des discours haineux. Dans la première partie de notre étude, nous proposons d'améliorer la détection des discours haineux en intégrant des caractéristiques spécifiques dans un réseau de neurones basé sur les plongements (embeddings) de phrases. Plus précisément, nous examinons l'incorporation de caractéristiques telles que la casse des mots, les émojis, les mots présents dans un dictionnaire de termes haineux, les parties du discours et la ponctuation. Notre approche consiste à développer un réseau neuronal qui intègre ces caractéristiques au niveau des mots, en complément des plongements de phrases. Nous montrons que l'utilisation des émojis améliore significativement les performances de détection des discours haineux. Ensuite, nous nous intéressons à l'intégration de caractéristiques peu explorées jusqu'à présent dans la détection des discours haineux : les expressions polylexicales. Nous menons une étude approfondie sur la robustesse des systèmes d'identification de ces expressions dans les tweets. Cette étude nous permet d'évaluer différents systèmes pour l'identification des expressions polylexicales dans les tweets, afin d'annoter automatiquement les jeux de données destinés à la détection des discours haineux en termes d'expressions polylexicales. Nous montrons que les systèmes basés sur l'apprentissage profond surpassent ceux basés sur les dictionnaires dans cette tâche. De plus, nous proposons un système en deux étapes qui combine à la fois le système basé sur l'apprentissage profond et celui basé sur les dictionnaires. Celui-ci surpasse les deux systèmes existants pour l'identification des expressions polylexicales dans les tweets. Puis, nous développons deux réseaux de neurones qui s'appuient sur les plongements de phrases et intègrent les expressions polylexicales de manière différente. Nous montrons une amélioration significative des performances sur la tâche de détection des discours haineux en utilisant les informations sur les expressions polylexicales. Dans la seconde partie, nous explorons différentes approches d'apprentissage pour améliorer les performances de la détection des discours haineux. Nous nous intéressons tout d'abord à l'impact de l'apprentissage multi-tâches. Pour cela, nous proposons un réseau neuronal basé sur l'attention multi-têtes pour l'apprentissage multi-tâches. Notre système est conçu pour apprendre simultanément deux tâches : la détection des discours haineux et l'identification des expressions polylexicales. Nous montrons qu'apprendre en simultané l'attention sur les expressions polylexicales et sur les discours haineux améliore la détection de ces derniers.

Over the last few decades, internet use has increased dramatically, particularly with the emergence of social networks. However, this explosion in social media activity has led to the spread of harmful messages, including hate speech. Hate speech is a type of degrading communication aimed specifically at an individual or group, that can take the form of threats and acts of violence. Deep learning models have quickly become a means of detecting hate speech. However, these models require a substantial amount of training data to achieve high levels of performance. Some features can be effective in neural networks to overcome the problem of limited training data for hate speech detection. In this thesis, we examine two main areas of research aimed at improving hate speech detection performance. We test our methods on four separate datasets, allowing us to thoroughly evaluate their effectiveness in detecting hate speech. In the first part of our study, we propose to enhance the hate speech detection by incorporating specific features into a neural network based on sentence embeddings. More specifically, we examine the incorporation of features such as word case, emojis, words present in a hate speech lexicon, part-of-speech, and punctuation. Our approach involves developing a neural network that integrates these features at the word level, in addition to sentence embeddings. We demonstrate that the use of emojis significantly improves the performance of hate speech detection. Next, we focus on the integration of underexplored features in hate speech detection: multiword expressions. We conduct an in-depth study on the robustness of systems for identifying these expressions in tweets. This study allows us to assess different systems for identifying multiword expressions in tweets, in order to automatically annotate datasets intended for hate speech detection in terms of multiword expressions. We demonstrate that deep learning-based systems outperform dictionary-based ones in this task. Furthermore, we propose a two-step system that combines both the deep learning-based and dictionary-based systems. This system outperforms the two existing systems for identifying multiword expressions in tweets. Then, we develop two neural networks that rely on sentence embeddings and integrate these multiword expressions in different ways. We show a significant improvement in performance on the hate speech detection task using multiword expression information. In the second part, we explore different learning approaches to enhance performance in hate speech detection. First, we investigate the impact of multi-task learning. For this purpose, we propose a multi-head attention-based neural network for multi-task learning. Our system is designed to simultaneously learn two tasks: hate speech detection and multiword expression identification. We demonstrate that jointly learning attention mechanisms for multiword expressions and hate speech enhances the detection of the latter. Next, we explore the use of contrastive learning for hate speech detection. Our approach involves applying this learning method in a supervised manner. The main objective is to learn sentence embeddings such that tweets belonging to the same class are brought closer together (according to cosine similarity), while tweets from different classes are pushed apart. To achieve this goal, we propose different methods to create pairs of training tweets. We also suggest various cosine similarity-based decision methods to predict classes. We demonstrate that our approaches achieve performance equivalent to traditional learning for hate speech classification. However, the intriguing aspect of our approach lies in the fact that the sentence embeddings generated through contrastive learning lead to a better separation of classes in an observable vector space, compared to embeddings generated through conventional learning for hate speech classification.