Réduire les biais indésirables en apprentissage automatique par atténuation adverse

Adversarial mitigation to reduce unwanted biases in machine learning

• Auteur / Autrice : Vincent Grari
• Direction : Marcin Detyniecki, Sylvain Lamprier
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 22/06/2022
• Etablissement(s) : Sorbonne université
• Ecole(s) doctorale(s) : École doctorale Informatique, télécommunications et électronique de Paris (1992-...)
• Partenaire(s) de recherche : Laboratoire : Institut des systèmes intelligents et de robotique (Paris ; 2009-....)
• Jury : Président / Présidente : Christophe Marsala
• Jury : Examinateurs / Examinatrices : Arthur Charpentier, Catuscia Palamidessi
• Jury : Rapporteurs / Rapporteuses : Patrick Loiseau, Nicolas Usunier

Mots clés

Mots clés contrôlés

Équité

Apprentissage automatique

Mots clés libres

Apprentissage automatique équitable

Apprentissage adverse

Auto-encodeurs

Corrélation maximale

Réseaux neuronaux

Inférence causale données

Fair Machine Learning

Adversarial Learning

Auto encoders

Maximal correlation

Neural Network

Causal Inference

Résumé

Ces dernières années, on a assisté à une augmentation spectaculaire de l’intérêt académique et sociétal pour l’apprentissage automatique équitable. En conséquence, des travaux significatifs ont été réalisés pour inclure des contraintes d’équité dans les algorithmes d’apprentissage automatique. Le but principal est de s’assurer que les prédictions des modèles ne dépendent d’aucun attribut sensible comme le genre ou l’origine d’une personne par exemple. Bien que cette notion d’indépendance soit incontestable dans un contexte général, elle peut théoriquement être définie de manière totalement différente selon la façon dont on voit l’équité. Par conséquent, de nombreux articles récents abordent ce défi en utilisant leurs "propres" objectifs et notions d’équité. Les objectifs sont catégorisés en deux familles différentes : L’équité individuelle et l’équité de groupe. Cette thèse donne d’une part, une vue d’ensemble des méthodologies appliquées dans ces différentes familles afin d’encourager les bonnes pratiques. Ensuite, nous identifions et complétons les lacunes en présentant de nouvelles métriques et des algorithmes de machine learning équitables qui sont plus appropriés pour des contextes spécifiques.

The past few years have seen a dramatic rise of academic and societal interest in fair machine learning. As a result, significant work has been done to include fairness constraints in the training objective of machine learning algorithms. Its primary purpose is to ensure that model predictions do not depend on any sensitive attribute as gender or race, for example. Although this notion of independence is incontestable in a general context, it can theoretically be defined in many different ways depending on how one sees fairness. As a result, many recent papers tackle this challenge by using their "own" objectives and notions of fairness. Objectives can be categorized in two different families: Individual and Group fairness. This thesis gives an overview of the methodologies applied in these different families in order to encourage good practices. Then, we identify and complete gaps by presenting new metrics and new Fair-ML algorithms that are more appropriate for specific contexts.