Promouvoir l'IA éthique et responsable : explorer l'équité, la confidentialité et l'explicabilité à travers des perspectives causales

Advancing Ethical and Responsible AI : Exploring Fairness, Privacy, and Explainability through Causal Perspectives

• Auteur / Autrice : Karima Makhlouf
• Direction : Catuscia Palamidessi, Héber Hwang Arcolezi
• Type : Thèse de doctorat
• Discipline(s) : Informatique, données, IA
• Date : Soutenance le 07/10/2024
• Etablissement(s) : Institut polytechnique de Paris
• Ecole(s) doctorale(s) : École doctorale de l'Institut polytechnique de Paris
• Partenaire(s) de recherche : Laboratoire : Laboratoire d'informatique de l'École polytechnique (Palaiseau ; 1988-....) - Laboratoire d'informatique de l'École polytechnique [Palaiseau]
• Jury : Président / Présidente : Daniel Augot
• Jury : Examinateurs / Examinatrices : Catuscia Palamidessi, Héber Hwang Arcolezi, Salvatore Ruggieri, Jean-Michel Loubès, Miguel Couceiro, Sébastien Gambs, Michaël Perrot
• Jury : Rapporteur / Rapporteuse : Salvatore Ruggieri, Jean-Michel Loubès

Mots clés

Mots clés contrôlés

Équité

Causalité

Protection de l'information (informatique)

Mots clés libres

Utilité

Équité

Confidentialité

Causalité

Accuracy

Fairness

Privacy

Causality

Résumé

Cette thèse explore l'intersection de la confidentialité, de l'équité et de la causalité dans le domaine de l'apprentissage automatique et de la prise de décision basée sur les données. Les principales contributions de la thèse peuvent être résumées comme suit : (1) nous étudions l'applicabilité des notions d'équité statistiques et basées sur la causalité dans divers domaines d'application, en évaluant leur alignement avec les préférences des parties prenantes et les normes sociétales dans les systèmes de prise de décision algorithmiques ; (2) nous menons une étude systématique et formelle sur l’impact de la confidentialité différentielle locale sur l’équité. Nous évaluons quantitativement la façon dont les décisions du modèle d'apprentissage automatique changent en fonction de différents niveaux de confidentialité et de distribution des données. De plus, nous examinons empiriquement les implications en matière d'équité de la collecte de plusieurs attributs sensibles dans le cadre du confidentialité différentielle locale ; (3) nous étudions la découverte causale à travers le prisme de l’équité algorithmique, en analysant comment le processus de découverte causale influence la structure des graphiques causals et, par conséquent, les conclusions sur l’équité. En outre, nous proposons un nouveau mécanisme de génération de données pour produire des ensembles de données synthétiques biaisés basés sur des graphiques causals et des niveaux de biais spécifiés, explorant l'influence de différents algorithmes de découverte causale sur diverses structures causales et le degré de biais introduit.Dans l’ensemble, cette thèse contribue au corpus croissant de littérature sur l’intelligence artificielle éthique et responsable en offrant des perspectives théoriques complétées par des considérations pratiques pour les décideurs politiques, les praticiens et les chercheurs cherchant à développer des systèmes algorithmiques plus justes qui adhèrent aux principes de confidentialité et d’explicabilité.

This dissertation explores the intersection of privacy, fairness, and causality within the realm of machine learning (ML) and data-driven decision-making. The dissertation's main contributions can be summarized as follows: (1) we investigate the applicability of statistical and causality-based fairness notions in diverse application domains, evaluating their alignment with stakeholder preferences and societal norms in algorithmic decision-making systems; (2) we conduct a systematic and formal study on the impact of local differential privacy (LDP) on fairness. We quantitatively assess how ML model decisions change under varying levels of privacy and data distributions. Additionally, we empirically examine the fairness implications of collecting multiple sensitive attributes under LDP; (3) we study causal discovery through the lens of algorithmic fairness, analyzing how the causal discovery process influences the structure of causal graphs and, consequently, fairness conclusions. Furthermore, we propose a novel data generation mechanism to produce biased synthetic datasets based on causal graphs and specified bias levels, exploring the influence of different causal discovery algorithms on various causal structures and the degree of introduced bias.Overall, this thesis contributes to the growing body of literature on ethical and responsible artificial intelligence by offering theoretical insights complemented by practical considerations for policymakers, practitioners, and researchers seeking to develop fairer algorithmic systems that adhere to privacy and explainability principles.