Faire avancer l'IA éthique : Méthodes d'amélioration de l'équité fondées sur la causalité et soumises à des contraintes de confidentialité

Advancing Ethical AI : Methods for fairness enhancement leveraging on causality and under privacy constraints

• Auteur / Autrice : Ruta Binkyte-Sadauskiene
• Direction : Catuscia Palamidessi
• Type : Thèse de doctorat
• Discipline(s) : Informatique, données, IA
• Date : Soutenance le 19/12/2023
• Etablissement(s) : Institut polytechnique de Paris
• Ecole(s) doctorale(s) : École doctorale de l'Institut polytechnique de Paris
• Partenaire(s) de recherche : Laboratoire : Laboratoire d'informatique de l'École polytechnique (Palaiseau, Essonne) - Laboratoire d'informatique de l'École polytechnique [Palaiseau] / LIX
• Jury : Président / Présidente : Stefan Haar
• Jury : Examinateurs / Examinatrices : Catuscia Palamidessi, Mario Fritz, Sami Zhioua, Miguel Couceiro, Sébastien Gambs, Daniele Gorla
• Jury : Rapporteurs / Rapporteuses : Mario Fritz, Pascal Van Hentenryck

Mots clés

Mots clés contrôlés

Apprentissage supervisé (intelligence artificielle)

Causalité

Vie privée

Équité

Mots clés libres

L'équité

Vie privé

Causalité

Machine learning

Fairness

Causality

Privacy

Machine learning

Résumé

L'intelligence artificielle éthique et la causalité sont des domaines interconnectés qui revêtent une importance croissante dans notre société numérique. L'éthique en intelligence artificielle (IA) implique la recherche de compromis complexes, que ce soit dans la structure globale de l'IA ou dans des domaines spécifiques comme l'équité et la protection de la vie privée. Ces compromis nécessitent un équilibre délicat entre les principes éthiques fondamentaux et les contraintes pratiques des systèmes d'IA.Un défi majeur dans la recherche de l'équité en IA réside dans la tension entre la précision et l'équité. Les méthodes traditionnelles, telles que la parité statistique, ont tendance à compromettre la précision lors de la correction des biais dans les données, en particulier lorsque des corrélations existent entre les attributs sensibles et les facteurs légitimes de prise de décision. Pour atténuer ce problème, nous introduisons "BaBE" (Élimination des Biais Bayésiens), une approche novatrice combinant l'inférence bayésienne et la méthode de maximisation de l'espérance. BaBE est capable d'estimer les variables explicatives latentes, permettant ainsi des prises de décision équitables sans sacrifier la précision.De plus, nous abordons les défis posés par la sous-représentation et le biais d'échantillonnage en apprentissage automatique. La mesure précise de la discrimination est essentielle pour évaluer l'équité. Pour éliminer le biais d'échantillonnage, nous introduisons des variantes telles que le biais de taille d'échantillon et le biais de sous-représentation. Nous décomposons également la discrimination en variance, biais et bruit, offrant ainsi une compréhension complète des sources de biais dans les systèmes d'IA.La protection de la vie privée est une dimension cruciale de l'IA éthique, impliquant souvent un compromis entre la protection des données et l'utilité. La confidentialité différentielle locale offre aux fournisseurs de données la possibilité d'appliquer des mécanismes d'obscurcissement individuellement, garantissant ainsi la protection de la vie privée, même dans des environnements non fiables. Cependant, l'introduction de bruit dans ce contexte peut perturber les corrélations des données, notamment celles nécessaires à l'apprentissage des structures de causalité.La causalité, avec son regain d'intérêt au XXIe siècle, joue un rôle essentiel dans la compréhension du monde et dans la prise de décisions équitables et automatisées. Nous soulignons l'importance de la causalité dans l'évaluation de l'équité, tant du point de vue légal que quotidien. La pensée causale offre un cadre solide pour distinguer entre prédictions causales et non causales, mettant en lumière l'impact social de ces dernières.L'intersection entre l'intelligence artificielle éthique et la causalité offre une voie prometteuse pour aborder les compromis et renforcer les fondements éthiques des systèmes d'intelligence artificielle. En tirant parti de la causalité dans les domaines de l'équité, de la vie privée et de la prise de décision, nous pouvons développer des systèmes d'IA qui respectent non seulement les principes éthiques, mais qui excellent également en termes de précision, d'équité et de protection de la vie privée.

The field of Ethical AI is characterized by complex trade-offs, both within its overarching framework and across specialized domains like fairness and privacy. These trade-offs often involve navigating the delicate balance between fundamental ethical principles and the practical requirements of artificial intelligence systems. This extended abstract explores how causality can serve as a potent tool to address these trade-offs and foster synergies among various aspects of Ethical AI. We delve into three key areas: Fairness, Privacy, and Causality.In the pursuit of fairness in AI, a common trade-off is the tension between accuracy and fairness. Traditional methods like statistical parity often compromise accuracy when addressing bias in data, especially when a correlation exists between sensitive attributes and legitimate decision-making factors. To mitigate this issue, we introduce "BaBE" (Bayesian Bias Elimination), an innovative approach that combines Bayesian inference and the Expectation-Maximization method. BaBE estimates the latent explaining variables, enabling fair decision-making without sacrificing accuracy. Our experiments on synthetic and real datasets demonstrate the effectiveness of BaBE in achieving a high level of fairness and accuracy.Additionally, we shed light on the challenges posed by underrepresentation and sampling bias in machine learning. Accurate measurement of discrimination is pivotal in assessing fairness. To disambiguate the concept of sampling bias, we introduce clear variants, such as sample size bias (SSB) and underrepresentation bias (URB). We also decompose discrimination into variance, bias, and noise, providing a comprehensive understanding of the sources of bias in AI systems. Our approach contributes to a nuanced evaluation of fairness and informs strategies for addressing bias in machine learning.Privacy is another critical dimension in Ethical AI, and here, the trade-off often involves balancing data protection with utility. Local differential privacy offers data providers the ability to apply obfuscation mechanisms individually, ensuring privacy even in untrusted environments. However, the addition of noise in this context can distort data correlations, particularly affecting causal-structure learning. We analyze various locally differentially private mechanisms to understand the trade-off between privacy and the accuracy of causal structure learning algorithms when applied to obfuscated data. Our findings provide valuable insights for selecting appropriate local differential privacy protocols for causal discovery tasks, preserving user data privacy while conducting meaningful analyses.Causality, with its resurgence in the 21st century, plays a pivotal role in understanding the world and making fair, automated decisions. We emphasize the importance of causality in evaluating fairness, both from a legal and everyday perspective. Causal reasoning offers a robust framework for distinguishing between causal and non-causal predictions, highlighting the social impact of the latter. We provide arguments and examples showcasing the significance of causality in fairness evaluation and anti-discrimination processes. However, we acknowledge the challenges and limitations of applying causality in practical scenarios, and we discuss potential solutions to overcome these obstacles.The intersection of Ethical AI and causality presents a promising avenue for addressing trade-offs and enhancing the ethical foundations of artificial intelligence systems. By leveraging causality in fairness, privacy, and decision-making, we can develop AI systems that not only adhere to ethical principles but also excel in terms of accuracy, fairness, and privacy protection. This extended abstract offers a glimpse into the intricate landscape of Ethical AI and its potential to create a more ethical and equitable AI-driven future.