Faire avancer l'IA éthique : Méthodes d'amélioration de l'équité fondées sur la causalité et soumises à des contraintes de confidentialité
Auteur / Autrice : | Ruta Binkyte-Sadauskiene |
Direction : | Catuscia Palamidessi |
Type : | Thèse de doctorat |
Discipline(s) : | Informatique, données, IA |
Date : | Soutenance le 19/12/2023 |
Etablissement(s) : | Institut polytechnique de Paris |
Ecole(s) doctorale(s) : | École doctorale de l'Institut polytechnique de Paris |
Partenaire(s) de recherche : | Laboratoire : Laboratoire d'informatique de l'École polytechnique (Palaiseau ; 1988-....) - Laboratoire d'informatique de l'École polytechnique [Palaiseau] / LIX |
Jury : | Président / Présidente : Stefan Haar |
Examinateurs / Examinatrices : Catuscia Palamidessi, Mario Fritz, Sami Zhioua, Miguel Couceiro, Sébastien Gambs, Daniele Gorla | |
Rapporteurs / Rapporteuses : Mario Fritz, Pascal Van Hentenryck |
Mots clés
Mots clés contrôlés
Mots clés libres
Résumé
L'intelligence artificielle éthique et la causalité sont des domaines interconnectés qui revêtent une importance croissante dans notre société numérique. L'éthique en intelligence artificielle (IA) implique la recherche de compromis complexes, que ce soit dans la structure globale de l'IA ou dans des domaines spécifiques comme l'équité et la protection de la vie privée. Ces compromis nécessitent un équilibre délicat entre les principes éthiques fondamentaux et les contraintes pratiques des systèmes d'IA.Un défi majeur dans la recherche de l'équité en IA réside dans la tension entre la précision et l'équité. Les méthodes traditionnelles, telles que la parité statistique, ont tendance à compromettre la précision lors de la correction des biais dans les données, en particulier lorsque des corrélations existent entre les attributs sensibles et les facteurs légitimes de prise de décision. Pour atténuer ce problème, nous introduisons "BaBE" (Élimination des Biais Bayésiens), une approche novatrice combinant l'inférence bayésienne et la méthode de maximisation de l'espérance. BaBE est capable d'estimer les variables explicatives latentes, permettant ainsi des prises de décision équitables sans sacrifier la précision.De plus, nous abordons les défis posés par la sous-représentation et le biais d'échantillonnage en apprentissage automatique. La mesure précise de la discrimination est essentielle pour évaluer l'équité. Pour éliminer le biais d'échantillonnage, nous introduisons des variantes telles que le biais de taille d'échantillon et le biais de sous-représentation. Nous décomposons également la discrimination en variance, biais et bruit, offrant ainsi une compréhension complète des sources de biais dans les systèmes d'IA.La protection de la vie privée est une dimension cruciale de l'IA éthique, impliquant souvent un compromis entre la protection des données et l'utilité. La confidentialité différentielle locale offre aux fournisseurs de données la possibilité d'appliquer des mécanismes d'obscurcissement individuellement, garantissant ainsi la protection de la vie privée, même dans des environnements non fiables. Cependant, l'introduction de bruit dans ce contexte peut perturber les corrélations des données, notamment celles nécessaires à l'apprentissage des structures de causalité.La causalité, avec son regain d'intérêt au XXIe siècle, joue un rôle essentiel dans la compréhension du monde et dans la prise de décisions équitables et automatisées. Nous soulignons l'importance de la causalité dans l'évaluation de l'équité, tant du point de vue légal que quotidien. La pensée causale offre un cadre solide pour distinguer entre prédictions causales et non causales, mettant en lumière l'impact social de ces dernières.L'intersection entre l'intelligence artificielle éthique et la causalité offre une voie prometteuse pour aborder les compromis et renforcer les fondements éthiques des systèmes d'intelligence artificielle. En tirant parti de la causalité dans les domaines de l'équité, de la vie privée et de la prise de décision, nous pouvons développer des systèmes d'IA qui respectent non seulement les principes éthiques, mais qui excellent également en termes de précision, d'équité et de protection de la vie privée.