Enjeux de vie privée et d’équité posés par les systèmes de décision algorithmiques

Privacy and fairness issues with algorithmic decision systems

• Auteur / Autrice : Louis Béziaud
• Direction : Tristan Allard, Sébastien Gambs
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 06/12/2023
• Etablissement(s) : Université de Rennes (2023-....) en cotutelle avec Université du Québec à Montréal
• Ecole(s) doctorale(s) : École doctorale Mathématiques, télécommunications, informatique, signal, systèmes, électronique (Rennes ; 2022-....)
• Partenaire(s) de recherche : Laboratoire : Institut de recherche en informatique et systèmes aléatoires (Rennes) - SPICY
• Jury : Président / Présidente : Benjamin Nguyen
• Jury : Examinateurs / Examinatrices : Luis Galárraga Del Prado, Sihem Amer-Yahia
• Jury : Rapporteurs / Rapporteuses : Benjamin Nguyen, Alexis Tsoukiàs

Mots clés

Mots clés contrôlés

Systèmes d'aide à la décision

Vie privée

Mots clés libres

Vie privée

Équité

Système de décision

Socio-Technique

Privacy

Fairness

Decision systems

Sociotechnical

Résumé

Les algorithmes sont de plus en plus utilisés pour prendre des décisions impactant les individus, les cohortes et la société dans son ensemble. Cette ubiquité soulève d’importantes préoccupations éthiques et sociales, notamment la protection de la vie privée et l’équité. Cette thèse étudie ces deux sujets techniques sous l’angle de leur utilisation pratique et de leurs exigences sociétales. Dans une première contribution, nous examinons le conflit entre la vie privée et la transparence lors de la publication de procédures judiciaires. Dans une deuxième contribution, nous proposons un framework pour organiser des compétitions d’attaque de mécanismes de protection de la vie privée afin de mieux établir leur comportement dans la pratique. Dans une troisième contribution, nous nous concentrons sur les limites des définitions techniques d’équité et utilisons une simulation ancrée dans la réalité comme moyen d’observer leur impact à long terme sur l’ensemble d’un système. L’objectif principal de cette thèse est de mettre en évidence les questions fondamentales soulevées par la technicisation des défis sociaux ainsi que de proposer des outils techniques et des analyses visant à ramener ces défis sociotechniques dans leur contexte social.

Algorithms are increasingly used across all layers of society, including in high-stake decision systems, impacting individuals, cohorts and society as a whole. This omnipresence of algorithms raises important ethical and social concerns, including in particular privacy and fairness. In this thesis, we study these two technical subjects under the lens of their practical usage and strong societal requirements. In a first contribution we investigate the conflict between privacy and transparency when publishing legal proceedings. In a second contribution, we propose a framework to organize privacy challenges with a focus on attacking privacy-preserving data publishing mechanisms to better define their behavior in practice. As a third contribution, we focus on the limits of technical fairness definitions and leverage a simulation grounded in reality as a way to observe the long-term impact of fairness on a whole system. Overall, the main objective of this thesis is to highlight fundamental issues raised by the technicization of social challenges as well as to propose technical tools and analyses aimed towards bringing these sociotechnical challenges back to their social context.