Méthodes Probabilistes Avancées pour l’Amplification de la Confidentialité : Approches Coopératives et Non Coopératives

Advanced Probabilistic Methods for Privacy Amplification : Cooperative and Non-Cooperative Approaches

• Auteur / Autrice : Andreas Athanasiou
• Direction : Catuscia Palamidessi, Konstantinos Chatzikokolakis
• Type : Thèse de doctorat
• Discipline(s) : Informatique, données, IA
• Date : Soutenance le 06/06/2025
• Etablissement(s) : Institut polytechnique de Paris
• Ecole(s) doctorale(s) : École doctorale de l'Institut polytechnique de Paris
• Partenaire(s) de recherche : Laboratoire : Laboratoire d'informatique de l'École polytechnique (Palaiseau ; 1988-....) - Laboratoire d'informatique de l'École polytechnique [Palaiseau] / LIX
• Jury : Président / Présidente : Nicolas Anciaux
• Jury : Examinateurs / Examinatrices : Catuscia Palamidessi, Thorsten Strufe, Parastoo Sadeghi, Ehab Elsalamouny, Evangelia Anna Markatou, Antti Honkela
• Jury : Rapporteurs / Rapporteuses : Thorsten Strufe, Tobias Oechtering
• DOI : 10.70675/eed20502z74aez4626zb3f5z38bd7070a9ec

Mots clés

Mots clés contrôlés

Apprentissage automatique

Vie privée

Protection de l'information (informatique)

Acquisition automatique des données

Mots clés libres

Protection de la vie privée

Aprentissage automatique

Données

Mélanger

Privacy

Machine Learning

Data

Shuffling

Résumé

De la formulation de conclusions statistiques à l’entraînement de modèles d’apprentissage automatique, la collecte de données est indéniablement devenue une composante essentielle des technologies modernes. Au fil des années, cela a soulevé des préoccupations croissantes en matière de confidentialité, en particulier dans les applications sensibles. Pour répondre à ces inquiétudes et rassurer les utilisateurs, les cadres de la Differential Privacy (DP) et du Quantitative Information Flow (QIF) ont été largement étudiés, permettant de quantifier la quantité d’information qu’un analyste peut obtenir après avoir observé un système.Cette thèse explore des mécanismes renforçant la confidentialité dans deux scénarios distincts : (a) lorsque les utilisateurs coopèrent pour orchestrer une stratégie de défense commune, et (b) lorsque les utilisateurs ne coopèrent pas et doivent chacun s’appuyer sur leur propre approche.Dans le premier cas, nous nous appuyons sur le modèle de mélange (shuffle model) de la DP, où les utilisateurs obfusquent leurs données avant qu’un mélangeur de confiance ne les combine et les publie ensuite à l’analyste. L’effet de mélange est affiné grâce à divers schémas d’encodage qui limitent considérablement la quantité d’information utilisateur accessible à l’analyste, sans compromettre l’exactitude du résultat. Cette approche est étudiée dans le cadre des données de localisation, en combinant le mélange avec la metric privacy (une variante de DP adaptée aux domaines munis d’une notion de distance), puis dans l’apprentissage fédéré afin de se protéger contre les Source Inference Attacks (qui visent à identifier précisément quel client a entraîné un point de données donné).Enfin, dans des contextes non coopératifs, la thèse analyse, à l’aide du QIF, la stratégie optimale d’un utilisateur pour obfusquer son propre secret en se basant sur les secrets soumis par d’autres, sous des contraintes linéaires. Cette approche est ensuite appliquée à la défense contre les attaques de fingerprinting de sites Web. Dans ce scénario, un administrateur cherche à faire en sorte que le comportement de son site ressemble à celui d’autres sites qu’il souhaite imiter. Comme la coopération avec ces autres sites est impossible, l’administrateur doit concevoir sa défense uniquement sur la base du comportement observé de ces sites.

From drawing statistical conclusions to training machine learning models, data collection has undoubtedly become an essential part of modern technologies. Over the years, this has led to increasing privacy concerns, especially in sensitive applications. To address these concerns and reassure users, the frameworks of Differential Privacy (DP) and Quantitative Information Flow (QIF) have been widely studied, which quantify the amount of information an analyst can gain after observing a system.The thesis explores mechanisms that enhance privacy in two different scenarios: (a) when users cooperate with each other to orchestrate a common defense strategy and (b) when users do not cooperate and each must rely on their own approach.In the first case, we build upon the shuffle model of DP, where users obfuscate their data before a trusted shuffler mixes it and then releases it to the analyst. The blending effect of shuffling is refined using varying encoding schemes that significantly limit the amount of user information available to the analyst, without affecting the accuracy of the result. The thesis studies this approach in location data, combining shuffling with metric privacy (a variant of DP for domains equipped with a notion of distance) and then in Federated Learning to protect against Source Inference Attacks (which aim to identify exactly which client trained a given data point).Finally, in non-cooperative settings, the thesis analyzes, using QIF, a user’s optimal strategy to obfuscate their own secret based on the observed submitted secrets of others, under linear constraints. This approach is then applied to defending against Website Fingerprinting attacks. In this scenario, an administrator seeks to make their site’s behavior resemble some other websites, which they wish to mimic. As cooperation with these other sites is not possible, the administrator has to design their defense based solely on the observed behavior of the other sites.