Comprendre les modèles de diffusion générative : théorie et pratique

Understanding generative diffusion models : theory and practice

• Auteur / Autrice : Krunoslav Lehman pavasovic
• Direction : Giulio Biroli
• Type : Projet de thèse
• Discipline(s) : Informatique
• Date : Inscription en doctorat le 01/09/2023
• Etablissement(s) : Université Paris sciences et lettres
• Ecole(s) doctorale(s) : École doctorale Sciences mathématiques de Paris centre (Paris ; 2000-....)
• Partenaire(s) de recherche : Laboratoire : DIENS - Département d'informatique de l'École normale supérieure
• Partenaire(s) de recherche : établissement opérateur d'inscription : Ecole normale supérieure

Mots clés

Mots clés libres

Generation

Diffusion

Physique statistique

Applications societales

Generation

Diffusion

Statistical Physics

Applications in society

Résumé

Cette thèse de doctorat cherche à aborder la question pressante de l'équité dans l'apprentissage automatique, en particulier celle de l'équité sans accès aux attributs sensibles. Les défis qui se posent englobent divers aspects de l'apprentissage automatique. L'une des principales orientations de cette thèse sera d'exploiter la puissance des modèles génératifs pour développer de nouveaux algorithmes et techniques capables de modéliser avec précision les distributions de données sous-jacentes tout en préservant l'équité. La thèse se déroulera sur une période de trois ans. Au cours de la première année, nous nous concentrerons sur l'établissement de cadres théoriques visant à atteindre l'équité. En deuxième année, nous nous inspirerons de ces théories et nous efforcerons de développer des solutions pratiques et équitables, notamment concernant les modèles génératifs. Au cours de la troisième année, notre objectif sera d'appliquer ces cadres au contexte dans lequel nous n'avons pas accès à l'attribut sensible. La recherche dans cette direction a le potentiel de promouvoir l'égalité des chances et d'atténuer les préjugés sans compromettre (ni même exiger) des informations sensibles. En fin de compte, il a la capacité de contribuer à un avenir plus inclusif et plus équitable, avec des systèmes d'apprentissage automatique fondés sur les principes de transparence, de responsabilité et d'équité.

This PhD thesis seeks to address the pressing issue of fairness in machine learning, particularly that of fairness without access to sensitive attributes. The challenges that arise encompass various aspects of machine learning. As one of the main directions of this thesis, we shall leverage the power of generative models to develop novel algorithms and techniques that can accurately model the underlying data distributions while preserving fairness. The thesis will be carried out over a three-year period. During the first year, we will focus on establishing theoretical frameworks that aim to achieve fairness. In the second year, we will draw inspiration from these theories and strive to develop practical and fair solutions, particularly concerning generative models. In the third year, our objective will be to apply these frameworks to the setting in which we do not have access to the sensitive attribute. Research in this direction holds the potential to promote equal opportunities and mitigate bias without compromising (or even requiring) sensitive information. Ultimately, it holds the capability to contribute to a future that is more inclusive and equitable, with machine learning systems built on principles of transparency, accountability, and fairness.