Unbalanced and linear optimal transport for reliable estimation of the Wasserstein distance

Transport optimal et non balancé pour une estimation fiable de la distance de Wasserstein

• Auteur / Autrice : Guillaume Mahey
• Direction : Gilles Gasso
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques
• Date : Soutenance le 13/11/2024
• Etablissement(s) : Normandie
• Ecole(s) doctorale(s) : École doctorale mathématiques, information et ingénierie des systèmes (Caen)
• Partenaire(s) de recherche : Laboratoire : Laboratoire d'informatique, de traitement de l'information et des systèmes (Saint-Etienne du Rouvray, Seine-Maritime ; 2006-...)
• Partenaire(s) de recherche : Établissement co-accrédité : Institut national des sciences appliquées Rouen Normandie (Saint-Etienne-du-Rouvray ; 1985-....)
• Jury : Président / Présidente : Alain Rakotomamonjy
• Jury : Examinateurs / Examinatrices : Gilles Gasso, Nicolas Bonneel, Julie Delon, Laetitia Chapel, Kimia Nadjahi, Elsa Cazelles
• Jury : Rapporteur / Rapporteuse : Nicolas Bonneel, Julie Delon

Mots clés

Mots clés contrôlés

Informatique

Mathématiques

Transport optimal de mesure

Apprentissage automatique

Mots clés libres

Apprentissage machine

Transport optimal

Machine Learning

Optimal Transport

Mathematics

Informatic

Résumé

Dans le contexte de l'apprentissage automatique, plusieurs problèmes peuvent se formuler comme des problèmes de comparaison entre distributions. La théorie mathématique du transport optimal permet une comparaison entre deux mesures de probabilité. Bien que très élégante en théorie, le transport optimal (TO) souffre de plusieurs inconvénients en pratique, notamment la charge de calcul, le risque de surapprentissage (overfitting) et sa sensibilité aux artefacts d'échantillonnage. Tout cela a motivé l'introduction de variantes à la fonction de perte associée au TO dans la communauté du machine learning. Dans cette thèse, nous proposons de nouvelles variantes afin, d'une part, de réduire la charge computationnelle et statistique et, d'autre part, la sensibilité aux artefacts d'échantillonnage de la perte TO. Pour ce faire, nous nous sommes appuyés sur les distributions intermédiaires introduites à la fois par les variantes de TO linéaire et de TO déséquilibré.

In the context of machine learning, several problems can be formulated as distribution comparison problems. The mathematical theory of optimal transport allows for a comparison between two probability measures. Although very elegant in theory, optimal transport (OT) suffers from several practical drawbacks, notably the computational burden, the risk of overfitting, and its sensitivity to artifacts of sampling. All of this has motivated the introduction of variants to the loss function associated with OT in the machine learning community. In this thesis, we propose such variants in order, on one hand, to reduce the computational and statistical burden and, on the other hand, the sensitivity to sampling artifacts of the OT loss. To achieve this, we relied on intermediate distributions introduced by both the linear OT and unbalanced OT variants.