Tirer parti du transport optimal via des projections sur des sous-espaces pour des applications d’apprentissage automatique

Leveraging Optimal Transport via Projections on Subspaces for Machine Learning Applications

• Auteur / Autrice : Clément Bonet
• Direction : François Septier, Nicolas Courty
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques et leurs interactions
• Date : Soutenance le 16/11/2023
• Etablissement(s) : Lorient
• Ecole(s) doctorale(s) : École doctorale Mathématiques et sciences et technologies de l'information et de la communication en Bretagne Océane (Brest)
• Partenaire(s) de recherche : Laboratoire : Laboratoire de mathématiques de Bretagne Atlantique - Laboratoire de Mathématiques de Bretagne Atlantique / LMBA
• Jury : Président / Présidente : Julie Delon
• Jury : Examinateurs / Examinatrices : Frank Nielsen, David Alvarez Melis, Lucas Drumetz
• Jury : Rapporteur / Rapporteuse : Gabriel Peyré, Gabriele Steidl

Mots clés

Mots clés contrôlés

Distances de Wasserstein

Apprentissage automatique

Transport optimal de mesure

Riemann, Variétés de

Mots clés libres

Sous-espaces

Sliced-Wasserstein

Optimal Transport

Subspaces

Riemannian manifolds

Sliced-Wasserstein

Résumé

Le problème de transport optimal a reçu beaucoup d'attention en Machine Learning car il permet de comparer des distributions de probabilités en exploitant la géométrie de l'espace sous-jacent. Cependant, dans sa formulation originale, résoudre ce problème souffre d'un gros coût computationnel. Ainsi, tout un champ de travail consiste à proposer des alternatives pour réduire ce coût tout en continuant de bénéficier de ses propriétés. Dans cette thèse, nous nous concentrons sur des alternatives qui utilisent des projections sur des sous-espaces. L'alternative principale est la distance de Sliced-Wasserstein, que nous proposons d'étendre à des variétés Riemanniennes afin de l'utiliser dans des applications de Machine Leaning pour lesquelles ce genre d'espace a été prouvé bénéfique. Nous proposons aussi de nouvelles variantes de distance sliced entre des mesures positives dans le problème de transport non balancé. Pour revenir à la distance originale de Sliced-Wasserstein entre mesures de probabilités, nous étudions la dynamique de flots gradients quand cet espace est muni de cette distance à la place de la distance de Wasserstein. Ensuite, nous investiguons la function de Busemann, une généralisation du produit scalaire dans des espaces métriques, dans l'espace des mesures de probabilité. Finalement, nous étendons une approche basée sur des détours sur des sous espaces à des espaces incomparables en utilisant la distance de Gromov-Wasserstein.

Optimal Transport has received many attentions in Machine Learning as it allows comparing probability distributions by exploiting the geometry of the underlying space. However, in its original formulation, solving this problem suffers from a big computational burden. Thus, a big line of work consists at proposing alternatives to reduce this burden while still enjoying its properties. In this thesis, we focus on alternatives which use projections on subspaces. The main such alternative is the Sliced-Wasserstein distance, which we first propose to extend to Riemannian manifolds in order to use it in Machine Learning applications for which using such spaces has been shown beneficial in the recent years. We also study sliced distances between positive measures in the so-called unbalanced OT problem. Back to the original Euclidean Sliced-Wasserstein distance between probability measures, we study the dynamic of gradient flows when endowing the space with this distance in place of the usual Wasserstein distance. Then, we investigate the use of the Busemann function, a generalization of the inner product in metric space, in the space of probability measures. Finally, we extend the subspace detour approach to incomparable spaces using the Gromov-Wasserstein distance.