Méthodes d'éclatement non-euclidiennes du premier ordre pour l'optimisation à grande échelle : algorithmes déterministes et stochastiques

First-order noneuclidean splitting methods for large-scale optimization : deterministic and stochastic algorithms

• Auteur / Autrice : Antonio Silveti Falls
• Direction : Jalal Fadili, Gabriel Peyré
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques
• Date : Soutenance le 11/02/2021
• Etablissement(s) : Normandie
• Ecole(s) doctorale(s) : École doctorale mathématiques, information et ingénierie des systèmes (Caen)
• Partenaire(s) de recherche : Laboratoire : Groupe de recherche en informatique, image, automatique et instrumentation de Caen (1995-....)
• Partenaire(s) de recherche : établissement de préparation : Université de Caen Normandie (1971-....)
• Jury : Président / Présidente : Antonin Chambolle
• Jury : Examinateurs / Examinatrices : Jalal Fadili, Gabriel Peyré, Amir Beck, Silvia Villa, Jérôme Bolte, Emilie Chouzenoux, Alexandre d' Aspremont
• Jury : Rapporteurs / Rapporteuses : Amir Beck, Silvia Villa

Mots clés

Mots clés contrôlés

Distances de Wasserstein

Divergence de Kullback-Leibler

Divergences de Bregman

Méthode de Frank-Wolfe

Optimisation mathématique

Mots clés libres

Optimisation du premier ordre

Dédoublement primal-dual

Descente en miroir

Enveloppe de Moreau

Lisse relative

Problème inverse de Wasserstein

Optimisation non lisse

Descente en miroir

Nonsmooth optimization

First-order optimization

Primal-dual splitting

Conditional gradient

Frank-wolfe

Chambolle-pock

Bregman divergence

Mirror descent

Moreau envelope

Relative smoothness

Kullback-Leibler divergence

Wasserstein barycenter

Wasserstein inverse problem

Résumé

Dans ce travail, nous développons et examinons deux nouveaux algorithmes d'éclatement du premier ordre pour résoudre des problèmes d'optimisation composites à grande échelle dans des espaces à dimensions infinies. Ces problèmes sont au coeur de nombres de domaines scientifiques et d'ingénierie, en particulier la science des données et l'imagerie. Notre travail est axé sur l'assouplissement des hypothèses de régularité de Lipschitz généralement requises par les algorithmes de fractionnement du premier ordre en remplaçant l'énergie euclidienne par une divergence de Bregman. Ces développements permettent de résoudre des problèmes ayant une géométrie plus exotique que celle du cadre euclidien habituel. Un des algorithmes développés est l'hybridation de l'algorithme de gradient conditionnel, utilisant un oracle de minimisation linéaire à chaque itération, avec méthode du Lagrangien augmenté, permettant ainsi la prise en compte de contraintes affines. L'autre algorithme est un schéma d'éclatement primal-dual incorporant les divergences de Bregman pour le calcul des opérateurs proximaux associés. Pour ces deux algorithmes, nous montrons la convergence des valeurs Lagrangiennes, la convergence faible des itérés vers les solutions ainsi que les taux de convergence. En plus de ces nouveaux algorithmes déterministes, nous introduisons et étudions également leurs extensions stochastiques au travers d'un point de vue d'analyse de stablité aux perturbations. Nos résultats dans cette partie comprennent des résultats de convergence presque sûre pour les mêmes quantités que dans le cadre déterministe, avec des taux de convergence également. Enfin, nous abordons de nouveaux problèmes qui ne sont accessibles qu'à travers les hypothèses relâchées que nos algorithmes permettent. Nous démontrons l'efficacité numérique et illustrons nos résultats théoriques sur des problèmes comme la complétion de matrice parcimonieuse de rang faible, les problèmes inverses sur le simplexe, ou encore les problèmes inverses impliquant la distance de Wasserstein régularisée.

In this work we develop and examine two novel first-order splitting algorithms for solving large-scale composite optimization problems in infinite-dimensional spaces. Such problems are ubiquitous in many areas of science and engineering, particularly in data science and imaging sciences. Our work is focused on relaxing the Lipschitz-smoothness assumptions generally required by first-order splitting algorithms by replacing the Euclidean energy with a Bregman divergence. These developments allow one to solve problems having more exotic geometry than that of the usual Euclidean setting. One algorithm is hybridization of the conditional gradient algorithm, making use of a linear minimization oracle at each iteration, with an augmented Lagrangian algorithm, allowing for affine constraints. The other algorithm is a primal-dual splitting algorithm incorporating Bregman divergences for computing the associated proximal operators. For both of these algorithms, our analysis shows convergence of the Lagrangian values, subsequential weak convergence of the iterates to solutions, and rates of convergence. In addition to these novel deterministic algorithms, we introduce and study also the stochastic extensions of these algorithms through a perturbation perspective. Our results in this part include almost sure convergence results for all the same quantities as in the deterministic setting, with rates as well. Finally, we tackle new problems that are only accessible through the relaxed assumptions our algorithms allow. We demonstrate numerical efficiency and verify our theoretical results on problems like low rank, sparse matrix completion, inverse problems on the simplex, and entropically regularized Wasserstein inverse problems.