Optimisation Multi-Étapes sous Incertitude : de la Réduction d'Arbres de Scénarios par Transport Optimal à l'Optimisation Robuste

Multistage Stochastic Optimization: From Optimal Transport-Based Scenario Tree Reduction to Robust Optimization

• Auteur / Autrice : Daniel Mimouni
• Direction : Welington De oliveira
• Type : Projet de thèse
• Discipline(s) : Contrôle, optimisation, prospective
• Date : Inscription en doctorat le 02/11/2022
• Etablissement(s) : Université Paris sciences et lettres
• Ecole(s) doctorale(s) : École doctorale Sciences et technologies de l'information et de la communication
• Partenaire(s) de recherche : Laboratoire : Mathématiques et Systèmes
• Partenaire(s) de recherche : Equipe de recherche : CMA - Centre de Mathématiques Appliquées
• Partenaire(s) de recherche : établissement opérateur d'inscription : Mines Paris-PSL

Mots clés

Mots clés libres

Optimisation stochastique

Transport optimal

Arbre de scénario

Programmation mathématiques

Distance de Wasserstein

Robust

Stochastic optimization

Optimal transport

Scenario tree

Mathematical programming

Wasserstein distance

Robuste

Résumé

La prise de décision sous incertitude dans les problèmes d'optimisation stochastique multi-étapes constitue un défi majeur, nécessitant un compromis complexe entre, d'une part, la représentation des incertitudes (c'est-à-dire le nombre de scénarios) et, d'autre part, la résolvabilité numérique. Les méthodes de réduction de scénarios, introduites en 2003 par Dupavcova et al., offrent une piste prometteuse pour atteindre ce compromis. Toutefois, le choix de la métrique de distance utilisée pour la réduction des arbres de scénarios a un impact significatif sur la qualité des solutions. Alors que les techniques de regroupement (clustering) sont couramment utilisées, des travaux récents se tournent vers des méthodes fondées sur la distance de Wasserstein, qui vise à minimiser la distance de transport entre mesures de probabilité. Ce travail propose une étude approfondie de l'utilisation de la distance de Wasserstein pour la réduction d'arbres de scénarios dans le cadre de l'optimisation stochastique multi-étapes. Le Barycentre de Wasserstein (BW) permet de résumer un ensemble de mesures de probabilité ; il intervient dans de nombreux domaines, tels que les probabilités appliquées, le regroupement de données et le traitement d'images. Les méthodes numériques efficaces pour calculer des BWs reposent souvent sur une régularisation entropique, fournissant des solutions approchées en raison des limitations des solveurs. En contraste, cette thèse introduit une méthode exacte fondée sur le schéma de décomposition de Douglas-Rachford, appliqué directement à la formulation linéaire du problème de BW. L'algorithme proposé constitue un compromis entre l'efficacité numérique des méthodes régularisées et la précision des solveurs linéaires exacts. Cette thèse propose également une nouvelle formulation du problème de transport optimal déséquilibré. Cette formulation offre une plus grande flexibilité pour des applications concrètes que celles présentes dans la littérature, et la méthode proposée pour le barycentre de Wasserstein peut être facilement adaptée pour traiter les cas déséquilibrés. Par ailleurs, un autre problème nouveau de transport optimal est formulé dans cette thèse : le barycentre contraint (constrained WB). L'objectif est de trouver un barycentre supporté sur un ensemble plus restreint ou de conserver certaines propriétés spécifiques, ce qui s'avère particulièrement utile pour la réduction d'arbres de scénarios, ainsi que dans d'autres domaines tels que le traitement d'images. Des algorithmes exacts sont proposés pour résoudre ce problème. Kovacevic et Pichler développent un algorithme de réduction fondé sur la distance de Wasserstein imbriquée. Comme nous le montrons dans cette thèse, cet algorithme repose sur le calcul d'un grand nombre de barycentres de Wasserstein. La troisième contribution de cette thèse consiste à intégrer des algorithmes dédiés au calcul des BW — notamment la méthode des projections de Bregman itérées (IBP) et la nouvelle méthode des moyennes marginales (MAM) — dans l'algorithme proposé par Kovacevic et Pichler 2015, afin d'en améliorer les performances. La dernière contribution de ce travail est le développement d'une methode numérique complète (software) comparant plusieurs cadres d'optimisation — notamment l'apprentissage par renforcement, l'optimisation robuste de distribution et la programmation stochastique — pour la résolution d'un problème industriel de gestion de l'énergie multi-étapes, à l'échelle réelle, en collaboration avec l'IFPEN. Ces approches sont intégrées dans un logiciel unifié, regroupant l'ensemble des modules développés dans cette thèse, dont l'algorithme de réduction d'arbres de scénarios enrichi par des techniques de transport optimal.

Decision making under uncertainty in multistage stochastic optimization poses a substantial challenge, necessitating a complex trade-off between, on the one hand, the representation of the uncertainties (i.e. the number of scenarios) and, on the other hand, the computational tractability. Scenario reduction methods, pioneered in 2003 by Dupavcova et al., offer a promising outlooks for achieving a satisfactory trade-off. However, the choice of distance metric for reducing scenario trees significantly influences solution quality. While clustering techniques have been prevalent, recent research has turned to Wasserstein-based methods to minimize transport distance between probabilty measures. This work presents a comprehensive investigation of the use of Wasserstein distance for scenario tree reduction in the context of multistage stochastic optimization. The Wasserstein Barycenter (WB) serves as a tool for summarizing sets of probabilities, it appears in a number of disciplines, including applied probability, clustering and image processing. Numerically efficient methods to computing WBs rely on entropic regularization functions, resulting in approximate solutions due to limitations in solver capabilities. In contrast, this research introduces an exact approach based on the Douglas-Rachford splitting method directly applied to the WB linear optimization problem. The proposed solving algorithm achieves a trade-off between the numerical efficiency of regularization-based methods and the precision of exact LP solvers. This thesis also proposes a novel formulation for the unbalanced optimal transport problem. This formulation leads to more flexible real-world applications than literature and the proposed WB method can be easily adapted to tackle unbalanced WB. Another new optimal transport problem is formulated in this thesis: the constraint WB. The motivations is to find WB laying on smaller support or to keep particular properties that can be very useful when performing scenario tree reduction and finds other applications in image processing for example. This work propose exact algorithms to handle this problem. Kovacevic and Pichler developed a reduction algorithm based on nested Wasserstein distance. As we point out in this work, this algorithm consists of computing a significant amount of Wasserstein barycenters. The third contribution of this work is to implement dedicated WB computation algorithms, including the Iterative Bregmann Projection method (IBP) and the newly introduced Method of Averaged Marginals (MAM) in the algorithm proposed by Kovacevic and Pichler 2015 to accelerate its performances. The last contribution of this work is the development of a comprehensive benchmark comparing several optimization frameworks—including reinforcement learning, distributionally robust optimization, and stochastic programming—for solving an industrial-scale multistage energy management problem at IFPEN. We integrate these approaches into a unified software pipeline that encompasses all key components developed in this thesis, including the scenario tree reduction algorithm enhanced by optimal transport techniques.