Optimisation bayésienne optimale: Théorie et applications

Optimal Bayesian Optimization: Theory and Applications

• Auteur / Autrice : Vahan Arsenyan
• Direction : Arnak Dalalyan
• Type : Projet de thèse
• Discipline(s) : Mathématiques appliquées
• Date : Inscription en doctorat le 01/11/2024
• Etablissement(s) : Institut polytechnique de Paris
• Ecole(s) doctorale(s) : École doctorale de mathématiques Hadamard
• Partenaire(s) de recherche : Laboratoire : CREST - Centre de recherche en économie et statistique
• Partenaire(s) de recherche : Equipe de recherche : Pôle de Statistique

Mots clés

Mots clés libres

Optimisation Bayésienne

Garanties théoriques

Apprentissage séquentiel

Bayesian optimizaiton

Theoretical guarantees

Online learning

Résumé

Cette proposition de recherche a pour objectif de combler les déficits tant théoriques que pratiques relevés dans l'efficacité des optimiseurs de 'policy scope' actuels. L'accent est mis sur l'amélioration des méthodes fondées sur l'optimisation bayésienne, avec un intérêt particulier pour l'utilisation de processus gaussiens comme approximations. Si notre étude se concentre sur ces techniques spécifiques, il est envisageable que nos découvertes bénéficient également à des approches alternatives et à des modèles plus englobants. Le but principal est de pallier le manque de garanties de convergence dans les contextes d'utilisation de graphes de causalité pour délimiter les 'policy scopes', une tactique réputée pour ses avantages en termes d'efficience. Pour surmonter les difficultés inhérentes aux algorithmes présupposant l'accessibilité de graphes de causalité, nous proposons une stratégie d'optimisation intégrée des politiques et des procédés d'apprentissage de ces graphes. De plus, une analyse comparative de l'emploi d'un unique processus gaussien versus plusieurs dans des contextes restreints sera entreprise. Notre investigation prévoit aussi d'incorporer des décompositions de noyaux guidés par les 'policy scopes' et de formuler des algorithmes accélérés pour leur énumération. Ces progrès visent à améliorer l'efficience et de minimiser les coûts computationnels par rapport aux techniques existantes. Un volet crucial de notre projet consiste à transposer les fruits de nos recherches dans des situations concrètes. Nos efforts seront spécifiquement dirigés vers les secteurs financier et économique, incluant l'optimisation des dynamiques d'offre et de demande ainsi que la gestion de portefeuilles d'investissement. En alignant notre travail avec l'expertise du CREST-ENSAE, nous optimiserons les procédures d'évaluation et de validation, assurant ainsi la robustesse et l'applicabilité directe de nos résultats dans des scénarios réels.

This research proposal aims to address the theoretical and practical gaps identified in the efficacy of current policy scope optimizers. Our primary focus is on improving methods that rely on Bayesian Optimization employing Gaussian Processes as surrogate. While our investigation primarily targets these specific methods, we anticipate that our findings will have broader implications for alternative approaches and more general models. Our key goal is to tackle the notable lack of convergence guarantees in scenarios where causal graphs are used to identify policy scopes–a strategy known to offer substantial efficiency gains. In response to the prevalent issues associated with algorithms that assume the availability of causal graphs, our approach consists of joint policy optimization and graph learning processes. Moreover, we plan to investigate the operational differences observed when employing a single Gaussian process versus multiple ones in smaller domains. Our research will also incorporate kernel decompositions guided by policy scopes and strive to develop faster algorithms for policy scope enumeration. These advancements aim to improve the efficiency and reduce the computational cost compared to current methods. An essential component of our project is the application of our research findings to real-world contexts, an aspect often neglected in prior studies. We will concentrate our efforts on financial and economic applications, such as optimizing supply-demand dynamics and managing investment portfolios. Aligning our research with the expertise of CREST-ENSAE will enhance the evaluation and validation processes, ensuring our outcomes are both robust and directly applicable to real-world scenarios.