Calibration orientée des lois prédictives de processus gaussiens. Application à la multi-fidélité et à la descente d'échelle. 

Goal-oriented calibration of predictive distributions of Gaussian processes. Application to multi-fidelity and downscaling

• Auteur / Autrice : Aurélien Pion
• Direction : Emmanuel Vazquez
• Type : Projet de thèse
• Discipline(s) : Informatique mathématique
• Date : Inscription en doctorat le 01/06/2023
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale Sciences et technologies de l'information et de la communication
• Partenaire(s) de recherche : Laboratoire : Laboratoire des Signaux et Systèmes
• Partenaire(s) de recherche : Equipe de recherche : Signaux
• Partenaire(s) de recherche : Référent : CentraleSupélec

Mots clés

Mots clés libres

Multi-Fidélité

Processus Gaussiens

Calibration orientée

Scoring Rules

Agrégation de modèles

Descente d'échelle

Multi-fidelity

Gaussian processes

Goal oriented calibration

Scoring Rules

Models Aggregation

Dowscaling

Résumé

Malgré la popularité de l'approche bayésienne par processus gaussiens et de très nombreux travaux sur ce sujet, certaines questions, pourtant importantes, restent relativement peu étudiées. Il s'agit en particulier du problème de la calibration des lois prédictives et de l'agrégation de modèles.  Pour construire un métamodèle, l'approche usuelle consiste à sélectionner le vecteur des paramètres d'un processus paramétré par maximum de vraisemblance. Les travaux de T. Karvonen sur les deux dernières années donnent des renseignements importants d'un point de vue théorique sur les performances du maximum de vraisemblance. Par ailleurs, dans une étude récente, Petit et al., 2022 montrent empiriquement que l'estimation par maximum de vraisemblance permet de sélectionner de manière satisfaisante les paramètres d'un modèle, ainsi que le modèle lui-même, au regard de plusieurs critères de validation dérivés de scoring rules classiques (Murphy & Winkler 1970, Gneiting & Raftery, 2007). Toutefois, les trois questions suivantes restent à notre connaissance en suspens :  1. L'estimateur de maximum de vraisemblance fournit-il des lois bien calibrées ?  2. Est-il pertinent et possible de concevoir des procédures de calibration orientées, ou goal-oriented en anglais, notamment afin d'obtenir une meilleure calibration dans des régions d'intérêt de l'espace, quitte à dégrader la modélisation ailleurs ?  3. La combinaison / agrégation de modèles peut-elle permettre de construire de meilleurs modèles ? Dans le cadre de la multi-fidélité, les questions 1 et 2 ci-dessus prennent tout leur sens. Il est en effet important de quantifier l'erreur de prédiction par processus gaussien de la manière la plus précise possible, notamment dans les régions correspondant à la haute fidélité. Par ailleurs, dans ce contexte, il est acceptable de dégrader les performances des prédictions dans les régions de basse fidélité si cela permet d'améliorer les performances de prédiction en haute fidélité. Autour de ces deux questions, se pose aussi celle de la planification d'expériences : quelles simulations choisir pour améliorer la précision des lois prédictives ? Les approches usuelles se concentrent généralement sur l'estimation de quantité d'intérêt (pour l'optimisation, le dépassement d'un seuil…) mais étudient peu l'incertitude résultant de la sélection des paramètres du processus.  Le travail envisagé dans cette thèse vise à fournir des outils de prédiction par processus gaussiens avec de meilleures garanties sur les performances de prédiction, en vue de l'intégration de ces outils dans les chaînes de calcul de Transvalor S.A.. 

Despite the popularity of the Bayesian approach using Gaussian processes and the numerous works on this subject, certain questions, however important, remain relatively unexplored. These include the problem of calibration of predictive laws and model aggregation. To build a metamodel, the usual approach consists in selecting the vector of parameters of a parameterized process by maximum likelihood. The work of T. Karvonen over the last two years gives important information from a theoretical point of view on the performance of maximum likelihood. In addition, in a recent study, Petit et al, 2022 show empirically that maximum likelihood estimation can satisfactorily select the parameters of a model, as well as the model itself, with respect to several validation criteria derived from classical scoring rules (Murphy & Winkler 1970, Gneiting & Raftery, 2007). However, the following three questions remain open to our knowledge: 1. Does the maximum likelihood estimator provide well calibrated distributions? 2. Is it relevant and possible to design goal-oriented calibration procedures, in particular in order to obtain a better calibration in regions of interest, even if it means degrading the modeling elsewhere? 3. Can the combination/aggregation of models lead to better models? In the context of multi-fidelity, questions 1 and 2 above make sense. It is indeed important to quantify the prediction error by Gaussian process in the most accurate way possible, especially in the regions corresponding to high fidelity. Moreover, in this context, it is acceptable to degrade the performance of predictions in the low fidelity regions if it allows to improve the prediction performance in high fidelity. Around these two questions, there is also the question of the design of experiments: which simulations should be chosen to improve the accuracy of prediction distributions? The usual approaches generally focus on the estimation of quantities of interest (for optimization, exceeding a threshold...) but do not study the uncertainty resulting from the selection of the process parameters. The work in this thesis aims at providing tools for prediction by Gaussian processes with better guarantees on the prediction performances, in view of the integration of these tools in the calculation chains of Transvalor S.A..