Apprentissage profond pour l'estimation de paramètres en présence d'incertitude

Robust Approaches to Inverse Problems with Deep Learning

• Auteur / Autrice : Exaucé Luweh adjim ngarti
• Direction : Arthur Vidard
• Type : Projet de thèse
• Discipline(s) : Mathématiques Appliquées
• Date : Inscription en doctorat le 01/03/2023
• Etablissement(s) : Université Grenoble Alpes
• Ecole(s) doctorale(s) : École doctorale mathématiques, sciences et technologies de l'information, informatique
• Partenaire(s) de recherche : Laboratoire : Laboratoire Jean Kuntzmann
• Partenaire(s) de recherche : Equipe de recherche : MOISE

Mots clés

Mots clés libres

Apprentissage profond

Problèmes inverses

Calibration de modèle

Robustesse

Inférence Bayésienne

Modélisation de l'océan

Deep learning

Inverse problem

Model calibration

Robustness

Bayesian inference

Ocean modeling

Résumé

Dans de nombreuses chaînes de simulation en science et en ingénierie, les solveurs et les moteurs d'inférence à base de réseaux de neurones sont confrontés à plusieurs sources d'incertitude. Une partie de cette incertitude est intrinsèque au phénomène physique modélisé, tandis que le reste est dû à notre manque de connaissances. Les paramètres du modèle agissent comme des causes latentes des observations finales et peuvent être décrits à l'aide de leur fonction de densité probabiliste, ce qui constitue une manière élégante de traiter l'incertitude aléatoire. La formulation bayésienne fournit un cadre pour l'estimation de ces distributions postérieures sur les causes latentes, mais le problème qui en résulte est souvent difficile à résoudre pour des cas d'utilisation réalistes et non linéaires. Nous envisageons d'exploiter la modélisation générative pour résoudre ce problème. La modélisation générative propose d'estimer directement la distribution de probabilité conjointe du modèle avec une variété de méthodes, y compris les autoencodeurs variationnels, les modèles basés sur le flux et les modèles de diffusion. Ce dernier fournit une formulation traçable basée sur la vraisemblance tout en maintenant des capacités de généralisation flexibles. La modélisation générative souffre généralement de deux objectifs contradictoires : les modèles doivent être suffisamment flexibles pour capturer la variabilité des données, et rester traitable pour des distributions hautement non linéaires et multimodales. Nous pensons que cette approche est prometteuse dans notre cadre d'application.

In many simulation pipelines in science and engineering, solvers and neural-based inference engines are dealing with several sources of uncertainty. Part of this uncertainty is intrinsic of the modeled physical phenomenon while the rest is due to our lack of knowledge. The model's parameters act as latent causes for the final observations, and can be described with the help of their probabilistic density function, as an elegant way to handle random uncertainty. The Bayesian formulation provides a framework for estimating these posterior distributions on the latent causes but the resulting problem is often intractable for realistic and nonlinear use-cases. We plan to exploit generative modeling to cope with this issue. Generative modeling proposes to directly estimate the joint probability distribution of the model with a variety of methods, including variational autoencoders , flow-based models and diffusion models. The latter provides a tractable likelihood-based formulation while maintaining flexible generalization capabilities. Generative modeling usually suffers from two conflicting objectives: the models should be flexible enough to capture the variability of the data; and remains tractable for highly nonlinear and multimodal distributions. We think that this approach is promising in our application framework.