Machine Learning, assimilation de données et systèmes dynamiques

Machine learning, data assimilation and dynamical systems

• Auteur / Autrice : Quentin Malartic
• Direction : Marc Bocquet, Fabio D'Andrea
• Type : Thèse de doctorat
• Discipline(s) : Physique
• Date : Soutenance le 13/05/2024
• Etablissement(s) : Marne-la-vallée, ENPC
• Ecole(s) doctorale(s) : École doctorale Sciences, Ingénierie et Environnement (Champs-sur-Marne, Seine-et-Marne ; 2010-....)
• Partenaire(s) de recherche : Laboratoire : Centre d'enseignement et de recherche en mathématiques et calcul scientifique (Champs-sur-Marne, Seine-et-Marne)
• Jury : Président / Présidente : Julien Le Sommer
• Jury : Examinateurs / Examinatrices : Marc Bocquet, Fabio D'Andrea, Tijana Janjic-Pfander, Ronan Fablet, Rossella Arcucci, Julien Brajard
• Jury : Rapporteurs / Rapporteuses : Tijana Janjic-Pfander

Mots clés

Mots clés contrôlés

Météorologie

Systèmes dynamiques

Assimilation de données (géophysique)

Mots clés libres

Assimilation de données

Machine learning

Systèmes dynamiques

Data assimilation

Machine learning

Dynamical systems

Résumé

La dynamique chaotique et les observations creuses et bruitées des systèmes géophysiques, en particulier dans les domaines de la météorologie, de la science du climat et de l'océanographie, exigent des méthodologies sophistiquées pour une estimation précise de l'état ou des paramètres. Cette thèse explore, à la fois théoriquement et expérimentalement, la synergie entre les techniques traditionnelles d'assimilation de données et l'essor récent de l'apprentissage automatique. Je me concentre spécifiquement sur l'estimation conjointe des variables d'état et des paramètres, et sur l'entraînement de modèles ML destinés à être utilisés ultérieurement dans des configurations d'assimilation de données. Ces modèles d'apprentissage automatique, qui ne sont pas entièrement physiques et, dans certains cas, entièrement statistiques, sont appelés modèles de substitution. La pertinence d'un tel modèle peut résider soit dans sa précision améliorée, soit dans son efficacité de calcul, par exemple s'il peut atteindre une performance similaire à un coût de calcul réduit. Dans la recherche d'estimations et de prévisions plus précises, nécessitant de meilleurs modèles de substitution, ainsi que des modèles de substitution moins coûteux en termes de calcul, le développement de méthodologies combinant apprentissage automatique et assimilation de données devient crucial. La flexibilité des techniques d'apprentissage automatique, allant des méthodes statistiques conventionnelles aux architectures avancées d'apprentissage profond, en synergie avec les méthodes bien établies d'assimilation de données, forment une boîte à outils puissante pour améliorer de manière significative la qualité de prédictions dans le contexte de données d'observation creuses et bruitées d'un système dynamique chaotique. Les systèmes géophysiques typiques tels que l'océan et l'atmosphère sont régis par des équations locales, où l'évolution temporelle du système en un point donné de l'espace ne dépend que de son état voisin. Les méthodes présentées, tant pour l'assimilation de donnée que pour l'apprentissage automatique, ne prennent pas seulement en compte cette particularité, mais sont conçues autour d'elle, dans le but de produire de meilleurs modèles, de faire des prédictions et des estimations plus précises, ainsi que d'en tirer un avantage en termes de complexité algorithmique. D'une part, la combinaison de l'assimilation de donnée et de l'apprentissage automatique sera étudiée dans le contexte de l'estimation conjointe, où le modèle statistique et l'état du système dynamique sont estimés et mis à jour au fur et à mesure de l'acquisition de nouvelles données d'observation. Les algorithmes développés seront largement testés dans des configurations expérimentales fictives. Néanmoins, les méthodes et les dispositifs expérimentaux mis au point seront axés sur les applications de prévision météorologique numérique et seront conçus de manière à être applicables dans ce contexte et à cette échelle. D'autre part, l'entraînement des modèles statistiques sur des données d'observation passées sera étudié, et leur performance sera évaluée à la fois en termes de prévisions futures, et dans le contexte d'expériences d'assimilation de données classiques. Dans ce cas, l'expérimentation sera faite en utilisant un modèle Quasi Géostrophique, suivant l'implémentation de Marshall et Molteni (1993), modèle représentant la dynamique atmosphérique à grande échelle, étant particulièrement pertinent dans le contexte de l'hiver boréal dans les latitudes moyennes D'Andrea et Vautard (2001).

The chaotic dynamics and the sparse and noisy observations of geophysical systems, particularly in the domains of meteorology, climate science, and oceanography, demand sophisticated methodologies for accurate state or parameter estimation. This thesis explores, both theoretically and experimentally, the synergy between traditional Data Assimilation (DA) techniques and the recent surge in Machine Learning (ML). My focus is specifically on the joint estimation of both state variables and parameters, and on the training of ML models aimed to be later used in DA setups.Such ML models, that are non entirely physical, and in some cases even fully statistical, are referred to as surrogate models. The relevancy of such a model can lie either in its improved accuracy, or in its computational efficiency, for example if it can achieve a similar accuracy at a reduced computational cost.In the pursuit of more accurate state estimations and forecasts, requiring better surrogate models, as well as computationally cheaper surrogate models, the development of methodologies combining ML and DA becomes crucial. The flexibility of ML techniques, ranging from conventional statistical methods to advanced deep learning architectures, in synergy with the well established methods of DA, form a powerful toolkit to significantly enhance prediction quality in the context of sparse and noisy observational data of chaotic dynamics.Typical geophysical systems like the ocean and the atmosphere are governed by local equations, where the temporal evolution of the system at a given point in space only depends on its neighboring state. The presented methods, both for DA and ML, not only take into account this particularity, but are crafted around it, with the aim of producing better models, making more accurate predictions and estimations, as well as getting an algorithmic complexity advantage from it.On the one hand, the combination of DA and ML will be studied in the context of joint estimation, where both the ML model and the dynamical system state are estimated, and updated, in an online fashion, as new observational data is acquired. The developed algorithms will be tested extensively in toy, fictive experimental setups. Nevertheless, the methods and experimental setups developed will be focused on numerical weather prediction (NWP) applications, and will be designed in a way that makes them scalable in this context.On the other hand, the training of ML models on past observational data will be studied, and their performance will be evaluated both in term of future forecasts, and in the context of classical DA experiments. In this case, the experimentation will be done using a Quasi Geostrophic model, following the implementation of Marshall and Molteni (1993), model representing the large scale atmospheric dynamics, being relevant especially in the context of boreal winter in the mid-latitudes D'Andrea and Vautard (2001).