Quelques contributions aux méthodes de Monte Carlo en statistique.

Some contributions to Monte Carlo methods in Statistics

• Auteur / Autrice : Charly Andral
• Direction : Christian Robert, Randal Douc
• Type : Projet de thèse
• Discipline(s) : Sciences
• Date : Inscription en doctorat le 01/10/2020
• Etablissement(s) : Université Paris sciences et lettres
• Ecole(s) doctorale(s) : SDOSE Sciences de la Décision, des Organisations, de la Société et de l'Echange
• Partenaire(s) de recherche : Laboratoire : Centre de Recherche en Mathématiques de la Décision
• Partenaire(s) de recherche : établissement opérateur d'inscription : UNIVERSITE PARIS DAUPHINE - PSL

Mots clés

Mots clés libres

Monte-Carlo

Quasi-Monte-Carlo

Monte Carlo par chaines de Markov

Statistiques computationnelles

Processus de Markov déterministes par morceaux

Flots normalisants

Monte Carlo

Quasi-Monte Carlo

Markov Chain Monte Carlo

Computational Statistics

Piecewise deterministic Markov processes

Normalizing flows

Résumé

Les méthodes de Monte Carlo sont largement utilisées en statistique pour estimer des quantités qui ne peuvent pas être calculées analytiquement. Dans cette thèse, nous étudions diverses approches pour améliorer l'efficacité des méthodes de Monte Carlo et établir des liens entre différentes techniques. Dans la première partie, nous relions les méthodes de Monte Carlo par chaînes de Markov avec l'échantillonnage par rejet et l'échantillonnage préférentiel pour proposer un nouvel algorithme, l'Importance Markov Chain. Pour cet algorithme, nous fournissons une analyse théorique de ses propriétés de convergence en établissant une loi des grands nombres, un théorème central limite et un résultat d'ergodicité géométrique. Nous présentons également une étude numérique pour illustrer la performance de l'Importance Markov Chain. Dans la deuxième partie, nous combinons les flots normalisants avec les méthodes de quasi-Monte Carlo randomisées pour améliorer le taux de convergence de l'estimateur. Nous testons notre méthode sur quelques exemples et montrons qu'elle peut surpasser les méthodes de Monte Carlo standard sur des problèmes de faible dimension. Cependant, la performance de la méthode diminue lorsque la dimension du problème augmente. Dans la troisième et dernière partie, nous couvrons une autre classe de méthodes de Monte Carlo, les processus de Markov déterministes par morceaux. Nous proposons un nouvel algorithme pour échantillonner à partir de ces processus et fournissons une preuve théorique de la validité de la méthode. Nous fournissons plusieurs expériences numériques pour illustrer la performance de l'algorithme. Il surpasse les autres algorithmes d'échantillonnage PMDP en termes de coût computationnel et de robustesse lorsque le potentiel n'est pas convexe.

Monte Carlo methods are extensively utilized in statistics for estimating quantities that cannot be analytically. In this thesis, we investigate various approaches to enhance the efficiency of Monte Carlo methods and establish connections between different techniques. In the first part, we connect Markov chain Monte Carlo methods with rejection sampling and important sampling to propose a new algorithm, the Importance Markov Chain. For this algorithm, we provide a theoretical analysis of its convergence properties by establishing a law of large numbers, a central limit theorem and a geometric ergodicity result. We also provide a numerical study to illustrate the performance of the Importance Markov Chain. In the second part, we combine normalizing flows with randomized quasi-Monte Carlo methods to improve the convergence rate of the estimator. We test our method on some examples and show that it can outperform standard Monte Carlo methods on low dimensional problems. However, the performance of the method decays when the dimension of the problem increases. In the third and final part, we cover another class of Monte Carlo methods, the piecewise deterministic Markov processes. We propose a new algorithm to sample from these processes and provide a theoretical proof of the correctness of the method. We provide several numerical experiments to illustrate the performance of the algorithm. It outperforms other PMDPs sampling algorithms in terms of computational cost and robustness when the potential is not convex.