Nouvelles inégalités de concentrations pour les martingales, applications aux statistiques et à l'apprentissage automatique

New insights on concentrations inequalities for martingales applications to statistics and machine learning

• Auteur / Autrice : Taieb Touati
• Direction : Michel Broniatowski
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques
• Date : Soutenance le 22/02/2021
• Etablissement(s) : Sorbonne université
• Ecole(s) doctorale(s) : École doctorale Sciences mathématiques de Paris centre (Paris ; 2000-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire de probabilités, statistique et modélisation (Paris ; 2018-....)
• Jury : Président / Présidente : Gérard Biau
• Jury : Examinateurs / Examinatrices : Vianney Perchet, Alexandra Carpentier, Bernard Bercu
• Jury : Rapporteurs / Rapporteuses : Victor H. De la Peña, Marianne Clausel

Mots clés

Mots clés contrôlés

Apprentissage automatique

Inégalités (mathématiques)

Martingales (mathématiques)

Mots clés libres

Inégalités de concentrations

Martingales

Statistiques

Apprentissage automatique séquentiel

Bornes de risque

Concentrations inequalities

Martingales

Online machine learning

Résumé

Au cours des deux dernières décennies, le domaine des inégalités de concentration a connu un essor important aussi bien en probabilités que pour les domaines applicatifs. Cette thèse apporte en premier lieu une mise en perspective exhaustive de la littérature sous-jacente au domaine. Les deux principales contributions scientifiques s'articulent autour de nouvelles inégalités de concentrations pour les martingales auto-normalisées avec des applications en statistiques d'une part, d'autre part un perfectionnement significatif des bornes de risques pour des algorithmes d'apprentissage séquentiel. En outre, nous connectons grâce à cette thèse deux domaines jusque-là assez éloignés, à savoir les nouvelles inégalités de concentrations pour les martingales, les améliorations des inégalités de type Bernstein avec le domaine de l'apprentissage automatique séquentiel.

The field of concentration inequalities has gained a significant traction over the last two decades, from contributing to the resolution of complex applied problems to enhancing the theoretical framework of probability.The thesis provides a thorough and exhaustive overview of the relevant scientific literature. The two main components of this scientific contribution are focused on developing new concentration inequalities for self-normalised martingales with applications to statistics, as well as a drastic improvement to the risk tail bounds of online machine learning algorithms.This work succeeded to connect two fields that have been relatively distinct. The findings bridge the gap between the field of online machine learning and the new concentration inequalities for both martingales and the improvements of the Bernstein type inequalities for random variables.