Inégalités d'oracle exactes pour l'agrégation et la régression sous contrainte de forme

Sharp oracle inequalities in aggregation and shape restricted regression

• Auteur / Autrice : Pierre C. Bellec
• Direction : Alexandre B. Tsybakov
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques fondamentales
• Date : Soutenance le 28/06/2016
• Etablissement(s) : Université Paris-Saclay (ComUE)
• Ecole(s) doctorale(s) : École doctorale de mathématiques Hadamard (Orsay, Essonne ; 2015-....)
• Partenaire(s) de recherche : Laboratoire : Centre de Recherche en Economie et Statistique (Palaiseau ; 1993-....)
• Partenaire(s) de recherche : : École nationale de la statistique et de l'administration économique (Palaiseau ; 1960-....)
• Jury : Président / Présidente : Arnak S. Dalalyan
• Jury : Examinateurs / Examinatrices : Alexandre B. Tsybakov, Arnak S. Dalalyan, Richard Nickl, Philippe Rigollet, Vladimir Koltchinskii
• Jury : Rapporteurs / Rapporteuses : Richard Nickl, Bodhisattva Sen

Mots clés

Mots clés contrôlés

Modèles linéaires (statistique)

Analyse de régression

Statistique non paramétrique

Mots clés libres

Estimation de densité

Non-Paramétrique

Agrégation

Optimalité minimax

Density estimation

Non parametric

Aggregation

Minimax optimality

Résumé

Deux sujet sont traités dans cette thèse: l'agrégation d'estimateurs et la régression sous contrainte de formes.La régression sous contrainte de forme étudie le problème de régression (trouver la fonction qui représente un nuage de points),avec la contrainte que la fonction en question possède une forme spécifique.Par exemple, cette fonction peut être croissante ou convexe: ces deux contraintes de forme sont les plus étudiées. Nous étudions en particulier deux estimateurs: un estimateur basé sur des méthodes d'agrégation et l'estimateur des moindres carrés avec une contrainte de forme convexe. Des inégalités d'oracle sont obtenues, et nous construisons aussi des intervalles de confiance honnêtes et adaptatifs.L'agrégation d'estimateurs est le problème suivant. Lorsque plusieurs méthodes sont proposées pour le même problème statistique, comment construire une nouvelle méthode qui soit aussi performante que la meilleure parmi les méthodes proposées? Nous étudierons ce problème dans trois contextes: l'agrégation d'estimateurs de densité, l'agrégation d'estimateurs affines et l'aggrégation sur le chemin de régularisation du Lasso.

This PhD thesis studies two fields of Statistics: Aggregation of estimatorsand shape constrained regression.Shape constrained regression studies the regression problem (find a function that approximates well a set of points) with an underlying shape constraint, that is, the function must have a specific ''shape''. For instance, this function could be nondecreasing of convex: These two shape examples are the most studied. We study two estimators: an estimator based on aggregation methods and the Least Squares estimator with a convex shape constraint. Oracle inequalities are obtained for both estimators, and we construct confidence sets that are adaptive and honest.Aggregation of estimators studies the following problem. If several methods are proposed for the same task, how to construct a new method that mimics the best method among the proposed methods? We will study these problems in three settings: aggregation of density estimators, aggregation of affine estimators and aggregation on the regularization path of the Lasso.