Pénalités minimales pour la sélection de modèle

Minimal penalties for model selection

• Auteur / Autrice : Olivier Sorba
• Direction : Pascal Massart, Gilles Celeux
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques appliquées
• Date : Soutenance le 09/02/2017
• Etablissement(s) : Université Paris-Saclay (ComUE)
• Ecole(s) doctorale(s) : École doctorale de mathématiques Hadamard (Orsay, Essonne ; 2015-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire de mathématiques d'Orsay (1998-....)
• Partenaire(s) de recherche : établissement opérateur d'inscription : Université Paris-Sud (1970-2019)
• Jury : Président / Présidente : Céline Lévy-Leduc
• Jury : Examinateurs / Examinatrices : Pascal Massart, Gilles Celeux, Céline Lévy-Leduc, Fabrice Gamboa, Gérard Biau
• Jury : Rapporteurs / Rapporteuses : Fabrice Gamboa, Patricia Reynaud-Bouret

Mots clés

Mots clés contrôlés

Variables aléatoires

Estimation, Théorie de l'

Rupture (statistique)

Statistique non paramétrique

Mots clés libres

Contraste pénalisé

Segmentation de signal gaussien

Détection de ruptures multiples

CART

Moindres carrés pénalisés

Estimation de densité

Arbres de régression

Penalized contrast

Gaussian signal segmentation

Multiple changepoints detection

CART

Penalized least-squares

Density estimation

Regression trees

Résumé

Dans le cadre de la sélection de modèle par contraste pénalisé, L. Birgé and P. Massart ont prouvé que le phénomène de pénalité minimale se produit pour la sélection libre parmi des variables gaussiennes indépendantes. Nous étendons certains de leurs résultats à la partition d'un signal gaussien lorsque la famille de partitions envisagées est suffisamment riche, notamment dans le cas des arbres de régression. Nous montrons que le même phénomène se produit dans le cadre de l'estimation de densité. La richesse de la famille de modèle s'apparente à une forme d'isotropie. De ce point de vue le phénomène de pénalité minimale est intrinsèque. Pour corroborer et illustrer ce point de vue, nous montrons que le même phénomène se produit pour une famille de modèles d'orientation aléatoire uniforme.

L. Birgé and P. Massart proved that the minimum penalty phenomenon occurs in Gaussian model selection when the model family arises from complete variable selection among independent variables. We extend some of their results to discrete Gaussian signal segmentation when the model family corresponds to a sufficiently rich family of partitions of the signal's support. This is the case of regression trees. We show that the same phenomenon occurs in the context of density estimation. The richness of the model family can be related to a certain form of isotropy. In this respect the minimum penalty phenomenon is intrinsic. To corroborate this point of view, we show that the minimum penalty phenomenon occurs when the models are chosen randomly under an isotropic law.