Some problems about learning theory and applications

• Auteur / Autrice : Elodie Nédélec
• Direction : Pascal Massart
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques
• Date : Soutenance en 2004
• Etablissement(s) : Paris 11
• Partenaire(s) de recherche : autre partenaire : Université de Paris-Sud. Faculté des sciences d'Orsay (Essonne)

Mots clés

Mots clés libres

Sélection de modèles

Segmentation

Moindres carrés

Cart

Résumé

Cette thèse aborde trois sujets statistiques faisant l'objet des chapitres 2,3 et 4 pouvant s'inscrire dans un modèle général d'apprentissage. On observe un n échantillon d'un couple (X,Y) vérifiant la relation Y=s(X)+e où e est conditionellement centré par rapport à X. Notre but est d'estimer s* une fonctionnelle de la fonction de régression s en faisant un minimum d'hypothèses sur s. On utilise pour cela une procédure de minimum de contraste. On note F l'espace des fonctions auquel s* appartient. On considère une collection de modèles et un contraste empirique g sur F. On etudie les estimateurs du minimum de contraste sur chaque modèle. Pour évaluer leurs performances, on définit sur F une fonction de perte l(u,v) pour tout u,v dans F à l'aide du contraste g. Puis on s'interesse au risque des estimateurs défini comme la perte moyenne entre l'estimateur et s*. Plus faible sera le risque meilleure sera l'estimation. Dans cette thèse nous mènerons pour différents exemples s'inscrivant dans un cadre d'apprentissage l'étude du risque sur un modèle et l'étude de la sélection de modèles.

This thesis deals with three problems in learning theory. We observe a sample of (X,Y) satisfying the relation Y=s(X)+e where e is centered conditionnaly to X. Our aim is to estimate s* a function of the regression function s with few assumptions on s. We use a minimum contrast procedure. We note F a set of function such that s belongs to F. We consider a collection of models and an empirical contrast g on F. We study the minimum contrast estimator on a fixed model. We define a loss function l(u,v) for all u,v in F in order to evaluate the quality of the minimum contrast estimators. And then we are interested by the risk of the estimators defined as the expectation of the loss function between s* and the estimators. We look for estimators with a low risk. In this thesis we study for different examples in learning theory tthe risk on one model and the model selection procedure.