Réduction de jeux de données pour l'apprentissage statistique large échelle

Dataset reduction for large scale statistical learning

• Auteur / Autrice : Eyal Vayness
• Direction : Etienne Roquain, Olivier Fercoq
• Type : Projet de thèse
• Discipline(s) : Mathématiques
• Date : Inscription en doctorat le 01/11/2024
• Etablissement(s) : Sorbonne université
• Ecole(s) doctorale(s) : École doctorale Sciences mathématiques de Paris centre
• Partenaire(s) de recherche : Laboratoire : Laboratoire de Probabilités, Statistique et Modélisation

Mots clés

Mots clés libres

Apprentissage statistique

Réduction

Sous-échantillonnage

Distribution asymptotique

Données massives

Statistical Learning

Reduction

Sub-sampling

Asymptotic distribution

Massive data

Résumé

L'explosion de la quantité de données disponibles dans de nombreux domaines tels que la recherche médicale et la physique enjoint à repenser les méthodes d'apprentissage statistique traditionnel. Ceci est justifié d'une part par la limitation des capacités de calcul disponibles dans les instituts de recherche, d'autre part par les enjeux environnementaux et éthiques liés à l'utilisation de données massives. Dans ce cadre, le présent projet de recherche vise à étudier des méthodes de réduction de jeux de données, en particulier de sous-échantillonnage non-uniforme, garantissant l'optimalité (au sens d'un critère bien choisi) de l'estimateur construit. Le travail consistera à faire progresser l'état de l'art dans ce domaine en portant par exemple sur l'étude des méthodes de sous-échantillonnage asymptotique pour les prédicteurs non-linéaires à noyau et pour l'apprentissage non-supervisée, l'intégration de contraintes d'équité aux méthodes de sous-échantillonnage, l'analyse non-asymptotique du problème d'optimisation dual fondé sur la technique de variable screening et la détermination d'un schéma de sous-échantillonnage optimal au sens de la prédiction conformelle.

The massive growth in the amount of data available in many fields, such as medical research and physics, forces a rethinking of traditional statistical learning methods. This is justified, on the one hand, by the limited computing capacity available in research institutes, and, on the other hand, by the environmental and ethical issues associated with the use of massive data. In this context, the present research project aims to study methods for reducing datasets, in particular non-uniform sub-sampling, guaranteeing the optimality (in the sense of a well-chosen criterion) of the constructed estimator. The work will involve improving the state of the art in this field by, for example, investigating asymptotic sub-sampling methods for kernel-based nonlinear predictors and for unsupervised learning, incorporating fairness constraints into sub-sampling methods, non-asymptotic analysis of the dual optimization problem based on the variable screening technique, and determining an optimal sub-sampling scheme in the sense of conformal prediction.