Fonctions de perte pour la classification à valeurs d'ensembles

Loss functions for set-valued classification

• Auteur / Autrice : Camille Garcin
• Direction : Joseph Salmon, Alexis Joly
• Type : Thèse de doctorat
• Discipline(s) : Biostatistique
• Date : Soutenance le 29/09/2023
• Etablissement(s) : Université de Montpellier (2022-....)
• Ecole(s) doctorale(s) : École doctorale Information, Structures, Systèmes (Montpellier ; 2015-....)
• Partenaire(s) de recherche : Laboratoire : Institut Montpelliérain Alexander Grothendieck (Montpellier ; 2003-....)
• Jury : Président / Présidente : Sandra Bringay
• Jury : Examinateurs / Examinatrices : Joseph Salmon, Alexis Joly, Mathilde Mougeot, Stéphane Chrétien, Maximilien Servajean, Guillaume Charpiat, Mohamed Hebiri
• Jury : Rapporteur / Rapporteuse : Mathilde Mougeot, Stéphane Chrétien

Mots clés

Mots clés contrôlés

Traitement automatique du langage naturel

Apprentissage automatique

Apprentissage profond

Mots clés libres

Apprentissage profond

Apprentissage statistique

Classification d'images

Classificateurs à valeurs d'ensembles

Fonctions de perte

Deep learning

Statistical learning

Image classification

Set-Valued classification

Loss functions

Résumé

La dernière décennie a été marquée par l'émergence et l'essor des techniques d'apprentissage profond, conduisant à d'énormes progrès dans la vision artificielle, le traitement du langage naturel et la reconnaissance vocale.Ces avancées sont dues aux améliorations matérielles et aux nouvelles architectures, notamment les réseaux neuronaux convolutifs et les transformers, utilisées dans des applications populaires telles que Siri, Deepl, et ChatGPT.Un défi majeur du domaine de la vision artificielle a été ImageNet, une base de données d'un million d'images réparties en 1 000 classes, utilisée comme référence pour mesurer les performances des modèles.Les premiers résultats affichaient une erreur top-1 de 37,5%, tandis que les meilleurs modèles atteignent maintenant 9% d'erreur top-1.Cependant, ImageNet diffère des situations réelles car elle présente des classes artificiellement équilibrées et peu de similarités entre elles.Pour relever des défis plus réalistes, il est essentiel de se concentrer sur des tâches de catégorisation visuelle à grain fin, impliquant des classes similaires et des distributions déséquilibrées avec des classes rares.Pour ce faire, dans cette thèse nous prendrons pour cas d'étude Pl@ntNet, une application écologique basée sur l'apprentissage coopératif, qui permet aux utilisateurs d'identifier les plantes à partir d'images.Dans un tel contexte d'ambiguïté, les classificateurs multi-classes traditionnels qui ne renvoient qu'une seule proposition de classe ne suffisent pas.C'est pourquoi dans ce manuscrit nous étudierons les classificateurs à valeurs d'ensembles, qui retournent pour chaque image un ensemble de classes possibles.Les classificateurs à valeurs d'ensembles sont utiles s'ils renvoient un nombre restreint de classes pour chaque image.Ainsi, il existe plusieurs contraintes sur la taille des ensembles retournés.Dans cette thèse, nous étudions deux types de contraintes: une contrainte de taille ponctuelle, où le classificateur renvoie exactement K classes candidates pour chaque exemple (classification top-K), et une contrainte sur la taille moyenne des ensembles retournés (classification average-K).Afin d'optimiser ces classificateurs à valeurs d'ensembles, nous introduisons de nouvelles fonctions de perte pour améliorer les performances des modèles d'apprentissage profond, une pour chaque type de contrainte.La fonction de perte pour la classification top-K se base sur une fonction de perte charnière combinée à un lissage de la fonction top-K.Pour la classification average-K, nous proposons un modèle à deux têtes, où une tête est chargée d'identifier des classes candidates pour un example donné, et l'autre tête optimise ces suggestions avec une entropie croisée binaire.Les expériences sont menées sur un jeu de données crée à partir des données de Pl@ntNet, Pl@ntNet-300K, constitué de 306 146 images de plantes avec une forte déséquilibre de classes et des ambiguïtés visuelles importantes.Les résultats montrent que les nouvelles fonctions de perte améliorent significativement les performances par rapport à l'entropie croisée, en particulier dans les situations où l'incertitude est élevée.

The last decade has seen the emergence and growth of deep learning techniques, leading to huge advances in computer vision, natural language processing and speech recognition.These advances are due to hardware improvements and new architectures, notably convolutional neural networks and transformers, used in popular applications such as Siri, Deepl, and ChatGPT.A major challenge in the field of computer vision was ImageNet, a database of one million images divided into 1,000 classes, used as a benchmark to measure model performance.Initial results showed a top-1 error of 37.5%, while the best models now achieve a top-1 error of 9%.However, ImageNet differs from real-life situations in that it features artificially balanced classes and few similarities between them.To address more realistic challenges, it is essential to focus on fine-grained visual categorization tasks, involving similar classes and unbalanced distributions.To this end, in this thesis we will take as a case study Pl@ntNet, an ecological application based on cooperative learning, which enables users to identify plants from images.In such a context of ambiguity, traditional multi-class classifiers, which only return a single proposition, are unable to cope.This is why, in this manuscript, we will study set-valued classifiers, which return a set of possible classes for each image.Set-valued classifiers are useful if they return a restricted number of classes for each image.Thus, there are several constraints on the size of the returned sets.In this thesis, we study two types of constraints: a pointwise constraint, where the classifier returns exactly K candidate classes for each example (top-K classification), and a constraint on the average size of the returned sets (average-K classification).To optimize these set-valued classifiers, we introduce new loss functions to improve the performance of deep learning models, one for each type of constraint.The loss function for top-K classification is based on a hinge loss function combined with a smoothing of the top-K function.For average-K classification, we propose a two-headed model, where one head is responsible for identifying candidate classes for a given example, and the other head optimizes these suggestions with binary cross-entropy.Experiments are carried out on a dataset created from Pl@ntNet data, Pl@ntNet-300K, consisting of 306,146 plant images with high class imbalance and visual ambiguities.The results show that the new loss functions significantly improve performance over cross-entropy, particularly in situations of high uncertainty.