Apprentissage continu classe par classe pour les réseaux de neurones profonds

Class Incremental Continual Learning in Deep Neural Networks

• Auteur / Autrice : Guillaume Hocquet
• Direction : Damien Querlioz
• Type : Thèse de doctorat
• Discipline(s) : Electronique et Optoélectronique, Nano- et Microtechnologies
• Date : Soutenance le 30/06/2021
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale Electrical, optical, bio-physics and engineering
• Partenaire(s) de recherche : Laboratoire : Centre de nanosciences et de nanotechnologies (Palaiseau, Essonne ; 2016-....)
• Partenaire(s) de recherche : référent : Faculté des sciences d'Orsay
• Jury : Président / Présidente : Jacques-Olivier Klein
• Jury : Examinateurs / Examinatrices : Martial Mermillod, Vincent Gripon, Pierre Bessière, Claudia Teodora Petrisor
• Jury : Rapporteurs / Rapporteuses : Martial Mermillod, Vincent Gripon

Mots clés

Mots clés contrôlés

Oubli catastrophique (informatique)

Réseaux neuronaux (informatique)

Algorithmes en ligne

Vision artificielle (robotique)

Apprentissage supervisé (intelligence artificielle)

Apprentissage profond

Mots clés libres

Apprentissage continu

Réseaux de neurones profonds

Oubli catastrophique

Vision artificielle

Réseaux inversibles

Continual Learning

Deep Neural Networks

Catastrophic forgetting

Computer vision

Invertible Neural Networks

Résumé

Nous nous intéressons au problème de l'apprentissage continu de réseaux de neurones artificiels dans le cas où les données ne sont accessibles que pour une seule catégorie à la fois. Pour remédier au problème de l'oubli catastrophique qui limite les performances d'apprentissage dans ces conditions, nous proposons une approche basée sur la représentation des données d'une catégorie par une loi normale. Les transformations associées à ces représentations sont effectuées à l'aide de réseaux inversibles, qui peuvent alors être entraînés avec les données d'une seule catégorie. Chaque catégorie se voit attribuer un réseau pour représenter ses caractéristiques. Prédire la catégorie revient alors à identifier le réseau le plus représentatif. L'avantage d'une telle approche est qu'une fois qu'un réseau est entraîné, il n'est plus nécessaire de le mettre à jour par la suite, chaque réseau étant indépendant des autres. C'est cette propriété particulièrement avantageuse qui démarque notre méthode des précédents travaux dans ce domaine. Nous appuyons notre démonstration sur des expériences réalisées sur divers jeux de données et montrons que notre approche fonctionne favorablement comparé à l'état de l'art. Dans un second temps, nous proposons d'optimiser notre approche en réduisant son impact en mémoire en factorisant les paramètres des réseaux. Il est alors possible de réduire significativement le coût de stockage de ces réseaux avec une perte de performances limitée. Enfin, nous étudions également des stratégies pour produire des réseaux capables d'être réutilisés sur le long terme et nous montrons leur pertinence par rapport aux réseaux traditionnellement utilisés pour l'apprentissage continu.

We are interested in the problem of continual learning of artificial neural networks in the case where the data are available for only one class at a time. To address the problem of catastrophic forgetting that restrain the learning performances in these conditions, we propose an approach based on the representation of the data of a class by a normal distribution. The transformations associated with these representations are performed using invertible neural networks, which can be trained with the data of a single class. Each class is assigned a network that will model its features. In this setting, predicting the class of a sample corresponds to identifying the network that best fit the sample. The advantage of such an approach is that once a network is trained, it is no longer necessary to update it later, as each network is independent of the others. It is this particularly advantageous property that sets our method apart from previous work in this area. We support our demonstration with experiments performed on various datasets and show that our approach performs favorably compared to the state of the art. Subsequently, we propose to optimize our approach by reducing its impact on memory by factoring the network parameters. It is then possible to significantly reduce the storage cost of these networks with a limited performance loss. Finally, we also study strategies to produce efficient feature extractor models for continual learning and we show their relevance compared to the networks traditionally used for continual learning.