Tampons de Répétition Distribués pour passer l’Apprentissage Continu à l’Échelle

Distributed Rehearsal Buffers for Continual Learning at Scale

• Auteur / Autrice : Thomas Bouvier
• Direction : Alexandru Costan, Gabriel Antoniu
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 04/11/2024
• Etablissement(s) : Rennes, INSA
• Ecole(s) doctorale(s) : École doctorale Mathématiques, télécommunications, informatique, signal, systèmes, électronique (Rennes ; 2022-....)
• Partenaire(s) de recherche : Laboratoire : Institut national de recherche en informatique et en automatique (France). Unité de recherche (Rennes, Bretagne-Atlantique)
• Jury : Président / Présidente : Cédric Tedeschi
• Jury : Examinateurs / Examinatrices : Bruno Raffin, Eddy Caron, Ilkay Altintas
• Jury : Rapporteurs / Rapporteuses : Bruno Raffin, Eddy Caron

Mots clés

Mots clés contrôlés

Parallélisme (informatique)

Oubli catastrophique (informatique)

Apprentissage profond

Mots clés libres

Apprentissage continu

Oubli catastrophique

Parallélisme de données

Tampon de répétition distribué

Gestion de données asynchrone

Scalabilité

Continual learning

Catastrophic forgetting

Data parallelism

Experience replay

Distributed rehearsal buffer

Asynchronous data management

Scalability

Résumé

L'apprentissage profond est un outil d'extraction d'informations à partir de volumes de données massifs. Cependant, lorsqu'ils sont entraînés sur des tâches séquentielles (sans accès au jeu de données complet au début de l'entraînement), les réseaux de neurones souffrent d'oubli catastrophique, un phénomène qui donne davantage d'importance aux échantillons récents au détriment des connaissances acquises plus tôt. Cette limitation est problématique pour les applications exploitant des flux de données générés au fil du temps. Il est irréalisable de ré-entraîner des modèles à partir de zéro à chaque fois que de nouveaux échantillons sont ingérés, car cela s'accompagnerait de temps d'entraînement trop élevés.Dans cette thèse, nous présentons des techniques basées sur la répétition pour passer l'apprentissage continu à l'échelle. Les approches basées sur la répétition utilisent des échantillons représentatifs rencontrés précédemment pendant l'entraînement, afin d'augmenter les futurs minibatchs avec. Notre contribution principale porte sur la façon d'allier répétition d'échantillons représentatifs et parallélisme de données, qui est l'une des principales techniques pour passer des workloads à l'échelle sur les systèmes HPC. Nous proposons ainsi un tampon de répétition distribué exploitant de nombreuses techniques de parallélisation, permettant d'améliorer les performances prédictives du modèle sans allonger le temps entraînement.

Deep Learning (DL) emerged as a way to extract valuable information from ever-growing volumes of data. However, when trained on sequential tasks i.e., without full access to the dataset at the beginning of the training, typical Deep Neural Networks (DNNs) suffer from catastrophic forgetting, a phenomenon causing them to reinforce new patterns at the expense of previously acquired knowledge. This limitation prevents updating models incrementally, which is problematic in many real-life scenarios where the aforementioned datasets are replaced by data streams generated over time. It is unfeasible to train models from scratch every time new samples are being ingested either, as this would lead to prohibitive time and/or resource constraints.In this dissertation, we present techniques based on rehearsal to achieve Continual Learning at scale. Rehearsal-based approaches utilize representative samples previously encountered during training to augment future minibatches with. The key novelty we address is how to adopt rehearsal in the context of data-parallel training, which is one of the main techniques to achieve training scalability on HPC systems. We design a distributed rehearsal buffer that leverages parallelization techniques, enabling us to improve model performance without increasing training time.