Apprentissage continu par deep learning dans l'industrie pneumatique : conditions et applications

Continual learning in pneumatic industry : conditions and applications

• Auteur / Autrice : Mohamed Konate
• Direction : Anne-Françoise Yao
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques appliquées
• Date : Soutenance le 09/12/2024
• Etablissement(s) : Université Clermont Auvergne (2021-...)
• Ecole(s) doctorale(s) : École doctorale des sciences fondamentales (Clermont-Ferrand)
• Partenaire(s) de recherche : Laboratoire : Laboratoire de Mathématiques Blaise Pascal (Aubière ; 1996-....)
• Jury : Président / Présidente : Jean-Michel Loubes
• Jury : Examinateurs / Examinatrices : Pierre Latouche, Thierry Chateau, Laure Tougne Rodet
• Jury : Rapporteurs / Rapporteuses : Jean-Michel Loubes, Stefan Duffner

Mots clés

Mots clés contrôlés

Intelligence artificielle

Pneus -- Industrie et commerce

Réseaux neuronaux (informatique)

Apprentissage profond

Mots clés libres

Apprentissage

Incremental

Réseaux de neurones

Continual learning

Deep learning

Incremental

Résumé

Dans le domaine en constante évolution de l'intelligence artificielle, les réseaux de neurones sont fondamentaux pour développer des modèles avancés pour un large éventail d'applications industrielles. Cependant, le maintien de leurs performances au fil du temps reste un défi majeur, notamment en raison du coût et de la complexité des processus de retraitement traditionnels. Ces processus nécessitent souvent des ressources importantes et la mise en œuvre de cadres complets de MLOps. Cette thèse de doctorat répond au besoin d'alternatives efficaces à ces méthodes conventionnelles, en se concentrant sur l'apprentissage continu (AC) comme solution prometteuse permettant aux modèles de s'adapter à de nouvelles données et tâches sans retraitement complet. L'apprentissage continu a le potentiel de réduire à la fois les coûts informatiques et opérationnels, le rendant très pertinent pour les industries où l'évolutivité et l'efficacité sont essentielles.Cette recherche fait le pont entre les avancées académiques en matière d'apprentissage continu et leur application pratique dans les milieux industriels, en particulier pour Michelin, un fabricant industriel. Le travail comprend un examen critique des méthodes existantes d'apprentissage continu et le développement d'un nouvel ensemble de métriques, appelé Mean Incremental Class Accuracy (MICA), adaptées aux applications industrielles. Un cadre unifié composé de blocs fonctionnels est proposé pour classer les méthodes actuelles d'apprentissage continu, ce qui conduit à la création d'une bibliothèque open-source modulaire, CLMixer, conçue pour intégrer et optimiser ces méthodes.Sur le plan théorique, cette thèse présente une nouvelle formulation qui unifie les approches existantes d'apprentissage continu, démontrant la relation entre l'approximation de fonction dans des espaces de haute dimension et l'apprentissage continu. La solution théorique pour les méthodes d'approximation locale est rigoureusement dérivée, révélant les limites des hypothèses courantes même avec des stratégies de relecture. De plus, une nouvelle classe innovante de méthodes est introduite, qui projette l'espace des paramètres dans des dimensions inférieures pour effectuer l'approximation de fonction, offrant une approche systématique pour résoudre les défis de l'apprentissage continu. Ces méthodes sont prometteuses pour faire progresser le domaine, ouvrant de nouvelles perspectives de recherche et fournissant une base pour développer des algorithmes d'apprentissage continu plus robustes et évolutifs.Les résultats de cette recherche devraient fournir des informations précieuses sur le développement de stratégies plus efficaces et économiques pour gérer le cycle de vie des réseaux de neurones, favorisant l'adoption plus large de l'apprentissage continu dans l'industrie. De plus, la thèse contribue à la compréhension théorique des mécanismes d'apprentissage continu, offrant une base pour les progrès futurs dans le domaine

In the evolving field of artificial intelligence, neural networks are fundamental todeveloping advanced models for a wide range of industrial applications. However, maintaining their performance over time remains a significant challenge,particularly due to the cost and complexity of traditional retraining processes.These processes often require extensive resources and the implementation ofcomprehensive MLOps frameworks. This PhD thesis addresses the need for efficient alternatives to these conventional methods, focusing on Continual Learning (CL) as a promising solution that allows models to adapt to new data andtasks without full retraining. Continual Learning has the potential to reduceboth computational and operational costs, making it highly relevant for industries where scalability and efficiency are critical.This research bridges the gap between academic advances in Continual Learning and their practical application in industrial settings, particularly for Michelin, a industrial Manufacturer. The work includes a critical review of existingContinuous Learning (CL) methods and the development of a new set of metrics, termed Mean Incremental Class Accuracy (MICA), tailored for industrialapplications. A unified framework consisting of functional building blocks isproposed to categorize current CL methods, which further leads to the creationof a modular open-source library, CLMixer, designed to integrate and optimizethese methods.On the theoretical side, this thesis presents a novel formulation that unifiesexisting CL approaches, demonstrating the relationship between function approximation in high-dimensional spaces and Continual Learning. The theoretical solution for local approximation methods is rigorously derived, revealingthe limitations of common assumptions even with replay strategies. Furthermore, an innovative new class of methods is introduced, which projects theparameter space into lower dimensions to perform function approximation, offering a systematic approach to solving CL challenges. These methods holdgreat promise for advancing the field, opening up new research directions andproviding a foundation for developing more robust and scalable CL algorithms.The findings of this research are expected to provide valuable insights intothe development of more efficient and cost-effective strategies for managingthe lifecycle of neural networks, promoting the broader adoption of ContinualLearning in industry. Additionally, the thesis contributes to the theoreticalunderstanding of CL mechanisms, offering a foundation for future advancementsin the field