Deep Learning contraint pour la résolution de problèmes algorithmiques appliqués aux capteurs MEMS (Microsystème Electromécanique)

Constrained deep learning for MEMS sensors-based applications

• Auteur / Autrice : Minh Tri Lê
• Direction : Julyan Arbel, Etienne De Foras
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques et informatique
• Date : Soutenance le 06/07/2023
• Etablissement(s) : Université Grenoble Alpes
• Ecole(s) doctorale(s) : École doctorale Mathématiques, sciences et technologies de l'information, informatique (Grenoble ; 1995-....)
• Partenaire(s) de recherche : Laboratoire : Institut national de recherche en informatique et en automatique (France). Centre de recherche de l'université Grenoble Alpes
• Partenaire(s) de recherche : Equipe de recherche : Équipe-projet Modèles statistiques bayésiens et des valeurs extrêmes pour données structurées et de grande dimension (Montbonnot, Isère ; 2020-....)
• Partenaire(s) de recherche : CIFRE : InvenSense, Inc
• Jury : Président / Présidente : Valérie Perrier
• Jury : Examinateurs / Examinatrices : Inna Kucher
• Jury : Rapporteurs / Rapporteuses : Mathieu Salzmann, Eiman Kanjo

Mots clés

Mots clés contrôlés

Industrie -- Consommation d'énergie

Internet des objets

Apprentissage profond

Microcontrôleurs

Systèmes embarqués (informatique)

Mots clés libres

Apprentissage profond

Compression de modèle

Système embarqué

TinyML

Quantization

Capteurs

Deep learning

Model compression

Embedded systems

TinyML

Quantization

Sensors

Résumé

L'apprentissage profond est devenu une technique puissante pour résoudre des problèmes complexes dans de nombreux domaines, grâce à sa capacité à apprendre et à modéliser des relations non linéaires complexes à partir de données. Cependant, la puissance de calcul, la mémoire et les besoins énergétiques substantiels des modèles d'apprentissage profond les rendent inadaptés au déploiement sur des systèmes à ressources limitées. Parallèlement, l'émergence des capteurs microélectromécaniques (MEMS), des microcontrôleurs (MCUs) et de l'Internet des objets (IoT) a entraîné un nombre croissant d'applications qui dépendent de systèmes embarqués pour le traitement local des données et pouvant interagir avec l'environnement.L'intersection de l'apprentissage profond et des systèmes embarqués a donné naissance au domaine du tinyML, qui offre à la fois des opportunités et des défis significatifs. Le principal défi consiste à adapter les techniques d'apprentissage profond pour fonctionner efficacement sur des systèmes MEMS ultra basse consommation avec des ressources et des opérations limitées, tout en maintenant des niveaux de performance acceptables.Cette thèse vise à fournir des stratégies pour optimiser et déployer des modèles d'apprentissage profond dans des contextes ultra basse consommation pour des applications basées sur des MEMS. Nous étudions d'abord les méthodes de compression de modèles, telles que l'élagage, la distillation de connaissance et la quantification. Ensuite, nous permettons le déploiement de bout en bout de modèles d'apprentissage profond pour une inférence efficace sur les MCUs les plus limitées en ressources de l'industrie. Enfin, nous présentons une nouvelle approche pour généraliser le processus de quantification, compatible avec n'importe quel nombre de bits et en s'étendant à des niveaux de quantification extrêmes, tels que 1 bit.Les résultats de cette recherche contribuent à l'avancement du domaine tinyML et permettent une adoption plus large des systèmes de détection intelligents embarqués dans diverses applications du monde réel.

Deep learning has become a powerful technique for solving complex problems across numerous domains, owing to its ability to learn and model intricate non-linear relationships from data. However, the substantial computational power, memory, and energy requirements of deep learning models make them unsuitable for deployment on devices with limited resources. Simultaneously, the emergence of microelectromechanical sensors (MEMS), microcontroller units (MCUs), and the Internet of Things (IoT) has resulted in a growing number of applications that depend on embedded systems for local data processing and environmental interaction.The intersection of deep learning and embedded systems has given rise to the field of tinyML, which offers significant opportunities and challenges. The primary challenge lies in adapting deep learning techniques to operate efficiently on ultra-low-power MEMS-based devices with constrained resources and operations while maintaining acceptable performance levels.This thesis aims to provide strategies for optimizing and deploying deep learning models in ultra-low power settings for MEMS-based applications. We first investigate model compression methods, such as pruning, knowledge distillation, and quantization. Then, we enable end-to-end deployment of deep learning models for efficient inference on the most resource-constrained MCUs in the industry. Finally, we present a novel approach to generalize the quantization process, accommodating any number of bits, and extending to extreme quantization levels, such as 1-bit.The outcomes of this research contribute to the advancement of tinyML and enable the broader adoption of intelligent sensing devices across various real-world applications.