Optimisation de Modèles d'Intelligence Artificielle pour les Appareils Embarqués

Optimisation of Artificial Intelligence Models for Embedded Devices

• Auteur / Autrice : Lilian Hollard
• Direction : Luiz Angelo Steffenel, Nathalie Gaveau
• Type : Projet de thèse
• Discipline(s) : Info - Informatique
• Date : Inscription en doctorat le 13/02/2023
• Etablissement(s) : Reims
• Ecole(s) doctorale(s) : École doctorale Mathématiques Physique Sciences du Numérique et de l'Ingénieur (Reims ; 2018-)
• Partenaire(s) de recherche : Laboratoire : Laboratoire d'Informatique en Calcul Intensif et Image pour la Simulation

Mots clés

Mots clés libres

Appareils Embarqués

Intelligence Artificielle

Apprentissage profond

Edge IA

Cloud computing

IoT

Edge computing

Artificial Intelligence

Deep Learning

Edge AI

Cloud computing

IoT

Résumé

Ce sujet de thèse s'inscrit dans le cadre du projet européen EdgeAI (2022-2025). L'objectif de ce projet est de développer, valider et implémenter des solutions d'optimisation afin de permettre aux domaines de l'industrie d'utiliser l'Intelligence Artificielle au sein même des chaînes de production. Au travers du pacte vert initié par l'Union Européenne, l'Europe cherche à renforcer la transformation numérique verte dans laquelle les technologies numériques telles que les TIC, les semi-conducteurs, l'IA, la XG, l'IoT et l'informatique de pointe sont des composants clés. Le projet européen EdgeAI s'assure ainsi que l'Europe possède les outils technologiques nécessaires au bon développement de l'Intelligence Artificielle embarquée, avec une approche touchant plusieurs secteurs de l'industrie. La thématique de la thèse s'oriente ainsi vers le développement et l'adaptation de modèles d'Intelligence Artificielle sur des microcontrôleurs peu coûteux en énergie, afin de traiter différents types de données récoltées sur plusieurs chaînes de production. De plus, grâce aux partenariats industriels du projet EdgeAI, nous souhaitons appliquer ces développements dans des cas d'usage liés au secteur de l'agronomie et plus particulièrement sur la viticulture et de la production du champagne. L'Edge Computing est un domaine de recherche qui vise à décentraliser le calcul vers le “bord” du réseau, en opposition au paradigme du Cloud Computing. De nombreuses recherches en Intelligence Artificielle ont été réalisées afin de se séparer des solutions hébergées sur le Cloud. Le Edge AI ainsi présente plusieurs avantages, dont une réponse rapide avec une faible latence, une confidentialité plus élevée des données et aussi une utilisation plus efficace de la bande passante du réseau. Entre autre, l'implémentation d'algorithmes d'IA dans les dispositifs Edge permet aussi une opération hors-ligne, adaptées aux scénarios agricoles où la couverture du réseau est faible ou inexistante. Néanmoins, le portage de modèles IA sur des dispositifs embarqués rencontre des limitations liées à la capacité de ces dispositifs. Certains secteurs de l'industrie nécessitent l'utilisation d'algorithmes d'Intelligence Artificielle coûteux en ressources de calcul, ce qui complique l'intégration dans un appareil embarqué. En effet, les réseaux de neurones profonds modernes génèrent un trafic important de données à travers l'espace mémoire de l'appareil, pouvant constituer un goulot d'étranglement. Les réseaux de neurones doivent alors être adaptés à l'architecture du système embarqué et à ses contraintes mémoire. Ce travail de thèse vise ainsi à rechercher des stratégies permettant l'optimisation des modèles IA aux dispositifs Edge. Dans le contexte de l'Intelligence Artificielle adaptée aux dispositifs embarqués, il est crucial de proposer de nouvelles méthodologies de design qui puissent être bénéficier d'un taux de précision important tout en réduisant les besoins en termes de puissance de calcul. Nous nous intéressons notamment sur deux approches : le portage de modèles issus de systèmes haute performance (par exemple, des modèles entraînés sur le supercalculateur ROMEO) et l'entraînement distribué grâce au Federated Learning. Afin de mener ces travaux, le travail reposera sur un socle solide de données issues du projet EdgeAI (et du projet AI4DI, son prédécesseur), des outils reconnus (TensorRT, TFLite, Pytorch Mobile, TinyML), mais aussi d'outils développées par des partenaires du projet (N2D2 pour le CEA, NanoEdgeAI pour ST Microelectronics). En effet, au-delà des aspects théoriques et académiques, cette thèse a aussi un volet industriel qui sera concrétisé grâce à la participation du doctorant aux différents démonstrateurs prévus dans le projet. Ces démonstrateurs sont liés à la production du champagne, et incluent des applications IA pour l'estimation du rendement, la détection automatisée des maladies dans le vignoble ainsi que le suivi de la maturation en cave.

This thesis topic is part of the European project EdgeAI (2022-2025). The objective of this project is to develop, validate and implement optimisation solutions to allow industrial fields to use Artificial Intelligence within the production chains. Through the Green Deal initiated by the European Union, Europe seeks to strengthen the green digital transformation in which digital technologies such as TIC, semiconductors, AI, XG, IoT and edge computing are key components. The European EdgeAI project thus ensures that Europe has the technological tools necessary for the successful development of Embedded Artificial Intelligence, with an approach spanning several industry sectors. The theme of the thesis is thus oriented towards the development and adaptation of Artificial Intelligence models on low-power microcontrollers, to process different types of data collected on several production lines. In addition, thanks to the industrial partnerships of the EdgeAI project, we wish to apply these developments in use cases related to the agronomy sector and more particularly to viticulture and champagne production. Edge Computing is a field of research that aims to decentralise computing to the 'edge' of the network, in opposition to the Cloud Computing paradigm. A lot of research in Artificial Intelligence has been done to separate itself from cloud-hosted solutions. Edge AI thus has several advantages, including a fast response with low latency, higher data privacy and also more efficient use of network bandwidth. Among other things, the implementation of AI algorithms in Edge devices also allows for offline operation, suitable for agricultural scenarios where network coverage is poor or non-existent. Nevertheless, porting AI models to embedded devices faces limitations related to the capacity of these devices. Some industry sectors require the use of computationally expensive AI algorithms, which complicates the integration into an embedded device. Indeed, modern deep neural networks generate a lot of data traffic through the device's memory space, which can be a bottleneck. Neural networks must then be adapted to the architecture of the embedded system and its memory constraints. This thesis aims to investigate strategies for optimising AI models for Edge devices. In the context of Artificial Intelligence adapted to embedded devices, it is crucial to propose new design methodologies that can benefit from a high accuracy rate while reducing computational power requirements. We are particularly interested in two approaches: the porting of models from high-performance systems (e.g. models trained on the ROMEO supercomputer) and distributed training using Federated Learning. To carry out this work, the project will rely on a solid base of data from the EdgeAI project (and its predecessor, AI4DI), recognised tools (TensorRT, TFLite, Pytorch Mobile, TinyML), but also tools developed by the project partners (N2D2 for the CEA, NanoEdgeAI for ST Microelectronics). Indeed, beyond the theoretical and academic aspects, this thesis also has an industrial component which will be concretised thanks to the participation of the PhD student in the various demonstrators planned in the project. These demonstrators are linked to the production of champagne and include AI applications for yield estimation, automated detection of diseases in the vineyard and monitoring of maturation in the cellar.