Cybersécurité pour les systèmes embarqués critiques à base d'intelligence artificielle

Cybersecurity for critical embedded systems based on artificial intelligence

• Auteur / Autrice : Céline Bellanger
• Direction : Pierre-Loïc Garoche, Matthieu Martel
• Type : Projet de thèse
• Discipline(s) : Informatique et Systèmes Embarqués
• Date : Inscription en doctorat le 01/10/2022
• Etablissement(s) : Toulouse, École nationale de l’aviation civile
• Ecole(s) doctorale(s) : École doctorale Systèmes
• Partenaire(s) de recherche : Laboratoire : ENAC-LAB - Laboratoire de Recherche ENAC
• Partenaire(s) de recherche : Equipe de recherche : LII - Laboratoire d'Informatique Interactive

Mots clés

Mots clés libres

Cybersécurité

Validation

Systèmes embarqués

Aéronautique

Intelligence Artificielle

Cybersecurity

Validation

Embedded systems

Aeronautics

Artificial intelligence

Résumé

L'objectif de cette thèse est de proposer des outils formels, basés sur du raisonnement ensembliste ou sur du raisonnement logique pour étudier le comportement de systèmes embarqués critiques à base de réseaux de neurones. Plus spécifiquement, on s'intéressera aux fonctions de contrôle comme la stabilisation ou le guidage qui, historiquement étaient réalisées par des systèmes dynamiques et qui sont de plus en plus traitées par des réseaux de neurones. Ces réseaux de neurones jouent le rôle d'interpolateurs, produisant, pour un état donné, ou l'acquisition de certains paramètres, la commande désirée. Dans une second étape, on pourra également considérer les algorithmes de classification quand ils sont utilisés dans le contexte aéronautique et spatial. L'étude des systèmes dynamiques est un champ disciplinaire très largement développé. L'utilisation de réseaux de neurones pour assurer les fonctions critiques de contrôle pose de nombreuses questions quant à la performance du contrôle, sa robustesse à des perturbations extérieures comme des cyberattaques, ou enfin la validité des jeux de données utilisés pour effectuer l'apprentissage du réseau de neurones. Plus particulièrement, la doctorante s'intéressera à : • la validation du système à des cyber-attaques spécifiques aux réseaux de neurones ; • la validation de la base d'apprentissage ; • la construction de contre-exemples illustrant la faiblesse du réseau de neurones.

The objective of this work is to design formal method tools, based either on set-based reasoning or on logical reasoning, to study the behavior of critical embedded systems built using neural networks. More specifically, we will consider control functions such as stabilization or guidance, which were originally performed by regular dynamical systems and which are more and more realized through neural nets. These neural nets produce the desired command, by interpolation of existing data. In a second phase, we can also consider classifier algorithms when they are used in aerospace context. The study of dynamical systems is a large topic. Relying on neural nets to perform critical functions requires to be able to address the performance of the control and its robustness with respect to external perturbations such as cyber-attacks, or to ensure the relevance and quality of the data used to train the neural net. The student will particularly focus on - the validation of the system with respect to cyber-attacks targeting neural nets; - the validation of the training data set; - the design of counter-examples illustrating the weaknesses of the neural nets.