Sécurité et confiance pour les accélérateurs matériels d'IA

Security and Trust for AI Hardware Accelerators

• Auteur / Autrice : Ioannis Kaskampas
• Direction : Haralampos Stratigopoulos, Hassan Aboushady
• Type : Projet de thèse
• Discipline(s) : Sciences et technologies de l'information et de la communication
• Date : Inscription en doctorat le 15/05/2024
• Etablissement(s) : Sorbonne université
• Ecole(s) doctorale(s) : École doctorale Informatique, télécommunications et électronique de Paris (1992-...)
• Partenaire(s) de recherche : Laboratoire : LIP6

Mots clés

Mots clés libres

Intelligence artificielle

Accélérateurs matériels d'IA

Informatique neuromorphique

Sécurité Matérielle

Artificial Intelligence

Hardware Accelerators for Artificial Intelligence

Neuromorphic Computing

Hardware Security

Résumé

L'informatique basée sur les réseaux de neurones profonds (DNN) trouve aujourd'hui de nombreuses applications dans différents domaines, tels que la vision par ordinateur, les jeux, le traitement du langage naturel et les systèmes autonomes. La communauté des chercheurs se concentre actuellement sur la conception de processeurs dédiés à l'exécution efficace de modèles de réseaux neuronaux profonds, appelés accélérateurs matériels d'IA. Nous sommes particulièrement intéressés par les processeurs neuromorphiques pour les réseaux neuronaux à impulsions(en anglais : Spiking Neural Networks - SNN) inspirés du cerveau, qui visent à combler le fossé entre l'apprentissage automatique et la biologie en termes de vitesse et de consommation d'énergie. La sécurité matériel est un sous-domaine de la recherche en sécurité informatique qui étudie les vulnérabilités du matériel. Cette thèse concentrera sur l'analyse de la sécurité et les contre-mesures d'un point de vue matériel pour les DNNs. Les menaces de sécurité qui nous intéressent sont les suivantes : 1) Le vol du modèle DNN : Le modèle, y compris la configuration du réseau et les poids synaptiques, est souvent considéré comme un atout. Le modèle est téléchargé sur le matériel depuis le nuage pour être utilisé comme une boîte noire sans que l'utilisateur puisse l'extraire, ce qui pourrait entraîner le piratage du modèle et la perte de la propriété intellectuelle. 2) Les chevaux de Troie neuronaux : Il s'agit de modifications malveillantes du matériel qui, lorsqu'elles sont déclenchées par des entrées délibérément conçues, peuvent avoir des effets indésirables, c'est-à-dire une dégradation de la précision du réseau, une fuite de modèle ou un déni de service. 3) Attaques adverses : Elles visent à ajouter un minimum de bruit à l'entrée de sorte que le réseau soit induit en erreur et prenne une mauvaise décision. 4) Piratage de l'accélérateur matériel d'IA : il comprend le clonage, la contrefaçon, la rétroingénierie et l'utilisation non autorisée de l'accélérateur matériel d'IA. 5) Attaques par porte dérobée : Lorsque l'entrainement est externalisé, une telle attaque modifie le modèle stocké dans la mémoire de la puce de sorte qu'il échoue dans un sous-ensemble de tâches. 6) Attaques par injection de fautes : Des fautes peuvent être injectées dans les réseaux neuronaux par le biais de paramètres ou de fonctions visant à compromettre le fonctionnement du réseau. 7) Confidentialité des données dans un contexte d'apprentissage fédéré : Un ensemble de réseaux neuronaux apprend collectivement, chacun ayant son propre ensemble de données, mais les données d'apprentissage sont privées et sensibles et ne doivent pas être divulguées à d'autres réseaux neuronaux. La thèse portera sur une ou plusieurs des menaces de sécurité susmentionnées, spécifiquement pour les processeurs neuromorphiques. Nous utiliserons comme étude de cas le processeur neuromorphique développé dans notre groupe, ainsi que le Loihi d'Intel.

Deep neural network (DNN)-based computing finds nowadays numerous applications in different domains, such as computer vision, gaming, natural language processing, and autonomous systems. The research community is currently focusing on design of dedicated processors for executing efficiently DNN models, referred to as AI hardware accelerators. We are particularly interested in brain-inspired or neuromorphic processors for Spiking Neural Networks (SNNs) aiming at bridging the gap between machine learning and biology in terms of speed and power consumption. Hardware security is a sub-domain of computer security research studying vulnerabilities of the computing hardware. This PhD will focus on the security analysis and countermeasures from a hardware perspective for trusted and explainable DNN based algorithms, applications, and systems. Security threats of interest include: 1) DNN model theft: The model, including network configuration and synaptic weights, is often considered an asset. The model is downloaded onto the hardware from the cloud to be utilized as a black box without the user being able to extract it, which could result in model piracy and loss of intellectual property. 2) Neural Trojans: They consist in malicious hardware modifications which when triggered by deliberately designed inputs can have undesirable effects, i.e., network accuracy degradation, model leakage, or denial-of-service. 3) Adversarial attacks: They aim at adding minimum noise at the input such that the network is misled generating a wrong decision. 4) Hardware intellectual property piracy: It includes cloning, counterfeiting, reverse engineering and unauthorized use of the AI hardware accelerator. 5) Backdoor attacks: When training is outsourced, such an attack alters the model stored in the on-chip memory so that it fails on a subset of tasks. 6) Fault injection attacks: Faults could be injected into neural networks through parameters or functions aiming at compromising the network operation. 7) Data privacy in a federated learning setting: A set of neural networks learn collectively each having its own dataset, however the training data is private and sensitive and should not be leaked to other neural networks. The PhD will address one or more of the above security threats specifically for neuromorphic processors. We will use as case study the neuromorphic processor developed in our group, as well as Intel's Loihi.