Un réseau neuronal spiking frugal pour la classification non supervisée des données temporels multivariés

A frugal Spiking Neural Network for unsupervised classification of multivariate temporal patterns

• Auteur / Autrice : Sai Deepesh Pokala
• Direction : Blaise Yvert
• Type : Projet de thèse
• Discipline(s) : MBS - Modèles, méthodes et algorithmes en biologie, santé et environnement
• Date : Inscription en doctorat le ; Soutenance le 17/12/2024
• Etablissement(s) : Université Grenoble Alpes
• Ecole(s) doctorale(s) : École doctorale ingénierie pour la santé, la cognition, l'environnement (Grenoble ; 1995-....)
• Partenaire(s) de recherche : Laboratoire : Grenoble Institut des Neurosciences
• Partenaire(s) de recherche : Equipe de recherche : Neurotechnologies et Dynamiques des Réseaux - EDISCE
• Jury : Président / Présidente : François Danneville
• Jury : Examinateurs / Examinatrices : Blaise Yvert, Shaomin Zhang, Timothee Levi, Timothee Masquelier, Michela Chiappalone
• Jury : Rapporteurs / Rapporteuses : François Danneville, Shaomin Zhang

Mots clés

Mots clés libres

Neuromorphique

Snn

Stdp

Traitement du Signal

Neurones

Signaux Neuronaux

Neural Signals

Neuromorphic

Signal Processing

Neurons

Stdp

Snn

Résumé

À mesure que les interfaces neuronales évoluent, la quantité et la complexité des données neuronales enregistrées augmentent considérablement, posant de nouveaux défis en matière de traitement des données. Ces interfaces fournissent une source d'information riche sur l'activité cérébrale, mais interpréter ces données en temps réel nécessite des algorithmes avancés capables de détecter et d'interpréter automatiquement les patterns. Étant donné l'ampleur des flux de données, où de nombreux patterns peuvent être difficiles à appréhender, un traitement entièrement non supervisé devient essentiel. Bien que les réseaux de neurones profonds (DNN) aient réalisé des progrès significatifs dans la reconnaissance de patterns dans des données statiques et séquentielles, ils présentent des limitations notables. Les DNN nécessitent de grands ensembles de données labellisées pour l'apprentissage, et leur consommation élevée en énergie les rend inadaptés aux applications avec des contraintes énergétiques, comme les implants cérébraux. Les réseaux de neurones spiking (SNN), également connus comme la troisième génération de réseaux de neurones, représentent une alternative prometteuse grâce à leur conception biomimétique, utilisant des neurones qui imitent le comportement dynamique des neurones biologiques par des potentiels de membrane évolutifs. Dans ce contexte, nous introduisons un SNN frugal à une seule couche, conçu spécifiquement pour l'identification et la classification non supervisées de patterns temporels multivariés dans des flux de données continus. Cette approche ne nécessite qu'un petit nombre de neurones, tout en se révélant très efficace pour reconnaître même des patterns temporels complexes et se chevauchant. Nous validons cette approche avec une variété de jeux de données, incluant des données simulées, des représentations cepstrales de Mel de sons de parole, des enregistrements neuronaux multicanaux et des jeux de données de tri de spikes. Notre modèle tire parti de mécanismes de plasticité inspirés biologiquement tels que la plasticité dépendante du timing des spikes (STDP), la plasticité à court terme (STP) et la plasticité intrinsèque (IP), permettant un apprentissage efficace. Ces résultats ouvrent la voie à des architectures SNN très frugaux, capables de réaliser une reconnaissance de patterns en temps réel, non supervisée, adaptée à une intégration future dans des plateformes matérielles ultra-basse consommation, comme les implants neuronaux intelligents.

As neural interfaces evolve, the amount and complexity of neural data being recorded has grown considerably, presenting new challenges in data processing. These interfaces provide a rich source of information about brain activity, but making sense of this data in real time requires advanced algorithms that can automatically detect and interpret patterns. Given the vast streams of data, where many patterns may be difficult to apprehend, fully unsupervised processing becomes essential. While Deep Neural Networks (DNNs) have made significant strides in recognizing patterns in both static and sequential data, they come with notable limitations. DNNs require large, labeled datasets for training, and their high power consumption makes them unsuitable for use in energy-constrained applications, such as brain implants. Spiking Neural Networks (SNNs), also known as the third generation of neural networks, are a promising alternative due to their biologically inspired design, using neurons that mimic the dynamic behavior of biological neurons through evolving membrane potentials. In this context, we introduce a frugal, single- layer SNN designed specifically for unsupervised identification and classification of multivariate temporal patterns in continuous data streams. This approach requires only a small number of neurons, yet proves highly effective at recognizing even complex, overlapping temporal patterns. We validate this approach with a range of datasets, including simulated data, Mel Cepstral representations of speech sounds, multichannel neural recordings and spike sorting datasets. Our model leverages biologically inspired plasticity mechanisms like Spike-timing-dependent plasticity (STDP), Short-term Plasticity (STP), and Intrinsic Plasticity (IP), to enable efficient learning. These results pave the way for highly frugal SNN architectures that can perform unsupervised, real-time pattern recognition, suitable for future integration into ultra-low power hardware platforms, such as intelligent neural implants.