Incertitudes pour les tâches de régression avec des réseaux de neurones sur graphe. Application à la détection de particules cosmiques

Uncertainties for regression tasks with graph-based neural networks. Application to cosmic particle detection

• Auteur / Autrice : Arsène Ferriere
• Direction : Olivier Martineau-huynh
• Type : Projet de thèse
• Discipline(s) : Physique
• Date : Inscription en doctorat le 06/11/2023
• Etablissement(s) : Sorbonne université
• Ecole(s) doctorale(s) : Physique en Ile de France
• Partenaire(s) de recherche : Laboratoire : Laboratoire de Physique Nucléaire et des Hautes Energies

Mots clés

Mots clés libres

Réseau de neurones

Graph

Incertitudes

Rayon cosmique

Grand

Neutrino

Neural network

Graph

Cosmic rays

Uncertainty

Grand

Neutrino

Résumé

Les réseaux de neurones artificiels représentent des fonctions ayant un très grand nombre de paramètres, à la fois différentiables (donc entraînables) ainsi que fortement non linéaires. Cette dernière propriété leur confère un fort pouvoir de représentation, à l'origine de leur utilisation massive, mais elle implique également que les réseaux de neurones sont, par nature, sensibles à de faibles variations des données d'entrée. Ainsi la question de la détermination des incertitudes sur les prédictions des réseaux de neurones est aujourd'hui l'un des enjeux majeurs en machine learning. L'objectif de cette thèse est de travailler sur l'utilisation de réseaux de neurones sur graphes, dans l'optique de pouvoir déterminer des quantités physiques et leurs erreurs, à partir des mesures effectuées avec des réseaux de capteurs distribués spatialement. L'utilisation de réseaux de neurones sur graphes (GNN) se prête particulièrement bien à cette problématique dans la mesure où le réseau de capteurs peut être irrégulier, avec ajout ou suppression de capteurs en fonction du temps. Le cas d'application principal sera le projet GRAND, qui vise à déterminer l'origine des rayons cosmiques d'ultra-haute énergie à l'aide d'un réseau de 200 000 antennes radio déployées. Si la construction de cet instrument est prévue pour les années 2030, le déploiement d'un premier prototype de 300 antennes radio, GRANDProto300, est imminent. Celui-ci sera un banc de test idéal pour développer de nouvelles techniques d'analyse, basées sur l'utilisation de méthodes d'apprentissage automatique, et pour investiguer l'origine des rayons cosmiques dans une gamme d'énergie peu étudiée. Les particules cosmiques induisent dans l'atmosphère des cascades de particules secondaires qui vont générer une émission électromagnétique brève (< 100 ns) que les antennes de GRAND détecteront dans la gamme 50-200 MHz. Il s'agira ainsi, à partir des mesures radio des antennes, de reconstruire les paramètres primaires des particules incidentes (nature, énergie, direction d'arrivée, etc.). Pour estimer ces quantités, il est nécessaire d'exploiter les données de plusieurs antennes qui détectent en coïncidence l'émission radio des particules. Il s'agit ainsi de résoudre un problème inverse par des techniques d'apprentissage machine. Des expériences similaires utilisent déjà des GNN (Choma et al. 2018), mais l'originalité du travail proposé est que les données mesurées sur chaque noeud du graphe seront des séries temporelles. Les méthodes développées à travers l'étude de ce cas d'application physique seront applicables par la suite à d'autres cas d'usages, par exemple en radio-protection ou en sismologie.

Artificial neural networks represent functions with a very large number of parameters, which are both differentiable (i.e. trainable) and highly non-linear. This latter property gives them a strong representational power, which is the reason for their massive use, but it also implies that neural networks are, by nature, sensitive to small variations in input data. The question of determining the uncertainties in neural network predictions is therefore one of the major challenges facing machine learning today. The aim of this thesis is to work on the use of graph-based neural networks, with a view to determining physical quantities and their errors, from measurements made with spatially distributed sensor networks. The use of graph neural networks (GNNs) is particularly well-suited to this problem, as the sensor network can be irregular, with sensors being added or removed as a function of time. The main application case will be the GRAND project, which aims to determine the origin of ultra-high-energy cosmic rays using a network of 200,000 deployed radio antennas. While construction of this instrument is scheduled for the 2030s, deployment of a first prototype of 300 radio antennas, GRANDProto300, is imminent. This will be an ideal test bed for developing new analysis techniques, based on the use of machine-learning methods, and for investigating the origin of cosmic rays in a little-studied energy range. Cosmic particles induce cascades of secondary particles in the atmosphere, generating a brief electromagnetic emission (< 100 ns) that GRAND's antennas will detect in the 50-200 MHz range. Based on radio measurements from the antennas, the primary parameters of the incident particles (nature, energy, direction of arrival, etc.) will be reconstructed. To estimate these quantities, it is necessary to exploit data from several antennas that detect the radio emission of the particles in coincidence. This involves solving an inverse problem using machine learning techniques. Similar experiments already use GNNs (Choma et al. 2018), but the originality of the proposed work is that the data measured on each node of the graph will be time series. The methods developed through the study of this physical application case will subsequently be applicable to other use cases, for example in radio protection or seismology.