Visualisation pour l’explication des réseaux de neurones profonds

Visualization for the explanation of deep neural networks

• Auteur / Autrice : Luc Etienne Pommé-Cassiérou
• Direction : David Auber
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 13/11/2024
• Etablissement(s) : Bordeaux
• Ecole(s) doctorale(s) : École doctorale Mathématiques et informatique (Talence, Gironde ; 1991-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire bordelais de recherche en informatique
• Jury : Président / Présidente : Arnaud Sallaberry
• Jury : Examinateurs / Examinatrices : Anne Vialard, François Queyroi, Aurélie Bugeau
• Jury : Rapporteurs / Rapporteuses : Arnaud Sallaberry, Harold Mouchère
• DOI : 10.70675/55ac7eeaz86cbz4116zb637z0943c653e980

Mots clés

Mots clés contrôlés

Intelligence artificielle

Apprentissage profond

Data visualisation

Réseaux neuronaux (informatique)

Vision par ordinateur

Mots clés libres

Visualisation d’Information

Apprentissage Profond

XIA (eXplicabilité pour l’Intelligence Artificielle)

Elagage explicable

Vision par ordinateur

Information Visualization

Deep Learning

XAI (eXlainable Artificial Intelligence)

Explainable Pruning

Computer Vision

Résumé

La compréhension du monde qui nous entoure passe par l’observation et l’analyse des phénomènes qui le régissent. L’observation de ces phénomènes nécessite la collecte systématique de grandes quantités de données afin de construire des modèles représentatifs de la réalité. Finalement, les modèles sont utilisés pour extraire des connaissances et des propriétés sur l’objet d’étude. Plus les données sont complexes, plus il est difficile pour un humain de trouver des règles de traitement ou des concepts à extraire. C’est là que les algorithmes d’IA (par exemple, l’apprentissage automatique/ apprentissage profond) entrent en jeu. La performance supérieure de ces algorithmes n’étant plus à démontrer, ils sont largement utilisés dans les matières où une prise de décision est nécessaire. Outre l’empreinte écologique préoccupante de ces outils, l’aspect éthique est également en jeu. En effet, ces algorithmes sont souvent considérés comme des “boîtes noires”, prenant des décisions arbitraires sans justification. La question de la responsabilité, en cas de mauvaise décision, se pose. Il devient nécessaire de construire des systèmes permettant de comprendre le comportement (bon ou mauvais) de ces algorithmes afin d’améliorer la confiance que l’on peut accorder à leurs décisions. Ce problème a donné naissance à un champ de recherche appelé XAI (eXplainable AI), qui est actuellement en pleine expansion. Cette thèse rassemble plusieurs contributions permettant d’analyser à plusieurs échelles et sous plusieurs angles, le comportement de réseaux de neurones entraînés, à partir de visualisations à destination d’experts, mais également d’utilisateurs non-experts. Plus précisément, nous proposons deux manières complémentaires d’analyser le fonctionnement d’un réseau. La première s’intéresse à l’architecture d’un réseau de neurones et à ses composants. Le but de cette méthode est de montrer comment évolue la discrimination des classes tout au long du réseau, pour un problème de classification. La seconde manière étudie le fonctionnement d’un réseau du point de vue des données qu’il traite. A l’échelle de données individuelles, puis à l’échelle de groupes de données, une méthode de visualisation est proposée pour illustrer les caractéristiques des données incitant un réseau à aboutir à une prédiction plutôt qu’une autre. Ces méthodes sont également accompagnées d’une visualisation pour comparer les performances de modèles à une échelle fine : celle des classes.

The understanding of the world that surrounds us requires the observation and analysis of the phenomena that govern it. The observation of these phenomena requires the systematic collection of large quantities of data to build models representative of the reality. Eventually, the models are used to extract knowledge and properties about the object of study. The more complex the data, the more difficult it becomes for a human to find processing rules or concepts to extract. This is where AI (e.g. machine / deep learning) algorithms come in to help. The superior performance of these algorithms being no longer in question, they are widely used in matters where decision making is required. In addition to the worrying ecological footprint of these tools, the ethical aspect is also at stake. Indeed, these algorithms are often considered as “black boxes”, making arbitrary decisions without justification. The question of responsability, in case of bad decision arises. It becomes necessary to build systems enabling to understand the behavior (either good or bad) of such algorithms in order to improve the trust we can put in their decisions. This problem has given rise to a field of research called XAI (eXplainable AI), which is currently in full expansion. This thesis brings together a number of contributions enabling us to analyze the behavior of trained neural networks at several scales and from several angles, based on visualizations intended for both experts and non-expert users. More specifically, we propose two complementary ways of analyzing how a network works. The first focuses on the architecture of a neural network and its components. The aim of this method is to show how class discrimination evolves throughout the network, for a classification problem. The second approach studies the operation of a network from the point of view of the data it processes. On the scale of individual data, then on the scale of groups of data, a visualization method is proposed to illustrate the characteristics of the data that lead a network to make one prediction rather than another. These methods are also accompanied by a visualization to compare the performance of models on a finer scale: that of classes.