Learning attributed graphs representations

Apprentissage de représentations de graphes attribués

• Auteur / Autrice : Yacouba Kaloga
• Direction : Pierre Borgnat
• Type : Thèse de doctorat
• Discipline(s) : Physique
• Date : Soutenance le 17/12/2021
• Etablissement(s) : Lyon
• Ecole(s) doctorale(s) : École doctorale de Physique et Astrophysique de Lyon (1991-....)
• Partenaire(s) de recherche : établissement opérateur d'inscription : École normale supérieure de Lyon (2010-...)
• Partenaire(s) de recherche : Laboratoire : Laboratoire de physique (Lyon ; 1988-....) - Laboratoire Hubert Curien (Saint-Etienne ; 1995-....)
• Jury : Président / Présidente : Romain Couillet
• Jury : Examinateurs / Examinatrices : Pierre Borgnat, Romain Couillet, Paul Honeine, Céline Hudelot, Amaury Habrard
• Jury : Rapporteurs / Rapporteuses : Paul Honeine, Céline Hudelot

Mots clés

Mots clés contrôlés

Représentations de graphes

Réseaux neuronaux (informatique)

Apprentissage automatique

Traitement du signal

Mots clés libres

Apprentissage automatique

Graphe

Réseaux de neurones

Traitement du signal

Informatique

Physique

Machine Learning

Graphs

Neural networks

Signal processing

Computer Science

Physics

Résumé

L’apprentissage automatique est devenu un sujet populaire de recherche ces dernières années, grâce à la réintroduction des réseaux de neurones au début des années 2010. L’abondance des données et la puissance de calcul à cette période ont permis d’obtenir de très bonnes performances dans un nombre varié de tâches d’apprentissage grâce à ces réseaux de neurones. Ces dernières années la communauté de l’apprentissage s’est attachée à généraliser ces modèles aux données moins structurées qui sont portées par des graphes. Les réseaux de neurones sur graphes ont alors été proposés et ont connu récemment un certain succès, notamment les réseaux de convolution sur graphe ; ils sont utilisés dans une grande variété de modèles d’apprentissages liés aux graphes. Néanmoins ces réseaux ont des limites, mais elles peuvent être contournées notamment en les intégrant dans un modèle adéquat d’apprentissage. Dans cette thèse, nous avons pu travailler sur certaines de ces problématiques d’apprentissage de représentation pour des graphes attribués, en nous appuyant sur ces réseaux de neurones sur graphes. Nous avons notamment étendu la CCA (l'analyse des corrélations canoniques) qui est une méthode de représentation multi-vues classique à des graphes attribués, en obtenant des propriétés intéressantes de robustesses et d'adaptation à un grand volume de données. Nous nous sommes également intéressés à la question de la représentation euclidienne de graphes. On a ainsi proposé une méthode de représentation multi-échelle qui puisse également traiter un grand volume de données et soit inductive ; étant différentiable de bout en bout cette méthode peut aussi être combinée avec d’autres approches d’apprentissages automatiques. La méthode permet aussi de s’affranchir d’une des limitations des réseaux de convolutions qui ont du mal à extraire des informations globales sur les graphes. Enfin, nos travaux ont exploré comment définir une notion de distances entre graphe et plus particulièrement comment aborder la question d'apprentissage de métrique pour des jeux de données attribuées, en combinant des réseaux de neurones et du transport optimal. L'objectif est alors de proposer un modèle simple mais efficace pour cette tâche d'apprentissage de métrique.

Machine learning has become a popular research topic in recent years, thanks to the reintroduction of neural networks in the early 2010s. The abundance of data and computational power at that time allowed for very good performance in a variety of learning tasks using these neural networks. In recent years, the learning community has focused on generalizing these models to less structured data carried by graphs. Neural networks on graphs have been proposed and have recently met with some success, especially graph convolution networks; they are used in a wide variety of learning models related to graphs. Nevertheless, these networks have limitations, but they can be circumvented by integrating them into an adequate learning model.In this thesis, we have been able to work on some of these representation learning problems for assigned graphs, using these neural networks on graphs. In particular, we have extended CCA (Canonical Correlation Analysis) which is a classical multi-view representation method to attributed graphs, by obtaining interesting properties of robustness and adaptation to a large volume of data. We have also been interested in the issue of Euclidean representation of graphs. We have proposed a multi-scale representation method that can also handle a large volume of data and is inductive; being differentiable from end to end, this method can also be combined with other automatic learning approaches. The method also overcomes one of the limitations of convolution networks, which have difficulty in extracting global information from graphs. Finally, our work explored how to define a notion of distances between graphs and more particularly how to address the issue of metric learning for assigned data sets, by combining neural networks and optimal transport. The objective is then to propose a simple but efficient model for this metric learning task. [Translated with www.DeepL.com/Translator (free version)]