Intégration neuro-symbolique de l'extraction de connaissances et du raisonnement sur les graphs

Neural-Symbolic Integration of knowledge extraction and reasoning on graph-structured data

• Auteur / Autrice : Luisa Werner
• Direction : Nabil Layaida, Pierre Geneves
• Type : Projet de thèse
• Discipline(s) : Mathématiques et Informatique
• Date : Inscription en doctorat le ; Soutenance le 11/12/2024
• Etablissement(s) : Université Grenoble Alpes
• Ecole(s) doctorale(s) : École doctorale mathématiques, sciences et technologies de l'information, informatique
• Partenaire(s) de recherche : Laboratoire : Centre de recherche Inria de l'Université Grenoble Alpes
• Jury : Président / Présidente : Amini Massih-reza
• Jury : Examinateurs / Examinatrices : Fatiha Saïs, Farouk Toumani, Stefania gabriela Dumbrava, Axel-cyrille Ngonga ngomo, Pierre Geneves
• Jury : Rapporteurs / Rapporteuses : Fatiha Saïs, Farouk Toumani

Mots clés

Mots clés libres

Réseaux de neurones

Raisonnement logique

Intelligence artificielle symbolique

Neuro-symbolic

Graph neural networks

Logical reasoning

Knowledge graphs

Résumé

Es données structurées sous forme de graphes, telles que les graphes de connaissances, ont attiré l’attention ces dernières années en raison de leur capacité à encoder les relations entre les entités, ce qui en fait une structure de données riche capable de représenter des modèles complexes, des dépendances à longue chaîne et des structures cycliques. Cependant, les données structurées par des graphes posent quelques difficultés majeures qu’il faut surmonter pour en exploiter le potentiel. Les graphes étant souvent de grande taille, non structurés et incomplets, les algorithmes appliqués aux graphes doivent être capables de traiter efficacement des données éparses et non structurées en grille. Parallèlement, la recherche en IA a connu ces dernières années une explosion du développe- ment des méthodes d’apprentissage profond, tandis que les méthodes symboliques ont été reléguées à l’arrière-plan. Néanmoins, la capacité d’explication des méthodes symboliques basées sur la logique et les connaissances préalables peut compléter la force des méthodes sub-symboliques en matière de correspondance des formes, de robustesse et d’évolutivité. C’est pourquoi la recherche sur les méthodes neuro-symboliques a attiré l’attention, dans le but d’unifier les méthodes symboliques et sub-symboliques de l’IA. Cette thèse étudie comment les méthodes neuro-symboliques peuvent être employées sur des données structurées en graphe afin que des tâches de raisonnement telles que la complétion de graphes de connaissances puissent être résolues de manière plus effi- cace et plus fiable. L’accent est mis en particulier sur la question de savoir comment les connaissances préalables, par exemple sous la forme d’ontologies, peuvent être exploitées pour améliorer le comportement des méthodes purement sub-symboliques. On étudie comment les connaissances préalables peuvent être intégrées dans un réseau neuronal par le biais de couches neuronales différentiables basées sur la logique floue. L’extensibilité et l’applicabilité de cette technique à différents types de graphes sont notamment examinées. En outre, une méthode neuro-symbolique est proposée pour injecter des connaissances dans les graphes de connaissances en intégrant un moteur de raisonnement sémantique.

Graph-structured data such as knowledge graphs has gained attention in recent years due to its ability to encode relationships between entities, making it a rich data structure that can represent complex patterns, long-chain dependencies and cyclical structures. However, graph-structured data brings some major difficulties that have to be overcome to unfold their potential. Since graphs are often large, unstructured and incomplete, algorithms applied to graphs have to be able to process sparse, non grid-structured data in an efficient way. In parallel, AI research has seen a surge in the development of deep learning methods in recent years, while symbolic methods have faded into the background. Nevertheless, the explainability of symbolic methods based on logic and prior knowledge have the potential to complement the strength of sub-symbolic methods in pattern matching, robustness and scalability. For this reason, the research on neuro-symbolic methods has gained attention, with the aim of unifying symbolic and sub-symbolic AI methods. This thesis investigates how neuro-symbolic methods can be employed on graph-structured data so that reasoning tasks such as knowledge graph completion can be solved more efficiently and reliably. The focus lies especially on the question how prior knowledge, for example in the form of ontologies, can be leveraged to improve the behavior of purely sub-symbolic methods. It is investigated how prior knowledge can be integrated in a neural network through differentiable neural layers based on fuzzy logic. In particularly, the scalability and applicability of this technique on different types of graphs is discussed. Further, a neuro-symbolic method is proposed that injects knowledge into knowledge graph embeddings by integrating a semantic reasoning engine.