Investigation des relations entre différents algorithmes de détection de communauté

Disentangling the relationships between different community detection algorithms

• Auteur / Autrice : Leonardo Martins bianco
• Direction : Christine Keribin
• Type : Projet de thèse
• Discipline(s) : Mathématiques appliquées
• Date : Inscription en doctorat le 01/10/2022
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale de mathématiques Hadamard
• Partenaire(s) de recherche : Laboratoire : Laboratoire de mathématiques d'Orsay (1998-....)
• Partenaire(s) de recherche : Equipe de recherche : Probabilités et statistiques (LMO)
• Partenaire(s) de recherche : Référent : Faculté des sciences d'Orsay

Mots clés

Mots clés libres

Modèle à blocs stochastiques

Méthodes variationnelles

Méthodes spectrales

Robustesse

Graphes aléatoires

Stochastic Block Model

Variational methods

Spectral methods

Robustness

Random graphs

Résumé

De nombreux algorithmes ont été proposés au cours des dernières décennies pour effectuer le clustering de graphes. S'il est pratiquement impossible d'en faire une revue exhaustive, la plupart des méthodes peuvent être classées selon la taxonomie suivante : Méthodes probabilistes (le graphe observé est supposé être une réalisation d'un graphe aléatoire avec une structure de communauté. Le modèle à blocs stochastiques (SBM) en est le représentant le plus populaire), Clustering spectral (basé sur l'analyse du spectre de la matrice laplacienne du Graphe) et l'apprentissage par représentation (le graphe est supposé avoir une structure latente (inconnue) de dimension inférieure. La factorisation matricielle non négative en est un exemple populaire). Ces méthodes reposant sur des hypothèses de modélisation différentes, les sorties de deux algorithmes différents peuvent différer considérablement. Par conséquent, pour un jeu de données et une application donnés, il est souvent difficile de dire quel algorithme utiliser. Ce projet se concentrera sur l'étude des relations entre les trois catégories de méthodes décrites ci-dessus, avec des points de vue théoriques et méthodologiques, fournissant un guide aux experts du domaine pour le choix d'une procédure de clustering de graphe. Pour ce faire, nous proposons la feuille de route suivante : (1) des conditions dans lesquelles un algorithme spectral peut récupérer la partition correcte d'un graphe aléatoire échantillonné à partir d'un SBM ont été déjà établies. Nous proposons de prendre le chemin inverse et d'étudier comment le spectre du Laplacien de graphe joue avec des estimateurs du SBM. L'accent sera mis sur les estimateurs variationnels, très populaires dans la communauté de l'apprentissage automatique grâce à leur expression facilement calculable qui les rendent attrayants à la fois théoriquement et en pratique. (2) Comprendre les liens entre les différentes approches permettra de définir rigoureusement des critères de sélection du nombre de clusters dans les approches déterministes: en particulier, nous visons à établir une relation entre les critères de sélection pénalisés SBM et le gap spectral du clustering de graphes. (3) Étudier la robustesse de SBM et des méthodes de représentation dans un contexte mal spécifié, c'est-à-dire quand ces modèles ne sont pas les modèles sous-jacents. Des simulations seront faites pour soutenir la recherche théorique.

Many algorithms have been proposed over the last decades to perform graph clustering. If it is virtually impossible to do an exhaustive review, most methods can be categorized according to the following taxonomy: Probabilistic methods (the observed graph is assumed to be a realization of a random graph with a community structure. Stochastic Block Models (SBM) are the most popular representative), Spectral clustering (based on the analysis of the spectrum of the Graph Laplacian matrix) and Representation learning (the graph is assumed to have a lower dimensional latent structure to be learned. Non-negative matrix factorization is one popular example of such approach). Since these methods rely on different modeling assumptions, the output of two different algorithms can substantially differ. As a consequence, for a given dataset and application, it is often hard to tell which algorithm to use. This project will focus on studying the relationships between the three categories of methods described above, with theoretical as well as methodological points of view, providing a guide for domain experts for the choice of clustering procedure. To do so, we propose the following roadmap: (1) some conditions under which a spectral algorithm can recover the correct partition of random graph sampled from a SBM have been already established. We propose to take the converse path and study how the spectrum of the graph Laplacian plays with estimators originating from SBM. The focus will be set on variational estimators, very popular in the machine learning community thanks to their tractable expression which makes them appealing both theoretically and in practice. (2) Understanding the links between the different approaches will enable for the rigorous definition of selection criteria for the number of clusters in deterministic approaches: in particular, we aim to set a relation between SBM penalized selection criteria and the spectral gap of graph clustering. (3) Study the robustness of SBM and representation methods in a misspecified context, i.e. when these models are known to be wrong. Simulations will be made to support the theoretical research.