Applications exploratoires des modèles de spins au traitement automatique de la langue

Exploratory applications of spin models in Natural Language Processing

• Auteur / Autrice : Silvia Fidelina Fernández Sabido
• Direction : Bertrand Berche, Juan-Manuel Torres-Moreno
• Type : Thèse de doctorat
• Discipline(s) : Physique
• Date : Soutenance le 22/05/2009
• Etablissement(s) : Nancy 1
• Ecole(s) doctorale(s) : EMMA
• Partenaire(s) de recherche : Laboratoire : Physique des Matériaux
• Jury : Président / Présidente : Daniel Malterre
• Jury : Examinateurs / Examinatrices : Bertrand Berche, Juan Torres Moreno, Philippe Langlais, Horacio Saggion, Eva Buchi, Daniel Malterre
• Jury : Rapporteurs / Rapporteuses : Mirta Gordon, Philippe Langlais

Mots clés

Mots clés contrôlés

Physique statistique

Traitement automatique du langage naturel

Mots clés libres

Energie textuelle

Verre textuel

Modèle de Hopfield

Compression de phrases

Résumé automatique

Modèle de spin

Frontière thématique

Résumé

Dans cette thèse nous avons exploré la capacité des modèles magnétiques de la physique statistique à extraire l'information essentielle contenue dans les textes. Les documents ont été représentés comme des ensembles d'unités en interaction magnétique, l'intensité de telles interactions a été mesurée et utilisée pour calculer de quantités qui sont des indices de l'importance de l'information portée. Nous proposons deux nouvelles méthodes. Premièrement, nous avons étudié un modèle de spins qui nous a permis d'introduire l'énergie textuelle d'un document. Cette quantité a été utilisée comme indicatrice de pertinence et appliquée à une vaste palette de tâches telles que le résumé automatique, la recherche d'information, la classification de documents et la segmentation thématique. Par ailleurs, et de façon encore exploratoire, nous proposons un deuxième algorithme qui définie un couplage grammatical pour conserver les termes importants et produire des contractions. De cette façon, la compression d'une phrase est l'état fondamental de la chaîne de termes. Comme cette compression n'est pas forcement bonne, il a été intéressant de produire des variantes en permettant des fluctuations thermiques. Nous avons fait des simulations Métropolis Monte-Carlo avec le but de trouver l'état fondamental de ce système qui est analogue au verre de spin.

In this thesis we explored the ability of magnetic models of statistical physics to extract the essential information contained in texts. Documents are represented as sets of interacting magnetic units, the intensity of such interactions are measured and they are used to calculate quantities that are evidence of the importance of information scope. We propose two new methods. Firstly, we studied a spin model which allowed us to introduce the textual energy. This quantity was used as an indicator of information relevance. Several adaptations were necessary to adapt the energy calculation to a wide range of tasks such as summarisation, information retrieval, document classification and thematic segmentation. Furthermore, and even exploratory, we propose a second algorithm that defines a grammatical coupling between types of terms to retain the important terms and produce contractions. In this way, the compression of a sentence is the ground state of the chain of terms. As this compression is not necessarily good, it was interesting produce variants by thermal fluctuations. We have done simulations Metropolis Monte-Carlo with the aim of finding the ground state of this system that is analogous to spin glass.