Ancrage des significations dans les motivations sociales intrinsèques pour les modèles linguistiques
| Auteur / Autrice : | Pierre-Emmanuel Marrel |
| Direction : | Alexandre Pitti |
| Type : | Projet de thèse |
| Discipline(s) : | Mathématiques - EM2PSI |
| Date : | Inscription en doctorat le 01/10/2025 |
| Etablissement(s) : | CY Cergy Paris Université |
| Ecole(s) doctorale(s) : | Ecole doctorale Économie, Management, Mathématiques , Physique et Sciences Informatiques (EM2PSI) |
| Partenaire(s) de recherche : | Laboratoire : ETIS - Equipes Traitement de l'Information et Systèmes |
Résumé
Le sujet de thèse porte sur l'ancrage du sens dans les modèles de langage en s'appuyant sur des motivations intrinsèques, avec pour objectif de rapprocher l'apprentissage linguistique des systèmes artificiels de celui des humains. Alors que les modèles de langage de grande taille (LLMs) actuels démontrent des performances remarquables en traitement du langage, ils reposent sur des quantités massives de données textuelles sans commune mesure avec l'exposition réduite dont disposent les enfants pour acquérir le langage. Cette inefficacité proportionnelle pose un enjeu majeur pour la soutenabilité et l'impact environnemental de l'IA générative. De plus, contrairement aux êtres vivants, les LLMs restent dissocié de l'environnement, ce qui empêche leur capacité à relier le langage aux objets, aux actions et aux interactions un défi connu sous le nom de symbol grounding problem. Le projet vise à surmonter ces limites en s'inspirant des mécanismes d'acquisition du langage chez l'enfant, afin de développer des modèles cognitifs de l'apprentissage du langage plus plausibles et de proposer des solutions bio-inspirées améliorant l'efficacité et l'ancrage des modèles. La thèse propose ainsi de concevoir un modèle cognitif qui relie un LLM à un système doté de motivations intrinsèques et capable d'interactions avec un environment. La thèse se repose sur trois axes principaux : (i) enrichir le module de motivation intrinsèque afin qu'il puisse générer de nouvelles motivations émergentes guidées par des besoins homéostatiques, la curiosité et les récompenses; (ii) développer un modèle cognitif intégrant ce système motivationnel à un modèle de langage, permettant à l'agent de comprendre et produire du langage en fonction de ses propres dynamiques internes et expériences sociales. Ces expérimentations permettront de comparer les comportements de l'agent aux trajectoires observées chez l'enfant dans l'acquisition du langage. (iii) et valider l'approche par des expérimentations sur un robot humanoïde (Reachy, Pollen Robotics), allant de protocoles contrôlés à des scénarios inspirés de la psychologie du développement. Ces expérimentations permettront de comparer les comportements de l'agent aux trajectoires observées chez l'enfant dans l'acquisition du langage. Cette recherche s'inscrit dans le projet ANR JCJC GISMo (Grounding Meaning in Intrinsic Social Motivation), coordonné par Laura Cohen (CY Cergy Paris Université), en collaboration avec Julia Ive (University College London, spécialiste des modèles de langage) et Sao Mai Nguyen (ENSTA, experte en motivation intrinsèque). Elle sera menée au sein de l'équipe NEURO du laboratoire ETIS (UMR 8051, CY Cergy Paris Université, ENSEA, CNRS), reconnue pour ses travaux en robotique bio-inspirée, intelligence artificielle et sciences du développement. L'ambition de cette thèse est double : proposer un cadre computationnel innovant permettant aux modèles de langage de devenir des modèles cognitifs pertinents pour l'étude de l'acquisition du langage humain, et ouvrir la voie à des agents robotiques sociaux capables d'apprendre et de s'adapter de manière économe en données, en s'ancrant dans le monde physique et social grâce à des motivations intrinsèques émergentes.