Modèles de Langage Souverains pour le Domaine Médical Français

Sovereign Large Language Models for the French Medical Domain

• Auteur / Autrice : Ikram Belmadani
• Direction : Benoit Favre, Richard Dufour
• Type : Projet de thèse
• Discipline(s) : Informatique
• Date : Inscription en doctorat le 01/10/2024
• Etablissement(s) : Aix-Marseille
• Ecole(s) doctorale(s) : Ecole Doctorale Mathématiques et Informatique de Marseille
• Partenaire(s) de recherche : Laboratoire : LIS Laboratoire d'Informatique et Systèmes
• Partenaire(s) de recherche : Equipe de recherche : Traitement Automatique du Langage Ecrit et Parlé

Mots clés

Mots clés libres

Modèles de Langage

Médical

Français

Large Language Models

Medical

French

Résumé

Le projet de thèse vise à développer des modèles de langage souverains et respectueux de la vie privée pour le domaine médical français. Face aux enjeux liés à la sensibilité des données des patients et aux risques de biais, cette recherche se concentre sur quatre axes principaux : les considérations légales et éthiques des LLMs médicaux, l'intégration du traitement du langage parlé, le développement d'études de cas pour évaluer les modèles génératifs, et le déploiement de LLMs dynamiques dans des environnements de santé à ressources limitées. Les objectifs incluent l'élaboration d'une approche novatrice pour former des LLMs spécifiques au domaine, la réduction de la taille des modèles sans perte de performance, et la création d'un cadre d'évaluation continue pour garantir la qualité et l'applicabilité des modèles.

The rapid development of Large Language Models (LLMs) opens new opportunities for natural language processing in the medical sector. These models can be utilized for processing electronic medical records, generating reports, and supporting medical research. However, it is crucial to address concerns related to bias, applicability, and quality control of medical LLMs, especially due to the sensitive nature of patient data. This thesis aims to develop sovereign and privacy-preserving LLMs specifically tailored to the French medical field, focusing on training smaller yet performant models and creating a continuous evaluation framework to ensure ongoing model improvement.