TALMed : Traitement Automatique de la Langue Médicale

Medical Natural Language Processing

• Auteur / Autrice : Adrien Bazoge
• Direction : Emmanuel Morin, Béatrice Daille, Pierre-Antoine Gourraud
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 16/01/2024
• Etablissement(s) : Nantes Université
• Ecole(s) doctorale(s) : École doctorale Mathématiques et Sciences et Technologies du numérique, de l’Information et de la Communication (Nantes ; 2022-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire des Sciences du Numérique de Nantes
• Jury : Président / Présidente : Gayo Diallo
• Jury : Examinateurs / Examinatrices : Laure Soulier, Didier Schwab
• Jury : Rapporteurs / Rapporteuses : Laure Soulier, Didier Schwab

Mots clés

Mots clés contrôlés

Traitement automatique du langage naturel

Mots clés libres

TAL clinique

Modèles de langue pré-entrainés

Entrepôts de données de santé

Clinical NLP

Pretrained language models

Clinical data warehouse

Résumé

La collecte massive de données de santé a permis l’émergence d’usages secondaires, notamment la recherche et l’évaluation de la qualité des soins. Pour une utilisation optimale, ces données doivent être harmonisées et stockées dans des entrepôts de données de santé (EDS), souvent sous forme textuelle. Le traitement automatique des langues (TAL) est alors nécessaire pour en extraire des informations à grande échelle. Les méthodes actuelles de TAL s’appuient principalement sur des modèles de langue basés sur l’architecture Transformer, qui nécessitent d’être adaptés au domaine médical pour tirer profit du potentiel de ces modèles. Dans cette thèse, nous explorons deux thématiques : l’adaptation de ces modèles au contexte médical français et leur application en recherche clinique. Premièrement, nous menons plusieurs études d’adaptation au domaine médical de différents modèles pré-entraînés existants. Ces études ont pour but d’évaluer l’impact de différents paramètres pour l’adaptation des modèles, comme la nature des données ou la stratégie de pré-entraînement. Enfin, l’utilisation de ces modèles est étudiée dans deux projets de re- cherche clinique. Le projet GAVROCHE examine la relation entre la variabilité glycémique et la mortalité chez les patients atteints d’in- suffisance cardiaque aiguë. Le second projet vise à extraire des déterminants sociaux de santé à partir des comptes rendus cliniques. Ces cas montrent le potentiel du TAL pour ex- traire des informations cliniques cruciales.

The massive collection of health data has allowed the emergence of secondary uses, including research and the evaluation of the quality of care. For optimal use, these data need to be harmonized and stored in health data warehouses (HDWs), often in tex- tual form. Natural Language Processing (NLP) is then required to extract information on a large scale. Current NLP methods mainly rely on language models based on the Trans- former architecture, which need to be adapted to the medical field to benefit from the poten- tial of these models. In this thesis, we explore two themes: the adaptation of these models to the French medical context and their appli- cation in clinical research. First, we conduct several studies on the adaptation of various pre-existing pre-trained models to the medi- cal field. The aim of these studies is to eval- uate the impact of different parameters for model adaptation, such as the nature of the data or the pre-training strategy. Finally, the use of these models is studied in two clinical research projects. The GAVROCHE project examines the relationship between glycemic variability and mortality in patients with acute heart failure. The second project aims to ex- tract social health determinants from clinical reports. These cases demonstrate the poten- tial of NLP to extract crucial clinical informa- tion.