Exploiter des méthodes semi-supervisés et d'auto-entraînement pour l'apprentissage fédéré appliqué à la classification et détection de lésions en mammographie

Leveraging semi-supervised and self-training methods for Federative Learning applied to lesion classification and detection in mammography

• Auteur / Autrice : Gonzalo Quintana
• Direction : Mathilde Mougeot, Agnès Desolneux
• Type : Projet de thèse
• Discipline(s) : Mathématiques appliquées
• Date : Inscription en doctorat le 08/10/2021
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale de mathématiques Hadamard
• Partenaire(s) de recherche : Laboratoire : Centre de mathématiques et de leurs applications (1990-2019 ; Cachan, Val-de-Marne)
• Partenaire(s) de recherche : Equipe de recherche : Apprentissage statistique et données massives
• Partenaire(s) de recherche : référent : École normale supérieure Paris-Saclay (Gif-sur-Yvette, Essonne ; 1912-....)

Mots clés

Mots clés libres

Apprentissage fédéré

Apprentissage semi-supervisé

Détection assistée par ordinateur

Auto-entraînement

Apprentissage auto-supervisé

Adaptation de domaine

Federated Learning

Semi-supervised Learning

Computer Aided Detection

Self-learning

Self-supervised Learning

Domaine Adaptation

Résumé

Le cancer du sein est l'un des cancers les plus fréquents chez les femmes en Amérique du Nord et en Europe. Par exemple, en France, le cancer du sein était la principale cause de décès par cancer chez les femmes en 2016. Le cancer du sein a, à lui seul, représenté 25 % de tous les cas de cancer et 15 % de tous les décès par cancer chez les femmes dans le monde en 2012. Des études ont montré que la détection précoce est la clé pour améliorer le taux de survie au cancer du sein. Lorsque le cancer du sein est diagnostiqué à un stade précoce, la patiente peut être guérie dans neuf cas sur dix. Les techniques d'imagerie jouent un rôle important dans la détection, le diagnostic et le suivi thérapeutique du cancer du sein. Pour le dépistage et le diagnostic du cancer du sein, les techniques d'imagerie mammaire aux rayons X, y compris la mammographie numérique plein champ et la tomosynthèse mammaire numérique, sont les modalités les plus cliniquement mises en œuvre. La mammographie numérique plein champ (full field digital mammography ou FFDM, en anglais) est une technique d'imagerie radiographique bidimensionnelle (2D) du sein. Lors d'une acquisition FFDM, des images 2D (mammographies) du sein compressé sont obtenues, reflétant une atténuation des rayons X au niveau des pixels du sein imagé. Aujourd'hui, la FFDM est largement reconnue comme étant efficace pour réduire la mortalité par cancer du sein dans une population asymptomatique. Néanmoins, la sensibilité de la FFDM varie de 47,8% pour les seins les plus denses à 98% pour les seins les moins denses (77,6% en moyenne). La principale limitation de la sensibilité de la FFDM est due au chevauchement des tissus mammaires, ce qui pourrait diminuer la visibilité des lésions, en particulier dans les seins denses. Cela peut également créer de faux signes ressemblant à des résultats radiologiques, ce qui entraîne des rappels inutiles. Ces dernières années, la tomosynthèse mammaire numérique (digital breast tomosynthesis, DBT, ou mammographie 3D) a été introduite pour atténuer en partie le problème du chevauchement des tissus mammaires dans la FFDM. La DBT est une technique d'imagerie tridimensionnelle (3D) du sein basée sur la plateforme FFDM. Lors d'une acquisition DBT, plusieurs projections du sein comprimé sont acquises avec le tube à rayons X se déplaçant autour du sein dans une plage angulaire limitée (généralement entre 15 et 50 degrés). Un algorithme de reconstruction est ensuite utilisé pour obtenir un volume 3D du sein. Étant donné que les projections DBT sont acquises sur une plage angulaire limitée, les volumes DBT reconstruits ont une résolution en profondeur limitée et sont généralement examinés en faisant défiler dans le sens de la profondeur, à travers une pile d'images 2D parallèles au plan du détecteur, comme les mammographies 2D. Grâce à plusieurs essais cliniques récents à grande échelle, il a été démontré que la DBT améliore le taux de détection du cancer du sein par rapport à la FFDM, soit en tant que modalité autonome, soit en combinaison avec la FFDM. Dans le dépistage du cancer du sein par mammographie d'aujourd'hui, le taux de rappel moyen varie de 5 % à 12 %, tandis que moins de 5 % des patientes rappelées reçoivent un diagnostic de cancer du sein. L'amélioration de l'efficacité du dépistage du cancer du sein par mammographie est nécessaire dans la pratique clinique. Les systèmes de détection ou de diagnostic assistés par ordinateur (computer aided detection or diagnosis ou CAD, en anglais) sont conçus pour aider les cliniciens à détecter ou à classer les anomalies potentielles dans les examens cliniques. Au cours des deux dernières décennies, les systèmes CAD ont été largement développés pour la détection et le diagnostic du cancer du sein afin d'améliorer l'efficacité du dépistage et du diagnostic en mammographie. Depuis lors, plusieurs systèmes commerciaux de CAD 2D FFDM et 3D DBT ont été approuvés par les organismes de réglementation pour l'utilisation dans les pratiques cliniques. Au cours des dernières années, peuplées par le succès de l'intelligence artificielle et l'apprentissage profond (Deep Learning ou DL), il y a une forte tendance à développer des systèmes CAD basés sur le DL. Cependant, la nature axée sur les données du DL présente plusieurs défis au développement de ces CADs pour la mammographie en termes de collecte de données, de confidentialité des données et d'annotations d'experts. Les systèmes CAD existants basés sur le Deep Learning sont généralement développés à l'aide d'ensembles de données allant de dizaines à des centaines de milliers d'examens de patients. La mise en œuvre de la collecte de données de mammographie implique une préparation longue et fastidieuse, concernant les contrats et les détails d'exécution en collaboration avec les sites cliniques, et fait face à des défis juridiques concernant la protection de la confidentialité des données de santé, l'anonymisation et la désidentification des données des patients. Compte tenu de l'énorme besoin de données, la collecte de données reste le principal défi du développement de systèmes CAD basés sur l'apprentissage profond. De plus, les algorithmes de DL de pointe sont dominés par le paradigme de l'apprentissage supervisé, ce qui introduit un défi important dans le développement de ce type de CADs, en raison de la charge de travail requise pour obtenir des annotations précises d'experts, qui sont la plupart du temps des cliniciens. Enfin, le développement de systèmes CAD basés sur le DL repose non seulement sur d'énormes quantités de données et des annotations précises, mais également sur la variabilité des données d'entraînement entre différentes populations de patients. En raison du domain shift, un algorithme entraîné sur une population spécifique n'aura pas de bonnes performances sur un ensemble de données représentatif d'une autre population. Compte tenu des difficultés de collecte de données, des problèmes de confidentialité et de l'accès à des annotations précises en mammographie, la nécessité de collecter des données auprès de différentes populations rend le développement des CADs basés sur le DL encore plus difficile. En résumé, pour le développement des CADs basés sur le DL pour la mammographie, des recherches doivent être menées pour atténuer les défis liés aux données. Plus précisément, les méthodologies qui peuvent accélérer le processus de collecte de données, réduire ou atténuer les problèmes de confidentialité et les efforts d'annotation, en tenant compte de la variabilité et de l'hétérogénéité associées aux données de mammographie de différentes populations, doivent être étudiées. L'apprentissage fédéré (Federated Learning ou FL) est un nouveau paradigme d'apprentissage automatique qui a connu une traction accrue dans le domaine médical. Il atténue le besoin de collecter explicitement les données vers un emplacement centralisé, en décentralisant les copies des modèles et le processus d'apprentissage vers les emplacements où les données sont produites. Le modèle final est obtenu en agrégeant de manière collaborative les mises à jour de modèles calculées localement. Cependant, bien qu'il résolve le problème de la collecte de données, de préservation de la confidentialité des données, et de l'hétérogénéité statistique des données provenant de différentes sources, le FL n'améliore pas l'efficacité du processus d'annotation des données. Ce problème peut être atténué par l'apprentissage semi-supervisé, un paradigme d'apprentissage automatique qui permet l'entraînement de modèles en utilisant des données non annotées en combinaison avec des données annotées. Les progrès récents de l'entraînement semi-supervisé pour les modèles d'apprentissage profond ont montré qu'en exploitant d'énormes quantités de données supplémentaires non étiquetées, les performances du modèle dans les tâches supervisées telles que la classification et la détection d'objets peuvent être considérablement améliorées, par rapport à un apprentissage effectué uniquement sur des données étiquetées. De nos jours, les performances des modèles d'entraînement semi-supervisés tendent à se rapprocher de celles des modèles d'entraînement supervisés, en utilisant une faible proportion de données étiquetées (jusqu'à 10 %). Bien qu'il existe actuellement une tendance de recherche croissante à appliquer des techniques de pointe semi-supervisées et d'auto-apprentissage en imagerie médicale, peu a été fait pour la mammographie. Cette thèse vise à relever les défis de données mentionnés ci-dessus dans le développement d'un CAD basé sur l'apprentissage profond pour la mammographie, en combinant les apprentissages fédéré et semi-supervisé. On développera des modèles de détection et de classification basés sur le Deep Learning pour la FFDM 2D et la DBT 3D qui exploitent des données non étiquetées en utilisant des techniques semi-supervisées, et on les entraînera de manière fédérée. Pour valider l'architecture mise en œuvre, on va d'abord simuler un environnement d'apprentissage fédéré, en distribuant des jeux de données de mammographie multi-sources à différents serveurs locaux. La conception de la simulation doit être soigneusement pensée pour imiter des configurations de dépistage mammographiques réalistes à partir de différents sites dans différentes populations. Les performances du modèle entraîné à l'aide de l'apprentissage fédéré seront comparées à celles des modèles formés sur des serveurs individuels. Enfin, un déploiement potentiel de l'architecture implémentée sur des sites cliniques pourra être envisagé au cours de cette thèse.

Breast cancer is one of the most common cancers among women in North America and in Europe. For instance, in France, breast cancer was the main cause of cancer deaths among women in 2016. Breast cancer alone accounts for 25% of all cancer cases and 15% of all cancer deaths among women worldwide in 2012. Studies have shown that early detection is key to improving breast cancer survival rate. When breast cancer is diagnosed at an early stage, the patient can be cured in nine over ten cases. Imaging techniques play an important role in breast cancer detection, diagnosis, and therapy follow-up. For screening and diagnosis of breast cancer, x-ray breast imaging techniques, including full field digital mammography and digital breast tomosynthesis are the most clinically implemented modalities. Full field digital mammography (FFDM), is a two-dimensional (2D) x-ray imaging technique of the breast. During an FFDM acquisition, 2D images (mammograms) of the compressed breast are obtained, reflecting a pixelwise x-ray attenuation of the imaged breast. Today, FFDM is widely acknowledged to be effective in reducing breast cancer mortality over an asymptomatic population. Nevertheless, the sensitivity of FFDM varies from 47.8% for the densest breasts to 98% for the least dense breasts (77.6% in average). The primary limitation of FFDM's sensitivity is due to the overlap of breast tissue, which could decrease lesion visibility, especially in dense breasts. Breast tissue overlapping may also create false signs resembling radiological findings, resulting in unnecessary recalls. In recent years, digital breast tomosynthesis (DBT or 3D mammography), was introduced to partially alleviate the issue of breast tissue overlap in FFDM. DBT is a three-dimensional (3D) imaging technique of the breast based on the FFDM platform. During a DBT acquisition, multiple projections of the compressed breast are acquired with the x-ray tube moving around the breast within a limited angular range (typically between 15 and 50 degrees). A reconstruction algorithm is then used to obtain a 3D volume of the breast. Since DBT projections are acquired over a limited angular range, reconstructed DBT volumes have limited depth resolution and are typically reviewed by scrolling in the depth direction, through a stack of 2D images parallel to the detector plane, like 2D mammograms. Through several recent large population clinical trials, DBT has been shown to improve breast cancer detection rate compared to FFDM, either as a stand-alone modality, or combined with FFDM. In today's breast cancer screening with mammography, the average recall rate varies from 5% to 12%, while less than 5% of recalled patients are diagnosed with breast cancer. Improving the efficiency of mammography breast cancer screening is needed in clinical practice. Computer aided detection or diagnosis (CAD) systems are designed to assist clinicians in detecting or classifying potential abnormalities in clinical exams. Over the past two decades, CAD systems have been extensively developed for breast cancer detection and diagnosis to improve the efficiency of screening and diagnosing in mammography. Since then, several commercial CAD systems for 2D FFDM and 3D DBT have been approved by regulatory agencies to be used in clinical practices In recent years, populated by the success of artificial intelligence and Deep Learning (DL), there is an emerging trend of developing DL-based CAD systems. However, the data-driven nature of DL introduces several challenges to the development of those CADs for mammography in terms of data collection, data privacy and expert annotations. Existing DL-based CAD systems are typically developed using datasets ranging from tens to hundreds of thousands of patient exams. The implementation of mammography data collection involves a time- and effort-consuming preparation, regarding contracts and execution details in collaboration with clinical sites, and faces legal challenges concerning health data privacy protection, and anonymization and de-identification of patients' data. In light of the huge data requirement, data collection remains the top challenge in developing successful DL-based CAD systems. In addition, state-of-the-art DL algorithms are dominated by the supervised training paradigm, which introduces an important challenge in developing DL-based CADs due to the required workload in obtaining accurate annotations from experts, that are most of the time clinicians. Finally, the successful development of DL-based CAD systems relies not only on huge data quantities and accurate annotations, but also on the variability in training data across different patient populations. Due to domain shift, an algorithm trained on one specific population does not translate its performance well to a dataset representative of another population. Considering the difficulties in data collection, privacy concerns and access to accurate annotations in mammography, the need to collect data from different populations makes the development of DL-based CADs even more challenging. In summary, for the successful development of DL-based CADs for mammography, research needs to be conducted to mitigate data related challenges. Specifically, methodologies that can accelerate the data collection process, reduce, or alleviate privacy concerns and annotation efforts, taking into account the variability and heterogeneity associated with mammography data from different populations, need to be investigated. Federated Learning (FL) is a new emerging training paradigm in machine learning that has seen an increased traction in the domain of digital healthcare. It alleviates the need to explicitly collect data to a centralized location, by decentralizing copies of models and their training process to the locations where data is produced. The final model is obtained by collaboratively aggregating locally computed model updates. However, while it addresses the issues of time- and effort-consuming data collection, data privacy preservation, and the statistical heterogeneity of data from different sources, FL does not improve the efficiency of the data annotation process. This issue can be alleviated by Semi-supervised Learning, a machine learning paradigm that enables model training using unlabeled data in combination with labeled data. Recent advances in semi-supervised training for DL models have shown that, by leveraging huge amounts of additional unlabeled data, model performance in supervised tasks such as classification and object detection can be significantly improved, compared to a training made only on labeled data. Nowadays, the performance of semi-supervised training models tends to approach that of supervised training models, by using a small proportion of labeled data (down to 10%). While there is currently an increased research trend of applying state-of-the-art semi-supervised and self-training techniques in medical imaging, little has been done for mammography. This thesis aims to address the above-mentioned data challenges in developing a DL-based CAD for mammography by combining the approaches of Federated Learning and Semi-supervised Learning. We will develop DL-based detection and classification models for 2D FFDM and 3D DBT that leverage unlabeled data by using semi-supervised techniques, and train them in a federated way. To validate the implemented architecture, we will first simulate a Federated Learning environment in-house, by distributing multi-source mammography datasets to different local servers. The simulation design needs to be carefully thought out to mimic realistic mammography screening set-ups from different sites across different populations. The performance of the model trained using Federated Learning will be compared to those of the models trained on individual servers. Finally, a potential deployment of the implemented architecture on clinical sites may be considered during this thesis.