Attention à l'écart de domaine: Améliorer la généralisation des modèles d'apprentissage profond à des domaines visuels diversifiés

Mind the domain gap: Improving Deep Learning Models Generalization Across Diverse Visual Domains

• Auteur / Autrice : Marin Scalbert
• Direction : Marc Aiguier, Maria Vakalopoulou
• Type : Projet de thèse
• Discipline(s) : Mathématiques appliquées
• Date : Inscription en doctorat le 11/01/2021
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale INTERFACES : approches interdisciplinaires, fondements, applications et innovation
• Partenaire(s) de recherche : Laboratoire : Mathématiques et Informatique pour la Complexité et les Systèmes - EA 4037
• Partenaire(s) de recherche : Référent : CentraleSupélec
• Partenaire(s) de recherche : graduate school : Université Paris-Saclay. Graduate School Sciences de l'ingénierie et des systèmes (2020-....)

Mots clés

Mots clés libres

Pathologie digitale

Deep Learning

Domain Adaptation

Domain Generalization

Generative Modeling

Self-Supervised Learning

Digital pathology

Deep Learning

Domain Adaptation

Domain Generalization

Generative Modeling

Self-Supervised Learning

Résumé

En pathologie digitale (histologie, cytologie), chaque laboratoire/centre médical possède son propre protocole pour colorer et scanner des lames d'échantillons biologiques (tissue, fluide, ....). Ces variations de protocole peuvent induire au niveau des lames scannées des différences de couleurs significatives. Par ailleurs elles rendent difficiles l'utilisation en routine de modèles de Deep Learning en pathologie digitale. En effet, lorsque l'on entraı̂ne un modèle avec des images provenant d'un ou plusieurs protocoles et que l'on teste ce modèle sur des images d'un ou plusieurs nouveaux protocoles, les performances du modèle peuvent chuter drastiquement. Ce problème est plus communément appelé domain shift et les méthodes qui s'intéressent à résoudre ce problème sont dénommées méthodes de domain adaptation. Cette thèse s'attachera à développer de nouvelles méthodes pour la pathologie digitale et robustes au domain shift lié aux variations de protocoles. Les hypothèses des problèmes de domain adaptation considérés seront de difficultés croissantes. Dans un premier temps, nous considérerons les hypothèses classiques des problèmes de domain adaptation, à savoir que l'on disposera des données du/des domaine(s) source et du/des domaine(s) target à tout moment. Dans ce cadre, nous étudierons le cas de protocoles multiples pour les domaines source et d'un nouveau protocole pour le domaine target (multi-source single-target domain adaptation). Nous étudierons ensuite le cas de protocoles multiples pour les domaines source et de multiple nouveaux protocoles pour les domaines target (multi-source multi-target domain adaptation). Dans un second temps, nous ferons l'hypothèse que les données provenant du/des domaine(s) target ne sont pas accessibles durant l'entraı̂nement du modèle mais seulement à la période d'inférence (zero-shot domain adaptation).

In digital pathology (histology, cytology), every laboratory/medical center has its own protocol to stain and scan biological sample slides (tissues, fluids, ...). These protocol variations can induce at the scanned slide level significant colors differences. Furthermore, they make the utilization of deep learning methods for common digital pathology tasks with varying protocol difficult. Indeed, when a model is trained on images coming from a single/multiple protocols and it is tested on images coming from a or several different protocols, the performances of the model can drop drastically. This problem is commonly referred as domain shift and the methods that try to tackle it as domain adaptation methods. Hence, this thesis will focus on the development of new methods for digital pathology and robust to the domain shift related to protocol variations. The settings of the domain adaptation problems will be of incremental difficulty. In a first time, we will consider the classical settings of domain adaptation problems which means source domain(s) data and target domain(s) data are available at any time. In this context, we will study the case of multiple protocols for the source domains and a new protocol for the target domain (multi-source single-target domain adaptation). Then, we will study the case of multiple protocols for the source domains and multiple new protocols for the target domains (multi-source multi-target domain adaptation). In a second time, we will assume that the data from the target domain(s) is no longer available at training time but only at inference time (zero-shot domain adaptation).