Réseaux génératifs adversaires en histopathologie numérique : transfert de coloration et invariance des modèles d'apprentissage profond aux variations de colorations

Generative adversarial networks in digital histopathology : stain transfer and deep learning model invariance to stain variation

• Auteur / Autrice : Jelica Vasiljević
• Direction : Cédric Wemmert, Srdjan Stanković
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 22/09/2022
• Etablissement(s) : Strasbourg
• Ecole(s) doctorale(s) : École doctorale Mathématiques, sciences de l'information et de l'ingénieur (Strasbourg ; 1997-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire des sciences de l'ingénieur, de l'informatique et de l'imagerie (Strasbourg ; 2013-....)
• Jury : Président / Présidente : Maja Temerinac Ott
• Jury : Examinateurs / Examinatrices : Odyssée Merveille, Sarah Marie-Solveig Leclerc
• Jury : Rapporteur / Rapporteuse : Maja Temerinac Ott, Xavier Descombes

Mots clés

Mots clés contrôlés

Apprentissage profond

Intelligence artificielle en médecine

Histopathologie

Mots clés libres

Apprentissage profond

Réseaux adversaires génératifs

Transfert de coloration

Invariance de coloration

Deep learning

Generative adversarial networks

Stain transfer

Stain invariance

Résumé

L'histopathologie numérique est un domaine d'innovation très riche, tant dans les applications cliniques que dans la recherche, où les solutions basées sur l'apprentissage profond connaissent un succès remarquable. Cependant, les méthodes actuelles d'apprentissage profond sont des approches gourmandes en données qui nécessitent d'énormes bases de données annotées pour obtenir des modèles performants. Or, le domaine médical est connu pour sa difficulté à obtenir des données et des annotations - la collecte de données relève d'une réglementation stricte et contraignante, tandis que seuls des experts peuvent effectuer des annotations de haute qualité, ce qui est un processus laborieux et coûteux. De plus, compte tenu des variations qui peuvent se produire en raison du processus et des protocoles de coloration, les données déjà collectées et annotées ne peuvent être réutilisées qu'avec un succès limité. Une telle variation de la coloration représente un changement de domaine et affecte considérablement les solutions basées sur l'apprentissage profond dans la pratique. Cela devient plus évident encore lorsque l’apprentissage se focalise sur des structures biologiques visibles avec plusieurs colorations, car les solutions développées en utilisant les données d'une coloration sont susceptibles d'échouer lorsqu'elles sont appliquées à une autre. Cette thèse étudie le potentiel des réseaux adversaires génératifs (GAN) dans deux directions pour résoudre ces problèmes - le transfert de colorations pour permettre la réutilisation de bases de données déjà disponibles et le développement de modèles invariants aux colorations qui réduiraient le besoin d'acquisition de données ou d'annotations supplémentaires. L'application principale de la thèse est la segmentation des glomérules en pathologie rénale avec de multiples colorations.

Digital histopathology has become a rich area of innovation in both clinical application and research, where deep-learning-based solutions have remarkable success. However, current state-of-the-art deep learning methods are data-hungry approaches which require huge, annotated data collections to perform well. Nevertheless, the medical domain is known for its scarcity of data and annotations — collecting data falls under strict low regulations while experts only can perform high-quality annotations, which is a laborious and expensive process. Moreover, considering the variations that can occur due to the staining process and staining protocols, already collected and annotated datasets can only be reused with limited success. Such stain variation represents a source of domain shift and significantly affects deep learning-based solutions in practice. This becomes more evident when a deep learning task tackles problems related to structures visible under multiple stains as solutions developed using the data from one staining are likely to fail when applied to the other. This thesis investigates the potential of Generative Adversarial Networks (GANs) in two directions for addressing these problems — stain transfer to enable reusing already available data collections; and developing stain invariant solutions which would alleviate the need for additional data acquisition or annotations. The application focus of the thesis is glomeruli segmentation in renal pathology with multiple stainings.