Méthodes d'Intelligence Artificielle pour le Diagnostic et le Pronostic du Carcinome Hépatocellulaire

AI-Driven Methods in Histopathology for the Diagnosis and Prognosis of Hepatocellular Carcinoma

• Auteur / Autrice : Aymen Sadraoui
• Direction : Jean-Christophe Pesquet, Catherine Guettier, Amel Benazza
• Type : Thèse de doctorat
• Discipline(s) : Sciences du traitement du signal et des images
• Date : Soutenance le 23/01/2026
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale Sciences et technologies de l'information et de la communication (Orsay, Essonne ; 2015-....)
• Partenaire(s) de recherche : Laboratoire : Centre de vision numérique (Gif-sur-Yvette, Essonne) - OPtimisation Imagerie et Santé (OPIS). Inria (Palaiseau, France)
• Partenaire(s) de recherche : Référent : CentraleSupélec (2015-....)
• Partenaire(s) de recherche : graduate school : Université Paris-Saclay. Graduate School Sciences de l’ingénierie et des systèmes (2020-….)
• Jury : Président / Présidente : Caroline Chaux
• Jury : Examinateurs / Examinatrices : Fadoua Drira, Inti Zlobec, Pham Duong-Hung
• Jury : Rapporteurs / Rapporteuses : Fadoua Drira, Inti Zlobec
• DOI : 10.70675/d9ffa14bz15b1z4b97z86abzbc2d9077e2be

Mots clés

Mots clés contrôlés

Pathologie

Carcinome hépatocellulaire

Apprentissage profond

Optimisation mathématique

Réseaux neuronaux (informatique)

Traitement d'images

Mots clés libres

Pathologie computationnelle

Carcinome hépatocellulaire

Apprentissage profond

Optimisation

Réseaux de neurones déroulés

Séparation de colorants

Normalisation de colorants

Computational pathology

Hepatocellular carcinoma

Deep learning

Optimisation

Unrolled neural networks

Stain separation

Stain normalisation

Résumé

Le carcinome hépatocellulaire (CHC) compte parmi les cancers primaires du foie les plus fréquents et les plus mortels à l'échelle mondiale, en grande partie à cause d'un diagnostic souvent tardif et d'un risque élevé de récidive après traitement. Pour améliorer la prise en charge, il est essentiel de disposer à la fois d'un diagnostic précis et d'un pronostic fiable. Or, l'analyse manuelle des lames histologiques numérisées reste longue, variable d'un pathologiste à l'autre et difficilement généralisable à grande échelle. La pathologie digitale et l'intelligence artificielle offrent ainsi une opportunité majeure pour automatiser la détection, la caractérisation de la tumeur et la prédiction d'évolution clinique.Dans cette optique, plusieurs modèles d'apprentissage profond ont été conçus, dans cette thèse, afin de répondre conjointement aux besoins de diagnostic et de pronostic du CHC. Le premier axe de recherche s'est focalisé sur la classification et la caractérisation du CHC à partir de lames microscopiques numérisées, formulées comme un problème de classification à trois classes distinguant les tissus non tumoraux, les architectures tumorales non péjoratives et les architectures péjoratives. Une structure neuronale multi-échelle a été mise en place pour capter à la fois le contexte global du tissu et les détails morphologiques locaux. Sa robustesse a été démontrée par une validation sur plusieurs centres hospitaliers, confirmant de bonnes capacités de généralisation.Le deuxième enjeu concerne la rareté des données annotées, problématique récurrente en imagerie médicale. Pour y remédier, un cadre d'apprentissage transductif peu d'exemples a été développé visant à réaliser une classification histologique en sept classes avec très peu de données annotées. Ce cadre est fondé sur deux approches novatrices, notamment le déroulement d'un algorithme EM généralisé. Cette méthode a surpassé l'état de l'art sur plusieurs jeux de données, démontrant son efficacité dans des contextes cliniques à faibles ressources ou dans des situations souffrant d'un fort déséquilibre de classe.Au-delà du diagnostic, la prédiction du risque de récidive a été abordée via un modèle pronostique conçu pour l'estimer dans les deux ans suivant la chirurgie. Plutôt que de se limiter à une seule famille de descripteurs, un SVM combine des informations sur l'architecture tumorale, la morphologie cellulaire et le contexte inflammatoire, auxquelles s'ajoutent des données clinico-biologiques. La performance du modèle a été confirmée par une validation externe sur trois cohortes indépendantes.Enfin, une dernière contribution cible un problème bien connu en pathologie computationnelle : la variabilité des colorations. Les différences dans les protocoles de préparation et d'apparence des lames peuvent fortement dégrader les performances des modèles d'IA. Pour atténuer cet effet, une approche basée sur des réseaux déroulés a été proposée pour séparer les colorants, puis normaliser les images. En dissociant les composantes Hématoxyline, Éosine et Safran, avant de les recomposer dans un espace colorimétrique standardisé, la méthode harmonise efficacement l'apparence des images, tout en conservant les structures biologiques. Les évaluations comparatives montrent une meilleure stabilité et une cohérence supérieure aux techniques de normalisation existantes.Dans l'ensemble, ces travaux illustrent le potentiel de l'intelligence artificielle pour structurer des chaînes diagnostiques et pronostiques fiables et déployables à grande échelle dans le carcinome hépatocellulaire, ouvrant la voie à une amélioration des pratiques cliniques.

Hepatocellular carcinoma (HCC) is among the most common and deadly primary liver cancers worldwide, largely due to late diagnosis and a high rate of post-treatment recurrence. Improving clinical management requires both accurate diagnosis and reliable prognosis. However, manual assessment of whole-slide histological images is time-consuming, subject to inter-observer variability, and difficult to scale. In this context, digital pathology and artificial intelligence offer a major opportunity to automate tumor detection, characterization, and clinical outcome prediction.In this thesis, we developed several deep learning models to jointly address the diagnostic and prognostic challenges of HCC. The first line of research focused on the classification and characterization of HCC from digitized microscopy slides, formulated as a three-class classification problem distinguishing non-tumoral tissue, non-aggressive tumor architectures, and aggressive architectures. A multi-scale neural framework was designed to capture both global tissue context and local morphological details. Its robustness was demonstrated through validation across multiple hospital centers, confirming strong generalization capabilities.The second challenge concerns the scarcity of annotated data, a recurrent issue in medical imaging. To address this, we developed a transductive few-shot learning framework for seven-class histological classification using very limited annotations. This framework relies on two novel approaches, including the unrolling of a generalized EM algorithm. The method outperformed the state of the art on several datasets, demonstrating its effectiveness in low-resource clinical settings and in scenarios with severe class imbalance.Beyond diagnosis, recurrence risk prediction was addressed through a prognostic model designed to estimate the likelihood of relapse within two years following surgery. Rather than relying on a single family of features, an SVM integrates information on tumor architecture, cellular morphology, and inflammatory context, complemented by clinico-biological data. Model performance was confirmed through external validation on three independent cohorts.Finally, a fourth contribution targets a well-known issue in computational pathology: stain variability. Differences in staining protocols and slide appearance can markedly impair AI model performance. To mitigate this, we proposed an unrolled network-based approach for stain separation and subsequent normalization. By decomposing Hematoxylin, Eosin, and Safran components and recombining them within a standardized color space, the method effectively harmonizes image appearance while preserving biological structures. Comparative evaluations demonstrate improved stability and greater consistency compared to existing normalization techniques.Overall, this work highlights the potential of artificial intelligence to develop robust, scalable diagnostic and prognostic pipelines for hepatocellular carcinoma, paving the way for enhanced clinical practice.