Modèles prudents pour l'IA adaptative

Cautious models for adaptative AI

• Auteur / Autrice : Théo Dupuy
• Direction : Abdelhak Imoussaten, Stéphane Perrey
• Type : Projet de thèse
• Discipline(s) : Informatique
• Date : Inscription en doctorat le 01/10/2024
• Etablissement(s) : IMT Mines Alès
• Ecole(s) doctorale(s) : École Doctorale Information, Structures, Systèmes
• Partenaire(s) de recherche : Laboratoire : EuroMov Digital Health in Motion

Mots clés

Mots clés libres

Quantification de l'incertitude dans l'IA

Prédiction prudente

IA fiable

IA adaptative

Adaptative AI

Cautious prediction

Uncertainty quantification in AI

Trustworthy AI

Résumé

Ce sujet s'intéresse à la prédiction prudente (classification ou régression). Les méthodes de prédiction prudentes sont des méthodes d'apprentissage automatique qui visent à rendre plus fiables et plus robustes les sorties des classifieurs dans le cas où les données sont entachées d'imperfections. Ces méthodes sont d'autant plus nécessaires lorsque l'on applique les méthodes d'apprentissage automatique à des domaines sensibles comme la santé par exemple. Par prédiction prudente, nous entendons fournir un sous-ensemble de candidats (règles, classes, intervalles) auquel nous accordons une large confiance de contenir la vérité. Par exemple, dans le cas de la médecine [1] où un médecin est assisté par une méthode de classification de vision par ordinateur (de telles méthodes sont déjà utilisées en milieu médical [2]), la méthode de classification prudente doit donner une quantification de l'incertitude exploitable, comme un sous-ensemble de prédictions qui couvrent de manière prouvée le vrai diagnostic avec une probabilité élevée (par exemple, 95 %). Il existe un état de l'art très riche en la matière, nous pouvons citer entre autres [3-9] et nous avons fait plusieurs propositions dans ce cadre [10-18]. Ces travaux viennent enrichir les contributions qui visent l'explication et le renforcement de la confiance concernant les prédictions des algorithmes de l'IA.

This project focuses on cautious / conformal / robust prediction (classification or regression). Cautious prediction methods are machine learning techniques designed to make the outputs of classifiers more reliable and robust, especially when the data is imperfect. These methods become crucial when applying machine learning to sensitive fields such as healthcare. By Cautious prediction, we refer to offering a subset of candidates (rules, classes, intervals) that we can confidently believe to contain the truth. For instance, in the realm of medicine [1], where a doctor is aided by a computer vision classification method (such methods are already in use in medical settings [2]), the cautious classification approach must offer a quantifiable measure of uncertainty. This could be a subset of predictions that contains the true diagnosis with a high probability (for example, 95%). There is a rich body of literature on this topic, including [3-9], and we have made several contributions in this area [10-18]. These efforts enhance the contributions aimed at explaining and boosting confidence in the predictions made by AI algorithms.