Vers des explications post hoc fiables pour l'apprentissage automatique sur les données tabulaires et leurs applications

Towards Reliable Post Hoc Explanations for Machine Learning on Tabular Data and their Applications

• Auteur / Autrice : Célia Ayad
• Direction : Jesse Read
• Type : Projet de thèse
• Discipline(s) : Informatique, données, IA
• Date : Soutenance en 2024
• Etablissement(s) : Institut polytechnique de Paris
• Ecole(s) doctorale(s) : École doctorale de l'Institut polytechnique de Paris
• Partenaire(s) de recherche : Laboratoire : LIX - Laboratoire d'informatique
• Jury : Président / Présidente : Albert Bifet
• Jury : Examinateurs / Examinatrices : Jesse Read, Nistor Grozavu, Alicia Troncoso
• Jury : Rapporteur / Rapporteuse : Nistor Grozavu, Alicia Troncoso

Mots clés

Mots clés libres

Apprentissage automatique

Apprentissage non supervisé (intelligence artificielle)

Modèles stochastiques d'apprentissage

Machine learning

Explainability of machine learning models

Tabular data

Résumé

Alors que l’apprentissage automatique continue de démontrer de solides capacités prédictives, il est devenu un outil très précieux dans plusieurs domaines scientifiques et industriels. Cependant, à mesure que les modèles ML évoluent pour atteindre une plus grande précision, ils deviennent également de plus en plus complexes et nécessitent davantage de paramètres. Être capable de comprendre les complexités internes et d’établir une confiance dans les prédictions de ces modèles d’apprentissage automatique est donc devenu essentiel dans divers domaines critiques, notamment la santé et la finance. Les chercheurs ont développé des méthodes d’explication pour rendre les modèles d’apprentissage automatique plus transparents, aidant ainsi les utilisateurs à comprendre pourquoi les prédictions sont faites. Cependant, ces méthodes d’explication ne parviennent souvent pas à expliquer avec précision les prédictions des modèles, ce qui rend difficile leur utilisation efficace par les experts du domaine. Il est crucial d'identifier les lacunes des explications du ML, d'améliorer leur fiabilité et de les rendre plus conviviales. De plus, alors que de nombreuses tâches de ML sont de plus en plus gourmandes en données et que la demande d'intégration généralisée augmente, il existe un besoin pour des méthodes offrant de solides performances prédictives de manière plus simple et plus rentable. Dans cette thèse, nous abordons ces problèmes dans deux axes de recherche principaux: 1) Nous proposons une méthodologie pour évaluer diverses méthodes d'explicabilité dans le contexte de propriétés de données spécifiques, telles que les niveaux de bruit, les corrélations de caractéristiques et le déséquilibre de classes, et proposons des conseils aux praticiens et aux chercheurs pour sélectionner la méthode d'explicabilité la plus appropriée en fonction des caractéristiques de leurs ensembles de données, révélant où ces méthodes excellent ou échouent. De plus, nous fournissons aux cliniciens des explications personnalisées sur les facteurs de risque du cancer du col de l’utérus en fonction de leurs propriétés souhaitées telles que la facilité de compréhension, la cohérence et la stabilité. 2) Nous introduisons Shapley Chains, une nouvelle technique d'explication conçue pour surmonter le manque d'explications conçues pour les cas à sorties multiples où les étiquettes sont interdépendantes, où les caractéristiques peuvent avoir des contributions indirectes pour prédire les étiquettes ultérieures dans la chaîne (l'ordre dans lequel ces étiquettes sont prédit). De plus, nous proposons Bayes LIME Chains pour améliorer la robustesse de Shapley Chains.

As machine learning continues to demonstrate robust predictive capabili- ties, it has emerged as a very valuable tool in several scientific and indus- trial domains. However, as ML models evolve to achieve higher accuracy, they also become increasingly complex and require more parameters. Being able to understand the inner complexities and to establish trust in the pre- dictions of these machine learning models, has therefore become essential in various critical domains including healthcare, and finance. Researchers have developed explanation methods to make machine learning models more transparent, helping users understand why predictions are made. However, these explanation methods often fall short in accurately explaining model predictions, making it difficult for domain experts to utilize them effectively. It’s crucial to identify the shortcomings of ML explanations, enhance their reliability, and make them more user-friendly. Additionally, with many ML tasks becoming more data-intensive and the demand for widespread inte- gration rising, there is a need for methods that deliver strong predictive performance in a simpler and more cost-effective manner. In this disserta- tion, we address these problems in two main research thrusts: 1) We propose a methodology to evaluate various explainability methods in the context of specific data properties, such as noise levels, feature correlations, and class imbalance, and offer guidance for practitioners and researchers on selecting the most suitable explainability method based on the characteristics of their datasets, revealing where these methods excel or fail. Additionally, we pro- vide clinicians with personalized explanations of cervical cancer risk factors based on their desired properties such as ease of understanding, consistency, and stability. 2) We introduce Shapley Chains, a new explanation technique designed to overcome the lack of explanations of multi-output predictions in the case of interdependent labels, where features may have indirect con- tributions to predict subsequent labels in the chain (i.e. the order in which these labels are predicted). Moreover, we propose Bayes LIME Chains to enhance the robustness of Shapley Chains.