Vers une explicabilité et transparence des modèles d'intelligence artificielle de détection d'anomalies dans les trajectoires et les séries temporelles

Towards explainability and transparency of artificial intelligence models for detecting anomalies in trajectories and time series

• Auteur / Autrice : Zakaria Ezzahed
• Direction : Christophe Hurter, Xavier Olive
• Type : Projet de thèse
• Discipline(s) : Informatique et Télécommunications
• Date : Inscription en doctorat le 03/10/2022
• Etablissement(s) : Toulouse, École nationale de l’aviation civile
• Ecole(s) doctorale(s) : École doctorale Mathématiques, informatique et télécommunications (Toulouse)
• Partenaire(s) de recherche : Laboratoire : ENAC-LAB - Laboratoire de Recherche ENAC

Mots clés

Mots clés libres

Intelligence artificielle explicable

Apprentissage automatique

Détection d'anomalies

Trafic aérien

Explainable artificial intelligence

Machine learning

Anomaly detection

Résumé

Les modèles neuronaux d'intelligence artificielle, pour des tâches de régression, de classification, de segmentation ou de détection d'anomalies, souffrent tous d'un manque de transparence et d'explication. Ces algorithmes sont aujourd'hui capables de produire en masse des résultats de traitement de données mais ne permettent pas de fournir une explication de leurs résultats compréhensible par l'utilisateur sans nécessiter des connaissances techniques liées au modèle. Ce manque d'explication et de transparence sont des freins pour l'acceptabilité, la confiance aux systèmes informatiques et surtout à la certification des systèmes industriels critiques. Les récentes contributions scientifiques en matière d'explicabilité tendent à favoriser des modèles à base d'arbres de décision qui expliquent a posteriori le comportement du modèle appris. Cette approche ne répond que partiellement au problème : les modèles deviennent certes explicables mais l'explication reste trop abstraite pour un expert métier, même familier de la structuration des modèles utilisant du machine learning ou de l'intelligence artificielle. L'objectif de cette thèse est d'aborder la problématique de l'explicabilité sous la forme d'une couche supplémentaire à un modèle neuronal de détection d'anomalies. L'explicabilité revient ici à transformer la sortie du modèle en explication des raisons de l'anomalie. Ce travail nécessite en amont d'adopter un design centré sur l'utilisateur, la compréhension de son activité et les critères opérationnels qui lui permettent d'établir un diagnostic ; puis de remplacer les dernières couches d'un réseau de neurones par un modèle de classification qui apporte une explication dans la nomenclature connue de l'expert. Cette approche pourra être appliquée à des problématiques classiques de gestion du trafic aérien (comportement d'avions atypiques/à risque en approche, profils de montée atypiques par rapport à la consommation de carburant) et de la gestion de la maintenance flottes aériennes. Une bibliographie est disponible sur demande.

Artificial intelligence neural models, for regression, classification, segmentation or anomaly detection tasks, all suffer from a lack of transparency and explanation. These algorithms are now able to mass-produce data processing results but do not provide an explanation of their results understandable by the user without requiring technical knowledge related to the model. This lack of explanation and transparency are barriers to acceptability, trust in computer systems and especially the certification of critical industrial systems. Recent scientific contributions in explainability tend to favor models based on decision trees that explain a posteriori the behavior of the learned model. This approach only partially solves the problem: the models certainly become explainable, but the explanation remains too abstract for a business expert, even familiar with the structuring of models using machine learning or artificial intelligence. The objective of this thesis is to address the problem of explainability in the form of an additional layer to a neural model of anomaly detection. Explicability here amounts to transforming the output of the model into an explanation of the reasons for the anomaly. This work requires upstream to adopt a design centered on the user, the understanding of his activity and the operational criteria which allow him to establish a diagnosis; then to replace the last layers of a neural network with a classification model that provides an explanation in the nomenclature known to the expert. This approach can be applied to classic air traffic management issues (atypical/at-risk aircraft behavior on approach, atypical climb profiles in relation to fuel consumption) and air fleet maintenance management. A bibliography is available on request.