Développement d'un cadre générique pour surveiller et gérer la sécurité des systèmes autonomes pendant l'exécution
Auteur / Autrice : | Raul Sena Ferreira |
Direction : | Jérémie Guiochet, Hélène Waeselynck |
Type : | Thèse de doctorat |
Discipline(s) : | Informatique |
Date : | Soutenance le 09/05/2023 |
Etablissement(s) : | Toulouse 3 |
Ecole(s) doctorale(s) : | École doctorale Systèmes (Toulouse ; 1999-....) |
Partenaire(s) de recherche : | Laboratoire : Laboratoire d'Analyse et d'Architecture des Systèmes (Toulouse ; 1968-....) |
Jury : | Président / Présidente : Frédéric Lerasle |
Examinateurs / Examinatrices : Simon Burton | |
Rapporteur / Rapporteuse : Andrea Bondavalli, Chokri Mraidha |
Mots clés
Résumé
Les classificateurs d'images d'apprentissage automatique (ML) de haute précision ne peuvent garantir qu'ils n'échouera pas à l'opération. Ainsi, leur déploiement dans des applications critiques pour la sécurité telles que véhicules autonomes est encore une question ouverte. L'utilisation de mécanismes de tolérance aux pannes tels que moniteurs de sécurité (SM) est une direction prometteuse pour maintenir le système dans un état sûr malgré les erreurs de le classificateur ML. Comme la prédiction du ML est l'information de base ayant un impact direct sur la sécurité, de nombreux travaux se concentrent sur la surveillance du modèle ML lui-même. Cette thèse porte sur de telles approches en couvrant tous les aspects nécessaires pour construire, tester et évaluer le SM en perception fonctions construites avec ML, qui peuvent être résumées comme suit : 1) Une littérature abondante revue dans laquelle nous introduisons une nouvelle taxonomie de la littérature existante concernant la menace l'identification, l'élicitation des exigences, la détection des défaillances et des réactions, et l'évaluation. 2) Un nouveau cadre de référence pour l'analyse comparative de ces SM, couvrant l'ensemble du pipeline, à partir de données génération à l'évaluation. 3) Un test de simulation évolutive de la perception critique pour la sécurité systèmes, qui est capable de diminuer, au moins 10 fois, le temps nécessaire pour trouver un ensemble de risques dans des scénarios critiques pour la sécurité tels que la simulation d'un système de freinage d'urgence autonome. 4) Une nouvelle approche SM hybride pour la surveillance de la sécurité des classificateurs ML.