Transfert d'apprentissage dynamique pour la détection : une approche par apprentissage multitâche

Dynamic Transfer Learning for One-class Classification : a Multi-task Learning Approach

• Auteur / Autrice : Yongjian Xue
• Direction : Pierre Beauseroy
• Type : Thèse de doctorat
• Discipline(s) : Optimisation et Sûreté des Systèmes
• Date : Soutenance le 04/04/2018
• Etablissement(s) : Troyes
• Ecole(s) doctorale(s) : Ecole doctorale Sciences pour l'Ingénieur (Troyes, Aube)
• Partenaire(s) de recherche : Organisme gouvernemental étranger : CSC (China Scholarship Council)
• Partenaire(s) de recherche : Laboratoire : Institut Charles Delaunay / ICD
• Jury : Président / Présidente : Gilles Gasso
• Jury : Examinateurs / Examinatrices : Gilles Gasso, Yves Grandvalet, Edith Grall, Diego Rodolfo Tomassi, Hichem Sahbi
• Jury : Rapporteurs / Rapporteuses : Gilles Gasso, Yves Grandvalet

Mots clés

Mots clés contrôlés

Machines à vecteurs de support

Détection des anomalies (informatique)

Détection du signal

Transfert d'apprentissage

Apprentissage automatique

Mots clés libres

Apprentissage automatique

Transfert d'apprentissage

Détection du signal

Détection des anomalies (informatique)

Machines à vecteurs de support

Machine learning

Transfer of training

Signal detection

Anomaly detection (Computer security)

Support vector machines

Résumé

Le but de cette thèse est de minimiser la perte de performance d'un système de détection lorsqu'il rencontre un changement de distribution de données à la suite d’un événement connu (maintenance, ajout de capteur etc.). L'idée est d'utiliser l'approche d'apprentissage par transfert pour exploiter l'information apprise avant l’événement pour adapter le détecteur au système modifié. Un modèle d'apprentissage multitâche est proposé pour résoudre ce problème. Il utilise un paramètre pour équilibrer la quantité d'informations apportées par l'ancien système par rapport au nouveau. Ce modèle est formalisé de manière à pouvoir être résolu par un SVM mono-classe classique avec une matrice de noyau spécifique. Pour sélectionner le paramètre de contrôle, une méthode qui calcule les solutions pour toutes les valeurs du paramètre introduit et un critère de sélection de sa valeur optimale sont proposés. Les expériences menées dans le cas de changement de distribution et d’ajout de capteurs montrent que ce modèle permet une transition en douceur de l'ancien système vers le nouveau. De plus, comme le modèle proposé peut être formulé comme un SVM mono-classe classique, des algorithmes d'apprentissage en ligne pour SVM mono-classe sont étudiés dans le but d'obtenir un taux de fausses alarmes stable au cours de la phase de transition. Ils peuvent être appliqués directement à l'apprentissage en ligne du modèle proposé

The aim of this thesis is to minimize the performance loss of a one-class detection system when it encounters a data distribution change. The idea is to use transfer learning approach to transfer learned information from related old task to the new one. According to the practical applications, we divide this transfer learning problem into two parts, one part is the transfer learning in homogenous space and the other part is in heterogeneous space. A multi-task learning model is proposed to solve the above problem; it uses one parameter to balance the amount of information brought by the old task versus the new task. This model is formalized so that it can be solved by classical one-class SVM except with a different kernel matrix. To select the control parameter, a kernel path solution method is proposed. It computes all the solutions along that introduced parameter and criteria are proposed to choose the corresponding optimal solution at given number of new samples. Experiments show that this model can give a smooth transition from the old detection system to the new one whenever it encounters a data distribution change. Moreover, as the proposed model can be solved by classical one-class SVM, online learning algorithms for one-class SVM are studied later in the purpose of getting a constant false alarm rate. It can be applied to the online learning of the proposed model directly