Matrices efficientes pour le traitement du signal et l'apprentissage automatique

Efficient matrices for signal processing and machine learning

• Auteur / Autrice : Luc Le Magoarou
• Direction : Rémi Gribonval
• Type : Thèse de doctorat
• Discipline(s) : Traitement du Signal et de l'Image
• Date : Soutenance le 24/11/2016
• Etablissement(s) : Rennes, INSA
• Ecole(s) doctorale(s) : École doctorale Mathématiques, télécommunications, informatique, signal, systèmes, électronique (Rennes)
• Partenaire(s) de recherche : Laboratoire : Institut national de recherche en informatique et en automatique (France). Unité de recherche (Rennes, Bretagne-Atlantique) - INRIA Rennes - Panama
• Partenaire(s) de recherche : Insitutution européenne : Conseil européen de la recherche
• Jury : Président / Présidente : Pierre Vandergheynst
• Jury : Examinateurs / Examinatrices : Rémi Gribonval, Pierre Vandergheynst, François Malgouyres, Gabriel Peyré, Christine Guillemot, Karin Schnass
• Jury : Rapporteur / Rapporteuse : François Malgouyres, Gabriel Peyré

Mots clés

Mots clés contrôlés

Optimisation mathématique

Factorisation d'opérateurs

Données massives

Apprentissage automatique

Traitement du signal

Mots clés libres

Transformée rapide

Grande dimension

Factorisation matricielle

Machine learning

Signal processing

Big data

Résumé

Les matrices, en tant que représentations des applications linéaires en dimension finie, jouent un rôle central en traitement du signal et des images et en apprentissage automatique. L'application d'une matrice de rang plein à un vecteur implique a priori un nombre d'opérations arithmétiques de l'ordre du nombre d'entrées non-nulles que contient la matrice. Cependant, il existe des matrices pouvant être appliquées bien plus rapidement, cette propriété étant d'ailleurs un des fondements du succès de certaines transformations linéaires, telles que la transformée de Fourier ou la transformée en ondelettes. Quelle est cette propriété? Est-elle vérifiable aisément? Peut-on approcher des matrices quelconques par des matrices ayant cette propriété? Peut-on estimer des matrices ayant cette propriété? La thèse s'attaque à ces questions en explorant des applications telles que l'apprentissage de dictionnaire à implémentation efficace, l'accélération des itérations d'algorithmes de résolution de de problèmes inverses pour la localisation de sources, ou l'analyse de Fourier rapide sur graphe.

Matrices, as natural representation of linear mappings in finite dimension, play a crucial role in signal processing and machine learning. Multiplying a vector by a full rank matrix a priori costs of the order of the number of non-zero entries in the matrix, in terms of arithmetic operations. However, matrices exist that can be applied much faster, this property being crucial to the success of certain linear transformations, such as the Fourier transform or the wavelet transform. What is the property that allows these matrices to be applied rapidly ? Is it easy to verify ? Can weapproximate matrices with ones having this property ? Can we estimate matrices having this property ? This thesis investigates these questions, exploring applications such as learning dictionaries with efficient implementations, accelerating the resolution of inverse problems or Fast Fourier Transform on graphs.