Algorithmes gloutons orthogonaux sous contrainte de positivité

Orthogonal greedy algorithms for non-negative sparse reconstruction

• Auteur / Autrice : Thi Thanh Nguyen
• Direction : Charles Soussen, Jérôme Idier
• Type : Thèse de doctorat
• Discipline(s) : Automatique, Traitement du signal et des images, Génie informatique
• Date : Soutenance le 18/11/2019
• Etablissement(s) : Université de Lorraine
• Ecole(s) doctorale(s) : École doctorale IAEM Lorraine - Informatique, Automatique, Électronique - Électrotechnique, Mathématiques de Lorraine
• Partenaire(s) de recherche : Laboratoire : Centre de recherche en automatique (Nancy)
• Jury : Président / Présidente : Christian Heinrich
• Jury : Examinateurs / Examinatrices : Christian Heinrich, Charles Dossal, Loïc Denis, El-Hadi Djermoune, Laura Rebollo-Neira
• Jury : Rapporteurs / Rapporteuses : Charles Dossal, Loïc Denis

Mots clés

Mots clés contrôlés

Traitement du signal -- Techniques numériques

Positivité (mathématiques)

Décompositions orthogonales

Représentation parcimonieuse

Algorithmes gloutons

Mots clés libres

Algorithmes gloutons orthogonaux

Reconstruction parcimonieuse

Contrainte de positivité

Moindres carrés positif

Algorithme des contraintes actives

Reconstruction de support exact

Cohérence mutuelle

NP-difficile

Problème minimisé L0

Orthogonal greedy algorithms

Sparse reconstruction

Non-negativity

Non-negative least squares

Active-set algorithms

Exact recovery condition

Mutual coherence

NP-hardness

L0 minimization

Résumé

De nombreux domaines applicatifs conduisent à résoudre des problèmes inverses où le signal ou l'image à reconstruire est à la fois parcimonieux et positif. Si la structure de certains algorithmes de reconstruction parcimonieuse s'adapte directement pour traiter les contraintes de positivité, il n'en va pas de même des algorithmes gloutons orthogonaux comme OMP et OLS. Leur extension positive pose des problèmes d'implémentation car les sous-problèmes de moindres carrés positifs à résoudre ne possèdent pas de solution explicite. Dans la littérature, les algorithmes gloutons positifs (NNOG, pour “Non-Negative Orthogonal Greedy algorithms”) sont souvent considérés comme lents, et les implémentations récemment proposées exploitent des schémas récursifs approchés pour compenser cette lenteur. Dans ce manuscrit, les algorithmes NNOG sont vus comme des heuristiques pour résoudre le problème de minimisation L0 sous contrainte de positivité. La première contribution est de montrer que ce problème est NP-difficile. Deuxièmement, nous dressons un panorama unifié des algorithmes NNOG et proposons une implémentation exacte et rapide basée sur la méthode des contraintes actives avec démarrage à chaud pour résoudre les sous-problèmes de moindres carrés positifs. Cette implémentation réduit considérablement le coût des algorithmes NNOG et s'avère avantageuse par rapport aux schémas approximatifs existants. La troisième contribution consiste en une analyse de reconstruction exacte en K étapes du support d'une représentation K-parcimonieuse par les algorithmes NNOG lorsque la cohérence mutuelle du dictionnaire est inférieure à 1/(2K-1). C'est la première analyse de ce type.

Non-negative sparse approximation arises in many applications fields such as biomedical engineering, fluid mechanics, astrophysics, and remote sensing. Some classical sparse algorithms can be straightforwardly adapted to deal with non-negativity constraints. On the contrary, the non-negative extension of orthogonal greedy algorithms is a challenging issue since the unconstrained least square subproblems are replaced by non-negative least squares subproblems which do not have closed-form solutions. In the literature, non-negative orthogonal greedy (NNOG) algorithms are often considered to be slow. Moreover, some recent works exploit approximate schemes to derive efficient recursive implementations. In this thesis, NNOG algorithms are introduced as heuristic solvers dedicated to L0 minimization under non-negativity constraints. It is first shown that the latter L0 minimization problem is NP-hard. The second contribution is to propose a unified framework on NNOG algorithms together with an exact and fast implementation, where the non-negative least-square subproblems are solved using the active-set algorithm with warm start initialisation. The proposed implementation significantly reduces the cost of NNOG algorithms and appears to be more advantageous than existing approximate schemes. The third contribution consists of a unified K-step exact support recovery analysis of NNOG algorithms when the mutual coherence of the dictionary is lower than 1/(2K-1). This is the first analysis of this kind.