Etude d’un algorithme hiérarchique de codage épars et prédictif : vers un modèle bio-inspiré de la perception visuelle

Sparse deep predictive coding : a bio-inspired model of visual perception

• Auteur / Autrice : Victor Boutin
• Direction : Laurent Perrinet, Franck Ruffier
• Type : Thèse de doctorat
• Discipline(s) : Neurosciences
• Date : Soutenance le 13/03/2020
• Etablissement(s) : Aix-Marseille
• Ecole(s) doctorale(s) : École Doctorale Sciences de la Vie et de la Santé (Marseille)
• Partenaire(s) de recherche : Laboratoire : Institut des Neurosciences de la Timone - Institut des Sciences du Mouvement Etienne Jules Marey (ISM)
• Jury : Président / Présidente : Mossadek Talby
• Jury : Examinateurs / Examinatrices : Ryad Benosman, Simon Thorpe, Sid Kouider, Yves Frégnac, Sandrine Anthoine
• Jury : Rapporteur / Rapporteuse : Ryad Benosman, Simon Thorpe

Mots clés

Mots clés contrôlés

Neurones

Cortex visuel

Codage

Mots clés libres

Codage épars

Codage prédictif

Modèle hiérarchique

Réseaux récurrents convolutifs

Bio-Inspiration

Perception visuelle

Sparse coding

Predictive coding

Hierarchical model

Recurrent convolutional network

Bio-Inspiration

Visual perception

Résumé

La représentation concise et efficace de l'information est un problème qui occupe une place centrale dans l'apprentissage machine. Le cerveau, et plus particulièrement le cortex visuel, ont depuis longtemps trouvé des solutions performantes et robustes afin de résoudre un tel problème. A l'échelle locale, le codage épars est l'un des mécanismes les plus prometteurs pour modéliser le traitement de l'information au sein des populations de neurones dans le cortex visuel. A l'échelle structurelle, le codage prédictif suggère que les signaux descendants observés dans le cortex visuel modulent l'activité des neurones pour inclure des détails contextuels au flux d'information ascendant. Cette thèse propose de combiner codage épars et codage prédictif au sein d'un modèle hiérarchique et convolutif. D'un point de vue computationnel, nous démontrons que les connections descendantes, introduites par le codage prédictif, permettent une convergence meilleure et plus rapide du modèle. De plus, nous analysons les effets des connections descendantes sur l'organisation des populations de neurones, ainsi que leurs conséquences sur la manière dont notre algorithme se représente les images. Nous montrons que les connections descendantes réorganisent les champs d'association de neurones dans V1 afin de permettre une meilleure intégration des contours. En outre, nous observons que ces connections permettent une meilleure reconstruction des images bruitées. Nos résultats suggèrent que l'inspiration des neurosciences fournit un cadre prometteur afin de développer des algorithmes de vision artificielles plus performants et plus robustes.

Building models to efficiently represent images is a central and difficult problem in the machine learning community. The neuroscientific study of the early visual cortical areas is a great source of inspiration to find economical and robust solutions. For instance, Sparse Coding (SC) is one of the most successful frameworks to model neural computation at the local scale in the visual cortex. At the structural scale of the ventral visual pathways, the Predictive Coding (PC) theory has been proposed to model top-down and bottom-up interaction between cortical regions. The presented thesis introduces a model called the Sparse Deep Predictive Coding (SDPC) that combines Sparse Coding and Predictive Coding in a hierarchical and convolutional architecture. We analyze the SPDC from a computational and a biological perspective. In terms of computation, the recurrent connectivity introduced by the PC framework allows the SDPC to converge to lower prediction errors with a higher convergence rate. In addition, we combine neuroscientific evidence with machine learning methods to analyze the impact of recurrent processing at both the neural organization and representational level. At the neural organization level, the feedback signal of the model accounted for a reorganization of the V1 association fields that promotes contour integration. At the representational level, the SDPC exhibited significant denoising ability which is highly correlated with the strength of the feedback from V2 to V1. These results from the SDPC model demonstrate that neuro-inspiration might be the right methodology to design more powerful and more robust computer vision algorithms.