Modélisation de réseaux de neurones par des chaines de Markov et autres applications

The use of markov chains in the modelling of neural networks and other applications

• Auteur / Autrice : Marie Cottrell
• Direction : Jean L. Bretagnolle
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques
• Date : Soutenance en 1988
• Etablissement(s) : Paris 11
• Partenaire(s) de recherche : Autre partenaire : Université de Paris-Sud. Faculté des sciences d'Orsay (Essonne)

Mots clés

Mots clés contrôlés

Systèmes auto-organisés

Grandes déviations

Modèles mathématiques

Réseaux neuronaux (physiologie)

Markov, Processus de

Mots clés libres

Mémoires associatives

Approximation-diffusion

Liaisons inhibitrices

Résumé

La première partie de la thèse consiste en un article publié (IEEE Trans. Aut. Control Vol. AC 28, n° 9, 1983), avec J. C. Fort et G. Malgouyres, qui propose deux méthodes d'évaluation du temps de sortie d'un bassin d'attraction pour une chaine de Markov ce temps étant extrêmement grand, on utilise pour cela un changement de probabilité exponentiel tant pour une méthode de simulation rapide que pour une approximation diffusion non standard. La deuxième partie comprend deux articles publiés avec J. C. Fort (Annales de l'IHP Probabilités et Statistiques vol. 23, n°1, 1987) et Biological Cybernetics (N° 53, 1986). Le premier donne une démonstration de la convergence de l'algorithme d'auto-organisation de Kohonen en dimension 1. Dans le second, nous définissons un algorithme d’auto-organisation qui est une version simplifiée de celui de Kohonen, et nous démontrons sa convergence en dimensions 1 et 2. Dans la troisième partie, publiée dans Biological Cybernetics (n°58, 1988) nous résolvons le problème du calcul de la matrice de connexions pour un réseau de neurones de type Mac Culloch et Pitts ou Hopfield, qui permette d'obtenir la plus grande attractivité possible, dans le cas de l'algorithme déterministe et de patrons non nécessairement orthogonaux. De plus nous calculons pour une matrice de connexion donnée l'attractivité de chaque patron mémorisé. La dernière partie est consacrée à l'étude du rôle de l'inhibition dans un réseau de neurones connectés aux plus proches voisins. Le modèle choisi est proche de la réalité biologique du cortex cérébelleux chez le jeune animal. On montre que tant que l'inhibition est plus faible qu'un certain seuil, le réseau est ergodique et que s'installe rapidement un régime stationnaire. Au contraire, lorsque l’inhibition s’accroit, on provoque des réponses en bandes ou moirures, dont la forme et la largeur dépendent du type de voisinage considéré.

The first part of the thesis consists of a paper published in IEEE Trans. Aut. Control (vol. AC-28, n°9, 1983), with J. C. Fort and G. Malgouyres. It gives two methods of calculating the exit time of a Markov chain from an attraction domain this time is extremely long, sa we use an exponential change of probability (that of large deviations theory), for a fast simulation and a non-standard approximation by diffusion. The second part includes two papers published with J. C. Fort in the Annales de l'IHP, Probabilités and Statistiques (vol. 23, n° 1, 1987}, and in Biological Cybernetics (n° 53, 1986). In the first one, we prove the convergence of Kohonen's self-organizing algorithm, in dimension 1. In the second one, we define another self-organizing algorithm, which is a simplified variant of Kohonen's, and we prove its convergence in dimensions 1 and 2. In the third part, published in Biological Cybernetics (n°58, 1988), we solve the problem of the connection matrix calculus for a Mac-Culloch or Hopfield neural network, so as to get the largest attractivity for the deterministic algorithm and non-orthogonal patterns. Then we calculate the attractivity of each memorized pattern, for a given connection matrix. The last part is devoted to the study of the role of inhibition in a nearest-neighbours-connected neural network. The model closely ressembles the biological reality of the young animal's cerebellar cortex. We prove that, when inhibition is smaller than a certain threshold, the network is ergodic and works in a stationary way. Conversely, when inhibition increases, striped or moiré responses appear, whose form and width depend on the considered neighbourhood size.