Computing with spikes, architecture, properties and implementation of emerging paradigms

par Horacio Rostro-González

Thèse de doctorat en Automatique, traitement du signal et des images

Sous la direction de Bruno Cessac et de Thierry Viéville.

Soutenue en 2011

à Nice .

mots clés

• Réseaux neuronaux (informatique)
• Systèmes informatiques -- Mise en oeuvre
• Techniques des impulsions (électronique)
• Systèmes dynamiques
• Neurosciences

Titre traduit

Computation impulsionnelle, architecture, propriétés et implémentation de nouveaux paradigmes

Pas de résumé disponible.

Résumé

Dans cette thèse, nous étudions à un niveau pratique comment nous pouvons réaliser des processus computationnels avec des potentiels d’action (spikes). Nous étudions le problème de la programmation d’un système dynamique modélisé comme un réseau de neurones, et nous considérons des implémentations en software et en hardware. Tout d’abord, nous révisons le modèle de réseau de neurones à temps discret introduit par Soula et al. (2006) et nommé ici BMS. L’intérêt d’utiliser ce modèle est dû à son habileté à reproduire des dynamiques assez riches (voir la section 1. 2. 4) et aussi permettre d’établir un lien direct entre le potentiel de la membrane et les impulsions de la neurone (spiking activity). En se basant sur une généralisation de ce modèle, nous proposons une méthode afin d’estimer d’une manière efficace les paramètres (les poids synaptiques à différents délais) d’un réseau de neurones à partir de l’observation de sa dynamique (train d’impulsions). L’idée est d’éviter le problème NP-complet qui se pose dès que nous considérons les poids synaptiques et les délais de transmission. Notre méthode permet de définir un système de programmation linéale à partir du modèle BMS et d’effectuer l’estimation des paramètres de manière polynomiale. Ensuite, nous introduisons un mécanisme de réservoir computing (réseau de neurones cachés) afin de faire une estimation plus robuste. Finalement, nous appliquons cette idée à l’implémentation de transformations entrée-sortie, où la méthode est capable d’apprendre les paramètres implicites correspondant à la fonction de transfert. Dans un second temps, nous travaillons au développement d’implémentations numériques permettant de valider nos algorithmes. De plus, nous faisons des contributions au niveau de la programmation de méthodes pour l’analyse de trains d’impulsions et la simulation de réseaux de neurones à impulsion. Nous co-développons une librairie numérique en C++, nommée EnaS et distribuée sous une licence gratuite CeCILL-C. Cette librairie est également compatible avec d’autres simulateurs et peut être utilisée comme un plugin. La dernière partie de la thèse se focalise sur les implémentations en hardware de modèles bio inspirés. Nous faisons le choix de regarder des technologies à bas coût basées sur les FPGA (réseau de portes programmables in situ) et les GPU (processeur graphique). Nous évaluons la réponse des implémentations en hardware des modèles de neurones du type intègre-et-tire quand ils sont soumis aux différents régimes d’activité neuronale. L’implémentation sur le FPGA a été accomplie en faisant une analyse sur la précision et sa performance a été comparée avec celle du GPU.