Réseaux de neurones impulsionnels pour inférence basse consommation dans un imageur 3D

par Maxence Bouvier

Projet de thèse en Nano electronique et nano technologies

Sous la direction de Edith Beigne et de Alexandre Valentian.

Thèses en préparation à Grenoble Alpes , dans le cadre de École doctorale électronique, électrotechnique, automatique, traitement du signal (Grenoble) , en partenariat avec CEA/LETI (laboratoire) depuis le 04-04-2018 .


  • Résumé

    La classification d'images par réseau de neurones à codage formel est aujourd'hui à l'état de l'art en terme de taux de reconnaissance : la topologie de réseau classiquement utilisée est de type convolutionnel (appelée CNN pour Convolutional Neural Network). Néanmoins, ces réseaux implémentés sous forme logicielle, exécutés sur GPU ou autres, consomment beaucoup d'énergie. Un gain énergétique très important peut être réalisé en s'inspirant plus de la biologie : (1) en passant du codage formel au codage impulsionnel ; (2) en implémentant les neurones de manière analogique ; (3) éventuellement en implémentant les synapses sous forme d'éléments résistifs programmables (OxRAM ou PCRAM). L'objectif de cette thèse est de concevoir et implémenter un réseau CNN impulsionnel, qui s'insérera dans un imageur 3D basse consommation, développé en parallèle dans deux autres sujets de thèse. Le réseau CNN permettra d'effectuer de l'inférence locale, c'est-à-dire sans avoir à transmettre d'images dans le cloud. Dans la première partie de la thèse, le réseau de neurones sera à apprentissage dit « supervisé hors-ligne ». L'architecture sera alors développée pour permettre l'implémentation, en codage impulsionnel, de couches de convolution, de pooling, … Dans une deuxième partie, l'effort portera sur l'intégration de capacités d'apprentissage local, non-supervisé, des caractéristiques visuelles des images observées. Ce sujet de thèse mènera à la fabrication de circuits en technologie FDSOI 28nm et à la réalisation de démonstrateur fonctionnel.

  • Titre traduit

    Spiking Neural Networks for low power inference in a 3D IC image sensor


  • Résumé

    La classification d'images par réseau de neurones à codage formel est aujourd'hui à l'état de l'art en terme de taux de reconnaissance : la topologie de réseau classiquement utilisée est de type convolutionnel (appelée CNN pour Convolutional Neural Network). Néanmoins, ces réseaux implémentés sous forme logicielle, exécutés sur GPU ou autres, consomment beaucoup d'énergie. Un gain énergétique très important peut être réalisé en s'inspirant plus de la biologie : (1) en passant du codage formel au codage impulsionnel ; (2) en implémentant les neurones de manière analogique ; (3) éventuellement en implémentant les synapses sous forme d'éléments résistifs programmables (OxRAM ou PCRAM). L'objectif de cette thèse est de concevoir et implémenter un réseau CNN impulsionnel, qui s'insérera dans un imageur 3D basse consommation, développé en parallèle dans deux autres sujets de thèse. Le réseau CNN permettra d'effectuer de l'inférence locale, c'est-à-dire sans avoir à transmettre d'images dans le cloud. Dans la première partie de la thèse, le réseau de neurones sera à apprentissage dit « supervisé hors-ligne ». L'architecture sera alors développée pour permettre l'implémentation, en codage impulsionnel, de couches de convolution, de pooling, … Dans une deuxième partie, l'effort portera sur l'intégration de capacités d'apprentissage local, non-supervisé, des caractéristiques visuelles des images observées. Ce sujet de thèse mènera à la fabrication de circuits en technologie FDSOI 28nm et à la réalisation de démonstrateur fonctionnel.