Exploration et Conception d'une Architecture de Calcul Proche Mémoire pour les Applications Gourmandes en Données

par Roman Gauchi

Projet de thèse en Nano electronique et nano technologies

Sous la direction de Henri-Pierre Charles et de Pascal Vivet.

Thèses en préparation à Grenoble Alpes , dans le cadre de Electronique, Electrotechnique, Automatique, Traitement du Signal (EEATS) , en partenariat avec CEA/LETI (laboratoire) depuis le 01-10-2017 .


  • Résumé

    Dans le contexte d'une collaboration avec l'Université de Stanford, le CEA-LETI propose un sujet de thèse dont l'objectif est d'explorer et concevoir une architecture de Calcul-proche-Mémoire, visant les applications gourmandes en données. Un nouveau paradigme d'architecture est proposé, en rapprochant le calcul des données, et en utilisant des technologies d'intégration comme la 3D. Le concept sera conçu et validé sur silicium. Les architectures de calcul dans les serveurs pour les applications intensives en données rencontrent actuellement des limitations sévères en accès mémoire. Les caches ne sont plus suffisamment efficaces, et la mémoire offerte par cœur est limitée à la fois en capacité et en latence d'accès. Le nouveau paradigme de « Calcul-proche-Mémoire », qui signifie de calculer au sein même de la hiérarchie mémoire, était supposé résoudre les limitations rencontrées, mais n'était pas réaliste en raison de la taille mémoire réduite qui peut rentrer dans un unique circuit. En utilisant des technologies d'intégration 3D, il est dorénavant possible de dépasser cette limite, en assemblant verticalement des circuits pour construire un système plus grand. Dans le sujet de these, il est propose d'explorer et de concevoir une nouvelle architecture de Calcul proche Mémoire, visans les applications gourmandes en données. Dans la thèse, il est demandé de : - Analyser les applications visées de type data intensif (Réseau de Neurone, Apprentissage par ordinateur, etc), pour définir les primitives de calcul à intégrer dans la mémoire, - Explorer les paramètres technologiques, afin de définir les partitionnement respectifs d'architectures et de technologies (nombre de coches, nœud technologique, densité mémoire, etc) - Concevoir une fonction de calcul, qui implémente le paradigme Calcul proche Mémoire, à raffiner en fonction de l'application visée, - Explorer et valider l'architecture en utilisant des modèles de simulations haut niveau, afin de quantifier les gains en performances escomptés sur des applications réelles, - Explorer et valider des aspects physiques, tel que la distribution des alimentations, la dissipation thermique, des mécanismes de résilience, - Implémenter un sous ensemble de l'architecture proposée, en vue de sa fabrication, validation et mesure de performances sur silicium, - Disséminer les résultats de la recherche à travers des publications scientifiques. La thèse aura lieu au sein du laboratoire d'architecture numérique du CEA-LETI à Grenoble, qui possède une forte expérience en architecture système, et en conception et fabrication de technologie 3D. La thèse sera effectuée en collaboration avec l'Université de Stanford, qui a une solide expérience dans les applications visées et de la modélisation et l'exploration de système 3D. Pour cette thèse, un étudiant expérimenté est souhaité, avec un fort niveau de motivation, une capacité à proposer des idées innovantes, et qui soit capable de travail aussi bien en autonomie qu'au sein d'une équipe de recherche. Compétences souhaitées : architecture système, conception numérique (VHDL), soft embarqué (Operating System, C++), avec des compétences en modélisation système (SystemC) et/ou en conception physique (Placement & Routage) ; niveau d'anglais élevé exigé.

  • Titre traduit

    Exploration and Design of a Processing-In-Memory architecture for Big Data application


  • Résumé

    In the context of a collaboration with Stanford University (USA), the CEA-LETI proposes a PhD topic whose objective is to explore and design a Processing-in-Memory architecture, targeting Big Data application. For data intensive tasks, new architecture paradigm is envisioned, by bringing computation close to the data and using advanced integration technology such as 3D integration. The concept will be designed and validated on silicon. The current computing architectures for data intensive applications in servers are facing severe memory access limitations. Power hungry caches are not efficient anymore, the memory available to the cores is more and more limited in both capacity and latency. The “processing-in-memory” paradigm, which means to compute within the memory hierarchy, was expected to solve these limitations, but could not be applied due to the reduced amount of memory that could fit within a single circuit. By using advanced 3D technology, it is currently possible to overcome this limit, by assembling vertically several circuits to build a larger system. In this PhD project, it is proposed to explore and design a new Processing-In-Memory architecture that would benefit from advanced 3D integration, targeting Big-Data application. In the PhD, it is proposed to: - Analyze the data intensive targeted applications (Deep Neural Network, Machine Learning), to define the processing primitives to be integrated within the memory, - Explore the technological parameters, to define the technology and architecture partitioning (number of layers, technology nodes, memory capacity, etc), - Design an accelerator primitive function, implementing the processing-in-memory paradigm; to be refined according to the targeted application, - Explore and validate the proposed architecture using system level models, to benchmark the performance gains on real software applications, - Explore and validate physical aspects, such as power distribution, thermal dissipation, or resilience mechanisms, - Implement a subset of the proposed architecture, for fabrication, validation and performance measurements on silicon. - Disseminate the research results in scientific conferences and journals. The PhD will take place in CEA-LETI digital architecture lab., which has a strong experience in system architecture and 3D technology design and fabrication. The PhD will be in collaboration with the University of Stanford, which has a solid background on the target applications and 3D system modelling and exploration. For this PhD topic, a strongly skilled student is anticipated, with a high level of motivation, a capacity to propose innovative ideas and to work both autonomously and within a research team. Required skills : System architecture, Digital design (VHDL), Software (Operating System, C++), with knowledge on System modelling (SystemC) and/or physical design (Place&Route), fluent English is mandatory.