Exploration et conception d'architectures de calcul de type in-memory à base de mémoires non volatiles émergentes

Exploration and conception of computing architectures of type computing in-memory based on emerging non volatile memories

• Auteur / Autrice : Valentin Egloff
• Direction : Jean-Michel Portal, Jean-Philippe Noël
• Type : Thèse de doctorat
• Discipline(s) : Sciences pour l'ingénieur. Micro et nanoélectronique
• Date : Soutenance le 08/12/2022
• Etablissement(s) : Aix-Marseille
• Ecole(s) doctorale(s) : Ecole doctorale Sciences pour l'Ingénieur : Mécanique, Physique, Micro et Nanoélectronique (Marseille ; 2000-....)
• Partenaire(s) de recherche : Laboratoire : Commissariat à l'énergie atomique et aux énergies alternatives (Grenoble)
• Jury : Président / Présidente : Alberto Bosio
• Jury : Examinateurs / Examinatrices : Mathieu Moreau
• Jury : Rapporteurs / Rapporteuses : Gilles Sassatelli, Lorena Anghel

Mots clés

Mots clés contrôlés

Données massives

Mémoires non-volatiles à accès sélectif

Ordinateurs -- Mémoires à accès sélectif

Von Neumann, Algèbres de

Ordinateurs -- Mémoires

Nanoélectronique

Mots clés libres

Calcul en mémoire

Mémoire non volatile

Architecture des systèmes

Mémoire de classe de stockage

Mur mémoire

Mur énergétique

Goulot d'étranglement de von Neumann

Memory wall

Energy wall

System architecture

Storage class memory

Non volatile memories

In-Memory computing

Von Neumann bottleneck

Résumé

Les architectures d'aujourd'hui sont basées sur le modèle de von Neumann qui place au centre l'exécution des instructions. Ces architectures font face à de fortes limitations dans le contexte du big data. En effet, le mur mémoire est un phénomène lié à l'écart grandissant de performances entre les processeurs et les mémoires depuis les années 80. Ceci appelle à un changement de paradigme vers des architectures data centrées où le traitement de quantités de données massives en parallèle est le principe de base. De nouvelles mémoires non volatiles promettent du stockage haute densité et peuvent intégrer du calcul en mémoire. L'intérêt du calcul en mémoire est de supprimer les allées et venues permanentes entre la mémoire et les coeurs de calcul. Les solutions existantes utilisent du calcul analogique très efficace avec une flexibilité limitée. Quand les données doivent être réécrites en mémoire, l'endurance n'est pas discutée. Nous concevons un emballage numérique qui étend les fonctionnalités mémoire avec du calcul vectoriel et développons une plateforme de simulation pour faire de l'exploration architecturale. Notre circuit peut être intégré avec la plupart des technologies mémoire et est équipé de sa propre mémoire SRAM. Nous démontrons qu'effectuer le calcul au sommet de la hiérarchie mémoire permet une réduction de la consommation énergétique d'un facteur 17.4 et une accélération du traitement d'un facteur 12.9 comparé à un traitement avec un coeur SIMD. Grâce à la mémoire tampon intégrée, l'endurance de la mémoire non volatile n'est pas impactée et de fait, l'espérance de vie du système s'en trouve augmentée par rapport à d'autres solutions de calcul en mémoire

Today computing centric von Neumann architectures face strong limitations in the data-intensive context of numerous applications. The key limitation is the memory wall due to increased performance gap between processors and memories. To mitigate this gap, cache hierarchy was introduced but it largely increased energy consumption while not being adapted for modern big datasets. These architectures struggle with big datasets due to their high energy consumption and slow bandwidth. This calls for a paradigm shift to data centric architecture where treating massive amounts of data in a parallel fashion is the core principle. New emerging non-volatile memories (NVM) promise high density data storage and can easily integrate in-memory computing (IMC). IMC purposes is to compute where the data is or the closest to, to suppress back and forth data movements from the memory to the cores. Existing solutions use analog computing that has high efficiency but limited flexibility. When data needs to be written back after computation, endurance of NVM is often not discussed. We design a digital wrapper that extends memory functionality with vector computing capabilities and develop a simulation platform for architecture exploration. Our digital wrapper, aka C-SRAM, can be integrated with most memory technologies and comes with its own small SRAM buffer. We demonstrate that computing at the top of the memory hierarchy, i.e. close to the permanent storage, grants in average 17.4x energy reduction and 12.9x speed-up versus SIMD baseline. Thanks to SRAM buffer, NVM's endurance is not impaired and thereby extends system lifetime compared to other IMC solutions