Analyse et optimisations pour les applications HPC à mémoire distribuée et adressable globalement

Analysis and optimizations for partitioned global address space based HPC applications

• Auteur / Autrice : Célia Tassadit Ait Kaci
• Direction : Denis Barthou
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 28/11/2022
• Etablissement(s) : Bordeaux
• Ecole(s) doctorale(s) : École doctorale de mathématiques et informatique (Talence, Gironde ; 1991-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire bordelais de recherche en informatique
• Jury : Président / Présidente : Brice Goglin
• Jury : Examinateurs / Examinatrices : Emmanuelle Saillard, Corinne Ancourt, Marc Sergent
• Jury : Rapporteurs / Rapporteuses : William Jalby, Laurent Colombet

Mots clés

Mots clés contrôlés

Logiciels -- Vérification

MPI (protocole de réseaux d'ordinateurs)

Programmation parallèle (informatique)

Calcul intensif (informatique)

Mots clés libres

Programmation parallèle

MPI-RMA

Analyse statique et dynamique

High Performance Computing

Hybrid analysis

MPI-RMA

Résumé

Le monde du Calcul Haute Performance ne cesse d’évoluer, en proposant des modèles de programmation parallèles vastes et variés. Pour s’adapter aux exigences de l’exascale en terme de puissance de calcul et de traitement rapide. Le modèle de programma- tion parallèle le plus utilisé est le Message Passing Interface (MPI). Le standard MPI a été utilisé dans le HPC pendant des décennies. Le protocole de communication point à point send/receive, appelé two-sided MPI, est largement utilisé et privilégié dans les applications. Une alternative à ce modèle de communication point à point est les com- munications one-sided, principalement implémenté dans les langages et bibliothèques PGAS (Partitioned Global Address Space). Le standard MPI-3, qui a été présenté en Septembre 2012, a inclus une mise à jour importante des communications one-sided dans MPI, aussi appelées les RMA (Remote Memory Access) et adoptées par le standard de- puis MPI-2, pour fournir plus de performance et introduire de nouveaux modes d’accès aux données. Cependant, les performances des communications one-sided restent loin d’être celles attendues. Développer un programme parallèle est souvent plus difficile mais plus performant dans de la mémoire partagée plutôt que d’utiliser des transferts send/receiv pour échan- ger des données, les processus peuvent implicitement communiquer dans la mémoire partagée avec une utilisation de certains mécanismes de synchronisation (verrous, séma- phores..) pour garantir un accés sans concurrence à la partie mémoire souhaitée. Dans ces travaux de recherche nous allons principalement nous intéresser au modèles de programmation à mémoire distribuée et globalement adressable MPI-RMA dont le principe est de designer un espace mémoire virtuel global et partagé dans les systèmes à mémoire distribuée, ce qui permet aux processus de communiquer à travers cette mémoire. Bien que le modèle PGAS existe depuis très longtemps, et promet plus d’asyn- chronisme. Ce modèle reste peu utilisé par la communauté du HPC à cause de plusieurs raisons notamment les modes de synchronisation requis pour sécuriser le programme. Comme le modèle PGAS propose un concept de programmation en mémoire partagée dans de la mémoire distribuée. Les problèmes de concurrence d’accès s y appliquent. Pour cette raison la programmation PGAS peut se révéler très difficile, car l’utilisateur a la responsabilité de gérer explicitement tous les accès mémoire pour garantir la co- hérence du programme. Il est donc intéressant pour les programmeurs d’applications, d’avoir des outils qui leur permettent de faciliter la programmation. De développer des codes correctes et efficaces. Dans le cadre de ces travaux de recherche l’objectif principal est de développer une analyse dynamique à l’exécution, et une analyse statique à la compilation, pour vérifier les codes des applications PGAS. Cette analyse mixte permet d’exploiter les avantages des deux approches. une approche dynamique qui repose sur des exécutions concrètes qui dépendent d’un seul jeu d’entrée, et donc se limiter à détecter que les erreurs présentes dans l’exécution analysée. Une approche statique qui ne dépend pas du jeu d’entrée et offre une vue globale du code, et considère tous les chemins d’exécution possibles. Durant cette thèse nous avons developpé un outil qui regroupe les deux analyses statique et dynamique appelé RMA-Analyzer. Il a été propsé dans but d’aider à la programmation de codes MPI-RMA, notamment en proposant une aide avancée à l’utilisateur dans la détection d’erreurs de concurrence connus comme accès illégaux liés aux applications MPI-RMA. Dans le but de faciliter la programmation aux utilisateurs, avec une aide dynamique sur la réalité et l’origine des éventuels blocages en MPI-RMA.

Almost all high performance computing applications are written in MPI, which will continue to be the case for at least the next several years. MPI offers one-sided communications which is a well known distributed programming paradigm for high performance computers, as its properties allows for a greater asynchronism and computation/communication overlap than classical message passing mechanisms. In this work, we focus on the Remote Memory Access interface of MPI (MPI-RMA), in which each process explicitly exposes an area of its local memory as accessible to other processes to pro- vide asynchronous one-sided reads, writes and updates. While MPI-RMA is expected to greatly enhance the performance and permit efficient implementations on multiple platforms, it also comes with several challenges with respect to memory consistency. This programming model imposes restrictions with respect to performing asynchronous accesses to shared data. Developers must handle complex memory consistency models and complex programming semantics. This thesis focuses on detecting memory consistency errors in MPI-RMA programs. We developed an hybrid approach verification tool for MPI-RMA programs that can provide solutions in detecting errors over the space of memory consistency (also known as data races) in MPI-RMA programs. Our method combines two analyses. First, we perform an on-the-fly analysis to stop the program in case of a consistency violation during runtime. Second, a static analysis support is added to detect local concurrency errors and warn the user of the presence of potential memory consistency errors at compile time. The experimental results demonstrate that our method is validated on a collection of codes containing errors and on two real applications. Our experiments show that our approach is scalable when running on MPI one-sided applications with an overhead of 40% at best on one of our experiments. We also show on several tests and an MPI-RMA variant of the GUPS benchmark that the static analysis allows to detect such errors on user codes. The error codes have been validated for an integration in the MPI Bugs Initiative open-source test suite (MBI).