Analyse mémoire précise et efficace pour les languages de bas niveau

Precise and Efficient Memory Analysis of Low-level Languages

• Auteur / Autrice : Julien Simonnet
• Direction : Mihaela Sighireanu, Matthieu Lemerre
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 17/12/2025
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale Sciences et technologies de l'information et de la communication (Orsay, Essonne ; 2015-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire Méthodes formelles (Gif-sur-Yvette, Essonne ; 2021-....)
• Partenaire(s) de recherche : Référent : École normale supérieure Paris-Saclay (Gif-sur-Yvette, Essonne ; 1912-....)
• Partenaire(s) de recherche : graduate school : Université Paris-Saclay. Graduate School Informatique et sciences du numérique (2020-....)
• Jury : Président / Présidente : Xavier Rival
• Jury : Examinateurs / Examinatrices : Xavier Rival, Thomas Jensen, Antoine Miné, Isabella Mastroeni, Tomáš Vojnar
• Jury : Rapporteurs / Rapporteuses : Thomas Jensen, Antoine Miné

Mots clés

Mots clés contrôlés

Systèmes informatiques -- Mesures de sûreté

Logiciels -- Vérification

Mots clés libres

Analyse statique

Analyse mémoire

Interprétation abstraite

Vérification de types

Static analysis

Memory analysis

Abstract interpretation

Type checking

Résumé

La sécurité mémoire est essentielle pour les codes critiques tels que les logiciels embarqués et les systèmes d'exploitation. Les erreurs mémoire telles que les débordements de tampon (buffer overflows), la déréférencement de pointeurs nuls et les erreurs d'utilisation de mémoire après libération (use-after-free) sont parmis les principales causes de vulnérabilités en cybersécurité. Les analyses statiques de code bas niveau visent à détecter de telles erreurs sans exécuter les programmes. Cette thèse définit une méthode d'analyse statique solide, automatique, pratique et efficace pour prouver la sécurité spatiale de la mémoire des codes binaires ou des programmes C de bas niveau. Cette analyse repose sur un nouveau système de types dépendants appelé TypedC, qui étend le système de types du langage C et est capable de capturer des propriétés complexes concernant la disposition et le contenu de la mémoire. Ces propriétés incluent celles de idiomes de programmation de bas niveau tels que le bit-stealing, les pointeurs intérieurs ou les tableaux flexibles (flexible array members). L'analyse utilise l'interprétation abstraite pour effectuer automatiquement la vérification de types, prouvant ainsi la sécurité spatiale des accès à la mémoire comme conséquence du typage correct. L'analyse est inter-procédurale, c'est-à-dire qu'elle exploite des résumés de fonctions au lieu d'analyser chaque fonction individuellement. L'analyse ne nécessite pas la modification du code source - ce qui serait impossible pour le code binaire - mais exploite à la place une spécification des types fournie par l'utilisateur et décrivant les prototypes de fonctions.Un autre apport de cette thèse est un cadre général appelé abstract abstract data types (AADT) permettant de construire des analyses précises et polyvalentes pour traiter des structures de données complexes obtenues en combinant des types de pointeurs, d'unions, de structures et de tableaux. Dans ce cadre, un domaine abstrait pour un type de données fixé est construit de manière compositionnelle par dessus un domaine abstrait relationnel de valeurs, et à partir des domaines abstraits correspondant à chacun des composants du type de données. Pour cela, un AADT raffine une interface générique, que nous formalisons dans cette thèse, et il fournit un équivalent abstrait des opérations du type de données. Nous définissons formellement plusieurs domaines abstraits comme AADT, par exemple des AADT de tableaux, des AADT de tuples, des AADT de types de données variants, et des AADT de blocs mémoire.Nous avons implémenté l'analyse basée sur le système de types dépendants proposé et sur le cadre des AADT dans Codex, une plateforme d'analyse de code binaire et C basée sur l'interprétation abstraite. L'analyse a été appliquée à une base de tests complexes comprenant des extraits de systèmes d'exploitation, du code binaire d'Emacs et de bibliothèques de structure de données. Les résultats expérimentaux obtenus démontrent que l'approche proposée dans cette thèse est efficace pour prouver la sécurité spatiale de la mémoire dans du code de bas niveau.

Memory safety is essential for critical code like embedded software and operating systems. Memory errors like buffer overflows, null-pointer dereferencing and use-after-free errors are among the main causes of cybersecurity vulnerabilities. Static analyses of low-level code aim to detect such errors without executing the programs. For this, such analyses have to deal with machine code, pointer arithmetic, pointer aliasing and explicit memory management. This thesis defines a sound static analysis method that is automatic, practical and cost-effective to prove spatial memory safety of binary code or low-level C programs. This analysis is based on a novel dependent type system called TypedC, which extends the type system of C language and is able to capture complex properties over the layout and the content of the memory. Such properties include those of low-level code patterns such as bit-stealing, interior pointers or flexible array members. The analysis uses abstract interpretation to automatically perform type-checking and therefore proving spatial memory safety as a consequence of correct typing. The analysis is inter-procedural, i.e., it exploits functions' summary rather than looking at each function in isolation. The analysis does not require to modify the source code, which would be impossible for binary code; instead, it exploits the user-provided type specification of function prototypes. Another contribution of this thesis is a framework called abstract abstract data types (AADT) allowing to build precise and versatile analyses when dealing with complex data types obtained by the composition of pointer, union, record and array types. In this framework, an abstract domain for a given data type is built in a compositional way on top of a relational value-based abstract domain, using the abstract domains corresponding to the data type's components. For this, the AADT framework refines a generic interface, that we formalize in this thesis, and it provides an abstract counterpart of data type's operations. We formally define several abstract domains as AADT, for instance AADT of arrays, AADT of tuples, AADT of variant data types, and AADT of memory blocks. We implemented the analysis based on the proposed dependent type systems and the framework of abstract abstract data types in Codex, a platform for binary and C code analysis based on abstract interpretation. The analysis has been applied to challenging benchmarks extracted from operating systems, binary code of Emacs and libraries of data types. The experimental results obtained demonstrate that the approach proposed in this thesis is effective on proving spatial memory safety of low level code.