Thèse soutenue

Vérification et validation de techniques d'apprentissage machine
FR  |  
EN
Accès à la thèse
Auteur / Autrice : Julien Girard-Satabin
Direction : Marc SchoenauerHichem Zakaria ChihaniGuillaume Charpiat
Type : Thèse de doctorat
Discipline(s) : Informatique
Date : Soutenance le 09/11/2021
Etablissement(s) : université Paris-Saclay
Ecole(s) doctorale(s) : École doctorale Sciences et technologies de l'information et de la communication (Orsay, Essonne ; 2015-....)
Partenaire(s) de recherche : Laboratoire : Laboratoire d'intégration des systèmes et des technologies (Gif-sur-Yvette, Essonne ; 2001-....)
référent : Université Paris-Saclay. Faculté des sciences d’Orsay (Essonne ; 2020-....)
graduate school : Université Paris-Saclay. Graduate School Informatique et sciences du numérique (2020-….)
Jury : Président / Présidente : Gilles Dowek
Examinateurs / Examinatrices : Antoine Miné, Pawan Kumar, Sylvie Putot, Caterina Urban
Rapporteurs / Rapporteuses : Antoine Miné, Pawan Kumar

Mots clés

FR  |  
EN

Résumé

FR  |  
EN

L'apprentissage machine, en particulier au moyen des réseaux de neurones artificiels, connaît depuis une dizaine d'année une expansion impressionnante.Véhicules autonomes, capteurs d'anomalies d'ancrage sur des plateformes offshores, détecteurs de collision d'aéronefs,aide au diagnostic pour différents cancers sont autant d'applications faisant intervenir les technologies d'apprentissage profond au sein de systèmes critiques;ouvrant des perspectives inexplorées pour les sociétés humaines. Bien que bénéfique en apparence,cette révolution a de quoi inquiéter à mesure qu'elle se concrétise : la fragilité de ces techniques d'apprentissage est désormais un fait scientifique établi.La taxonomie des vulnérabilités, qu'elles soient accidentelles ou malicieuses, remet en question la possibilité d'intégrer des réseaux de neurones dans des domaines critiques qui pourraient pourtant en bénéficier. A l'heure actuelle, peu de méthodes permettent de démontrer formellement la fiabilité d'un réseau de neurones.Par contraste, le domaine du logiciel critique, quant à lui, jouit d’une multitude de méthodes et techniques : vérification formelle, model checking, simulation, interprétation abstraite, tests dirigés, etc. L'objectif de cette thèse est de réconcilier l'abondance des techniques de vérification de programmes classiques et l'absence de garanties sur les réseaux de neurones, ce pour permettre aux logiciels critiques de conserver le haut niveau de confiance qu'ils ont atteint quand ils seront inévitablement modifiés avec des mécanismes d'apprentissage machine.