Analyse de la robustesse de classifieurs aux données hors distribution et adverses

Robustness Analysis of Classifiers Against Out-of-Distribution and Adversarial Inputs

• Auteur / Autrice : Samy Chali
• Direction : Jacques-Olivier Klein, Inna Kucher, Marc Duranton
• Type : Thèse de doctorat
• Discipline(s) : Sciences de l'information et de la communication
• Date : Soutenance le 28/03/2024
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale Electrical, optical, bio : physics and engineering (Orsay, Essonne ; 2015-....)
• Partenaire(s) de recherche : Laboratoire : Centre de nanosciences et de nanotechnologies (Palaiseau, Essonne ; 2016-....) - Laboratoire d'intégration des systèmes et des technologies (Gif-sur-Yvette, Essonne ; 2001-....)
• Partenaire(s) de recherche : Référent : Université Paris-Saclay. Faculté des sciences d’Orsay (Essonne ; 2020-....)
• Partenaire(s) de recherche : graduate school : Université Paris-Saclay. Graduate School Sciences de l’ingénierie et des systèmes (2020-….)
• Jury : Président / Présidente : Damien Querlioz
• Jury : Examinateurs / Examinatrices : Maria Alejandra Zuluaga Valencia, Ronan Fablet, Eiji Kawasaki
• Jury : Rapporteurs / Rapporteuses : Maria Alejandra Zuluaga Valencia, Ronan Fablet
• DOI : 10.70675/045f4849z9f1ez4973z8c70z8d4cedc8a05d

Mots clés

Mots clés contrôlés

Apprentissage automatique

Apprentissage profond

Classification automatique

Ordinateurs -- Mémoires associatives

Mots clés libres

Apprentissage automatique

Apprentissage profond

Modèles génératifs

Robustesse

Classification

Mémoires associatives

Machine learning

Deep learning

Generative models

Robustness

Classification

Associative memories

Résumé

De nombreux problèmes traités par l'IA sont des problèmes de classification de données d'entrées complexes qui doivent être séparées en différentes classes. Les fonctions transformant l'espace complexe des valeurs d'entrées en un espace plus simple, linéairement séparable, se font soit par apprentissage (réseaux convolutionels profonds), soit par projection dans un espace de haute dimension afin d'obtenir une représentation non-linéaire 'riche' des entrées puis un appariement linaire entre l'espace de haute dimension et les unités de sortie, tels qu'utilisés dans les Support Vector Machines (travaux de Vapnik 1966-1995). L'objectif de la thèse est de réaliser une architecture optimisée, générique dans un domaine d'application donné, permettant de pré-traiter des données afin de les préparer pour une classification en un minimum d'opérations. En outre, cette architecture aura pour but d'augmenter l'autonomie du modèle en lui permettant par exemple d'apprendre en continu, d'être robuste aux données corrompues ou d'identifier des données que le modèle ne pourrait pas traiter.

Many issues addressed by AI involve the classification of complex input data that needs to be separated into different classes. The functions that transform the complex input values into a simpler, linearly separable space are achieved either through learning (deep convolutional networks) or by projecting into a high-dimensional space to obtain a 'rich' non-linear representation of the inputs, followed by a linear mapping between the high-dimensional space and the output units, as used in Support Vector Machines (Vapnik's work 1966-1995). The thesis aims to create an optimized, generic architecture capable of preprocessing data to prepare them for classification with minimal operations required. Additionally, this architecture aims to enhance the model's autonomy by enabling continuous learning, robustness to corrupted data, and the identification of data that the model cannot process.