Apprentissage statistique pour les données hétérogènes et imparfaites : systèmes dynamiques neuronaux, transformée de signature et transport optimal

Learning from heterogenous and imperfect data : neural dynamical systems, signatures and optimal transport

• Auteur / Autrice : Linus Bleistein
• Direction : Agathe Guilloux, Anne-Sophie Jannot
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques appliquées
• Date : Soutenance le 16/06/2025
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale de mathématiques Hadamard
• Partenaire(s) de recherche : Laboratoire : Laboratoire de Mathématiques et Modélisation d'Évry (Evry, Essonne) - Health data- and model- driven approaches for knowledge acquisition (Paris ; 2025-....)
• Partenaire(s) de recherche : Référent : Université d'Évry-Val-d'Essonne (1991-....)
• Partenaire(s) de recherche : graduate school : Université Paris-Saclay. Graduate School Mathématiques (2020-....)
• Partenaire(s) de recherche : Equipe de recherche : Statistique pour la Génomique et la Génétique
• Jury : Président / Présidente : Claire Boyer
• Jury : Examinateurs / Examinatrices : Gabriel Peyré, Josef Teichmann, Charlotte Bunne, Aurélien Bellet, Julie Josse
• Jury : Rapporteurs / Rapporteuses : Gabriel Peyré, Josef Teichmann

Mots clés

Mots clés contrôlés

Séries chronologiques

Transport optimal de mesure

Apprentissage profond

Apprentissage automatique

Mots clés libres

Equations différentielles neuronales

Signature

Transport optimal

Séries temporelles

Apprentissage statistique

Neural ODEs

Signature

Optimal transport

Time series

Statistical learning

Résumé

Dans de nombreuses cas d'usage, les données utilisées sont dégradées par du bruit et des valeurs manquantes. Cette hétérogénéité dans la qualité des données induit une série de biais, qui limitent le déploiement d'algorithmes d'apprentissage machine. Cette thèse s'intéresse en premier lieu aux séries temporelles, qui sont une source omniprésente de données en apprentissage statistique. En effet, les données collectées séquentiellement alimentent de vastes champs d'application tels que l'analyse de textes, l'analyse de données médicales, la métérologie et la finance. Pour une tâche donnée, les données disponibles sont souvent hétérogènes et dégradées par un échantillonage irrégulier, propre à chaque individu, et des données manquantes. Ainsi, ces données appellent le dévelopement de modèles adaptés à ces irrégularités. Nous nous appuyons en particulier sur les développements récents autour des équations différentielles neuronales pour proposer une analyse statistique des systèmes dynamiques contrôlés. Ces systèmes modélisent le fonctionnement d'un système dynamique perturbé par un ensemble de données temporelles exogènes. Nous nous intéressons en particulier à leur linéarisation dans l'espace de signature, et aux équations différentielles contrôlées neuronales qui apprennent un champ de vecteurs paramétrisé par un réseau de neurones à une tâche donnée. Ces modèles sont ensuite appliqués à une suite de tâches inspirés par des problèmes propres aux données médicales et qui incluent l'analyse de survie, la classification et la régression. Dans un second temps, nous analysons un cadre plus abstrait où l'on souhaite comparer des distributions avec données manquantes en utilisant les outils du transport optimal. Nous proposons un estimateur asymptotiquement consistent du coût de transport et en détaillons différentes applications.

In many real-world applications, available data is degraded through noise and missing data. This heterogeneity induces a variety of biases, hence sometimes compromising the deployment of machine learning models. This thesis' first domain of interest is time series. Sequentially measured data fuels prediction in various domains such as text processing, medical data analysis, meteorology and finance. For a given task, the available data is often heterogeneous, and degraded by irregular and individual-specific sampling and missing data, calling for flexible models that can account for these disparities. Building on the recent literature on neural differential equations, we propose a statistical analysis of controlled dynamical systems, which model the interactions of a dynamical system with external time-varying perturbations. More precisely, we focus both on linearizations of such systems in the signature space, and neural controlled differential equations, which take a different route by fitting a neural vector field to the observed data. With medical applications in mind, we apply these techniques to a variety of tasks that include survival analysis, classification and regression. A second domain of interest is missing data in unsupervised comparison of distributions, and in particular through the lens of optimal transport. We provide a debiased estimator of the optimal transport distance under random missingness and apply it to various tasks, ranging from domain adaptation to statistical testing.