Contributions méthodologiques en apprentissage profond pour la vision par ordinateur : application à la prédiction de l'état des routes

Methodological contributions in deep learning : application to vision-based prediction of road condition

• Auteur / Autrice : Hai Vy Nguyen
• Direction : Fabrice Gamboa, Serge Gratton
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques et Applications
• Date : Soutenance le 02/12/2025
• Etablissement(s) : Université de Toulouse (2023-2025)
• Ecole(s) doctorale(s) : École doctorale Mathématiques, informatique et télécommunications (Toulouse)
• Partenaire(s) de recherche : Laboratoire : Institut de mathématiques de Toulouse (2007-....)
• Partenaire(s) de recherche : Etablissement de délivrance conjointe : Université de Toulouse (EPE ; 2025-....)
• Jury : Président / Présidente : Marianne Clausel
• Jury : Rapporteurs / Rapporteuses : Rémi Flamary, Jean-François Aujol
• DOI : 10.70675/5f015c36zc99cz4c3dz9071zcef52271f82e

Mots clés

Mots clés contrôlés

Apprentissage profond

Vision par ordinateur

Routes

Mots clés libres

IA

Apprentissage automatique

Apprentissage profond

AI

Machine Learning

Deep Learning

Résumé

Cette thèse de doctorat explore des méthodes visant à améliorer la robustesse, la transférabilité, la quantification d'incertitude et l'interprétabilité des réseaux de neurones profonds, en se concentrant sur la modélisation et l'exploitation de la géométrie de l'espace des caractéristiques. Ces travaux sont motivés par des besoins pratiques en modèles légers et fiables pour la prédiction en temps réel de l'état des routes, tout en abordant des questions fondamentales en apprentissage de représentations.La première contribution propose un cadre d'entraînement de modèles robustes, combinant une perte discriminative sur l'avant-dernière couche et l'injection de bruit gaussien. Cette approche favorise la compacité intra-classe, la séparabilité inter-classe et l'alignement des caractéristiques bruitées avec leurs homologues non-bruitées. Sur le plan théorique, nous montrons que l'injection de bruit réduit implicitement les valeurs propres de la hessienne de la perte. Cela procure une explication rigoureuse de l'amélioration de la stabilité. Empiriquement, les modèles construits dans ce cadre maintiennent une haute précision sous diverses perturbations. Notre approche fournit donc une méthode pratique et évolutive pour renforcer la robustesse.La deuxième contribution traite du transfert de caractéristiques depuis des modèles volumineux (modèles enseignants) vers des modèles légers (modèles étudiants), via la notion de cohérence perceptive. Plutôt que de copier les caractéristiques exactes, le modèle étudiant préserve l'ordre relatif des distances entre points tel qu'établit par le modèle enseignant. Cette préservation relationnelle respecte la capacité limitée du modèle étudiant tout en conservant la structure globale essentielle. Nous proposons également une interprétation probabiliste de cette cohérence. Les expériences confirment une amélioration du transfert de connaissances, avec une flexibilité accrue entre les architectures.La troisième contribution introduit une méthode non paramétrique et sans hypothèse de distribution pour l'estimation de l'incertitude. Elle est basée sur la Profondeur de Lentille (Lens Depth) et la Distance Fermat. Fonctionnant entièrement dans l'espace des caractéristiques à l'inférence, cette méthode fournit des scores interprétables pour les entrées dans le domaine et hors domaine (OOD), sans nécessiter de ré-entraînement. En mesurant la centralité au sein de la distribution des caractéristiques, elle identifie de manière fiable les échantillons OOD, soutenant un déploiement plus sûr dans des applications critiques.Enfin, cette thèse présente le Module d'Attention Rectangulaire Convolutif (CRAM) pour une attention interprétable et spatialement cohérente. CRAM prédit des rectangles géométriques simples pour mettre en évidence les régions d'attention, sous contrainte d'équivariance faible, produisant des cartes d'attention lisses et de faible dimension. Le module est léger, facilement intégrable aux modèles existants, et améliore la précision et la robustesse par rapport aux approches d'attention positionnelle.Globalement, cette thèse démontre qu'un raisonnement explicite dans l'espace des caractéristiques-par l'entraînement robuste, le transfert relationnel, l'estimation géométrique de l'incertitude ou l'attention structurée-permet aux réseaux de neurones de devenir plus fiables, interprétables et déployables dans des contextes réels. La généralité de ces méthodes autorise leur application à un large éventail de problèmes.

This Ph.D. thesis investigates methods to enhance robustness, transferability, uncertainty quantification, and interpretability in deep neural networks, with a common focus on shaping and leveraging feature-space geometry. The work is motivated by practical needs for lightweight, reliable models for real-time prediction of road-condition, while also addressing fundamental questions in representation learning.The first contribution develops a framework for training robust models using a discriminative loss at the penultimate layer combined with Gaussian noise injection. This approach promotes intra-class compactness, inter-class separability, and alignment of noisy features with clean counterparts. Theoretically, we show that noise injection implicitly reduces the Hessian eigenvalues of the loss, providing a principled explanation for improved stability. Empirically, models trained with this framework maintain high accuracy under diverse perturbations, offering a practical and scalable method for enhancing robustness.The second contribution addresses feature transfer from large teacher models to lightweight student models via perception coherence. Instead of matching exact features, the student model preserves the teacher model's relative ordering of distances between points. This relational preservation respects the student model's limited capacity while retaining essential global structure. We also provide a probabilistic interpretation of perception coherence. Our experiments confirm improved knowledge transfer while maintaining flexibility across architectures.The third contribution proposes a non-parametric, distribution-free method for uncertainty estimation based on Lens Depth combined with the Fermat Distance. Operating entirely in feature space at test time, this method provides interpretable scores for in-domain and out-of-domain (OOD) inputs without retraining. By measuring centrality within the feature distribution, it reliably identifies OOD samples, supporting safer deployment in critical applications.Finally, this Ph.D. thesis introduces the Convolutional Rectangular Attention Module (CRAM) for interpretable and spatially coherent attention. CRAM predicts simple geometric rectangles to highlight salient regions, constrained by weak equivariance, resulting in smooth, low-dimensional attention maps. The module is lightweight, easily integrated into existing models, and improves accuracy and robustness compared to position-wise attention approaches.Overall, this thesis demonstrates that explicitly reasoning in feature space-through robust training, relational transfer, geometric uncertainty estimation, or structured attention-enables neural networks to become more reliable, interpretable, and deployable in real-world settings. The generality of these methods allows their application to a broad spectrum of problems.