Etude théorique de quelques procédures statistiques pour le traitement de données complexes

Theoretical study of some statistical procedures applied to complex data

• Auteur / Autrice : Vincent R. Cottet
• Direction : Nicolas Chopin, Pierre Alquier
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques appliquées
• Date : Soutenance le 17/11/2017
• Etablissement(s) : Université Paris-Saclay (ComUE)
• Ecole(s) doctorale(s) : École doctorale de mathématiques Hadamard (Orsay, Essonne ; 2015-....)
• Partenaire(s) de recherche : Laboratoire : Centre de recherche en économie et statistique (France)
• Partenaire(s) de recherche : Établissement oprateur d'inscription : École nationale de la statistique et de l'administration économique (Palaiseau, Essonne)
• Jury : Président / Présidente : Arnaud Guyader
• Jury : Examinateurs / Examinatrices : Nicolas Chopin, Pierre Alquier, Arnaud Guyader, Ismaël Castillo, Peter D. Grünwald, Olivier Catoni
• Jury : Rapporteurs / Rapporteuses : Ismaël Castillo, Peter D. Grünwald

Mots clés

Mots clés contrôlés

Analyse spatiale (statistique)

Observations aberrantes (statistique)

Matrices

Apprentissage automatique

Estimation, Théorie de l'

Statistique mathématique

Statistique bayésienne

Inférence

Statistique

Mots clés libres

Statistiques

Inférence bayésienne

Statistiques computationnelle

Machine Learning

Complétion de matrices

Extrêmes spatiaux

Statistics

Bayesian Inference

Computational Statistics

Machine Learning

Matrix Completion

Spatial Extremes

Résumé

La partie principale de cette thèse s'intéresse à développer les aspects théoriques et algorithmiques pour trois procédures statistiques distinctes. Le premier problème abordé est la complétion de matrices binaires. Nous proposons un estimateur basé sur une approximation variationnelle pseudo-bayésienne en utilisant une fonction de perte différente de celles utilisées auparavant. Nous pouvons calculer des bornes non asymptotiques sur le risque intégré. L'estimateur proposé est beaucoup plus rapide à calculer qu'une estimation de type MCMC et nous montrons sur des exemples qu'il est efficace en pratique. Le deuxième problème abordé est l'étude des propriétés théoriques du minimiseur du risque empirique pénalisé pour des fonctions de perte lipschitziennes. Nous pouvons ensuite appliquer les résultats principaux sur la régression logistique avec la pénalisation SLOPE ainsi que sur la complétion de matrice. Le troisième chapitre développe une approximation de type Expectation-Propagation quand la vraisemblance n'est pas explicite. On utilise alors l'approximation ABC dans un second temps. Cette procédure peut s'appliquer à beaucoup de modèles et est beaucoup plus précise et rapide. Elle est appliquée à titre d'exemple sur un modèle d'extrêmes spatiaux.

The main part of this thesis aims at studying the theoretical and algorithmic aspects of three distinct statistical procedures. The first problem is the binary matrix completion. We propose an estimator based on a variational approximation of a pseudo-Bayesian estimator. We use a different loss function of the ones used in the literature. We are able to compute non asymptotic risk bounds. It is much faster to compute the estimator than a MCMC method and we show on examples that it is efficient in practice. In a second part we study the theoretical properties of the regularized empirical risk minimizer for Lipschitz loss functions. We are therefore able to apply it on the logistic regression with the SLOPE regularization and on the matrix completion as well. The third chapter develops an Expectation-Propagation approximation when the likelihood is not explicit. We then use an ABC approximation in a second stage. This procedure may be applied to many models and is more precise and faster than the classic ABC approximation. It is used in a spatial extremes model.