Méthodes d'apprentissage statistique mêlant approche bayésienne et deep-learning

Statistical learning methods combining the Bayesian approach and deep learning

• Auteur / Autrice : Honorine Royer
• Direction : Anne Philippe
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques appliquées
• Date : Soutenance le 03/11/2022
• Etablissement(s) : Nantes Université
• Ecole(s) doctorale(s) : École doctorale Mathématiques et sciences et technologies de l'information et de la communication (Rennes)
• Partenaire(s) de recherche : Laboratoire : Laboratoire de mathématiques Jean Leray. Journée (Nantes) (2006)
• Jury : Président / Présidente : Bertrand Michel
• Jury : Examinateurs / Examinatrices : Badih Ghattas, Sophie Ancelet, Yannig Goude, Jairo Cugliari

Mots clés

Mots clés contrôlés

Théorème de Bayes

Électricité -- Consommation

Mots clés libres

Apprentissage profond

Apprentissage par transfert

Séries temporelles

Deep learning

Transfer learning

Time series

Résumé

Nous proposons des méthodes statistiques mêlant approche bayésienne et deep learning pour la prévision de consommation électrique individuelle. Les travaux sont réalisés en partenariat avec EDF. Deux types de méthodologies sont developpées : l’une faisant usage de réseaux de neurones bayésiens et l’autre utilisant du deep learning pour de la réduction de dimension avant clustering en vue d’appliquer des modèles bayésiens plus classiques sur les clusters. Dans un premier temps, nous présentons une méthodologie d’estimation d’un modèle de régression à plusieurs sorties en grande dimension avec des réseaux de neurones. Celleci est appliquée à la prédiction de courbes de charges individuelles de clients non résidentiels. Dans un second temps, nous présentons une méthodologie de transfer learning bayésien adaptée à des données de panel. Nous l’appliquons à la problématique de prévision de consommation à la fin du mois de clients résidentiels en situation d’historique court, pour des clusters de clients. Ces clusters de clients sont obtenus avec des réseaux de neurones.

We propose statistical methods combining the Bayesian approach and deep learning for forecasting individual electrical consumption. This work is done in partnership with EDF. Two types of methodologies are developed: one relying on Bayesian neural networks, the other using deep learning for dimensionality reduction prior to clustering. Bayesian (non deep) models are then applied to the clusters. Firstly, we present a methodology to estimate a multi target regression model in high dimension with neural networks. It is applied to the prediction of individual load curves of non residential customers. Secondly, we present a Bayesian transfer learning approach adapted to panel data. The methodology is applied to forecasting the individual end-of-month consumption of residential customers, with short historical data, for specific clusters of customers. Those clusters are built using neural networks.