Algorithmes stochastiques en ligne

Online stochastic algorithms

• Auteur / Autrice : Le Li
• Direction : Loïc Chaumont, Benjamin Guedj
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques
• Date : Soutenance le 27/11/2018
• Etablissement(s) : Angers
• Ecole(s) doctorale(s) : École doctorale Mathématiques et sciences et technologies de l'information et de la communication (Rennes)
• Partenaire(s) de recherche : Equipe de recherche : Laboratoire angevin de recherche en mathématiques (Angers)
• Partenaire(s) de recherche : Entreprise : Iadvize
• Partenaire(s) de recherche : Laboratoire : Laboratoire Angevin de REcherche en MAthématiques / LAREMA
• Jury : Président / Présidente : Gérard Biau
• Jury : Examinateurs / Examinatrices : Sébastien Loustau, Bertrand Michel, Florent Gosselin
• Jury : Rapporteurs / Rapporteuses : Gilles Stoltz, Claire Monteleoni

Mots clés

Mots clés contrôlés

Markov, Processus de

Apprentissage automatique

Mots clés libres

Apprentissage en ligne

Clustering en ligne

Quasi-Bayésian

Borne de regret minimax

Reversible Jump Markov Chain Monte Carlo

Courbe principale séquentielle

Online learning

Online clustering

Quasi-Bayesian

Minimax regret bound

Reversible Jump Markov Chain Monte Carlo

Sequential principal curve

Résumé

Cette thèse travaille principalement sur trois sujets. Le premier concentre sur le clustering en ligne dans lequel nous présentons un nouvel algorithme stochastique adaptatif pour regrouper des ensembles de données en ligne. Cet algorithme repose sur l'approche quasi-bayésienne, avec une estimation dynamique (i.e., dépendant du temps) du nombre de clusters. Nous prouvons que cet algorithme atteint une borne de regret de l'ordre et que cette borne est asymptotiquement minimax sous la contrainte sur le nombre de clusters. Nous proposons aussi une implémentation par RJMCMC. Le deuxième sujet est lié à l'apprentissage séquentiel des courbes principales qui cherche à résumer une séquence des données par une courbe continue. Pour ce faire, nous présentons une procédure basée sur une approche maximum a posteriori pour le quasi-posteriori de Gibbs. Nous montrons que la borne de regret de cet algorithme et celui de sa version adaptative est sous-linéaire en l'horizon temporel T. En outre, nous proposons une implémentation par un algorithme glouton local qui intègre des éléments de sleeping experts et de bandit à plusieurs bras. Le troisième concerne les travaux qui visent à accomplir des tâches pratiques au sein d'iAdvize, l'entreprise qui soutient cette thèse. Il inclut l'analyse des sentiments pour les messages textuels et l'implémentation de chatbot dans lesquels la première est réalisé par les méthodes classiques dans la fouille de textes et les statistiques et la seconde repose sur le traitement du langage naturel et les réseaux de neurones artificiels.

This thesis works mainly on three subjects. The first one is online clustering in which we introduce a new and adaptive stochastic algorithm to cluster online dataset. It relies on a quasi-Bayesian approach, with a dynamic (i.e., time-dependent) estimation of the (unknown and changing) number of clusters. We prove that this algorithm has a regret bound of the order of and is asymptotically minimax under the constraint on the number of clusters. A RJMCMC-flavored implementation is also proposed. The second subject is related to the sequential learning of principal curves which seeks to represent a sequence of data by a continuous polygonal curve. To this aim, we introduce a procedure based on the MAP of Gibbs-posterior that can give polygonal lines whose number of segments can be chosen automatically. We also show that our procedure is supported by regret bounds with sublinear remainder terms. In addition, a greedy local search implementation that incorporates both sleeping experts and multi-armed bandit ingredients is presented. The third one concerns about the work which aims to fulfilling practical tasks within iAdvize, the company which supports this thesis. It includes sentiment analysis for textual messages by using methods in both text mining and statistics, and implementation of chatbot based on nature language processing and neural networks.