Modèles de Markov, Réseaux de Neurones, et Systèmes de Questions-Réponses

par Elie Azeraf

Projet de thèse en Mathématiques appliquées

Sous la direction de Wojciech Pieczynski et de Emmanuel Monfrini.

Thèses en préparation à Paris Saclay , dans le cadre de École doctorale de mathématiques Hadamard (Orsay, Essonne ; 2015-....) , en partenariat avec Télécom SudParis (France) (laboratoire) , TIPIC - Traitement de l'Information Pour Images et Communication (equipe de recherche) et de Institut national des télécommunications (Evry) (établissement de préparation de la thèse) depuis le 08-04-2019 .


  • Résumé

    L'objectif de la thèse sera de développer des modèles liant modèles de Markov et réseaux de neurones et d'en étudier des applications, notamment pour les systèmes de Questions-Réponses, pour ensuite les mettre en place sur des agents conversationnels. Les algorithmes les plus utilisés pour les systèmes de Questions-Réponses aujourd'hui reposent sur des modèles de Réseaux de Neurones. Ceux-ci peuvent s'interpréter comme des modèles probabilistes cachés, dont le même problème peut être abordés par des modèles de Markov cachés. Ceux-ci ont, depuis une quinzaine d'année, été étendu en modèles de Markov « couples » et « triplets », permettant d'obtenir des résultats parfois spectaculaires. Le doctorant s'inspirera alors des démarches amenant à la création des modèles de Markov couples et triplets à partir du modèle de Markov cachés pour proposer des modèles de réseaux de neurones « couples » et « triplets », et des modèles hybrides entre réseau de neurones et modèles de Markov. Il en recherchera des applications, notamment pour les systèmes de Questions-Réponse, et observera les apports de ces nouveaux modèles sur les réseaux de neurones classiques.

  • Titre traduit

    Markov Models, Neural Networks, and Question Answering


  • Résumé

    The goal of this thesis is to develop models linking Markov models and Neural Networks, and to study their applications, particularly for Question Answering. Then, we want to use these new models in conversational agents, also called chatbots. Today, the most used algorithms for Question Answering are based on Neural Networks. Those can be interpreted as hidden probabilistic models, where the same problem can be addressed by Markov Models. Indeed, for fifteen years, those had been extended to Pairwise and Triplet Markov Models, allowing us to obtain results sometimes impressive. The PhD student will be inspired by the steps bringing the creation of pairwise and triplet Markov models from the hidden Markov model to propose new neural network models “pairwise” and “triplet”, and hybrids models with neural networks and Markov models. He will search applications for these new models, particularly for Question Answering, and will study the contribution of these new models to the classic Neural Networks.