Différents problèmes liés à l'estimation de l'entropie de Shannon d'une loi, d'un processus de Markov

par Philippe Regnault

Thèse de doctorat en Mathématiques et leurs interactions

Sous la direction de Valérie Girardin.

Soutenue en 2011

à Caen .


  • Résumé

    On étudie à la fois l'estimation de l'entropie de Shannon d'une probabilité`a partir d'observations indépendantes ou markoviennes, et l'estimation du taux d'entropie d'un processus markovien de sauts d'espace d'état fini, à partir d'observations continues ou discrètes. Plusieurs problèmes connexes sont traiés. Certains apparaissent en amont de l'estimation, comme l’étude de la géométrie de la divergence de Kullback-Leibler en lien avec la transformation escorte. D'autres apparaissent comme des applications des résultats d'estimation obtenus. On construit ainsi des tests sur le niveau d'entropie d'une probabilité, à partir d'un principe de grandes déviations pour la suite des estimateurs empiriques de l'entropie d'une suite de variables indépendantes. On étudie également diverses propriétés en lien avec l'estimation de l'entropie et du taux d'entropie de files d'attente modélisées par des processus markoviens de naissance et de mort.

  • Titre traduit

    Several problems linked with the estimation of Shannon entropy of a distribution or Markov process


  • Résumé

    This PhD report deals with the estimation of both Shannon entropy of distributions from independent and Markovian data and entropy rate of pure jump Markov processes with finite state space. In the latter case, different schemes of continuous and discrete observation of the processes are considered. Several related problems are studied. Kullback-Leibler information geometry linked with escort transformations come ahead of estimation. Others appear as applications of the estimation results. Tests on the entropy level of a distribution are derived from a large deviation principle satisfied by the sequence of empirical estimators of the entropy of a distribution. Properties related to entropy of birth and death Markovian queueing systems are also considered.

Consulter en bibliothèque

La version de soutenance existe sous forme papier

Informations

  • Détails : 1 vol. (116 p.)
  • Annexes : Bibliogr. p. 113-116

Où se trouve cette thèse ?

  • Bibliothèque : Université de Caen Normandie. Bibliothèque universitaire Sciences - STAPS.
  • Non disponible pour le PEB
  • Cote : TCAS-2011-42
  • Bibliothèque : Université de Caen Normandie. Bibliothèque universitaire Sciences - STAPS.
  • Disponible pour le PEB
  • Cote : TCAS-2011-42bis
Voir dans le Sudoc, catalogue collectif des bibliothèques de l'enseignement supérieur et de la recherche.