Critère d'entropie pour l'estimation semi-paramétrique

par Éric Wolsztynski

Thèse de doctorat en Automatique, traitement du signal et des images

Sous la direction de Luc Pronzato et de Eric Thierry.


  • Résumé

    Nous considérons un modèle de régression non linéaire fonction de paramètres inconnus, avec un bruit additif inobservable dont la densité f est uniquement supposée symétrique. Nous cherchons à estimer les paramètres du modèle dans ce contexte semi-paramétrique, où il est encore possible d’obtenir un estimateur asymptotiquement efficace au second ordre au sens de Cramér-Rao. On peut montrer que l’entropie de Shannon de la loi des résidus symétrisés est minimale pour la vraie valeur des paramètres. L’estimateur que nous proposons minimise ainsi l’entropie empirique d’une estimée de la densité des résidus. Nous montrons que cet estimateur es asymptotiquement consistant et qu’l est un bon candidat à l’estimation adaptative. La suite de nos travaux porte sur des applications de l’estimation par minimisation de l’entropie à des problèmes de traitement du signal et de l’image. En particulier, nous appliquons les constructions d’estimateurs par minimum d’entropie à un problème d’estimation de mouvement dans des séquences vidéo, en collaboration avec l’équipe de traitement d’image du laboratoire I3S, et comparons deux estimateurs par minimum d’entropie. L’un de ces constructions s’applique à des problèmes où les observations sont de dimension supérieure à un, cas pour lequel peu de méthodes adaptatives ont été considérées. Les résultats obtenus viennent compléter le travail théorique que nous avons effectué dans cette thèse. Ils mettent en évidence en particulier la propriété de robustesse de l’approche par minimisation de l’entropie des résidus et permettent de confirmer les intuitions qui ont motivé ce travail de recherche.

  • Titre traduit

    Entropy criterion for semiparametric estimation


  • Résumé

    We consider a nonlinear regression model defined as a function of unknown parameters, bearing unobservable additive noise with density f, which we only assume to be symmetric about zero. We wish to estimate the model parameters in this semiparametric context, in which adaptive estimation is possible, that is, that second-order asymptotically efficient estimation is still possible (in the sense of Cramér-Rao). One can prove that the Shannon entropy of the symmetrised residuals reaches its minimum at the true value of the parameters. The estimator that we suggest minimizes the empirical entropy of an estimate of the density of the residuals. We show that this estimator is asymptotically consistent and that it is s strong candidate to adaptive estimation. We then consider applications of some minimum-entropy estimators to signal and image processing problems. In particular, we apply different minimum-entropy estimators to video motion estimation problems, in collaboration with the image processing team of I3S laboratory, and focus on two procedures. One construction can be applied to data of dimension greater than one. To the best of our ledge, very few adaptive procedures have been considered in that context in the literature. The results we obtain come to support the theoretical aspects of our work. In particular, they illustrate the robustness property of the minimum-entropy approach and confirm the ideas that motivated our work.

Consulter en bibliothèque

La version de soutenance existe sous forme papier

Informations

  • Détails : 1 vol. (x-214 p.)
  • Annexes : Bibliogr. p. 199-200 et p. 209-214. Résumés en français et en anglais

Où se trouve cette thèse ?

  • Bibliothèque : Université Nice Sophia Antipolis. Service commun de la documentation. Bibliothèque Sciences.
  • Non disponible pour le PEB
  • Cote : 06NICE4092
Voir dans le Sudoc, catalogue collectif des bibliothèques de l'enseignement supérieur et de la recherche.