Contribution à la régression non linéaire par les réseaux de neurones

• Auteur / Autrice : Shahram Hosseini
• Direction : Christian Jutten
• Type : Thèse de doctorat
• Discipline(s) : Signal, image, parole, télécoms
• Date : Soutenance en 2000
• Etablissement(s) : Grenoble INPG
• Ecole(s) doctorale(s) : École doctorale électronique, électrotechnique, automatique, traitement du signal (Grenoble199.-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire des images et des signaux (Grenoble1998-2007)

Mots clés

Mots clés libres

Sciences et techniques

Informatique. Automatique theorique. Systemes

Reseau neuronal

Perceptron

Reseau multicouche

Maximum vraisemblance

Theorie constructive

Traitement signal

Bruit colore

Analyse regression

Résumé

La propriete d'approximation universelle de reseaux de neurones en fait des outils performants pour la regression non lineaire. Neanmoins, la complexite optimale de reseau pour un probleme donne est a priori inconnue. Les approches constructives ont ete proposees pour resoudre ce probleme. Dans la premiere partie de ce travail, nous proposons un nouvel algorithme gelant qui construit le reseau principal en ajoutant les petits reseaux, dits accessoires, de taille variable. Chaque reseau accessoire est construit et entraine par un algorithme non gelant afin d'approximer le residu de l'estimation du reseau principal. Quand les reseaux de neurones sont utilises pour la regression non lineaire, on suppose generalement que la sortie est perturbee par le bruit i. I. D. Et la methode de moindres carrees ordinaires (mco) est souvent utilisee pour estimer les poids du reseau. Cependant, dans de nombreux cas pratiques, le bruit est correle ou non stationnaire. Dans la deuxieme partie de cette these, nous considerons deux cas courants de bruit autoregressif spatio-temporel et de bruit temporellement independant de variance non constante. Dans le cadre de l'estimation du maximum de vraisemblance, les fonctions de cout appropriees dont l'optimisation permet d'obtenir les estimateurs de meilleure qualite par rapport a l'estimateur mco ont ete calculees. Meme si l'approche peut etre utilisee dans les reseaux de taille fixe, elle est encore plus interessante lorsqu'elle est servie dans une procedure constructive. En effet, elle nous permet de blanchir le residu de l'estimation qui peut etre ensuite utilise pour controler la procedure de construction. Les methodes ont ete validees sur les donnees artificielles et reelles et les resultats obtenus sont commentes, compares entre eux et confrontes a ceux obtenus par les methodes classiques.