Activation dynamics and learning dynamics in neural networks

Dynamiques d'activation et dynamiques d'apprentissage des réseaux de neurones

• Auteur / Autrice : Michel Benaïm
• Direction : Manuel Samuelides
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques appliquées
• Date : Soutenance en 1992
• Etablissement(s) : École nationale supérieure de l'aéronautique et de l'espace (Toulouse ; 1972-2007)

Mots clés

Mots clés contrôlés

Apprentissage automatique

Neurones

Réseaux neuronaux (informatique)

Connexionnisme

Optimisation mathématique

Résumé

L'objet principal de cette these est d'etudier de facon rigoureuse un modele temps-reel de reseau de neurones. La description mathematique complete d'un modele temps-reel requiert la donnee de trois dynamiques: la dynamique d'activation ou dynamique des memoires a court terme qui determine l'evolution des etats d'activation des unites. La dynamique des poids ou dynamique des memoires a long terme qui determine l'evolution des vecteurs poids selon une regle d'apprentissage ou un mecanisme d'auto-organisation. Une dynamique exogene qui decrit l'evolution des stimuli exterieurs au reseau et que nous representerons par un processus aleatoire. Aussi l'evolution du reseau est donnee par un systeme dynamique non autonome couple, dans le produit cartesien de l'espace d'activation par l'espace des poids. Avec ce formalisme, nous etudions un modele de reseau qui peut etre vu comme une version temps-reel des cartes auto-organisatrices de kohonen et plus generalement d'une classe de reseaux utilises comme modules elementaires dans des architectures evoluees (art, neocognitron,. . . )