Eléments pour l'apprentissage et l'optimisation de fonctions chères

par Philippe Rolet

Thèse de doctorat en Informatique

Sous la direction de Michèle Sebag et de Olivier Teytaud.


  • Résumé

    Ces travaux de doctorat sont centrés sur l'apprentissage artificiel et l'optimisation, c'est à dire la construction de programmes apprenant à identifier un concept, à approximer une fonction ou à trouver un optimum à partir d'exemples de ce concept (ou de points de la fonction). Le contexte applicatif est l'apprentissage et l'optimisation de modèles simplifiés en ingénierie numérique, pour des problèmes industriels pour lesquels les exemples sont coûteux à obtenir. Il est nécessaire d'en utiliser le moins possible pour l'apprentissage; c'est le principe de l'apprentissage actif et de l'optimisation de fonction chères. Mes efforts de recherche ont d'abord porté sur la conception et le développement d'une nouvelle approche de l'apprentissage Actif, fondée sur l'apprentissage par renforcement. Les fondements théoriques de l'approche ont été établis. Parallèlement, l'implémentation d'un logiciel fondé sur cette approche, BAAL, a permis une validation expérimentale (publications: CAP'09, ECML'09). Une extension de cette approche a été réalisée pour l'optimisation de fonction chères (publication : GECCO 2009). La deuxième partie de mon doctorat s'intéresse aux potentiels et aux limites de l'apprentissage actif et de l'optimisation chère d'un point de vue théorique. Une étude des bornes de complexités de l'apprentissage actif par "paquets" a été réalisée (publication : ECML 2010). Dans le domaine de l'optimisation bruitée, des résultats sur le nombre minimal d'exemples nécessaires pour trouver un optimum ont été obtenus (publications: LION 2010, EvoSTAR 2010).

  • Titre traduit

    Elements for learning and optimizing expensive functions


  • Résumé

    This thesis focuses on leaming and optimizing expensive functions, that is the design of algorithms that can learn to identify a concept, to approximate a function or to find an optimum given exemples of the concept or points of the function. The motivating application is learning and optimizing simplified models in numerical engineering, for industrial problems for which examples are costly to obtain. Lt is then a requirement to use as few examples as possible for learning: this is the main characteristic of active learning and expensive optimization. This work first focuses on the design and development of a new approach to active leaming, based on reinforcement learning. Theoretical groundings for the approach are laid out, and a software inspired by the approach, BAAL, enables experimental vaildation (publications: CAP09, ECML09). An extension of this approach for expensive optimisation was devised (publication: GECCO 2009). The second part of this work is interested in the potential and Iimits of active learning and optimisation on a theoretical angle. Proofs of sample complexity bounds for batch active learning are published in ECML 2010. Regarding noisy optimization, results on the minimal number of examples necessary to find an optimum on various class of functions were derived (LION 2010, EvoSTAR 2010).

Consulter en bibliothèque

La version de soutenance existe sous forme papier

Informations

  • Détails : 1 vol. (V-139 p.)
  • Annexes : Bibliogr. p. 129-139

Où se trouve cette thèse ?

  • Bibliothèque : Université Paris-Sud (Orsay, Essonne). Service Commun de la Documentation. Section Sciences.
  • Disponible pour le PEB
  • Cote : 0g ORSAY(2010)217
Voir dans le Sudoc, catalogue collectif des bibliothèques de l'enseignement supérieur et de la recherche.