Applications d'apprentissage automatique à la résolution de problèmes récurrents en optimisation combinatoire

Applications of machine learning to the resolution of recurrent combinatorial optimization problems

• Auteur / Autrice : Luca Mossina
• Direction : Daniel Delahaye, Emmanuel Rachelson
• Type : Thèse de doctorat
• Discipline(s) : Informatique et Télécommunications
• Date : Soutenance le 03/12/2020
• Etablissement(s) : Toulouse, ISAE
• Ecole(s) doctorale(s) : École doctorale Mathématiques, informatique et télécommunications (Toulouse)
• Partenaire(s) de recherche : Laboratoire : Équipe d'accueil doctoral Modélisation et ingénierie des systèmes (Toulouse, Haute-Garonne)
• Partenaire(s) de recherche : Equipe de recherche : Institut supérieur de l'aéronautique et de l'espace (Toulouse, Haute-Garonne). Département d’ingénierie des systèmes complexes
• Jury : Président / Présidente : Nicolas Couellan
• Jury : Examinateurs / Examinatrices : Daniel Delahaye, Emmanuel Rachelson, Nicolas Couellan, Laetitia Jourdan, Marc Sevaux, Marc Schoenauer
• Jury : Rapporteurs / Rapporteuses : Laetitia Jourdan, Marc Sevaux

Mots clés

Mots clés contrôlés

Apprentissage automatique

Optimisation combinatoire

Recherche opérationnelle

Mots clés libres

Optimisation combinatoire

Apprentissage automatique

Recherche opérationnelle

Problèmes récurrents

Optimisation guidée par l'expérience

Combinatorial Optimization

Machine Learning

Operations Research

Recurrent Problems

Experience-Driven Optimization

Résumé

Ce travail s'intéresse aux problèmes de décision pour lesquels on cherche une solution optimale ou quasi-optimale et dont il faut résoudre plusieurs instances successives (problèmes récurrents) lesquelles sont des variantes d'un même problème d'origine.On analyse la structure de tels problèmes afin de dégager les caractéristiques pouvant être exploitées efficacement et transférées d'une résolution à l'autre, afin d'améliorer incrémentalement la qualité de l'optimisation.On se place donc dans le cadre d'une interaction entre un processus d'apprentissage automatique (fouille de données d'optimisation) et un processus d'optimisation.D'une part, étant donné l'expérience de résolutions passées, on cherche à apprendre ce que l'on peut généraliser au problème courant.D'autre part, on cherche à utiliser ces connaissances au sein de l'algorithme d'optimisation afin de rendre son exécution plus efficace.En particulier, cette thèse présente trois contributions. La première introduit une méthode pour générer des sous-problèmes plus simple pour un instance d’un problème récurrent, en utilisant la classification multi-étiquette. Un sous-ensemble de variables décision est sélectionné et figé à une valeur de référence.La solution au sous-problème qui reste, même en étant pas garantie optimale pour le problème originale, peut être obtenu plus rapidement.La deuxième, emploie l’apprentissage supervisé, classification et régression, pour prédire et ajouter une contrainte additionnelle au problème récurrent modélisé par programmation mathématique. Au moment de résoudre une nouvelle instance, le modèle prédit en quelle mesure la solution au problème de référence est applicable, en permettant d’obtenir une résolution plus rapide.Dans la troisième, le contrôle dynamique de paramètres d’un algorithme évolutionnaire est encadré comme un problème d’apprentissage par renforcement. Les politiques de contrôle ainsi obtenues garantissent que l’algorithme d’optimisation atteint, en moyenne, la solution optimale dans le plus court délai.

The interest is on those decision problems for which an optimal or quasi-optimal solution is sought, and for which it is necessary to solve successive instances (recurrent problems) that are variations of a common original problem.The structure of such problems is analysed to identify the characteristics that can be exploited and transferred from one resolution to another, to incrementally improve the quality of the optimization process. The research is characterized by the interaction between a process of statistical learning (from optimization data) and a process of optimization. The information extracted from past resolutions is generalized to the current problem and integrated into the optimization algorithm to make its execution more resource-efficient.In particular, this thesis presents three contributions.The first, introduces a method that generates a simpler sub-problem to an instance of a recurrent problem, using multi-label classification. A subset of decision variables is selected and set to a reference value. The solution to the remaining sub-problem, while not guaranteed to be optimal for the original problem, can be obtained faster.The second employs Supervised Learning, classification and regression, to predict an additional constraint to a reference recurrent problem modelled via Mathematical Programming. When a new instance is solved, the model predicts how much of the solution to the reference problem is still applicable, allowing for a more rapid resolution.In the third, the dynamic control of the parameters of Evolutionary Algorithms is framed as a Reinforcement Learning problem. The control policies obtained guarantee that the optimization algorithm reaches an optimal solution within the shortest, average time.