Calibration strategies for bio-inspired population-based algorithms that solve combinatorial optimization problems

par Elisabeth Montero

Thèse de doctorat en Informatique

Sous la direction de Bertrand Neveu.

Soutenue en 2011

à Nice .

  • Titre traduit

    Stratégies de contrôle de paramètres dans des algorithmes bio-inspirés pour la résolution de problèmes d'optimisation combinatoire


  • Résumé

    Selection of proper values for parameters of bio-inspired algorithms is crucial to get good performance. To find these values is a complex process because parameter values depend on the problem that is being solved. Moreover, it is a high time consuming task and parameters are interrelated values. The first contribution of this thesis is the comparative study of features and performance of some automated parameter tuning methods. Advantages and disadvantages of these methods were identified. The main disadvantage of tuning methods is that they are high consuming time process. These methods search for parameters values focusing on statistically promising areas of the parameters search space. We also present an analysis of the potential of using these techniques to support the design process of evolutionary algorithms. In most cases, tuning methods are not able to discard elements that do not contribute to their operation. The main contribution of this thesis is related to the ability of varying parameter values during the execution of the algorithm. These kinds of approaches are known as parameter control methods. Two methods are proposed in this thesis for improving the performance of evolutionary algorithms by controlling its operators rates : Ac and Sac. Ac works in a population level rewarding operators that perfom good transformations during the iteration and punishing the others. Sac works in an individual level rewarding or punishing operators according to the performance of their applications in each individual. These both control methods can be incorporated to the evolutionary algorithm without introducing a meaningful cost in terms of time and without changing the original structure of the evolutionary algorithm. Variations of parameter values are based on current and past information about the operators performance. The incorporation of these techniques allows the algorithm to decide when and how much use each operator during the search process. Moreover, we propose the (C,n)-strategy for the CLONALG artificial immune system. In this case we control the amount of selected cells and clones produced in each iteration. The application of our control method allows us to reduce the amount of parameters to tune for the algorithm. Our control technique is able to manage the relationship between intensification and diversification stages of the search by varying the values of these parameters. From this work, we can conclude that parameter tuning techniques are able to find parameter values that show a good performance on the tuned algorithm. Most of these techniques require a previous analysis of the parameter search spaces and, in general, they require a considerable amount time. However, they can be able to make decisions about the design of the evolutionary algorithm. About the incorporation of parameter control strategies, we can conclude that it is possible to improve the efficiency of the algorithm, reducing the tuning effort by decreasing the number of parameters of tune. It is possible to vary parameter values during the search without changing the original design of the algorithm. Finally, the proposed techniques add a minimum amount of easily tunable new parameters. The development of tuning techniques able to work with any kind of parameters and capable to determine proper stopping criteria in order to do not waste resources is still an open research area. In this thesis we have shown that it is possible to perform on-line parameter variation in population-based algorithms. One interesting point of research is the automatic identification of the role of different components of the algorithm in order to automatize the design process of parameter control strategies.


  • Résumé

    La sélection de valeurs adéquates pour les paramètres des algorithmes bio-inspirés est un processus crucial pour obtenir de bonnes performances. C’est un processus complexe étant donné que les valeurs des paramètres dépendent en général du problème que l’on cherche à résoudre. Il est de plus très coûteux en temps, et les paramètres ne sont pas complètement indépendants entre eux. La première contribution de cette thèse consiste en une étude comparative des caractéristiques et performances des différentes méthodes connues dans la littérature pour ajuster les paramètres, en analysant leurs avantages et leurs inconvénients. Le plus grand désavantage de ces méthodes est qu’elles sont très coûteuses en temps. Cependant, elles permettent d’obtenir de bonnes estimations pour les paramètres, en concentrant la recherche dans des régions statistiquement prometteuses. Nous présentons de plus une analyse du potentiel de ces techniques en tant qu’aide dans le processus de conception d’algorithmes évolutifs. Même si ces techniques aident à prendre des décisions quant à la conception de l’algorithme, elles ne sont pas capables d’éliminer de l’algorithme les éléments qui ne contribuent pas à son bon fonctionnement. La contribution principale de la thèse se situe sur la capacité de déterminer les valeurs des paramètres à la volée. Nous proposons deux nouvelles méthodes pour améliorer les performances des algorithmes évolutifs : Ac et Sac. Ac réalise un contrôle de la population dans lequel un opérateur reçoit une récompense en fonction de l’amélioration de performance issue de son application. Sac est quant à lui orienté à un contrôle individuel dans lequel le taux d’un opérateur qui correspond à un individu dépend de l’efficacité qu’a eue cet opérateur dans l’amélioration des générations précédentes. Ces deux méthodes peuvent être incorporées sans introduire un coût significatif, et sans changement important dans la conception d’origine de l’algorithme. Les décisions prises durant la recherche se basent ainsi sur les informations disponibles sur le comportement passé, à partir d’un processus permettant à l’algorithme d’effectuer des changements de valeurs de paramètres qu’il juge nécessaires. L’application de ces techniques a permis à l’algorithme d’éliminer des composants non nécessaires à sa recherche, grâce à une utilisation minimale de ceux-ci. Nous proposons également la stratégie (C,n)-strategy connue pour réaliser un contrôle dans l’algorithme immunitaire CLONAG, permettant de réduire en bonne partie le nombre de paramètres sur lesquels repose son exécution, ainsi que d’améliorer son comportement grâce à la modification à la volée du nombre de cellules sélectionnées pour le clonage, ainsi que le nombre de clones produits. Les techniques appliquées à l’algorithme évolutif, comme celle appliquée à l’algorithme immunitaire cherchent un équilibre entre l’exploration et l’exploitation de l’espace de recherche en utilisant les paramètres sélectionnés pour réaliser le contrôle. A partir du travail réalisé dans cette thèse, nous pouvons conclure que les techniques d’ajustement des paramètres permettent effectivement de trouver un ensemble de valeurs des paramètres qui offre une bonne performance de l’algorithme de recherche. Ces techniques demandent une analyse antérieure de la définition de l’espace de recherche pour les valeurs des paramètres, et requièrent de plus un temps d‘exécution considérable. Néanmoins, à partir des informations données par ces techniques d’ajustement, il est possible de prendre des décisions concernant la conception de l’algorithme que l’on veut ajuster. En ce qui concerne les techniques de contrôle de paramètres, nous pouvons conclure qu’elles permettent d’améliorer l’efficacité de l’algorithme et de réduire l’effort d’ajustement des paramètres car elles réduisent le nombre de paramètres à ajuster, qu’elles sont capables d’ajuster automatiquement les paramètres de l’algorithme sans modifier la conception d’origine de l’algorithme, et enfin, qu’elles ajoutent une quantité minime de paramètres additionnels à l’algorithme. Le développement de techniques capables de travailler avec n’importe quel type de paramètres demandant une définition de l’information d’entrée et qui soient capables de stopper à temps la recherche afin de ne pas perdre de ressources, reste un terme de recherche ouvert. Nous avons montré dans cette thèse qu’il est possible de réaliser un contrôle à la volée des paramètres des algorithmes basés sur des populations. Une perspective de recherche intéressante consiste à arriver à automatiser l’identification du rôle des composants de l’algorithme afin de pouvoir concevoir automatiquement les stratégies de contrôle.

Consulter en bibliothèque

La version de soutenance existe sous forme papier

Informations

  • Détails : 1 vol. (x-139 p.)
  • Annexes : Bibliogr. p. 133-139. Résumés en anglais et en français

Où se trouve cette thèse ?

  • Bibliothèque : Université Nice Sophia Antipolis. Service commun de la documentation. Section Sciences.
  • Non disponible pour le PEB
  • Cote : 11NICE4040
Voir dans le Sudoc, catalogue collectif des bibliothèques de l'enseignement supérieur et de la recherche.