Studies on stochastic optimisation and applications to the real world

Vincent Berthier 1
1 TAU - TAckling the Underspeficied
LRI - Laboratoire de Recherche en Informatique, UP11 - Université Paris-Sud - Paris 11, Inria Saclay - Ile de France, CNRS - Centre National de la Recherche Scientifique : UMR8623
Résumé : Un grand nombre d’études ont été faites dans le domaine de l’Optimisation Stochastique en général et les Algorithmes Génétiques en particulier. L’essentiel des nouveaux développements ou des améliorations faites sont alors testés sur des jeux de tests très connus tels que BBOB, CEC, etc. conçus de telle manière que soient présents les principaux défis que les optimiseurs doivent relever : non séparabilité, multimodalité, des vallées où le gradient est quasi-nul, et ainsi de suite. La plupart des études ainsi faites se déroulent via une application directe sur le jeu de test, optimisant un nombre donné de variables pour atteindre un critère précis. La première contribution de ce travail consiste à étudier l’impact de la remise en cause de ce fonctionnement par deux moyens : le premier repose sur l’introduction d’un grand nombre de variables qui n’ont pas d’impact sur la valeur de la fonction optimisée ; le second quant à lui relève de l’étude des conséquences du mauvais conditionnement d’une fonction en grande dimension sur les performances des algorithmes d’optimisation stochastique. Une deuxième contribution se situe dans l’étude de l’impact de la modification des mutations de l’algorithme CMA-ES, où, au lieu d’utiliser des mutations purement aléatoires, nous allons utiliser des mutations quasi-aléatoires. Ce travail introduit également la “Sieves Method”, bien connue des statisticiens. Avec cette méthode, nous commençons par optimiser un faible nombre de variables, nombre qui est ensuite graduellement incrémenté au fil de l’optimisation. Bien que les jeux de tests existants sont bien sûr très utiles, ils ne peuvent constituer que la première étape : dans la plupart des cas, les jeux de tests sont constitués d’un ensemble de fonctions purement mathématiques, des plus simples comme la sphère, aux plus complexes. Le but de la conception d’un nouvel optimiseur, ou l’amélioration d’un optimiseur existant, doit pourtant in fine être de répondre à des problèmes du monde réel. Ce peut-être par exemple la conception d’un moteur plus efficace, d’identifier les bons paramètres d’un modèle physique ou encore d’organiser des données en groupes. Les optimiseurs stochastiques sont bien évidemment utilisés sur de tels problèmes, mais dans la plupart des cas, un optimiseur est choisi arbitrairement puis appliqué au problème considéré. Nous savons comment les optimiseurs se comparent les uns par rapport aux autres sur des fonctions artificielles, mais peu de travaux portent sur leur efficacité sur des problèmes réels. L’un des principaux aspects des travaux présentés ici consiste à étudier le comportement des optimiseurs les plus utilisés dans la littérature sur des problèmes inspirés du monde réel, voire des problèmes qui en viennent directement. Sur ces problèmes, les effets des mutations quasi-aléatoires de MA-ES et de la “Sieves Method” sont en outre étudiés.
Liste complète des métadonnées

Littérature citée [136 références]  Voir  Masquer  Télécharger

https://hal.inria.fr/tel-01668371
Contributeur : Vincent Berthier <>
Soumis le : mercredi 20 décembre 2017 - 05:55:47
Dernière modification le : jeudi 5 avril 2018 - 12:30:26

Fichier

manuscrit_final.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : tel-01668371, version 1

Citation

Vincent Berthier. Studies on stochastic optimisation and applications to the real world. Numerical Analysis [cs.NA]. Université Paris 11, 2017. English. 〈tel-01668371〉

Partager

Métriques

Consultations de la notice

135

Téléchargements de fichiers

35