A Simple Modification in CMA-ES Achieving Linear Time and Space Complexity

Raymond Ros 1, 2 Nikolaus Hansen 1
1 TANC - Algorithmic number theory for cryptology
LIX - Laboratoire d'informatique de l'École polytechnique [Palaiseau], Inria Saclay - Ile de France, X - École polytechnique, CNRS - Centre National de la Recherche Scientifique : UMR7161
Abstract : This report proposes a simple modification of the Covariance Matrix Adaptation Evolution Strategy (CMA-ES) for high dimensional objective functions that reduces the internal time and space complexity from quadratic to linear. The covariance matrix is constrained to be diagonal and the resulting algorithm, sep-CMA-ES, samples each coordinate independently. Because the model complexity is reduced, the learning rate for the covariance matrix can be increased. Consequently, on essentially separable functions, sep-CMA-ES significantly outperforms CMA-ES. For dimension larger than 100, even on the non-separable Rosenbrock function, the sep-CMA-ES needs fewer function evaluations than CMA-ES.
Type de document :
Rapport
[Research Report] RR-6498, INRIA. 2008
Liste complète des métadonnées

Littérature citée [9 références]  Voir  Masquer  Télécharger

https://hal.inria.fr/inria-00270901
Contributeur : Raymond Ros <>
Soumis le : lundi 30 juin 2008 - 11:18:12
Dernière modification le : jeudi 10 mai 2018 - 02:06:50
Document(s) archivé(s) le : samedi 26 novembre 2016 - 00:30:12

Fichier

RR-6498.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : inria-00270901, version 4

Collections

Citation

Raymond Ros, Nikolaus Hansen. A Simple Modification in CMA-ES Achieving Linear Time and Space Complexity. [Research Report] RR-6498, INRIA. 2008. 〈inria-00270901v4〉

Partager

Métriques

Consultations de la notice

383

Téléchargements de fichiers

293