About: CMA-ES

An Entity of Type: LanguageUnit106284225, from Named Graph: http://dbpedia.org, within Data Space: dbpedia.org

Covariance matrix adaptation evolution strategy (CMA-ES) is a particular kind of strategy for numerical optimization. Evolution strategies (ES) are stochastic, derivative-free methods for numerical optimization of non-linear or non-convex continuous optimization problems. They belong to the class of evolutionary algorithms and evolutionary computation. An evolutionary algorithm is broadly based on the principle of biological evolution, namely the repeated interplay of variation (via recombination and mutation) and selection: in each generation (iteration) new individuals (candidate solutions, denoted as ) are generated by variation, usually in a stochastic way, of the current parental individuals. Then, some individuals are selected to become the parents in the next generation based on the

Property Value
dbo:abstract
  • Covariance Matrix Adaptation Evolution Strategy (kurz CMA-ES) ist ein Monte-Carlo-Algorithmus zum Lösen von Black Box Optimierungsproblemen. Der Schritt der Covariance Matrix Adaptation (CMA) in der Evolutionsstrategie (ES) ist ein derandomisiertes Verfahren zur Adaptation der Kovarianzmatrix der normalverteilten Mutationsverteilung. Die Kovarianzmatrix der multivariaten Normalverteilung beschreibt die paarweise Abhängigkeiten zwischen den Variablen. Die Adaptation der Kovarianzmatrix in der Evolutionsstrategie ist vergleichbar mit der Approximation der inversen Hesse-Matrix in der klassischen Optimierung, wie z. B. im Quasi-Newton-Verfahren. Anwendung hat CMA-ES zum Beispiel in der Hyperparameteroptimierung gefunden. (de)
  • Covariance matrix adaptation evolution strategy (CMA-ES) is a particular kind of strategy for numerical optimization. Evolution strategies (ES) are stochastic, derivative-free methods for numerical optimization of non-linear or non-convex continuous optimization problems. They belong to the class of evolutionary algorithms and evolutionary computation. An evolutionary algorithm is broadly based on the principle of biological evolution, namely the repeated interplay of variation (via recombination and mutation) and selection: in each generation (iteration) new individuals (candidate solutions, denoted as ) are generated by variation, usually in a stochastic way, of the current parental individuals. Then, some individuals are selected to become the parents in the next generation based on their fitness or objective function value . Like this, over the generation sequence, individuals with better and better -values are generated. In an evolution strategy, new candidate solutions are sampled according to a multivariate normal distribution in . Recombination amounts to selecting a new mean value for the distribution. Mutation amounts to adding a random vector, a perturbation with zero mean. Pairwise dependencies between the variables in the distribution are represented by a covariance matrix. The covariance matrix adaptation (CMA) is a method to update the covariance matrix of this distribution. This is particularly useful if the function is ill-conditioned. Adaptation of the covariance matrix amounts to learning a second order model of the underlying objective function similar to the approximation of the inverse Hessian matrix in the quasi-Newton method in classical optimization. In contrast to most classical methods, fewer assumptions on the underlying objective function are made. Because only a ranking (or, equivalently, sorting) of candidate solutions is exploited, neither derivatives nor even an (explicit) objective function is required by the method. For example, the ranking could come about from pairwise competitions between the candidate solutions in a Swiss-system tournament. (en)
  • CMA-ES (共分散行列適応進化戦略、Covariance Matrix Adaptation Evolution Strategy の略) は、連続最適化問題のアルゴリズム。目的関数 の最小値を探す。目的関数の導関数は不要。100次元程度以下のノイズも乗っている目的関数を想定している。1996年に Nikolaus Hansen と Andreas Ostermeier が発表し、その後も改良が続けられている。 (ja)
  • CMA-ES означає Коваріаційна матриця стратегії еволюції адаптації. Еволюційна стратегія (ЕС) є , похідною від методів чисельної оптимізації нелінійних або неопуклих проблем безперервної оптимізації. Вони належать до класу еволюційних алгоритмів і . Еволюційний алгоритм в цілому засновано на принципі біологічної еволюції, а саме повторній взаємодії варіації (через мутації і рекомбінації) і : в кожному поколінні (ітерації) нові особи (розв'язки) породжують зміни, а потім деякі генерації вибирають для наступного покоління на основі їх придатності або на основі цільової функції значення. Подібно до цього, в послідовності поколінь створюються все кращі генерації. В еволюційній стратегії, нові рішення відбирають відповідно до багатовимірного нормального розподілу. Парні залежності між змінними в цьому розподілі представлені у коваріаційній матриці. Адаптація коваріаційної матриці (CMA) є методом для поновлення коваріаційної матриці цього розподілу. Це особливо корисно, якщо функція є погано обумовленою.Адаптація коваріаційної матриці становить вивчення другого порядку моделі базової цільової функції, схоже на обчислення зворотної матриці Гессе в класичній оптимізації. На відміну від більшості класичних методів, виконується менше припущень про природу основної цільової функції. Тільки рейтинг між кандидатами на найкраще рішення використані для вивчення розподілу вибірки, і ні похідних, ні навіть самі значення функції не використовують. (uk)
dbo:thumbnail
dbo:wikiPageExternalLink
dbo:wikiPageID
  • 8143131 (xsd:integer)
dbo:wikiPageInterLanguageLink
dbo:wikiPageLength
  • 46358 (xsd:nonNegativeInteger)
dbo:wikiPageRevisionID
  • 1124777445 (xsd:integer)
dbo:wikiPageWikiLink
dbp:wikiPageUsesTemplate
dcterms:subject
rdf:type
rdfs:comment
  • CMA-ES (共分散行列適応進化戦略、Covariance Matrix Adaptation Evolution Strategy の略) は、連続最適化問題のアルゴリズム。目的関数 の最小値を探す。目的関数の導関数は不要。100次元程度以下のノイズも乗っている目的関数を想定している。1996年に Nikolaus Hansen と Andreas Ostermeier が発表し、その後も改良が続けられている。 (ja)
  • Covariance matrix adaptation evolution strategy (CMA-ES) is a particular kind of strategy for numerical optimization. Evolution strategies (ES) are stochastic, derivative-free methods for numerical optimization of non-linear or non-convex continuous optimization problems. They belong to the class of evolutionary algorithms and evolutionary computation. An evolutionary algorithm is broadly based on the principle of biological evolution, namely the repeated interplay of variation (via recombination and mutation) and selection: in each generation (iteration) new individuals (candidate solutions, denoted as ) are generated by variation, usually in a stochastic way, of the current parental individuals. Then, some individuals are selected to become the parents in the next generation based on the (en)
  • Covariance Matrix Adaptation Evolution Strategy (kurz CMA-ES) ist ein Monte-Carlo-Algorithmus zum Lösen von Black Box Optimierungsproblemen. Der Schritt der Covariance Matrix Adaptation (CMA) in der Evolutionsstrategie (ES) ist ein derandomisiertes Verfahren zur Adaptation der Kovarianzmatrix der normalverteilten Mutationsverteilung. Die Kovarianzmatrix der multivariaten Normalverteilung beschreibt die paarweise Abhängigkeiten zwischen den Variablen. Die Adaptation der Kovarianzmatrix in der Evolutionsstrategie ist vergleichbar mit der Approximation der inversen Hesse-Matrix in der klassischen Optimierung, wie z. B. im Quasi-Newton-Verfahren. (de)
  • CMA-ES означає Коваріаційна матриця стратегії еволюції адаптації. Еволюційна стратегія (ЕС) є , похідною від методів чисельної оптимізації нелінійних або неопуклих проблем безперервної оптимізації. Вони належать до класу еволюційних алгоритмів і . Еволюційний алгоритм в цілому засновано на принципі біологічної еволюції, а саме повторній взаємодії варіації (через мутації і рекомбінації) і : в кожному поколінні (ітерації) нові особи (розв'язки) породжують зміни, а потім деякі генерації вибирають для наступного покоління на основі їх придатності або на основі цільової функції значення. Подібно до цього, в послідовності поколінь створюються все кращі генерації. (uk)
rdfs:label
  • CMA-ES (de)
  • CMA-ES (en)
  • CMA-ES (ja)
  • CMA-ES (uk)
owl:sameAs
prov:wasDerivedFrom
foaf:depiction
foaf:isPrimaryTopicOf
is dbo:wikiPageDisambiguates of
is dbo:wikiPageRedirects of
is dbo:wikiPageWikiLink of
is foaf:primaryTopic of
Powered by OpenLink Virtuoso    This material is Open Knowledge     W3C Semantic Web Technology     This material is Open Knowledge    Valid XHTML + RDFa
This content was extracted from Wikipedia and is licensed under the Creative Commons Attribution-ShareAlike 3.0 Unported License