[論文レビュー] Cumulative Step-size Adaptation on Linear Functions: Technical Report

Alexandre Chotard, Anne Auger+1 more|arXiv (Cornell University)|Jun 6, 2012

Metaheuristic Optimization Algorithms Research参考文献 13被引用数 6

ひとこと要約

本稿では、線形関数上での(1,λ)-CSA-ESアルゴリズムをマルコフ連鎖理論を用いて分析し、累積パスを用いたステップサイズ適応が、λ ≥ 3 または λ = 2 かつ累積（c < 1）のとき、σ の幾何的発散を引き起こすことを示している。c = 1 かつ λ = 2 の場合、ステップサイズはランダムウォークを示す。本研究では、対数ステップサイズ増分の分散の正確な式を導出し、α > 1/3 とすると、信号対雑音比の収束が保証され、高次元におけるアルゴリズムの安定性が保証されることを証明している。

ABSTRACT

The CSA-ES is an Evolution Strategy with Cumulative Step size Adaptation, where the step size is adapted measuring the length of a so-called cumulative path. The cumulative path is a combination of the previous steps realized by the algorithm, where the importance of each step decreases with time. This article studies the CSA-ES on composites of strictly increasing with affine linear functions through the investigation of its underlying Markov chains. Rigorous results on the change and the variation of the step size are derived with and without cumulation. The step-size diverges geometrically fast in most cases. Furthermore, the influence of the cumulation parameter is studied.

研究の動機と目的

• アフィン線形関数に厳密に増加する変換を施した関数上における進化戦略における累積ステップサイズ適応（CSA）の挙動を厳密に分析すること。
• 累積（c < 1）および非累積（c = 1）の両状態における対数ステップサイズ ln(σ_t) の長期的ダイナミクスを調査すること。
• 対数ステップサイズ増分 ln(σ_{t+1}/σ_t) の分散の正確な式を導出し、次元 n および累積パラメータ c への依存関係を評価すること。
• ステップサイズ適応の信号対雑音比が無視可能になる条件を特定し、高次元空間におけるアルゴリズムの安定性を保証すること。
• 理論的結果を数値的シミュレーションおよび関連するマルコフ連鎖の漸近的解析によって検証すること。

提案手法

• 線形関数 f(x) = x₁ 上での(1,λ)-CSA-ESを、対数ステップサイズ ln(σ_t) 上のマルコフ連鎖としてモデル化し、その時間発展を分析する。
• ステップサイズ σ_t の適応に、累積パス p_{t+1} = (1−c)p_t + √[c(2−c)] ξ_t^* を用いる。ここで ξ_t^* は最良選択された探索ベクトルである。
• λ ≥ 3 および c ∈ (0,1] の場合に、ln(σ_t)/t の極限分布を導出し、σ_t の幾何的発散を証明する。
• (1,λ) スキームの選択行動をモデル化するために、標準正規分布の順序統計量（Ψ_{i:λ}）を用いる。
• a = 1−c の累乗に関する多重和を用いて、ln(σ_{t+1}/σ_t) の分散の正確な閉形式式を導出する。
• t → ∞ および n → ∞ の漸近的挙動を分析し、c = 1/n^α による安定性の条件に至る。

実験結果

リサーチクエスチョン

• RQ1 線形関数上での(1,λ)-CSA-ESにおけるステップサイズ σ_t は、累積の有無に関わらず、時間経過とともにどのように変化するか？
• RQ2 t → ∞ のとき、ln(σ_t)/t の極限分布は何か？ これは λ および c にどのように依存するか？
• RQ3 対数ステップサイズ増分 ln(σ_{t+1}/σ_t) の正確な式は何か？ これは次元 n および累積パラメータ c にどのように依存するか？
• RQ4 c = 1/n^α のとき、ln(σ_{t+1}/σ_t) の相対標準偏差が n → ∞ でゼロに収束する条件は何か？
• RQ5 (1,2)-CSA-ES において c = 1 のとき、なぜ ln(σ_t) 上でランダムウォークが生じるのか？ また、累積はこの不安定性をどのように防ぐのか？

主な発見

• λ ≥ 3 および任意の c ∈ (0,1] に対して、σ_t はほとんど確実に幾何的速さで発散する。これは、lim_{t→∞} ln(σ_t)/t が正の定数に収束することによって示される。
• c = 1（非累積）かつ λ = 2 の場合、ステップサイズは ln(σ_t) 上でランダムウォークを示す。これは、対称的選択行動に起因し、(1,2)-σ SA-ES と類似している。
• c = 1/(1 + n^α) とすると、ln(σ_{t+1}/σ_t) の分散は漸近的に (n^{2α} + n)/n^{3α} に比例する項で有界である。
• α > 1/3 のとき、ln(σ_{t+1}/σ_t) の相対標準偏差は n → ∞ でゼロに収束し、強い信号対雑音比とアルゴリズムの安定性が保証される。
• 臨界閾値は α = 1/3 である。α < 1/3 のとき、相対標準偏差は n^{(1−3α)/2} に発散し、不安定性を示す。
• c = 1/√n（すなわち α = 1/2）の選択は安定であり、相対標準偏差が n^{−1/4} の速度で減少することを確認し、高次元最適化における頑健性を裏付けている。