[論文レビュー] Lazy Parameter Tuning and Control: Choosing All Parameters Randomly From a Power-Law Distribution

Denis Antipov, Maxim Buzdalov+1 more|arXiv (Cornell University)|Apr 14, 2021

Evolutionary Algorithms and Applications被引用数 7

ひとこと要約

本稿では、各イテレーションにおいて、集団サイズ、変異率、交差バイアスをべき乗則分布からランダムにサンプリングすることで、進化的アルゴリズムの遅延的パラメータチューニング戦略を提案する。理論的および実験的両面で、この手法が単峰性問題（例：OneMax）において漸近的に最適な実行時間を達成することを示し、特に定数のジャンプサイズを有する多峰性問題（ジャンプ関数）において、既存の最良の静的パラメータ設定を上回ることを確認した。

ABSTRACT

Most evolutionary algorithms have multiple parameters and their values drastically affect the performance. Due to the often complicated interplay of the parameters, setting these values right for a particular problem (parameter tuning) is a challenging task. This task becomes even more complicated when the optimal parameter values change significantly during the run of the algorithm since then a dynamic parameter choice (parameter control) is necessary. In this work, we propose a lazy but effective solution, namely choosing all parameter values (where this makes sense) in each iteration randomly from a suitably scaled power-law distribution. To demonstrate the effectiveness of this approach, we perform runtime analyses of the $(1+(λ,λ))$ genetic algorithm with all three parameters chosen in this manner. We show that this algorithm on the one hand can imitate simple hill-climbers like the $(1+1)$ EA, giving the same asymptotic runtime on problems like OneMax, LeadingOnes, or Minimum Spanning Tree. On the other hand, this algorithm is also very efficient on jump functions, where the best static parameters are very different from those necessary to optimize simple problems. We prove a performance guarantee that is comparable to the best performance known for static parameters. For the most interesting case that the jump size $k$ is constant, we prove that our performance is asymptotically better than what can be obtained with any static parameter choice. We complement our theoretical results with a rigorous empirical study confirming what the asymptotic runtime results suggest.

研究の動機と目的

• 進化的アルゴリズムにおけるパラメータチューニングと制御の課題に取り組むこと。特に、問題や最適化の進行段階によって最適パラメータ値が大きく変化することを想定する。
• 問題固有のパラメータキャリブレーションを必要としない、シンプルで万能なソリューションを提供すること。
• べき乗則分布からのランダムなパラメータ選択が、注意深くチューニングされた静的パラメータ設定を上回る性能を達成できるかどうかを検証すること。
• 単峰性問題（例：OneMax）および多峰性問題（例：ジャンプ関数）におけるこのアプローチの有効性を評価すること。

提案手法

• 各イテレーションにおいて、集団サイズ $\lambda$ および積 $d = pcn$（$p$ は変異率、$c$ は交差バイアス）を、指数 $\beta_\lambda = 2 + \varepsilon$ および $\beta_d = 1 + \varepsilon'$ である無限大範囲のべき乗則分布からランダムにサンプリングする。
• 各イテレーションで $p = c = \sqrt{d/n}$ を設定することで、$pcn = d$ の関係を維持し、一貫性のあるパラメータスケーリングを確保する。
• 数学的実行時間解析を用いて、OneMax、LeadingOnes、最小全域木、およびジャンプ関数における漸近的性能保証を証明する。
• さまざまな問題サイズおよびジャンプサイズにおいて、$(1+(\lambda,\lambda))$ GA に対して厳密な実験を実施し、静的パラメータ設定および $(1+1)$ EA と比較する。
• 実験で観察された性能差の有意性を検証するために、Studentのt検定およびWilcoxon順位和検定を適用する。
• 問題サイズ $n=128$ および $k \in \{3,6\}$ におけるパラメータスイープを用いて、$\beta_\lambda$ および $\beta_d$ のべき乗則指数に対する性能感度を分析する。

実験結果

リサーチクエスチョン

• RQ1 べき乗則分布からのランダムなパラメータ選択が、単峰性および多峰性問題の両方において、既存の最良の静的パラメータ設定と同等またはそれ以上の性能を達成できるか？
• RQ2 特に最適パラメータ値が最適化の進行中に変化する場合に、提案手法が $(1+1)$ EA より優れた性能を示すか？
• RQ3 パラメータのべき乗則指数 $\beta_\lambda$ および $\beta_d$ の選択に、性能がどれほど敏感か？
• RQ4 定数のジャンプサイズ $k$ を有するジャンプ関数において、この遅延的パラメータチューニング手法が静的パラメータ選択よりも漸近的実行時間の改善を達成できるか？
• RQ5 性能向上は、パラメータの重い尾を持つ分布そのものに起因するのか、それとも $(1+(\lambda,\lambda))$ GA の特定のメカニズムに起因するのか？

主な発見

• 提案手法は、OneMax や LeadingOnes、最小全域木といった単峰性問題において、静的パラメータ設定と同等の漸近的実行時間を達成している。これは、ランダムなパラメータを用いても、$(1+1)$ EA と同等の性能を達成していることを示している。
• 定数のジャンプサイズ $k$ を有するジャンプ関数において、本手法の実行時間はあらゆる静的パラメータ選択よりも漸近的に優れている。これは、標準的なパラメータ設定に対して超指数的優位性を示している。
• $k \geq 3$ のジャンプ関数において、期待実行時間は $e^{O(k)}(n/k)^{(1+\varepsilon)k/2}$ であり、これは既存の最良の静的パラメータ性能と同等であり、標準的な $(1+1)$ EA の $e^n$ 実行時間よりも著しく優れている。
• 実験的結果では、極めて顕著な性能差が観察された。すべての統計的検定の $p$-値が $10^{-10}$ 未満であったため、重い尾を持つ $(1+(\lambda,\lambda))$ GA が $(1+1)$ EA を上回ることを強く裏付けた。
• パラメータ感度分析の結果、$\beta_\lambda$ の値が大きいほど性能が劣化することが判明した。特に $k$ が大きい場合には顕著であり、$\beta_{pc}$ はやや小さいが一貫した影響を示し、$\beta_{pc} = 1.0$ の場合にわずかに優れた結果が得られた。
• 本手法はパラメータ選択に対して頑健である。無限大範囲のべき乗則分布と最小限の設計入力ですら、ほぼ最適な性能を達成しており、真にパラメータフリーなアプローチであると示唆している。