[論文レビュー] Optimal Parameter Choices Through Self-Adjustment: Applying the 1/5-th Rule in Discrete Settings

Benjamin Doerr, Carola Doerr|arXiv (Cornell University)|Apr 13, 2015

Metaheuristic Optimization Algorithms Research参考文献 20被引用数 12

ひとこと要約

本稿では、離散最適化における $(1+(\lambda,\lambda))$ 遺伝的アルゴリズムに、1/5成功ルールを用いた自己調整的で人口サイズを制御するメカニズムを導入し、その分析を行う。成功確率が1/5を超える場合に $\lambda$ を増加させ、それ以外の場合は減少させる動的調整により、OneMax問題において線形の期待最適化時間を達成し、いかなる固定 $\lambda$ よりも優れており、固定および自己調整パラメータの選択肢の中で漸近的に最適であることが示された。

ABSTRACT

While evolutionary algorithms are known to be very successful for a broad range of applications, the algorithm designer is often left with many algorithmic choices, for example, the size of the population, the mutation rates, and the crossover rates of the algorithm. These parameters are known to have a crucial influence on the optimization time, and thus need to be chosen carefully, a task that often requires substantial efforts. Moreover, the optimal parameters can change during the optimization process. It is therefore of great interest to design mechanisms that dynamically choose best-possible parameters. An example for such an update mechanism is the one-fifth success rule for step-size adaption in evolutionary strategies. While in continuous domains this principle is well understood also from a mathematical point of view, no comparable theory is available for problems in discrete domains. In this work we show that the one-fifth success rule can be effective also in discrete settings. We regard the $(1+(λ,λ))$~GA proposed in [Doerr/Doerr/Ebel: From black-box complexity to designing new genetic algorithms, TCS 2015]. We prove that if its population size is chosen according to the one-fifth success rule then the expected optimization time on extsc{OneMax} is linear. This is better than what \emph{any} static population size $λ$ can achieve and is asymptotically optimal also among all adaptive parameter choices.

研究の動機と目的

• 進化計算における最適パラメータの選定という課題に取り組むこと、特に固定パラメータがしばしば劣った性能をもたらす離散的設定において。
• 1/5成功ルールのような自己調整パラメータ制御メカニズムが、離散最適化において固定パラメータ設定よりも証明可能な優位性を示せるかを調査すること。
• 自己調整パラメータ選択が、離散的領域において漸近的に最適な実行時間に達することを示し、1/5ルールの理論的理解を連続空間から離脱して拡張すること。
• $(1+(\lambda,\lambda))$ GA における人口サイズ $\lambda$ に1/5成功ルールを適用することで、一般化されたOneMax関数において線形の期待最適化時間に到達することを示すこと。

提案手法

• 連続的領域におけるステップサイズ制御に用いられる1/5成功ルールを、離散的設定に適応させる。その際、後継生成子の改善成功確率を用いて人口サイズ $\lambda$ を制御する。
• 各世代に $\lambda$ 個の後継生成子を生成する、$(1+(\lambda,\lambda))$ GA フレームワークを採用する。このフレームワークには、変異、交差、選択のフェーズが含まれる。
• 各反復後に $\lambda$ を動的に調整する：成功確率が 1/5 を超える場合に増加、それ未満の場合は減少させ、目標とする成功確率を1/5に維持する。
• ドリフト解析と Yao のミニマックス原理を用いて、期待最適化時間の境界を確立する。
• 自己調整アルゴリズムの性能を固定 $\lambda$ 選択や、適合度依存の手法と比較し、期待実行時間の面で優位性を示す。
• 自己調整メカニズムが線形の期待実行時間に到達することを証明し、これはいかなる固定または自己調整パラメータ選択に対しても最適である。

実験結果

リサーチクエスチョン

• RQ1 1/5成功ルールは、これまで理論的に確立されていなかった離散最適化設定において、効果的に適用可能か？
• RQ2 $(1+(\lambda,\lambda))$ GA における人口サイズ $\lambda$ を自己調整することで、いかなる固定 $\lambda$ よりも優れた期待最適化時間に到達できるか？
• RQ3 自己調整メカニズムは、OneMaxにおける期待実行時間の観点で漸近的に最適か？
• RQ4 問題固有の知識を必要としないパラメータ更新ルールでも、離散的進化計算において最適性能を達成可能か？

主な発見

• 1/5成功ルールを用いた自己調整的 $(1+(\lambda,\lambda))$ GA は、一般化されたOneMax関数において線形の期待最適化時間を達成する。
• この線形実行時間は漸近的に最適であり、固定または自己調整パラメータのいかなる選択に対しても、著しく小さい期待実行時間は達成できない。
• 自己調整アルゴリズムの性能は、いかなる固定人口サイズ $\lambda$ よりも $\Theta(\sqrt{\log n \cdot \log\log\log n / \log\log n})$ の要因で優れている。
• 1/5成功ルールは、最適化プロセスの各段階で理論的に最適な人口サイズに近いパラメータ値を動的に選択する。
• この結果は、自己調整パラメータ選択が離散最適化において証明可能な利点を持つことを示し、1/5ルールの適用範囲を連続領域から拡張することを実証した。
• 分析により、自己調整メカニズムが適合度依存のパラメータ選択と比較しても最適であることが確認された。後者は、1回の関数評価あたりの平均適合度上昇が定数に留まるため、より良い性能を達成できない。