[論文レビュー] Self-adaptation of Mutation Rates in Non-elitist Populations

Duc-Cuong Dang, Per Kristian Lehre|arXiv (Cornell University)|Jun 17, 2016

Evolutionary Algorithms and Applications参考文献 10被引用数 9

ひとこと要約

本稿は、離散的で非エリート主義的な進化的アルゴリズムにおける自己適応の最初の厳密な実行時間解析を提示しており、突然変異率を遺伝子に埋め込むことで、固定または一様に混合された突然変異率よりも指数的スピードアップを達成する自動チューニングが可能であることを示している。この手法はレベルベース定理を用い、戦略パラメータ $ p $ が十分に小さい場合、突然変異率が適応的に適合され、LeadingOnes 問題で最適な性能が達成されることを証明している。

ABSTRACT

The runtime of evolutionary algorithms (EAs) depends critically on their parameter settings, which are often problem-specific. Automated schemes for parameter tuning have been developed to alleviate the high costs of manual parameter tuning. Experimental results indicate that self-adaptation, where parameter settings are encoded in the genomes of individuals, can be effective in continuous optimisation. However, results in discrete optimisation have been less conclusive. Furthermore, a rigorous runtime analysis that explains how self-adaptation can lead to asymptotic speedups has been missing. This paper provides the first such analysis for discrete, population-based EAs. We apply level-based analysis to show how a self-adaptive EA is capable of fine-tuning its mutation rate, leading to exponential speedups over EAs using fixed mutation rates.

研究の動機と目的

• 突然変異率が集団内で進化する離散的進化的アルゴリズムにおける自己適応の理論的基盤を厳密に確立すること。
• 非エリート主義的集団において自己適応が成功するための戦略パラメータ $ p $ の必要十分条件を特定すること。
• 自己適応が効率性にとって不可欠であることを示し、特定の問題において固定または混合突然変異率戦略を上回ること。
• 自己適応を備えた非エリート主義的 EAs が、期待実行時間の観点から標準の (μ+λ) EA を上回ることを示すこと。

提案手法

• 本研究では、LeadingOnes 関数における自己適応的 (μ+λ) EA の期待実行時間を制限するためにレベルベース解析を用いた。
• 突然変異率は、探索点の一部として遺伝子に符号化されており、各個体はビットストリングと突然変異率 $ \chi \in \mathcal{M} $ を保持する。
• 自己適応的突然変異演算子は、確率 $ p $ で突然変異率を変更し、$ \mathcal{M} \setminus \{\chi\} $ から一様に選択する。同時に、ビットストリングは新しい突然変異率で突然変異が適用される。
• 解析により、戦略パラメータ $ p $、集団サイズ $ \lambda $、問題サイズ $ n $ の間で、アルゴリズムが多項式的実行時間を達成するための条件を確立した。
• 集中限界とマルコフの不等式を用いて、集団が時間経過とともに好ましい状態にとどまる確率が非常に高いことを示した。
• 自己適応が単なる利点ではなく、本質的であることを証明するために、LeadingOnes の変種を導入した。この変種では、固定または混合突然変異率では指数的時間が必要となるが、自己適応では多項式的実行時間が達成される。

実験結果

リサーチクエスチョン

• RQ1 戦略パラメータ $ p $ がどの程度の条件下で、非エリート主義的進化的アルゴリズムにおける自己適応が効率的な最適化をもたらすか。
• RQ2 離散最適化において、自己適応的突然変異率が固定または一様に混合された突然変異率よりも指数的スピードアップを達成できるか。
• RQ3 特定の問題インスタンスにおいて、自己適応が効率的最適化にとって不可欠であるか、それとも静的パrameter設定で回避可能か。
• RQ4 自己適応を備えた非エリート主義的 EAs は、期待実行時間の観点から標準の (μ+λ) EA を上回ることができるか。

主な発見

• 戦略パラメータ $ p $ が十分に小さい場合、自己適応的 EA は LeadingOnes 関数に対して $ O(n\log\lambda + n^2/\lambda) $ 世代の期待実行時間を達成する。
• 特に $ p \leq 1/1000 $ の場合、望ましくない段階に属する集団の割合が非常に低く保たれ、収束が安定することを高確率で保証する。
• 集団は突然変異率を動的に適応する：探索の初期段階では高い突然変異率を好み、適合度が向上するにつれて低い突然変異率に切り替わる。これは $ n=200 $ における実験で確認された。
• 変種 LeadingOnes 関数では、固定または混合突然変異率では指数的時間が必要となるが、自己適応では多項式的実行時間が達成され、自己適応の必要性が証明された。
• 良好な段階では、最適解に到達するまでの期待世代数が $ O(1) $ であり、全体の期待実行時間は $ O(\lambda(n\log\lambda + n^2/\lambda)) $ 関数評価数となる。
• 実験結果から、(1/10)-順位の個体が適合度 $ j \geq 108 $ に達した際、集団の90％以上が低突然変異率 $ \chi_{\text{low}} = 2/5 $ を選択しており、適応的挙動が裏付けられた。