[論文レビュー] Update Strength in EDAs and ACO: How to Avoid Genetic Drift

Dirk Sudholt, Carsten Witt|arXiv (Cornell University)|Jul 14, 2016

Evolutionary Algorithms and Applications参考文献 20被引用数 9

ひとこと要約

本稿は、推定分布法による遺伝的アルゴリズム（EDAs）およびアンチコロニー最適化（ACO）における更新強度の厳密な実行時間解析を提供し、更新強度が高すぎると遺伝的ドリフトを引き起こし、性能が低下することを示している。特に、OneMax関数において最適な性能が達成されるのは、更新強度を$\Theta(1/(\sqrt{n}\log n))$に設定した場合であり、このとき$O(n\log n)$の期待実行時間が達成され、学習速度とモデルの正確性のバランスが取れていることが証明されている。

ABSTRACT

We provide a rigorous runtime analysis concerning the update strength, a vital parameter in probabilistic model-building GAs such as the step size $1/K$ in the compact Genetic Algorithm (cGA) and the evaporation factor $ρ$ in ACO. While a large update strength is desirable for exploitation, there is a general trade-off: too strong updates can lead to genetic drift and poor performance. We demonstrate this trade-off for the cGA and a simple MMAS ACO algorithm on the OneMax function. More precisely, we obtain lower bounds on the expected runtime of $Ω(K\sqrt{n} + n \log n)$ and $Ω(\sqrt{n}/ρ+ n \log n)$, respectively, showing that the update strength should be limited to $1/K, ρ= O(1/(\sqrt{n} \log n))$. In fact, choosing $1/K, ρ\sim 1/(\sqrt{n}\log n)$ both algorithms efficiently optimize OneMax in expected time $O(n \log n)$. Our analyses provide new insights into the stochastic behavior of probabilistic model-building GAs and propose new guidelines for setting the update strength in global optimization.

研究の動機と目的

• cGA や ACO などの確率的モデル構築型 GA における学習速度と遺伝的ドリフトのトレードオフを理解すること。
• 誤ったモデル適合による性能低下を防ぐために最適な更新強度パラメータを同定すること。
• cGA および 2-MMAS$_{\textrm{ib}}$ の実行時間に対するタイトな下界を提供することで、理論的理解のギャップを埋めること。
• グローバル最適化アルゴリズムにおける更新強度の設定に関する一般的な指針を確立すること。
• 2次ポテンシャル関数を用いた新しい解析枠組みを構築し、確率的挙動および到達時間のモデル化を行うこと。

提案手法

• OneMax関数上におけるコンact Genetic Algorithm (cGA) および 2-MMAS$_{\textrm{ib}}$ の厳密な実行時間解析を実施する。
• 下位のランダムウォークにおける到達時間の分布を近似するために、2次ポテンシャル関数を用いる。
• 集中限界およびチェルノフ型不等式を用いて、モデル更新プロセスにおけるbステップおよびrwステップの数を制御する。
• 異なる更新強度におけるモデルの収束挙動の段階的遷移を分析することで、下界を導出する。
• 標準的な更新ルールに代えて、時間経過に伴うビット確率の進化を追跡する確率的モデルを導入する。
• 段階ベースの解析を用いて、モデル収束経路における非減少ステップの確率をバウンドする。

実験結果

リサーチクエスチョン

• RQ1 cGA および ACO における最適な更新強度は何か？ これにより、OneMaxにおける遺伝的ドリフトを回避し、効率的な収束を維持できるか？
• RQ2 cGA における更新強度$1/K$および ACO における$\rho$が、期待実行時間およびモデル正確性に与える影響は何か？
• RQ3 更新強度の関数として、cGA および 2-MMAS$_{\textrm{ib}}$ の期待実行時間の漸近的下界は何か？
• RQ4 それぞれの実行時間は$\Omega(K\sqrt{n} + n\log n)$および$\Omega(\sqrt{n}/\rho + n\log n)$で下から抑えられるか？ これはパrameter選択に何を意味するか？
• RQ5 更新強度が$1/(\sqrt{n}\log n)$を超えると、遺伝的ドリフトが性能を支配的にするか？ もしそうならば、その理由は何か？

主な発見

• cGA の期待実行時間は$\Omega(K\sqrt{n} + n\log n)$であり、性能の劣化を避けるためには$1/K$が$O(1/(\sqrt{n}\log n))$でなければならないことが示された。
• 2-MMAS$_{\textrm{ib}}$ については、期待実行時間が$\Omega(\sqrt{n}/\rho + n\log n)$であり、遺伝的ドリフトを防ぐためには$\rho$が$O(1/(\sqrt{n}\log n))$でなければならないことが示された。
• 更新強度$1/K, \rho \sim 1/(\sqrt{n}\log n)$のとき、両アルゴリズムとも$O(n\log n)$の期待実行時間を達成し、下界のタイトさが証明された。
• 更新強度が$1/(\sqrt{n}\log n)$を超えると、遺伝的ドリフトが支配的になり、誤ったモデル更新を是正するのに$\Omega(n\log n)$の時間がかかる。
• 下界は高確率で成り立つため、観察された性能がまれな出来事に起因するものではなく、典型的なものであることが確認された。
• 提案されたパrameter設定$1/K, \rho \sim 1/(\sqrt{n}\log n)$は、OneMaxにおいて両アルゴリズムにとって最適であり、一意のグローバル最適解を持つ他の関数に対しても一般化可能であると考えられる。