[論文レビュー] Fast Genetic Algorithms

Benjamin Doerr, Huu Phuoc Le+2 more|arXiv (Cornell University)|Mar 9, 2017

Metaheuristic Optimization Algorithms Research参考文献 27被引用数 12

ひとこと要約

本稿では、重みの大きい変異率（特に指数β > 1のべき則分布に従う変異率α/n）を用いる「高速遺伝的アルゴリズム」を提案し、ジャンプ関数のようなマルチモーダル問題において、超指数的スピードアップを達成する。この手法は、標準的な1/n変異率を用いる(1+1)EAを上回り、問題構造の事前知識がなくても、すべてのジャンプ関数パラメータにおいて近似的に最適な実行時間を達成する。

ABSTRACT

For genetic algorithms using a bit-string representation of length~$n$, the general recommendation is to take $1/n$ as mutation rate. In this work, we discuss whether this is really justified for multimodal functions. Taking jump functions and the $(1+1)$ evolutionary algorithm as the simplest example, we observe that larger mutation rates give significantly better runtimes. For the $\jump_{m,n}$ function, any mutation rate between $2/n$ and $m/n$ leads to a speed-up at least exponential in $m$ compared to the standard choice. The asymptotically best runtime, obtained from using the mutation rate $m/n$ and leading to a speed-up super-exponential in $m$, is very sensitive to small changes of the mutation rate. Any deviation by a small $(1 \pm \eps)$ factor leads to a slow-down exponential in $m$. Consequently, any fixed mutation rate gives strongly sub-optimal results for most jump functions. Building on this observation, we propose to use a random mutation rate $α/n$, where $α$ is chosen from a power-law distribution. We prove that the $(1+1)$ EA with this heavy-tailed mutation rate optimizes any $\jump_{m,n}$ function in a time that is only a small polynomial (in~$m$) factor above the one stemming from the optimal rate for this $m$. Our heavy-tailed mutation operator yields similar speed-ups (over the best known performance guarantees) for the vertex cover problem in bipartite graphs and the matching problem in general graphs. Following the example of fast simulated annealing, fast evolution strategies, and fast evolutionary programming, we propose to call genetic algorithms using a heavy-tailed mutation operator \emph{fast genetic algorithms}.

研究の動機と目的

• 遺伝的アルゴリズムにおける1/n変異率の従来の推奨値を、特にマルチモーダルなフィットネスランドスケープにおいて挑戦すること。
• 変異率を変化させた(1+1)EAのジャンプ関数における性能を分析し、m/nのような高い変異率が超指数的スピードアップをもたらすことを明らかにすること。
• 最適な性能が変異率のわずかなずれに極めて敏感であるという問題を扱い、固定率アプローチが成立しないことの理由を明らかにすること。
• 固定率アプローチに代わる、ランダムで重みの大きい変異率分布を提案し、多様なマルチモーダル問題においてロバストで近似的に最適な性能を達成できることを示すこと。
• 重みの大きい変異を、ビットストリング表現を超えた組合せ最適化問題（頂点被覆やマッチング問題）へと一般化し、広範な適用可能性を示すこと。

提案手法

• 指数β > 1のべき則分布Dₙ^βに従って生成されるαを用いて、変異率をα/nとする。これにより重みの大きい挙動が保証される。
• 任意のビットを反転する確率が一定であることを保証し、標準的ビット変異の重要な性質を維持する。
• 探索空間におけるまれな大スケールのジャンプの確率を高めることで、大きなハミング距離の効率的探索を可能にする。
• 得られる(1+1)FEAβが、任意のジャンプ関数Jump_{m,n}に対して、最適なm/n率の多項式要因の範囲内で期待最適化時間を達成することを証明する。
• 置換表現を用いた基本的な変異ステップに適応することで、同じ変異メカニズムを組合せ最適化問題に適用する。
• nを20から150の範囲で変化させたJump_{m,n}関数において、実験的にこの手法を検証し、β = 1.5の場合に標準的(1+1)EAに比べ最大2000倍のスピードアップを達成した。

実験結果

リサーチクエスチョン

• RQ1 1/nよりも顕著に大きな変異率を用いることで、ジャンプ関数のようなマルチモーダル問題においてより優れた性能が得られるか？
• RQ2 最適な変異率はわずかなずれにどれほど敏感か？ そして、この感度は克服可能か？
• RQ3 事前知識がなくとも、すべてのジャンプ関数パラメータにおいて近似的に最適な性能を達成できる、一様で適応的な変異率分布は可能か？
• RQ4 重みの大きい変異演算子は、ビットストリング表現を超えた他の組合せ最適化問題へ一般化可能か？
• RQ5 提案手法は、ベンチマーク用マルチモーダル問題において、標準的(1+1)EAに比べてどの程度の定量的実行時間の改善を達成するか？

主な発見

• ジャンプ関数Jump_{m,n}において、変異率をm/nにすることで、期待最適化時間が(1+o(1))(e/m)^m n^mに短縮され、標準的な1/n変異率に比べ超指数的改善が達成される。
• m/nから(1±ε)の要因でずれると、mに指数的に遅延が生じるため、固定率変異は非常に敏感である。
• 重みの大きい変異演算子(1+1)FEAβは、mを事前に知らない状況でも、最適な変異率の多項式要因の範囲内で期待最適化時間を達成する。
• 二部グラフにおける頂点被覆問題では、最良の既知の性能保証を上回る、問題サイズに超指数的に依存するスピードアップを達成する。
• 一般グラフにおけるマッチング問題でも同様のスピードアップを達成し、ビットストリング問題を超えた広範な適用可能性を示している。
• 実験ではβ = 1.5の場合、nが20から150の範囲でジャンプ関数Jump_{8,n}に対して、標準的(1+1)EAを最大2000倍速く実行した。