[論文レビュー] Fast Artificial Immune Systems

Doğan Çörüş, Pietro S. Oliveto+1 more|arXiv (Cornell University)|Jun 1, 2018

Artificial Immune Systems Applications参考文献 12被引用数 4

ひとこと要約

本稿では、多峰値最適化における強化された局所最適解の脱出能力を維持しつつ、特徴の探索を著しく高速化する2つの新しいハイパーミューテーション作用素—P-hype FCM および P-hype BM—を提案する。各ビットフラップ後に放物型分布を用いて確率的 FITNESS 値をサンプリングすることにより、無駄な評価を削減し、Opt-IA が Cliff および OneMax 問題において最適な O(n log n) の実行時間を達成できる。従来の HMP と比較して FCM を用いた場合に優れている。

ABSTRACT

Various studies have shown that characteristic Artificial Immune System (AIS) operators such as hypermutations and ageing can be very efficient at escaping local optima of multimodal optimisation problems. However, this efficiency comes at the expense of considerably slower runtimes during the exploitation phase compared to standard evolutionary algorithms. We propose modifications to the traditional `hypermutations with mutation potential' (HMP) that allow them to be efficient at exploitation as well as maintaining their effective explorative characteristics. Rather than deterministically evaluating fitness after each bitflip of a hypermutation, we sample the fitness function stochastically with a `parabolic' distribution which allows the `stop at first constructive mutation' (FCM) variant of HMP to reduce the linear amount of wasted function evaluations when no improvement is found to a constant. By returning the best sampled solution during the hypermutation, rather than the first constructive mutation, we then turn the extremely inefficient HMP operator without FCM, into a very effective operator for the standard Opt-IA AIS using hypermutation, cloning and ageing. We rigorously prove the effectiveness of the two proposed operators by analysing them on all problems where the performance of HPM is rigorously understood in the literature. %

研究の動機と目的

• 多峰値最適化の探索段階における、従来の変異可能性を有するハイパーミューテーション（HMP）の非効率性を是正すること。
• HMP が有する優れた局所最適解脱出能力を維持しつつ、探索段階における関数評価回数を著しく削減すること。
• FCM に起因する局所最適解への再帰的帰着のバイアスを排除することで、ハイパーミューテーションとエイジングの調和的な統合を Opt-IA に可能にすること。
• 単一の非偏誤りブラックボックスモデル下で、新しい作用素が標準ベンチマーク関数に対して最適な漸近的実行時間を達成することを厳密に証明すること。
• 高速収束を保証するパラメータ領域（特に γ）を特定すること。

提案手法

• P-hype FCM を提案。各ビットフラップ後に放物型分布 p_i ≈ γ/i を用いて FITNESS 値を確率的にサンプリングし、最初の建設的変異を返す。
• P-hype BM を導入。同じ確率的サンプリングを用いて全 n 個のビットフラップを評価し、見つかった最良の解を返す。これにより早期終了を回避する。
• パラメータ γ を用いてサンプリング確率を制御。P-hype FCM では γ = O(1/log n)、P-hype BM では γ = 1/(n log²n) とすることで最適な性能を確保する。
• Opt-IA フレームワーク内に作用素を適用。クローン生成とエイジングを組み合わせることで、集団の多様性を維持し、局所最適解からの脱出を可能にする。
• フィットネスレベル法およびブラックボックス複雑度理論を用いた厳密な実行時間解析により、標準 HMP および RLS と性能を比較する。
• γ の影響を解析し、値が大きすぎると局所最適解への早期帰着により指数的実行時間が生じることを示す。

実験結果

リサーチクエスチョン

• RQ1 ハイパーミューテーションにおいて、各ビットフラップ後に FITNESS 値を確率的にサンプリングすることで、探索段階における無駄な評価回数を削減しつつ、探索能力を損なわないか？
• RQ2 提案された P-hype FCM 作用素は、単一の非偏誤りブラックボックスモデル下で OneMax および LeadingOnes 問題に対して最適な漸近的実行時間を達成するか？
• RQ3 全変異を評価し、最良の解を返す P-hype BM は、Opt-IA のエイジングと調和的に作用し、Cliff 関数のような困難な局所最適解から脱出可能か？
• RQ4 P-hype BM が局所最適解へ戻る確率を高く抑えるために必要な γ の最小値は何か？
• RQ5 γ の選択が、ジャンプ、Cliff、Trap などの多峰値関数における期待実行時間に与える影響は何か？特にエイージングと組み合わせた場合にどうなるか？

主な発見

• P-hype FCM は OneMax および LeadingOnes 問題において O(n log n) の期待実行時間を達成し、単一の非偏誤りブラックボックスモデル下で RLS と同等の最適性能を達成する。
• γ = 1/(n log²n) を用いた P-hype BM により、Opt-IA は Cliff 関数を O(n log n) の期待フィットネス評価回数で最適化でき、従来の HMP と FCM を用いた場合を上回る性能を示す。
• γ = Ω(1/log n) の場合、Cliff 問題において指数的期待実行時間が生じることから、局所最適解からの効率的脱出には非常に小さな γ 値が不可欠であることが示された。
• 提案された作用素は、Jump、Cliff、Trap などの多峰値関数において、標準的な進化計算（EA）よりも指数的スピードアップを達成し、HMP が有する探索優位性を維持する。
• γ = O(1/log n) を用いた P-hype FCM は、ブラックボックス複雑度解析により、最適な探索時間と局所最適解脱出能力の両方を保証する。
• 解析により、従来の HMP と FCM を用いた場合、線形の無駄な評価が生じるため、探索段階で非効率であることが確認された。本作用素は確率的サンプリングによりこれを解消する。