[論文レビュー] Efficiency Enhancement of Probabilistic Model Building Genetic Algorithms

Kumara Sastry, David E. Goldberg+1 more|ArXiv.org|May 18, 2004

Metaheuristic Optimization Algorithms Research参考文献 18被引用数 11

ひとこと要約

本稿では、確率的モデル構築遺伝的計算（PMBGAs）の効率性を向上させる2つの技術を提案する：(1) 確率的モデルが特定する構築ブロック（BB）の近傍で局所探索を実行するスケーラブルな突然変異演算子で、加法的分離問題では関数評価回数を O(√(k log m)) 減少させる；(2) 適応的フィットネスを推定する内部確率的フィットネスモデルで、実際の評価回数を1–10%に削減し、2–50倍の高速化を達成する。両手法とも、解の品質を維持したまま収束を著しく加速する。

ABSTRACT

This paper presents two different efficiency-enhancement techniques for probabilistic model building genetic algorithms. The first technique proposes the use of a mutation operator which performs local search in the sub-solution neighborhood identified through the probabilistic model. The second technique proposes building and using an internal probabilistic model of the fitness along with the probabilistic model of variable interactions. The fitness values of some offspring are estimated using the probabilistic model, thereby avoiding computationally expensive function evaluations. The scalability of the aforementioned techniques are analyzed using facetwise models for convergence time and population sizing. The speed-up obtained by each of the methods is predicted and verified with empirical results. The results show that for additively separable problems the competent mutation operator requires O(k 0.5 logm)--where k is the building-block size, and m is the number of building blocks--less function evaluations than its selectorecombinative counterpart. The results also show that the use of an internal probabilistic fitness model reduces the required number of function evaluations to as low as 1-10% and yields a speed-up of 2--50.

研究の動機と目的

• 大規模な確率的モデル構築遺伝的計算（PMBGAs）における関数評価の計算コスト、特に評価が高価な状況を解決すること。
• 解の品質を損なわずに、高価な関数評価回数を削減することで、能力のある遺伝的計算の効率性を向上させること。
• 収束速度とPMBGAsの実用的適用性を向上させる、スケーラブルで理論的根拠に基づく効率化技術を開発すること。
• 2つの異なる効率化手法（BB単位の突然変異とフィットネスモデルに基づく評価緩和）のスケーラビリティと高速化性能を分析・検証すること。

提案手法

• 変数間相互作用の確率的モデルが定義する部分解の近傍内で局所探索を実行する突然変異演算子を提案し、構築ブロック（BB）の近傍に対する標的的な探索を可能にする。
• フェーストワイズモデルを用いて突然変異演算子のスケーラビリティを分析し、構築ブロックサイズ（k）と構築ブロック数（m）に基づいて収束時間と集団サイズの予測を導出する。
• 履歴のフィットネスデータを用いてトレーニングされた内部確率的フィットネスモデルを導入し、一部の個体についての高価な関数評価を置き換える。
• モデル選択においてモデルの複雑さとデータへの適合度のバランスを取るために、最小記述長（MDL）指標を用いる。これにより、正確で効率的なモデル表現が保証される。
• 1–10%の集団に対してフィットネス値をモデルで推定することで、実際に必要な関数評価回数を顕著に削減する。
• 両手法を組み合わせることで乗法的高速化を達成する。両者の改善はほぼ独立であるため、その組み合わせにより著しい全体的なアルゴリズム的効率向上が得られる。

実験結果

リサーチクエスチョン

• RQ1 確率的モデルが特定する構築ブロック近傍内でスケーラブルな局所探索を実行できる突然変異演算子をどのように設計できるか、またその理論的収束挙動はいかなるものか？
• RQ2 提案された突然変異演算子は、加法的分離問題において、従来の選択再結合型PMBGAsと比較して、理論的および実験的高速化性能はどの程度か？
• RQ3 内部確率的フィットネスモデルは、PMBGAsにおける実際の関数評価回数をどの程度まで削減できるか、その結果の高速化はどの程度か？
• RQ4 フィットネスモデルに基づく評価緩和の性能は、評価対象の個体数と推定対象の個体数の割合にどのように依存するか？
• RQ5 BB単位の突然変異とフィットネスモデル推定という2つの効率化技術を効果的に組み合わせられるか、またその組み合わせによる予想される高速化はどの程度か？

主な発見

• BB単位の突然変異演算子は、加法的分離問題において、構築ブロックサイズ（k）と構築ブロック数（m）を用いて、従来の選択再結合型PMBGAsと比較して関数評価回数を O(√(k log m)) 減少させる。
• 突然変異演算子の収束時間は O(2km1.5) にスケーリングされ、複数の重複のない構築ブロックを含む問題において、スケーラビリティが向上していることが示された。
• 内部確率的フィットネスモデルは、実際の関数評価回数を集団の1–10%にまで削減し、標準PMBGAsと比較して2–50倍の高速化を達成した。
• フィットネスモデルに基づく評価緩和は、フィットネスが独立した部分解の寄与の和である加法的分離問題において最も効果的である。
• BB単位の突然変異とフィットネスモデル推定という2つの効率化技術はほぼ独立であるため、その組み合わせにより乗法的高速化が得られ、全体のアルゴリズム的効率が著しく向上する。
• 実験的結果は理論的予測を裏付け、さまざまなテスト問題において両手法のスケーラビリティと性能向上が有効であることを検証した。