[論文レビュー] Fitness inheritance in the Bayesian optimization algorithm

Martin Pelikán, Kumara Sastry|arXiv (Cornell University)|Feb 15, 2004

Evolutionary Algorithms and Applications参考文献 18被引用数 8

ひとこと要約

この論文では、有望な解のベイジアンネットワークモデルを用いてフィットネスを推定することで、高価なフィットネス評価を著しく削減するフィットネス継承を、ベイジアン最適化アルゴリズム（BOA）に提案する。モデルが複雑な依存関係を捉える能力を活かすことで、実際のフィットネス評価回数を最大53倍まで削減可能であり、高い性能を維持したまま、評価対象となる解の1%未満でさえも安定して最適解に収束することを示している。

ABSTRACT

This paper describes how fitness inheritance can be used to estimate fitness for a proportion of newly sampled candidate solutions in the Bayesian optimization algorithm (BOA). The goal of estimating fitness for some candidate solutions is to reduce the number of fitness evaluations for problems where fitness evaluation is expensive. Bayesian networks used in BOA to model promising solutions and generate the new ones are extended to allow not only for modeling and sampling candidate solutions, but also for estimating their fitness. The results indicate that fitness inheritance is a promising concept in BOA, because population-sizing requirements for building appropriate models of promising solutions lead to good fitness estimates even if only a small proportion of candidate solutions is evaluated using the actual fitness function. This can lead to a reduction of the number of actual fitness evaluations by a factor of 30 or more.

研究の動機と目的

• 確率的モデルを用いたフィットネス推定により、進化的アルゴリズムにおける高価なフィットネス評価回数を削減すること。
• ベイジアンネットワークと意思決定図を用いて、BOAをフィットネス継承で拡張すること。
• 実際にフィットネス関数で評価される解が1%未満である場合でも、正確なフィットネス推定が可能かどうかを調査すること。
• onemaxや連結トラップ問題（4次および5次）といったねじれのある問題において、BOAにおけるフィットネス継承の有効性を評価すること。
• 大規模集団を用いた進化的アルゴリズムにおける、モデルの複雑さとフィットネス評価の削減とのトレードオフを調査すること。

提案手法

• BOAのベイジアンネットワークモデルを、新規に生成された候補解のフィットネス推定にも適用し、単にサンプリングするのではなく、フィットネスを推定するように拡張する。
• ベイジアンネットワークにおける完全な条件付き確率表（CPT）と局所的構造を用いて、解の構造とフィットネスランドスケープの両方をモデル化する。
• 各世代から選択された有望な解を用いてモデルを学習し、依存関係や規則性を捉える。
• 学習済みモデルを用いて、新規解の一部のフィットネスを推定する一方で、実際のフィットネス関数による評価は極めて少数に抑える。
• onemax、4次連結トラップ、5次連結トラップを対象とし、新規解が集団を完全に置き換えるリプレースメント戦略を適用する。
• 収束が最良解に到達するのを保証しつつ、実際のフィットネス評価回数を最小化するように継承割合を最適化する。

実験結果

リサーチクエスチョン

• RQ1 フィットネス継承により、BOAにおける実際のフィットネス評価回数を著しく削減できるか、かつ解の品質が低下しないか？
• RQ2 実際のフィットネス関数による評価が極めて少ない場合でも、BOAにおけるベイジアンネットワークモデルから得られるフィットネス推定の正確性はどの程度か？
• RQ3 BOAにおいて、実際のフィットネス関数による評価とモデルベース推定の間で、最適な解の割合はどの程度か？
• RQ4 BOAの集団サイズ要件が、モデルの精度に起因して、フィットネス継承を効果的に可能にするか？
• RQ5 onemaxや4次・5次連結トラップといった、既知の最良解を持つねじれのある問題において、フィットネス継承はどのように性能を発揮するか？

主な発見

• onemaxではフィットネス継承により実際のフィットネス評価回数が31倍、4次連結トラップでは32倍、5次連結トラップでは最大53倍まで削減された。
• 候補解の1%未満しか実際にフィットネス関数で評価されていなくても、アルゴリズムは依然として信頼性高く最良解に収束した。
• 集団が大きいほどフィットネス推定の正確性が向上するが、これはBOAがモデル構築の要件から大規模集団を必要とすることに起因するため、単純なGAよりもBOAにおいてフィットネス継承がより効果的である。
• モデルがフィットネスランドスケープの非線形性や依存関係を捉えられるため、評価回数が最大53倍まで削減され、著しい高速化が達成された。
• 最適な継承割合は、モデル構築、サンプリング、実際のフィットネス評価の相対的な複雑さに依存するが、フィットネス評価が高価な場合には、高い割合が有益である。
• 結果から、BOAでは大規模集団から高品質なモデルが構築されるため、フィットネス継承は特に効果的であり、直接評価を最小限に抑えながらも信頼性のある推定が可能であると示唆される。