[論文レビュー] General Algorithmic Search

Sergio Hernández, Guillem Duran+1 more|arXiv (Cornell University)|May 24, 2017

Metaheuristic Optimization Algorithms Research参考文献 7被引用数 4

ひとこと要約

本稿では、内部のフローサイズを持つエージェント（ウォーカー）のスワームを進化させ、クローン化に基づく拡散を用いて探索空間を探索する、確率的で単一目的のメタヒューリスティックである一般化アルゴリズミック探索（GAS）を提案する。31種類の複雑な関数およびレナード・ジョーンズポテンシャルにおけるベンチマークテストにおいて、GASはバシンホッピング、コッコウサーチ、および微分進化を上回る性能を示した。特に、並列最適化においては、複数回の実行に伴い性能が著しく向上する傾向を示した。

ABSTRACT

In this paper we present a metaheuristic for global optimization called General Algorithmic Search (GAS). Specifically, GAS is a stochastic, single-objective method that evolves a swarm of agents in search of a global extremum. Numerical simulations with a sample of 31 test functions show that GAS outperforms Basin Hopping, Cuckoo Search, and Differential Evolution, especially in concurrent optimization, i.e., when several runs with different initial settings are executed and the first best wins. Python codes of all algorithms and complementary information are available online.

研究の動機と目的

• 多様で困難なテスト関数に広く有効な、一般化された目的のためのメタヒューリスティックを構築すること。
• 特に高次元かつ粗い探索空間において、既存のメタヒューリスティックが抱える複雑で多次元的なランドスケープの処理における限界を是正すること。
• 単一実行および並列最適化の両設定下で、提案手法の性能を最先端のアルゴリズムと比較すること。
• Lennard-Jonesポテンシャルを含むベンチマーク関数において、アルゴリズムの頑健性とスケーラビリティを示すこと。

提案手法

• GASは、探索領域内の位置と内部フローバリュー F_i > 0 を持つ N 個のウォーカーから成る。このフローバリューは移動および選択ダイナミクスに影響を与える。
• 関数値の相対的比較を可能にするために、各ウォーカーの関数値を正規化するためのフローベーススケーリング ϕ_i = (f(x_i) - f_min)/(f_max - f_min) を用いる。
• ウォーカーは擬似時間内に確率的移動を実行し、クローン化により1つのウォーカーの状態が他に置き換えられる。これにより、探索性が向上し、局所的最小値からの脱出が促進される。
• 局所的最小値への再訪問を避けるために、タブー探索を模倣したタブュー記憶リストを維持する。これにより、早期収束を防止する。
• 最良のウォーカーに対してL-BFGS-Bを用いて局所最適化を実行し、各イテレーションで現在の最良解を精緻化する。
• 既知のグローバル最小値からの絶対誤差 ≤ 10⁻⁶ に達した場合に停止する基準を用いることで、収束精度を保証する。

実験結果

リサーチクエスチョン

• RQ1 標準的なベンチマーク関数において、GASはバシンホッピング、コッコウサーチ、および微分進化と比較して、収束速度および成功確率でどのように異なるか？
• RQ2 複数の独立した実行を並列に実行する並列最適化設定において、GASの性能は著しく向上するか？
• RQ3 Lennard-Jonesポテンシャル、特に多くのメタヒューリスティックにとって困難とされる関数クラスにおいて、GASの有効性はいかがなものか？
• RQ4 GASは問題固有の知識を利用せずに高い性能を維持できるか。これは、多様な最適化問題に一般化可能であることを示唆する。

主な発見

• 単一実行最適化において、GASはバシンホッピングを明確に上回り、微分進化はわずかに上回る。コッコウサーチはその中間の順位を占める。
• 10、20、50回の実行を並列に実行する並列最適化設定において、GASはすべてのベースラインを著しくかつスケーラブルに上回る性能を示し、実行回数が増えるほど顕著になる。
• 4〜10粒子のLennard-Jonesポテンシャルにおいて、GASはバシンホッピングおよびコッコウサーチを一貫して上回り、粒子数が増えるにつれて性能差が拡大する。
• 微分進化は、すべてのLennard-Jonesベンチマークで著しく失敗するが、バシンホッピングですら、特定に設計された関数であるにもかかわらず、最良の性能を達成していない。
• GASの成功は、問題固有の知識によるものではなく、構造に関する事前知識なしに幅広いテスト関数で良好な性能を発揮するという点で、アルゴリズムの一般化可能性を示している。
• アルゴリズムの性能は頑健でスケーラブルであり、関数評価回数および並列実行回数の増加に伴い、成功最適化の割合が着実に上昇する。