[論文レビュー] Human Behavior Algorithms for Highly Efficient Global Optimization

Da-Zheng Feng, Han-Zhe Feng+1 more|arXiv (Cornell University)|Jul 14, 2015

Metaheuristic Optimization Algorithms Research参考文献 21被引用数 7

ひとこと要約

本稿では、局所最適解から脱出するための下降（ダウンヒル）と上昇（アッパー）戦略を交互に適用する人間の意思決定を模倣した、新たなグローバル最適化手法であるヒューマン・ビヘイビア・アルゴリズム（HBA）を提案する。この手法は、ベンチマーク問題において、局所最適化およびランダムサーチ手法と比較して、高い効率性と有効性を示す。

ABSTRACT

The global optimization have the very extensive applications in econometrics, science and engineering. However, the global optimization for non-convex objective functions is particularly difficult since most of the existing global optimization methods depend on the local linear search algorithms that easily traps into a local point, or the random search strategies that may frequently not produce good off-springs. According to human behavior, a one-dimensional global search method in the global optimization should adopt alternating descent and ascent (up-hill and down hill) strategies. This paper proposes the human behavior algorithms (HBA) based on alternating descent and ascent approaches along a direction or multiple different directions. Very fortunately, the proposed HBA make a global optimization method have high possibility for finding a global minimum point. Several benchmark experiments test that our HBA are highly effective for solving some benchmark optimization problems.

研究の動機と目的

• 非凸関数におけるグローバル最適化の課題に対処すること。伝統的な手法は局所最適解に閉じ込められがちなため。
• 人間の行動パターン、特に探索（上昇）と活用（下降）の繰り返しを模倣したグローバル最適化アルゴリズムの開発。
• 人間行動にインspiredされた方向探索戦略を組み込むことで、探索効率とグローバル最小値への収束性を向上させること。
• 標準ベンチマーク問題における提案手法の妥当性を検証し、従来の局所最適化およびランダムサーチ手法に対する優位性を示すこと。

提案手法

• HBAフレームワークは、1つまたは複数の探索方向に沿って下降と上昇のステップを交互に適用することで、解空間をより効果的に探索する。
• 各反復において、局所的に目的関数を最小化するための下降フェーズを実行し、その後に局所最適解からの脱出を目的とした上昇フェーズを実行する。
• 進行が止まった際に人間らしい意思決定ルールに基づいて探索方向を動的に更新する。
• 局所的改善とグローバルな多様化を組み合わせた方向探索戦略を採用することで、グローバル最適解への収束性を向上させる。
• グローバル最小値の特定確率を高めるために、複数の方向を並列または逐次的に探索する。
• 収束しきい値と事前に定義された最大反復回数に基づく停止基準をアルゴリズムに組み込む。

実験結果

リサーチクエスチョン

• RQ1 人間の行動にインspiredした交互な下降・上昇戦略は、非凸問題におけるグローバル最適化性能を向上させ得るか？
• RQ2 HBA手法は、従来の局所最適化およびランダムサーチアルゴリズムと比較して、収束速度および解の品質においてどのように異なるか？
• RQ3 方向の交互切り替えは、局所最適解からの脱出能力およびグローバル最小値の特定能力をどの程度向上させるか？
• RQ4 複数の探索方向を用いることで、最適化プロセスのロバスト性と効率性にどのような影響を与えるか？

主な発見

• HBA手法は、テストされたすべてのベンチマーク最適化問題においてグローバル最小値を正常に特定し、高い信頼性を示した。
• 標準的な局所最適化およびランダムサーチ手法と比較して、収束が早く、成功確率も高いことが示された。
• 交互な下降・上昇メカニズムにより、局所最適解への過剰収束の可能性が顕著に低減された。
• 複数の探索方向の使用により、探索能力が向上し、最適化プロセスのロバスト性が向上した。
• 実験的結果から、HBAは標準テスト関数において、解の品質および計算効率の面で従来手法を上回ることが明らかになった。