[論文レビュー] Hybrid Evolutionary Computation for Continuous Optimization

Hassan A. Bashir, R.S. Neville|arXiv (Cornell University)|Mar 14, 2013

Metaheuristic Optimization Algorithms Research参考文献 17被引用数 10

ひとこと要約

本論文は、連続的グローバル最適化のためのハイブリッド進化的計算フレームワークを提案する。このフレームワークは、実数表現遺伝的アルゴリズム（RGA）と逐次二次計画法（SQP）を統合したものであり、適応的エリート主義、プライスの式に基づく新たな収束検出メカニズム、および改良されたSQPステップサイズと探索方向の評価を用いることで、探索と活用のバランスを向上させ、ベンチマーク問題において顕著な収束速度の高速化と解の品質向上を達成する。

ABSTRACT

Hybrid optimization algorithms have gained popularity as it has become apparent there cannot be a universal optimization strategy which is globally more beneficial than any other. Despite their popularity, hybridization frameworks require more detailed categorization regarding: the nature of the problem domain, the constituent algorithms, the coupling schema and the intended area of application. This report proposes a hybrid algorithm for solving small to large-scale continuous global optimization problems. It comprises evolutionary computation (EC) algorithms and a sequential quadratic programming (SQP) algorithm; combined in a collaborative portfolio. The SQP is a gradient based local search method. To optimize the individual contributions of the EC and SQP algorithms for the overall success of the proposed hybrid system, improvements were made in key features of these algorithms. The report proposes enhancements in: i) the evolutionary algorithm, ii) a new convergence detection mechanism was proposed; and iii) in the methods for evaluating the search directions and step sizes for the SQP local search algorithm. The proposed hybrid design aim was to ensure that the two algorithms complement each other by exploring and exploiting the problem search space. Preliminary results justify that an adept hybridization of evolutionary algorithms with a suitable local search method, could yield a robust and efficient means of solving wide range of global optimization problems. Finally, a discussion of the outcomes of the initial investigation and a review of the associated challenges and inherent limitations of the proposed method is presented to complete the investigation. The report highlights extensive research, particularly, some potential case studies and application areas.

研究の動機と目的

• 単独の進化的アルゴリズムが連続最適化において探索と活用のバランスをとるのには限界があるという問題に取り組む。
• グローバルサーチ（EC）とローカルサーチ（SQP）を効果的に統合するハイブリッドフレームワークを構築し、収束性と解の品質を向上させる。
• プライスの式に基づく新たな収束検出メカニズムを導入し、進化的プロセスの進行を動的に評価する。
• 探索方向とステップサイズの評価手法の改善を通じて、SQPの性能を向上させる。
• 標準ベンチマーク問題上でハイブリッドシステムを検証し、スケーラビリティと頑健性を評価する。

提案手法

• ハイブリッドシステムは、タスク切り替えメカニズムに基づいて進化的アルゴリズム（EA）とSQPが交互に実行される協調的ポーフォリオアプローチを採用する。
• 多様性を維持し、グローバルサーチを導くために、適応的エリート主義を適用した修正版実数表現遺伝的アルゴリズムが使用される。
• 遺伝的演算子（特に交差）の寄与度をモニタリングするため、プライスの式の拡張形から導出された新たな収束検出パラメータが導入される。
• 正確な勾配計算のための自動微分を用い、ステップサイズと探索方向選択のための改善されたラインサーチ戦略を組み合わせてSQPを強化する。
• 各SQP実行の終了時に、最高解とその逆数を用いて新たなEA集団を生成するバリデーションルーチンが実装され、多様性の維持と収束の向上が促進される。
• システムはEAフェーズとSQPフェーズを動的に切り替え、グローバル探索とローカル活用のバランスをとる。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッドEC/SQPシステムは、連続的グローバル最適化問題を解く際、単独のECやSQPを上回る性能を示せるか？
• RQ2 提案されたプライスの式に基づく収束検出メカニズムは、進化的プロセスの停滞を特定するのにどの程度有効か？
• RQ3 最高解とその逆数を用いて新たな集団を生成するバリデーションルーチンが、収束速度と解の品質に与える影響は何か？
• RQ4 SQPの探索方向とステップサイズ評価の改善が、全体の最適化性能に与える影響は何か？
• RQ5 このハイブリッドシステムは、多様なベンチマーク問題において、どの程度の頑健性とスケーラビリティを維持できるか？

主な発見

• 標準ベンチマーク問題において、単独のECやSQPと比較して、ハイブリッドEC/SQPシステムは収束速度と解の品質の両面で顕著な向上を示した。
• 拡張されたプライスの式に基づく提案された収束検出メカニズムは、停滞点を効果的に同定し、グローバルサーチとローカルサーチの切り替えを適切に制御した。
• 最高解とその逆数を用いて新たな集団を生成するバリデーションルーチンは、収束の高速化と多様性の維持に寄与した。
• 自動微分を用いた改良されたSQP実装により、勾配評価の正確性が向上し、ローカルサーチの効率が向上した。
• ハイブリッドシステムは小規模から大規模な問題までスケーラブルであり、多様なテストケースにおいて頑健な性能を維持した。
• 予備的な結果から、本研究で提案された強化手法によってECとSQPの相乗効果が実現され、より効率的で信頼性の高い最適化フレームワークが構築されたことが確認された。