[論文レビュー] Multi-objective multi-generation Gaussian process optimizer for design optimization

Xiaobiao Huang, Song, Minghao+1 more|arXiv (Cornell University)|Jun 29, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 29被引用数 10

ひとこと要約

本稿では、反復的解選択をガウス過程代理モデルで誘導することで、多目的設計最適化の高速化を図る多世代ガウス過程最適化手法（MG-GPO）を提案する。実システム評価の前に予測モデルを用いて候補解を生成・評価することで、NSGA-II、MOPSO、MMOPSO、WOF-SMPSOと比較して、最大100の意思決定変数を有する複数のテストケースにおいて、著しく高速な収束性と高い安定性を達成した。

ABSTRACT

We present a multi-objective evolutionary optimization algorithm that uses Gaussian process (GP) regression-based models to select trial solutions in a multi-generation iterative procedure. In each generation, a surrogate model is constructed for each objective function with the sample data. The models are used to evaluate solutions and to select the ones with a high potential before they are evaluated on the actual system. Since the trial solutions selected by the GP models tend to have better performance than other methods that only rely on random operations, the new algorithm has much higher efficiency in exploring the parameter space. Simulations with multiple test cases show that the new algorithm has a substantially higher convergence speed and stability than NSGA-II, MOPSO, and some other more recent algorithms.

研究の動機と目的

• NSGA-II や MOPSO などの従来の多目的進化的アルゴリズム（MOEA）が、予測的ガイダンスなしに確率的処理に依存する非効率性に対処する。
• 高次元パrameter空間（P > 20）における既存の代理支援MOEAの高い計算コストとスケーラビリティの制限を克服する。
• 粒子加速器などの複雑なシステムにおける多目的設計最適化の収束速度と安定性を向上させる。
• 予測モデルを用いて各世代で複数の候補解を生成することで、並列計算の効率的利用を可能にする。
• 計算コストの高いシミュレーションを伴う工学設計に適した、スケーラブルで安定的かつ高性能な最適化フレームワークの開発

提案手法

• 以前の評価から得られたサンプルデータを用いて、各目的関数に対して事後ガウス過程（GP）代理モデルを構築する。
• 各世代において、大規模な候補解プールの性能と不確実性をGPモデルを用いて予測する。
• GP-下側信頼区間（LCB）の獲得関数を適用し、実システムでの実評価に適した最も有望な解を選択する。
• 各評価後に新規データで更新されたモデルを用いて、複数の世代にわたり反復的に集団を更新する。
• LCB獲得関数による不確実性（探索）と予測性能（活用）のバランスを保つことで、多様性と収束性を有するパレート最適解集合を維持する。
• 効率的なモデル更新とバッチ評価戦略により計算オーバーヘッドを最小限に抑え、P=100までの高次元問題にスケーリングする。

実験結果

リサーチクエスチョン

• RQ1 代理モデルを用いた多目的最適化アルゴリズムは、NSGA-II や MOPSO といった古典的MOEAよりも高速な収束性と高い安定性を達成できるか？
• RQ2 高次元パrameter空間（P > 20）において、MG-GPOアルゴリズムは、従来の代理手法が直面する次元の呪いに起因する問題をどのように克服するか？
• RQ3 GPモデルを用いて一括で選択された複数の候補解は、単一解選択法と比較して、どの程度計算効率が向上するか？
• RQ4 MG-GPOアルゴリズムは、次元が異なるZDT1、ZDT2、ZDT3、ZDT6といった多様なテスト問題においても、強力な性能を維持できるか？
• RQ5 GP-LCB獲得関数は、過度な計算コストを伴わず、多目的設定において探索と活用のバランスを効果的にとれるか？

主な発見

• MG-GPOは、ZDT1、ZDT2、ZDT3、ZDT6（30および100の意思決定変数を有する）を含むすべてのテストケースにおいて、NSGA-II、MOPSO、MMOPSO、WOF-SMPSOと比較して著しく高速な収束速度を達成した。
• IGD（逆ジェネレーショナルディスタンス）の比較において、1000～8000評価の範囲でウィルコクソン符号順位検定の90％でMG-GPOが勝利し、P=100の場合には8000評価で100％の勝率を記録した。
• ハイパーボリューム（HV）指標において、MG-GPOは2000、3000、4000、8000評価の全ケースですべてのベースラインを上回り、P=100および4000評価の状況では100％の勝率を記録した。
• MG-GPOは優れた安定性を示し、WOF-SMPSO や MOPSO が一部の高次元ケースで正のハイパーボリュームを達成できなかったのとは異なり、正のハイパーボリュームを達成できない事例が一切なかった。
• 高次元でも計算オーバーヘッドが低く抑えられ、MOEA/D-EGO や類似手法で見られる立方時間計算量の問題を回避した。
• P=100、8000評価の状況で、MG-GPOは平均HVがZDT1で0.6554、ZDT2で0.1499を記録し、NSGA-II や MOPSO が複数回にわたり正のHVに到達できなかったのと比べ、顕著に優れた性能を示した。