[論文レビュー] pysamoo: Surrogate-Assisted Multi-Objective Optimization in Python

Julian Blank, Kalyanmoy Deb|arXiv (Cornell University)|Apr 12, 2022

Advanced Multi-Objective Optimization Algorithms被引用数 7

ひとこと要約

pysamoo は、計算コストの高い問題におけるサーロー支援型多目的最適化を可能にする、Python フレームワークである。pymoo を拡張し、例として径数基底関数を含むサーロー・モデルを NSGA-II や CMA-ES といった進化的アルゴリズムに統合することで、100～500回の評価予算という制限の中で、高価な関数評価の回数を削減し、収束性を著しく向上させる。

ABSTRACT

Significant effort has been made to solve computationally expensive optimization problems in the past two decades, and various optimization methods incorporating surrogates into optimization have been proposed. However, most optimization toolboxes do not consist of ready-to-run algorithms for computationally expensive problems, especially in combination with other key requirements, such as handling multiple conflicting objectives or constraints. Thus, the lack of appropriate software packages has become a bottleneck for solving real-world applications. The proposed framework, pysamoo, addresses these shortcomings of existing optimization frameworks and provides multiple optimization methods for handling problems involving time-consuming evaluation functions. The framework extends the functionalities of pymoo, a popular and comprehensive toolbox for multi-objective optimization, and incorporates surrogates to support expensive function evaluations. The framework is available under the GNU Affero General Public License (AGPL) and is primarily designed for research purposes. For more information about pysamoo, readers are encouraged to visit: anyoptimization.com/projects/pysamoo.

研究の動機と目的

• 計算コストが高く、制約条件を伴う多目的最適化問題に特化した、すぐに使えるオープンソースの最適化フレームワークの不足に対処すること。
• 各関数評価（例：CFD や FEA）に時間がかかる状況で、合計評価回数が 100～500 回に制限されるような状況において、効率的な最適化を実現すること。
• ガウス・アーリー（GA）、差分進化（DE）、CMA-ES、NSGA-II などの幅広いメタヒューリスティクスにサーロー・モデルを統合し、高価な評価を近似することで収束を加速すること。
• 研究者が実世界の応用においてサーロー支援型最適化戦略を実験できるように、柔軟かつ拡張可能な AGPL ライセンス下のフレームワークを提供すること。
• 単目的および多目的最適化（制約付き）をサポートし、探索プロセス中に高価なシミュレーションに依存するのを減らすために、サーロー・モデルを活用すること。

提案手法

• pymoo フレームワークを拡張し、高価な目的関数および制約関数の近似としてサーロー・モデルを統合することで、サーロー支援型最適化を可能にする。
• 2 つの主要なサーロー統合戦略、すなわち PSAF（問題特異的適応フィルタリング）と GPSAF（グローバル問題特異的適応フィルタリング）を実装し、サーロー予測に基づいて有望な解の選択を支援する。
• 予測誤差を最小限に抑えつつ計算効率を維持するため、径数基底関数（RBF）モデルをサーローとして使用する。
• 高価な解の評価（ESE）と、サーローを用いた近似解の評価（ASE）を交互に実行することで、厳密な ESE 予算を守りながら探索を進める。
• NSGA-II、NSGA-III、CMA-ES、DE などの既存のメタヒューリスティクスにサーロー・モデルを統合し、コアアルゴリズムの論理を変更せずに収束性を向上させる。
• 反復的に情報量の多い解を用いてサーロー・モデルを精緻化する動的サンプリング戦略を適用し、限られた評価予算の中で探索と活用のバランスを取る。

実験結果

リサーチクエスチョン

• RQ1 既存の多目的進化的アルゴリズムに、どのようにしてサーロー・モデルを効果的に統合することで、高価な関数評価の回数を削減できるか？
• RQ2 制限された評価予算を持つ実世界のシミュレーションベースの問題において、サーロー支援型最適化がもたらす性能向上はどの程度か？
• RQ3 多様な多目的最適化問題において、PSAF と GPSAF 戦略は収束速度および収束品質の観点でどのように比較されるか？
• RQ4 NSGA-III や CMA-ES といったメタヒューリスティクスは、計算コストの高い環境下で、どの程度サーロー・モデルの導入によって効率が向上するか？
• RQ5 複数のメタヒューリスティクスにサーロー統合を可能にする統合フレームワークを構築できるか。また、モジュラリティと拡張性を維持できるか？

主な発見

• pysamoo は、NSGA-II、NSGA-III、CMA-ES、DE など幅広いメタヒューリスティクスにサーロー・モデルを統合し、評価予算が限られた環境下でも効率的な最適化を実現した。
• フレームワークは、高価な関数評価に依存するのを減らすために、計算コストが低い近似解の評価（ASE）にサーロー・モデルを活用し、探索プロセスをガイドする。
• PSAF および GPSAF 戦略は、サーロー予測に基づいて有望な解を知的に選択することで、高価な最適化問題における収束速度と収束品質を著しく向上させた。
• 径数基底関数（RBF）サーローは、高精度な高精細シミュレーション出力の近似を可能にし、予測誤差を最小限に抑えつつ、低い計算オーバーヘッドを維持した。
• pysamoo は、工学、農業、医療分野における実世界のシミュレーションベースの問題を、必要な高価なシミュレーション回数を削減することで、より効率的に解けるようにした。
• フレームワークは AGPL ライセンスでリリースされており、研究用途での自由利用および将来的なサーロー支援型最適化手法の開発に向けた拡張が可能である。