[論文レビュー] Multi-objective Bayesian Optimization With Mixed-categorical Design Variables for Expensive-to-evaluate Aeronautical Applications

Nathalie Bartoli, Thierry Lefèbvre+9 more|PolyPublie (École Polytechnique de Montréal)|Apr 14, 2025

Advanced Multi-Objective Optimization Algorithms被引用数 3

ひとこと要約

本論文はSEGOMOEを提案する。混合カテゴリ設計変数を用いる多目的ベイズ最適化フレームワークで、高価な航空設計問題を効率的に最適化。AGILE 4.0の現実的な3例ケースで実証。

ABSTRACT

This work aims at developing new methodologies to optimize computational costly complex systems (e.g., aeronautical engineering systems). The proposed surrogate-based method (often called Bayesian optimization) uses adaptive sampling to promote a trade-off between exploration and exploitation. Our in-house implementation, called SEGOMOE, handles a high number of design variables (continuous, discrete or categorical) and nonlinearities by combining mixtures of experts for the objective and/or the constraints. Additionally, the method handles multi-objective optimization settings, as it allows the construction of accurate Pareto fronts with a minimal number of function evaluations. Different infill criteria have been implemented to handle multiple objectives with or without constraints. The effectiveness of the proposed method was tested on practical aeronautical applications within the context of the European Project AGILE 4.0 and demonstrated favorable results. A first example concerns a retrofitting problem where a comparison between two optimizers have been made. A second example introduces hierarchical variables to deal with architecture system in order to design an aircraft family. The third example increases drastically the number of categorical variables as it combines aircraft design, supply chain and manufacturing process. In this article, we show, on three different realistic problems, various aspects of our optimization codes thanks to the diversity of the treated aircraft problems.

研究の動機と目的

• Continuous、discrete、categorical変数を含む高価な航空システムの効率的最適化の必要性に対応する。
• 混合変数と制約を扱える surrogateベースの多目的最適化手法を開発する。
• 高コスト評価の最小回数で正確な Pareto前面を構築する。
• 3つの現実的なAGILE 4.0 航空設計適用ケースで方法論を実証する。

提案手法

• MOE（局所Krigingモデルの混合）を用いたSequential Enrichment Bayesian Optimizationフレームワークで、高次元・混合変数問題を処理するSEGOMOEを提案する。
• 連続緩和とワンホットエンコーディングを通じて混合整数・カテゴリ入力を連続空間へ緩和し、部分最小二乗法（PLS）を加えることでハイパーパラメータを削減する（KPLSおよびKPLS-K）。
• 独立成分を持つGP代理モデルを目的関数・制約に用い、EHVI型基準とスカラー化項（psi）を組み合わせた正則化獲得関数を用いる。
• feasible領域制約の下で正則化獲得関数を最大化し、設計実験を逐次強化する。
• 最終データを後処理して目的関数/制約のGPモデルを構築し、NSGA-IIを適用して予測Pareto前面を得る。
• アルゴリズムの手順（Algorithm 1）として、初期化、緩和、GPモデリング、獲得最適化、強化を詳述する。

Figure 1 : Hypervolume Improvement: the hypervolume indicator of the non-dominated set (green points) corresponds to the area dominated by it, up to $R$ (reference point in black). The gray rectangle is the hypervolume improvement brought by the new added point in magenta.

実験結果

リサーチクエスチョン

• RQ1 混合カテゴリ設計変数を持つ高価な航空問題における多目的ベイズ最適化の効率的な取り扱い方は？
• RQ2 正則化獲得関数は混合変数と制約を考慮しつつ探索と利用を効果的にバランスできるか？
• RQ3 連続緩和とPLSベースの次元削減は高次元MDO問題におけるBOの性能にどのような影響を与えるか？
• RQ4 SEGOMOEは現実的な機体設計シナリオにおいて伝統的ソルバーと比較してPareto前面をどの程度構築できるか？

主な発見

• SEGOMOEは多目的設定で混合連続・離散・カテゴリ変数の効果的な取り扱いを可能にする。
• 連続緩和とワンホットエンコーディング、およびPLSを組み合わせることで高次元性とハイパーパラメータ管理を実現する。
• EHVI型獲得関数に正則化項を加えることで、実現可能で多様なPareto最適解への探索を誘導する。
• 機体改良スタディでは、JPADとSEGOMOEの結果を統合したPareto前面が得られ、全体の前面は15点（JPAD4点、SEGOMOE11点）となる。
• 最適化はOBSアーキテクチャとエンジン配置の異なる場合で、リトレーフ費用、排出量（CEI）、最大離陸重量（MTOW）、巡航SARのトレードオフを明らかにする。
• 本フレームワークは、設計選択（例：BPRとOBS）が排出量、MTOW、SAR、およびコスト削減に実質的影響を与えうることを示す。

Figure 2 : XDSM DOE MDA for Airframe upgrade design.