[論文レビュー] A Multi-Fidelity Active Learning Method for Global Design Optimization Problems with Noisy Evaluations

Riccardo Pellegrini, Jeroen Wackers+4 more|arXiv (Cornell University)|Feb 14, 2022

Advanced Multi-Objective Optimization Algorithms被引用数 4

ひとこと要約

本稿では、ノイズのある評価下でのグローバル設計最適化を改善するために、適応的ハイパーパramータ最適化を伴う確率的径基数基底関数（SRBF）を用いた多忠実度アクティブラーニング手法を提案する。低忠実度シミュレーションと補正誤差スレーブを組み合わせ、下位信頼区間（LCB）基準による設計点および忠実度レベルの選択により、高忠実度のみの手法に比べて、特に高次元問題やノイズ環境下において優れた精度と効率性を達成する。

ABSTRACT

A multi-fidelity (MF) active learning method is presented for design optimization problems characterized by noisy evaluations of the performance metrics. Namely, a generalized MF surrogate model is used for design-space exploration, exploiting an arbitrary number of hierarchical fidelity levels, i.e., performance evaluations coming from different models, solvers, or discretizations, characterized by different accuracy. The method is intended to accurately predict the design performance while reducing the computational effort required by simulation-driven design (SDD) to achieve the global optimum. The overall MF prediction is evaluated as a low-fidelity trained surrogate corrected with the surrogates of the errors between consecutive fidelity levels. Surrogates are based on stochastic radial basis functions (SRBF) with least squares regression and in-the-loop optimization of hyperparameters to deal with noisy training data. The method adaptively queries new training data, selecting both the design points and the required fidelity level via an active learning approach. This is based on the lower confidence bounding method, which combines performance prediction and associated uncertainty to select the most promising design regions. The fidelity levels are selected considering the benefit-cost ratio associated with their use in the training. The method's performance is assessed and discussed using four analytical tests and three SDD problems based on computational fluid dynamics simulations, namely the shape optimization of a NACA hydrofoil, the DTMB 5415 destroyer, and a roll-on/roll-off passenger ferry. Fidelity levels are provided by both adaptive grid refinement and multi-grid resolution approaches. Under the assumption of a limited budget of function evaluations, the proposed MF method shows better performance in comparison with the model trained by high-fidelity evaluations only.

研究の動機と目的

• 工学的最適化におけるシミュレーション駆動設計（SDD）において、ノイズが多く、計算コストの高いシミュレーションの課題に対処すること。
• 複数の忠実度レベルを活用することで、計算コストを低減しつつ、グローバル最適化の高精度を維持すること。
• ノイズ環境下で標準的アクティブラーニングがノイズ領域に過剰適合するという限界を克服すること。
• 利益-コストトレードオフに基づき、最適な設計点と忠実度レベルを動的に選択する適応的フレームワークを構築すること。
• 不確実性を考慮したアクティブラーニングを用いた多忠実度スレーブモデルにより、高次元設計空間における探索と活用のバランスを向上させること。

提案手法

• ノイズのある学習データを処理できるように、最小二乗回帰とインラインでのハイパーパramータ最適化を組み合わせた確率的径基数基底関数（SRBF）を用いた一般化された多忠実度スレーブモデルを構築する。
• 連続する忠実度レベル間の誤差スレーブを用いて、低忠実度スレーブの予測を補正することで、階層的な精度向上を実現する。
• 下位信頼区間（LCB）基準に基づくアクティブラーニング戦略を実装し、予測と不確実性のバランスをとることで、最も情報価値の高い設計点を選択する。
• 各新しい評価について、利益-コスト比に基づき忠実度レベルを動的に選択し、低コストで情報価値の高い評価を優先することで、全体の計算負担を低減する。
• 適応的グリッド細分化とマルチグリッド解像度を自然な忠実度レベルの源として用い、CFDシミュレーション全体で一貫した多忠実度データの生成を可能にする。
• 交差検証の代替として、クラスタリング指標（例：クラス内平方和、シルエット）を用いたRBF中心数の最適化を行う。

実験結果

リサーチクエスチョン

• RQ1 ノイズのある評価下において、多忠実度アクティブラーニングフレームワークは、高忠実度のみのスレーブモデルに比べて、精度と計算効率の面で優れていると言えるか？
• RQ2 忠実度レベルの数を増やすことで、高次元設計空間におけるスレーブモデルの性能とロバスト性はどのように変化するか？
• RQ3 LCBに基づくアクティブラーニング戦略は、ノイズに起因する過剰適合をどの程度軽減し、設計空間の探索を改善できるか？
• RQ4 適応的忠実度選択と誤差補正メカニズムは、高価な高忠実度評価を最小限に抑えながら、モデルの精度をどのように向上させるか？
• RQ5 マルチグリッドおよび適応的グリッド細分化手法は、多忠実度最適化フレームワークにおいて、効果的で自然な忠実度レベルとして機能するか？

主な発見

• 3つの忠実度レベルを用いた多忠実度スレーブモデルは、特に高次元問題（D=5およびD=10）において、2忠実度モデルおよび高忠実度のみのモデルに比べ、予測誤差の面で一貫して優れた性能を示した。
• NACA水翼およびDTMB 5415駆逐艦問題において、3忠実度MFモデルは2忠実度モデルよりも低い誤差値を達成し、より優れたロバスト性とノイズフィルタリング能力を示した。
• アクティブラーニングプロセスにより、低忠実度予測の不確実性が高いため、設計空間の広範な探索が可能になった。特にノイズのある領域で顕著であった。
• LCBに基づく選択戦略により、ノイズ領域における訓練点にクラスタリングが生じた。これは、訓練点で不確実性がゼロに収束しないためであり、ノイズの特定には寄与したが、探索の均一性は低下した。
• 特に高次元およびノイズ環境下では、関数評価予算が制限された条件下でも、高忠実度のみのモデルに比べて優れた性能を発揮した。
• 適応的グリッド細分化とマルチグリッド解像度は、自然で効果的な忠実度レベルの源であることが示され、多忠実度フレームワークにスムーズに統合可能であった。