[論文レビュー] Multi-fidelity data fusion through parameter space reduction with applications to automotive engineering

Francesco Romor, Marco Tezzele+3 more|arXiv (Cornell University)|Oct 27, 2021

Gaussian Processes and Bayesian Inference参考文献 55被引用数 5

ひとこと要約

本稿では、アクティブサブスパイス（AS）および非線形レベルセット学習（NLL）を活用してパラメータ空間の次元を低減する、マルチフィidelityガウス過程回帰フレームワークを提案する。この手法により、簡略化された物理モデルを必要とせず、高次元の応答関数近似を高精度に実現できる。単一フィidelity GPに比べ、R²スコアで最大5%の相対的改善を達成し、データ効率的で低固有次元性バイアスを持つことにより、自動車の空力特性とベンチマーク問題において精度が向上した。

ABSTRACT

Multi-fidelity models are of great importance due to their capability of fusing information coming from different numerical simulations, surrogates, and sensors. We focus on the approximation of high-dimensional scalar functions with low intrinsic dimensionality. By introducing a low dimensional bias we can fight the curse of dimensionality affecting these quantities of interest, especially for many-query applications. We seek a gradient-based reduction of the parameter space through linear active subspaces or a nonlinear transformation of the input space. Then we build a low-fidelity response surface based on such reduction, thus enabling nonlinear autoregressive multi-fidelity Gaussian process regression without the need of running new simulations with simplified physical models. This has a great potential in the data scarcity regime affecting many engineering applications. In this work we present a new multi-fidelity approach that involves active subspaces and the nonlinear level-set learning method, starting from the preliminary analysis previously conducted in Romor et al. 2020. The proposed framework is tested on two high-dimensional benchmark functions, and on a more complex car aerodynamics problem. We show how a low intrinsic dimensionality bias can increase the accuracy of Gaussian process response surfaces.

研究の動機と目的

• 自動車の空力特性などの高次元でデータが乏しい工学的応用における次元の呪いに対処すること。
• ガウス過程回帰においても高次元の複雑さを抱える従来の低精度モデルの限界を克服すること。
• 物理的簡略化モデルに依存しない、データ駆動型のマルチフィidelityフレームワークを構築し、パラメータ空間の次元削減技術を用いること。
• 非線形自己回帰ガウス過程（NARGP）を用いて、高次元スカラー関数の応答関数近似の精度を向上させること。
• 線形（AS）および非線形（NLL）のパラメータ空間次元削減を統合した、予測性能を向上させる統一されたマルチフィidelity回帰パイプラインを構築すること。

提案手法

• 出力関数の主な変動を捉える低次元部分空間を特定するために、線形アクティブサブスパイス（AS）を適用する。
• 可逆ニューラルネットワーク（RevNets）を用いた非線形レベルセット学習（NLL）により、出力の等高線の幾何構造に一致する入力空間の非線形変換を学習する。
• 簡略化モデルの新たなシミュレーションを必要とせず、ASまたはNLLによる低次元パラメータ空間を用いて低精度の応答関数表面を構築する。
• 低精度モデルを非線形自己回帰マルチフィidelityガウス過程（NARGP）フレームワークに統合し、階層的かつデータ効率的な回帰を可能にする。
• 高精度データと導出された低精度代替モデルを用いてNARGPモデルを学習し、異なる精度レベル間の相関構造を活用して一般化性能を向上させる。
• 交差検証と外側のトレーニングリスタートを用いて、モデルの頑健性を検証し、特にDDES-ASモデルの最適な設定を特定する。

実験結果

リサーチクエスチョン

• RQ1 アクティブサブスパイスと非線形レベルセット学習は、工学的応用において高次元入力空間の固有次元を効果的に低減できるか？
• RQ2 パラメータ空間の次元削減に基づくデータ駆動型低精度代替モデルは、従来の低精度モデルに比べて、マルチフィidelityガウス過程回帰でどれほど優れているか？
• RQ3 ASまたはNLLによる低固有次元性バイアスの組み込みは、単一フィidelity GPと比較して、高次元応答関数近似の精度をどの程度向上させるか？
• RQ4 複雑な自動車の空力特性問題において、提案手法のマルチフィidelityフレームワークは、単一フィidelity GPおよび標準的なマルチフィidelityモデルに比べて、どの程度の相対的性能向上を達成するか？
• RQ5 追加の低精度シミュレーションを必要とせず、データが乏しい状況でも、提案手法が顕著な精度向上を達成できるか？

主な発見

• ピストンおよびエボラベンチマーク問題において、NARGP-ASモデルは、サンプルサイズに応じて単一フィidelity GPに比べてR²スコアで3〜5%の相対的改善を達成した。
• ジェットタ-6のテストケースでは、NARGP-NLLが低精度モデルに比べ2%、高精度モデルに比べ4%の精度向上を達成した。
• DDES-ASマルチフィidelityモデルは、DDES-RANSモデルと同等の精度を達成し、物理的簡略化なしにASに基づく代替モデルが有効な低精度モデルとして機能できることを検証した。
• RANSモデルはDDES出力と相関が低く（平均R² < 0）、しかしDDES-RANSマルチフィidelityモデルは単一フィidelity DDESモデルを上回った。これはマルチフィidelity統合の価値を示している。
• DDES-ASモデルは20回のトレーニングリスタートにわたり一貫した性能を示し、7回目のリスタートで最適な設定が選択された。
• 本フレームワークは、高精度データからのみ低固有次元性構造を抽出することで、高次元でデータが乏しい状況でも正確な応答関数表面モデリングを可能にした。