[論文レビュー] Multi-fidelity reduced-order surrogate modeling

Paolo Conti, Mengwu Guo+4 more|arXiv (Cornell University)|Sep 1, 2023

Model Reduction and Neural NetworksPhysics and Astronomy被引用数 3

ひとこと要約

本稿では、パrametrized時間依存PDEの高精度解を低精度データを用いて予測するため、適切な直交分解（POD）と多精度LSTMネットワークを組み合わせた多精度低次元代替モデルを提案する。低精度の低次元状態から高精度の対応状態への写像を学習することにより、計算コストを低く抑えながら高い精度を達成し、訓練時ウィンドウを越えた不安定性や過渡現象を効果的に捉えることができる。

ABSTRACT

High-fidelity numerical simulations of partial differential equations (PDEs) given a restricted computational budget can significantly limit the number of parameter configurations considered and/or time window evaluated for modeling a given system. Multi-fidelity surrogate modeling aims to leverage less accurate, lower-fidelity models that are computationally inexpensive in order to enhance predictive accuracy when high-fidelity data are limited or scarce. However, low-fidelity models, while often displaying important qualitative spatio-temporal features, fail to accurately capture the onset of instability and critical transients observed in the high-fidelity models, making them impractical as surrogate models. To address this shortcoming, we present a new data-driven strategy that combines dimensionality reduction with multi-fidelity neural network surrogates. The key idea is to generate a spatial basis by applying the classical proper orthogonal decomposition (POD) to high-fidelity solution snapshots, and approximate the dynamics of the reduced states - time-parameter-dependent expansion coefficients of the POD basis - using a multi-fidelity long-short term memory (LSTM) network. By mapping low-fidelity reduced states to their high-fidelity counterpart, the proposed reduced-order surrogate model enables the efficient recovery of full solution fields over time and parameter variations in a non-intrusive manner. The generality and robustness of this method is demonstrated by a collection of parametrized, time-dependent PDE problems where the low-fidelity model can be defined by coarser meshes and/or time stepping, as well as by misspecified physical features. Importantly, the onset of instabilities and transients are well captured by this surrogate modeling technique.

研究の動機と目的

• パラメータ化された時間依存PDEにおける高精度シミュレーションデータの不足という課題に対処すること。
• 高精度データが限られたり生成に高コストがかかる状況でも、代替モデルの予測精度を向上させること。
• 高精度データを活用しつつ物理的一致性を保ちながら、非侵襲的かつデータ駆動型のフレームワークを構築すること。
• 訓練データのカバー範囲を超えて、時間的予測とパrameterの一般化を正確に行えるようにすること。
• 次元削減と多精度学習を組み合わせることで、計算効率を向上させること。

提案手法

• 高精度解スナップショットに適切な直交分解（POD）を適用し、空間的低次元基底を構築する。
• 時間-パrameter依存の低次元状態（POD係数）を、多精度LSTMネットワークでモデル化する。
• ペアドされた低精度および高精度データを用いて、低精度低次元状態から高精度低次元状態への写像をLSTMが学習する。
• 本手法は非侵襲的であり、フルオーダー・ソルバーを変更せずに解のデータのみに依存する。
• フレームワークは事前学習を行い、オンラインで高速かつ正確にフル解場を予測可能にすることを目的とする。
• 本アプローチは汎用的かつ拡張可能であり、PODを他の基底構築手法に置き換えたり、LSTMを他の系列モデルに置き換えたりできる。

実験結果

リサーチクエスチョン

• RQ1 限られた高精度データと豊富な低精度データのみを用いて、多精度代替モデルが高精度解場を効果的に回復できるか。
• RQ2 本手法は、訓練データに存在しない重要な過渡現象や不安定性をどの程度正確に予測できるか。
• RQ3 低精度データを組み込むことで、高精度または低精度モデルにのみ依存する場合と比較して、予測精度がどの程度向上するか。
• RQ4 訓練ウィンドウを超えて、パrameterの変動や時間領域の変化に対しても一般化できるか。
• RQ5 標準的な高精度・低精度および完全にデータ駆動型の代替モデルと比較して、本手法の精度と計算コストはどのように異なるか。

主な発見

• 提案された多精度POD-LSTMモデルは、平均して相対予測誤差を3.48%にまで低減した。これは低精度モデルの18.5%と比較して顕著な改善である。計算コストは低く保たれている。
• 本手法は、時間発展するPDEにおける不安定性の発生や過渡現象を、訓練時ウィンドウを越えて正確に捉えることに成功した。
• 例（III）では、計算時間111秒（高精度コストの4.17%）で相対誤差3.48%を達成し、効率-精度のトレードオフにおいて、低精度および高精度アプローチを凌駆した。
• フレームワークは、限られた高精度データに依存しながらも、低精度シミュレーションと同等のコストで、フル解場の正確なオンライン予測を可能にした。
• 本手法は、粗いメッシュ、簡略化された物理法則、誤ったパrameterを含むさまざまなPDE問題に対しても、良好な一般化性能を示した。
• 低精度データの活用と物理的に意味のある低次元基底の使用により、物理的一致性を保ったまま、モデルは頑健性と解釈可能性を示した。