[論文レビュー] LaSDI: Parametric Latent Space Dynamics Identification

William Fries, Xiaolong He+1 more|arXiv (Cornell University)|Mar 4, 2022

Model Reduction and Neural Networks被引用数 5

ひとこと要約

LaSDI は、局所モデルと相互作用メカニズムを用いて潜在空間ダイナミクスを学習することにより、侵襲的でなくデータ駆動型のフレームワークを導入し、パラメトリックな物理シミュレーションを高速かつ高精度に実行する。線形（POD）または非線形（オートエンコーダ）圧縮と点または領域ベースの補間を用いて、バーガース方程式、熱伝導、径方向輸送問題において、フルオーダーモデルと比較して O(100) 倍の高速化と O(1)% の相対誤差を達成した。

ABSTRACT

Enabling fast and accurate physical simulations with data has become an important area of computational physics to aid in inverse problems, design-optimization, uncertainty quantification, and other various decision-making applications. This paper presents a data-driven framework for parametric latent space dynamics identification procedure that enables fast and accurate simulations. The parametric model is achieved by building a set of local latent space model and designing an interaction among them. An individual local latent space dynamics model achieves accurate solution in a trust region. By letting the set of trust region to cover the whole parameter space, our model shows an increase in accuracy with an increase in training data. We introduce two different types of interaction mechanisms, i.e., point-wise and region-based approach. Both linear and nonlinear data compression techniques are used. We illustrate the framework of Latent Space Dynamics Identification (LaSDI) enable a fast and accurate solution process on various partial differential equations, i.e., Burgers' equations, radial advection problem, and nonlinear heat conduction problem, achieving $O(100)$x speed-up and $O(1)\%$ relative error with respect to the corresponding full order models.

研究の動機と目的

• 意思決定応用（例：逆問題や設計最適化）における高精度物理シミュレーションの計算的非実行可能性に対処する。
• 高精度ソルバーのソースコードにアクセスできない非侵襲的低次元モデルを開発する。
• 潜在空間におけるダイナミクスの学習により、ブラックボックスなスラッグモデルよりも解釈可能性と一般化性能を向上させる。
• スケーラブルなトレーニングデータと適応的モデル構造を用いて、多様なパrametric PDE に対して高精度なシミュレーションを可能にする。
• グローバルモデルの限界を克服するため、局所的潜在空間ダイナミクスと相互作用メカニズムを導入し、精度とロバスト性を向上させる。

提案手法

• 特異値分解（POD）による線形圧縮またはオートエンコーダによる非線形圧縮を用いて、局所的潜在空間ダイナミクスモデルを構築する。
• パrameter空間全体にわたるグローバルなパラメトリック予測に統合するために、点または領域ベースの補間を適用する。
• 回帰手法を用いて潜在空間内のダイナミクスを特定し、トレーニングデータからの時間発展を学習する。
• 局所モデル間の相互作用メカニズムを設計し、パrameterドメイン全体にわたる滑らかさと高精度を確保する。
• 一様に分布したトレーニングパラメータを用いてモデルを訓練し、相対誤差と高速化率の指標で性能を評価する。
• コルモゴロフ幅の減衰特性に基づいて、線形（POD）と非線形（オートエンコーダ）圧縮技術を比較する。

実験結果

リサーチクエスチョン

• RQ1 トレーニングデータがスパースな場合、局所的潜在空間ダイナミクスモデルはグローバルモデルを上回る精度を達成できるか？
• RQ2 点ベース補間と領域ベース補間の両方がパrameter空間全体にわたる精度と滑らかさを維持する点で、どのように比較できるか？
• RQ3 非線形圧縮（オートエンコーダ）が潜在空間表現において線形圧縮（POD）を上回る条件は何か？
• RQ4 トレーニングポイントの数が、局所的およびグローバルなダイナミクス同定モデルの性能に与える影響は何か？
• RQ5 コルモゴロフ幅がゆっくり減衰する問題に対しても、LaSDIフレームワークは低誤差と高加速率を維持しながら一般化可能か？

主な発見

• 1次元および2次元のバーガース方程式、径方向輸送、非線形熱伝導問題において、LaSDI はフルオーダーモデルと比較して O(100) 倍の高速化と O(1)% の相対誤差を達成した。
• コルモゴロフ幅がゆっくり減衰する問題では、オートエンコーダによる非線形圧縮が、小さな潜在次元でも POD よりも投影誤差をより効果的に低減した。
• 特異値が急速に減衰する場合には、線形圧縮（POD）が精度において非線形圧縮を上回り、計算がはるかに高速であった。
• 領域ベースまたは点ベース補間を用いた局所的ダイナミクス同定モデルは、トレーニングデータがスパースな場合（例：1次元バーガースで9点、2次元バーガースで25点）に、グローバルモデルを上回る性能を示した。
• 局所モデルの性能はトレーニングデータの密度に依存する：より大きな局所領域またはより多くの点は、特に高次元パrameter空間において精度を向上させる。
• このフレームワークは一般化可能かつ非侵襲的であり、シミュレーションデータや実験動画データへの応用が可能であり、正則化を用いることでノイズや不完全なデータへの拡張も可能である。