[論文レビュー] A comprehensive deep learning-based approach to reduced order modeling of nonlinear time-dependent parametrized PDEs

Stefania Fresca, Luca Dede’+1 more|arXiv (Cornell University)|Jan 12, 2020

Model Reduction and Neural Networks被引用数 5

ひとこと要約

本論文は、データ駆動型ディープラーニングを用いて、パrameter化された非線形時間依存PDEの非線形試行多様体と低次元動的挙動を同時に学習するディープラーニングベースの低次元モデル（DL-ROM）を提案する。この手法は、極めて低い低次元化でも高い精度を達成しており、波動や対流支配型流れのような伝搬するコherent構造を示す問題において、従来のPODベースのROMに匹敵またはそれを上回る性能を示す。PODベースのROMが何階層も多くのモードを必要とするのに対し、DL-ROMはその数分のの一のモード数で同程度の精度を達成する。

ABSTRACT

Traditional reduced order modeling techniques such as the reduced basis (RB) method (relying, e.g., on proper orthogonal decomposition (POD)) suffer from severe limitations when dealing with nonlinear time-dependent parametrized PDEs, because of the fundamental assumption of linear superimposition of modes they are based on. For this reason, in the case of problems featuring coherent structures that propagate over time such as transport, wave, or convection-dominated phenomena, the RB method usually yields inefficient reduced order models (ROMs) if one aims at obtaining reduced order approximations sufficiently accurate compared to the high-fidelity, full order model (FOM) solution. To overcome these limitations, in this work, we propose a new nonlinear approach to set reduced order models by exploiting deep learning (DL) algorithms. In the resulting nonlinear ROM, which we refer to as DL-ROM, both the nonlinear trial manifold (corresponding to the set of basis functions in a linear ROM) as well as the nonlinear reduced dynamics (corresponding to the projection stage in a linear ROM) are learned in a non-intrusive way by relying on DL algorithms; the latter are trained on a set of FOM solutions obtained for different parameter values. In this paper, we show how to construct a DL-ROM for both linear and nonlinear time-dependent parametrized PDEs; moreover, we assess its accuracy on test cases featuring different parametrized PDE problems. Numerical results indicate that DL-ROMs whose dimension is equal to the intrinsic dimensionality of the PDE solutions manifold are able to approximate the solution of parametrized PDEs in situations where a huge number of POD modes would be necessary to achieve the same degree of accuracy.

研究の動機と目的

• 従来のリダクションベース（RB）法に依存する線形重ね合わせの制限を克服すること。特に、コherent構造（波動や対流フロントなど）を示す非線形時間依存パラメータ付きPDEに対しては、線形重ね合わせでは不十分である。
• 投影ベースの線形ROMに起因する計算上のボトル neck を回避する非侵襲的かつデータ駆動型のフレームワークを構築し、非線形試行多様体と低次元動的挙動の両方をディープラーニングで学習すること。
• 高次元FOM解の近似を、内在的な多様体次元と等しい低次元で高精度に実現できるDL-ROMを構築すること。特に輸送型・波動型問題のような困難な状況でも有効である。
• 多様なパラメータ付きPDE問題にわたる本手法の有効性を示し、従来のPODベースROMに比べてはるかに少ない自由度で優れた精度を達成すること。

提案手法

• DL-ROMは、畳み込みオートエンコーダ（CAE）を用いて非線形試行多様体を学習する。CAEは、エンコーダーネットワークを介して高次元FOM解を低次元潜在空間にマップする。
• デコーダーネットワークは潜在コードからFOM解を再構成し、解多様体の非線形パラメトリック近似を形成する。
• 低次元動的挙動は、時間とパラメータ入力を潜在コードにマップする深層順方向ニューラルネットワークによって学習され、新しいパラメータ値および時間における解のオンライン評価を可能にする。
• DL-ROM全体は、PDEの弱形式や残差射影へのアクセスを必要とせず、さまざまなパラメータ値に対して事前に計算されたFOM解のセット上で非侵襲的に学習される。
• 空間的特徴抽出に畳み込み層を、モデルの複雑さを低減するためパラメータ共有を採用する。このアーキテクチャは、PDE離散化に起因する高次元FOMに適している。
• 本手法は線形および非線形時間依存パララメータ付きPDEに適用可能であり、トレーニングおよび推論は標準的なディープラーニングフレームワークを用いて実施される。

実験結果

リサーチクエスチョン

• RQ1 ディープラーニングベースの手法は、波動や対流フロントのようなコherent構造を示す非線形時間依存パラメータ付きPDEを、従来の線形低次元モデルより優れた精度で近似できるか？
• RQ2 畳み込みオートエンコーダを用いて学習した非線形試行多様体は、PODベース手法と比較して、解多様体の次元をどれほど低減しつつも高い精度を維持できるか？
• RQ3 PODモード数が収束のための計算コストが著しく高くなる場合、DL-ROMはオンライン計算効率と精度の両面でどのように性能を発揮するか？
• RQ4 提示された非侵襲的かつデータ駆動型フレームワークは、異なるパrametric依存性および時間的ダイナミクスを示す線形および非線形PDEに一般化可能か？
• RQ5 対流支配型または波動型問題において、POD-ROMに匹敵する精度を達成するためのDL-ROMの最小低次元は何か？

主な発見

• DL-ROMは、解多様体の内在的次元と等しい低次元で高い精度を達成しており、同程度の精度を求めるためにはるかに多くのモードを必要とする従来のPODベースROMを著しく上回る性能を示す。
• 波動型および対流支配型問題において、収束に必要なPODモード数が計算的に非現実的になる場合でも、DL-ROMは高い精度を維持する。
• 深層ニューラルネットワークによるパラメータと時間から解への直接マッピングのおかげで、推論時間は標準的なROMと同等またはそれ以下であり、オンライン計算効率に優れる。
• 畳み込みオートエンコーダの使用により、解多様体内の空間的コherencyを持つ構造（例えば伝搬するフロントや波パッケージ）を効果的に学習でき、線形モードに比べてより正確に捉えることができる。
• 数値実験では、相対誤差が1e-3未満に抑えられる解を、僅か数個の潜在次元で近似可能であるのに対し、PODベースROMは同様のテストケースで同程度の精度を得るためには数百のモードを必要とする。
• 本フレームワークは、線形および非線形時間依存問題を含む多様なPDEタイプにわたり堅牢であり、空間離散化に起因する高次元FOMに対しても効果的にスケーリング可能である。