[論文レビュー] Efficient nonlinear manifold reduced order model

Youngkyu Kim, Youngsoo Choi+2 more|arXiv (Cornell University)|Nov 13, 2020

Model Reduction and Neural Networks参考文献 55被引用数 32

ひとこと要約

本論文は、浅いマスク付きオートエンコーダとハイパーリダクションを用いて非線形多様体ROM(NM-ROM)を構築し、シミュレーションを高速化する。対流支配的な2D Burgers方程式において最大で11.7倍のスピードアップと精度の改善を達成する。

ABSTRACT

Traditional linear subspace reduced order models (LS-ROMs) are able to accelerate physical simulations, in which the intrinsic solution space falls into a subspace with a small dimension, i.e., the solution space has a small Kolmogorov n-width. However, for physical phenomena not of this type, such as advection-dominated flow phenomena, a low-dimensional linear subspace poorly approximates the solution. To address cases such as these, we have developed an efficient nonlinear manifold ROM (NM-ROM), which can better approximate high-fidelity model solutions with a smaller latent space dimension than the LS-ROMs. Our method takes advantage of the existing numerical methods that are used to solve the corresponding full order models (FOMs). The efficiency is achieved by developing a hyper-reduction technique in the context of the NM-ROM. Numerical results show that neural networks can learn a more efficient latent space representation on advection-dominated data from 2D Burgers' equations with a high Reynolds number. A speed-up of up to 11.7 for 2D Burgers' equations is achieved with an appropriate treatment of the nonlinear terms through a hyper-reduction technique.

研究の動機と目的

• LS-ROMの限界を克服して、設計最適化・制御・不確実性定量化のための高忠実度シミュレーションの加速を促す。
• 対流支配または鋭い勾配の解をより適切に捉える非線形多様体表現を導入する。
• 既存の全順序解法技術を活用し、速度向上を可能にするハイパーリダクションを開発する。

提案手法

• 解を非線形多様体上に x ≈ x_ref + g(x̂) と表現し、g を浅いオートエンコーダのデコーダとする。
• FOM解データ上でオートエンコーダを訓練し、次元 ns << Ns の潜在空間を学習する。
• 潜在空間での最小二乗Petrov–Galerkin (LSPG) 投影により、各時刻で縮約系を解く。
• 各時刻で縮約残差を最小化するためにGauss–Newtonを適用する。
• 非線形残差をはるか少ない演算で近似するハイパーリダクション（ギャッピ POD）を導入し、残差基底 Φr とサンプリング行列 Z を介して行う。
• 選択された残差成分に対して必要なデコーダ出力のみを計算するマスク付きデコーダを実装する。

実験結果

リサーチクエスチョン

• RQ1 浅いマスク付きオートエンコーダを備えた非線形多様体ROMは、対流支配型のPDEに対して全順序モデルと同等の精度を達成できるか？
• RQ2 ハイパーリダクションはNM-ROMで大幅なスピードアップを実現できるか、精度を犠牲にせず？
• RQ3 高レイノルズ数での2D Burgers方程式に対するNM-ROMと従来のLS-ROMおよびブラックボックス型ニューラルネットワークの比較はどうか？

主な発見

残差基底 n_r	残差サンプル n_z	最大相対誤差 (%)	経過時間（秒）	スピードアップ
55	58	0.93	12.15	11.58
56	59	0.94	12.35	11.39
51	54	0.95	12.09	11.63
53	56	0.97	12.14	11.58
54	57	0.97	12.29	11.44
44	47	0.98	12.01	11.71
59	59	34.38	4.86	26.76
53	58	37.73	5.05	28.02
53	59	37.84	4.86	28.95
53	56	37.95	5.05	27.83
53	55	37.96	4.75	29.61
53	53	37.97	7.18	19.58

• NM-LSPG-HRはns = 5 かつ適切な残差サンプルで、2D Burgers方程式のFOMに対して約11×〜12×の速度アップを達成。
• 同じ ns の場合、NM-LSPG（非線形多様体）はLS-LSPGより相対誤差が小さく、場合によってはLS ROM投影誤差を超える。
• LS-LSPG-HRは相対誤差が大きく(~34–38%)、一方 NM-LSPG-HR はテストされた残差基底とサンプル全体で最大約1%の相対誤差を達成。
• 適切に選択された浅いマスク付きデコーダとハイパーリダクションは、BB-NNと比較して精度で上回り、かつ大幅なスピードアップを提供する。
• NM-LSPG-HR は全順序解と良い一致を保ち、精度が徐々に低下する信頼領域を超えると精度が低下する。