[论文解读] Efficient nonlinear manifold reduced order model

Youngkyu Kim, Youngsoo Choi+2 more|arXiv (Cornell University)|Nov 13, 2020

Model Reduction and Neural Networks参考文献 55被引用 32

一句话总结

本文使用浅层掩码自编码器和超化简来开发非线性流形ROM（NM-ROM），以加速仿真，在对流支配的二维 Burgers 方程中实现高达 11.7 倍的加速并提高精度。

ABSTRACT

Traditional linear subspace reduced order models (LS-ROMs) are able to accelerate physical simulations, in which the intrinsic solution space falls into a subspace with a small dimension, i.e., the solution space has a small Kolmogorov n-width. However, for physical phenomena not of this type, such as advection-dominated flow phenomena, a low-dimensional linear subspace poorly approximates the solution. To address cases such as these, we have developed an efficient nonlinear manifold ROM (NM-ROM), which can better approximate high-fidelity model solutions with a smaller latent space dimension than the LS-ROMs. Our method takes advantage of the existing numerical methods that are used to solve the corresponding full order models (FOMs). The efficiency is achieved by developing a hyper-reduction technique in the context of the NM-ROM. Numerical results show that neural networks can learn a more efficient latent space representation on advection-dominated data from 2D Burgers' equations with a high Reynolds number. A speed-up of up to 11.7 for 2D Burgers' equations is achieved with an appropriate treatment of the nonlinear terms through a hyper-reduction technique.

研究动机与目标

• 通过克服 LS-ROM 的局限性，推动高保真仿真在设计优化、控制和不确定性量化中的加速。
• 引入非线性流形表示，以更好地捕捉对流占优或尖梯度解的特征。
• 利用现有全阶求解器技术并开发超化简以实现加速。

提出的方法

• 将解表示为非线性流形 x ≈ x_ref + g(x̂)，其中 g 是浅层自编码器的解码器。
• 在全阶模型（FOM）解数据上训练自编码器，以学习维度为 ns << Ns 的潜在空间。
• 在潜在空间通过最小二乘投影（LSPG）解每个时间步的简化系统。
• 在每个时间步应用高斯-牛顿法最小化简化残量。
• 引入超化简（gappy POD）以通过残量基 Φr 和采样矩阵 Z 在远少量运算下近似非线性残量。
• 实现掩码解码器，以仅对所选残量分量计算所需的解码输出。

实验结果

研究问题

• RQ1 具有浅层掩码自编码器的非线性流形ROM 能否在对流占优的偏微分方程中达到与全阶模型相当的精度？
• RQ2 超化简是否能在不牺牲精度的前提下使 NM-ROM 实现显著加速？
• RQ3 在高雷诺数下，NM-ROM 与传统的 LS-ROM 和黑盒神经网络在二维 Burgers 方程上的表现如何？

主要发现

残量基 n_r	残量采样 n_z	最大相对误差 (%)	耗时（秒）	加速比
55	58	0.93	12.15	11.58
56	59	0.94	12.35	11.39
51	54	0.95	12.09	11.63
53	56	0.97	12.14	11.58
54	57	0.97	12.29	11.44
44	47	0.98	12.01	11.71
59	59	34.38	4.86	26.76
53	58	37.73	5.05	28.02
53	59	37.84	4.86	28.95
53	56	37.95	5.05	27.83
53	55	37.96	4.75	29.61
53	53	37.97	7.18	19.58

• 在 ns = 5 且残量采样合适的情况下，NM-LSPG-HR 在二维 Burgers 方程的 FOM 上实现约 11x–12x 的加速。
• NM-LSPG（非线性流形）在相同 ns 下相对误差低于 LS-LSPG，在某些情况下甚至超过 LS-ROM 投影误差。
• LS-LSPG-HR 显示出较大相对误差（约 34–38%），而 NM-LSPG-HR 在所测试的残量基和采样下最大相对误差约为 1%。
• 精心选择的浅层掩码解码器结合超化简在准确度上可以超越深度学习基线（BB-NN），同时提供显著的加速。
• NM-LSPG-HR 与全阶解保持良好的一致性，并在某些信赖域之外精度逐渐下降。