[论文解读] Physics-aware registration based auto-encoder for convection dominated PDEs

Rambod Mojgani, Maciej Balajewicz|arXiv (Cornell University)|Jun 28, 2020

Model Reduction and Neural Networks参考文献 29被引用 15

一句话总结

该论文提出了一种物理感知自编码器，通过学习一个微分同胚的、随时间变化的时空网格，以最小化对流主导PDE解的Kolmogorov n-宽度，从而实现高效、可解释且精确的降阶建模。通过利用低秩分解将解注册到非均匀网格上，该方法在超出训练数据范围的外推任务中优于标准自编码器，尤其适用于对流主导系统。

ABSTRACT

We design a physics-aware auto-encoder to specifically reduce the dimensionality of solutions arising from convection-dominated nonlinear physical systems. Although existing nonlinear manifold learning methods seem to be compelling tools to reduce the dimensionality of data characterized by a large Kolmogorov n-width, they typically lack a straightforward mapping from the latent space to the high-dimensional physical space. Moreover, the realized latent variables are often hard to interpret. Therefore, many of these methods are often dismissed in the reduced order modeling of dynamical systems governed by the partial differential equations (PDEs). Accordingly, we propose an auto-encoder type nonlinear dimensionality reduction algorithm. The unsupervised learning problem trains a diffeomorphic spatio-temporal grid, that registers the output sequence of the PDEs on a non-uniform parameter/time-varying grid, such that the Kolmogorov n-width of the mapped data on the learned grid is minimized. We demonstrate the efficacy and interpretability of our approach to separate convection/advection from diffusion/scaling on various manufactured and physical systems.

研究动机与目标

• 为解决对流主导PDE中Kolmogorov n-宽度过高的挑战，该挑战限制了线性降阶模型的有效性。
• 开发一种非线性降维方法，提供从潜在空间到物理空间的可微分、可解释的映射，克服现有流形学习技术的关键局限。
• 通过学习一个物理信息驱动的、非均匀的时空网格，实现最优的PDE解注册，从而实现准确且高效的降阶建模。
• 展示当在物理感知的潜在流形上训练时，与标准自编码器特征相比，潜在动力学模型（如LSTM）的泛化能力和预测能力得到提升。

提出的方法

• 该方法将无监督学习问题形式化为：学习一个微分同胚的、随时间变化的网格，以最小化在所学网格上解快照的Kolmogorov n-宽度。
• 它使用在所学网格上解快照的低秩矩阵近似，采用秩-1或秩-2分解来表示随时间变化的网格。
• 通过空间和时间上的二阶导数矩阵（$\bm{D}_{xx}, \bm{D}_{tt}$）以及最小速度阈值（$v_{\text{min}}$）施加正则化项，以惩罚网格畸变，确保平滑性。
• 通过优化包含低秩重构误差和正则化项的代价函数来学习网格，其中网格基在空间和时间上均下采样至15个控制点。
• 随后利用潜在空间训练LSTM以进行时间序列预测，且自编码器和网格学习分别进行，以提升稳定性和可解释性。
• 该方法利用对流的物理结构，使网格能够自适应地跟踪移动特征，有效分离对流与扩散/缩放分量。

实验结果

研究问题

• RQ1 与标准自编码器相比，基于数据驱动的微分同胚网格学习方法是否能显著降低对流主导PDE解的Kolmogorov n-宽度？
• RQ2 学习一个物理感知的、随时间变化的网格是否能提升潜在动力学模型（如LSTM）在训练数据范围之外的泛化能力和预测精度？
• RQ3 所学的潜在空间是否可解释为信息传输的低秩表示，从而有效分离对流/对流与扩散/缩放效应？
• RQ4 与传统自编码器和基于投影的降阶模型相比，该方法在非线性PDE中的性能和效率如何？

主要发现

• 对于Burgers方程，物理感知自编码器在LSTM预测中实现了显著更低的均方误差，尤其在超出训练范围的外推任务中表现更优。
• 在Burgers方程测试中，物理感知方法通过网格跟踪对流前缘的能力显著降低了误差，而标准自编码器在训练域外无法泛化。
• 在波动方程测试案例中，物理感知自编码器仅用15个空间和时间控制点即实现了精确的重构与预测，展示了低维、可解释的表示能力。
• 该方法成功分离了对流/对流与扩散/缩放效应，表现为网格能与移动前缘对齐，并在潜在空间中保持物理结构。
• 所学网格可被解释为信息传播的低秩表示，其中时变网格自适应地响应系统中的主导输运机制。
• 该方法在人工系统和物理系统中均优于标准自编码器的预测能力，表明其具有更强的泛化能力和对分布外输入的鲁棒性。