[论文解读] RoeNets: Predicting Discontinuity of Hyperbolic Systems from Continuous Data

Shiying Xiong, Xingzhe He+3 more|arXiv (Cornell University)|Jun 7, 2020

Model Reduction and Neural Networks参考文献 35被引用 5

一句话总结

RoeNets 提出了一种深度学习框架，通过将 Roe 近似 Riemann 求解器重新构想为神经网络架构，从短时连续训练数据中预测双曲守恒律（HCLs）中的间断。通过使用基于伪逆的参数化方法以实现灵活的隐藏维度，RoeNets 在准确性和鲁棒性方面优于传统求解器，成功捕捉激波和膨胀波而无耗散——展示了从平滑初始数据预测长期间断的能力，这一能力此前被认为在标准机器学习方法下不可能实现。

ABSTRACT

We introduce Roe Neural Networks (RoeNets) that can predict the discontinuity of the hyperbolic conservation laws (HCLs) based on short-term discontinuous and even continuous training data. Our methodology is inspired by Roe approximate Riemann solver (P. L. Roe, J. Comput. Phys., vol. 43, 1981, pp. 357--372), which is one of the most fundamental HCLs numerical solvers. In order to accurately solve the HCLs, Roe argues the need to construct a Roe matrix that fulfills "Property U", including diagonalizable with real eigenvalues, consistent with the exact Jacobian, and preserving conserved quantities. However, the construction of such matrix cannot be achieved by any general numerical method. Our model made a breakthrough improvement in solving the HCLs by applying Roe solver under a neural network perspective. To enhance the expressiveness of our model, we incorporate pseudoinverses into a novel context to enable a hidden dimension so that we are flexible with the number of parameters. The ability of our model to predict long-term discontinuity from a short window of continuous training data is in general considered impossible using traditional machine learning approaches. We demonstrate that our model can generate highly accurate predictions of evolution of convection without dissipation and the discontinuity of hyperbolic systems from smooth training data.

研究动机与目标

• 开发一种机器学习模型，能够从短时连续训练数据中预测双曲守恒律中的长期间断，此任务在传统机器学习方法下被认为不可行。
• 克服经典数值方法在构造 Roe 矩阵时的局限性，由于严格的“性质 U”约束，这些方法无法通过通用数值技术实现。
• 通过在新颖情境中引入伪逆，增强模型的表达能力，使神经网络架构中的隐藏维度实现灵活参数化。
• 在求解线性和非线性 Riemann 问题方面实现更高的准确性和鲁棒性，包括具有非光滑解（如激波）的问题。
• 证明数据驱动模型可在不了解解结构先验知识的情况下学习并预测物理间断，优于标准 Roe 求解器。

提出的方法

• 模型将 Roe 矩阵分解为特征值矩阵 Λ 和左特征向量矩阵 L，分别通过两个神经网络学习。
• 为提升表达能力（超越分量数量），模型用伪逆 L⁺ = (LᵀL)⁻¹Lᵀ 替代逆矩阵 L⁻¹，从而引入隐藏维度并增强参数灵活性。
• 该架构在连续数据上端到端训练，学习通过线性化 Riemann 求解器框架重建单元间数值通量。
• 该方法保留了原始 Roe 求解器的物理特性，包括与精确雅可比矩阵的一致性以及物理量的守恒性，同时将其嵌入可微分神经网络中。
• 模型在含一至三个分量的一阶线性双曲 PDE 和非线性 Sod 激波管问题上进行评估，表现出良好的鲁棒性和准确性。
• 对于 Burgers 方程，模型仅在平滑初始数据上进行训练，并在后期时间点高保真度地预测出激波间断的形成。

实验结果

研究问题

• RQ1 神经网络能否从短期连续训练数据中学习预测双曲守恒律中的间断，即使输入中不存在间断？
• RQ2 当标准数值方法失效时，深度学习模型能否在满足“性质 U”约束（可对角化、实特征值、一致性与守恒性）下有效近似 Roe 矩阵？
• RQ3 在新颖的架构背景下使用伪逆，是否能提升模型的表达能力和泛化能力，使其超越物理分量的数量？
• RQ4 RoeNets 是否能在捕捉激波和膨胀波方面优于经典 Roe 求解器，实现更高准确度并减少耗散？
• RQ5 是否可能仅在平滑数据上训练数据驱动模型，以预测非线性 PDE（如 Burgers 方程）中典型间断（如激波）的形成？

主要发现

• RoeNets 能够在双曲系统中无数值耗散地预测对流演化，保持间断的锐利性。
• 该模型在求解含一至三个分量的一阶线性双曲 PDE 时表现出高精度，优于经典 Roe 求解器，尤其在捕捉激波和接触间断方面。
• 在非线性 Sod 激波管问题中，RoeNets 准确再现了三个物理特征：膨胀波、接触间断和激波。
• 在无粘性 Burgers 方程实验中，RoeNets 从 t=0 的平滑初始条件成功预测出 t=0.3 时刻的激波形成，与经典 Roe 求解器预测完全一致。
• 模型对任意噪声表现出强鲁棒性，并在多个测试案例中保持稳定性，表明其具备可靠的泛化能力。
• 从严格连续的训练数据中预测长期间断的能力标志着重大突破，因为这一能力在传统机器学习方法中通常被认为不可行。