[论文解读] Physics-Guided Deep Learning for Dynamical Systems: A Survey

Rui Wang, Rose Yu|arXiv (Cornell University)|Jul 2, 2021

Model Reduction and Neural Networks被引用 44

一句话总结

对动力系统的物理引导深度学习方法的综合综述，详细介绍4种问题类型（求解微分方程、预测动态、学习残差、以及方程发现）和4个架构/学说类别，并有如 PINNs 和 TF-Net 之类的案例研究。

ABSTRACT

Modeling complex physical dynamics is a fundamental task in science and engineering. Traditional physics-based models are sample efficient, and interpretable but often rely on rigid assumptions. Furthermore, direct numerical approximation is usually computationally intensive, requiring significant computational resources and expertise, and many real-world systems do not have fully-known governing laws. While deep learning (DL) provides novel alternatives for efficiently recognizing complex patterns and emulating nonlinear dynamics, its predictions do not necessarily obey the governing laws of physical systems, nor do they generalize well across different systems. Thus, the study of physics-guided DL emerged and has gained great progress. Physics-guided DL aims to take the best from both physics-based modeling and state-of-the-art DL models to better solve scientific problems. In this paper, we provide a structured overview of existing methodologies of integrating prior physical knowledge or physics-based modeling into DL, with a special emphasis on learning dynamical systems. We also discuss the fundamental challenges and emerging opportunities in the area.

研究动机与目标

• 推动将物理定律与深度学习相结合，以高效建模复杂动力系统。
• 对将物理学与深度学习融合的方法进行分类和分析，涵盖基于损失、架构、混合以及对称性感知的方法。
• 突出数据效率、泛化能力和方程发现方面的挑战与机会。
• 通过与动力系统相关的四个核心问题的形式化提供结构化的指南。

提出的方法

• 提出4个主要学习问题：求解微分方程、学习动力学残差、动力学预测以及发现支配方程。
• 回顾在训练过程中施加软物理约束的物理引导损失函数（如 PINNs）。
• 讨论通过专门的神经模块强制执行硬物理约束的体系结构设计。
• 涉及将物理求解器与数据驱动组件相结合的混合物理-DL 模型。
• 探讨尊重物理对称性的不可变/等变深度学习模型，以提高泛化能力。

实验结果

研究问题

• RQ1 在物理引导的动力系统深度学习中，主要的问题公式化是什么？
• RQ2 基于损失、架构、混合以及对称性的方法如何利用物理知识？
• RQ3 物理引导的 DL 在稳定性、准确性和泛化方面的优点与局限是什么？
• RQ4 如何用 DL 技术从数据中发现支配方程？
• RQ5 该领域的新兴机会与挑战有哪些？

主要发现

• 物理引导的 DL 可以通过用神经预测器替代或增强数值求解器来加速数据仿真。
• 将物理约束引入可以提高科学有效性，并能在跨系统上提升泛化能力。
• 硬性（架构）约束和软性（基于损失的）约束提供互补的益处，并在准确性与鲁棒性之间权衡。
• 哈密顿/拉格朗日神经网络在学习的动力学中强制能量守恒特性。
• 案例研究显示在物理一致性方面的改善，例如湍流预测中的速度场无散度/能量谱对齐。