[论文解读] Machine Discovery of Partial Differential Equations from Spatiotemporal Data

Ye Yuan, Junlin Li+10 more|arXiv (Cornell University)|Sep 15, 2019

Model Reduction and Neural Networks参考文献 82被引用 9

一句话总结

本文提出了一种数据驱动的框架——稀疏时空系统发现（S³d），通过稀疏贝叶斯学习强制模型稀疏性，自动从时空数据中发现可解释的偏微分方程（PDE）。该方法成功地从仿真数据中识别出十种经典PDE（包括纳维-斯托克斯方程和sine-Gordon方程），并在行波对流系统实验数据上验证了其方法，展示了其在复杂系统中加速物理定律发现的潜力。

ABSTRACT

The study presents a general framework for discovering underlying Partial Differential Equations (PDEs) using measured spatiotemporal data. The method, called Sparse Spatiotemporal System Discovery ($ ext{S}^3 ext{d}$), decides which physical terms are necessary and which can be removed (because they are physically negligible in the sense that they do not affect the dynamics too much) from a pool of candidate functions. The method is built on the recent development of Sparse Bayesian Learning; which enforces the sparsity in the to-be-identified PDEs, and therefore can balance the model complexity and fitting error with theoretical guarantees. Without leveraging prior knowledge or assumptions in the discovery process, we use an automated approach to discover ten types of PDEs, including the famous Navier-Stokes and sine-Gordon equations, from simulation data alone. Moreover, we demonstrate our data-driven discovery process with the Complex Ginzburg-Landau Equation (CGLE) using data measured from a traveling-wave convection experiment. Our machine discovery approach presents solutions that has the potential to inspire, support and assist physicists for the establishment of physical laws from measured spatiotemporal data, especially in notorious fields that are often too complex to allow a straightforward establishment of physical law, such as biophysics, fluid dynamics, neuroscience or nonlinear optics.

研究动机与目标

• 开发一种通用的、自动化的框架，从测量的时空数据中发现底层偏微分方程（PDE），而无需依赖先验物理知识。
• 通过稀疏贝叶斯学习强制识别PDE中的稀疏性，识别出哪些物理项是关键的，哪些可以被忽略。
• 在理论保证下平衡模型复杂度与拟合误差，实现在可解释性和准确性之间的平衡，实现PDE的可靠发现。
• 在合成仿真数据和真实实验数据上验证该方法，包括来自行波对流实验的复Ginzburg-Landau方程。
• 支持物理学家在生物物理、流体动力学和非线性光学等复杂高维系统中加速物理定律的发现。

提出的方法

• 该方法将PDE发现问题表述为一个大型候选函数字典上的稀疏回归任务，字典包含状态变量的非线性项和偏导数。
• 采用稀疏贝叶斯学习（SBL）来强制PDE系数向量的稀疏性，从而促进在拟合精度与模型复杂度之间取得平衡的简约模型。
• 该算法采用两步优化过程：首先，利用数值微分从噪声数据中计算状态变量的导数；其次，求解稀疏回归问题以识别PDE中的活跃项。
• 对于复数变量的系统，该方法应用实值变换将复系统映射为实系统，从而可使用相同的稀疏回归框架。
• 该框架具有可扩展性，可通过在必要时应用本征正交分解（POD）等降维技术来处理高维数据。
• 通过一系列优化步骤建立了理论收敛性，证明在适当条件下，该算法可收敛至最小化稀疏回归目标的解。

实验结果

研究问题

• RQ1 是否存在一种数据驱动的方法，能够在无先验物理假设的前提下，自动从时空数据中发现可解释的偏微分方程？
• RQ2 在存在噪声或高维数据的情况下，带有贝叶斯稀疏性约束的稀疏回归在识别PDE中正确项集方面的有效性如何？
• RQ3 该方法能否推广到真实实验数据（如行波对流系统）中，以恢复已知的PDE（如复Ginzburg-Landau方程）？
• RQ4 该框架在复杂动力系统中，在模型可解释性与预测准确性之间能实现多大程度的平衡？
• RQ5 该方法在包括非线性、耗散性和色散性系统在内的多种PDE类别中表现如何？

主要发现

• S³d框架成功地从未知形式的仿真数据中直接发现了十种经典PDE（包括纳维-斯托克斯方程和sine-Gordon方程），且无需先验知识。
• 得益于稀疏贝叶斯学习的稀疏性诱导特性，该方法即使在噪声数据中也能实现对正确PDE结构的高精度识别。
• 该框架在行波对流系统的实验数据上得到验证，成功以高保真度恢复了复Ginzburg-Landau方程（CGLE）。
• 结合理论收敛保证的稀疏回归，使该方法能够识别出在复杂度与拟合误差之间达到平衡的最小化、可解释PDE模型。
• 该方法在高维数据中表现出鲁棒性，并通过与POD等降维技术的集成实现了可扩展性。
• 理论分析证实了优化算法可收敛至最小化稀疏回归目标的解，支持所发现模型的可靠性。