[论文解读] Online Weak-form Sparse Identification of Partial Differential Equations

Daniel A. Messenger, Emiliano Dall’Anese+1 more|PubMed|Mar 8, 2022

Model Reduction and Neural Networks参考文献 13被引用 4

一句话总结

该论文提出了一种用于偏微分方程（PDEs）的在线弱形式稀疏辨识算法，通过弱形式离散化和在线近端梯度下降法，结合直接的 $\boldsymbol{\ell}_0$-范数阈值化处理，按顺序处理数据快照。该方法在噪声高、维度高的环境下，实现了鲁棒且内存高效的PDE发现，并能追踪时变系数，成功在1D至3D空间域中以高精度识别Kuramoto-Sivashinsky方程和波动方程等系统，即使在10%噪声条件下亦表现优异。

ABSTRACT

This paper presents an online algorithm for identification of partial differential equations (PDEs) based on the weak-form sparse identification of nonlinear dynamics algorithm (WSINDy). The algorithm is online in the sense that if performs the identification task by processing solution snapshots that arrive sequentially. The core of the method combines a weak-form discretization of candidate PDEs with an online proximal gradient descent approach to the sparse regression problem. In particular, we do not regularize the <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML"><mml:mrow><mml:msub><mml:mi>ℓ</mml:mi><mml:mn>0</mml:mn></mml:msub></mml:mrow></mml:math>-pseudo-norm, instead finding that directly applying its proximal operator (which corresponds to a hard thresholding) leads to efficient online system identification from noisy data. We demonstrate the success of the method on the Kuramoto-Sivashinsky equation, the nonlinear wave equation with time-varying wavespeed, and the linear wave equation, in one, two, and three spatial dimensions, respectively. In particular, our examples show that the method is capable of identifying and tracking systems with coefficients that vary abruptly in time, and offers a streaming alternative to problems in higher dimensions.

研究动机与目标

• 解决从有限内存和计算资源限制下的流式、噪声时空数据中识别PDE的挑战。
• 实现在在线、增量式框架下对时变PDE系数的实时系统辨识与追踪。
• 通过将问题重新表述为流式优化任务，克服批量方法在高维PDE中的局限性。
• 为在线PDE辨识开发一种鲁棒且内存高效的批量WSINDy替代方案，适用于噪声环境和动态系数变化。
• 证明在PDE在线稀疏回归中，直接应用 $\ell_0$-伪范数的近端算子（硬阈值化）的有效性。

提出的方法

• 采用弱形式离散化方法表述PDE辨识问题，以测试函数的积分代替数值微分，提升对噪声的鲁棒性。
• 对带有 $\ell_0$-伪范数正则化的最小二乘代价函数应用在线近端梯度下降法，避免使用常见的 $\ell_1$-正则化启发式方法。
• 直接使用 $\ell_0$-范数的近端算子（硬阈值化），其在噪声环境中对在线稀疏回归具有显著效果。
• 在每个时间步按顺序处理数据快照，仅维护一个固定记忆窗口 $K_{\text{mem}}$ 的历史快照，以减少存储和计算负载。
• 在优化过程中动态调整正则化参数 $\boldsymbol{\text{λ}}_t$，以平衡稀疏性与精度。
• 采用卷积运算高效计算弱形式积分，提升高维PDE的可扩展性。

实验结果

研究问题

• RQ1 是否仅使用有限记忆窗口的历史数据快照，即可实现高精度的在线PDE辨识？
• RQ2 在PDE在线稀疏回归中，直接应用 $\ell_0$-近端算子（硬阈值化）是否优于 $\ell_1$-正则化？
• RQ3 该方法在高噪声水平下对具有突变系数的PDE辨识性能如何？
• RQ4 在流式数据和有限内存条件下，该方法能否扩展至更高维PDE（如3D波动方程）？
• RQ5 记忆窗口大小 $K_{\text{mem}}$ 在多大程度上影响在线PDE辨识的精度与稳定性？

主要发现

• 即使在 $K_{\text{mem}} = 13$ 的情况下，该方法在所有噪声水平（最高达10% NR）下对Kuramoto-Sivashinsky方程的平均系数误差仍低于1%。
• 对于具有时变波速的非线性波动方程，该算法能准确追踪系数变化，并以极小误差恢复正确的PDE结构，即使在10%噪声下亦表现良好。
• 在3D线性波动方程情况下，当 $K_{\text{mem}} \boldsymbol{\text{≥q}} 17$ 时，该方法在10%噪声下可实现超过两位有效数字的系数精度，且仅有5%的试验出现虚假项。
• 该算法对噪声具有强鲁棒性：当 $K_{\text{mem}} \boldsymbol{\text{≥q}} 17$ 时，所有测试案例在10%噪声下均保持准确的系数恢复。
• 与 $\ell_1$-正则化相比，直接使用 $\ell_0$-近端阈值化（硬阈值化）在在线设置中表现更优，尤其在处理系数突变时优势明显。
• 该方法实现了内存高效的流式PDE辨识，使其成为高维问题（如3D PDE）中批量处理的可行替代方案。