[论文解读] The Discovery of Dynamics via Linear Multistep Methods and Deep Learning: Error Estimation
本文针对基于深度学习的线性多步法（LMM）在发现动力系统方面的收敛性进行了严格的分析。结果表明，ℓ²网格误差被限制在O(h^p)加上网络近似误差的范围内，其中h为时间步长，p为局部截断阶数，这一定理在洛伦兹方程等系统上的数值实验中验证了高阶精度。
Identifying hidden dynamics from observed data is a significant and challenging task in a wide range of applications. Recently, the combination of linear multistep methods (LMMs) and deep learning has been successfully employed to discover dynamics, whereas a complete convergence analysis of this approach is still under development. In this work, we consider the deep network-based LMMs for the discovery of dynamics. We put forward error estimates for these methods using the approximation property of deep networks. It indicates, for certain families of LMMs, that the $\ell^2$ grid error is bounded by the sum of $O(h^p)$ and the network approximation error, where $h$ is the time step size and $p$ is the local truncation error order. Numerical results of several physically relevant examples are provided to demonstrate our theory.
研究动机与目标
- 开发一种用于基于深度神经网络的线性多步法（LMM）在数据驱动动力系统发现中的理论收敛框架。
- 以时间步长h和网络近似误差为基准，量化ℓ²网格误差。
- 建立LMM矩阵条件数在h → 0时保持一致有界的条件。
- 通过基准动力系统上的数值实验验证理论误差估计。
- 探讨在LMM公式中省略辅助条件时，深度学习中的隐式正则化所起的作用。
提出的方法
- 将动力系统的发现表述为对LMM离散化残差误差的最小二乘最小化问题。
- 使用深度神经网络作为试探函数空间，以逼近未知向量场。
- 通过深度网络的逼近性质和LMM格式的稳定性，推导误差界。
- 分析系统矩阵A_h的2-条件数，以确保其在h变化时保持一致有界。
- 应用LMM的根条件以保证稳定性并使条件数有界。
- 通过A-B和BDF格式的数值实验，验证理论收敛速率。
实验结果
研究问题
- RQ1基于深度神经网络的LMM在发现动力系统时，相对于时间步长h的收敛速率如何？
- RQ2网络近似误差如何与LMM的局部截断误差相互作用，从而决定整体ℓ²网格误差？
- RQ3在何种条件下，LMM系统矩阵的条件数在h → 0时保持一致有界？
- RQ4当在基于LMM的发现中省略辅助条件时，使用梯度下降的深度学习是否仍能获得准确解？
- RQ5理论误差界与真实世界动力系统（如洛伦兹系统）中的实际性能相比如何？
主要发现
- 所学动力系统的ℓ²网格误差被限制在O(κ₂(A_h)(h^p + e_𝒜))范围内，其中p为局部截断阶数，e_𝒜为网络近似误差。
- 对于稳定的LMM，当h → 0时，条件数κ₂(A_h)保持一致有界，从而确保数值稳定性。
- 数值结果证实，A-B和BDF格式在多个测试案例中均接近理论收敛速率O(h^p)。
- 在二维测试问题的整个定义域Ω内，误差始终低于O(10⁻³)，表明所学网络具有高精度。
- 即使省略辅助条件，使用梯度下降的深度网络仍能达到与稳定格式相当的误差水平，表明存在强大的隐式正则化。
- 尽管数值结果表现出优异的泛化性能，但所学模型在采样网格点之外的泛化误差在理论上仍可能无界。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。