[论文解读] Kernel Learning for Robust Dynamic Mode Decomposition: Linear and Nonlinear Disambiguation Optimization (LANDO)

Peter J. Baddoo, Benjamín Herrmann+2 more|arXiv (Cornell University)|Jun 2, 2021

Model Reduction and Neural Networks参考文献 125被引用 5

一句话总结

该论文提出LANDO，一种核学习方法，通过在具有影响力的样本字典上执行稀疏核回归，对高维系统中的线性与非线性动力学进行解耦。该方法即使在强非线性和噪声条件下，也能实现鲁棒且可解释的动态模式分解，准确恢复局部线性模型及支配动力学。

ABSTRACT

Research in modern data-driven dynamical systems is typically focused on the three key challenges of high dimensionality, unknown dynamics, and nonlinearity. The dynamic mode decomposition (DMD) has emerged as a cornerstone for modeling high-dimensional systems from data. However, the quality of the linear DMD model is known to be fragile with respect to strong nonlinearity, which contaminates the model estimate. In contrast, sparse identification of nonlinear dynamics (SINDy) learns fully nonlinear models, disambiguating the linear and nonlinear effects, but is restricted to low-dimensional systems. In this work, we present a kernel method that learns interpretable data-driven models for high-dimensional, nonlinear systems. Our method performs kernel regression on a sparse dictionary of samples that appreciably contribute to the underlying dynamics. We show that this kernel method efficiently handles high-dimensional data and is flexible enough to incorporate partial knowledge of system physics. It is possible to accurately recover the linear model contribution with this approach, disambiguating the effects of the implicitly defined nonlinear terms, resulting in a DMD-like model that is robust to strongly nonlinear dynamics. We demonstrate our approach on data from a wide range of nonlinear ordinary and partial differential equations that arise in the physical sciences. This framework can be used for many practical engineering tasks such as model order reduction, diagnostics, prediction, control, and discovery of governing laws.

研究动机与目标

• 解决标准动态模式分解（DMD）在强非线性条件下因非线性效应导致线性模型估计偏差而产生的脆弱性问题。
• 克服稀疏非线性动力学识别（SINDy）在高维系统中可扩展性受限的问题。
• 开发一种数据驱动方法，学习可解释的局部线性模型，同时显式分离动力学中的线性与非线性贡献。
• 在动力学由F(x) = Lx + N(x)支配的系统中，即使N(x)具有强非线性，也能准确恢复真实的线性算子L。
• 在保持高维物理系统可解释性与计算效率的同时，确保对状态测量X中噪声的鲁棒性。

提出的方法

• 在对底层动力学贡献最大的数据点稀疏字典上应用核回归，使用核函数将数据映射到高维特征空间。
• 采用稀疏化策略选择最小数量的代表性样本作为字典，降低计算成本并提升泛化能力。
• 将学习问题表述为最小化核岭回归损失：||W k(X̃, X) - Y||_F² + λ||W||²，其中W为权重矩阵，k为核函数。
• 通过在核展开中分离线性项的贡献，将学习到的模型分解为线性和非线性分量，实现对L与N(x)的解耦。
• 通过约束字典或核结构，将部分物理知识融入核公式化，提升模型可解释性与准确性。
• 在数据存在噪声时使用总变差正则化进行导数估计，确保ẋ的稳定且精确计算，无需显式去噪。

实验结果

研究问题

• RQ1 基于核的方法是否能有效解耦高维、非线性动力系统中线性与非线性贡献，而标准DMD在此类系统中失效？
• RQ2 所提出的核学习框架在保持线性模型可解释性的同时，如何在状态测量X存在噪声时保持鲁棒性？
• RQ3 在强非线性和测量噪声存在的情况下，该方法在多大程度上能恢复真实的线性算子L及其动力学谱？
• RQ4 字典的稀疏性在高维系统中如何影响模型的准确性和计算效率？
• RQ5 该框架能否扩展以整合部分物理知识，从而提升模型保真度并减少数据需求？

主要发现

• 在洛伦兹系统中，即使数据受5%高斯噪声污染，LANDO方法仍能成功恢复真实的线性动力学L，并在均值状态处准确重构局部线性模型。
• 在黏性Burgers方程中，该算法在20次试验中均准确恢复了线性算子的前三个特征值，但对较大特征值的敏感性增加。
• 在洛伦兹系统示例中，使用总变差正则化时，该方法对导数测量ẋ中的噪声表现出鲁棒性。
• 当稀疏化参数选择不当，该算法对状态数据X中的噪声表现出中等敏感性，主要源于字典可能被污染。
• X中的噪声通过字典选择和回归误差同时影响核回归；尽管该方法对Y中的噪声无偏，但在缺乏额外预处理时对X中变量误差不具鲁棒性。
• 该框架在非线性区域优于标准DMD，通过显式解耦线性和非线性项，实现了更准确且可解释的模型。