[论文解读] Promoting global stability in data-driven models of quadratic nonlinear dynamics

Alan A. Kaptanoglu, Jared Callaham+3 more|arXiv (Cornell University)|May 5, 2021

Model Reduction and Neural Networks参考文献 171被引用 95

一句话总结

本文提出了一种名为 'trapping SINDy' 的数据驱动机器学习方法，通过将 Schlegel 和 Noack 的捕获定理嵌入优化目标，强制实现二次非线性系统的全局稳定性。该方法通过约束系统的能量动力学，确保轨迹长期有界，显著提升了稳定性与准确性，尤其在存在噪声以及流体和等离子体流动的高维降阶模型中表现优异。

ABSTRACT

Modeling realistic fluid and plasma flows is computationally intensive, motivating the use of reduced-order models for a variety of scientific and engineering tasks. However, it is challenging to characterize, much less guarantee, the global stability (i.e., long-time boundedness) of these models. The seminal work of Schlegel and Noack (JFM, 2015) provided a theorem outlining necessary and sufficient conditions to ensure global stability in systems with energy-preserving, quadratic nonlinearities, with the goal of evaluating the stability of projection-based models. In this work, we incorporate this theorem into modern data-driven models obtained via machine learning. First, we propose that this theorem should be a standard diagnostic for the stability of projection-based and data-driven models, examining the conditions under which it holds. Second, we illustrate how to modify the objective function in machine learning algorithms to promote globally stable models, with implications for the modeling of fluid and plasma flows. Specifically, we introduce a modified "trapping SINDy" algorithm based on the sparse identification of nonlinear dynamics (SINDy) method. This method enables the identification of models that, by construction, only produce bounded trajectories. The effectiveness and accuracy of this approach are demonstrated on a broad set of examples of varying model complexity and physical origin, including the vortex shedding in the wake of a circular cylinder.

研究动机与目标

• 解决数据驱动的流体和等离子体流动降阶模型中缺乏全局稳定性保证的问题。
• 将原本针对投影型模型提出的 Schlegel 和 Noack 捕获定理，转化为现代机器学习模型的诊断与设计工具。
• 开发一种改进的 SINDy 算法，通过构造本身即具备全局稳定性的模型。
• 提升在噪声或高维设置下的系统辨识鲁棒性与准确性，尤其针对如涡脱落等复杂流动。

提出的方法

• 将 Schlegel 和 Noack 捕获定理作为具有二次能量保持非线性的数据驱动模型的稳定性诊断工具。
• 通过添加自定义损失项，修改稀疏非线性动力学识别（SINDy）算法，以强制能量导数矩阵为负半定。
• 使用能量函数作为李雅普诺夫函数，确保轨迹始终被限制在捕获区域内。
• 采用非凸优化，以满足由捕获定理推导出的全局稳定性的必要且充分条件。
• 在开源的 PySINDy 软件包中实现该方法，以确保可复现性并便于集成到现有工作流中。
• 在基准系统、混沌动力学以及流体流动的高保真直接数值模拟（DNS）中验证该方法。

实验结果

研究问题

• RQ1 Schlegel 和 Noack 的捕获定理能否作为数据驱动模型的后处理稳定性诊断工具有效应用？
• RQ2 如何将捕获定理嵌入机器学习算法的损失函数中，以促进全局稳定模型的构建？
• RQ3 通过捕获条件强制实现全局稳定性，是否能提升模型在噪声或数据损坏情况下的准确性与鲁棒性？
• RQ4 在高维降阶模型中，trapping SINDy 方法相较于无约束或局部稳定的 SINDy 模型，性能提升程度如何？
• RQ5 在由神经网络编码器或 Koopman 基础提升引起的非线性坐标变换下，稳定性特性如何变化？

主要发现

• trapping SINDy 算法成功从数据中识别出具有全局稳定性的稀疏模型，系统自由度高达 O(10)，即使原始系统为混沌系统亦然。
• 采用 trapping SINDy 损失训练的模型在抗噪方面表现出显著优势，轨迹保持有界，而无约束的 SINDy 模型则出现发散。
• 在圆柱后方涡脱落问题中，该方法仅用少量受污染的 DNS 快照即恢复了准确且稳定的降阶模型。
• 即使无法显式计算捕获区域，该算法仍能提升模型发现性能，表明其稳定性增强效果已超越严格满足定理条件的范围。
• 在长时间模拟的保真度方面，该方法优于标准 SINDy 及其约束变体，尤其在具有强非线性能量传递的系统中表现更优。
• 该方法在低维基准问题与高维流体动力学问题中均表现出有效性，表明其具备扩展至复杂系统的潜力。