[论文解读] Learning normal form autoencoders for data-driven discovery of universal,parameter-dependent governing equations

Manu Kalia, Steven L. Brunton+3 more|arXiv (Cornell University)|Jun 9, 2021

Model Reduction and Neural Networks参考文献 32被引用 11

一句话总结

本文提出法向量自编码器（normal form autoencoders），一种深度学习框架，可从高维数据中提取参数依赖的低维坐标变换，以发现普遍法向量动力学。通过在自编码器架构中约束潜在空间以匹配典型分岔结构（如Hopf、pitchfork和saddle-node），该方法实现了对参数不稳定性和模式形成行为的、简洁且可解释的数据驱动建模，适用于多种物理系统。

ABSTRACT

Complex systems manifest a small number of instabilities and bifurcations that are canonical in nature, resulting in universal pattern forming characteristics as a function of some parametric dependence. Such parametric instabilities are mathematically characterized by their universal un-foldings, or normal form dynamics, whereby a parsimonious model can be used to represent the dynamics. Although center manifold theory guarantees the existence of such low-dimensional normal forms, finding them has remained a long standing challenge. In this work, we introduce deep learning autoencoders to discover coordinate transformations that capture the underlying parametric dependence of a dynamical system in terms of its canonical normal form, allowing for a simple representation of the parametric dependence and bifurcation structure. The autoencoder constrains the latent variable to adhere to a given normal form, thus allowing it to learn the appropriate coordinate transformation. We demonstrate the method on a number of example problems, showing that it can capture a diverse set of normal forms associated with Hopf, pitchfork, transcritical and/or saddle node bifurcations. This method shows how normal forms can be leveraged as canonical and universal building blocks in deep learning approaches for model discovery and reduced-order modeling.

研究动机与目标

• 解决长期存在的挑战：在缺乏控制方程先验知识的情况下，从高维、参数依赖的系统中发现低维法向量动力学。
• 实现从复杂时空数据中进行数据驱动的典型分岔结构（如Hopf、pitchfork）识别。
• 开发一种深度学习框架，学习将高维数据映射到由普遍法向量方程控制的最小化、可解释潜在空间的坐标变换。
• 提供一种简化阶数、参数化的动力学不稳定性表示，既具有物理解释性，又在不同系统间具有普遍适用性。
• 克服传统模型发现方法的局限性，这些方法无法捕捉分岔过程中的参数依赖性和拓扑变化。

提出的方法

• 训练深度自编码器，将高维数据（如流体流动模拟）映射到受特定法向量方程约束的低维潜在空间。
• 将典型法向量形式的先验知识（如Hopf的Stuart-Landau、pitchfork的三次型）作为归纳偏差，嵌入潜在空间架构中。
• 在自编码器训练前，使用线性变换Γ（通过随机矩阵的SVD选择为酉矩阵）对POD提取的动力学系数进行预处理，以保留高阶谐波并提高重建保真度。
• 应用本征正交分解（POD）从模拟数据中提取主导空间模态和时间系数，将维度降低至4个模态以提升计算效率。
• 使用损失函数训练自编码器，该函数强制原始数据的重建精度，并确保潜在动力学符合目标法向量方程。
• 利用学习到的解码器和线性变换Γ的逆，重建全状态解，确保准确恢复原始系统行为。

实验结果

研究问题

• RQ1 深度自编码器能否学习坐标变换，从而从高维数据中揭示参数依赖系统的潜在法向量动力学？
• RQ2 该方法在多大程度上能直接从数据中发现并表示典型分岔结构（如Hopf、pitchfork、transcritical和saddle-node），而无需事先知晓系统的方程？
• RQ3 与标准模型发现技术相比，该方法在保留参数依赖性和分岔过程中的拓扑变化方面表现如何？
• RQ4 所学习的潜在动力学是否可用于高精度重建全系统行为，同时通过普遍法向量形式保持可解释性？
• RQ5 预处理步骤（如酉变换Γ）对所学法向量表示的质量和重建性能有何影响？

主要发现

• 该方法即使在底层方程未知的情况下，也能成功从高维流体流动数据中识别并学习正确的法向量动力学（如Hopf分岔的Stuart-Landau方程）。
• 潜在空间的动力学与预期的法向量方程高度一致，重建轨迹在不同参数值下均与理论分岔行为匹配。
• 使用酉变换Γ显著提高了重建精度，通过保留POD系数中的高阶谐波，从而更准确地恢复全状态解。
• 自编码器仅使用四个POD模态，即可实现对全模拟的高精度重建，证明了其在降维和模型压缩方面的有效性。
• 该框架在单一统一的参数化模型中，成功捕捉了分岔前后拓扑上不同的模式，解决了传统方法的关键局限。
• 该方法在多种分岔类型（包括Hopf、pitchfork、transcritical和saddle-node）上均表现出良好泛化能力，证实其作为参数不稳定发现工具的普遍性。