[论文解读] No equations, no parameters, no variables: data, and the reconstruction of normal forms by learning informed observation geometries

Or Yair, Ronen Talmon+2 more|arXiv (Cornell University)|Nov 30, 2016

Model Reduction and Neural Networks参考文献 11被引用 4

一句话总结

本文提出一种数据驱动方法，无需事先了解方程、参数或状态变量，即可重构非线性动力系统的规范型。通过在短时序数据上迭代进行度量学习和扩散映射，学习有信息量的观测几何结构，该方法推断出内在的动力学模式、相图以及参数演化——即使在稀疏、噪声较大的轨迹上，且无真实标签或显式物理模型的情况下，也能成功恢复底层动力学。

ABSTRACT

The discovery of physical laws consistent with empirical observations lies at the heart of (applied) science and engineering. These laws typically take the form of nonlinear differential equations depending on parameters, dynamical systems theory provides, through the appropriate normal forms, an "intrinsic", prototypical characterization of the types of dynamical regimes accessible to a given model. Using an implementation of data-informed geometry learning we directly reconstruct the relevant "normal forms": a quantitative mapping from empirical observations to prototypical realizations of the underlying dynamics. Interestingly, the state variables and the parameters of these realizations are inferred from the empirical observations, without prior knowledge or understanding, they parametrize the dynamics {\em intrinsically}, without explicit reference to fundamental physical quantities.

研究动机与目标

• 从经验观测中发现非线性系统的内在动力学结构，而无需事先了解控制方程、参数或状态变量。
• 直接从多个参数设置下的短时序、噪声数据中推断出动力系统的规范型——捕捉其典型行为。
• 开发一种系统性、数据驱动的框架，通过学习观测的几何结构来重构相图和参数演化，而无需显式物理建模。
• 在传统方法因数据有限、参数未知或观测函数复杂而失效的情况下，实现系统识别。
• 在参数时变和观测函数未知的情况下，展示方法在重构动力学方面的鲁棒性，即使缺乏真实解析解。

提出的方法

• 使用来自多个实验（参数设置）、测量变量（变量）和时间点的短时序数据的三维数据张量。
• 通过算法2进行迭代度量学习，利用数据中成对相似性推断参数、变量和时间轴的几何结构。
• 使用学习到的度量进行扩散映射，将数据嵌入低维流形，以表示每个轴的内在动力学。
• 在两个轴上构建分层树，以计算引导第三个轴度量推断的滤波器，结合L1距离与通过滤波器的特征变换。
• 引入一种融合原始距离与变换特征距离的有信息度量：$\|\mathbf{y}_c - \mathbf{y}_{c'}\|_{(c)} = \|\mathbf{y}_c - \mathbf{y}_{c'}\|_1 + \gamma \|\mathcal{F}_{(c)}(\mathbf{y}_c) - \mathcal{F}_{(c)}(\mathbf{y}_{c'})\|_1$。
• 通过在学习与嵌入之间交替的反馈循环，迭代优化所有三个轴（参数、变量、时间）的度量，实现动力学模式的自洽重构。

实验结果

研究问题

• RQ1 能否在不了解方程、参数或状态变量的前提下，仅从短时序、稀疏数据中重构非线性动力系统的规范型？
• RQ2 如何仅通过成对相似性，从经验观测中推断出内在动力学结构（如相图和分岔行为）？
• RQ3 当缺乏解析模型时，数据驱动方法在多大程度上能恢复系统的参数演化，包括时变参数？
• RQ4 该方法能否可靠地识别并分离具有时变分量（如弹簧常数）的系统中的多个振荡频率？
• RQ5 在缺乏真实标签或已知物理量的情况下，尤其当观测函数未知或复杂时，该方法表现如何？

主要发现

• 该方法即使在数据在视觉上难以区分且传统视觉分析失效的情况下，仍能成功从短轨迹中重构出动力系统的规范型。
• 在弹簧常数$ k(t) = 1500t + 10 $的时变情况下，该方法准确恢复了固定频率$\omega_1 = \sqrt{g/L}$和时变频率$\omega_2(t)$，其结果通过主特征向量的傅里叶谱图得到验证。
• 通过算法获得的经验解捕捉到了系统中两个不同的振荡模态，展示了在复杂、非自治场景下的鲁棒性。
• 该方法即使在标签被打乱的情况下，也能通过学习数据的内在几何结构，正确识别出动力学模式和实验的参数排序。
• 迭代度量学习过程收敛到参数、变量和时间轴的一致嵌入，从而以表格化、可解释的形式重构出演化方程。
• 当观测函数未知或复杂时，该方法依然有效，如在具有非平凡、时变测量函数的系统中成功恢复了动力学。