[论文解读] Metric on Nonlinear Dynamical Systems with Perron-Frobenius Operators

Isao Ishikawa, Keisuke Fujii+3 more|arXiv (Cornell University)|May 31, 2018

Morphological variations and asymmetry被引用 12

一句话总结

该论文提出了一种基于再生核希尔伯特空间（RKHS）中庞特里亚金-弗罗贝尼乌斯算子的通用度量，用于比较非线性动力系统，该方法推广了基于主角和库普曼算子理论的现有度量。该方法能够从有限时间序列数据中有效比较和分类非线性动力学，在合成数据集和真实世界数据集中表现优于先前方法，尤其在使用高斯核和二阶度量时表现更优。

ABSTRACT

The development of a metric for structural data is a long-term problem in pattern recognition and machine learning. In this paper, we develop a general metric for comparing nonlinear dynamical systems that is defined with Perron-Frobenius operators in reproducing kernel Hilbert spaces. Our metric includes the existing fundamental metrics for dynamical systems, which are basically defined with principal angles between some appropriately-chosen subspaces, as its special cases. We also describe the estimation of our metric from finite data. We empirically illustrate our metric with an example of rotation dynamics in a unit disk in a complex plane, and evaluate the performance with real-world time-series data.

研究动机与目标

• 开发一种通用且基于原理的非线性动力系统（NLDS）比较度量，以扩展现有的基于子空间的度量。
• 通过RKHS中的庞特里亚金-弗罗贝尼乌斯算子形式化NLDS的比较，使核方法可用于非线性动力学。
• 为从有限时间序列观测中估计所提度量提供数据驱动的程序。
• 在合成旋转动力系统和来自UCR数据集的真实世界时间序列上，实证验证该度量的判别能力。

提出的方法

• 该方法基于RKHS中与库普曼算子相关的庞特里亚金-弗罗贝尼乌斯算子定义度量，利用库普曼动力学的线性结构。
• 通过核诱导的特征映射将非线性可观测量嵌入希尔伯特空间，从而在非线性系统上执行线性代数运算。
• 通过库普曼模态张成子空间之间的主角构造度量，其广义公式包含马汀度量和比内-卡茨核作为特例。
• 通过近似库普曼算子使用基于核的方法并计算核矩阵中的距离，实现有限样本估计。
• 提出了度量的两种变体：$A_{g1}$ 和 $A_{g2}$，其中 $A_{g2}$ 在使用高斯核时表现出更优性能。
• 该方法采用时间延迟嵌入，将一维时间序列扩展为适合基于核分析的高维表示。

实验结果

研究问题

• RQ1 能否基于RKHS中的库普曼算子理论，提出一种统一现有基于子空间度量的通用非线性动力系统度量？
• RQ2 如何利用RKHS中的庞特里亚金-弗罗贝尼乌斯算子定义一种稳定且可估计的度量，以从有限数据中比较非线性动力学？
• RQ3 所提出的度量是否在分类真实世界时间序列数据方面优于现有的基于核和谱的方法？
• RQ4 核选择（如高斯核）和度量阶数（一阶与二阶）对判别性能有何影响？
• RQ5 该度量在具有已知动力学的合成系统（如复单位圆盘中的旋转）中，能否准确恢复理论行为？

主要发现

• 使用高斯核的所提度量 $A_{g2}$ 在合成旋转动力系统中实现了近乎完美的判别性能，优于 $A_{g1}$ 和库普曼谱核度量 $A_{kkp}$。
• 对于小初始条件（$|z_0| = 0.3$），$A_{g2}$ 能够成功区分旋转动力与线性收敛动力，而 $A_{g1}$ 和 $A_{kkp}$ 失败。
• 在来自UCR数据集的真实世界时间序列中，$A_{g1}$ 和 $A_{g2}$ 的分类性能优于 $A_{kkp}$，在索尼AIBO机器人表面数据集上的错误率分别为0.025和0.038。
• $A_{g2}$ 在恒星光曲线数据集上实现了0.150的分类错误率，优于 $A_{kkp}$ 的0.217，并在多个数据集上表现出一致的性能提升。
• t-SNE可视化结果表明，$A_{g1}$ 和 $A_{g2}$ 产生的聚类比 $A_{kkp}$ 更为分离，尤其在索尼AIBO和恒星光曲线数据集中表现更优。
• 随着时间序列长度 $T$ 增加，该度量逐渐收敛至解析解，验证了其一致性和理论合理性。