[论文解读] Clustering of Series via Dynamic Mode Decomposition and the Matrix Pencil Method

Leonid Pogorelyuk, Clarence W. Rowley|arXiv (Cornell University)|Feb 27, 2018

Model Reduction and Neural Networks参考文献 10被引用 5

一句话总结

本文提出了一种新颖的特征提取方法，用于通过结合动态模态分解（DMD）和矩阵多重法，同时联合估计所有序列中的复频率和振幅，从而对多维时间序列进行聚类。该方法实现了降阶，并识别出哪些频率对应于哪些数据子集，通过在整个数据集上采用统一的最小二乘模型，显著提升了在合成数据和显微镜数据上的聚类准确性。

ABSTRACT

In this paper, a new algorithm for extracting features from sequences of multidimensional observations is presented. The independently developed Dynamic Mode Decomposition and Matrix Pencil methods provide a least-squares model-based approach for estimating complex frequencies present in signals as well as their corresponding amplitudes. Unlike other feature extraction methods such as Fourier Transform or Autoregression which have to be computed for each sequence individually, the least-squares approach considers the whole dataset at once. It invokes order reduction methods to extract a small number of features best describing all given data, and indicate which frequencies correspond to which sequences. As an illustrative example, the new method is applied to regions of different grain orientation in a Transmission Electron Microscopy image.

研究动机与目标

• 开发一种基于模型的特征提取方法，能够同时处理多个时间序列，而非单独处理每个序列。
• 利用全数据集上的最小二乘框架，识别序列间共享和独特的动力学模式。
• 通过提取指示哪些序列具有潜在动力学的基于频率的特征，提升聚类性能。
• 将DMD、矩阵多重法和ESPRIT方法的见解统一为面向序列数据的连贯特征提取流程。
• 在真实世界数据（包括晶粒取向的透射电子显微镜图像）上展示该方法的有效性。

提出的方法

• 该方法应用延迟观测值，从多维时间序列构建Hankel矩阵，通过线性动力学实现系统识别。
• 对Hankel矩阵使用奇异值分解（SVD）以提取主导模态和频率，利用DMD、矩阵多重法和ESPRIT在特定条件下的等价性。
• 通过求解矩阵对（X, Y）的广义特征值问题，提取所有序列中复频率及其对应的振幅。
• 通过仅选择最重要的模态实现降阶，降低维度的同时保留动力学结构。
• 计算与各子集相关的广义特征向量，将每个频率与其原始数据组关联，实现基于模态归属的聚类。
• 在单个最小二乘优化中联合估计所有序列的频率和振幅，避免对每个序列单独处理。

实验结果

研究问题

• RQ1 统一的最小二乘方法是否能比逐序列方法更有效地从多个时间序列中提取共享的动力学特征？
• RQ2 当在相同数据集上以联合估计框架应用时，DMD、矩阵多重法和ESPRIT方法的表现如何比较？
• RQ3 基于全数据集提取的基于频率的特征在多大程度上能提升聚类性能，相较于传统方法？
• RQ4 即使信号存在噪声或重叠，该方法是否能准确地将特定频率归因于不同的数据子集？
• RQ5 在序列间联合估计模态和振幅是否能增强聚类结果的可解释性和准确性？

主要发现

• 所提出的方法通过在单个最小二乘优化中联合估计所有序列的频率和振幅，实现了时间序列的精确聚类。
• 矩阵对（X, Y）的广义特征向量正确识别出哪些数据子集包含特定频率，实现了模态归属。
• 该方法成功基于其动力学模态对透射电子显微镜图像中不同晶粒取向的区域进行了聚类。
• 该方法通过降阶和共享模型拟合，利用序列间的相互关系，优于单独处理的方法。
• 在联合数据分析背景下，确认了DMD、矩阵多重法和ESPRIT之间的理论等价性，所有方法在相同条件下产生完全相同的结果。
• 即使多个序列共享相同的动力学组分，该方法仍能正确识别出所有唯一的复频率及其对应的振幅。