[论文解读] Time Series Featurization via Topological Data Analysis

Kwang Ho Kim, Jisu Kim+1 more|arXiv (Cornell University)|Dec 7, 2018

Topological and Geometric Data Analysis参考文献 56被引用 12

一句话总结

本文提出了一种基于拓扑数据分析（TDA）的新时间序列表征方法，通过结合时间延迟嵌入、基于主成分分析（PCA）的去噪处理以及持久性景观/轮廓特征，增强了对噪声的鲁棒性。该方法在采样噪声下保持稳定，并在合成数据和真实世界数据的时间序列预测与模式分类任务中表现出色。

ABSTRACT

We develop a novel algorithm for feature extraction in time series data by leveraging tools from topological data analysis. Our algorithm provides a simple, efficient way to successfully harness topological features of the attractor of the underlying dynamical system for an observed time series. The proposed methodology relies on the persistent landscapes and silhouette of the Rips complex obtained after a de-noising step based on principal components applied to a time-delayed embedding of a noisy, discrete time series sample. We analyze the stability properties of the proposed approach and show that the resulting TDA-based features are robust to sampling noise. Experiments on synthetic and real-world data demonstrate the effectiveness of our approach. We expect our method to provide new insights on feature extraction from granular, noisy time series data.

研究动机与目标

• 解决传统基于独立同分布（i.i.d.）的特征工程在具有强时间依赖性的细粒度、噪声时间序列中的局限性。
• 开发一种系统化且理论基础扎实的方法，从时间序列中提取拓扑特征，而无需假设已知的数据生成过程。
• 通过将基于PCA的去噪集成到TDA流程中，提升对采样噪声的鲁棒性。
• 为从时间序列数据中导出的基于TDA的特征建立理论稳定性保证。
• 在时间序列预测与复杂模式识别任务中，展示该方法的实际有效性。

提出的方法

• 对时间序列应用时间延迟嵌入，以重构其状态空间，将其转换为点云。
• 使用主成分分析（PCA）对嵌入后的点云进行去噪，保留显著的拓扑特征，同时减少同调噪声。
• 从去噪后的点云构建Rips复形，以建模底层吸引子的拓扑结构。
• 计算持久同调，并推导持久性景观和轮廓函数作为拓扑特征。
• 利用稳定性定理，确保输入数据的微小扰动仅导致拓扑特征的有界变化。
• 将景观和轮廓函数的$L_\infty$-范数作为下游机器学习任务的最终特征。

实验结果

研究问题

• RQ1 通过持久同调提取的拓扑特征是否能为噪声大、粒度细的时间序列提供稳定且信息丰富的表征？
• RQ2 基于PCA的去噪在时间序列数据中对有意义的拓扑特征保留程度如何？
• RQ3 TDA特征在时间序列的采样噪声和扰动下具有多大程度的稳定性？
• RQ4 所提出的方法是否能在时间序列预测与模式分类任务中超越传统特征工程方法？
• RQ5 可以从理论上为从时间序列中导出的TDA特征的稳定性建立哪些保证？

主要发现

• 所提方法在采样噪声下实现了稳定的拓扑特征，瓶颈距离被限制在$\sqrt{m}\|\epsilon\|_{\infty} + \frac{2m^{3/2}L_f T \|\epsilon\|_{\infty}(2L_f T + \|\epsilon\|_{\infty})}{\lambda_{\tilde{l}}} + \frac{\sqrt{m}L_f T}{N}$以内。
• 持久性景观和轮廓函数的$L_\infty$-范数在扰动下保持稳定，确保了输入时间序列中噪声的鲁棒性。
• 基于PCA的去噪能有效保留显著的拓扑特征，同时过滤掉同调噪声，从而提升特征质量。
• 在合成数据和真实世界数据上的实验验证了该方法在单点预测与复杂模式分类任务中的有效性。
• 理论分析表明，该方法的TDA特征对噪声具有鲁棒性，其稳定性界依赖于信号的利普希茨常数以及PCA子空间的谱隙。
• 该方法优于仅依赖贝蒂数或临时视觉化方法的基线模型，提供了一套更系统化且理论基础更扎实的表征流程。