[论文解读] Spatially Encoding Temporal Correlations to Classify Temporal Data Using Convolutional Neural Networks

Zhiguang Wang, Tim Oates|arXiv (Cornell University)|Sep 24, 2015

Time Series Analysis and Forecasting参考文献 29被引用 38

一句话总结

本文提出了一种新颖的方法，通过将时间序列在空间上编码为格米安角场（GAF）和马尔可夫转移场（MTF），实现使用卷积神经网络（CNN）进行特征学习与分类。该方法在12个时间序列数据集和2个人工轨迹数据集上表现出色，其中GAF-MTF融合方法在关键基准测试中优于基线方法。

ABSTRACT

We propose an off-line approach to explicitly encode temporal patterns spatially as different types of images, namely, Gramian Angular Fields and Markov Transition Fields. This enables the use of techniques from computer vision for feature learning and classification. We used Tiled Convolutional Neural Networks to learn high-level features from individual GAF, MTF, and GAF-MTF images on 12 benchmark time series datasets and two real spatial-temporal trajectory datasets. The classification results of our approach are competitive with state-of-the-art approaches on both types of data. An analysis of the features and weights learned by the CNNs explains why the approach works.

研究动机与目标

• 解决利用深度学习学习时间序列和轨迹数据中复杂时间相关性的挑战。
• 探究时间模式的空间编码是否能通过计算机视觉技术实现有效的特征学习。
• 评估CNN在GAF和MTF表示上对多样化时间数据集进行分类任务的性能。
• 分析学习到的特征和权重，以理解该方法为何表现优异。
• 提供一种可泛化的时序数据分类框架，避免手工设计特征工程。

提出的方法

• 通过将成对角度差异编码为二维图像表示，将单变量时间序列转换为格米安角场（GAF）。
• 通过将时间序列中的状态转移建模为转移概率矩阵并映射为图像，生成马尔可夫转移场（MTF）。
• 将GAF与MTF组合为多通道图像输入（GAF-MTF），以保留互补的时间与转移模式。
• 应用分块卷积神经网络（Tiled CNNs），并通过拓扑独立成分分析（Topographic ICA）进行无监督预训练，以从图像表示中学习分层特征。
• 使用交叉验证SVM性能的3-标准差下界来选择稳健的超参数，以最小化方差与偏差。
• 在12个时间序列数据集和2个人工轨迹数据集上训练并评估模型，以评估分类准确率与泛化能力。

实验结果

研究问题

• RQ1 通过GAF和MTF对时间相关性进行空间编码，能否提升使用CNN的分类性能？
• RQ2 GAF和MTF表示与传统手工设计特征相比，在捕捉时间结构方面表现如何？
• RQ3 Tiled CNN学习到的高层特征在区分时间模式方面发挥什么作用？
• RQ4 将GAF与MTF融合为多通道图像（GAF-MTF）是否能提升分类性能，相比单一表示？
• RQ5 当空间与时间动态共存时，该方法在轨迹数据上的表现如何？

主要发现

• 在Animal Tracking数据集上，GAF-MTF融合表示达到了72.2%的准确率，优于仅使用TB的方法（50%），并接近RB-TB方法（83.3%）的性能。
• 在Hurricane数据集上，GAF-MTF方法达到了71.42%的准确率，优于仅使用TB的方法（65.4%），并匹配RB-TB方法（73.1%）的性能。
• 尽管超参数搜索有限，该方法仍表现出与最先进方法相当的性能，表明其具有鲁棒性与可扩展性。
• 对学习特征的分析表明，Tiled CNN的功能类似于多频率移动平均，能有效捕捉格米安矩阵中保留的二维时间依赖性。
• 由于GAF编码了成对角度关系，方向性特征被良好捕捉，使其在具有强方向性模式的轨迹数据中表现优异。
• 当时间序列表示中因空间填充曲线（SFC）索引导致空间邻近性被破坏时，CNN难以保持基于区域的信息，表明其在处理时间序列表示中大范围空间位移时存在局限性。