[论文解读] Motif Difference Field: A Simple and Effective Image Representation of Time Series for Classification

Yadong Zhang, Xin Chen|arXiv (Cornell University)|Jan 21, 2020

Time Series Analysis and Forecasting参考文献 14被引用 5

一句话总结

本文提出了一种名为时序基元差异场（Motif Difference Field, MDF）的图像表示方法，该方法将不同长度和位移的时序基元编码为二维图像，用于时间序列分类。在MDF图像上使用全卷积网络（Fully Convolutional Network, FCN），该方法在UCR时间序列基准测试中实现了最先进性能，其中三元基元（长度为3）表现最佳，并通过Grad-CAM实现了对显著序数模式的可解释性识别。

ABSTRACT

Time series motifs play an important role in the time series analysis. The motif-based time series clustering is used for the discovery of higher-order patterns or structures in time series data. Inspired by the convolutional neural network (CNN) classifier based on the image representations of time series, motif difference field (MDF) is proposed. Compared to other image representations of time series, MDF is simple and easy to construct. With the Fully Convolution Network (FCN) as the classifier, MDF demonstrates the superior performance on the UCR time series dataset in benchmark with other time series classification methods. It is interesting to find that the triadic time series motifs give the best result in the test. Due to the motif clustering reflected in MDF, the significant motifs are detected with the help of the Gradient-weighted Class Activation Mapping (Grad-CAM). The areas in MDF with high weight in Grad-CAM have a high contribution from the significant motifs with the desired ordinal patterns associated with the signature patterns in time series. However, the signature patterns cannot be identified with the neural network classifiers directly based on the time series.

研究动机与目标

• 开发一种简单且可解释的时间序列图像表示方法，以捕捉更高阶的时间结构，从而提升分类性能。
• 解决现有图像编码方法在定位显著基元模式（尤其是标志性时间结构）方面的局限性。
• 通过将学习到的特征与有意义的序数基元模式关联，实现在基于深度学习的时间序列分类中的可解释性。
• 在标准时间序列数据集上对MDF与最先进方法进行基准测试，并证明其优越性。

提出的方法

• 通过计算不同长度（n）和位移（d）的时序基元之间的成对差异，构建时序基元差异场（MDF），形成二维图像表示。
• 定义广义基元，允许任意位移d，从而能够检测超出单位步长邻近关系的长程时间模式。
• 使用序数模式编码（例如112、211）表示三元基元中的相对顺序，实现对结构性模式的紧凑表示。
• 在MDF图像上应用全卷积网络（FCN）作为分类器，以学习空间特征并实现端到端分类。
• 在MDF-FCN上应用梯度加权类激活映射（Grad-CAM），可视化并识别高贡献区域，将模型决策与特定的序数基元模式关联。
• 基于Grad-CAM激活强度在基元实例上的分布，使用归一化贡献分数E_j对基元显著性进行排序。

实验结果

研究问题

• RQ1 基于时间序列基元的简单图像表示是否能相比现有方法提升分类准确率？
• RQ2 在MDF框架中，哪种基元长度（如双元、三元、四元）能获得最佳分类性能？
• RQ3 在MDF-FCN上应用Grad-CAM是否能有效识别并定位时间序列中最重要的序数基元模式？
• RQ4 在性能和可解释性方面，MDF-FCN方法与直接使用FCN处理原始时间序列（TS-FCN）相比如何？
• RQ5 通过MDF编码更高阶时间结构在多大程度上提升了模型的泛化能力和特征可解释性？

主要发现

• 三元MDF（n=3）结合FCN在20个UCR基准数据集上实现了整体最佳分类准确率，优于其他基元长度和现有基于图像的方法。
• Grad-CAM识别出的前两位最显著的序数基元模式{112, 211}与TwoPatterns数据集中四平台标志性模式直接对应，证实了其与分类的相关性。
• MDF-FCN上的Grad-CAM突出显示了与高显著性实际基元实例对齐的高激活区域，验证了模型的可解释性。
• 相比之下，TS-FCN（直接输入原始时间序列）上的Grad-CAM将高权重分配给波动区域而非稳定平台，解释了其在结构化时间序列上表现较差的原因。
• 由于基元定义中位移d的可变性，MDF表示能有效编码短程与长程时间结构，增强了模型对复杂模式的敏感性。
• 显著性分数E_j可实现对序数基元模式的定量排序，E_v(1) ≥ E_v(2) ≥ … ≥ E_v(m) 表明其为分类最具判别性的模式。