[论文解读] Imaging Time-Series to Improve Classification and Imputation

Zhiguang Wang, Tim Oates|arXiv (Cornell University)|Jun 1, 2015

Time Series Analysis and Forecasting参考文献 12被引用 483

一句话总结

该论文提出通过Gramian Angular Summation/Difference Fields (GASF/GADF) 和 Markov Transition Fields (MTF) 将时间序列编码为图像，以使计算机视觉中的深度学习技术适用于时间序列分类与插补。通过在这些图像表示上应用Tiled Convolutional Neural Networks (Tiled CNNs) 和 Denoised Autoencoders (DA)，该方法在20个数据集中的9个上实现了最先进（SOTA）的分类性能，并将插补的均方误差（MSE）相比原始数据降低了12.18%–48.02%。

ABSTRACT

Inspired by recent successes of deep learning in computer vision, we propose a novel framework for encoding time series as different types of images, namely, Gramian Angular Summation/Difference Fields (GASF/GADF) and Markov Transition Fields (MTF). This enables the use of techniques from computer vision for time series classification and imputation. We used Tiled Convolutional Neural Networks (tiled CNNs) on 20 standard datasets to learn high-level features from the individual and compound GASF-GADF-MTF images. Our approaches achieve highly competitive results when compared to nine of the current best time series classification approaches. Inspired by the bijection property of GASF on 0/1 rescaled data, we train Denoised Auto-encoders (DA) on the GASF images of four standard and one synthesized compound dataset. The imputation MSE on test data is reduced by 12.18%-48.02% when compared to using the raw data. An analysis of the features and weights learned via tiled CNNs and DAs explains why the approaches work.

研究动机与目标

• 通过将序列数据转换为保留时间与结构模式的图像化表示，以改进时间序列分类与插补。
• 在这些图像表示上利用来自计算机视觉的深度学习架构——特别是Tiled CNNs和Denoised Autoencoders（DA）。
• 探究时间序列的图像化表示是否能在分类与插补任务中优于传统的时间序列建模方法。
• 分析学习到的特征与权重，以理解所提出的基于图像的深度学习框架为何有效。

提出的方法

• 将时间序列重新缩放至[0,1]或[-1,1]，以支持极坐标变换。
• 使用基于余弦的角度编码，将重新缩放后的时间序列转换为Gramian Angular Summation Field (GASF) 和 Difference Field (GADF) 图像。
• 通过将时间序列离散化为分位数区间，并将转移概率编码为类似Gramian场的矩阵，构建Markov Transition Fields (MTF)。
• 应用Tiled Convolutional Neural Networks (Tiled CNNs) 从单个或组合的GASF、GADF和MTF图像中学习分层特征，以实现分类。
• 在4个标准数据集和1个复合数据集的GASF图像上训练Denoised Autoencoders (DA)，以学习用于插补的鲁棒表示。
• 分别使用Tiled CNNs学习到的特征进行时间序列分类，以及使用DA学习到的特征进行缺失值重建。

实验结果

研究问题

• RQ1 将时间序列转换为GASF、GADF和MTF等图像表示是否能相比当前最先进方法提高分类准确率？
• RQ2 在这些表示上使用Tiled CNNs等基于图像的深度学习模型是否能带来更好的特征提取与泛化能力？
• RQ3 在GASF图像上训练的Denoised Autoencoders是否相比使用原始数据能提升时间序列插补的稳定性和准确性？
• RQ4 Tiled CNNs和DA中学习到的特征与权重在时间序列图像背景下捕捉了何种结构与时间模式？
• RQ5 GASF在0/1重新缩放数据上的双射性质如何促进插补性能的提升？

主要发现

• 与九种当前最优方法相比，该方法在20个标准时间序列数据集中的9个上实现了最先进（SOTA）的分类性能。
• 在GASF图像上使用Denoised Autoencoders进行插补，相比在原始时间序列上插补，测试集均方误差（MSE）降低了12.18%至48.02%。
• 在GASF图像上，完整MSE与插补MSE之间的差异显著小于在原始数据上，表明插补性能更加稳定。
• Tiled CNNs学习到的特征图可作为原始时间序列的多频带近似器，通过二维卷积操作保留时间依赖性。
• Tiled CNNs中学习到的权重矩阵表现出准正交性（WW^T ≈ I），这有助于改善条件并实现稳定的训练。
• DA在GASF表示上学习到不同的图像原型，小数据集上的噪声滤波器类似于高斯噪声，表明对数据稀疏性具有鲁棒性。