[论文解读] DTW-Merge: A Novel Data Augmentation Technique for Time Series Classification

Mohammad Akyash, Hoda Mohammadzade+1 more|arXiv (Cornell University)|Mar 1, 2021

Time Series Analysis and Forecasting参考文献 15被引用 7

一句话总结

本文提出DTW-Merge，一种新颖的时间序列分类数据增强技术，利用动态时间规整（DTW）通过在两条时间序列之间交换对齐的片段（基于其最优规整路径）来生成合成样本。该方法在结合ResNet时，于UCR时间序列分类基准库上提升了分类准确率，优于现有增强方法，使模型能够学习到更具判别性的特征，该结论通过Grad-CAM与MDS可视化得到验证。

ABSTRACT

In recent years, neural networks achieved much success in various applications. The main challenge in training deep neural networks is the lack of sufficient data to improve the model's generalization and avoid overfitting. One of the solutions is to generate new training samples. This paper proposes a novel data augmentation method for time series based on Dynamic Time Warping. This method is inspired by the concept that warped parts of two time series have similar temporal properties and therefore, exchanging them between the two series generates a new training sample. The proposed method selects an element of the optimal warping path randomly and then exchanges the segments that are aligned together. Exploiting the proposed approach with recently introduced ResNet reveals improved results on the 2018 UCR Time Series Classification Archive. By employing Gradient-weighted Class Activation Mapping (Grad-CAM) and Multidimensional Scaling (MDS), we manifest that our method extract more discriminant features out of time series.

研究动机与目标

• 为解决时间序列分类中训练数据有限的问题，该问题会导致深度神经网络过拟合并泛化能力差。
• 开发一种专为时间序列设计的数据增强方法，超越图像启发的变换方法，后者可能无法保留时间语义。
• 利用动态时间规整（DTW）的时间对齐特性，生成更真实且信息量更高的合成样本。
• 证明DTW-Merge相较于现有增强技术，能提升特征学习能力与分类性能。
• 通过Grad-CAM与多维缩放（MDS）分析模型学习到的特征表示，验证该方法的有效性。

提出的方法

• 该方法在两条时间序列之间的最优DTW规整路径上随机选取一个点，并交换该点之前和之后的对齐片段。
• 由此生成的混合序列构成新的训练样本，由于DTW的对齐特性，其保持了时间上的连贯性。
• 该方法与ResNet架构集成，用于在UCR时间序列分类基准库上进行端到端训练。
• 使用Grad-CAM可视化注意力图，评估模型是否聚焦于输入中的判别性时间区域。
• 对全局平均池化（GAP）层特征应用多维缩放（MDS），以评估类间可分性与特征判别能力。
• 在全部128个UCR数据集上评估该方法，并与13种成熟的增强技术进行对比。

实验结果

研究问题

• RQ1 基于DTW的数据增强能否提升深度神经网络在时间序列分类中的泛化能力与准确率？
• RQ2 DTW-Merge是否如注意力图与特征空间可视化所示，生成了比现有增强方法更具判别性的特征？
• RQ3 在UCR基准上，DTW-Merge与抖动、窗口扭曲及SPAWNER等其他增强技术相比，其性能在量化上如何？
• RQ4 DTW-Merge在潜在空间中增强特征可分性的程度如何，通过GAP层特征的MDS可视化可衡量？
• RQ5 当应用于1-最近邻DTW等非深度学习模型时，DTW-Merge的性能增益是否依然显著？

主要发现

• 当与ResNet结合使用时，DTW-Merge在全部128个UCR数据集上实现了83.07%的平均准确率，优于所有测试的其他数据增强方法。
• DTW-Merge的t检验值为2.1，表明其与无增强相比具有统计显著性提升，p值小于0.05。
• Grad-CAM可视化显示，DTW-Merge训练的模型更关注更小、更具判别性的时间区域，减少了对噪声或无关片段的依赖。
• 对GAP层特征的MDS可视化表明，DTW-Merge在潜在空间中生成的表示比其他方法更具线性可分性。
• 该方法在“Hemodynamics”、“Sensor”、“Device”、“Spectrum”和“Motion”等具有挑战性的数据集上也表现出一致的性能提升。
• 当应用于1-最近邻DTW时，DTW-Merge未带来显著性能提升，表明其优势主要体现在深度学习架构中。