[论文解读] Time Series Data Augmentation for Neural Networks by Time Warping with a Discriminative Teacher

Brian Kenji Iwana, Seiichi Uchida|arXiv (Cornell University)|Apr 19, 2020

Time Series Analysis and Forecasting参考文献 41被引用 13

一句话总结

本文提出了一种名为引导扭曲（guided warping）的新时间序列数据增强方法，该方法结合动态时间规整（DTW）与shapeDTW，通过确定性地混合源模式的时间序列特征与参考模式的时间结构，实现对时间序列的增强。通过使用基于最近质心分类器选择的判别性教师模型，该方法提升了深度神经网络的泛化能力，在VGG上实现最高9.5%的准确率提升，在Image Outline数据集上实现6.2%的提升，尤其在卷积神经网络（CNNs）上表现显著，但在循环神经网络（RNNs）上效果不明显。

ABSTRACT

Neural networks have become a powerful tool in pattern recognition and part of their success is due to generalization from using large datasets. However, unlike other domains, time series classification datasets are often small. In order to address this problem, we propose a novel time series data augmentation called guided warping. While many data augmentation methods are based on random transformations, guided warping exploits the element alignment properties of Dynamic Time Warping (DTW) and shapeDTW, a high-level DTW method based on shape descriptors, to deterministically warp sample patterns. In this way, the time series are mixed by warping the features of a sample pattern to match the time steps of a reference pattern. Furthermore, we introduce a discriminative teacher in order to serve as a directed reference for the guided warping. We evaluate the method on all 85 datasets in the 2015 UCR Time Series Archive with a deep convolutional neural network (CNN) and a recurrent neural network (RNN). The code with an easy to use implementation can be found at https://github.com/uchidalab/time_series_augmentation .

研究动机与目标

• 解决小样本时间序列分类数据集带来的挑战，此类数据集限制了深度神经网络的性能。
• 通过引入一种确定性、结构感知的方法，克服时间序列中随机或启发式数据增强方法的局限性。
• 通过使用判别性参考进行目标导向的模式混合，提升模型泛化能力与决策边界学习能力。
• 证明使用shapeDTW与判别性教师的引导扭曲方法能显著提升深度学习模型的性能，尤其在卷积神经网络（CNNs）上表现突出。

提出的方法

• 引导扭曲利用DTW将源时间序列的特征对齐到参考时间序列的时间步结构上，保留局部模式的同时适应时间上的变化。
• 采用shapeDTW通过使用高层次形状描述符替代逐元素匹配，提升对齐的平滑性，从而增强特征保留能力。
• 从自举样本中使用最近质心分类器选择判别性教师，以最大化类间分离与类内紧凑性，确保参考样本具有信息量。
• 通过将源模式扭曲到所选判别性教师的时间步结构上，生成合成训练样本，提升数据集多样性。
• 在全部85个UCR时间序列档案数据集上，使用标准训练协议与超参数，对VGG与LSTM模型进行了评估。
• 该方法的实现已公开发布于 https://github.com/uchidalab/time_series_augmentation，以支持可复现性与集成。

实验结果

研究问题

• RQ1 基于DTW的扭曲能否有效用于确定性时间序列数据增强，而非随机变换？
• RQ2 与标准DTW相比，使用shapeDTW是否能提升增强后时间序列样本的质量与相关性？
• RQ3 基于类间分离度选择的判别性教师，是否能优于随机或中位数参考，在数据增强中发挥更优引导作用？
• RQ4 在使用深度神经网络时，引导扭曲是否能提升泛化能力与准确率，尤其在CNN与RNN之间表现差异如何？
• RQ5 在多样化数据集上，引导扭曲与现有最先进方法相比表现如何？

主要发现

• 在基于VGG的卷积神经网络上，使用shapeDTW与判别性教师的引导扭曲（DGW-sD）在全部85个UCR数据集上平均提升了3-4%的准确率。
• 在Simulated（+9.5%）、Image Outline（+6.2%）与Device（+5.1%）数据集上观察到最高准确率提升，表明该方法在合成与结构化时间序列上表现优异。
• 与随机参考选择相比，使用判别性教师显著提升了DTW与shapeDTW变体的性能，证明了目标化参考选择的价值。
• LSTM模型在使用该增强方法后未见显著性能提升，因为RNN本身对时间扭曲具有天然鲁棒性，表明该方法在CNN上效果最显著。
• 在VGG上，DGW-sD优于所有基线数据增强技术，在比较中仅次于COTE与Shapelet Transform，表现具有竞争力。
• 该方法在各类数据集上均表现出鲁棒性，尤其在Symbol、OliveOil与ShapeletSim等对结构一致性要求较高的数据集上取得显著改进。