[論文レビュー] DTW-Merge: A Novel Data Augmentation Technique for Time Series Classification

Mohammad Akyash, Hoda Mohammadzade+1 more|arXiv (Cornell University)|Mar 1, 2021

Time Series Analysis and Forecasting参考文献 15被引用数 7

ひとこと要約

本稿では、時系列分類のための新しいデータ拡張手法であるDTW-Mergeを提案する。この手法は、最適なワーピングパスに従って2つの時系列間で整合されたセグメントを入れ替えることで、動的時系列ワープ（DTW）を活用して合成サンプルを生成する。ResNetと組み合わせた場合、UCR時系列分類アーカイブで分類精度が向上し、既存の拡張手法を上回り、モデルがより判別性の高い特徴を学習できることが示された。このことは、Grad-CAMおよびMDSの可視化によって検証された。

ABSTRACT

In recent years, neural networks achieved much success in various applications. The main challenge in training deep neural networks is the lack of sufficient data to improve the model's generalization and avoid overfitting. One of the solutions is to generate new training samples. This paper proposes a novel data augmentation method for time series based on Dynamic Time Warping. This method is inspired by the concept that warped parts of two time series have similar temporal properties and therefore, exchanging them between the two series generates a new training sample. The proposed method selects an element of the optimal warping path randomly and then exchanges the segments that are aligned together. Exploiting the proposed approach with recently introduced ResNet reveals improved results on the 2018 UCR Time Series Classification Archive. By employing Gradient-weighted Class Activation Mapping (Grad-CAM) and Multidimensional Scaling (MDS), we manifest that our method extract more discriminant features out of time series.

研究の動機と目的

• 時系列分類における学習データの制限が深層ニューラルネットワークに過学習や一般化性能の低下をもたらすという課題に対処すること。
• 画像由来の変換にとどまらず、時系列特有の時間的意味を保つような、時系列に特化したデータ拡張手法を開発すること。
• 動的時系列ワープ（DTW）の時間的整合性の性質を活用して、より現実的で情報量の多い合成サンプルを生成すること。
• 既存の拡張手法と比較して、DTW-Mergeが特徴の学習と分類性能をどのように向上させるかを示すこと。
• Grad-CAMおよび多次元尺度構成（MDS）を用いて、学習された特徴表現の有効性を検証すること。

提案手法

• 2つの時系列間の最適なDTWワーピングパス上のランダムな点を選択し、その点の前後で整合されたセグメントを2つの系列間で交換する。
• 得られるハイブリッドな時系列は、DTWの整合性の性質のおかげで時間的整合性を保つ。
• UCR時系列分類アーカイブ上で、End-to-end学習を可能にするためにResNetアーキテクチャと統合する。
• Grad-CAMを用いて注目マップを可視化し、モデルが入力の判別性の高い時間的領域に注目しているかどうかを評価する。
• グローバル平均プーリング（GAP）層の特徴に対して多次元尺度構成（MDS）を適用し、クラス間分離性と特徴の判別性を評価する。
• 13の既存のデータ拡張手法と比較して、全128のUCRデータセットで評価する。

実験結果

リサーチクエスチョン

• RQ1 DTWに基づくデータ拡張は、時系列分類における深層ニューラルネットワークの一般化性能と精度を向上させることができるか？
• RQ2 注目マップと特徴空間の可視化によって裏付けられるように、DTW-Mergeは既存の拡張手法よりも判別性の高い特徴を生成するか？
• RQ3 UCRベンチマークにおいて、ジャッタリング、ウインドウワープ、SPAWNERなどの他のデータ拡張手法と比較して、DTW-Mergeは定量的にどのように優れているか？
• RQ4 MDSによるGAP層特徴の可視化によって測定されたように、DTW-Mergeは潜在空間における特徴の分離性をどの程度向上させるか？
• RQ5 1-Nearest Neighbor DTWのような非深層学習モデルに適用した場合、DTW-Mergeの性能向上は継続的に見られるか？

主な発見

• DTW-MergeをResNetと組み合わせた場合、全128のUCRデータセットで平均83.07%の精度を達成し、テストされたすべての他のデータ拡張手法を上回った。
• DTW-Mergeのt検定値が2.1であることは、p値が0.05未満であるため、拡張なしの条件と比較して統計的に有意な改善であることを示している。
• Grad-CAMの可視化では、DTW-Mergeで訓練されたモデルが、ノイズや関係のないセグメントに依存するのを減らし、より小さな、より判別性の高い時間的領域に注目していることがわかった。
• GAP層特徴のMDS可視化では、DTW-Mergeが他の手法と比較して、潜在空間でより線形に分離可能な表現を生成することが明らかになった。
• 『Hemodynamics』、『Sensor』、『Device』、『Spectrum』、『Motion』などの困難なデータセットにおいても、DTW-Mergeは一貫した性能向上を示した。
• 1-Nearest Neighbor DTWに適用した場合、DTW-Mergeは顕著な性能向上を示さなかったため、その利点は主に深層学習アーキテクチャで顕著に現れることがわかった。