[論文レビュー] Sparsification of the Alignment Path Search Space in Dynamic Time Warping

Saeid Soheily-Khah, Pierre-François Marteau|arXiv (Cornell University)|Nov 13, 2017

Time Series Analysis and Forecasting参考文献 29被引用数 15

ひとこと要約

本稿では、最適なアラインメントから得たパス重みを学習し、閾値を適用することで、動的時系列適合（DTW）におけるアラインメントパス探索空間をスパース化する新しい類似度測度であるSP-DTWとSP-Krdtwを提案する。この手法は、平均で最大89.9%の高速化を達成し、分類精度の損失を最小限に抑えつつ、1-NNおよびSVM分類器を用いた複数のUCRデータセットにおいて、Sakoe-Chibaバンド手法よりも顕著に高速かつ高精度である。

ABSTRACT

Temporal data are naturally everywhere, especially in the digital era that sees the advent of big data and internet of things. One major challenge that arises during temporal data analysis and mining is the comparison of time series or sequences, which requires to determine a proper distance or (dis)similarity measure. In this context, the Dynamic Time Warping (DTW) has enjoyed success in many domains, due to its 'temporal elasticity', a property particularly useful when matching temporal data. Unfortunately this dissimilarity measure suffers from a quadratic computational cost, which prohibits its use for large scale applications. This work addresses the sparsification of the alignment path search space for DTW-like measures, essentially to lower their computational cost without loosing on the quality of the measure. As a result of our sparsification approach, two new (dis)similarity measures, namely SP-DTW (Sparsified-Paths search space DTW) and its kernelization SP-K rdtw (Sparsified-Paths search space K rdtw kernel) are proposed for time series comparison. A wide range of public datasets is used to evaluate the efficiency (estimated in term of speed-up ratio and classification accuracy) of the proposed (dis)similarity measures on the 1-Nearest Neighbor (1-NN) and the Support Vector Machine (SVM) classification algorithms. Our experiment shows that our proposed measures provide a significant speed-up without loosing on accuracy. Furthermore, at the cost of a slight reduction of the speedup they significantly outperform on the accuracy criteria the old but well known Sakoe-Chiba approach that reduces the DTW path search space using a symmetric corridor.

研究の動機と目的

• 時系列長に比例して2乗的に増加する計算コストの高い動的時系列適合（DTW）の問題を解決すること。
• アラインメント中に探索するグリッドセルの数を削減することで、DTWに類似した測度の効率を向上させつつ、分類精度を損なわないこと。
• 最適アラインメントにおける頻度と重みに基づき、最も関連性の高いアラインメントパスのみを特定・保持する、学習可能でデータ駆動のスパース化手法を開発すること。
• SVMのようなカーネルベース分類器での効率的な類似度計算を可能にする、カーネル化された変種であるSP-Krdtwを提案すること。
• Sakoe-Chibaバンドと同様の最先端のスパース化技術と比較し、多様な実世界の時系列データセットにおいて、提案手法の有効性を実証的に検証すること。

提案手法

• 訓練データセット内の最適アラインメントパスからパス重みを学習し、すべてのペアワイズ比較において頻繁に使用されるグリッドセルに高い重みを割り当てる。
• 学習された重みに閾値を適用することで、探索空間をスパース化し、低重みのセルを破棄し、最も重要なアラインメントパスのみを保持する。
• その結果得られるSP-DTW測度は、プルーニングされた高重みグリッドセル上でのみDTWを計算することで、訪問するセル数を著しく削減する。
• カーネル化されたバージョン、SP-Krdtwは、同じ閾値処理をカーネル行列計算に適用することで、カーネル化DTW（Krdtw）へのスパース化を拡張する。
• スパース化はデータ駆動的かつ適応的であり、Sakoe-Chibaバンドのような固定された幾何的制約ではなく、最適アラインメントにおけるセル使用頻度に依存する。
• 本手法は、30以上の公開UCRデータセットを用いた1-Nearest Neighbor（1-NN）およびサポートベクターマシン（SVM）分類器を用いて評価された。

実験結果

リサーチクエスチョン

• RQ1 データ駆動的で学習可能なDTWアラインメントパス探索空間のスパース化は、計算コストを顕著に削減しつつ分類精度を維持できるか？
• RQ2 SP-DTWの性能は、多様な時系列データセットにおいて、Sakoe-Chibaバンド手法と比較して、スピードアップと精度の両面でどう異なるか？
• RQ3 スパース化技術は、SVM分類におけるカーネルベースDTW（Krdtw）の高速化に効果的に適用できるか？
• RQ4 SP-DTWおよびSP-Krdtwにおいて、スパース化の閾値を変化させた場合の、スピードアップと精度のトレードオフはどのようなものか？
• RQ5 提案手法は、計算効率および分類性能の両面で、既存の最先端のスパース化技術を上回るか？

主な発見

• 提案されたSP-DTWおよびSP-Krdtw測度は、30個のUCRデータセット全体で、それぞれ平均82.6%および82.3%のスピードアップを達成した。
• 平均してSP-DTWは訪問するグリッドセル数を82.6%削減し、一部のデータセットではBeefやHamのように99%以上の削減が観察された。
• SP-DTWは、閾値を厳しくした場合のわずかなスピードアップの損失を除き、すべてのテストデータセットで最適化されたSakoe-Chibaバンド（DTWsc）を顕著に上回る精度を達成した。
• カーネル化されたバージョンであるSP-Krdtwは、標準のKrdtwと同等の精度を維持しながら計算時間を削減し、カーネル化DTWにおけるスパース化の実現可能性を示した。
• 1-NNおよびSVM分類器の両方において、本手法は高い分類精度を維持しており、高いスパース化レベルであっても性能の著しい低下は見られなかった。
• グリッドセルの占有度の可視化により、SP-DTWが最適アラインメントで頻繁に使用されるパスに集中していることが確認され、本手法のデータ駆動的スパース化戦略の妥当性が裏付けられた。