[論文レビュー] Motif Difference Field: A Simple and Effective Image Representation of Time Series for Classification

Yadong Zhang, Xin Chen|arXiv (Cornell University)|Jan 21, 2020

Time Series Analysis and Forecasting参考文献 14被引用数 5

ひとこと要約

本稿では、時間系列の時間的モチーフをさまざまな長さとずれに対して符号化し、2次元画像として表現するシンプルで効果的な時間系列表現であるモチーフ差分フィールド（MDF）を提案する。MDF画像を用いた完全畳み込みネットワーク（FCN）により、UCR時間系列ベンチマークで最先端の性能を達成した。3要素モチーフ（長さ3）が最も優れた結果をもたらし、Grad-CAMを用いることで顕著な順序パターンの解釈可能な同定が可能となった。

ABSTRACT

Time series motifs play an important role in the time series analysis. The motif-based time series clustering is used for the discovery of higher-order patterns or structures in time series data. Inspired by the convolutional neural network (CNN) classifier based on the image representations of time series, motif difference field (MDF) is proposed. Compared to other image representations of time series, MDF is simple and easy to construct. With the Fully Convolution Network (FCN) as the classifier, MDF demonstrates the superior performance on the UCR time series dataset in benchmark with other time series classification methods. It is interesting to find that the triadic time series motifs give the best result in the test. Due to the motif clustering reflected in MDF, the significant motifs are detected with the help of the Gradient-weighted Class Activation Mapping (Grad-CAM). The areas in MDF with high weight in Grad-CAM have a high contribution from the significant motifs with the desired ordinal patterns associated with the signature patterns in time series. However, the signature patterns cannot be identified with the neural network classifiers directly based on the time series.

研究の動機と目的

• 時間系列の高次構造を捉えることで分類性能を向上させる、シンプルで解釈可能な画像表現を開発すること。
• 既存の画像符号化手法が顕著なモチーフパターン、特に特徴的な時間的構造の特定に限界を示す問題に対処すること。
• 深層学習に基づく時間系列分類において、学習された特徴を意味のある順序モチーフパターンに関連付けることで解釈可能性を実現すること。
• MDFを最先端の手法と比較し、標準的な時間系列データセット上でその優位性を示すこと。

提案手法

• さまざまな長さ（n）とずれ（d）を持つ時間系列モチーフ同士のペアワイズ差分を計算することで、モチーフ差分フィールド（MDF）を構築し、2次元画像表現を形成する。
• 任意のずれdを許容する一般化モチーフを定義することで、単位ステップの近隣を超えた長距離時間的パターンの検出を可能にする。
• 3要素モチーフにおける相対順序を表す順序パターン符号化（例：112、211）を用いることで、構造的パターンのコンパクトな表現が可能になる。
• MDF画像を入力として完全畳み込みネットワーク（FCN）を分類器として適用し、空間的特徴を学習し、エンドツーエンド分類を実行する。
• MDF-FCNに勾配加重クラス活性マッピング（Grad-CAM）を適用し、寄与度の高い領域を可視化し、モデルの意思決定が特定のモチーフ順序パターンに関連していることを特定する。
• Grad-CAMの活性化強度を基に、各モチーフインスタンスの寄与度スコアE_jを正規化し、モチーフの重要度を順序付けする。

実験結果

リサーチクエスチョン

• RQ1 時間系列モチーフに基づくシンプルな画像表現が、既存の手法と比較して分類精度を向上させることができるか？
• RQ2 MDFフレームワークにおいて、どのモチーフ長（例：二重、三重、四重）が最も優れた分類性能を示すか？
• RQ3 MDF-FCNに適用したGrad-CAMは、時間系列内の顕著な順序モチーフパターンを効果的に特定・局所化できるか？
• RQ4 MDF-FCNアプローチは、時間系列を直接入力とするFCN（TS-FCN）と比較して、性能および解釈可能性の面で優位性を示すか？
• RQ5 MDFによる高次時間的構造の符号化は、モデルの汎化性能および特徴の解釈可能性をどの程度向上させるか？

主な発見

• 三重MDF（n=3）にFCNを適用した結果、20のUCRベンチマークデータセット全体で最高の分類精度を達成し、他のモチーフ長および既存の画像ベース手法を上回った。
• Grad-CAMで上位2つの重要度の高い順序モチーフパターン{112, 211}は、TwoPatternsデータセットにおける4プレートウオの特徴的パターンに直接対応しており、分類に寄与する重要性が裏付けられた。
• MDF-FCNに適用したGrad-CAMは、顕著な重要度を持つ実際のモチーフインスタンスと整合する高活性化領域を強調しており、モデルの解釈可能性が妥当であることを検証した。
• 一方、TS-FCN（直接の生時間系列入力）に適用したGrad-CAMは、安定したプレートウォではなく変動する領域に高い重みを割り当てており、構造的時間系列では性能が劣ることの理由が明らかになった。
• MDF表現は、モチーフ定義における可変なずれ（d）のおかげで、短期的および長期的時間的構造の両方を効果的に符号化しており、複雑なパターンに対するモデルの感受性が向上した。
• 重要度スコアE_jにより、モチーフ順序パターンの定量的順位付けが可能となり、E_v(1) ≥ E_v(2) ≥ … ≥ E_v(m) という順序により、分類に最も判別力のあるパターンが特定された。