[論文レビュー] Spatially Encoding Temporal Correlations to Classify Temporal Data Using Convolutional Neural Networks

Zhiguang Wang, Tim Oates|arXiv (Cornell University)|Sep 24, 2015

Time Series Analysis and Forecasting参考文献 29被引用数 38

ひとこと要約

本稿では、時系列データを空間的に符号化することで、時系列データの分類に新たな手法を提案する。具体的には、Gramian Angular Fields (GAF) と Markov Transition Fields (MTF) を用い、畳み込みニューラルネットワーク (CNN) による特徴抽出と分類を可能にする。この手法は12個の時系列データセットおよび2つの軌跡データセットで競争的な性能を示し、GAF-MTFの融合が、主要なベンチマークでベースライン手法を上回った。

ABSTRACT

We propose an off-line approach to explicitly encode temporal patterns spatially as different types of images, namely, Gramian Angular Fields and Markov Transition Fields. This enables the use of techniques from computer vision for feature learning and classification. We used Tiled Convolutional Neural Networks to learn high-level features from individual GAF, MTF, and GAF-MTF images on 12 benchmark time series datasets and two real spatial-temporal trajectory datasets. The classification results of our approach are competitive with state-of-the-art approaches on both types of data. An analysis of the features and weights learned by the CNNs explains why the approach works.

研究の動機と目的

• 深層学習を用いて時系列および軌跡データ内の複雑な時間的相関を学習する課題に対処すること。
• 時間的パターンの空間的符号化が、コンピュータビジョン手法を用いた有効な特徴学習を可能にするかを検討すること。
• GAFおよびMTF表現を用いた分類タスクにおいて、CNNの性能を多様な時間的データセットで評価すること。
• 学習された特徴および重みを分析し、本手法がなぜ優れた性能を発揮するのかを理解すること。
• 手作業による特徴工学を回避する汎用性の高い時系列データ分類フレームワークを提供すること。

提案手法

• 時系列データの2次元画像表現として、対ごとの角度差を符号化することで、単変量時系列をGramian Angular Fields (GAF) に変換する。
• 時系列内の状態遷移を遷移確率行列としてモデル化し、それを画像にマップすることでMarkov Transition Fields (MTF) を生成する。
• GAFとMTFを統合し、補完的な時間的および遷移ベースのパターンを保持するマルチチャネル画像入力（GAF-MTF）を構築する。
• Topographic ICAを用いた非教師あり事前学習を施したTiled Convolutional Neural Networks (Tiled CNNs) を適用し、画像表現から階層的特徴を学習する。
• 交差検証されたSVM性能の3シグマ下限値を用いて、頑健なハイパーパrameterを選択し、分散とバイアスを最小限に抑える。
• 12個の時系列データセットおよび2つの実世界の軌跡データセットでモデルを訓練・評価し、分類精度および一般化性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 GAFおよびMTFによる時間的相関の空間的符号化が、CNNを用いた分類性能の向上に寄与するか？
• RQ2 GAFおよびMTF表現は、従来の手作業による特徴抽出と比較して、時間的構造をどれほど効果的に捉えられるか？
• RQ3 Tiled CNNが学習する高レベル特徴は、時間的パターンを区別する上で果たす役割は何か？
• RQ4 GAFとMTFをマルチチャネル画像（GAF-MTF）に統合することで、個別の表現と比較して分類性能が向上するか？
• RQ5 時間的および空間的ダイナミクスが共存する軌跡データに対して、本手法はどの程度の性能を示すか？

主な発見

• Animal Trackingデータセットでは、GAF-MTF統合表現が72.2%の精度を達成し、TB-Only手法（50%）を上回り、RB-TB手法（83.3%）に近づいた。
• Hurricaneデータセットでは、GAF-MTFアプローチが71.42%の精度を記録し、TB-Only手法（65.4%）を上回り、RB-TB手法（73.1%）と同等の性能を示した。
• 限られたハイパーパrameterサーチの下でも最先端の手法と同等の性能を示し、本手法の頑健性とスケーラビリティが裏付けられた。
• 学習された特徴の分析から、Tiled CNNが多周波数移動平均と同様の機能を果たしており、グラミアン行列に保持された2次元時間的依存性を効果的に捉えていることがわかった。
• GAFは対比較的な角度関係を符号化しているため、方向性の強いパターンを示す軌跡データに対して、方向ベースの特徴がうまく捉えられていた。
• 空間的近接性がSpace-Filling Curve (SFC) インデクシングによって破壊された場合、CNNは領域ベースの情報を保持できず、時間的表現における大規模な空間シフトの処理に限界を示した。