[論文レビュー] Imaging Time-Series to Improve Classification and Imputation

Zhiguang Wang, Tim Oates|arXiv (Cornell University)|Jun 1, 2015

Time Series Analysis and Forecasting参考文献 12被引用数 483

ひとこと要約

本稿では、時系列データをグラミアン・アンガラー・サムメーション/ディファレンス・フィールド（GASF/GADF）およびマーキov遷移フィールド（MTF）を用いて画像に変換し、コンピュータビジョン分野のディープラーニング手法を時系列分類および欠損値補完に適用する手法を提案する。これらの画像表現に対してタイル型畳み込みニューラルネットワーク（Tiled CNNs）およびノイズ除去オートエンコーダー（DA）を適用することで、20個のデータセットのうち9個で最先端の分類性能を達成し、元のデータと比較して補完のMSEを12.18%〜48.02%まで低減した。

ABSTRACT

Inspired by recent successes of deep learning in computer vision, we propose a novel framework for encoding time series as different types of images, namely, Gramian Angular Summation/Difference Fields (GASF/GADF) and Markov Transition Fields (MTF). This enables the use of techniques from computer vision for time series classification and imputation. We used Tiled Convolutional Neural Networks (tiled CNNs) on 20 standard datasets to learn high-level features from the individual and compound GASF-GADF-MTF images. Our approaches achieve highly competitive results when compared to nine of the current best time series classification approaches. Inspired by the bijection property of GASF on 0/1 rescaled data, we train Denoised Auto-encoders (DA) on the GASF images of four standard and one synthesized compound dataset. The imputation MSE on test data is reduced by 12.18%-48.02% when compared to using the raw data. An analysis of the features and weights learned via tiled CNNs and DAs explains why the approaches work.

研究の動機と目的

• 時系列データを時間的・構造的パターンを保持する画像に似た表現に変換することで、時系列分類および補完の性能を向上させること。
• 特にタイル型CNNおよびノイズ除去オートエンコーダーを用いたコンピュータビジョン分野のディープラーニングアーキテクチャを、これらの画像表現に適用すること。
• 時系列データの画像表現が、従来の時系列モデリング手法と比較して分類および補完タスクで優れているかどうかを検証すること。
• 学習された特徴量および重みを分析することで、提案された画像ベースのディープラーニングフレームワークがなぜ効果的であるかを理解すること。

提案手法

• 時系列データを[0,1]または[-1,1]にスケーリングし、極座標変換を可能にする。
• コサインベースの角度符号化を用いて、スケーリング済み時系列をグラミアン・アンガラー・サムメーション・フィールド（GASF）およびディファレンス・フィールド（GADF）の画像に変換する。
• 時系列データを分位数のボックスに分割し、遷移確率を行列として符号化することで、マーキov遷移フィールド（MTF）を構築する。
• 分類のため、個々のGASF、GADF、MTF画像およびそれらの組み合わせから階層的特徴を学習するために、タイル型畳み込みニューラルネットワーク（Tiled CNNs）を適用する。
• 4つの標準データセットおよび1つの複合データセットのGASF画像を用いて、ノイズ除去オートエンコーダー（DA）を訓練し、補完のための堅牢な表現を学習する。
• Tiled CNNsおよびDAから得られた特徴量を、それぞれ時系列分類および欠損値の再構築に用いる。

実験結果

リサーチクエスチョン

• RQ1 GASF、GADF、MTFのような画像表現に時系列データを変換することで、最先端の手法と比較して分類精度が向上するか？
• RQ2 これらの表現にタイル型CNNのような画像ベースのディープラーニングモデルを適用することで、より優れた特徴抽出および一般化性能が得られるか？
• RQ3 GASF画像を用いて訓練されたノイズ除去オートエンコーダーは、元のデータを用いた場合と比較して、時系列補完の安定性と正確性を向上させられるか？
• RQ4 Tiled CNNsおよびDAの学習された特徴量および重みは、時系列画像の文脈においてどのような構造的・時間的パターンを捉えているか？
• RQ5 0/1にスケーリングされたデータにおけるGASFの双射性（bijection property）は、なぜ補完性能の向上に寄与するのか？

主な発見

• 提案手法は、9つの現在の最良手法と比較して、20個の標準時系列データセットのうち9個で最先端の分類性能を達成した。
• GASF画像を用いたノイズ除去オートエンコーダーによる補完では、元の時系列データに対する補完と比較して、テストセットの平均二乗誤差（MSE）が12.18%〜48.02%まで低減した。
• GASF表現では、全MSEと補完MSEの差が、元のデータよりも顕著に小さく、補完性能の安定性が高まっていることを示している。
• タイル型CNNは、元の時系列データの多周波数近似器として機能する特徴マップを学習しており、2次元畳み込み演算によって時間的依存性を保持している。
• タイル型CNNの学習された重み行列は準直交性（WW^T ≈ I）を示しており、より良い条件数と安定した学習に寄与している。
• DAはGASF表現上で明確な画像プロトタイプを学習しており、小さなデータセットではノイズの多いフィルタがガウスノイズに類似しており、データスパarsityに強いことが示唆された。