[論文レビュー] Deep Learning for Time-Series Analysis

John Cristian Borges Gamboa|arXiv (Cornell University)|Jan 7, 2017

Time Series Analysis and Forecasting参考文献 44被引用数 161

ひとこと要約

この論文は、ディープラーニング手法を時系列タスクに適用した調査を行い、モデリング、分類、異常検知をカバーし、UFCNN、GAF/MTF画像表現、スタックドLSTMアプローチなどの例を含む。

ABSTRACT

In many real-world application, e.g., speech recognition or sleep stage classification, data are captured over the course of time, constituting a Time-Series. Time-Series often contain temporal dependencies that cause two otherwise identical points of time to belong to different classes or predict different behavior. This characteristic generally increases the difficulty of analysing them. Existing techniques often depended on hand-crafted features that were expensive to create and required expert knowledge of the field. With the advent of Deep Learning new models of unsupervised learning of features for Time-series analysis and forecast have been developed. Such new developments are the topic of this paper: a review of the main Deep Learning techniques is presented, and some applications on Time-Series analysis are summaried. The results make it clear that Deep Learning has a lot to contribute to the field.

研究の動機と目的

• 手作り特徴を超える時系列データにおける時系列依存性のためにディープラーニングの利用を動機づける。
• コアなニューラルアーキテクチャ（CNNs、RNNs、LSTMs）とそれらの時系列への適用をレビューする。
• 時系列のモデリング、分類、異常検知の手法を提示する。
• 時系列コンテキストにおける予測とパターン認識をディープラーニングがどのように改善できるかを論じる。

提案手法

• 基本的なANNモジュールとCNNsおよびRNNs（LSTMsを含む）が時系列にどのように適用されるかを説明する。
• UFCNN (Undecimated FCN) をはじめとする時系列専用のアーキテクチャとその平移不変性特性を紹介する。
• Gramian Angular Fields (GAF)およびMarkov Transition Fields (MTF) を用いて時系列を画像へ変換し、CNNベースの分類のために説明する。
• スタックドLSTMアーキテクチャとガウシアンベースの確率的スコアリングを用いた異常検知を議論する。
• 予測やトレーディング様のデータセットを横断して、UFCNNsとRNN/LSTMベースラインを比較する例を提供する。

(a)

実験結果

リサーチクエスチョン

• RQ1 時系列データの時系列依存性をモデル化する際にどの深層学習アーキテクチャが効果的か？
• RQ2 画像ベース表現（GAF/MTF）はCNNベースの時系列分類をどのように可能にするか？
• RQ3 UFCNNのような専門アーキテクチャは従来のRNNs/LSTMsと比べて予測と異常検知を改善できるか？
• RQ4 多様な領域で時系列の異常検知と予測においてディープラーニング手法はどんな役割を果たすか？
• RQ5 時系列タスクにおけるディープラーニングアプローチは伝統的な特徴量エンジニアリング手法とどのように比較されるか？

主な発見

• UFCNNsは複数の時系列予測タスクでRNNsおよびLSTMsを上回ることができる。
• CNNベースの分類は難データセットで競争力のある結果をもたらす。 (time-series–to-image representations (GAF/MTF))
• 時系列をマルチチャンネル画像へ変換することは分類のためのタイル状CNNの有効な活用を可能にする。
• スタックドLSTMアーキテクチャは長距離依存性をモデリングし、多変量確率を推定することで異常検知を改善する。
• 従来手法と比較して、モデリング、分類、異常検知のタスク全般でディープラーニング手法は有望を示している。

(b)