[論文レビュー] Time Series Classification from Scratch with Deep Neural Networks: A Strong Baseline

Zhiguang Wang, Weizhong Yan+1 more|arXiv (Cornell University)|Nov 20, 2016

Time Series Analysis and Forecasting参考文献 12被引用数 47

ひとこと要約

本論文は、特徴量工学や前処理を一切行わず、生データ上で純粋にエンドツーエンド学習を行うシンプルだが非常に効果的な時系列分類の深層学習ベースラインを提案する。完全畳み込みネットワーク（FCN）とResNetアーキテクチャは、特徴量工学や前処理なしで44のUCRベンチマークデータセットにおいて最先端の性能を達成しており、FCNはCOTE や MCNN といった先行手法を上回っている。

ABSTRACT

We propose a simple but strong baseline for time series classification from scratch with deep neural networks. Our proposed baseline models are pure end-to-end without any heavy preprocessing on the raw data or feature crafting. The proposed Fully Convolutional Network (FCN) achieves premium performance to other state-of-the-art approaches and our exploration of the very deep neural networks with the ResNet structure is also competitive. The global average pooling in our convolutional model enables the exploitation of the Class Activation Map (CAM) to find out the contributing region in the raw data for the specific labels. Our models provides a simple choice for the real world application and a good starting point for the future research. An overall analysis is provided to discuss the generalization capability of our models, learned features, network structures and the classification semantics.

研究の動機と目的

• 生データに直接作用するシンプルで頑健かつ効果的な時系列分類の深層学習ベースラインを確立すること。
• 特徴量工学やデータ前処理なしに、完全畳み込みネットワーク（FCN）、リーダントネットワーク（ResNet）、多層パーセプトロン（MLP）のエンドツーエンド性能を評価すること。
• 深層ニューラルネットワークの一般化能力、学習された特徴、ネットワーク構造、分類の意味論を時系列分類の文脈で分析すること。
• 実世界の応用に実装可能で、今後の時系列分類分野の研究の強力な出発点となる実用的ベースラインを提供すること。

提案手法

• 提案手法は、3つの畳み込みブロックから構成される完全畳み込みネットワーク（FCN）を用いる。各ブロックは1次元畳み込み層、バッチ正則化、ReLU活性化関数、ドロップアウト正則化から成る。
• 最終畳み込み層の後にグローバル平均プーリングを適用し、空間次元を低減させるとともに、解釈性を高めるためにクラス活性マップ（CAM）の可視化を可能にする。
• 深層ネットワークの訓練を可能にし、勾配の流れを改善し、複雑な時系列データにおける一般化性能を向上させるために、残差ブロックを用いたResNetを実装する。
• シンプルだが効果的なベースラインとして、ReLU活性化関数を用いた3層の全結合層とドロップアウト正則化を備えたMLPベースラインを採用する。
• すべてのモデルは、データ拡張、ウィンドウ処理、特徴抽出なしに、生時系列データ上でエンドツーエンドで訓練される。
• 性能評価には、複数のデータセット間でのモデル比較に耐性のある指標として、平均ペアワイズ分類誤差（MPCE）を用い、統計的有意性はペアドt検定およびウィルコクソン符号順位検定により評価する。

実験結果

リサーチクエスチョン

• RQ1 特徴量工学やデータ前処理なしに、シンプルでエンドツーエンドの深層ニューラルネットワークが、時系列分類において最先端の性能を達成できるか？
• RQ2 FCN、ResNet、MLPが学習する表現と分類行動は、COTE や BOSS、MCNN といった既存手法と比べてどのように異なるか？
• RQ3 グローバル平均プーリングは、時系列分類におけるクラス活性マップ（CAM）の可視化を通じて、どの程度解釈性を向上させられるか？
• RQ4 これらの深層学習モデルは、多様で実世界の時系列データセットにおいて、どのような一般化能力を示すか。特に、従来の距離ベース・特徴量ベースのベースラインと比較してどうか？
• RQ5 MLP、FCN、ResNet といった異なるネットワークアーキテクチャは、分類の意味論や特徴空間の構造において、どのように相違するか？

主な発見

• FCNは、COTE や MCNN といった最先端手法よりも、44のUCRベンチマークデータセットで優れた性能を発揮しており、ウィルコクソン符号順位検定のp値が0.8445であり、COTEと差がないが、平均MPCEにおいて優れている。
• ResNetモデルは競争力のある性能を示しているが、FCNよりわずかに劣っており、COTEとのウィルコクソン検定のp値が0.8347であり、同等の性能であると示唆している。
• MLPベースラインは、長年にわたり黄金基準とされてきた1-Nearest-Neighbor with Dynamic Time Warping（1NN-DTW）と同等の性能を示しており、p値が0.7575であり、差がないと示している。
• FCNとResNetモデルは、PCAで次元削減された特徴空間で密にクラスタリングされており、類似した学習済み表現を示しているのに対し、MLPは孤立しており、分類の意味論が異なることが示唆されている。
• グローバル平均プーリングの導入により、クラス活性マップ（CAM）の可視化が可能となり、各クラスの判別に寄与する時間的領域を生時系列データ上で特定できるようになり、モデルの解釈性が向上した。
• MPCE指標は、複数のデータセットにまたがる複数のモデル間比較に耐性があり、偏りのない評価フレームワークを提供しており、FCNとResNetが良好な一般化性能を示し、既存のアプローチと補完的であることが明らかになった。