[論文レビュー] Multivariate Time Series Classification using Dilated Convolutional Neural Network

Omolbanin Yazdanbakhsh, Scott Dick|arXiv (Cornell University)|May 5, 2019

Time Series Analysis and Forecasting参考文献 21被引用数 34

ひとこと要約

本論文は、マルチ変量時系列のセグメントを1チャネルの画像に変換して分類する拡張畳み込みニューラルネットワーク（dilated CNN）ベースの手法を提案し、手作り特徴量を用いなくてもWISDMデータセットで競争力のある結果を達成する。

ABSTRACT

Multivariate time series classification is a high value and well-known problem in machine learning community. Feature extraction is a main step in classification tasks. Traditional approaches employ hand-crafted features for classification while convolutional neural networks (CNN) are able to extract features automatically. In this paper, we use dilated convolutional neural network for multivariate time series classification. To deploy dilated CNN, a multivariate time series is transformed into an image-like style and stacks of dilated and strided convolutions are applied to extract in and between features of variates in time series simultaneously. We evaluate our model on two human activity recognition time series, finding that the automatic features extracted for the time series can be as effective as hand-crafted features.

研究の動機と目的

• マルチ変量時系列分類を動機付け、手作り特徴量への依存を減らす。
• 拡張畳み込みニューラルネットワークで処理されるマルチ変量セグメントの画像ベース表現を提案する。
• 学習済み特徴量が、ベンチマークデータ上の手作りスペクトログラムおよび統計特徴量と同等かそれ以上の性能を発揮できることを示す。

提案手法

• マルチ変量時系列セグメントをM行K列の1チャンネル画像に変換する。
• 拡張畳み込みとストライドを重ねて、内部変量関係と変量間関係を学習する。
• 最終クラス確率のためにソフトマックスを用いた全結合分類器を使用する。
• AdamオプティマイザとL2正則化を用いたクロスエントロピー損失で訓練する。

実験結果

リサーチクエスチョン

• RQ1 拡張畳み込みCNNが、手作り特徴量を用いずに画像のような表現上でマルチ変量時系列を分類して競争力のある性能を達成できるか。
• RQ2 スペクトログラムや手作り特徴量を用いた以前のアプローチと比較して、モデルは変量間依存性と時間的依存性をどれだけうまく捉えるか。
• RQ3 アーキテクチャの選択（拡張率、ストライド、層の深さ）が、活動の認識精度にどのような影響を与えるか。

主な発見

Activity	Our Method (WISDM v1-split) F1-score	( Ravi et al., 2017 ) F1-score
Walking	97.4%	99.3%
Jogging	98.3%	99.5%
Upstairs	86.4%	95.3%
Downstairs	80.5%	95.1%
Sitting	98%	98.2%
Standing	94.9%	97.6%

• WISDM v1-splitにおいて、私たちの手法はWalking, Jogging, Sitting, Standingで引用されたスペクトログラムベースのアプローチよりも高いF1スコアを達成し、UpstairsおよびDownstairsが相対的に弱い。
• WISDM v1-individualでは、 prior CNNベースの特徴抽出法と比較して活動全般でリコールが競争力を示す。
• WISDM v.2では、WalkingとJoggingではスペクトログラムベースの手法に匹敵するか僅差で遅れるが、Sitting、Standing、Lying Downでは上回る。
• 全体として、拡張畳み込みCNNを介して自動的に学習された特徴量は、いくつかの活動で手作り特徴量と同等またはそれ以上の効果を発揮するが、階段関連クラスでは例外がある。