[論文レビュー] Classification of Time-Series Images Using Deep Convolutional Neural Networks

Nima Hatami, Yann Gavet+1 more|arXiv (Cornell University)|Oct 2, 2017

Time Series Analysis and Forecasting参考文献 21被引用数 89

ひとこと要約

本論文は時系列を再現プロット画像としてエンコードし、特徴量と分類器を共同で学習する2段階CNNを用いて時系列分類を行い、UCRアーカイブで競争力のある結果を報告する。

ABSTRACT

Convolutional Neural Networks (CNN) has achieved a great success in image recognition task by automatically learning a hierarchical feature representation from raw data. While the majority of Time-Series Classification (TSC) literature is focused on 1D signals, this paper uses Recurrence Plots (RP) to transform time-series into 2D texture images and then take advantage of the deep CNN classifier. Image representation of time-series introduces different feature types that are not available for 1D signals, and therefore TSC can be treated as texture image recognition task. CNN model also allows learning different levels of representations together with a classifier, jointly and automatically. Therefore, using RP and CNN in a unified framework is expected to boost the recognition rate of TSC. Experimental results on the UCR time-series classification archive demonstrate competitive accuracy of the proposed approach, compared not only to the existing deep architectures, but also to the state-of-the art TSC algorithms.

研究の動機と目的

• 時系列分類（TSC）の動機づけと従来のTSC手法のレビュー。
• CNNを活用するために時系列を再現プロット画像へ変換する提案。
• 特徴量を学習しエンドツーエンドで分類を行う2段階CNNアーキテクチャの開発。
• UCR時系列データセットアーカイブ上でアプローチを評価し、最先端手法と比較。

提案手法

• 1D時系列を2Dの再現テクスチャ画像へ変換（2値化せず、RP画像）。
• 32(5)-2-32(5)-2-128-c アーキテクチャとReLU活性化を用いる2段階CNN。
• カテゴリカルクロスエントロピー損失とAdam最適化を用いた確率的勾配降下で訓練。
• 入力画像サイズは28x28、56x56、または64x64で、2つの畳み込み層、2つのプーリング層、128ニューロンの隠れ層を有する。
• 1-NN DTW、Shapelet、BoP、SAX-VSM、TFRP、MCNN、GAF-MTFのベースラインと性能を比較。
• コードは公開されており、実験は20の選択データセットを含むUCRアーカイブを使用。

実験結果

リサーチクエスチョン

• RQ1 再現プロットベースの画像表現はCNNを用いた競争力のあるTSCを実現できるか？
• RQ2 RP+CNNパイプラインは標準ベンチマークにおける既存のTSC手法や他のCNNベースのアプローチとどう比較されるか？
• RQ3 RPベースのエンコードとCNNアーキテクチャの選択が分類精度に与える影響はどの程度か？

主な発見

Dataset	c	N_tr	N_te	l	1-NN DTW	Shapelet	BoP	SAX-VSM	TFRP	MCNN	GAF-MTF	ours
50words	50	450	455	270	0.31	0.44	0.46	-	0.43	0.19	0.30	0.26
Adiac	37	390	391	176	0.39	0.51	0.43	0.38	0.20	0.23	0.37	0.28
Beef	5	30	30	470	0.36	0.44	0.43	0.033	0.36	0.36	0.23	0.08
CBF	3	30	900	128	0.003	0.05	0.01	0.02	-	0.002	0.009	0.005
Coffee	2	28	28	286	0	0.06	0.03	0	0.03	0.036	0	0
ECG200	2	100	100	96	0.23	0.22	0.14	0.14	0.17	-	0.09	0
FaceAll	14	560	1690	131	0.19	0.40	0.21	0.20	0.29	0.23	0.23	0.19
Face4	4	24	88	350	0.17	0.09	0.023	0	0.21	0	0.06	0
Fish	7	175	175	463	0.17	0.19	0.074	0.017	0.12	0.05	0.114	0.085
GunPoint	2	50	150	150	0.093	0.061	0.027	0.007	0.02	0	0.08	0
Lightning2	2	60	61	637	0.13	0.29	0.16	0.19	0.04	0.16	0.11	0
Lightning7	7	70	73	319	0.27	0.40	0.46	0.30	0.31	0.21	0.26	0.26
OliveOil	4	30	30	570	0.16	0.21	0.13	0.10	0.13	0.13	0.2	0.11
OSULeaf	6	200	242	427	0.40	0.35	0.23	0.107	0.07	0.27	0.35	0.29
SwedishLeaf	15	500	625	128	0.20	0.27	0.19	0.25	0.04	0.066	0.06	0.06
SyntControl	6	300	300	60	0.007	0.08	0.03	0.25	-	0.003	0.007	0
Trace	4	100	100	275	0	0.002	0	0	-	0	0	0
TwoPattern	4	100	4000	128	0	0.11	0.12	0.004	-	0.002	0.09	0.17
Wafer	2	1000	6174	152	0.02	0.004	0.003	0.0006	0.002	0.002	0	0
Yoga	2	300	3000	426	0.16	0.24	0.17	0.16	0.14	0.11	0.19	0

• RP+CNNアプローチは選択された20データセットのうち20件中10勝を挙げた。
• 提案手法の平均ランクは2.15で、MCNN（2.36）およびSAX-VSM（3.0）と競合。
• RP画像とCNNは従来のRPベースSVM/テクスチャ特徴(TFRP)およびGAF-MTF CNN手法を上回る。
• RPエンコードは他の画像ベースエンコードよりTSCにおいてより判別力のある特徴を生み出すことを示している。
• 提案パイプラインはCNNベースのTSCにおける時系列画像のエンコーディング選択の重要性を示している。
• CNNが特徴量と分類器を共同で学習することで、手作り特徴量や別々に学習した特徴量より性能が向上する。