[논문 리뷰] Classification of Time-Series Images Using Deep Convolutional Neural Networks

Nima Hatami, Yann Gavet외 1명|arXiv (Cornell University)|2017. 10. 02.

Time Series Analysis and Forecasting참고 문헌 21인용 수 89

한 줄 요약

이 논문은 시계열을 recurrence-plot 이미지로 인코딩하고 특징과 분류기를 함께 학습하기 위해 두 단계 CNN을 사용하여 시계열 분류를 수행하며, UCR 아카이브에서 경쟁력 있는 결과를 보고합니다.

ABSTRACT

Convolutional Neural Networks (CNN) has achieved a great success in image recognition task by automatically learning a hierarchical feature representation from raw data. While the majority of Time-Series Classification (TSC) literature is focused on 1D signals, this paper uses Recurrence Plots (RP) to transform time-series into 2D texture images and then take advantage of the deep CNN classifier. Image representation of time-series introduces different feature types that are not available for 1D signals, and therefore TSC can be treated as texture image recognition task. CNN model also allows learning different levels of representations together with a classifier, jointly and automatically. Therefore, using RP and CNN in a unified framework is expected to boost the recognition rate of TSC. Experimental results on the UCR time-series classification archive demonstrate competitive accuracy of the proposed approach, compared not only to the existing deep architectures, but also to the state-of-the art TSC algorithms.

연구 동기 및 목표

• 시간 시계열 분류(TSC)를 동기 부여하고 전통적인 TSC 접근법을 검토합니다.
• CNN을 활용하기 위해 시계열을 recurrence plot 이미지로 변환하는 제안을 합니다.
• 특징 학습과 엔드투엔드 분류를 수행하는 이중 단계 CNN 아키텍처를 개발합니다.
• UCR 시계열 데이터셋 아카이브에서 방법을 평가하고 최신 방법과 비교합니다.

제안 방법

• 1D 시계열을 이진화 없이 2D recurrence texture 이미지(RP 이미지)로 변환합니다.
• 32(5)-2-32(5)-2-128-c 아키텍처의 두 단계 CNN과 ReLU 활성화를 사용합니다.
• 확률적 경사 하강법으로 학습하고 손실으로 범주형 교차 엔트로피를 사용하며 Adam 옵티마이저를 사용합니다.
• 입력 이미지 크기는 28x28, 56x56 또는 64x64이며 2개의 컨볼루션 층, 2개의 풀링 층, 128 뉴런의 은닉층이 있습니다.
• 성능을 1-NN DTW, Shapelet, BoP, SAX-VSM, TFRP, MCNN, GAF-MTF 베이스라인과 비교합니다.
• 코드는 이용 가능하며 실험은 20개 선택 데이터셋의 UCR 아카이브를 사용합니다.

실험 결과

연구 질문

• RQ1 recurrence-plot 기반 이미지 표현이 CNN이 경쟁력 있는 TSC를 수행하게 할 수 있는가?
• RQ2 RP+CNN 파이프라인이 표준 벤치마크에서 기존 TSC 방법 및 다른 CNN 기반 접근법과 어떻게 비교되는가?
• RQ3 RP 기반 인코딩 및 CNN 아키텍처 선택이 분류 정확도에 어떤 영향을 미치는가?

주요 결과

• RP+CNN 접근법은 20개 선택 데이터셋 중 10승을 달성했다.
• 제안 방법의 평균 순위는 2.15로 MCNN(2.36) 및 SAX-VSM(3.0)과 경쟁적이다.
• RP 이미지는 CNN이 기존 RP 기반 SVM/텍스처 디스크립터(TFRP) 및 GAF-MTF CNN 접근법보다 우수한 성능을 보인다.
• 연구는 RP 인코딩이 다른 이미지 기반 인코딩보다 TSC를 위한 더 구별력 있는 특징을 얻는 데 기여함을 보여준다.
• 제안된 파이프라인은 CNN 기반 TSC에서 시간 시계열 이미지를 위한 인코딩 선택의 중요성을 보여준다.
• CNN은 특징과 분류기를 공동 학습하여 수작업으로 만든 특징이나 개별적으로 학습된 특징보다 성능을 향상시킨다.