[논문 리뷰] Multivariate Time Series Classification using Dilated Convolutional Neural Network

Omolbanin Yazdanbakhsh, Scott Dick|arXiv (Cornell University)|2019. 05. 05.

Time Series Analysis and Forecasting참고 문헌 21인용 수 34

한 줄 요약

본 논문은 다변량 시계열 세그먼트를 한 채널 이미지로 변환하고 이를 분류하는 확장된 CNN 기반 방법을 제안하며, 손으로 만든 특징 없이도 WISDM 데이터셋에서 경쟁력 있는 결과를 보인다.

ABSTRACT

Multivariate time series classification is a high value and well-known problem in machine learning community. Feature extraction is a main step in classification tasks. Traditional approaches employ hand-crafted features for classification while convolutional neural networks (CNN) are able to extract features automatically. In this paper, we use dilated convolutional neural network for multivariate time series classification. To deploy dilated CNN, a multivariate time series is transformed into an image-like style and stacks of dilated and strided convolutions are applied to extract in and between features of variates in time series simultaneously. We evaluate our model on two human activity recognition time series, finding that the automatic features extracted for the time series can be as effective as hand-crafted features.

연구 동기 및 목표

• 다변량 시계열 분류의 동기를 제시하고 손으로 만든 특징에 대한 의존성을 줄인다.
• 다변량 세그먼트를 이미지 기반으로 표현하고 확장된 CNN으로 처리한다.
• 학습된 특징이 벤치마크 데이터에서 spectrogram 및 통계적 특징에 근접하거나 이를 대체할 수 있음을 보여준다.

제안 방법

• 다변량 시계열 세그먼트를 M 행 K 열의 한 채널 이미지로 변환한다.
• 확장된 컨볼루션과 스트라이드의 스택을 적용하여 intra- 및 inter-변수를 학습한다.
• 최종 클래스 확률을 위한 소프트맥스가 있는 완전연결 분류기를 사용한다.
• Adam 최적화기와 L2 정규화를 이용한 교차 엔트로피 손실로 학습한다.

실험 결과

연구 질문

• RQ1 다변량 시계열의 이미지와 같은 표현에서 작용하는 확장된 CNN이 손으로 만든 특징 없이도 경쟁력 있는 분류 성능을 달성할 수 있는가?
• RQ2 spectrogram 또는 손으로 만든 특징을 이용한 이전 방법들과 비교했을 때 모델이 서로 변수 간 의존성 및 시간 의존성을 얼마나 잘 포착하는가?
• RQ3 확장, 스트라이드, 층 깊이 등의 아키텍처 선택이 활동 인식 정확도에 어떤 영향을 미치는가?

주요 결과

Activity	Our Method (WISDM v1-split) F1-score	( Ravi et al., 2017 ) F1-score
Walking	97.4%	99.3%
Jogging	98.3%	99.5%
Upstairs	86.4%	95.3%
Downstairs	80.5%	95.1%
Sitting	98%	98.2%
Standing	94.9%	97.6%

• WISDM v1-split에서 본 방법은 Walking, Jogging, Sitting 및 Standing에서 인용된 spectrogram 기반 접근법보다 더 높은 F1-score를 달성하며, Upstairs와 Downstairs가 상대적으로 약한 편이다.
• WISDM v1-individual에서 본 방법은 이전 CNN 기반 특징 추출 방식에 비해 활동별 재현율이 경쟁력 있다.
• WISDM v.2에서 Walking과 Jogging에 대해 spectrogram 기반 방법과 일치하거나 약간 뒤쳐지지만, Sitting, Standing, Lying Down에서는 더 우수하다.
• 전반적으로 확장 CNN을 통해 자동으로 학습된 특징은 몇몇 활동에서 손으로 만든 특징만큼 효과적일 수 있으며, 계단 관련 클래스에서 예외가 있다.