[논문 리뷰] Data augmentation using synthetic data for time series classification with deep residual networks

Hassan Ismail Fawaz, Germain Forestier외 3명|arXiv (Cornell University)|2018. 08. 07.

Time Series Analysis and Forecasting참고 문헌 15인용 수 73

한 줄 요약

이 논문은 시계열 분류를 위한 ResNet에 대해 DTW 기반 DBA 가중 데이터 증강을 활용하여 시계열 데이터를 확장하고, 일부 작은 데이터셋에서 큰 이익을 보이며, 앙상블로 결합했을 때 강건성이 향상된다.

ABSTRACT

Data augmentation in deep neural networks is the process of generating artificial data in order to reduce the variance of the classifier with the goal to reduce the number of errors. This idea has been shown to improve deep neural network's generalization capabilities in many computer vision tasks such as image recognition and object localization. Apart from these applications, deep Convolutional Neural Networks (CNNs) have also recently gained popularity in the Time Series Classification (TSC) community. However, unlike in image recognition problems, data augmentation techniques have not yet been investigated thoroughly for the TSC task. This is surprising as the accuracy of deep learning models for TSC could potentially be improved, especially for small datasets that exhibit overfitting, when a data augmentation method is adopted. In this paper, we fill this gap by investigating the application of a recently proposed data augmentation technique based on the Dynamic Time Warping distance, for a deep learning model for TSC. To evaluate the potential of augmenting the training set, we performed extensive experiments using the UCR TSC benchmark. Our preliminary experiments reveal that data augmentation can drastically increase deep CNN's accuracy on some datasets and significantly improve the deep model's accuracy when the method is used in an ensemble approach.

연구 동기 및 목표

• 딥 네트워크를 활용한 시계열 분류(TSC)의 과적합 및 제한된 학습 데이터 문제를 해결한다.
• TSC를 위한 DTW 기반 합성 데이터 증강 방법을 평가한다.
• UCR TSC 벤치마크를 사용하여 증강이 깊은 ResNet 아키텍처에 미치는 영향을 평가한다.
• 데이터 증강의 잠재적 부정 효과를 완화하기 위한 앙상블 전략을 탐구한다.

제안 방법

• 단변량 시계열에 맞춰 세 개의 잔차 블록으로 구성된 심층 잔차 네트워크(ResNet) 아키텍처를 사용한다.
• 학습 세트에서 합성 시계열을 생성하기 위해 DTW 기반 가중 평균(DBA) 증강을 적용하고, Average Selected 스킴으로 샘플을 선택한다.
• 가장 많이 나타난 클래스의 두 배 크기에 해당하는 합성 데이터를 생성한다.
• 일관된 초기화 및 최적화 설정 하에 증강 여부에 관계없이 모델을 훈련한다.
• 증강된 ResNet과 비증강 ResNet의 예측을 후반 확률의 앙상블 평균으로 결합한다.

실험 결과

연구 질문

• RQ1 DTW 기반 합성 데이터 증강이 UCR 아카이브의 시계열 분류 작업에서 ResNet 성능을 향상시키는가?
• RQ2 어떤 데이터셋에서 증강이 성능을 향상시키거나 손실을 가져오며, 이러한 효과의 정도는 어떠한가?
• RQ3 증강된 모델과 비증강 모델의 앙상블이 데이터셋 전반에서 더 강건한 개선을 제공할 수 있는가?
• RQ4 DiatomSizeReduction와 Wine 같은 작고 어려운 데이터셋에 대한 증강의 영향은 무엇인가?

주요 결과

• 데이터 증강은 일부 데이터셋에서 심층 모델의 정확도를 대폭 향상시킬 수 있다(예: DiatomSizeReduction: 30%에서 96%로).
• 증강은 일부 데이터셋에서 약간의 부정 효과를 가질 수 있지만 전반적으로 정확도를 크게 감소시키지는 않는다.
• 증강된 ResNet과 비증강 ResNet의 앙상블은 성능이 저하된 데이터셋의 수를 줄이고 다른 데이터셋의 이득을 유지한다.
• 훈련 인스턴스가 겨우 16개인 DiatomSizeReduction 데이터셋에서 증강은 큰 이득을 주고, DTW를 이용한 1-NN은 97% 정확도를 달성하여 간단한 방법이 데이터셋을 쉽게 다룸을 시사한다.
• 윌콕슨 부호 순위 검정은 앙상블이 단일 모델에 비해 유의한 차이가 있음을 보여준다(p-value < 0.0005).
• Wine 데이터셋에서도 증강으로 인해 중요한 개선이 나타나며, 데이터셋 의존적 이점을 시사한다.