[논문 리뷰] Deep learning for time series classification

Hassan Ismail Fawaz|arXiv (Cornell University)|2020. 10. 01.

Time Series Analysis and Forecasting참고 문헌 185인용 수 9

한 줄 요약

이 학위 논문은 시계열 분류를 위한 딥러닝 모델에 대한 종합적인 실험 연구를 제시하며, 기존 방법들보다 초과 100개의 벤치마크 데이터셋에서 슈퍼리오어 성능을 보여주는 새로운 인셉션 기반 아키텍처를 도입한다. 이 연구는 전이 학습, 데이터 증강, 앙상블, 그리고 적대적 공격에 대한 강건성 분야에서 기여를 이끌어내며, 다변량 운동학적 데이터를 활용한 외과 기술 평가에 응용 가능한 최신 기술 수준의 성능을 입증한다.

ABSTRACT

Time series analysis is a field of data science which is interested in analyzing sequences of numerical values ordered in time. Time series are particularly interesting because they allow us to visualize and understand the evolution of a process over time. Their analysis can reveal trends, relationships and similarities across the data. There exists numerous fields containing data in the form of time series: health care (electrocardiogram, blood sugar, etc.), activity recognition, remote sensing, finance (stock market price), industry (sensors), etc. Time series classification consists of constructing algorithms dedicated to automatically label time series data. The sequential aspect of time series data requires the development of algorithms that are able to harness this temporal property, thus making the existing off-the-shelf machine learning models for traditional tabular data suboptimal for solving the underlying task. In this context, deep learning has emerged in recent years as one of the most effective methods for tackling the supervised classification task, particularly in the field of computer vision. The main objective of this thesis was to study and develop deep neural networks specifically constructed for the classification of time series data. We thus carried out the first large scale experimental study allowing us to compare the existing deep methods and to position them compared other non-deep learning based state-of-the-art methods. Subsequently, we made numerous contributions in this area, notably in the context of transfer learning, data augmentation, ensembling and adversarial attacks. Finally, we have also proposed a novel architecture, based on the famous Inception network (Google), which ranks among the most efficient to date.

연구 동기 및 목표

• 대규모 실험 연구를 통해 기존의 시계열 분류를 위한 딥러닝 방법들을 평가하고 비교하는 것.
• 시계열 데이터에 특화된 새로운 딥 네트워크 아키텍처를 개발하고 검증하는 것.
• 전이 학습, 데이터 증강, 앙상블 방법을 통해 분류 성능을 향상시키는 것.
• 시계열 분류 모델의 적대적 강건성에 대해 연구하는 것.
• 딥러닝을 외과 데이터 과학에 적용하여 다변량 시계열 데이터로부터 외과 기술 수준을 해석 가능한 방식으로 평가할 수 있도록 하는 것.

제안 방법

• 시계열 내 시간적 특징 추출에 최적화된 인셉션 아키텍처를 영감으로 삼은 새로운 딥 네트워크 아키텍처를 제안하였다.
• 학습 안정성 향상과 특징 표현 개선을 위해 글로벌 평균 풀링과 잔차 연결을 적용하였다.
• 모델 일반화 능력을 향상시키기 위해 윈도우 슬라이싱 및 타임 워핑 등의 데이터 증강 기법을 적용하였다.
• 특정 작업에 대해 피니테이닝하기 전에 대규모 시계열 데이터셋에서 사전 학습한 모델을 활용하여 전이 학습을 수행하였다.
• 정확도 향상을 위해 COTE 및 HIVE-COTE와 같은 앙상블 방법을 구현하여 다수의 모델 예측을 통합하였다.
• 외과 기술 평가에서 예측을 설명하기 위해 클래스 활성화 맵(CAM)을 활용한 설명 가능한 모델을 개발하였다.

실험 결과

연구 질문

• RQ1 다양한 벤치마크 데이터셋에서 최신 기술 수준의 시계열 분류를 위한 딥러닝 모델들은 어떻게 비교되는가?
• RQ2 새로운 인셉션 기반 아키텍처는 기존의 딥러닝 모델들보다 시계열 분류에서 뛰어난 성능을 달성할 수 있는가?
• RQ3 전이 학습과 데이터 증강이 시계열 분류기의 강건성과 정확도 향상에 얼마나 기여하는가?
• RQ4 앙상블 방법과 적대적 훈련은 모델 일반화 및 강건성 향상에 얼마나 효과적인가?
• RQ5 딥러닝 모델은 외과 기술 평가와 같은 고위험 응용 분야에서 예측을 설명 가능한 방식으로 제공할 수 있는가?

주요 결과

• 제안된 인셉션 기반 아키텍처는 100개 이상의 시계열 분류 벤치마크에서 최신 기술 수준의 성능을 달성하였다.
• 윈도우 슬라이싱 및 타임 워핑과 같은 데이터 증강 기법이 모델 일반화 및 정확도 향상에 뚜렷한 기여를 하였다.
• HIVE-COTE 및 COTE와 같은 앙상블 방법은 개별 모델을 초월하여 성능을 높여, 모델 다양성의 이점을 입증하였다.
• 전이 학습은 특히 대규모 시계열 데이터셋에서 사전 학습된 경우, 낮은 데이터 환경에서 성능 향상에 기여하였다.
• 적대적 훈련은 모델 강건성을 향상시켜 적대적 공격에 대한 성능 저하를 감소시켰다.
• 클래스 활성화 맵을 활용한 설명 가능한 딥러닝 모델은 다변량 운동학적 데이터에서 외과 기술 수준과 관련된 핵심 시간적 특징을 성공적으로 식별하였다.