[논문 리뷰] Self-supervised Contrastive Representation Learning for Semi-supervised Time-Series Classification

Emadeldeen Eldele, Mohamed Ragab외 5명|arXiv (Cornell University)|2022. 08. 13.

Time Series Analysis and Forecasting인용 수 7

한 줄 요약

이 논문은 시간열렬 분류를 위한 자기지도 학습 대비 학습 프레임워크인 TS-TCC를 제안한다. 이는 시간열렬 전용의 약한 및 강한 증강 기법을 사용하여 강력한 시간적 및 맥락적 표현을 학습한다. 또한, 가짜 레이블을 활용하여 레이블이 극히 적은 데이터로도 성능을 향상시키는 CA-TCC로 확장되며, 1% 레이블 예산에서도 거의 지도 학습 성능에 도달한다.

ABSTRACT

Learning time-series representations when only unlabeled data or few labeled samples are available can be a challenging task. Recently, contrastive self-supervised learning has shown great improvement in extracting useful representations from unlabeled data via contrasting different augmented views of data. In this work, we propose a novel Time-Series representation learning framework via Temporal and Contextual Contrasting (TS-TCC) that learns representations from unlabeled data with contrastive learning. Specifically, we propose time-series-specific weak and strong augmentations and use their views to learn robust temporal relations in the proposed temporal contrasting module, besides learning discriminative representations by our proposed contextual contrasting module. Additionally, we conduct a systematic study of time-series data augmentation selection, which is a key part of contrastive learning. We also extend TS-TCC to the semi-supervised learning settings and propose a Class-Aware TS-TCC (CA-TCC) that benefits from the available few labeled data to further improve representations learned by TS-TCC. Specifically, we leverage the robust pseudo labels produced by TS-TCC to realize a class-aware contrastive loss. Extensive experiments show that the linear evaluation of the features learned by our proposed framework performs comparably with the fully supervised training. Additionally, our framework shows high efficiency in the few labeled data and transfer learning scenarios. The code is publicly available at \url{https://github.com/emadeldeen24/CA-TCC}.

연구 동기 및 목표

• 의료 및 IoT와 같은 실세계 응용 분야에서 레이블이 부족한 시간열렬 데이터 문제를 해결한다.
• 대비 학습을 통해 레이블이 없는 시간열렬 데이터에서 분류 가능한 표현을 학습하는 자기지도 학습 프레임워크를 개발한다.
• 시간적 구조를 유지하면서 효과적인 대비 학습을 가능하게 하는 시간열렬 전용 데이터 증강 기법을 설계한다.
• 클래스 인식 대비 손실을 활용해 소수의 레이블 샘플을 통합함으로써 자기지도 학습 프레임워크를 준지도 학습으로 확장한다.
• 저레이블 및 전이 학습 설정에서 학습된 표현의 전이 가능성과 효율성을 향상시킨다.

제안 방법

• 레이블이 없는 시간열렬 데이터를 대상으로 시간적 및 맥락적 대비 모듈을 사용하는 대비 표현 학습 프레임워크인 TS-TCC를 제안한다.
• 시간적 의존성을 유지하면서 효과적인 대비 학습을 가능하게 하는 시간열렬 전용의 약한 증강(예: 스케일링, 시간 이동)과 강한 증강(예: 저잡음, 순서 변경)을 설계한다.
• 약한 증강 및 강한 증강된 시각 간의 대비를 통해 강력한 시간적 표현을 학습하는 시간적 대비 모듈을 구현한다.
• 동일한 샘플의 서로 다른 증강된 시각을 대비함으로써 분류 가능한 표현을 학습하는 맥락적 대비 모듈을 도입한다.
• TS-TCC에서 유도된 견고한 가짜 레이블을 사용하여 준지도 학습 환경에서 클래스 인식 대비 손실을 학습하는 CA-TCC로 TS-TCC를 확장한다.
• 모든 데이터셋 간에 증강 파rameter를 표준화하고 일반화 성능을 향상시키기 위해 시간열렬 신호를 0에서 1 사이로 정규화한다.

실험 결과

연구 질문

• RQ1 다양한 데이터 증강 전략이 시간열렬 표현 학습에서 대비 학습의 성능에 어떤 영향을 미치는가?
• RQ2 자기지도 대비 학습 프레임워크가 최소한의 레이블 데이터로도 완전히 지도 학습 성능에 근접할 수 있는가?
• RQ3 자기지도 모델에서 유도된 가짜 레이블을 어떻게 효과적으로 준지도 학습 환경에서 활용하여 표현 학습을 향상시킬 수 있는가?
• RQ4 다양한 데이터셋에서 시간열렬 대비 학습에 최적화된 약한 및 강한 증강의 조합은 무엇인가?
• RQ5 학습된 표현이 전이 학습 및 저레이블 시나리오에서 얼마나 일반화되는가?

주요 결과

• TS-TCC는 한 쪽 시각에 약한 증강, 다른 쪽에 강한 증강을 적용했을 때 선형 평가 정확도 77.58%를 달성하여, 둘 다 약한 또는 강한 증강만 사용한 구성보다 성능이 뛰어났다.
• 레이블 데이터의 10%만으로도 TS-TCC의 특징에 대한 선형 프로브 성능이 완전히 지도 학습 학습과 유사한 성능을 보였다.
• CA-TCC는 레이블 데이터의 1%만으로도 성능을 더욱 향상시켜, 낮은 지도 학습 환경에서도 강력한 일반화 성능을 입증했다.
• 시간 이동 또는 스케일링을 약한 증강으로 적용하고, 강한 증강(예: 저잡음 + 순서 변경)을 조합한 경우, 각각 74.69% 및 72.35%의 정확도를 기록했다.
• 체계적인 아블레이션 연구를 통해 서로 다른 시각에 약한 및 강한 증강을 조합할 경우가 가장 뛰어난 성능을 내며, 최적의 파rameter로는 약한 증강에 대해 저잡음의 범위를 [0, 0.1]로, 강한 증강에 대해 [0.1, 1]로 설정하는 것이 유리하다는 것이 확인되었다.
• 이 프레임워크는 전이 가능성도 뛰어나, 다양한 시간열렬 데이터셋에서 전이 학습 시나리오에서 성능 향상을 보였다.