[논문 리뷰] Unsupervised Time-Series Representation Learning with Iterative Bilinear Temporal-Spectral Fusion

L. Yang, Shenda Hong|arXiv (Cornell University)|2022. 02. 08.

Time Series Analysis and Forecasting인용 수 30

한 줄 요약

BTSF를 소개하는 무감독 시계열 표현 프레임워크로, 인스턴스 수준 증강과 반복적인 이중선형 시간-스펙트럼 융합을 결합하여 글로벌 컨텍스트와 교차 도메인 친화력을 포착하고, 분류, 예측, 이상 탐지에서 최신 성능을 달성한다.

ABSTRACT

Unsupervised/self-supervised time series representation learning is a challenging problem because of its complex dynamics and sparse annotations. Existing works mainly adopt the framework of contrastive learning with the time-based augmentation techniques to sample positives and negatives for contrastive training. Nevertheless, they mostly use segment-level augmentation derived from time slicing, which may bring about sampling bias and incorrect optimization with false negatives due to the loss of global context. Besides, they all pay no attention to incorporate the spectral information in feature representation. In this paper, we propose a unified framework, namely Bilinear Temporal-Spectral Fusion (BTSF). Specifically, we firstly utilize the instance-level augmentation with a simple dropout on the entire time series for maximally capturing long-term dependencies. We devise a novel iterative bilinear temporal-spectral fusion to explicitly encode the affinities of abundant time-frequency pairs, and iteratively refines representations in a fusion-and-squeeze manner with Spectrum-to-Time (S2T) and Time-to-Spectrum (T2S) Aggregation modules. We firstly conducts downstream evaluations on three major tasks for time series including classification, forecasting and anomaly detection. Experimental results shows that our BTSF consistently significantly outperforms the state-of-the-art methods.

연구 동기 및 목표

• 제한된 라벨과 다양한 다이나믹스를 가진 시계열에 대한 무감독 표현 학습의 동기를 제시한다.
• 세그먼트 수준 샘플링에서의 샘플링 편향과 글로벌 맥락 손실 문제를 다룬다.
• 시간적 및 스펙트럴 정보를 반복적으로 융합하여 구별력을 향상시킨다.

제안 방법

• 전체 시계열을 증강으로서 인스턴스 수준 드롭아웃을 사용하여 긍정/부정 쌍을 형성한다.
• FFT로 투사된 입력에서 1D 컨볼루션을 통해 시간적 특징을 추출하고 스펙트럴 특징을 얻는다.
• 시간적 특징과 스펙트럴 특징 간의 이중적 상호작용을 계산하여 공동 표현을 형성한다.
• Spectrum-to-Time (S2T) 및 Time-to-Spectrum (T2S) 집계 루프를 통해 시간적 및 스펙트럴 특징을 반복적으로 정제한다.
• 저랭크 인자분해를 적용하여 메모리를 줄이고 효율적인 학습을 가능하게 한다.
• 긍정 쌍을 함께 끌어당기고 부정 쌍을 멀리 밀어내는 대조 손실로 최적화한다.

실험 결과

연구 질문

• RQ1 인스턴스 수준 증강이 시계열 대조학습에서 글로벌 컨텍스트를 세그먼트 수준 샘플링보다 더 잘 보존하는가?
• RQ2 시간적 및 스펙트럴 특징이 보완적인 정보를 제공하고 이를 이중 융합하면 다운스트림 작업이 향상되는가?
• RQ3 반복적 교차 도메인 융합(S2T/T2S)이 표현 정렬성과 구별력에 어떤 영향을 미치는가?
• RQ4 BTSF가 분류, 예측 및 이상 탐지에서 감독 방법과 경쟁하거나 능가하는가?

주요 결과

• BTSF는 다운스트림 분류, 예측 및 이상 탐지에서 일관되게 최첨단 무감독 방법보다 우수하다.
• 제안된 이중 시간-스펙트럼 융합은 단순 융합 방법보다 더 구별력 있는 표현을 생성한다.
• 인스턴스 수준 드롭아웃은 글로벌 컨텍스트를 세그먼트 기반 증강보다 잘 보존하고 거짓 음성/양성을 감소시킨다.
• 반복적 S2T 및 T2S 집계는 시간적 및 스펙트럴 특징을 밀접하게 결합하여 표현의 정렬성 및 균일성을 향상시킨다.
• 저랭크 이진 팩터라이제이션은 메모리를 줄이면서도 성능을 유지하여 확장 가능한 학습을 가능하게 한다.