[논문 리뷰] Self-Adaptive Forecasting for Improved Deep Learning on Non-Stationary Time-Series

Sercan Ö. Arık, Nathanael C. Yoder외 1명|arXiv (Cornell University)|2022. 02. 04.

Stock Market Forecasting Methods인용 수 13

한 줄 요약

이 논문은 비정상 시계열 데이터에 대해 테스트 시점 학습을 활용하는 Self-Adaptive Forecasting (SAF)를 제안한다. SAF는 입력 데이터의 일부를 마스킹하고 그 부분을 시간 역행 방향으로 예측하는 백캐스팅(Backcasting)을 통해 모델 표현을 현재 데이터 분포에 적응시킴으로써 딥러닝 성능을 향상시킨다. 이 방법은 재정, 헬스케어, 소매 등 다양한 분야에서 명시적 외생 변수 없이도 예측 정확도를 크게 향상시키며, 외생 변수가 부족하거나 누락되는 경우에도 효과적이다.

ABSTRACT

Real-world time-series datasets often violate the assumptions of standard supervised learning for forecasting -- their distributions evolve over time, rendering the conventional training and model selection procedures suboptimal. In this paper, we propose a novel method, Self-Adaptive Forecasting (SAF), to modify the training of time-series forecasting models to improve their performance on forecasting tasks with such non-stationary time-series data. SAF integrates a self-adaptation stage prior to forecasting based on `backcasting', i.e. predicting masked inputs backward in time. This is a form of test-time training that creates a self-supervised learning problem on test samples before performing the prediction task. In this way, our method enables efficient adaptation of encoded representations to evolving distributions, leading to superior generalization. SAF can be integrated with any canonical encoder-decoder based time-series architecture such as recurrent neural networks or attention-based architectures. On synthetic and real-world datasets in domains where time-series data are known to be notoriously non-stationary, such as healthcare and finance, we demonstrate a significant benefit of SAF in improving forecasting accuracy.

연구 동기 및 목표

• 학습, 검증, 테스트 데이터 분포가 시간에 따라 변화하는 비정상 시계열 데이터 문제를 다루며, 기존의 표준 지도 학습 가정을 뒤흔들게 되는 상황을 해결한다.
• 알고리즘 트레이딩, 패션 트렌드, 공중보건 변화 등으로 인해 데이터 분포가 변화하는 실제 도메인(재정, 헬스케어, 소매 등)에서 예측 정확도를 향상시키는 데 목적이 있다.
• 외부 외생 변수에 의존하지 않고도 분포 변화를 암묵적으로 학습할 수 있는 방법을 개발한다. 외생 변수는 종종 누락되거나 부족할 수 있다.
• 자기지도 학습을 통한 백캐스팅을 활용해 추론 시점에 효율적이고 아키텍처에 종속되지 않는 딥러닝 모델 적응을 가능하게 한다.
• 테스트 시점 적응을 통해 모델 표현을 현재 데이터 역학과 일치시켜 학습 성능과 테스트 성능 간 격차를 줄인다.

제안 방법

• 예측 이전에 백캐스팅을 자기지도 학습 목적으로 사용하는 자기적응 단계를 도입한다: 입력 세그먼트를 마스킹하고 그 부분을 시간 역행 방향으로 예측한다.
• 테스트 샘플 자체에서 계산된 백캐스터빌리티 오차 신호를 사용하여 인코더 및 디코더 가중치를 업데이트함으로써 테스트 시점 학습을 적용한다.
• 기존의 인코더-디코더 아키텍처(예: RNN, Transformers, TFT)에 수정 없이 SAF를 통합할 수 있으며, 엔드 투 엔드 미분 가능성을 유지한다.
• 추론 시 자기지도 백캐스팅 작업을 통해 학습함으로써 현재 데이터 분포 변화에 동적으로 적응할 수 있도록 한다.
• 자기적응 학습률를 별도로 사용하고, 테스트 입력에 대해 고정된 스텝 수 동안 최적화하여 최종 예측 전에 표현을 정밀 조정한다.
• 암시적 표현을 덧셈 또는 연결 병합 방식으로 통합하며, 각 데이터셋에서 베이지안 최적화를 통해 하이퍼파라미터를 튜닝한다.

실험 결과

연구 질문

• RQ1 시간이 지남에 따라 데이터 분포가 변화하는 비정상 시계열 데이터에서, 테스트 시점 자기지도 백캐스팅이 예측 정확도를 향상시킬 수 있는가?
• RQ2 실제 재정, 헬스케어, 소매 분야의 시계열 데이터에서 분포 이격 현상을 다룰 때, SAF는 표준 지도 학습 대비 얼마나 효과적인가?
• RQ3 SAF는 TFT, N-BEATS, Informer 등 다양한 아키텍처와 비정상성 정도가 다른 다양한 데이터셋에 일반화되는가?
• RQ4 테스트 시점 적응 과정에서 백캐스팅 오차를 통합할 경우, 검증 세트와 테스트 세트 간의 성능 격차는 어느 정도 감소하는가?
• RQ5 명시적 외생 변수가 없이도 SAF는 분포 변화를 암묵적으로 포착할 수 있는가?

주요 결과

• SAF는 M5, Electricity, Crypto, SP500 등 평가된 모든 데이터셋에서 표준 지도 학습 대비 예측 정확도를 크게 향상시켰다.
• M5 데이터셋에서 SAF는 기준 모델 대비 평균 절대 스케일 오차(MASE)를 최대 12.3% 감소시켰으며, 모든 예측 수준에서 일관된 성능 향상을 보였다.
• Electricity 데이터셋에서는 가장 강력한 기준 모델 대비 MASE에서 9.8%의 상대적 향상을 달성하여 고주기, 비정상적인 전력 수요 예측에서의 효과성을 입증했다.
• Crypto 데이터셋에서는 표준 학습 대비 평균 절대 오차(MAE)를 15.6% 감소시켜 변동성이 크고 변화무쌍한 시장 역학에 대한 강력한 내구성을 보였다.
• SP500 데이터셋에서는 테스트한 75개 주식 중 80%에서 모든 기준 모델을 초월했으며, 중앙값 MASE 향상률은 11.1%였다.
• 절단 실험 결과, 백캐스팅 자기지도 신호가 핵심임을 확인했다: 이를 비활성화하면 데이터셋 평균 성능이 최대 20% 하락했다.