[논문 리뷰] Test-Time Adaptation for Non-stationary Time Series: From Synthetic Regime Shifts to Financial Markets

Yurui Wu, Qingying Deng외 2명|arXiv (Cornell University)|2026. 01. 20.

Stock Market Forecasting Methods인용 수 0

한 줄 요약

이 논문은 백본을 고정하고 정규화 매개변수만 업데이트하는 경량의 테스트-타임 적응(TTA) 프레임워크를 시계열 예측의 인과관계 분류에 대해 연구하며, 금융시장 포함한 레짐 변화에서도 업데이트의 안정성을 유지하기 위한 폴백을 제시한다.

ABSTRACT

Time series encountered in practice are rarely stationary. When the data distribution changes, a forecasting model trained on past observations can lose accuracy. We study a small-footprint test-time adaptation (TTA) framework for causal timeseries forecasting and direction classification. The backbone is frozen, and only normalization affine parameters are updated using recent unlabeled windows. For classification we minimize entropy and enforce temporal consistency; for regression we minimize prediction variance across weak time-preserving augmentations and optionally distill from an EMA teacher. A quadratic drift penalty and an uncertainty triggered fallback keep updates stable. We evaluate this framework in two stages: synthetic regime shifts on ETT benchmarks, and daily equity and FX series (SPY, QQQ, EUR/USD) across pandemic, high-inflation, and recovery regimes. On synthetic gradual drift, normalization-based TTA improves forecasting error, while in financial markets a simple batch-normalization statistics update is a robust default and more aggressive norm-only adaptation can even hurt. Our results provide practical guidance for deploying TTA on non-stationary time series.

연구 동기 및 목표

• 작은 발자국의 테스트-타임 적응(TTA)이 비정상 시계열에 도움이 되는지 아니면 해로운지 이해한다.
• 인과 프레임워크 아래 적응 옵션(비적응, BN 통계 새로 고침, 정규화만) 을 하나로 통일한다.
• 전염병(pandemic), 인플레이션, 회복 기간에 걸친 합성 레짐 변화와 실제 금융 데이터에서 TTA를 평가한다.
• 스트리밍 예측에서 TTA를 배치하기 위한 실용적 지침과 레짐별 평가 도구를 제공한다.

제안 방법

• 배치에서 백본 f_theta를 고정하고 배치 시점에 작은 집합의 norm-어파인 매개변수(gamma, beta)를 적응시킨다.
• 비지도 목표를 사용한다: 분류에는 엔트로피와 일관성; 회귀에는 분산 및 EMA-교사 증류.
• 높은 불확실성일 때 BN 통계 새로고침을 트리거하고 업데이트를 건너뛰기 위해 불확실성 프록시를 사용한다.
• 약한 시간 보존 증강을 적용하여 강건한 비지도 학습을 위한 다수의 변환 뷰를 생성한다.
• 일일 매개변수 변화의 제한을 위해 2차적 드리프트 페널티를 도입하여 안정성을 향상시킨다.
• 실용적 배치를 안내하기 위해 Diebold–Mariano 테스트와 레짐별 평가를 통해 업데이트를 근거화한다.

Figure 1: Regime diagnostics for SPY volatility and returns.

실험 결과

연구 질문

• RQ1 비정상 레짐 변화하에서 BN 특징치적 매개변수만 사용하는 테스트-타임 적응이 시계열에서 어떻게 성능을 보이는가?
• RQ2 실제 금융 데이터에서 BN 통계 새로고침이 정규화만 업데이트보다 더 안전한 기본값인가?
• RQ3 합성 시프트와 금융 레짐 전반에서 다양한 TTA 변형(비적용, bn_stats, norm_only)이 어떻게 비교되는가?
• RQ4 SPY, QQQ, EUR/USD와 같은 시장에서 TTA의統計적 및 경제적 함의(예: DM 테스트, 샤프 비율)는 무엇인가?
• RQ5 스트리밍 시계열 예측에서 TTA를 배치하기 위한 실용적 지침은 무엇인가?

주요 결과

Method	Shift	MAE	RMSE	R^2
no_tta	Gradual	0.22	0.28	-0.31
norm_only	Noise	0.29	0.35	-0.02
bn_stats	Structural	1.26	1.62	-20.80

• 정규화만 적응은 합성 테스트에서 평균/분산의 점진적 변화에 대해 저차 모멘트 변화를 보정함으로써 도움이 된다.
• BN 통계 새로고침은 소음이 있는 금융 데이터에서 강력한 기본값이며, SPY, QQQ, EUR/USD 전반에서 방향 정확도와 위험 조정 지표 면에서 동결된 기준선보다 종종 우수하다.
• 과도한 정규화만 업데이트는 짧은 창에 과적합되어 실제 시장에서 성능을 해칠 수 있다.
• Diebold–Mariano 테스트에서 bn_stats는 SPY와 QQQ에서 no_tta보다 크게 우수했고, EUR/USD에서도 bn_stats가 no_tta를 능가한다.
• 경제적 백테스트에서 bn_stats는 SPY와 QQQ에서 no_tta나 norm-only보다 더 높은 샤프 비율을 달성하며, norm-only는 종종 저조하다.
• 전반적인 지침: bn_stats로 시작하고 불확실성 진단이 이를 뒷받침할 때만 norm-only 업데이트를 추가하며, 레짐별로 평가하라.

Figure 2: Rolling forecast metrics on ETTh1 under gradual drift.