[논문 리뷰] N-HiTS: Neural Hierarchical Interpolation for Time Series Forecasting

Cristian Challú, Kin G. Olivares외 4명|arXiv (Cornell University)|2022. 01. 30.

Stock Market Forecasting Methods인용 수 42

한 줄 요약

N-HiTS는 다중 비율 데이터 샘플링과 계층적 보간을 장기 예측에 도입하여 Transformer 기반선 대비 정확도 약 ~20% 향상을 달성하고 계산 시간은 약 50배 감소시킨다.

ABSTRACT

Recent progress in neural forecasting accelerated improvements in the performance of large-scale forecasting systems. Yet, long-horizon forecasting remains a very difficult task. Two common challenges afflicting the task are the volatility of the predictions and their computational complexity. We introduce N-HiTS, a model which addresses both challenges by incorporating novel hierarchical interpolation and multi-rate data sampling techniques. These techniques enable the proposed method to assemble its predictions sequentially, emphasizing components with different frequencies and scales while decomposing the input signal and synthesizing the forecast. We prove that the hierarchical interpolation technique can efficiently approximate arbitrarily long horizons in the presence of smoothness. Additionally, we conduct extensive large-scale dataset experiments from the long-horizon forecasting literature, demonstrating the advantages of our method over the state-of-the-art methods, where N-HiTS provides an average accuracy improvement of almost 20% over the latest Transformer architectures while reducing the computation time by an order of magnitude (50 times). Our code is available at bit.ly/3VA5DoT

연구 동기 및 목표

• 대규모 애플리케이션에서 정확하고 확장 가능한 장기 예측의 필요성을 동기 부여한다.
• 장기 예측의 계산 복잡도를 줄이면서 정확도를 향상시키는 신경망 예측 모델을 개발한다.
• 입력 신호를 분해하고 다중 시간 규모에서 계층적 보간을 통해 예측을 합성한다.
• 전용 블록을 통해 예측을 주파수 대역 구성요소로 해석 가능한 분해를 가능하게 한다.

제안 방법

• N-BEATS를 두 가지 새로운 구성요소로 확장한다: multi-rate 입력 샘플링과 계층적 보간.
• 블록별 커널 크기의 MaxPool을 사용하여 각 블록에 대한 스케일 중심 입력을 생성한다.
• 각 블록은 MLP를 통해 순방향 및 역방향 보간 계수를 학습하여 backcasts와 forecasts를 생성한다.
• r_l이라는 제어된 표현력 비율을 사용하여 블록당 보간 계수의 수를 정의하고 다중 규모 합성을 가능하게 한다.
• 블록의 출력을 그들의 보간을 합산하여 최종 수평선 예측으로 형성되며, backcast 잔차가 후속 블록을 안내한다.

실험 결과

연구 질문

• RQ1 다중 비율 데이터 샘플링과 계층적 보간이 장기 예측의 정확도와 효율성을 어떻게 개선할 수 있는가?
• RQ2 예측을 서로 다른 시간 규모에 대응하는 해석 가능한 주파수 대역 구성요소로 분해할 수 있는가?
• RQ3 다양한 데이터셋에서 성능과 연산량에 대한 아키텍처 구성요소들(multi-rate sampling 대 계층적 보간)의 영향은 무엇인가?
• RQ4 공유 매개변수를 가진 단변량 모델이 장기 예측에서 다변량 Transformer 기반 기준선과 경쟁할 수 있는가?

주요 결과

• N-HiTS는 여섯 개의 장기 예측 데이터셋에서 강력한 Transformer 기준선에 비해 평균 MAE/MSE를 약 11–16% 향상시킨다.
• 이 방법은 최근 Transformer 아키텍처에 비해 평균 정확도 약 20% 향상을 제공하고 계산 시간을 약 50x 감소시킨다.
• 절충 연구(Ablation) 결과 두 구성요소인 multi-rate sampling과 hierarchical interpolation을 모두 결합하는 것이 최상의 성능을 낳으며, 어느 하나를 제거하면 정확도가 저하된다.
• N-HiTS는 예측을 주파수 대역으로 해석 가능한 비선형 분해를 제공하여 블록 전반의 추세와 계절성에 대한 통찰을 가능하게 한다.