[논문 리뷰] A Trainable Reconciliation Method for Hierarchical Time-Series

Davide Burba, Trista Chen|arXiv (Cornell University)|2021. 01. 05.

Time Series Analysis and Forecasting참고 문헌 16인용 수 11

한 줄 요약

이 논문은 인코더-디코더 아키텍처를 사용하여 계층적 시계열 예측에 대해 학습 가능한 신경망 기반 보정 방법을 제안한다. 인코더는 독립적인 예측을 일관된 최하위 수준 예측으로 매핑하는 데 학습하고, 고정된 디코더는 정확하게 상위 수준 예측을 재구성한다. 이로 인해 MASE 및 MLAE 지표에서 네 가지 실세계 데이터셋에서 최신 기술을 능가하는 일관된 성능을 기록한다.

ABSTRACT

In numerous applications, it is required to produce forecasts for multiple time-series at different hierarchy levels. An obvious example is given by the supply chain in which demand forecasting may be needed at a store, city, or country level. The independent forecasts typically do not add up properly because of the hierarchical constraints, so a reconciliation step is needed. In this paper, we propose a new general, flexible, and easy-to-implement reconciliation strategy based on an encoder-decoder neural network. By testing our method on four real-world datasets, we show that it can consistently reach or surpass the performance of existing methods in the reconciliation setting.

연구 동기 및 목표

• 기존 보정 방법의 한계를 해결하기 위해, MASE나 MLAE와 같은 특정 예측 지표를 최적화할 수 없는 유연성 부족 문제를 해결한다.
• 정확한 계층 구조 제약 조건을 유지하면서도 사용자 정의 손실 함수 최적화가 가능한 일반화된 학습 가능한 보정 프레임워크를 개발한다.
• 데이터에서 일관된 보정 패턴을 학습하기 위해 딥 러닝을 활용하여 계층적 시계열 예측의 정확도를 향상시킨다.
• 기존의 최적 조합 및 추적 최소화와 같은 확립된 방법과 비교하여 신경망 기반 접근 방식이 일관되게 성능을 뛰어넘거나 동등하게 유지할 수 있음을 입증한다.

제안 방법

• 이 방법은 인코더-디코더 신경망 아키텍처를 사용하며, 인코더는 독립적인 예측을 재조정된 최하위 수준 예측으로 매핑하는 학습 가능한 전방향 신경망이다.
• 디코더는 고정된 행렬로, 최하위 수준의 재조정된 예측에서 모든 계층 수준의 예측을 재구성하여 정확한 계층 제약 조건을 유지한다.
• 모델은 AdamW 옵timizer를 사용한 역전파 기반 학습과 함께, MASE나 MLAE와 같은 특정 지표를 최적화할 수 있도록 맞춤형 손실 함수를 사용한다.
• 인코더는 바닥에서부터의 방법을 근사하도록 초기화되어 있어 학습의 안정적인 시작점을 제공하고 고품질 솔루션으로의 수렴을 가능하게 한다.
• 드롭아웃, 학습률, 가중치 감쇠, 에포크 수, 히든 레이어 수 등의 하이퍼파라미터는 100개 조합에 대해 무작위 탐색을 통해 최적화된다.
• 고정된 디코더 매트릭스를 통해 정확한 재조정을 유지하면서도 더 표현력 있는 표현 공간을 학습함으로써 기존 방법을 일반화한다.

실험 결과

연구 질문

• RQ1 학습 가능한 신경망 접근 방식이 비학습 가능한 분석적 방법에 비해 계층적 시계열 예측의 보정 정확도를 향상시킬 수 있는가?
• RQ2 제안된 방법이 깊이와 복잡도가 다양한 다양한 계층적 구조와 실세계 데이터셋에 일반화되는가?
• RQ3 손실 함수 설계를 통해 모델 성능을 MASE나 MLAE와 같은 특정 지표에 대해 얼마나 최적화할 수 있는가?
• RQ4 여러 데이터셋에서 최적 조합, 추적 최소화, 상향/하향 접근 방식과 비교할 때 모델의 성능은 어떻게 되는가?
• RQ5 모델 초기화 및 아키텍처 설계가 보정 작업에서 수렴성과 최종 성능에 미치는 영향은 무엇인가?

주요 결과

• 제안된 방법은 MASE 및 MLAE 기준으로 네 가지 실세계 데이터셋 전반에서 최고 또는 최고 수준의 성능을 기록했으며, 일부 경우에서 통계적으로 유의미한 향상이 있었다.
• 오스트레일리아 소매 데이터셋에서, 수준 3에서 MASE 0.4923을 기록하여 이어지는 최고 성능 방법(OC)의 0.5377을 능가했다.
• 전기 데이터셋에서는 수준 3에서 MASE 0.4434를 기록하여 최고 성능 방법(BU)과 동일했으며, OC(0.4630)와 TM(0.4555)를 뚜렷이 앞섰다.
• 더 깊은 계층을 가진 데이터셋에서 가장 큰 향상을 보였으며, 이는 복잡한 다단계 예측 구조에서의 강점을 시사한다.
• 우유 데이터셋에서는 수준 0에서 MASE 1.0840을 기록하여 BU(1.0865)와 TM(1.0868)를 약간 앞서며, 수준 전반에서 MLAE 향상이 일관되게 관찰되었다.
• 모델은 지표와 계층 수준 전반에서 강건성을 보였으며, TDHP, TDFP, OC와 비교해 성능 변동성이 낮았다.