[논문 리뷰] Machine learning applications in time series hierarchical forecasting

Mahdi Abolghasemi, Rob J. Hyndman외 2명|arXiv (Cornell University)|2019. 12. 01.

Forecasting Techniques and Applications참고 문헌 28인용 수 14

한 줄 요약

이 논문은 공급망에서 계층적 시계열 예측을 위한 기계학습(ML) 기반 동적 분해 접근법을 제안한다. XGBoost, ANN, SVR를 사용하여 중간 수준의 예측에서 하위 수준의 판매 비율을 예측한다. 이 방법은 전통적인 통계 모델보다 뚜렷이 뛰어난 성능을 보이며, 하위 수준에서 가장 높은 정확도를 달성한 XGBoost가 가장 우수한 성능을 보였고, ML 모델들은 프ом모션 수요 상황에서 BU 및 COM-WLS 모델을 일관되게 능가했다.

ABSTRACT

Hierarchical forecasting (HF) is needed in many situations in the supply chain (SC) because managers often need different levels of forecasts at different levels of SC to make a decision. Top-Down (TD), Bottom-Up (BU) and Optimal Combination (COM) are common HF models. These approaches are static and often ignore the dynamics of the series while disaggregating them. Consequently, they may fail to perform well if the investigated group of time series are subject to large changes such as during the periods of promotional sales. We address the HF problem of predicting real-world sales time series that are highly impacted by promotion. We use three machine learning (ML) models to capture sales variations over time. Artificial neural networks (ANN), extreme gradient boosting (XGboost), and support vector regression (SVR) algorithms are used to estimate the proportions of lower-level time series from the upper level. We perform an in-depth analysis of 61 groups of time series with different volatilities and show that ML models are competitive and outperform some well-established models in the literature.

연구 동기 및 목표

• 프로모션으로 인한 동적 수요 변화를 반영하지 못하는 정적 계층적 예측 모델(예: 톱다운, 바텀업, 최적 조합)의 한계를 해결하기 위해.
• 기계학습 모델이 상위 수준의 예측에서 하위 수준 시리즈의 시간에 따라 변화하는 비율을 학습함으로써 계층적 시계열에서의 분해 정확도를 향상시킬 수 있는지 조사하기 위해.
• 실제 FMCG 판매 데이터셋(프로모션으로 인한 높은 변동성 존재)을 활용하여 ML 모델(XGBoost, ANN, SVR)이 기존의 통계 모델(COM-WLS, BU)과 비교해 어떤 성능을 보이는지 평가하기 위해.
• 중간에서 하향 방식(MO) 접근법을 기계학습 기반 동적 비율 분배로 개선하여 계층적 예측에서의 효과성을 입증하기 위해.

제안 방법

• 두 수준의 공급망 계층에서 중간 수준에서의 예측을 생성하는 중간에서 하향(MO) 예측 접근법을 사용한다.
• 중간 수준의 예측을 상위 수준으로 집계한 후, 하위 수준으로 ML 모델을 활용해 분해한다. 이때 ML 모델은 각 하위 수준 시리즈의 비율을 예측하도록 훈련된다.
• 과거 판매 및 프로모션 특성 기반으로 시간에 따라 변화하는 하위 수준 분해 요인을 추정하기 위해 XGBoost, 인공신경망(ANN), 서포트 벡터 회귀(SVR)의 세 가지 기계학습 모델을 훈련한다.
• 계층의 상위, 중간, 하위 수준에서의 1단계, 4단계, 8단계 예측에 대해 MAE 및 MASE 지표를 사용해 모델을 평가한다.
• 프로모션로 인한 변동성이 높은 실세계 데이터셋을 사용하였으며, 이는 호주 소비자 제품 기업의 61개 그룹의 시계열로 구성되어 있다.
• 통계 기준 모델로는 톱다운(TD), 바텀업(BU), 최적 조합(COM) 모델을 포함하며, COM-WLS 및 COM-SHR은 특정 변형이다.

실험 결과

연구 질문

• RQ1 기계학습 모델은 계층적 시계열 예측에서 프로모션으로 인한 동적 수요 변동을 효과적으로 포착할 수 있는가?
• RQ2 ML 기반 동적 분해의 성능은 BU, TD, COM과 같은 전통적인 정적 계층적 예측 모델보다 어떻게 비교되는가?
• RQ3 ML 기반 비율 분배를 적용한 중간에서 하향 접근법은 직접 바텀업 예측에 비해 하위 수준의 예측 정확도를 향상시키는가?
• RQ4 XGBoost, ANN, SVR 중에서 어느 기계학습 모델이 프로모션 변동성 하에서 계층적 예측에서 가장 정확한 분해를 제공하는가?
• RQ5 계층의 다양한 수준에서 ML 모델과 최신 통계 모델 간의 예측 정확도에 유의미한 차이가 존재하는가?

주요 결과

• XGBoost는 하위 수준에서 가장 높은 예측 정확도를 기록했으며, BU 모델과 COM-WLS 및 COM-SHR 통계 기준 모델을 뚜렷이 능가했다.
• SVR는 하위 수준에서 두 번째로 뛰어난 결과를 내었으며, ML 모델 중에서도 뛰어난 성능를 보였고, 통계 모델과의 경쟁력 있는 정확도를 확보했다.
• DHF-ANN(기계학습 기반 동적 계층적 예측)는 하위 수준에서 경쟁적인 예측 성능을 보였으며, BU를 능가하고 COM-WLS 및 COM-SHR의 성능에 가까이 다가섰다.
• 상위 수준에서는 TD 및 TDFP 모델이 가장 뛰어난 예측을 하였으며, 이 둘 간에 유의미한 차이가 없었다. 이는 총 판매량의 변동성이 집계로 인해 감소했기 때문이다.
• 모든 수준에서 ML 모델과 최신 통계 모델 간의 예측 정확도에 통계적으로 유의미한 차이(p < 0.05)가 있었으며, 특히 하위 수준에서 두드러졌다.
• 중간 수준의 시리즈가 하위 수준의 시리즈와 다른 수요 패턴을 보였음에도 불구하고, BU 모델은 중간 수준에서 MO 접근법과 예측 정확도에서 유의미한 차이 없이 유사한 성능를 보였다.