[논문 리뷰] Orbit: Probabilistic Forecast with Exponential Smoothing

Edwin Ng, Zhishi Wang외 3명|arXiv (Cornell University)|2020. 04. 18.

Forecasting Techniques and Applications참고 문헌 17인용 수 5

한 줄 요약

이 논문은 파이썬 패키지 Orbit를 소개한다. Orbit는 개선된 베이지안 지수평활화 모델을 사용하여 확률적 시계열 예측을 수행한다. 스탠과 파이로를 통해 글로벌 트렌드, 유연한 노이즈 분포, 고급 사전 분포를 통합함으로써, M3, M4, 우버 운영 시계열을 포함한 다양한 데이터셋에서 SARIMA와 프로핏보다 뛰어난 정확도(낮은 SMAPE)와 더 빠른 추론을 달성한다.

ABSTRACT

Time series forecasting is an active research topic in academia as well as industry. Although we see an increasing amount of adoptions of machine learning methods in solving some of those forecasting challenges, statistical methods remain powerful while dealing with low granularity data. This paper introduces a refined Bayesian exponential smoothing model with the help of probabilistic programming languages including Stan. Our model refinements include additional global trend, transformation for multiplicative form, noise distribution and choice of priors. A benchmark study is conducted on a rich set of time-series data sets for our models along with other well-known time series models.

연구 동기 및 목표

• 단변량 시계열에 대해 고전적 지수평활화 모델을 개선하는 유연하고 확률적인 예측 프레임워크를 개발한다.
• 저해상도 데이터 환경에서 딥러닝 모델의 해석 가능성과 성능 한계를 해결한다.
• 베이지안 추론, 글로벌 트렌드 구성요소, 강력한 사전 분포 선택을 통해 전통적인 통계 모델을 향상시켜 보다 우수한 일반화 성능을 달성한다.
• 파이로와 스탠과 같은 확률적 프로그래밍 언어를 활용해 고성능이며 재사용 가능한 파이썬 패키지(Orbit)를 구축한다.
• 다양한 실세계 및 기준 데이터셋에서 제안된 모델을 최신 기준 방법(SARIMA, 프로핏)과 비교 평가한다.

제안 방법

• 단기 예측 성능을 향상시키기 위해 글로벌 트렌드 항목을 포함한 개선된 베이지안 지수평활화 모델(LGT, DLT)을 제안한다.
• 반응 변수의 로그 변환을 통해 곱셈 형태를 도입함으로써 곱셈 계절성과 추세를 모델링할 수 있도록 한다.
• Pyro와 스탠을 통한 확률적 프로그래밍을 활용해 전체 베이지안 추론을 수행하며, MCMC 및 MAP 추정을 사용하고, 다양한 사전 분포를 적용한다.
• 기본적으로 정보가 없는 사전 분포(예: 정규분포 N(0,1))를 사용하며, 모델 안정성과 성능 향상을 위해 정보가 있는 사전 분포도 제공한다.
• 객체 지향 아키텍처를 사용해 Orbit 패키지를 설계하여 추론 로직을 추상화하고, 모듈화되고 재사용 가능한 모델 구성 요소를 가능하게 한다.
• 다중 테스트 세트와 점진적인 예측 수준을 포함한 백테스트를 지원하여 성능 평가의 강건성을 확보한다.

실험 결과

연구 질문

• RQ1 글로벌 트렌드 구성요소를 갖춘 베이지안 지수평활화 모델이 고전적 및 딥러닝 방법보다 단변량 시계열 예측에서 승리할 수 있는가?
• RQ2 유연한 노이즈 분포와 정보가 있는 사전 분포의 통합이 예측 정확도와 모델의 강건성에 어떤 영향을 미치는가?
• RQ3 Orbit 패키지는 기존의 확률적 예측 도구인 프로핏과 SARIMA에 비해 계산 효율성에서 얼마나 향상되는가?
• RQ4 제안된 모델은 저해상도, 단기 예측, 긴 尾(타일) 시계열을 포함한 다양한 유형의 데이터에서 어떻게 성능을 발휘하는가?
• RQ5 반응 변수의 로그 변환을 통한 곱셈 형태 모델이 비선형적이고 곱셈적인 시계열 패턴에서 성능을 향상시킬 수 있는가?

주요 결과

• Orbit의 LGT 및 DLT 모델은 모든 데이터셋에서 프로핏과 SARIMA보다 낮은 SMAPE를 기록했으며, 라이더 주간 데이터에서 평균 SMAPE는 LGT가 0.108, DLT가 0.106를 기록했다.
• M4 주간 시리즈에서 Orbit 모델은 평균 SMAPE가 LGT 0.077, DLT 0.081을 기록했으며, 프로핏(0.192)과 SARIMA(0.076)를 크게 앞서나갔다.
• 우버의 일일 이츠 시리즈에서 Orbit의 SMAPE는 LGT 0.178, DLT 0.182였고, 프로핏의 0.309보다 40% 이상 높은 정확도를 기록했다.
• Orbit는 프로핏 대비 학습 시간을 4배 단축시켰다(시리즈당 2.5분 대비 10분)이며, 예측 속도는 배수 수준으로 향상되었다(16ms 대비 2.4초).
• 패키지는 평균적으로 M4 데이터에서 전체 MCMC 샘플링을 사용할 때 시리즈당 평균 2.5분의 추론 시간을 기록하며 뛰어난 계산 효율성을 보였다.
• 벤치마크 결과는 글로벌 트렌드와 유연한 사전 분포를 갖춘 베이지안 지수평활화 모델이 항상 고전적 및 현대적 예측 기준 모델을 능가함을 확인했다.