[論文レビュー] Orbit: Probabilistic Forecast with Exponential Smoothing

Edwin Ng, Zhishi Wang+3 more|arXiv (Cornell University)|Apr 18, 2020

Forecasting Techniques and Applications参考文献 17被引用数 5

ひとこと要約

この論文では、洗練されたベイジアン指数平滑法モデルを用いた確率的時系列予測のためのPythonパッケージOrbitを紹介する。StanとPyroを活用してグローバルトレンド、柔軟なノイズ分布、高度な事前分布を統合することで、M3、M4、Uberの運用時系列データを含む多様なデータセットにおいて、SARIMAやProphetよりも優れた精度（SMAPE低減）と高速な推論を達成した。

ABSTRACT

Time series forecasting is an active research topic in academia as well as industry. Although we see an increasing amount of adoptions of machine learning methods in solving some of those forecasting challenges, statistical methods remain powerful while dealing with low granularity data. This paper introduces a refined Bayesian exponential smoothing model with the help of probabilistic programming languages including Stan. Our model refinements include additional global trend, transformation for multiplicative form, noise distribution and choice of priors. A benchmark study is conducted on a rich set of time-series data sets for our models along with other well-known time series models.

研究の動機と目的

• 単変量時系列のための、柔軟で確率的な予測フレームワークを構築し、古典的指数平滑法を改善すること。
• 低粒度データの状況において、ディープラーニングモデルの解釈性と性能の限界を是正すること。
• ベイジアン推論、グローバルトレンド成分、強力な事前分布選択を統合することで、従来の統計モデルの汎化性能を向上させること。
• PyroやStanのような確率的プログラミング言語を活用した、高性能で再利用可能なPythonパッケージ（Orbit）を構築すること。
• 提案モデルを、M3、M4、Uberの運用時系列データなど多様な実世界およびベンチマークデータセットにおいて、最先端の手法（SARIMA、Prophet）と比較して評価すること。

提案手法

• グローバルトレンド項を組み込んだ洗練されたベイジアン指数平滑法モデル（LGT：Local Level、DLT：Local Linear Trend）を提案し、短期予測性能を向上させる。
• 応答変数の対数変換を用いた乗法的形態を導入することで、乗法的季節性およびトレンドのモデル化を可能にする。
• PyroとStanによる確率的プログラミングを活用し、MCMCおよびMAP推定を用いた完全なベイジアン推論を実施。柔軟な事前分布を採用。
• デフォルトで情報のない事前分布（例：正規分布N(0,1)）を採用。モデル安定性と性能向上のため、情報のある事前分布の選択肢も用意。
• オブジェクト指向アーキテクチャを採用したOrbitパッケージの設計により、推論ロジックを抽象化し、モジュラーで再利用可能なモデルコンponentを実現。
• 複数のホールドアウト分割と段階的な予測ホライズンを用いたバックテストをサポートし、性能評価の堅牢性を確保。

実験結果

リサーチクエスチョン

• RQ1 グローバルトレンド成分を有するベイジアン指数平滑法モデルは、古典的およびディープラーニング手法を上回る性能を示せるか？
• RQ2 柔軟なノイズ分布と情報のある事前分布の統合が、予測精度とモデルの頑健性にどのように影響するか？
• RQ3 Orbitパッケージは、Prophet や SARIMA といった既存の確率的予測ツールと比較して、計算効率をどの程度向上させるか？
• RQ4 提案されたモデルは、低粒度、短期予測、長尾時系列を含む多様なデータタイプにおいて、どの程度の性能を示すか？
• RQ5 対数変換を用いた乗法的形態モデルは、非線形的で乗法的な時系列パターンに対して性能を向上させられるか？

主な発見

• OrbitのLGTおよびDLTモデルは、すべてのデータセットでProphetやSARIMAを上回るSMAPEを達成。ライダー週次データでは平均SMAPEがLGTで0.108、DLTで0.106を記録。
• M4週次シリーズでは、Orbitモデルの平均SMAPEはLGTで0.077、DLTで0.081を記録。Prophet（0.192）とSARIMA（0.076）を大きく上回った。
• Uberの日次Eatsシリーズでは、OrbitのSMAPEはLGTで0.178、DLTで0.182を記録。一方でProphetは0.309であったため、精度は40％以上向上した。
• Orbitはトレーニング時間をProphetの4倍速く（1シリーズあたり2.5分 vs. 10分）、予測処理も桁違いに高速化（16ms vs. 2.4秒）。
• M4データでフルMCMCサンプリングを用いた場合、平均推論時間は1シリーズあたり2.5分と、高い計算効率を示した。
• ベンチマーク結果から、グローバルトレンドと柔軟な事前分布を有するベイジアン指数平滑法が、常に古典的および最新の予測ベースラインを上回ることが確認された。