[论文解读] Orbit: Probabilistic Forecast with Exponential Smoothing

Edwin Ng, Zhishi Wang+3 more|arXiv (Cornell University)|Apr 18, 2020

Forecasting Techniques and Applications参考文献 17被引用 5

一句话总结

本文介绍了Orbit，一个使用改进的贝叶斯指数平滑模型进行概率时间序列预测的Python包。通过在Stan和Pyro中引入全局趋势、灵活的噪声分布和先进的先验分布，Orbit在包括M3、M4和Uber运营时间序列在内的多种数据集上，相较于SARIMA和Prophet实现了更高的准确度（更低的SMAPE）和更快的推理速度。

ABSTRACT

Time series forecasting is an active research topic in academia as well as industry. Although we see an increasing amount of adoptions of machine learning methods in solving some of those forecasting challenges, statistical methods remain powerful while dealing with low granularity data. This paper introduces a refined Bayesian exponential smoothing model with the help of probabilistic programming languages including Stan. Our model refinements include additional global trend, transformation for multiplicative form, noise distribution and choice of priors. A benchmark study is conducted on a rich set of time-series data sets for our models along with other well-known time series models.

研究动机与目标

• 开发一个灵活的概率预测框架，以改进单变量时间序列的古典指数平滑方法。
• 解决深度学习模型在低粒度数据场景下的可解释性和性能局限性。
• 通过贝叶斯推断、全局趋势分量和稳健的先验选择，增强传统统计模型的泛化能力。
• 构建一个高性能、可重用的Python包（Orbit），利用Pyro和Stan等概率编程语言。
• 在多样化的现实世界和基准数据集上，将所提出的模型与最先进方法（SARIMA、Prophet）进行基准测试。

提出的方法

• 提出改进的贝叶斯指数平滑模型——LGT（局部水平）和DLT（局部线性趋势），引入全局趋势项以提升短期预测性能。
• 通过响应变量的对数变换引入乘法形式，实现对乘法季节性和趋势的建模。
• 利用Pyro和Stan进行概率编程，实现完整的贝叶斯推断，采用MCMC和MAP估计，并使用灵活的先验分布。
• 默认使用非信息先验（如Normal(0,1)），并提供信息先验选项以提升模型稳定性和性能。
• 采用面向对象架构设计Orbit包，抽象推理逻辑，实现模块化、可重用的模型组件。
• 支持多组保留样本的回溯测试和增量预测范围，以确保性能评估的稳健性。

实验结果

研究问题

• RQ1 具有全局趋势分量的贝叶斯指数平滑模型是否能在单变量时间序列预测中超越经典方法和深度学习方法？
• RQ2 灵活的噪声分布和信息先验的整合对预测准确度和模型鲁棒性有何影响？
• RQ3 与现有概率预测工具（如Prophet和SARIMA）相比，Orbit包在计算效率方面提升了多少？
• RQ4 所提出的模型在多样化的数据类型（包括低粒度、短周期和长尾时间序列）上的表现如何？
• RQ5 通过响应变量对数变换实现的乘法形式模型是否能提升对非线性、乘法性时间序列模式的预测性能？

主要发现

• 在所有数据集上，Orbit的LGT和DLT模型的SMAPE均低于Prophet和SARIMA，其中在骑手每周数据上的平均SMAPE分别为0.108（LGT）和0.106（DLT）。
• 在M4周度系列中，Orbit模型的平均SMAPE为0.077（LGT）和0.081（DLT），显著优于Prophet（0.192）和SARIMA（0.076）。
• 对于Uber的每日Eats系列，Orbit的SMAPE为0.178（LGT）和0.182（DLT），而Prophet为0.309，表明准确度提升了40%以上。
• 与Prophet相比，Orbit将训练时间减少4倍（每序列2.5分钟 vs. 10分钟），并将预测速度提升数个数量级（16ms vs. 2.4秒）。
• 该包展示了强大的计算效率，使用M4数据的完整MCMC采样时，每序列的平均推理时间为2.5分钟。
• 基准结果证实，结合全局趋势和灵活先验的贝叶斯指数平滑方法，始终优于经典和现代的预测基线。