[论文解读] Forecasting of Non-Stationary Sales Time Series Using Deep Learning

Bohdan M. Pavlyshenko|arXiv (Cornell University)|May 23, 2022

Forecasting Techniques and Applications被引用 4

一句话总结

本文提出一种具有专用趋势校正模块的深度学习模型，以提升非平稳销售时间序列的预测精度。该模型联合预测销售额及时间趋势项的权重（归一化时间 × 预测权重），并将该权重项加入预测销售额；实验结果表明，在完整数据集上，RMSE 从 1076 降低至 943，且在单个门店上改善效果更为显著。

ABSTRACT

The paper describes the deep learning approach for forecasting non-stationary time series with using time trend correction in a neural network model. Along with the layers for predicting sales values, the neural network model includes a subnetwork block for the prediction weight for a time trend term which is added to a predicted sales value. The time trend term is considered as a product of the predicted weight value and normalized time value. The results show that the forecasting accuracy can be essentially improved for non-stationary sales with time trends using the trend correction block in the deep learning model.

研究动机与目标

• 解决因未建模时间趋势而导致的非平稳销售时间序列预测偏差问题。
• 提升对短期或高度非平稳销售数据（尤其是新产品或新门店）的预测精度。
• 开发一种深度学习架构，可针对每个数据组（如每家门店）动态学习并校正内在时间趋势。
• 使用真实世界销售数据，评估趋势校正机制在深度学习框架中的有效性。

提出的方法

• 在深度神经网络中集成一个子网络模块，用于预测时间趋势项的权重。
• 将时间趋势建模为预测权重与归一化时间（例如，序列内缩放至 [0,1]）的乘积。
• 在输入主网络前，将分类特征（门店、客流量）的嵌入向量与数值输入进行拼接。
• 在主销售预测分支与趋势权重预测分支中，均使用 ReLU 激活函数的全连接层，并结合 Dropout 进行正则化。
• 在损失函数中联合组合预测的销售额与时间趋势项，以同步优化两个组件。
• 使用 PyTorch 训练模型，对数值特征进行标准归一化，并对分类变量采用独热编码或嵌入编码。

实验结果

研究问题

• RQ1 一种联合预测销售额与时间趋势权重的深度学习模型，能否提升非平稳销售时间序列的预测精度？
• RQ2 与标准深度学习模型相比，引入专用趋势校正模块后，RMSE 表现有何变化？
• RQ3 该趋势校正模块在不同趋势方向（如门店间呈上升或下降趋势）的非平稳数据中，能在多大程度上减少预测偏差？
• RQ4 该模型在具有不同内在时间趋势的门店之间是否具备良好的泛化能力？

主要发现

• 加入趋势校正模块的模型整体 RMSE 为 943，而未加入该模块的模型为 1076，相对提升 12.3%。
• 在具有强时间趋势的单个门店中，改进效果尤为显著：RMSE 从 3699 降至 1753（降低 52.5%），以及从 2515 降至 572（降低 77.3%）。
• 趋势校正模块显著降低了非平稳数据中的预测偏差，尤其在门店间趋势方向不一致的情况下效果更明显。
• 通过置换特征重要性分析显示，模型有效利用了时间特征与分类特征，以实现准确的趋势与销售预测。
• 训练与验证损失曲线（图 11 和 12）表明，加入趋势校正模块后，模型泛化能力更强，过拟合现象更少。
• 模型成功学习到各门店的独立趋势权重，从而实现了对异质销售动态的优化趋势校正。