[论文解读] Sales Forecast in E-commerce using Convolutional Neural Network

Kui Zhao, Can Wang|arXiv (Cornell University)|Aug 26, 2017

Time Series Analysis and Forecasting参考文献 19被引用 33

一句话总结

本文提出一种基于CNN的方法，从原始电商日志数据中自动学习销售预测特征，消除人工特征工程。通过将结构化日志数据转换为数据框并应用CNN，该方法在真实世界的CaiNiao.com数据集上实现了更优的预测准确率——尤其在使用样本权重衰减和迁移学习时表现更佳。

ABSTRACT

Sales forecast is an essential task in E-commerce and has a crucial impact on making informed business decisions. It can help us to manage the workforce, cash flow and resources such as optimizing the supply chain of manufacturers etc. Sales forecast is a challenging problem in that sales is affected by many factors including promotion activities, price changes, and user preferences etc. Traditional sales forecast techniques mainly rely on historical sales data to predict future sales and their accuracies are limited. Some more recent learning-based methods capture more information in the model to improve the forecast accuracy. However, these methods require case-by-case manual feature engineering for specific commercial scenarios, which is usually a difficult, time-consuming task and requires expert knowledge. To overcome the limitations of existing methods, we propose a novel approach in this paper to learn effective features automatically from the structured data using the Convolutional Neural Network (CNN). When fed with raw log data, our approach can automatically extract effective features from that and then forecast sales using those extracted features. We test our method on a large real-world dataset from CaiNiao.com and the experimental results validate the effectiveness of our method.

研究动机与目标

• 解决传统时间序列方法和人工特征工程在电商销售预测中的局限性。
• 开发一个端到端的深度学习模型，直接从原始结构化日志数据中学习有效表征。
• 通过使用卷积神经网络进行自动特征学习，提升预测准确率。
• 集成样本权重衰减和迁移学习以进一步提升模型性能。
• 构建一个可扩展、可重用的销售预测框架，能够以最少的人工干预适应新数据。

提出的方法

• 将原始电商日志数据（如PV、UV、PAY、GMV）及商品属性转换为结构化数据框，作为模型输入。
• 对数据框应用卷积神经网络（CNN），自动从数据的时间和空间模式中提取分层的有效特征。
• 使用全连接层与回归头，基于提取的特征预测未来销售。
• 实施样本权重衰减，优先考虑目标预测区间附近的训练样本，以提升短期预测准确率。
• 应用迁移学习，对不同区域或商品的模型进行微调，增强泛化能力和性能。
• 使用均方误差（MSE）作为损失函数，在CaiNiao.com的真实世界大规模数据集上训练模型。

实验结果

研究问题

• RQ1 基于CNN的模型能否从原始结构化电商日志数据中自动学习有效特征，超越传统时间序列方法和人工特征工程？
• RQ2 输入数据框的长度（即历史窗口）如何影响预测性能和模型鲁棒性？
• RQ3 样本权重衰减和迁移学习在多大程度上提升了预测准确率和泛化能力？
• RQ4 训练一个统一模型以实现跨多个区域的预测是否可行？其表现与区域特定模型相比如何？
• RQ5 预测区间长度与准确率之间的权衡是什么？这对业务决策灵活性有何影响？

主要发现

• 所提出的基于CNN的方法显著优于传统时间序列模型（如ARIMA）以及使用梯度提升的特征工程（FE+GBRT），尤其在捕捉复杂非线性销售模式方面表现突出。
• 采用样本权重衰减（β = 0.02）实现了学习长期与短期模式之间的良好平衡，提升了预测稳定性和准确率。
• 迁移学习进一步提升了模型性能，证明了其在不同商品或区域间知识迁移的有效性。
• 同时结合样本权重衰减与迁移学习的模型取得了最具竞争力的结果，在CaiNiao.com数据集上表现出强鲁棒性和高准确率。
• 较长的预测区间因销售更稳定而更容易预测，但较短的预测区间提供了更高的运营灵活性，凸显了实际应用中的关键权衡。
• 在所有区域数据上联合训练的统一模型表现不如区域特定模型，表明本地模式通过定制化训练能更有效地被捕捉。