[论文解读] Demand Forecasting from Spatiotemporal Data with Graph Networks and Temporal-Guided Embedding

Doyup Lee, Suehun Jung+3 more|arXiv (Cornell University)|May 26, 2019

Traffic Prediction and Management Techniques参考文献 49被引用 5

一句话总结

本文提出Temporal-Guided Network (TGNet)，一种基于图神经网络和时序引导嵌入的轻量化高效基线模型，用于短期需求预测。TGNet通过利用排列不变的空间特征提取和显式的时序上下文编码，在仅使用SOTA模型20分之1参数量的情况下实现了具有竞争力的性能，同时在罕见、高影响的异常需求事件上表现出更优的泛化能力。

ABSTRACT

Short-term demand forecasting models commonly combine convolutional and recurrent layers to extract complex spatiotemporal patterns in data. Long-term histories are also used to consider periodicity and seasonality patterns as time series data. In this study, we propose an efficient architecture, Temporal-Guided Network (TGNet), which utilizes graph networks and temporal-guided embedding. Graph networks extract invariant features to permutations of adjacent regions instead of convolutional layers. Temporal-guided embedding explicitly learns temporal contexts from training data and is substituted for the input of long-term histories from days/weeks ago. TGNet learns an autoregressive model, conditioned on temporal contexts of forecasting targets from temporal-guided embedding. Finally, our model achieves competitive performances with other baselines on three spatiotemporal demand dataset from real-world, but the number of trainable parameters is about 20 times smaller than a state-of-the-art baseline. We also show that temporal-guided embedding learns temporal contexts as intended and TGNet has robust forecasting performances even to atypical event situations.

研究动机与目标

• 开发一种简单但强大的短期需求预测基线模型，避免使用复杂架构和长期历史输入。
• 通过可学习嵌入显式建模时间上下文（如周期性和季节性），提升预测性能。
• 提升模型在少数但高影响需求事件（如演唱会、节假日）上的泛化能力，这些事件在训练数据中较为罕见。
• 在保持或提升性能的同时，降低模型复杂度和参数量，相比现有SOTA模型更具优势。
• 提供从真实时间序列数据中学习到的时间模式的可解释可视化结果。

提出的方法

• 使用具有排列不变特性的图神经网络操作，提取对相邻区域顺序不敏感的空间特征。
• 采用时序引导嵌入，将一天中的时间、星期几和节假日状态编码为可学习嵌入，显式捕捉时间上下文。
• 将时序引导嵌入与输入需求模式拼接，引导模型识别重复出现的时间模式，而无需依赖长期历史序列。
• 堆叠多层图网络，统一端到端框架中联合学习复杂的时空依赖关系。
• 在真实世界叫车需求数据集上，使用均方误差（MSE）损失进行端到端训练。
• 在平均需求和极端异常事件样本上评估性能，以衡量泛化能力。

实验结果

研究问题

• RQ1 一个简单且轻量化的模型是否能在不使用长期历史需求数据的情况下实现具有竞争力的预测性能？
• RQ2 通过时序引导嵌入实现的显式时间上下文编码，如何提升预测准确率和可解释性？
• RQ3 一个参数量显著更少的模型是否能在训练数据中代表性不足的罕见高影响需求事件上实现更好的泛化？
• RQ4 排列不变的空间特征学习是否在需求预测中优于传统卷积操作？
• RQ5 时序引导嵌入在多大程度上能提供真实世界需求数据中时间模式的可解释可视化？

主要发现

• TGNet在真实世界数据集上达到SOTA性能，在NYC-taxi数据集上RMSE为19.64，在SEO-taxi数据集上针对前1%需求事件的RMSE为27.43，优于STResNet和STDN等模型。
• 该模型参数量约为0.5M，仅为近期SOTA模型STDN（约950万参数）的1/20，同时保持了具有竞争力的准确率。
• 时序引导嵌入支持可解释的t-SNE可视化，能清晰分离时间聚类（如通勤、夜间、周末），并显示节假日模式与周末相邻的特征。
• TGNet在异常事件样本上的泛化能力显著优于基线模型——在SEO-taxi数据集的前1%事件中，RMSE为36.37，而GN模型为39.91，GN+TGE模型为47.32。
• 即使在其他模型无法在大规模数据集上训练时，该模型仍能保持强劲性能，表明其具备鲁棒性和可扩展性。
• 引入下车流量特征可进一步提升对异常事件的预测性能，表明其作为未来需求激增的代理指标具有重要价值。