[论文解读] Long-Term Mobile Traffic Forecasting Using Deep Spatio-Temporal Neural Networks

Chaoyun Zhang, Paul Patras|arXiv (Cornell University)|Dec 21, 2017

Traffic Prediction and Management Techniques参考文献 18被引用 9

一句话总结

本文提出了一种深度时空神经网络（STN）及其双STN（D-STN）架构，利用ConvLSTM和3D-ConvNet模型捕捉移动流量中的复杂时空相关性，实现在极少真实观测数据下的高精度长期预测。即使仅使用2小时的观测数据，D-STN的预测误差也比ARIMA和Holt-Winters模型低达61%。

ABSTRACT

Forecasting with high accuracy the volume of data traffic that mobile users will consume is becoming increasingly important for precision traffic engineering, demand-aware network resource allocation, as well as public transportation. Measurements collection in dense urban deployments is however complex and expensive, and the post-processing required to make predictions is highly non-trivial, given the intricate spatio-temporal variability of mobile traffic due to user mobility. To overcome these challenges, in this paper we harness the exceptional feature extraction abilities of deep learning and propose a Spatio-Temporal neural Network (STN) architecture purposely designed for precise network-wide mobile traffic forecasting. We present a mechanism that fine tunes the STN and enables its operation with only limited ground truth observations. We then introduce a Double STN technique (D-STN), which uniquely combines the STN predictions with historical statistics, thereby making faithful long-term mobile traffic projections. Experiments we conduct with real-world mobile traffic data sets, collected over 60 days in both urban and rural areas, demonstrate that the proposed (D-)STN schemes perform up to 10-hour long predictions with remarkable accuracy, irrespective of the time of day when they are triggered. Specifically, our solutions achieve up to 61% smaller prediction errors as compared to widely used forecasting approaches, while operating with up to 600 times shorter measurement intervals.

研究动机与目标

• 解决在监测数据有限的密集城市和农村网络中实现高精度长期移动流量预测的挑战。
• 克服传统时间序列模型（如ARIMA和Holt-Winters）忽略空间相关性且需要长时间观测周期的局限性。
• 开发一种基于深度学习的架构，以捕捉多个基站之间的时序趋势与空间依赖关系。
• 实现在不同城市间高效、可复用的预测模型，而无需从头开始重新训练。

提出的方法

• STN架构融合来自两条并行路径的特征：一个ConvLSTM层用于建模时空动态，一个3D-ConvNet层用于捕捉跨时间的空间模式。
• 两层融合机制将ConvLSTM和3D-ConvNet的输出结合，以提取分层的时空表征。
• 一个多层感知机（MLP）将融合后的特征映射为未来移动流量量的最终预测结果。
• Ouroboros训练方案（OTS）利用有限的真实观测数据对预训练的STN模型进行微调，提升泛化能力。
• D-STN技术通过轻量级融合机制将STN的预测结果与历史统计趋势相结合，从而增强预测性能。
• 模型在米兰和特伦蒂诺的真实60天移动流量数据集上进行训练与评估，覆盖城市与农村部署场景。

实验结果

研究问题

• RQ1 深度时空神经网络架构能否有效建模多个地理区域和时间间隔下的长期移动流量模式？
• RQ2 与单个基站预测相比，引入基站间空间相关性在多大程度上提升了预测精度？
• RQ3 经过微调的深度学习模型在仅使用极少真实观测数据的情况下，能达到多高的预测精度？
• RQ4 结合神经网络预测与历史统计趋势的D-STN机制，在多大程度上提升了长期预测性能？
• RQ5 所提出的（D-）STN模型能否在无需重新训练的情况下，泛化到具有不同地理布局和流量规模的城市？

主要发现

• 所提出的D-STN相比广泛使用的ARIMA和Holt-Winters指数平滑（HW-ExpS）方法，NRMSE最高可降低61%。
• D-STN仅需2小时真实观测数据即可实现10小时的高精度流量预测，显著减少了数据采集需求。
• 与ARIMA和HW-ExpS相比，D-STN的测量间隔最短可缩短至其1/600，后者需要50天的观测周期。
• 在长期预测精度方面，D-STN优于其他深度学习基线模型，包括ConvLSTM、3D-ConvNet、MLP和SVM。
• 在某一城市数据上训练后，（D-）STN模型无需重新训练即可有效泛化到具有不同地理布局和流量模式的其他城市。
• Ouroboros训练方案（OTS）成功利用有限真实观测数据对STN模型进行微调，显著提升了其性能与适应能力。