[论文解读] TrafficStream: A Streaming Traffic Flow Forecasting Framework Based on Graph Neural Networks and Continual Learning

Xu Chen, Junshan Wang+1 more|arXiv (Cornell University)|Jun 11, 2021

Traffic Prediction and Management Techniques参考文献 20被引用 5

一句话总结

TrafficStream 提出了一种基于图神经网络（GNNs）和持续学习的流式交通流预测框架，用于处理长期演化的交通网络，包括网络拓扑的扩展和交通模式的动态变化。它通过基于 JS-散度的特征分析融合新交通模式，并利用历史数据重放和参数平滑技术巩固历史知识，在保持与微调相当的高精度和效率的同时，相比完整微调将训练时间减少了约 65%。

ABSTRACT

With the rapid growth of traffic sensors deployed, a massive amount of traffic flow data are collected, revealing the long-term evolution of traffic flows and the gradual expansion of traffic networks. How to accurately forecasting these traffic flow attracts the attention of researchers as it is of great significance for improving the efficiency of transportation systems. However, existing methods mainly focus on the spatial-temporal correlation of static networks, leaving the problem of efficiently learning models on networks with expansion and evolving patterns less studied. To tackle this problem, we propose a Streaming Traffic Flow Forecasting Framework, TrafficStream, based on Graph Neural Networks (GNNs) and Continual Learning (CL), achieving accurate predictions and high efficiency. Firstly, we design a traffic pattern fusion method, cleverly integrating the new patterns that emerged during the long-term period into the model. A JS-divergence-based algorithm is proposed to mine new traffic patterns. Secondly, we introduce CL to consolidate the knowledge learned previously and transfer them to the current model. Specifically, we adopt two strategies: historical data replay and parameter smoothing. We construct a streaming traffic dataset to verify the efficiency and effectiveness of our model. Extensive experiments demonstrate its excellent potential to extract traffic patterns with high efficiency on long-term streaming network scene. The source code is available at https://github.com/AprLie/TrafficStream.

研究动机与目标

• 解决在长期流式网络中，面对不断演化的网络拓扑和节点增加的准确交通流预测挑战。
• 克服在静态网络上训练的模型在随时间出现新数据和新节点时发生灾难性遗忘的问题。
• 开发一个统一框架，高效融合新交通模式，同时保留先前学习到的知识。
• 实现在动态城市交通系统中实时、可扩展的交通预测模型部署。

提出的方法

• 提出一种基于 JS-散度的算法，用于检测和量化节点特征的变化，识别演化网络中的新交通模式。
• 采用交通模式融合机制，将来自新节点和现有节点的新检测到的模式整合进 GNN 模型。
• 通过历史数据重放实施持续学习，以保留过去训练数据的知识并防止遗忘。
• 使用模型参数平滑技术稳定学习过程，提升增量更新中的泛化能力。
• 基于真实世界的 PEMS 数据构建流式数据集 PEMSD3-Stream，用于评估长期性能。
• 结合 GNN 用于建模时空依赖性，以及在线学习策略以实现可扩展的增量训练。

实验结果

研究问题

• RQ1 如何在无需完整微调的情况下，使交通预测模型有效适应长期的网络扩展和不断演化的交通模式？
• RQ2 在交通网络中出现新节点和动态模式时，哪些技术可防止灾难性遗忘？
• RQ3 结合数据重放与参数平滑如何提升流式 GNN 中的知识巩固效果？
• RQ4 基于持续学习的 GNN 框架在降低计算成本的同时，能在多大程度上达到完整微调的预测精度？

主要发现

• TrafficStream 的预测精度与完整微调（Retrained-STModel）和最先进模型（STGCN、STSGCN）相当，其 MAE、RMSE 和 MAPE 值与上限值相差仅 1-2%。
• 与完整微调相比，该模型将总训练时间减少了约 65%，在长期部署中表现出极高的效率。
• 消融实验表明，新模式融合与知识巩固均至关重要：若省略任一机制，性能将显著下降，尤其在灾难性遗忘场景下更为明显。
• 数据重放相比仅使用参数平滑在知识巩固方面表现更优，而两者结合可获得最佳效果，证明其具有互补优势。
• 在为期 7 年的评估中，TrafficStream 在所有年份均保持稳定性能，而 Expansible-STModel 因遗忘导致性能下降。
• 基于 JS-散度的模式检测能有效识别演化中的交通模式，使模型能够适应新节点和动态变化。