[论文解读] Online Spatio-Temporal Correlation-Based Federated Learning for Traffic Flow Forecasting

Qingxiang Liu, Sheng Sun+3 more|arXiv (Cornell University)|Feb 17, 2023

Traffic Prediction and Management Techniques被引用 6

一句话总结

该论文提出FedOSTC，一种基于在线时空相关性的联邦学习新框架，用于交通流预测，通过在线梯度下降实现实时模型更新。通过使用图注意力网络（GAT）动态建模空间相关性，并采用周期感知聚合机制，FedOSTC在真实世界数据集上实现了优于批量学习联邦学习方法的预测精度和泛化能力。

ABSTRACT

Traffic flow forecasting (TFF) is of great importance to the construction of Intelligent Transportation Systems (ITS). To mitigate communication burden and tackle with the problem of privacy leakage aroused by centralized forecasting methods, Federated Learning (FL) has been applied to TFF. However, existing FL-based approaches employ batch learning manner, which makes the pre-trained models inapplicable to subsequent traffic data, thus exhibiting subpar prediction performance. In this paper, we perform the first study of forecasting traffic flow adopting Online Learning (OL) manner in FL framework and then propose a novel prediction method named Online Spatio-Temporal Correlation-based Federated Learning (FedOSTC), aiming to guarantee performance gains regardless of traffic fluctuation. Specifically, clients employ Gated Recurrent Unit (GRU)-based encoders to obtain the internal temporal patterns inside traffic data sequences. Then, the central server evaluates spatial correlation among clients via Graph Attention Network (GAT), catering to the dynamic changes of spatial closeness caused by traffic fluctuation. Furthermore, to improve the generalization of the global model for upcoming traffic data, a period-aware aggregation mechanism is proposed to aggregate the local models which are optimized using Online Gradient Descent (OGD) algorithm at clients. We perform comprehensive experiments on two real-world datasets to validate the efficiency and effectiveness of our proposed method and the numerical results demonstrate the superiority of FedOSTC.

研究动机与目标

• 解决批量学习联邦学习在交通流预测中的局限性，即预训练模型无法适应动态交通波动。
• 在隐私保护的联邦学习设置下，实现实时、增量模型更新，以支持低延迟交通流预测。
• 通过动态评估客户端之间的空间相关性并整合周期性模式，在模型聚合中提升全局模型的泛化能力。
• 通过引入周期感知加权聚合机制，克服标准平均聚合在联邦学习中适应性差的问题。

提出的方法

• 客户端使用基于GRU的编码器，从序列交通速度数据中提取内部时间模式。
• 中央服务器采用图注意力网络（GAT），基于实时交通数据动态评估客户端之间的空间相关性。
• 在每次新数据观测后，使用在线梯度下降（OGD）以增量方式更新本地模型。
• 周期感知聚合机制根据本地模型的时间周期性和预测性能进行加权，以增强全局模型的泛化能力。
• 该框架将在线学习与联邦学习相结合，支持对变化交通模式的持续适应，无需重新训练。
• 通过基于周期性和性能确定的权重，迭代更新全局模型，使用本地优化模型的加权平均。

实验结果

研究问题

• RQ1 与批量学习方法相比，在联邦学习设置中采用在线学习是否能提升交通流预测性能？
• RQ2 在联邦学习框架中，如何动态评估交通节点之间的空间相关性以适应交通波动？
• RQ3 在模型聚合中引入周期性模式是否能增强全局模型在交通预测中的泛化能力？
• RQ4 所提出的周期感知聚合机制在多大程度上降低了各客户端之间的预测误差方差？

主要发现

• 在METR-LA和PEMS-BAY数据集上，FedOSTC在RMSE和MAE指标上均优于所有基线方法，包括最先进的联邦学习和集中式模型。
• 与FedAvgOn相比，FedOSTC在客户端之间的预测误差方差显著更低，表明其具备更优的泛化能力。
• 与现有最佳联邦学习方法CNFGNN相比，该方法实现了更低的RMSE和MAE，且与真实值的偏差更小。
• 增加本地训练轮次可提升预测精度，但会增加计算成本，表明性能与资源使用之间存在权衡。
• 周期感知聚合机制有效增强了模型泛化能力，尤其在动态交通条件下表现更优。
• 通过增量更新的在线学习实现了实时适应，避免了重新训练，降低了预测延迟。