[论文解读] Traffic4cast 2020 -- Graph Ensemble Net and the Importance of Feature And Loss Function Design for Traffic Prediction

Qi Qi, Pak Hay Kwok|arXiv (Cornell University)|Dec 3, 2020

Traffic Prediction and Management Techniques参考文献 11被引用 5

一句话总结

本文提出了一种图集成网络（Graph Ensemble Net），通过结合U-Net与一种新颖的图神经网络（GNN）架构，提升了在Traffic4cast 2020挑战赛中的交通预测性能。通过精心设计特征和损失函数，作者显著超越了去年的U-Net基线模型，最终获得总体第4名，充分体现了模型架构与损失函数设计在交通预测模型中的关键作用。

ABSTRACT

This paper details our solution to Traffic4cast 2020. Similar to Traffic4cast 2019, Traffic4cast 2020 challenged its contestants to develop algorithms that can predict the future traffic states of big cities. Our team tackled this challenge on two fronts. We studied the importance of feature and loss function design, and achieved significant improvement to the best performing U-Net solution from last year. We also explored the use of Graph Neural Networks and introduced a novel ensemble GNN architecture which outperformed the GNN solution from last year. While our GNN was improved, it was still unable to match the performance of U-Nets and the potential reasons for this shortfall were discussed. Our final solution, an ensemble of our U-Net and GNN, achieved the 4th place solution in Traffic4cast 2020.

研究动机与目标

• 通过优化特征工程与损失函数设计，提升大型城市区域的交通预测性能。
• 评估图神经网络（GNNs）在建模交通数据空间依赖关系方面的有效性。
• 开发并验证一种结合U-Net与GNN的新型集成架构，以提升预测准确性。
• 分析基于GNN的模型与最先进U-Net模型在交通预测中的性能差距。
• 为真实世界交通预测基准中最大化预测性能的架构与训练设计选择提供洞见。

提出的方法

• 作者设计了一套自定义的特征工程流程，整合时间、空间与上下文交通特征，以改善模型输入表示。
• 提出一种改进的损失函数，强调对高流量区域的预测精度，从而提升模型在关键交通状态下的泛化能力。
• 引入一种新型图神经网络架构，利用图卷积层对路网路段之间的空间依赖关系进行建模。
• 通过加权平均方式，将优化后的U-Net与新GNN的预测结果进行融合，构建集成模型以提升鲁棒性。
• GNN采用自定义损失函数进行端到端训练，并与Traffic4cast 2019的基线GNN及U-Net进行性能对比。
• 利用验证数据对超参数进行调优，并应用模型集成以进一步提升最终预测性能。

实验结果

研究问题

• RQ1 输入特征的选择如何影响交通预测模型的预测性能？
• RQ2 一种优先考虑高流量区域的自定义损失函数在多大程度上提升了模型的泛化能力？
• RQ3 新设计的GNN架构能否在预测未来交通状态方面超越Traffic4cast 2019的GNN解决方案？
• RQ4 尽管GNN能够建模空间依赖关系，为何其性能仍逊于U-Net模型？
• RQ5 将U-Net与GNN进行集成是否能带来优于单一模型的性能提升？

主要发现

• 所提出的特征工程与自定义损失函数显著提升了U-Net基线模型的性能，超越了去年冠军方案。
• 新型GNN架构的性能优于Traffic4cast 2019的GNN模型，证明了架构创新的价值。
• 尽管有所改进，GNN模型在性能上仍落后于U-Net，表明其在该特定时空预测任务中存在局限性。
• 优化后的U-Net与GNN集成模型在Traffic4cast 2020竞赛中取得第4名，验证了模型集成的有效性。
• 本研究强调，精心设计的特征与损失函数与架构创新同等重要，是实现高性能交通预测模型的关键。
• 作者识别出GNN性能不佳的潜在原因，包括对长距离依赖关系建模不足，以及图结构中时间建模能力有限。