[论文解读] Neural Network Multitask Learning for Traffic Flow Forecasting

Feng Jin, Shiliang Sun|arXiv (Cornell University)|Dec 24, 2017

Traffic Prediction and Management Techniques参考文献 7被引用 4

一句话总结

本文提出一种用于交通流预测的多任务学习（MTL）反向传播神经网络，通过联合训练多个时间步长的预测以提升泛化能力。通过利用相邻时间点之间的相关交通流数据作为辅助任务，MTL模型相比单任务学习（STL）平均将预测误差降低9.31%，在城市交通预测中展现出更优的准确性和鲁棒性。

ABSTRACT

Traditional neural network approaches for traffic flow forecasting are usually single task learning (STL) models, which do not take advantage of the information provided by related tasks. In contrast to STL, multitask learning (MTL) has the potential to improve generalization by transferring information in training signals of extra tasks. In this paper, MTL based neural networks are used for traffic flow forecasting. For neural network MTL, a backpropagation (BP) network is constructed by incorporating traffic flows at several contiguous time instants into an output layer. Nodes in the output layer can be seen as outputs of different but closely related STL tasks. Comprehensive experiments on urban vehicular traffic flow data and comparisons with STL show that MTL in BP neural networks is a promising and effective approach for traffic flow forecasting.

研究动机与目标

• 为解决单任务学习（STL）在交通流预测中的局限性，即忽略了相关任务中的有用信息。
• 探究多任务学习（MTL）是否能够提升基于神经网络的交通流预测中的泛化能力和预测准确性。
• 开发并评估一种基于神经网络的MTL框架，通过共享隐藏表征，联合预测多个未来时间步长的交通流。
• 使用真实城市交通流数据，将基于MTL的神经网络与传统STL模型的性能进行对比。

提出的方法

• 设计一种具有多个输出的反向传播（BP）神经网络，每个输出对应一个不同的未来时间步长预测，从而有效同时建模多个相关任务。
• 所有时间步长预测共享隐藏层，通过共同表征实现在任务之间的知识迁移。
• 利用相邻时间步长流量的训练信号作为额外任务，提供归纳偏置，从而提升主预测任务的泛化能力。
• 模型以0.006的固定训练误差目标进行训练，最多训练300个周期，以确保收敛。
• 使用均方根误差（RMSE）作为主要评估指标，用于比较MTL与STL模型的预测性能。
• 实验基于六个路段的真实城市交通流数据进行，训练周期为22天，测试周期为最后3天。

实验结果

研究问题

• RQ1 与单任务学习相比，多任务学习是否能够提升神经网络在交通流预测中的泛化性能？
• RQ2 对多个时间步长预测进行联合训练，如何影响预测准确性和模型鲁棒性？
• RQ3 当使用相邻时间点的相关交通流数据作为辅助任务时，性能提升的幅度有多大？
• RQ4 MTL方法是否在多种城市道路路段上均相比STL降低了预测误差？

主要发现

• 在B_b路段，MTL神经网络相比STL的预测准确率提高了9.31%，RMSE从77.46降至70.25。
• 在所有六个测试路段中，MTL均持续降低了RMSE，改善幅度在2.34%至9.31%之间。
• MTL网络的训练误差在约125个周期后趋于稳定，表明在所选超参数下实现了有效收敛。
• MTL模型通过利用相关时间步长预测的归纳偏置，展现出更好的泛化能力，从而实现更精确的预测。
• 所有测试路段的性能提升均具有统计显著性，证实了MTL在时间序列交通流预测中的有效性。
• 结果表明，MTL是一种有前景的方法，可通过实现更早且更准确的拥堵预测，提升智能交通系统（ITS）的性能。