[论文解读] A Capsule Network for Traffic Speed Prediction in Complex Road Networks

Youngjoo Kim, Peng Wang+2 more|arXiv (Cornell University)|Jul 23, 2018

Traffic Prediction and Management Techniques被引用 4

一句话总结

本文提出了一种基于胶囊网络的深度学习模型，用于复杂道路网络中的交通速度预测，用动态路由替代传统CNN的池化操作，以保留时空交通数据中的时空关系。在西班牙桑坦德市的真实数据上评估，该方法相比最先进基于CNN的方法将均方根误差降低了13.1%。

ABSTRACT

This paper proposes a deep learning approach for traffic flow prediction in complex road networks. Traffic flow data from induction loop sensors are essentially a time series, which is also spatially related to traffic in different road segments. The spatio-temporal traffic data can be converted into an image where the traffic data are expressed in a 3D space with respect to space and time axes. Although convolutional neural networks (CNNs) have been showing surprising performance in understanding images, they have a major drawback. In the max pooling operation, CNNs are losing important information by locally taking the highest activation values. The inter-relationship in traffic data measured by sparsely located sensors in different time intervals should not be neglected in order to obtain accurate predictions. Thus, we propose a neural network with capsules that replaces max pooling by dynamic routing. This is the first approach that employs the capsule network on a time series forecasting problem, to our best knowledge. Moreover, an experiment on real traffic speed data measured in the Santander city of Spain demonstrates the proposed method outperforms the state-of-the-art method based on a CNN by 13.1% in terms of root mean squared error.

研究动机与目标

• 解决卷积神经网络（CNN）因最大池化操作而难以保留交通数据中相互关系的局限性。
• 探索原本专为计算机视觉设计的胶囊网络在交通系统时间序列预测中的应用。
• 更有效地建模来自稀疏分布感应线圈传感器的交通速度数据中的时空依赖性。
• 通过捕捉交通模式中的层次关系，提升复杂道路网络中的预测准确性。
• 通过真实世界数据证明胶囊网络在交通速度预测中优于CNN的优越性。

提出的方法

• 将时空交通速度数据转换为具有空间和时间维度的3D表示形式，将其视为图像以进行深度学习处理。
• 用胶囊网络中的动态路由替代CNN中的传统最大池化，以保留空间关系和特征层次。
• 使用胶囊编码交通模式的姿势参数（如位置、尺度），以实现对路网各路段之间空间依赖关系的关注。
• 采用迭代动态路由来确定胶囊之间连接的强度，使网络能够学习交通特征之间的有意义关系。
• 在真实交通速度数据上端到端训练胶囊网络，以预测各路段未来的速度。
• 将模型应用于西班牙桑坦德市的真实世界数据集，与CNN基线方法对比评估性能。

实验结果

研究问题

• RQ1 胶囊网络能否通过保留时空关系，在交通速度预测中优于卷积神经网络？
• RQ2 动态路由在建模来自稀疏分布传感器的交通数据相互关系方面有多有效？
• RQ3 将最大池化替换为基于胶囊的路由，在复杂道路网络中能多大程度提升预测准确性？
• RQ4 胶囊网络架构是否适用于交通系统中的时间序列预测任务？
• RQ5 与最先进的基于CNN的方法相比，该方法在真实交通数据上的均方根误差（RMSE）表现如何？

主要发现

• 所提出的胶囊网络在西班牙桑坦德市的真实交通速度数据上，相比最先进基于CNN的方法，均方根误差（RMSE）降低了13.1%。
• 由于采用了动态路由，该模型在捕捉长距离依赖性和交通模式中的空间关系方面表现出更优性能。
• 胶囊的使用有效保留了特征层次和空间关系，而这些在标准CNN的最大池化操作中会丢失。
• 该方法是首个已知将胶囊网络应用于时间序列预测的实例，特别是在交通速度预测中。
• 结果证实，动态路由增强了时空交通数据中的特征表示学习，从而实现更准确的预测。
• 即使在传感器数据稀疏的情况下，该模型仍保持高性能，表明其在真实世界部署场景中的鲁棒性。