[论文解读] Explainable Graph Pyramid Autoformer for Long-Term Traffic Forecasting

Weiheng Zhong, Tanwi Mallick+3 more|arXiv (Cornell University)|Sep 27, 2022

Traffic Prediction and Management Techniques被引用 8

一句话总结

该论文提出X-GPA，一种具有新型金字塔自相关注意力机制的可解释图神经网络，用于长期交通预测。通过分层提取时间特征并利用图注意力建模空间依赖性，X-GPA在保持计算效率的同时，相比最先进方法将预测准确率最高提升了35%，并提供基于注意力分数的空间与时间解释，揭示不同交通条件下的动态变化。

ABSTRACT

Accurate traffic forecasting is vital to an intelligent transportation system. Although many deep learning models have achieved state-of-art performance for short-term traffic forecasting of up to 1 hour, long-term traffic forecasting that spans multiple hours remains a major challenge. Moreover, most of the existing deep learning traffic forecasting models are black box, presenting additional challenges related to explainability and interpretability. We develop Graph Pyramid Autoformer (X-GPA), an explainable attention-based spatial-temporal graph neural network that uses a novel pyramid autocorrelation attention mechanism. It enables learning from long temporal sequences on graphs and improves long-term traffic forecasting accuracy. Our model can achieve up to 35 % better long-term traffic forecast accuracy than that of several state-of-the-art methods. The attention-based scores from the X-GPA model provide spatial and temporal explanations based on the traffic dynamics, which change for normal vs. peak-hour traffic and weekday vs. weekend traffic.

研究动机与目标

• 为解决一小时以上长期交通预测的挑战，现有模型在时间序列复杂性与计算成本方面面临困难。
• 通过建模道路网络中的分层时间模式与空间依赖性，提升长期交通预测的准确性。
• 提出一种新型注意力机制，在捕捉长时间依赖性的同时降低计算复杂度。
• 通过注意力分数提供内在可解释性，解释预测中的空间与时间影响因素，为交通管理者提供信任与洞察。
• 在保持高准确率与可解释性的同时，建立长期交通预测的新最先进水平，克服大多数深度学习模型的黑箱特性。

提出的方法

• X-GPA采用图注意力网络，利用道路网络中的行驶距离与节点对之间的关系来建模空间依赖性。
• 提出一种金字塔自相关注意力机制，通过分层处理时间序列片段，并利用自相关性组合特征，以捕捉长时间依赖的时间模式。
• 采用基于片段的自注意力机制，相比标准$O(n^2)$注意力，显著降低计算复杂度，实现对长序列的高效处理。
• 通过分层片段策略在多尺度提取时间特征，并利用自相关性融合特征，增强长期依赖学习能力。
• 通过基于Transformer的架构整合空间与时间表征，实现复杂时空动态的端到端学习。
• 利用最终层的注意力分数生成可解释的预测解释，突出影响预测的关键空间位置与时间窗口。

实验结果

研究问题

• RQ1 所提出的新型注意力机制是否能在保持计算效率的同时，有效建模交通时间序列中的长时间依赖性？
• RQ2 与标准自注意力或循环神经网络架构相比，所提出的金字塔自相关注意力机制在长期交通预测中是否能显著提升预测准确率？
• RQ3 模型的注意力分数在不同交通条件（如高峰时段与非高峰时段）下，能否提供有意义且可解释的预测解释？
• RQ4 X-GPA在多种真实世界数据集上，是否在长期交通预测准确率方面超越现有最先进空间-时间图神经网络？
• RQ5 与现有基于注意力或循环的GNN相比，该模型在处理长序列时是否能在保持高性能的同时显著减少训练时间？

主要发现

• 在PEMS-Bay与Metr-LA数据集上，X-GPA相比最先进方法，长期交通预测准确率最高提升达35%。
• 在情形1（15–60分钟预测）中，X-GPA优于HA与Autoformer，在PEMS-Bay上MAE分别为1.49 mph（15分钟）、1.87 mph（30分钟）与2.23 mph（60分钟），在Metr-LA上分别为2.29 mph（15分钟）、2.91 mph（30分钟）与3.76 mph（60分钟）。
• 在情形2（聚合历史数据）中，X-GPA的MAE低于STGCN与ASTGCN，在PEMS-Bay上为1.32 mph（15分钟）、1.62 mph（30分钟）与1.95 mph（60分钟），在Metr-LA上为2.12 mph（15分钟）、2.72 mph（30分钟）与3.50 mph（60分钟）。
• 在情形3（选择性历史输入）中，X-GPA表现最佳，在PEMS-Bay上为1.43 mph（15分钟）、1.79 mph（30分钟）与2.27 mph（60分钟），在Metr-LA上为2.49 mph（15分钟）、3.60 mph（30分钟）与4.07 mph（60分钟）。
• X-GPA的训练时间显著低于DCRNN与ASTGCN——在PEMS-Bay上为4.5小时，在Metr-LA上为3.5小时，而后者分别为12,600小时与1,512小时，展现出极高的效率。
• 模型提供的基于注意力分数的解释在正常交通与高峰时段之间、工作日与周末之间存在显著差异，能够提供对交通动态的可解释洞察。