[论文解读] Graph WaveNet for Deep Spatial-Temporal Graph Modeling
Graph WaveNet 引入自适应邻接矩阵和堆叠扩张因果卷积，以建模时空图，在端到端高效训练下实现了前沿的交通预测性能。
Spatial-temporal graph modeling is an important task to analyze the spatial relations and temporal trends of components in a system. Existing approaches mostly capture the spatial dependency on a fixed graph structure, assuming that the underlying relation between entities is pre-determined. However, the explicit graph structure (relation) does not necessarily reflect the true dependency and genuine relation may be missing due to the incomplete connections in the data. Furthermore, existing methods are ineffective to capture the temporal trends as the RNNs or CNNs employed in these methods cannot capture long-range temporal sequences. To overcome these limitations, we propose in this paper a novel graph neural network architecture, Graph WaveNet, for spatial-temporal graph modeling. By developing a novel adaptive dependency matrix and learn it through node embedding, our model can precisely capture the hidden spatial dependency in the data. With a stacked dilated 1D convolution component whose receptive field grows exponentially as the number of layers increases, Graph WaveNet is able to handle very long sequences. These two components are integrated seamlessly in a unified framework and the whole framework is learned in an end-to-end manner. Experimental results on two public traffic network datasets, METR-LA and PEMS-BAY, demonstrate the superior performance of our algorithm.
研究动机与目标
- 解决时空建模中固定图结构的局限性。）
- 直接从数据中学习潜在的空间依赖关系。
- 在不使用 RNN 的情况下高效捕捉长程时间依赖。
- 在端到端框架中将图卷积与扩张因果卷积结合起来。
提出的方法
- 引入一个图卷积层，其自适应邻接矩阵通过节点嵌入学习得到。
- 将基于扩散的图卷积与自适应图卷积结合，以建模空间依赖。
- 使用堆叠的扩张因果卷积（Gated TCN）来捕捉长程时间模式。
- 在一个统一的端到端框架中，将时空层堆叠并配以残差和跳跃连接。
- 训练模型以联合预测多步输出，避免训练与推断不匹配。
- 在一次前向传播中输出所有 T 步的预测，而非递归地预测。
实验结果
研究问题
- RQ1自适应邻接矩阵是否能够揭示超出固定图的隐藏空间依赖？
- RQ2将自适应空间连接与扩张时序卷积相结合是否能提升长期预测性能？
- RQ3在交通数据集上，Graph WaveNet 在准确性和效率方面与现有时空模型相比如何？
主要发现
| 数据集 | 模型 | 15 分钟 MAE | 15 分钟 RMSE | 15 分钟 MAPE | 30 分钟 MAE | 30 分钟 RMSE | 30 分钟 MAPE | 60 分钟 MAE | 60 分钟 RMSE | 60 分钟 MAPE |
|---|---|---|---|---|---|---|---|---|---|---|
| METR-LA | ARIMA | 3.99 | 8.21 | 9.60% | 5.15 | 10.45 | 12.70% | 6.90 | 13.23 | 17.40% |
| METR-LA | FC-LSTM | 3.44 | 6.30 | 9.60% | 3.77 | 7.23 | 10.90% | 4.37 | 8.69 | 13.20% |
| METR-LA | WaveNet | 2.99 | 5.89 | 8.04% | 3.59 | 7.28 | 10.25% | 4.45 | 8.93 | 13.62% |
| METR-LA | DCRNN | 2.77 | 5.38 | 7.30% | 3.15 | 6.45 | 8.80% | 3.60 | 7.60 | 10.50% |
| METR-LA | GGRU | 2.71 | 5.24 | 6.99% | 3.12 | 6.36 | 8.56% | 3.64 | 7.65 | 10.62% |
| METR-LA | STGCN | 2.88 | 5.74 | 7.62% | 3.47 | 7.24 | 9.57% | 4.59 | 9.40 | 12.70% |
| METR-LA | Graph WaveNet | 2.69 | 5.15 | 6.90% | 3.07 | 6.22 | 8.37% | 3.53 | 7.37 | 10.01% |
| PEMS-BAY | ARIMA | 1.62 | 3.30 | 3.50% | 2.33 | 4.76 | 5.40% | 3.38 | 6.50 | 8.30% |
| PEMS-BAY | FC-LSTM | 2.05 | 4.19 | 4.80% | 2.20 | 4.55 | 5.20% | 2.37 | 4.96 | 5.70% |
| PEMS-BAY | WaveNet | 1.39 | 3.01 | 2.91% | 1.83 | 4.21 | 4.16% | 2.35 | 5.43 | 5.87% |
| PEMS-BAY | DCRNN | 1.38 | 2.95 | 2.90% | 1.74 | 3.97 | 3.90% | 2.07 | 4.74 | 4.90% |
| PEMS-BAY | STGCN | 1.36 | 2.96 | 2.90% | 1.81 | 4.27 | 4.17% | 2.49 | 5.69 | 5.79% |
| PEMS-BAY | Graph WaveNet | 1.30 | 2.74 | 2.73% | 1.63 | 3.70 | 3.67% | 1.95 | 4.52 | 4.63% |
- Graph WaveNet 在 METR-LA 和 PEMS-BAY 上针对 15、30、60 分钟的预测取得了最先进的结果。
- 前向-后向自适应邻接配置在两个数据集上均达到最佳性能。
- 仅自适应配置在无图结构可用时表现良好，接近仅前向的性能。
- Graph WaveNet 在推理阶段更快，在训练阶段明显快于 DCRNN，同时仍比许多基线方法更准确。
- 学习自适应邻接矩阵揭示了影响力节点并发现隐藏的空间依赖。
- 该模型保持稳定，相对于 WaveNet 和 STGCN 提供了更好的多步预测。
更好的研究，从现在开始
从论文设计到论文写作，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。