[论文解读] Inductive Graph Neural Networks for Spatiotemporal Kriging

Yuankai Wu, Dingyi Zhuang+2 more|arXiv (Cornell University)|Jun 13, 2020

Data Visualization and Analytics参考文献 32被引用 17

一句话总结

本文提出归纳图神经网络克里金法（IGNNK），一种新颖的归纳式图神经网络框架，通过在随机子图上进行训练以学习空间消息传递，实现实时动态网络结构下的时空克里金法。IGNNK 能够泛化至未见过的图结构，在五个真实世界数据集上优于基线模型，并能以高精度生成虚拟传感器数据，展现出良好的可迁移性与对动态传感器网络的鲁棒性。

ABSTRACT

Time series forecasting and spatiotemporal kriging are the two most important tasks in spatiotemporal data analysis. Recent research on graph neural networks has made substantial progress in time series forecasting, while little attention has been paid to the kriging problem -- recovering signals for unsampled locations/sensors. Most existing scalable kriging methods (e.g., matrix/tensor completion) are transductive, and thus full retraining is required when we have a new sensor to interpolate. In this paper, we develop an Inductive Graph Neural Network Kriging (IGNNK) model to recover data for unsampled sensors on a network/graph structure. To generalize the effect of distance and reachability, we generate random subgraphs as samples and reconstruct the corresponding adjacency matrix for each sample. By reconstructing all signals on each sample subgraph, IGNNK can effectively learn the spatial message passing mechanism. Empirical results on several real-world spatiotemporal datasets demonstrate the effectiveness of our model. In addition, we also find that the learned model can be successfully transferred to the same type of kriging tasks on an unseen dataset. Our results show that: 1) GNN is an efficient and effective tool for spatial kriging; 2) inductive GNNs can be trained using dynamic adjacency matrices; 3) a trained model can be transferred to new graph structures and 4) IGNNK can be used to generate virtual sensors.

研究动机与目标

• 为解决传统归纳克里金法模型在新增传感器时需完整重新训练的局限性。
• 开发一种能够将空间消息传递泛化至未见节点与图结构的归纳式图神经网络框架。
• 实现在无需重新训练模型的前提下，对未采样或虚拟传感器实现实时克里金法。
• 探究在基于图结构数据的时空克里金法中，距离与可达性的作用。
• 展示训练好的模型在具有相似时空特性的新、未见过的数据集上的可迁移性。

提出的方法

• 模型在完整传感器网络的随机采样子图上进行训练，其中部分节点被掩码，图神经网络被训练以重建其信号。
• 对于每个子图样本，重构邻接矩阵以保留空间邻近性和可达性信息，包括高速公路等有向网络中的非对称距离。
• 图神经网络学习一种可泛化至不同子图结构的空间消息传递机制，从而实现在新节点或图结构上的归纳推理。
• 训练好的模型通过仅使用当前时间窗口内观测到的传感器数据，在新或未见过的图结构上重建信号，从而执行克里金法。
• 该框架通过允许在不重新训练的情况下添加新传感器，支持动态网络，利用子图训练中学习到的归纳偏差。
• 评估了 IGNNK 的二值化与全精度变体，后者展现出更强的泛化与迁移性能。

实验结果

研究问题

• RQ1 归纳式图神经网络框架是否能有效学习时空克里金法中的空间消息传递，而无需为新传感器配置重新完整训练？
• RQ2 在某一网络上训练的图神经网络模型，能否在具有相似时空模式的另一未见过网络上有效泛化至克里金法任务？
• RQ3 在邻接矩阵中引入物理距离与可达性信息对克里金法精度有何影响？
• RQ4 训练好的模型能否在未观测位置以高空间分辨率可靠地生成虚拟传感器数据？
• RQ5 在动态网络条件下（如传感器增减）模型表现如何？

主要发现

• IGNNK 在五个真实世界时空数据集上持续优于最先进基线模型，在 RMSE 和 R² 指标上均表现最佳。
• 在 METR-LA 上训练的模型可有效泛化至 PeMS-Bay，其克里金误差低于除直接在 PeMS-Bay 上训练的模型外的所有基线。
• 在 SeData 上训练的模型无法泛化至 PeMS-Bay，R² 低于 0，表明可迁移性取决于数据相似性与空间结构。
• IGNNK 能够在真实传感器之间成功生成平滑、逼真的虚拟传感器输出，证明其基于空间邻近性与信号趋势的准确插值能力。
• 模型能够捕捉长距离依赖关系，虚拟传感器值不仅受邻近传感器影响，也受远处传感器影响。
• 该框架可在不重新训练的情况下实现实时克里金法，适用于新传感器或虚拟传感器，支持动态传感器网络与移动探测器。