[論文レビュー] Inductive Graph Neural Networks for Spatiotemporal Kriging

Yuankai Wu, Dingyi Zhuang+2 more|arXiv (Cornell University)|Jun 13, 2020

Data Visualization and Analytics参考文献 32被引用数 17

ひとこと要約

本稿では、空間的メッセージパッシングを学習するためにランダムサブグラフで訓練する、動的ネットワーク構造上でリアルタイムの時空間クライジングを可能にする新しい誘導型GNNフレームワークであるInductive Graph Neural Network Kriging（IGNNK）を提案する。IGNNKは未観測のグラフに一般化可能であり、5つの実世界データセットでベースラインを上回り、高い精度で仮想センサーの生成を実現し、動的センサーネットワークにおける転移性と頑健性を示している。

ABSTRACT

Time series forecasting and spatiotemporal kriging are the two most important tasks in spatiotemporal data analysis. Recent research on graph neural networks has made substantial progress in time series forecasting, while little attention has been paid to the kriging problem -- recovering signals for unsampled locations/sensors. Most existing scalable kriging methods (e.g., matrix/tensor completion) are transductive, and thus full retraining is required when we have a new sensor to interpolate. In this paper, we develop an Inductive Graph Neural Network Kriging (IGNNK) model to recover data for unsampled sensors on a network/graph structure. To generalize the effect of distance and reachability, we generate random subgraphs as samples and reconstruct the corresponding adjacency matrix for each sample. By reconstructing all signals on each sample subgraph, IGNNK can effectively learn the spatial message passing mechanism. Empirical results on several real-world spatiotemporal datasets demonstrate the effectiveness of our model. In addition, we also find that the learned model can be successfully transferred to the same type of kriging tasks on an unseen dataset. Our results show that: 1) GNN is an efficient and effective tool for spatial kriging; 2) inductive GNNs can be trained using dynamic adjacency matrices; 3) a trained model can be transferred to new graph structures and 4) IGNNK can be used to generate virtual sensors.

研究の動機と目的

• 新しいセンサーがネットワークに追加された際に、フル再訓練を必要とする従来の従属型クライジングモデルの制限を解消すること。
• 未観測のノードやグラフ構造に対しても空間的メッセージパッシングを一般化可能な誘導型GNNフレームワークを開発すること。
• 再訓練なしに、未サンプリングまたは仮想センサーに対してリアルタイムのクライジングを可能にすること。
• グラフ構造データを用いた時空間クライジングにおいて、距離と到達可能性の役割を調査すること。
• 学習済みモデルが、類似した時空間的特性を示す新しい未観測データセットへも適用可能であることを実証すること。

提案手法

• モデルは、完全なセンサーネットワークのランダムにサンプリングされたサブグラフで訓練され、その中で一部のノードがマスクされ、GNNがそれらの信号を再構築するように訓練される。
• 各サブグラフサンプルに対して、空間的近接性と到達可能性情報を保持するように隣接行列が再構築され、高速道路のような有向ネットワークにおける非対称距離も含む。
• GNNは、異なるサブグラフ構造に一般化可能な空間的メッセージパッシング機構を学習し、新しいノードやグラフ構造に対しても誘導的推論を可能にする。
• 訓練済みモデルは、現在の時間窓からの観測されたセンサーデータのみを用いて、新しいまたは未観測のグラフ構造上の信号を再構築することでクライジングを実行する。
• サブグラフの訓練から得た誘導的バイアスを活用することで、再訓練なしに新しいセンサーの追加を許容する動的ネットワークをサポートする。
• バイナリ版とフル精度版のIGNNKが評価され、後者がより優れた一般化と転移性能を示した。

実験結果

リサーチクエスチョン

• RQ1 フル再訓練を必要とせず、新しいセンサーカンfigurationに対応するための誘導型GNNフレームワークが、時空間クライジングのための空間的メッセージパッシングを効果的に学習できるか。
• RQ2 あるネットワークで訓練されたGNNモデルが、類似した時空間的パターンを示すが未観測の別のネットワークのクライジングタスクにどれほど一般化できるか。
• RQ3 隣接行列に物理的距離と到達可能性情報を組み込むことで、クライジング精度にどのような影響を与えるか。
• RQ4 訓練済みモデルが、高い空間分解能で未観測の位置に信頼性の高い仮想センサーデータを生成できるか。
• RQ5 センサーの追加や削除といった動的ネットワーク環境下でも、モデルの性能はどのように変化するか。

主な発見

• IGNNKは、5つの実世界の時空間データセットにおいて、最先端のベースラインを一貫して上回り、RMSEとR²の観点で最良の性能を達成した。
• METR-LAで訓練されたモデルはPeMS-Bayへも効果的に一般化され、PeMS-Bayで直接訓練されたモデルを除き、すべてのベースラインよりも低いクライジング誤差を達成した。
• SeDataで訓練されたモデルはPeMS-Bayへの一般化に失敗し、R²が0未満となった。これは、転移性がデータ類似性と空間的構造に依存することを示している。
• IGNNKは、実センサー間で滑らかで現実的な仮想センサーアウトプットを効果的に生成し、空間的近接性と信号トレンドに基づく正確な補間を実現した。
• モデルは長距離依存性を捉えており、仮想センサーデータが直近の近隣ノードだけでなく、遠く離れたセンサーの影響を受けることが示された。
• フレームワークは、再訓練なしに新しいまたは仮想センサーに対するリアルタイムクライジングを可能にし、動的センサーネットワークや移動プローブのサポートに適している。