[論文レビュー] Multi-Modal Graph Interaction for Multi-Graph Convolution Network in Urban Spatiotemporal Forecasting

Geng Xu, Xiyu Wu+4 more|arXiv (Cornell University)|May 27, 2019

Human Mobility and Location-Based Analysis被引用数 14

ひとこと要約

本稿では、マルチグラフ畳み込みネットワーク（MGCN）を用いた都市スパatiotemporal予測のためのマルチモーダルグラフインタラクションフレームワークを提案する。空間的特徴抽出の向上を図るためのグループ化GCN（GGCN）と、高次層における共適応の低減による汎化性能の向上を図る多線形関係GCN（MRGCN）を導入している。本手法は、ライドシェア需要予測において最先端の性能を達成し、精度、ロバスト性、学習効率の向上を実現した。

ABSTRACT

Graph convolution network based approaches have been recently used to model region-wise relationships in region-level prediction problems in urban computing. Each relationship represents a kind of spatial dependency, like region-wise distance or functional similarity. To incorporate multiple relationships into spatial feature extraction, we define the problem as a multi-modal machine learning problem on multi-graph convolution networks. Leveraging the advantage of multi-modal machine learning, we propose to develop modality interaction mechanisms for this problem, in order to reduce generalization error by reinforcing the learning of multimodal coordinated representations. In this work, we propose two interaction techniques for handling features in lower layers and higher layers respectively. In lower layers, we propose grouped GCN to combine the graph connectivity from different modalities for more complete spatial feature extraction. In higher layers, we adapt multi-linear relationship networks to GCN by exploring the dimension transformation and freezing part of the covariance structure. The adapted approach, called multi-linear relationship GCN, learns more generalized features to overcome the train-test divergence induced by time shifting. We evaluated our model on ridehailing demand forecasting problem using two real-world datasets. The proposed technique outperforms state-of-the art baselines in terms of prediction accuracy, training efficiency, interpretability and model robustness.

研究の動機と目的

• 異なるモダリティ間で領域ペアが接続されていないことによるマルチグラフ畳み込みネットワーク（MGCN）における空間的特徴抽出の不完全性を解消すること。
• 時間的シフトに起因する汎化ギャップを低減するため、モデルの汎化性能と移譲性を向上させること。
• 隠れ層における共適応の低減とモダリティ間関係のモデリングにより、グラフ学習におけるマルチモーダル連携を強化すること。
• ライドシェア需要予測を含む都市コンピューティングタスクにおけるモデルのロバスト性、解釈可能性、学習効率を向上させること。

提案手法

• 複数のモダリティからのエッジを統合して形成される複合グラフ上でグラフ畳み込みを実行するグループ化GCN（GGCN）を導入し、空間的特徴抽出のための完全な接続性を実現する。
• 高次層に多線形関係GCN（MRGCN）を適用し、学習された共分散構造を用いてモダリティごとの関係をモデル化し、ニューロンの共適応を低減する。
• 特徴依存性をガイドし、汎化性能を向上させるために、共分散行列のL2ノルムの負の対数を特徴依存性の指標として用いる。
• 共分散構造の一部を固定し、次元変換を適用することで、安定的かつ汎化可能な特徴学習を実現するため、多線形関係ネットワークをGCNに適応する。
• Hinton図を用いてモダリティ間関係を可視化・解釈し、すべてのモダリティ間に正の相関関係が存在し、安定した相互依存関係が確認された。
• グラフ密度と類似度指標（F-measure、編集距離）を用いて、モダリティ間の構造的関係を分析し、モダリティ間相互作用設計の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 都市スパティオトロピカル予測において、すべての領域ペアに対して完全な空間的特徴抽出を保証するため、マルチモーダルグラフ接続性をどのように向上できるか？
• RQ2 モダリティ間相互作用メカニズムは、深層GCNアーキテクチャにおける共適応をどの程度低減し、汎化性能を向上させられるか？
• RQ3 マルチグラフ畳み込みネットワークにおけるモダリティ間関係の性質は何か？ そして、それらはどのように学習され、解釈可能になるか？
• RQ4 実世界の都市データセットにおいて、提案手法はSOTAベースラインと比較して予測精度、学習効率、ロバスト性の面でどの程度優れているか？

主な発見

• 提案モデルは、SOTAベースラインを上回る予測精度を達成し、テストRMSEが10.78にまで低下した。これは、個別にモダリティを除去した場合（例：近隣モダリティなしでは11.47）と比較して顕著に低い値である。
• MRGCNは特徴依存性の上界を引き上げることで、ニューロンの共適応を低減し、低い特徴共分散値が確認されたことから、モデルの汎化性能と移譲性が向上した。
• すべてのモダリティ（近隣、POI類似度、道路接続性）が、表現学習における相互強化を示す正の相関関係にあることが判明した。
• POI類似度と道路接続性の間のモダリティ関係は、近隣と道路接続性の関係よりも安定的であり、構造的類似性とグラフ密度（POI類似度は密、近隣および道路は疎）に一致している。
• Hinton図から、近隣と道路接続性の間には弱くランダムな関係が存在することが判明し、エッジ集合が不一致で、グラフ類似度が低かった（F-measure = 0、編集距離 = 8.8e2）ことと整合的であった。
• モデルは、高次層における汎化性能の向上により、時間シフトのフラクチュエーションに対する感受性が低減し、ロバスト性と学習効率が向上した。