[論文レビュー] Graph Neural Networks: A Review of Methods and Applications

Jie Zhou, Ganqu Cui+7 more|arXiv (Cornell University)|Dec 20, 2018

Advanced Graph Neural Networks参考文献 260被引用数 1,451

ひとこと要約

グラフニューラルネットワーク（GNN）の包括的な調査で、一般的な設計パイプライン、モジュール型のバリアント、グラフタイプ、幅広い応用を詳述し、将来の課題として4つのオープン問題を提起する。

ABSTRACT

Lots of learning tasks require dealing with graph data which contains rich relation information among elements. Modeling physics systems, learning molecular fingerprints, predicting protein interface, and classifying diseases demand a model to learn from graph inputs. In other domains such as learning from non-structural data like texts and images, reasoning on extracted structures (like the dependency trees of sentences and the scene graphs of images) is an important research topic which also needs graph reasoning models. Graph neural networks (GNNs) are neural models that capture the dependence of graphs via message passing between the nodes of graphs. In recent years, variants of GNNs such as graph convolutional network (GCN), graph attention network (GAT), graph recurrent network (GRN) have demonstrated ground-breaking performances on many deep learning tasks. In this survey, we propose a general design pipeline for GNN models and discuss the variants of each component, systematically categorize the applications, and propose four open problems for future research.

研究の動機と目的

• GNNモデルの一般的な設計パイプラインを提案し、グラフ構造、タイプ、スケール、損失、モジュールの選択方法を明確にする。
• 伝搬、サンプリング、プーリングの機構に基づいて、グラフタイプ（有向/無向、同型/異型、静的/動的）全体でGNN変種を体系的に分類する。
• 構造的および非構造的シナリオにおけるGNNの主要な応用を分野横断で調査・総括する。
• GNNの理論的・経験的解析を強調し、将来の研究を導くオープンな課題を特定する。

提案手法

• デザイナー視点からGNNを4つの設計ステップで提示する： (i) グラフ構造を見つける、 (ii) グラフタイプとスケールを指定、 (iii) 損失関数を設計、 (iv) 計算モジュールを用いてモデルを構築。
• スペクトル法（例：Spectral Network、ChebNet、GCN、GWNN）と空間的アプローチ（例：GraphSAGE、PATCHY-SAN、LGCN、DCNN）による伝搬モジュールを詳述し、注意機構を用いたバリアント（GAT、GaAN）を含む。
• 一般的なフレームワークを説明してモデルを統一（MoNet、MPNN、NLNN、GN）し、再帰的および固定点GNN（例：GraphESN）を論じる。
• モジュール構成要素として伝搬、サンプリング、プーリングを論じ、それらが多層GNNアーキテクチャにどのように統合されるかを解説する。
• グラフタイプ（有向/無向、同型/異型、静的/動的）と大規模グラフのスケーラビリティに関する考慮事項を説明する。）

実験結果

リサーチクエスチョン

• RQ1 GNNモデルを構築する際の標準的な構成要素と設計決定は何か。
• RQ2 異なるグラフタイプとスケールはGNNアーキテクチャと訓練戦略の選択にどう影響するか。
• RQ3 GNN変種の主要な分類（畳み込み型、再帰型、注意機構型、フレームワーク）とそれぞれのトレードオフは何か。
• RQ4 構造的・非構造的領域でGNNはどのような応用を最も支援できるか、現在の制約は何か。
• RQ5 GNN手法と応用の体系的調査から浮かび上がるオープンな問題と今後の方向性は何か。

主な発見

• グラフ構造の発見、グラフタイプ/スケールの指定、損失設計、モジュール構築を含むGNNの統一設計パイプラインを提供する。
• スペクトル（例：ChebNet、GCN）と空間（例：GraphSAGE、GAT）畳み込み法を含む主要なGNNの実装を要約し、一般フレームワーク（MoNet、MPNN、GN）を加える。
• 注意機構ベースのバリアント（GAT、GaAN）と、可変隣接サイズやノイズへの対応上の利点を強調する。
• グラフタイプとシナリオ（構造的 vs 非構造的）の分類と、それがモデル設計と適用性にどう影響するかを詳述する。
• GNNの理論的および実証的分析を提供し、今後の研究を指針づける4つのオープン問題を提案する。
• ソーシャル、自然科学、知識グラフ、その他の領域にわたるGNNの応用を調査し、方法選択に関する構造化された指針を提供する。