[論文レビュー] A Survey on Graph Classification and Link Prediction based on GNN

Xingyu Liu, Juan Chen+1 more|arXiv (Cornell University)|Jul 3, 2023

Advanced Graph Neural Networks被引用数 7

ひとこと要約

本調査では、グラフ分類およびリンク予測のためのグラフニューラルネットワーク（GNN）について包括的なレビューを提供しており、GCN、GAT、オートエンコーダーに基づくモデルに焦点を当てる。グラフ畳み込みおよびプーリング演算子が非ユークリッドデータにおける有効な学習を可能にし、Cora や CiteSeer などのキャシオンネットワークで最先端の性能を達成しており、F1 スコアは最大 0.7508、MCC は 0.7273 に達する。GNN-INCM を用いて達成された。

ABSTRACT

Traditional convolutional neural networks are limited to handling Euclidean space data, overlooking the vast realm of real-life scenarios represented as graph data, including transportation networks, social networks, and reference networks. The pivotal step in transferring convolutional neural networks to graph data analysis and processing lies in the construction of graph convolutional operators and graph pooling operators. This comprehensive review article delves into the world of graph convolutional neural networks. Firstly, it elaborates on the fundamentals of graph convolutional neural networks. Subsequently, it elucidates the graph neural network models based on attention mechanisms and autoencoders, summarizing their application in node classification, graph classification, and link prediction along with the associated datasets.

研究の動機と目的

• グラフ分類およびリンク予測タスクのためのグラフ畳み込みニューラルネットワークに関する体系的レビューを提供すること。
• グラフ畳み込みおよびプーリング演算子が非ユークリッドグラフデータへのディープラーニングの適応に果たす役割を分析すること。
• ベンチマークのキャシオンネットワークデータセットにおけるアテンションベースおよびオートエンコーダーに基づく GNN モデルのパフォーマンスを評価すること。
• ノード分類精度において、従来の手法（DeepWalk や Planetoid）に比べて GNN が優れていることを強調すること。
• 実世界のデータセットにおける実証的結果を提示し、グラフ分類およびリンク予測の両面で最先端の性能を示すこと。

提案手法

• 本論文では、非ユークリッドデータの処理を可能にする GNN の基盤的構成要素として、グラフ畳み込み演算子およびグラフプーリング演算子をレビューする。
• GAT におけるアテンションメカニズムを検討し、隣接ノードの特徴を動的に重み付けすることで、ノード表現学習を向上させることを検証する。
• オートエンコーダーに基づく GNN は、GC-MC や ARGAs を含め、行列補完およびグラフ埋め込みをリンク予測タスクとして定式化する。
• グラフ自己符号化フレームワークが用いられ、エンコーダーでグラフ畳み込みが、デコーダーで双線形関数が使用され、微分可能な情報伝達が実現される。
• GNN-INCM モデルが導入され、ノードとその隣接ノードの表現を連結することで分類性能が向上する。
• データオーグメンテーション戦略が適用され、合成ノードを導入することでクラス分布のバランスが取られ、偏りのない GNN 分類器の学習が可能になる。

実験結果

リサーチクエスチョン

• RQ1 グラフ畳み込み演算子は、非ユークリッドグラフデータにおいてどのように効果的な表現学習を可能にするか？
• RQ2 GAT におけるアテンションメカニズムは、ノード分類タスクにおいて標準的な GCN よりもどのような利点を提供するか？
• RQ3 オートエンコーダーに基づく GNN は、リンク予測および行列補完タスクにおいてどのようにパフォーマンスを向上させるか？
• RQ4 データオーグメンテーションおよびクラスバランスの取り扱いは、不均衡なキャシオンネットワークにおける GNN 分類器のパフォーマンスにどのような影響を与えるか？
• RQ5 F1 スコアおよび MCC スコアの観点から、GNN ベースのモデルは、従来の手法（Planetoid や DeepWalk）と比べてどのように異なるか？

主な発見

• GNN-INCM モデルは、Cora データセットで最高の F1 スコア 0.7508 ± 0.0045 および MCC 0.7273 ± 0.0051 を達成し、GCN や GAT を上回った。
• CiteSeer データセットでは、GNN-INCM が F1 スコア 0.6490 ± 0.0048 および MCC 0.6274 ± 0.0036 を達成し、安定したパフォーマンスを示した。
• GAT は Cora で F1 スコア 0.7134 ± 0.072 および MCC 0.6379 ± 0.0061 を達成し、ベースラインモデルと比較して優れた性能を示した。
• DR-GCN モデルは Cora で F1 スコア 0.7247 ± 0.0057 および MCC 0.6588 ± 0.0065 を達成し、残差接続を用いることで効果的なグラフ学習が可能であることを示した。
• 人間の軌道予測におけるリンク予測では、Social-STGCNN が ETH データセットで ADE 0.64 および FDE 1.11 を達成し、線形モデルや S-LSTM ベースラインを上回った。
• 合成ノードを用いたオーグメンテーションにより、クラス分布がバランスされ、偏りのない GNN 分類器の学習が可能になり、不均衡データセットにおける一般化性能が向上した。