[論文レビュー] A comparative study of similarity-based and GNN-based link prediction approaches

Kamrul Islam, Sabeur Aridhi+1 more|arXiv (Cornell University)|Aug 20, 2020

Advanced Graph Neural Networks参考文献 52被引用数 6

ひとこと要約

この論文は、10のベンチマークデータセットを用いて、同型グラフ上の類似度ベースとGNNベースのリンク予測手法を比較し、その精度と計算効率を評価している。GNNベースの手法は予測精度において類似度ベースの手法を上回っているが、特に大規模グラフでは著しく長い計算時間を要する。

ABSTRACT

The task of inferring the missing links in a graph based on its current structure is referred to as link prediction. Link prediction methods that are based on pairwise node similarity are well-established approaches in the literature. They show good prediction performance in many real-world graphs though they are heuristics and lack of universal applicability. On the other hand, the success of neural networks for classification tasks in various domains leads researchers to study them in graphs. When a neural network can operate directly on the graph, then it is termed as the graph neural network (GNN). GNN is able to learn hidden features from graphs which can be used for link prediction task in graphs. Link predictions based on GNNs have gained much attention of researchers due to their convincing high performance in many real-world graphs. This appraisal paper studies some similarity and GNN-based link prediction approaches in the domain of homogeneous graphs that consists of a single type of (attributed) nodes and single type of pairwise links. We evaluate the studied approaches against several benchmark graphs with different properties from various domains.

研究の動機と目的

• 同型グラフ上での類似度ベースとGNNベースのリンク予測手法の性能を評価・比較すること。
• 多様なグラフタイプにおける予測精度と計算効率のトレードオフを分析すること。
• スケーラビリティおよび異なるグラフ構造への適応性の観点から、各アプローチの強みと限界を特定すること。
• グラフサイズと性能要件に基づいて、研究者が適切なリンク予測手法を選択するための実用的ガイドを提供すること。

提案手法

• 共通の近傍（CN）、ジャカード係数（JA）、リソース割り当て（RA）などを含む13種類の類似度ベースのリンク予測手法を評価し、ノードの近傍および局所的トポロジー特徴を用いた。
• WLNM、SEALなどを含む6種類のGNNベースのアプローチを評価し、メッセージパッシングおよびグラフ畳み込みメカニズムを通じてノード表現を学習した。
• 予測性能を比較するために、kごとの正確率（P@k）および平均平均精度（MAP）を評価指標として使用した。
• グラフサイズ、平均次数、クラスタリング係数の異なるグラフにおいて、各手法の計算時間を測定した。
• 任意の類似度スコアの閾値に依存しない評価を実施し、すべてのkランクの予測における正確率を計算することで、閾値の恣意的選択を回避した。
• 社会的ネットワーク、知識グラフ、タンパク質相互作用など多様な分野のベンチマークグラフを用いて、一般化可能性を確保した。

実験結果

リサーチクエスチョン

• RQ1 類似度ベースとGNNベースのリンク予測手法は、多様な同型グラフにおいて予測精度でどのように比較されるか？
• RQ2 類似度ベースとGNNベースのアプローチの間で計算コストにどのような差があり、グラフサイズに伴ってどのようにスケーリングされるか？
• RQ3 平均次数、クラスタリング係数、スパarsityなどのグラフ特性のうち、それぞれの手法の性能と効率性に最も顕著に影響を与える要因は何か？
• RQ4 GNNベースの手法は、スパースおよび密なネットワークを含むさまざまなグラフタイプにおいて、一貫してヒューリスティックベースの類似度手法を上回るか？
• RQ5 属性豊富なグラフ（例：USAir、YAGO3-10）は、純粋に構造的なものと比較して、GNNベースの手法の計算時間にどのように影響を与えるか？

主な発見

• GNNベースの手法、特にSEALは、すべてのベンチマークグラフで最高の予測精度を達成し、平均平均精度（MAP）の観点で類似度ベースの手法をすべて上回った。
• 類似度ベースの手法のPAやCARは、計算時間が最も短く、PAは単純な次数乗算演算による高速性のおかげで最も速かった。
• CCLPは類似度ベース手法の中で最も高い計算コストを示した。これは3レベルの近傍を探索する必要があるためである。一方、SEALは全手法の中で最も高い総合計算時間であった。
• GNNの計算時間は類似度ベースの手法よりもグラフサイズの増加に伴い著しく増加した。例えば、USAirからYAGO3-10に移行した際、SEALの計算時間は2189 ms増加したが、PAは629 ms増加にとどまった。
• 高い精度を達成しているにもかかわらず、GNN（例：SEAL）は、特に大規模グラフではトレーニングと表現学習のオーバーヘッドのため、類似度ベースの手法よりも非効率であった。
• GNNと類似度ベースの手法の性能差は、PBやNSのような密なグラフで最も顕著であり、GNNは構造の複雑さをより効果的に活用できた。