[논문 리뷰] A comparative study of similarity-based and GNN-based link prediction approaches

Kamrul Islam, Sabeur Aridhi외 1명|arXiv (Cornell University)|2020. 08. 20.

Advanced Graph Neural Networks참고 문헌 52인용 수 6

한 줄 요약

이 논문은 동질적 그래프에서 유사도 기반 및 GNN 기반 링크 예측 방법을 비교하여 10개의 벤치마크 데이터셋에서 정확도와 계산 효율성을 평가한다. GNN 기반 접근 방식은 정확도에서 유사도 기반 방법을 능가하지만, 특히 큰 그래프에서 상당히 더 많은 계산 시간을 요구한다.

ABSTRACT

The task of inferring the missing links in a graph based on its current structure is referred to as link prediction. Link prediction methods that are based on pairwise node similarity are well-established approaches in the literature. They show good prediction performance in many real-world graphs though they are heuristics and lack of universal applicability. On the other hand, the success of neural networks for classification tasks in various domains leads researchers to study them in graphs. When a neural network can operate directly on the graph, then it is termed as the graph neural network (GNN). GNN is able to learn hidden features from graphs which can be used for link prediction task in graphs. Link predictions based on GNNs have gained much attention of researchers due to their convincing high performance in many real-world graphs. This appraisal paper studies some similarity and GNN-based link prediction approaches in the domain of homogeneous graphs that consists of a single type of (attributed) nodes and single type of pairwise links. We evaluate the studied approaches against several benchmark graphs with different properties from various domains.

연구 동기 및 목표

• 동질적 그래프에서 유사도 기반 및 GNN 기반 링크 예측 방법의 성능을 평가하고 비교하는 것.
• 다양한 그래프 유형에서 예측 정확도와 계산 효율성 사이의 상호 상충 관계를 분석하는 것.
• 각 접근 방식의 확장성 및 다양한 그래프 구조에 대한 적응 가능성 측면에서의 강점과 한계를 규명하는 것.
• 그래프 크기와 성능 요구사항에 따라 적절한 링크 예측 방법을 선택하는 데 실용적인 가이드를 제공하는 것.

제안 방법

• 공통 근접점(CN), 재해분배(RA), 자주수지수(JA) 등 13종의 유사도 기반 링크 예측 방법을 평가하였으며, 노드의 이웃 및 국소적 위상적 특징을 활용하였다.
• WLNM, SEAL 등 6종의 GNN 기반 접근 방식을 평가하였으며, 메시지 전달 및 그래프 컨볼루션 메커니즘을 통해 노드 표현을 학습하는 방식이었다.
• 예측 성능를 비교하기 위해 정밀도@k(P@k)와 평균 평균 정밀도(MAP)를 평가 지표로 사용하였다.
• 각 방법의 계산 시간을 그래프 크기, 평균 차수, 응집계수 등 다양한 특성에서 측정하였다.
• 임의의 유사도 점수 임계값에 의존하지 않도록, 모든 k-순위 예측에 대해 정밀도를 계산하여 임계값 없는 평가를 적용하였다.
• 사회 네트워크, 지식 그래프, 단백질 상호작용 등 다양한 분야의 벤치마크 그래프를 사용하여 일반화 가능성을 확보하였다.

실험 결과

연구 질문

• RQ1 다양한 동질적 그래프에서 유사도 기반 및 GNN 기반 링크 예측 방법의 예측 정확도는 어떻게 비교되는가?
• RQ2 유사도 기반 및 GNN 기반 접근 방식 간의 계산 비용은 무엇이며, 그래프 크기에 따라 어떻게 변화하는가?
• RQ3 평균 차수, 응집계수, 희박성 등 그래프 성질 중 어느 것이 각 방법의 성능과 효율성에 가장 큰 영향을 미치는가?
• RQ4 희박한 네트워크와 조밀한 네트워크를 포함한 다양한 그래프 유형에서 GNN 기반 방법이 히우리스틱 기반 유사도 방법을 일관되게 능가할 수 있는가?
• RQ5 속성이 풍부한 그래프(예: USAir, YAGO3-10)는 순수 구조적 그래프에 비해 GNN 기반 방법의 계산 시간에 어떤 영향을 미치는가?

주요 결과

• GNN 기반 접근 방식, 특히 SEAL이 모든 벤치마크 그래프에서 가장 높은 예측 정확도를 기록하였으며, 평균 평균 정밀도(MAP) 측면에서 모든 유사도 기반 방법을 능가하였다.
• PA 및 CAR와 같은 유사도 기반 방법은 가장 낮은 계산 시간을 기록하였으며, PA는 단순한 차수 곱셈 연산 덕분에 가장 빠른 속도를 보였다.
• CCLP 방법은 유사도 기반 접근 방식 중에서 가장 높은 계산 비용을 기록하였는데, 이는 3단계 이웃 탐색을 수행하기 때문이었다. 반면 SEAL은 모든 방법 중에서 가장 높은 총 계산 시간을 기록하였다.
• GNN의 계산 시간은 유사도 기반 방법보다 그래프 크기에 따라 더 급격히 증가하였다. 예를 들어, USAir에서 YAGO3-10로 이동할 때 SEAL의 시간은 2189ms 증가한 반면, PA는 629ms 증가하였다.
• 높은 정확도에도 불구하고, GNN(예: SEAL)는 학습 및 표현 학습 오버헤드로 인해 특히 큰 그래프에서는 유사도 기반 방법보다 효율성이 떨어졌다.
• GNN과 유사도 기반 방법 간의 성능 격차는 PB 및 NS와 같은 조밀한 그래프에서 가장 두드러졌는데, 이는 GNN이 구조적 복잡성을 더 효과적으로 활용했기 때문이다.