[논문 리뷰] Edge Proposal Sets for Link Prediction

Abhay Pratap Singh, Qian Huang외 5명|arXiv (Cornell University)|2021. 06. 30.

Complex Network Analysis Techniques참고 문헌 37인용 수 5

한 줄 요약

이 논문은 그래프의 기초 구조와 일치하는 에지 집합(제안 집합이라 함)을 추가하여 링크 예측 성능을 햖थ다. 히وري스틱 또는 학습된 모델을 통해 생성된 고품질의 제안 집합을 통합함으로써, 이웃 기반 및 GNN 기반 링크 예측 방법 모두에서 정확도 향상이 크게 이루어지며, 특히 제안 집합이 정보가 많고 모델이 노이즈에 강건할 경우에 두드러진다.

ABSTRACT

Graphs are a common model for complex relational data such as social networks and protein interactions, and such data can evolve over time (e.g., new friendships) and be noisy (e.g., unmeasured interactions). Link prediction aims to predict future edges or infer missing edges in the graph, and has diverse applications in recommender systems, experimental design, and complex systems. Even though link prediction algorithms strongly depend on the set of edges in the graph, existing approaches typically do not modify the graph topology to improve performance. Here, we demonstrate how simply adding a set of edges, which we call a \emph{proposal set}, to the graph as a pre-processing step can improve the performance of several link prediction algorithms. The underlying idea is that if the edges in the proposal set generally align with the structure of the graph, link prediction algorithms are further guided towards predicting the right edges; in other words, adding a proposal set of edges is a signal-boosting pre-processing step. We show how to use existing link prediction algorithms to generate effective proposal sets and evaluate this approach on various synthetic and empirical datasets. We find that proposal sets meaningfully improve the accuracy of link prediction algorithms based on both neighborhood heuristics and graph neural networks. Code is available at \url{https://github.com/CUAI/Edge-Proposal-Sets}.

연구 동기 및 목표

• 기존 링크 예측 방법이 그래프의 위상 구조를 고정된 것으로 간주하고 사전 처리 단계에서 변경할 수 없음을 해결하기 위해.
• 링크 예측 전에 정교하게 선별된 에지 집합(제안 집합)을 추가함으로써 알고리즘 성능 향상 여부를 탐구하기 위해.
• 기존 링크 예측 모델을 활용하여 효과적인 제안 집합을 생성하는 일반화 가능한 프레임워크를 개발하기 위해.
• 다양한 데이터셋과 모델에서 제안 집합의 품질과 크기가 링크 예측 정확도에 미치는 영향을 평가하기 위해.
• 노이즈가 많거나 저품질의 제안 집합에 대해 링크 예측 모델의 내구성(로버스트니)을 탐색하기 위해.

제안 방법

• 링크 예측 알고리즘을 안내하기 위해 원본 그래프에 에지 집합(제안 집합)을 추가하는 사전 처리 단계를 제안한다.
• 기존 링크 예측 히وري스틱(예: 공통 이웃) 또는 훈련된 모델을 사용하여 제안 집합을 생성한다.
• 넓은 초기 후보 에지 집합을 고품질의 제안 집합으로 정제하기 위한 '필터링 및 순위 매기기' 프레임워크를 도입한다.
• 원본 그래프 + 제안 집합의 병합된 그래프를 입력으로 사용하여, 이웃 기반 히وري스틱 및 GNN(GCN, SAGE)을 포함한 링크 예측 모델을 사용한다.
• 검증 세트에서 성능을 최대화하는 제안 집합을 선택하여 제안 집합의 품질을 최적화한다.
• 제안 집합 내 음성 대 양성 에지 비율을 조절하여 노이즈 내성에 대한 분석(ablation)을 가능하게 한다.

실험 결과

연구 질문

• RQ1 그래프에 제안 집합의 에지를 추가하면 링크 예측 알고리즘의 성능이 향상되는가?
• RQ2 제안 집합의 품질과 구성은 링크 예측 정확도에 어떤 영향을 미치는가?
• RQ3 다른 링크 예측 모델들(GCN 대 SAGE 등)은 노이즈가 많거나 저품질의 제안 집합에 대해 서로 다른 내성(로버스트니)을 보이는가?
• RQ4 자기 향상 프레임워크('필터링 및 순위 매기기')는 기준 히وري스틱을 능가하는 제안 집합을 생성할 수 있는가?
• RQ5 제안 집합 접근법이 특히 훈련 데이터와 테스트 데이터 간의 분포 이탈이 존재할 경우 어떤 조건에서 가장 효과적인가?

주요 결과

• 합성 두 블록 스토하스틱 블록 모델에서 공통 이웃 알고리즘의 Hits@10 점수를 56%에서 97%로 향상시켰다.
• ogbl-ddi 데이터셋에서 GCN과 SAGE 모두 고품질의 제안 집합을 사용할 경우 상당한 성능 향상을 보였으며, 제안 집합의 품질이 기준값 이하일 때도 성능 향상이 유지되었다.
• SAGE는 GCN에 비해 노이즈가 많은 제안 집합에 더 강건한 것으로 나타났으며, 특히 제안 집합 크기를 고정하고 품질을 떨어뜨린 첫 번째 설정에서 두드러졌다.
• 제안 집합 크기를 고정하고 양성 에지를 음성 에지로 대체함으로써 품질을 떨어뜨린 상황에서 두 모델의 성능 저하 속도는 유사했지만, 음성 대 양성 비율이 기준값 이하일 동안 기준 성능보다 유의미하게 높은 성능을 유지했다.
• ogbl-ddi에서 snap-email보다 더 큰 성능 향상을 제공했다. 이는 ogbl-ddi에서 훈련 및 테스트 분할 간 분포 이탈이 더 크기 때문이며, 일반화가 어려운 상황에서 더 큰 이점을 보임을 시사한다.
• 제안 집합이 고품질이어야 하고, 모델의 학습 능력이 높으며, 제안 집합의 노이즈에 내성을 지닌 모델일 때 이 접근법이 가장 효과적이다.