[논문 리뷰] Higher-Order Ranking and Link Prediction: From Closing Triangles to Closing Higher-Order Motifs

Ryan A. Rossi, Anup Rao외 4명|arXiv (Cornell University)|2019. 06. 12.

Complex Network Analysis Techniques참고 문헌 13인용 수 6

한 줄 요약

이 논문은 전통적인 삼각형 기반 방법(예: 공통 이웃)을 넘어서 대규모 네트워크에서 빠르고 실시간으로 순위 매기기와 링크 예측을 가능하게 하는 고차원 모티프 클로처를 제안한다. 4노드 네트워크 모티프(예: 4사이클, 4스타)를 닫는 데 얼마나 자주 잠재적 엣지가 기여하는지 세는 방식으로, 하위선형 실행시간을 확보하면서도 다양한 실제 네트워크에서 삼각형 기반 기준보다 뛰어난 성능을 달성한다.

ABSTRACT

In this paper, we introduce the notion of motif closure and describe higher-order ranking and link prediction methods based on the notion of closing higher-order network motifs. The methods are fast and efficient for real-time ranking and link prediction-based applications such as web search, online advertising, and recommendation. In such applications, real-time performance is critical. The proposed methods do not require any explicit training data, nor do they derive an embedding from the graph data, or perform any explicit learning. Existing methods with the above desired properties are all based on closing triangles (common neighbors, Jaccard similarity, and the ilk). In this work, we investigate higher-order network motifs and develop techniques based on the notion of closing higher-order motifs that move beyond closing simple triangles. All methods described in this work are fast with a runtime that is sublinear in the number of nodes. The experimental results indicate the importance of closing higher-order motifs for ranking and link prediction applications. Finally, the proposed notion of higher-order motif closure can serve as a basis for studying and developing better ranking and link prediction methods.

연구 동기 및 목표

• 웹 검색 및 추천 시스템과 같은 응용 분야에서 빠르고 실시간으로 순위 매기기와 링크 예측이 필요하다는 점을 해결한다.
• 간단한 3노드 모티프를 닫는 데 의존하는 기존의 삼각형 기반 방법(예: 공통 이웃, 자카르 계수)을 넘어서는 것을 목표로 한다.
• 그래프 임베딩이나 명시적 학습이 필요 없는, 훈련이 없는 효율적인 링크 가중치 기법을 개발한다.
• 기존의 삼각형 기반 접근 방식보다 고차원 네트워크 모티프(4노드 부분그래프)가 링크 예측 및 순위 매기기 성능을 향상시킬 수 있는지 조사한다.
• 모티프 클로처 계산을 위한 하위선형 시간 알고리즘 설계를 통해 실시간 배포에 적합한 확장성과 낮은 지연 시간을 확보한다.

제안 방법

• 잠재적 엣지 (i,j)가 그래프에 추가될 경우, 4노드 네트워크 모티프 H의 인스턴스를 몇 번 닫을 수 있는지 수치로 정의함으로써 모티프 클로처를 정의한다.
• 모든 엣지 (i,j)에 대해 W_ij = G 내에서 엣지 (i,j) 추가 시 닫힐 수 있는 모티프 H의 인스턴스 수를 계산하여 링크 강도 추정치로 사용한다.
• 모든 노드 쌍 (i,j)에 대해 W_ij를 하위선형 시간 알고리즘으로 계산함으로써 실시간 성능를 달성한다.
• 최적화 기법 적용: W_ij의 상한값이 상위-k 순위에서 k번째로 큰 값보다 클 경우에만 W_ij를 계산하여 불필요한 계산을 줄인다.
• 다양한 모티프 유형(4경로, 4스타, 4사이클, 4꼬리가 있는 삼각형, 4현실형 사이클, 4클리크)을 평가하여 네트워크 유형에 따라 최적의 모티프를 식별한다.
• 성능 및 안정성 평가를 위해 평균 평균 정확도(MAP)와 무작위 링크 추가에 대한 강건성 지표를 사용한다.

실험 결과

연구 질문

• RQ1 삼각형을 초월하는 고차원 네트워크 모티프(예: 4사이클, 4스타, 4클리크 등)가 기존의 삼각형 기반 방법보다 링크 예측 및 순위 매기기 성능을 향상시킬 수 있는가?
• RQ2 다양한 실제 네트워크에서 어떤 특정 4노드 모티프(예: 4사이클, 4스타, 4클리크)가 가장 뛰어난 성능을 내는가?
• RQ3 제안된 모티프 클로처 방법의 실행시간 면에서 확장성은 어떻게 되며, 실시간 응용에 적합한가?
• RQ4 노이즈나 가짜 링크가 네트워크에 존재할 경우, 모티프 클로처 기반 순위 매기기의 강건성은 어느 정도인가?
• RQ5 상한값을 통한 프루닝과 같은 최적화 계산 전략이 순위 품질을 손상시키지 않고 실행시간을 크게 줄일 수 있는가?

주요 결과

• 생물학적 및 뇌 네트워크에서는 4사이클과 4스타 모티프 클로처가 가장 높은 MAP 점수를 기록했으며, 각각 bio-DM-LC에서 0.958, bn-macaque-rhe에서 0.961을 기록했다.
• 웹 및 소셜 네트워크에서는 4현실형 사이클과 4클리크 모티프가 모두를 능가했으며, email-dnc-core에서 4클리크가 0.997, 4현실형 사이클이 0.996의 MAP 점수를 기록했다.
• 4경로, 4꼬리가 있는 삼각형, 삼각형(공통 이웃) 방법은 모든 네트워크에서 최고 성능을 내지 못했으며, 4클리크와 4사이클이 일관되게 뛰어난 성능를 보였다.
• 강건성 실험 결과, 무작위 링크 추가 상황에서도 모티프 클로처 방법이 높은 성능를 유지했으며, bn-mouse에서 4스타는 0.868의 MAP 점수(공통 이웃 대비 0.686)를 기록했다.
• 모든 그래프에서 노드 쌍당 모든 모티프 클로처 계산의 평균 실행시간은 1밀리초 이하였으며, 하위선형 확장성과 실시간 실행 가능성은 확인되었다.
• 상한값 프루닝을 통한 최적화로 상위-k 후보가 아닌 경우의 W_ij 계산을 피함으로써 계산 시간을 크게 줄였으며, 온라인 순위 매기기 환경에서 추가적인 성능 향상을 이룰 수 있었다.