[논문 리뷰] Fast and Accurate Random Walk with Restart on Dynamic Graphs with Guarantees

Minji Yoon, Woojeong Jin외 1명|arXiv (Cornell University)|2017. 12. 02.

Advanced Graph Neural Networks참고 문헌 23인용 수 4

한 줄 요약

이 논문은 이론적 보장이 있는 빠르고 정확한 동적 그래프에서의 Random Walk with Restart(RWR) 계산을 위한 새로운 알고리즘인 OSP 및 OSP-T를 제안한다. 업데이트된 간선 주변의 국소적 오프셋 스코어를 계산하고 전파함으로써 OSP는 정확한 RWR 업데이트를 보장하며, OSP-T는 조정 가능한 정확도-속도 트레이드오프를 제공하며 증명 가능한 오차 한계와 로그 시간 수렴 속도를 갖춘다.

ABSTRACT

Given a time-evolving graph, how can we track similarity between nodes in a fast and accurate way, with theoretical guarantees on the convergence and the error? Random Walk with Restart (RWR) is a popular measure to estimate the similarity between nodes and has been exploited in numerous applications. Many real-world graphs are dynamic with frequent insertion/deletion of edges; thus, tracking RWR scores on dynamic graphs in an efficient way has aroused much interest among data mining researchers. Recently, dynamic RWR models based on the propagation of scores across a given graph have been proposed, and have succeeded in outperforming previous other approaches to compute RWR dynamically. However, those models fail to guarantee exactness and convergence time for updating RWR in a generalized form. In this paper, we propose OSP, a fast and accurate algorithm for computing dynamic RWR with insertion/deletion of nodes/edges in a directed/undirected graph. When the graph is updated, OSP first calculates offset scores around the modified edges, propagates the offset scores across the updated graph, and then merges them with the current RWR scores to get updated RWR scores. We prove the exactness of OSP and introduce OSP-T, a version of OSP which regulates a trade-off between accuracy and computation time by using error tolerance ε. Given restart probability c, OSP-T guarantees to return RWR scores with O (ε /c ) error in O (log (ε/2)/log(1-c)) iterations. Through extensive experiments, we show that OSP tracks RWR exactly up to 4605x faster than existing static RWR method on dynamic graphs, and OSP-T requires up to 15x less time with 730x lower L1 norm error and 3.3x lower rank error than other state-of-the-art dynamic RWR methods.

연구 동기 및 목표

• 자주 간선 및 노드가 업데이트되는 시간에 따라 변화하는 그래프에서 RWR 스코어를 효율적이고 정확하게 추적하는 도전 과제를 해결한다.
• 정확도나 수렴에 대한 이론적 보장이 없는 기존의 동적 RWR 방법의 한계를 극복한다.
• 노드 및 간선의 삽입과 삭제가 가능한 방향성 있는 및 무방향성 그래프에 일반적으로 적용 가능한 솔루션을 제공한다.
• OSP-T에서 오차 내성 제어를 통해 계산 효율성과 정확성 사이의 트레이드오프 메커니즘을 도입한다.
• OSP에 대해 이론적 정확성을 보장하고, 일반화된 동적 그래프 환경에서 OSP-T에 대해 엄밀한 시간 및 오차 경계를 확보한다.

제안 방법

• OSP는 그래프 업데이트 시 수정된 간선 주변의 오프셋 스코어만 먼저 계산함으로써 RWR 업데이트를 수행한다.
• 누적 거듭제곱 반복(CPI)을 사용하여 업데이트된 그래프를 통해 오프셋 스코어를 전파함으로써 반복적인 행렬-벡터 곱셈을 효율적으로 모델링한다.
• 전파된 오프셋 스코어를 이전에 계산된 RWR 스코어와 병합함으로써 업데이트된 RWR 스코어를 확보한다.
• OSP-T는 사용자가 정의한 오차 내성 ε를 도입하여 계산 시간을 줄일 수 있는 제어 가능한 근사화를 통해 OSP을 확장한다.
• OSP-T는 정확도 오차가 O(ε/c) 이내가 되도록 보장하기 위해, c가 리스타트 확률일 때 log(ε/2)/log(1−c) 반복 수를 정지 기준으로 사용한다.
• 스코어 전파 및 오차 누적에 대한 이론적 분석을 통해 수렴성과 정확성을 보장한다.

실험 결과

연구 질문

• RQ1 수렴 및 오차에 대한 이론적 보장이 있는 조건에서 동적 RWR 업데이트를 정확히 계산할 수 있는가?
• RQ2 동적 RWR 계산에서 속도와 정확성 사이의 조정 가능한 트레이드오프를 달성할 수 있는가?
• RQ3 일반적인 그래프 수정(방향성/무방향성 그래프에서의 삽입/삭제) 조건 하에서 동적 RWR 알고리즘의 이론적 시간 복잡도와 오차 경계는 무엇인가?
• RQ4 그래프 수정의 크기와 위치가 동적 RWR 알고리즘의 성능과 오차에 어떤 영향을 미치는가?
• RQ5 기존의 전파 기반 동적 RWR 모델보다 속도와 정확성에서 모두 뛰어나며, 증명 가능한 경계를 갖는 방법을 설계할 수 있는가?

주요 결과

• OSP는 실세계의 동적 그래프에서 최고의 정적 RWR 방법 대비 최대 4605배 빠른 정확한 RWR 업데이트를 달성한다.
• OSP-T는 최첨단 동적 RWR 방법 대비 계산 시간을 최대 15배 줄였으며, L1 노름 오차는 730배 낮추고 랭크 오차는 3.3배 낮췄다.
• OSP-T의 L1 노름 오차는 모든 실험에서 이론적 경계인 O(ε/c) 이내에 유지되어 오차 보장의 정확성이 확인되었다.
• OSP-T의 실행 시간은 그래프 수정 크기 ΔG가 증가함에 따라 증가하지만, 국소적 오프셋 계산 덕분에 큰 업데이트에 대해서도 효율성을 유지한다.
• 높은 RWR 스코어를 가진 노드 근처에서 수정이 발생할 경우 성능 저하가 발생하지만, 실생활에서는 이러한 경우가 드물며 이는 이론적 기대와 일치한다.
• OSP-T는 O(log(1−c)(ε/2)) 반복 내에 수렴하여 이론적 시간 복잡도가 검증되었으며, ε를 통해 예측 가능한 성능 조정이 가능하다.