[논문 리뷰] Approximate Personalized PageRank on Dynamic Graphs

Hongyang Zhang, Peter Lofgren외 1명|arXiv (Cornell University)|2016. 03. 25.

Complex Network Analysis Techniques참고 문헌 17인용 수 6

한 줄 요약

이 논문은 간선 삽입 및 삭제가 반복되는 그래프에서 근사 개인화 페이지랭크(PPR) 벡터를 효율적으로 유지하기 위해 두 가지 동적 알고리즘—Forward Push와 Reverse Push—을 제안한다. 두 알고리즘은 두 벡터 간의 불변성을 유지하고, 간선 변화 이후 局소적 업데이트를 적용함으로써, 각 업데이트당 평균 O(1)의 작업량에 더해 단일 정적 PPR 계산 비용을 가지며, 랜덤한 간선 업데이트 순서 하에서 오차 및 실행 시간에 대한 엄밀한 이론적 경계를 확보한다.

ABSTRACT

We propose and analyze two algorithms for maintaining approximate Personalized PageRank (PPR) vectors on a dynamic graph, where edges are added or deleted. Our algorithms are natural dynamic versions of two known local variations of power iteration. One, Forward Push, propagates probability mass forwards along edges from a source node, while the other, Reverse Push, propagates local changes backwards along edges from a target. In both variations, we maintain an invariant between two vectors, and when an edge is updated, our algorithm first modifies the vectors to restore the invariant, then performs any needed local push operations to restore accuracy. For Reverse Push, we prove that for an arbitrary directed graph in a random edge model, or for an arbitrary undirected graph, given a uniformly random target node $t$, the cost to maintain a PPR vector to $t$ of additive error $\varepsilon$ as $k$ edges are updated is $O(k + \bar{d} / \varepsilon)$, where $\bar{d}$ is the average degree of the graph. This is $O(1)$ work per update, plus the cost of computing a reverse vector once on a static graph. For Forward Push, we show that on an arbitrary undirected graph, given a uniformly random start node $s$, the cost to maintain a PPR vector from $s$ of degree-normalized error $\varepsilon$ as $k$ edges are updated is $O(k + 1 / \varepsilon)$, which is again $O(1)$ per update plus the cost of computing a PPR vector once on a static graph.

연구 동기 및 목표

• 자주 추가되거나 삭제되는 간선을 가진 동적 그래프에서 정확하고 사전 계산된 PPR 벡터를 유지하는 문제를 해결하기 위해.
• Forward Push와 Reverse Push 알고리즘에 대한 동적 PPR 유지에 대해 처음으로 엄밀한 이론적 분석을 제공하기 위해.
• 낮은 평균 업데이트 비용을 달성하면서도 덧셈 오차 또는 차수 정규화 오차를 통제하는 알고리즘을 설계하기 위해.
• 몬테카를로 및 정적 재계산 방법과 비교해 실무에서 저장소 효율성과 업데이트 속도 면에서 기존 방법을 향상시키기 위해.

제안 방법

• 알고리즘은 PPR 추정치와 잔여 벡터 간의 불변성을 유지한다. 잔여 벡터는 처리되지 않은 확률 질량을 추적한다.
• 간선이 업데이트될 경우, 알고리즘은 먼저 불변성을 복원하기 위해 국소적이고 효율적인 업데이트 단계를 수행한다.
• 불변성이 복원된 후, 잔여치가 임계값을 초과하는 노드들에 대해서만 국소적 푸시 연산을 수행함으로써 오차를 통제한다.
• Reverse Push의 경우 변화를 대상 노드들에서 거슬러 올라가 전파한다. Forward Push의 경우 변화를 소스 노드들에서 앞으로 전파한다.
• 이론적 분석은 랜덤한 간선 도착 순서를 가정하여, 간선 업데이트로 인한 푸시 연산의 연쇄 작용을 평균 분석을 통해 경계한다.
• 알고리즘은 간단하고 효율적이며, 최소한의 데이터 구조 변경과 낮은 저장소 오버헤드를 갖춘다.

실험 결과

연구 질문

• RQ1 간선 변화당 증명 가능한 낮은 업데이트 비용으로 동적 그래프에서 근사 PPR 벡터를 유지할 수 있는가?
• RQ2 오차가 유한한 경우, 무작위로 선택된 정점에서의 동적 Forward Push 알고리즘의 이론적 실행 시간은 얼마인가?
• RQ3 덧셈 오차가 유한한 경우, 방향성 또는 무방향성 그래프에서의 동적 Reverse Push 알고리즘의 이론적 실행 시간은 얼마인가?
• RQ4 실제로 동적 PPR 알고리즘의 성능은 정적 재계산 및 몬테카를로 방법과 비교해 어떻게 되는가?
• RQ5 이 분석을 복합 PPR 벡터 또는 분산 환경으로 확장할 수 있는가?

주요 결과

• 임의의 방향성 그래프 또는 균일하게 랜덤한 목표 노드를 가진 무방향성 그래프에서 Reverse Push의 경우, 덧셈 오차 ε로 PPR을 유지하는 데 예상 비용은 O(k + d̄/ε)이다. 여기서 k는 업데이트 수이고 d̄는 평균 차수이다.
• 균일하게 랜덤한 소스 노드를 가진 무방향성 그래프에서 Forward Push의 경우, 차수 정규화 오차 ε을 유지하는 데 드는 비용은 O(k + 1/ε)이며, 업데이트당 평균 O(1)의 작업량을 달성한다.
• LiveJournal 그래프에서 동적 Reverse Push 알고리즘은 각 간선 삽입 후 다시 계산하는 것보다 100배 빠르며, 업데이트 수에 대해 선형 스케일링을 보인다.
• Top-K PPR 검색 작업에서 Forward Push는 Bahmani 등이 제안한 몬테카를로 방법보다 저장소 사용량을 4.5에서 12배 적게 사용하고 엣지 업데이트 속도를 1.5에서 2.5배 빠르게 한다.
• 제안된 동적 Forward Push 업데이트 규칙은 정확도를 희생시키지 않고 Ohsaka 등이 제안한 이전 방법보다 1.5에서 3.5배 더 빠르다.
• 이론적 경계는 랜덤한 간선 업데이트 순서 하에서 성립하며, 무방향성 그래프의 경우 몬테카를로 분석을 위해 최악의 간선 도착 순서까지 강화되었으며, 이는 이전 결과를 확장한다.