[논문 리뷰] FAST-PPR: Scaling Personalized PageRank Estimation for Large Graphs

Peter Lofgren, Siddhartha Banerjee외 2명|arXiv (Cornell University)|2014. 04. 11.

Advanced Graph Neural Networks참고 문헌 21인용 수 27

한 줄 요약

FAST-PPR는 대규모 방향성 그래프에서 개인화된 페이지랭크(PPR)를 추정하기 위한 새로운 알고리즘으로, 이중 방향 탐색 프레임워크를 사용하여 실행 시간을 크게 감소시킨다. 평균 복잡도는 $ O(\tilde{\nabla}{\sqrt{d/\delta}}) $이며, Twitter-2010와 같은 거대한 그래프에서 기존 방법 대비 최대 160배 빠르게 작동하면서도 높은 정확도를 유지하고, $ \pi_s(t) > \delta $에 대해 상대 오차에 대한 이론적 보장을 제공한다.

ABSTRACT

We propose a new algorithm, FAST-PPR, for estimating personalized PageRank: given start node $s$ and target node $t$ in a directed graph, and given a threshold $δ$, FAST-PPR estimates the Personalized PageRank $π_s(t)$ from $s$ to $t$, guaranteeing a small relative error as long $π_s(t)>δ$. Existing algorithms for this problem have a running-time of $Ω(1/δ)$; in comparison, FAST-PPR has a provable average running-time guarantee of ${O}(\sqrt{d/δ})$ (where $d$ is the average in-degree of the graph). This is a significant improvement, since $δ$ is often $O(1/n)$ (where $n$ is the number of nodes) for applications. We also complement the algorithm with an $Ω(1/\sqrtδ)$ lower bound for PageRank estimation, showing that the dependence on $δ$ cannot be improved. We perform a detailed empirical study on numerous massive graphs, showing that FAST-PPR dramatically outperforms existing algorithms. For example, on the 2010 Twitter graph with 1.5 billion edges, for target nodes sampled by popularity, FAST-PPR has a $20$ factor speedup over the state of the art. Furthermore, an enhanced version of FAST-PPR has a $160$ factor speedup on the Twitter graph, and is at least $20$ times faster on all our candidate graphs.

연구 동기 및 목표

• 작은 임계값 $ \delta $에서의 스케일링이 불량한 기존 방법들에 비해, 대규모 네트워크에서 개인화된 페이지랭크(PPR) 추정의 계산 병목 현상을 해결한다.
• 특히 $ \delta = O(1/n) $일 때, 주어진 임계값 $ \delta $를 초과하는 PPR 값에 대해 낮은 상대 오차를 보장하는 실용적이고 효율적인 알고리즘을 개발한다.
• 기존 방법의 $ \Omega(1/\delta) $ 실행 시간 복잡도를 초월하기 위해, 전방 및 후방 탐색을 기반으로 한 프론티어 및 타겟 세트 근사 기반의 이중 방향 탐색 전략을 도입한다.
• 이중 방향 탐색 전략이 $ \sqrt{\delta} $ 의존성으로 인해 $ \Omega(1/\sqrt{\delta}) $ 하한선을 도달함을 증명함으로써, 이론적 근거를 제공한다.
• 실세계 그래프의 다양한 환경에서 높은 정확도와 강건성을 확보하기 위해 실증적 검증과 근사 향상 기법(예: 균형 잡힌 FAST-PPR)을 통합한다.

제안 방법

• 소스 노드 $ s $ 에서의 전방 경로 탐색과 타겟 노드 $ t $ 에서의 역방향 경로 탐색을 동시에 수행하는 이중 방향 탐색 프레임워크를 도입하며, 영향력이 낮은 노드를 제거하기 위해 중요도 임계값 기반의 절단 기법을 적용한다.
• 노드 $ t $ 로의 역방향 PPR 값이 높은 노드 집합인 프론티어 집합 $ F_t(\epsilon_r) $ 을 유지하여, 무작위 보행의 조기 종료를 위한 기반이 되게 하며, 분산을 감소시키고 추정 정확도를 향상시킨다.
• 프론티어 집합에서 추정한 역방향 PPR 값을 활용해 무작위 보행의 가중치와 편향을 조정함으로써, $ t $ 를 향한 확률이 높은 경로를 우선순위로 배정함으로써 수렴 속도를 향상시킨다.
• 균형 잡힌 FAST-PPR에서 동적 임계값 기반 전략을 적용하여, 각 타겟 노드의 전역 페이지랭크에 따라 역방향 탐색 임계값 $ \epsilon_r $ 을 조정함으로써 전방 및 후방 계산 작업의 균형을 맞춘다.
• 남은 노드의 기여도가 $ \delta $ 비례하는 임계값 이하로 떨어질 경우 탐색을 중단하는 중요도 기반 임계값 기반 메커니즘을 도입하여 상대 오차 한계를 확보한다.
• 몬테카를로 샘플링과 프론티어 기반 절단 기법을 융합하여 $ \pi_s(t) $ 를 효율적으로 추정하며, 각 보행이 프론티어에 도달하는 것은 $ \pi_s(t) $ 를 편향되게는 추정 가능하게 하는 사실을 활용한다.

실험 결과

연구 질문

• RQ1 개인화된 페이지랭크 추정을 어떻게 가속화할 수 있으며, $ \pi_s(t) > \delta $ 에 대해 상대 오차 보장을 유지할 수 있는가?
• RQ2 프론티어 집합을 활용한 이중 방향 탐색 전략이 기존 방법의 $ \Omega(1/\delta) $ 하한선을 초월하여 PPR 추정의 실행 시간을 향상시킬 수 있는가?
• RQ3 상대 오차 보장이 있는 PPR 추정의 실행 시간에 대한 이론적 한계는 무엇이며, FAST-PPR은 이를 달성하는가?
• RQ4 추정 정확도 및 분산 측면에서 타겟 집합 대비 프론티어 집합 사용의 성능 차이는 어떠한가?
• RQ5 전방 및 후방 계산 작업의 동적 균형 조절이 다양한 실세계 그래프에서의 평균 성능 향상에 기여하는가?

주요 결과

• FAST-PPR는 평균 실행 시간 복잡도가 $ O(\sqrt{d/\delta}) $ 로, 기존 알고리즘의 $ \Omega(1/\delta) $ 복잡도에 비해 특히 작은 $ \delta $ 값이 흔한 대규모 네트워크에서 뚜렷한 향상을 보인다.
• 15억 개 간선을 가진 Twitter-2010 그래프에서, 균형 잡힌 FAST-PPR는 최신 기술 대비 160배 빠른 성능을 보이며, 임의의 소스-타겟 쌍에 대해 3초 이내로 쿼리 실행 시간을 확보한다.
• FAST-PPR는 높은 정확도를 유지하며, 테스트된 모든 그래프에서 평균 상대 오차가 15% 미만이며, 일부 경우(예: Twitter)에서는 몬테카를로 및 로컬 업데이트 방법보다도 상대 오차가 낮다.
• 실증 결과에 따르면, 추정에 프론티어 집합을 사용할 경우 타겟 집합 대비 분산이 감소하고 정확도가 향상됨을 확인하였으며, 추정된 PPR 값과 진짜 값 간의 산점도에서 더 조밀한 군집이 관찰되었다.
• 균형 잡힌 FAST-PPR는 전방 및 후방 계산 작업을 효과적으로 균형 잡아, 전역 페이지랭크가 높은 타겟과 낮은 타겟 간의 성능 격차를 줄였다. 이는 Twitter-2010 그래프 전반에 걸친 런타임 플롯을 통해 입증되었다.
• 이론적 분석을 통해 상대 오차 보장이 있는 PPR 추정에 대해 $ \Omega(1/\sqrt{\delta}) $ 하한선을 확립하였으며, 이는 FAST-PPR의 $ \sqrt{\delta} $ 의존성이 游적적으로 최적임을 증명한다.