[논문 리뷰] Efficient Algorithms for Personalized PageRank

Peter Lofgren|arXiv (Cornell University)|2015. 12. 15.

Complex Network Analysis Techniques참고 문헌 47인용 수 23

한 줄 요약

이 논문은 선형 대수와 몬테카를로 방법을 결합한 새로운 이방향 알고리즘을 소개한다. 이 알고리즘은 기존 최고 수준의 방법보다 최대 70배 빠르게 개인화된 페이지랭크(PPR) 점수를 추정한다. 소스 노드와 타겟 노드에서의 정방향 및 역방향 랜덤 워크를 활용함으로써, 각 타겟에 대해 $O(\sqrt{m})$의 기대 실행 시간을 달성하여, 대규모 네트워크에서 개인화 검색 및 추천 시스템의 효율성을 크게 향상시킨다.

ABSTRACT

We present new, more efficient algorithms for estimating random walk scores such as Personalized PageRank from a given source node to one or several target nodes. These scores are useful for personalized search and recommendations on networks including social networks, user-item networks, and the web. Past work has proposed using Monte Carlo or using linear algebra to estimate scores from a single source to every target, making them inefficient for a single pair. Our contribution is a new bidirectional algorithm which combines linear algebra and Monte Carlo to achieve significant speed improvements. On a diverse set of six graphs, our algorithm is 70x faster than past state-of-the-art algorithms. We also present theoretical analysis: while past algorithms require $Ω(n)$ time to estimate a random walk score of typical size $\frac{1}{n}$ on an $n$-node graph to a given constant accuracy, our algorithm requires only $O(\sqrt{m})$ expected time for an average target, where $m$ is the number of edges, and is provably accurate. In addition to our core bidirectional estimator for personalized PageRank, we present an alternative algorithm for undirected graphs, a generalization to arbitrary walk lengths and Markov Chains, an algorithm for personalized search ranking, and an algorithm for sampling random paths from a given source to a given set of targets. We expect our bidirectional methods can be extended in other ways and will be useful subroutines in other graph analysis problems.

연구 동기 및 목표

• 대규모 네트워크에서 단일 소스, 단일 타겟 쿼리에 대해 기존 PPR 추정 방법의 비효율성을 해결한다.
• 소셜 네트워크 및 사용자-아이템 네트워크와 같은 그래프에서 PPR 계산을 가속화하여 개인화 검색 및 추천 시스템의 성능을 향상시킨다.
• 실행 시간을 $\Omega(n)$에서 $O(\sqrt{m})$ 기대 시간으로 줄이는 증명 가능하게 정확하고 확장 가능한 알고리즘을 개발한다.
• 실시간 PPR 추정을 가능하게 하고, 다단어 키워드 검색 및 경로 샘플링과 같은 복잡한 쿼리에 대한 지원을 제공한다.

제안 방법

• 소스에서의 정방향 워크와 타겟에서의 역방향 워크를 동시에 수행하여 PPR 점수를 추정하는 이방향 PPR 추정기를 제안한다.
• 정확성과 효율성의 균형을 위해 선형 대수(잔차 벡터 유지)와 몬테카를로 샘플링을 조합한 하이브리드 접근법을 사용한다.
• 랜덤 워크의 가역성을 활용하여 성능을 향상시키기 위해 무방향 그래프에 특화된 대칭 기반 최적화를 도입한다.
• 특정 타겟 집합에 도달하는 조건부 랜덤 워크를 생성하는 경로 샘플링 알고리즘을 설계하여 추천 및 탐색 작업에 유용하다.
• 공유된 데이터 구조를 사용하여 여러 타겟 간 잔차를 통합함으로써 저장소를 줄이는 사전계산 기반 설계를 구현한다.
• 감소하는 $\delta$ 값에 기반한 매개변수화된 추정을 적용하여 상대 오차 보장을 유지하면서도 효율성을 확보한다.

실험 결과

연구 질문

• RQ1 소스 및 타겟 노드에서의 이방향 랜덤 워크는 단일 PPR 점수를 추정하는 데에 기존의 단방향 또는 전역 방법보다 시간을 크게 줄일 수 있는가?
• RQ2 제안된 이방향 추정기의 이론적 시간 복잡도는 무엇이며, 그래프 크기 및 구조에 대한 의존성 측면에서 이전 연구와 비교해 볼 때 어떻게 다른가?
• RQ3 이 알고리즘은 히팅 타임이나 유효 저항과 같은 임의의 랜덤 워크 점수를 추정하는 데 일반화될 수 있는가?
• RQ4 엣지 삽입이 발생하는 동적 그래프에서 사전 계산된 잔차를 효율적으로 유지하고 갱신할 수 있는가?
• RQ5 과도한 저장소나 계산 오버헤드 없이 다단어나 복잡한 쿼리를 개인화된 검색에서 지원할 수 있는가?

주요 결과

• 제안된 이방향 PPR 알고리즘은 여섯 가지 다양한 실세계 그래프에서 기존 최고 수준의 방법보다 최대 70배 빠른 성능 향상을 달성한다.
• 알고리즘은 타겟 노드당 $O(\sqrt{m})$의 기대 실행 시간을 가지며, 여기서 $m$은 간선 수이다. 이는 이전 방법의 $\Omega(n)$ 하한선에 비해 크게 향상된 것이다.
• 알고리즘은 이론적으로 정확하며, 표준 가정 하에 PPR 추정에 대한 상대 오차 보장이 있다.
• 무방향 그래프의 경우, 대칭 기반 변형(UndirectedBiPPR)이 랜덤 워크의 가역성을 활용하여 성능을 추가로 향상시킨다.
• 사전 계산 기반 설계로 여러 타겟 간 잔차를 통합함으로써 저장소를 줄였으며, Twitter-2010 그래프에서 실험적으로 저장소 점유율이 감소한 것으로 확인되었다.
• 경로 샘플링 알고리즘은 주어진 타겟 집합에 도달하는 조건부 랜덤 워크를 효율적으로 생성할 수 있게 하여 고도화된 추천 및 탐색 워크로드를 지원한다.