[论文解读] Efficient Algorithms for Personalized PageRank

Peter Lofgren|arXiv (Cornell University)|Dec 15, 2015

Complex Network Analysis Techniques参考文献 47被引用 23

一句话总结

该论文提出了一种新颖的双向算法，结合线性代数与蒙特卡洛方法，将个性化PageRank（PPR）得分的估算速度相比最先进方法提升了最高70倍。通过从源节点和目标节点同时进行前向和反向随机游走，该方法实现了每个目标节点$O(\sqrt{m})$的期望运行时间，显著提升了大规模网络中个性化搜索与推荐系统的效率。

ABSTRACT

We present new, more efficient algorithms for estimating random walk scores such as Personalized PageRank from a given source node to one or several target nodes. These scores are useful for personalized search and recommendations on networks including social networks, user-item networks, and the web. Past work has proposed using Monte Carlo or using linear algebra to estimate scores from a single source to every target, making them inefficient for a single pair. Our contribution is a new bidirectional algorithm which combines linear algebra and Monte Carlo to achieve significant speed improvements. On a diverse set of six graphs, our algorithm is 70x faster than past state-of-the-art algorithms. We also present theoretical analysis: while past algorithms require $Ω(n)$ time to estimate a random walk score of typical size $\frac{1}{n}$ on an $n$-node graph to a given constant accuracy, our algorithm requires only $O(\sqrt{m})$ expected time for an average target, where $m$ is the number of edges, and is provably accurate. In addition to our core bidirectional estimator for personalized PageRank, we present an alternative algorithm for undirected graphs, a generalization to arbitrary walk lengths and Markov Chains, an algorithm for personalized search ranking, and an algorithm for sampling random paths from a given source to a given set of targets. We expect our bidirectional methods can be extended in other ways and will be useful subroutines in other graph analysis problems.

研究动机与目标

• 解决现有PPR估算方法在大规模网络中单源单目标查询下的低效问题。
• 通过加速社交网络和用户-项目网络等图结构上的PPR计算，提升个性化搜索与推荐系统的性能。
• 设计一种可证明准确且可扩展的算法，将每次目标节点的运行时间从$\Omega(n)$降低至$O(\sqrt{m})$的期望时间。
• 实现实时PPR估算，并支持复杂查询，如多词关键词搜索与图工作负载中的路径采样。

提出的方法

• 提出一种双向PPR估计器，同时从源节点执行前向游走，从目标节点执行反向游走，以估算PPR得分。
• 采用混合方法，结合线性代数（残差向量维护）与蒙特卡洛采样，以平衡准确率与效率。
• 针对无向图提出基于对称性的优化，通过利用随机游走的可逆性提升性能。
• 设计一种路径采样算法，生成受限制于到达指定目标集合的随机游走，适用于推荐与探索任务。
• 实现一种预计算方案，通过共享数据结构将多个目标的残差合并，降低存储开销。
• 应用参数化估计方法，逐步减小$\delta$值，以在保持效率的同时实现相对误差保证。

实验结果

研究问题

• RQ1 与单向或全局方法相比，从源节点和目标节点同时进行双向随机游走是否能显著减少估算单个PPR得分所需的时间？
• RQ2 所提出的双向估计器的理论时间复杂度是多少？其对图大小与结构的依赖关系与先前工作相比如何？
• RQ3 该算法能否推广以估算任意随机游走指标，如首次 hitting 时间或有效电阻？
• RQ4 在存在边插入的动态图中，如何高效地维护与更新预计算的残差？
• RQ5 该方法能否扩展以支持个性化搜索中的多词或复杂查询，而不会带来过高的存储或计算开销？

主要发现

• 所提出的双向PPR算法在六个不同现实世界图上相比先前最先进方法实现了最高70倍的速度提升。
• 该算法每个目标节点的运行时间为$O(\sqrt{m})$的期望时间，其中$m$为边数，显著优于先前方法的$\Omega(n)$下界。
• 该方法具有可证明的准确性，在标准假设下对PPR估算提供了相对误差的理论保证。
• 对于无向图，基于对称性的变体（UndirectedBiPPR）通过利用随机游走的可逆性进一步提升了性能。
• 预计算方案通过合并多个目标的残差降低了存储开销，实验表明在Twitter-2010图上显著减少了存储占用。
• 路径采样算法能够高效生成受限制于到达指定目标集合的随机游走，支持高级推荐与探索工作负载。