[论文解读] FAST-PPR: Scaling Personalized PageRank Estimation for Large Graphs

Peter Lofgren, Siddhartha Banerjee+2 more|arXiv (Cornell University)|Apr 11, 2014

Advanced Graph Neural Networks参考文献 21被引用 27

一句话总结

FAST-PPR 是一种新颖的算法，用于在大规模有向图中估计个性化 PageRank（PPR），采用双向搜索框架，显著减少了运行时间。其平均时间复杂度为 $ O(\tilde{\nabla}{\sqrt{d/\delta}}) $，在 Twitter-2010 等大规模图上相比现有方法最高可提升 160 倍，同时保持高精度，并为 $ \pi_s(t) > \delta $ 提供相对误差的理论保证。

ABSTRACT

We propose a new algorithm, FAST-PPR, for estimating personalized PageRank: given start node $s$ and target node $t$ in a directed graph, and given a threshold $δ$, FAST-PPR estimates the Personalized PageRank $π_s(t)$ from $s$ to $t$, guaranteeing a small relative error as long $π_s(t)>δ$. Existing algorithms for this problem have a running-time of $Ω(1/δ)$; in comparison, FAST-PPR has a provable average running-time guarantee of ${O}(\sqrt{d/δ})$ (where $d$ is the average in-degree of the graph). This is a significant improvement, since $δ$ is often $O(1/n)$ (where $n$ is the number of nodes) for applications. We also complement the algorithm with an $Ω(1/\sqrtδ)$ lower bound for PageRank estimation, showing that the dependence on $δ$ cannot be improved. We perform a detailed empirical study on numerous massive graphs, showing that FAST-PPR dramatically outperforms existing algorithms. For example, on the 2010 Twitter graph with 1.5 billion edges, for target nodes sampled by popularity, FAST-PPR has a $20$ factor speedup over the state of the art. Furthermore, an enhanced version of FAST-PPR has a $160$ factor speedup on the Twitter graph, and is at least $20$ times faster on all our candidate graphs.

研究动机与目标

• 解决大规模网络中个性化 PageRank（PPR）估计的计算瓶颈问题，其中现有方法在小阈值 $ \delta $ 下扩展性差。
• 开发一种实用且高效的算法，为高于给定阈值 $ \delta $ 的 PPR 值提供低相对误差保证，尤其当 $ \delta = O(1/n) $ 时。
• 通过引入基于前沿集和目标集近似的双向搜索策略，克服先前方法 $ \Omega(1/\delta) $ 的运行时间复杂度。
• 通过证明 $ \Omega(1/\sqrt{\delta}) $ 的下界，提供理论依据，表明 FAST-PPR 中 $ \sqrt{\delta} $ 的依赖关系在渐近意义上是最优的。
• 通过实证验证和启发式改进（如 Balanced FAST-PPR），确保在多样化的真实图中保持高精度和鲁棒性。

提出的方法

• 引入一种双向搜索框架，同时从源节点 $ s $ 探索正向路径和从目标节点 $ t $ 探索反向路径，利用显著性阈值剪枝低影响节点。
• 维护一个前沿集 $ F_t(\epsilon_r) $，其中包含对 $ t $ 具有高逆 PPR 的节点，作为随机游走早期终止的掩码，从而降低方差并提高估计精度。
• 利用前沿集的逆 PPR 估计值对随机游走进行加权和偏差处理，确保更可能到达 $ t $ 的路径优先被探索，从而加快收敛速度。
• 在 Balanced FAST-PPR 中应用动态阈值策略，根据目标节点的全局 PageRank 动态调整反向搜索阈值 $ \epsilon_r $，以平衡正向和反向计算工作量。
• 实现一种显著性阈值机制，当剩余节点的贡献低于与 $ \delta $ 成比例的阈值时停止探索，确保相对误差边界。
• 将蒙特卡洛采样与基于前沿集的剪枝相结合，高效估计 $ \pi_s(t) $，利用每个游走命中前沿集的事实，作为 $ \pi_s(t) $ 的有偏但可估计的指示器。

实验结果

研究问题

• RQ1 如何在不牺牲 $ \pi_s(t) > \delta $ 的相对误差保证的前提下，加速大规模图中的个性化 PageRank 估计？
• RQ2 能否通过利用前沿集的双向搜索策略，使 PPR 估计的运行时间超越先前方法 $ \Omega(1/\delta) $ 的下界？
• RQ3 具有相对误差保证的 PPR 估计的运行时间理论极限是什么？FAST-PPR 是否达到了这一极限？
• RQ4 与使用目标集相比，使用前沿集在估计精度和方差方面表现如何？
• RQ5 通过动态平衡正向和反向计算工作量，能否在多样化的真实图中提升平均性能？

主要发现

• FAST-PPR 实现了 $ O(\sqrt{d/\delta}) $ 的平均时间复杂度，相比现有算法的 $ \Omega(1/\delta) $ 复杂度有显著提升，尤其在大规模网络中常见的小 $ \delta $ 值下表现更优。
• 在包含 150 亿条边的 Twitter-2010 图上，Balanced FAST-PPR 相比最先进算法实现了 160 倍的加速，对随机源-目标对的查询响应时间低于 3 秒。
• FAST-PPR 保持了高精度，所有测试图的平均相对误差低于 15%，在某些图（如 Twitter）中，其相对误差甚至低于蒙特卡洛和 Local-Update 方法。
• 实证结果表明，使用前沿集而非目标集进行估计可降低方差并提高精度，散点图显示估计值与真实 PPR 值的聚类更紧密。
• Balanced FAST-PPR 有效平衡了正向和反向计算工作量，减少了高全局 PageRank 和低全局 PageRank 目标之间的性能差距，如 Twitter-2010 图上的运行时间图所示。
• 理论分析建立了 $ \Omega(1/\sqrt{\delta}) $ 的运行时间下界，证明 FAST-PPR 的 $ \sqrt{\delta} $ 依赖关系在渐近意义上是最优的。