[论文解读] Fast Incremental and Personalized PageRank

Bahman Bahmani, Abdur Chowdhury+1 more|arXiv (Cornell University)|Jun 15, 2010

Complex Network Analysis Techniques参考文献 4被引用 27

一句话总结

本文提出了一种基于分布式共享内存的快速、增量式蒙特卡洛方法，用于在大规模、动态演化的社交网络中计算全局和个性化PageRank。通过存储随机游走片段并利用个性化PageRank的幂律特性，该方法在全局PageRank上实现O(n ln m / ǫ²)的总计算量，在获取前k个个性化结果时实现O(k / (R(1−α)/α))的预期数据库访问次数，显著优于批量重新计算和先前的增量方法。

ABSTRACT

In this paper, we analyze the efficiency of Monte Carlo methods for incremental computation of PageRank, personalized PageRank, and similar random walk based methods (with focus on SALSA), on large-scale dynamically evolving social networks. We assume that the graph of friendships is stored in distributed shared memory, as is the case for large social networks such as Twitter. For global PageRank, we assume that the social network has $n$ nodes, and $m$ adversarially chosen edges arrive in a random order. We show that with a reset probability of $ε$, the total work needed to maintain an accurate estimate (using the Monte Carlo method) of the PageRank of every node at all times is $O(\frac{n\ln m}{ε^{2}})$. This is significantly better than all known bounds for incremental PageRank. For instance, if we naively recompute the PageRanks as each edge arrives, the simple power iteration method needs $Ω(\frac{m^2}{\ln(1/(1-ε))})$ total time and the Monte Carlo method needs $O(mn/ε)$ total time; both are prohibitively expensive. Furthermore, we also show that we can handle deletions equally efficiently. We then study the computation of the top $k$ personalized PageRanks starting from a seed node, assuming that personalized PageRanks follow a power-law with exponent $α< 1$. We show that if we store $R>q\ln n$ random walks starting from every node for large enough constant $q$ (using the approach outlined for global PageRank), then the expected number of calls made to the distributed social network database is $O(k/(R^{(1-α)/α}))$. We also present experimental results from the social networking site, Twitter, verifying our assumptions and analyses. The overall result is that this algorithm is fast enough for real-time queries over a dynamic social network.

研究动机与目标

• 解决在边按顺序动态到达的动态社交网络中，PageRank批量重新计算效率低下的问题。
• 设计一种可扩展的实时算法，在持续图更新下保持全局和个性化PageRank估计的准确性。
• 利用个性化PageRank向量的幂律结构，最小化随机游走组合过程中的昂贵数据库访问。
• 通过Twitter数据的真实世界实验验证理论边界，确认该方法在生产系统中的实用性。

提出的方法

• 使用蒙特卡洛采样，每个节点存储R个随机游走片段，以实现PageRank和个性化PageRank的快速增量更新。
• 采用分布式共享内存模型（Social Store）支持在游走模拟过程中对图边实现低延迟随机访问。
• 基于个性化PageRank向量的幂律假设（指数α < 1），对游走组合过程中的预期数据库访问次数进行上界控制。
• 使用几何分布的游走长度（均值为1/ǫ）来模拟随机浏览者行为，并估计平稳分布。
• 利用集中不等式和幂律分析，推导出全局PageRank的总计算量和前k个个性化结果的预期访问次数的理论边界。
• 采用基于片段的游走组合技术：当需要一次游走时，获取预先存储的片段并将其拼接成完整游走。

实验结果

研究问题

• RQ1 蒙特卡洛方法能否在大规模、动态社交网络中实现高效的增量PageRank计算？
• RQ2 在对抗性边按随机顺序到达的情况下，维护准确全局PageRank估计所需的理论总计算量是多少？
• RQ3 如何在最小化数据库访问的前提下，高效计算个性化PageRank以支持前k名推荐？
• RQ4 在真实社交网络中，个性化PageRank向量在多大程度上遵循幂律分布？
• RQ5 短随机游走是否足以近似平稳分布，从而满足实际推荐系统的需求？

主要发现

• 在重置概率为ǫ的情况下，维护全局PageRank的总计算量为O(n ln m / ǫ²)，显著优于幂迭代的Ω(m² / ln(1/(1−ǫ)))和朴素蒙特卡洛重新计算的O(mn / ǫ)。
• 该方法在处理边删除时与边插入具有相同的效率，维持相同的理论边界。
• 对于个性化PageRank的前k个结果，当幂律指数α < 1时，预期数据库访问次数为O(k / (R(1−α)/α))，其中R为每个节点存储的游走片段数。
• Twitter数据实验表明，个性化PageRank向量的幂律指数均值为0.77，标准差为0.08，验证了模型假设。
• 长度为5,000步的短随机游走可在前100名推荐中恢复80%的真实前100名结果，且在召回率0.8时的精确率接近0.8。
• 理论访问次数边界与实验结果高度吻合，证实当R > q ln n时，即使在理论阈值到达前，系统也能保持稳健性能。