[論文レビュー] Fast Incremental and Personalized PageRank

Bahman Bahmani, Abdur Chowdhury+1 more|arXiv (Cornell University)|Jun 15, 2010

Complex Network Analysis Techniques参考文献 4被引用数 27

ひとこと要約

本稿では、分散共有メモリを用いた大規模かつ動的に変化するソーシャルネットワークにおけるグローバルおよびパーソナライズドPageRankを計算する高速でインクリメンタルなモンテカルロ手法を提案する。ランダムウォークのセグメントを保存し、パーソナライズドPageRankのパワー則的性質を活用することで、グローバルPageRankの総作業量はO(n ln m / ǫ²)、トップkパーソナライズド結果の期待されるデータベースフェッチ回数はO(k / (R(1−α)/α))を達成し、バッチ再計算および先行するインクリメンタル手法を著しく上回る性能を発揮する。

ABSTRACT

In this paper, we analyze the efficiency of Monte Carlo methods for incremental computation of PageRank, personalized PageRank, and similar random walk based methods (with focus on SALSA), on large-scale dynamically evolving social networks. We assume that the graph of friendships is stored in distributed shared memory, as is the case for large social networks such as Twitter. For global PageRank, we assume that the social network has $n$ nodes, and $m$ adversarially chosen edges arrive in a random order. We show that with a reset probability of $ε$, the total work needed to maintain an accurate estimate (using the Monte Carlo method) of the PageRank of every node at all times is $O(\frac{n\ln m}{ε^{2}})$. This is significantly better than all known bounds for incremental PageRank. For instance, if we naively recompute the PageRanks as each edge arrives, the simple power iteration method needs $Ω(\frac{m^2}{\ln(1/(1-ε))})$ total time and the Monte Carlo method needs $O(mn/ε)$ total time; both are prohibitively expensive. Furthermore, we also show that we can handle deletions equally efficiently. We then study the computation of the top $k$ personalized PageRanks starting from a seed node, assuming that personalized PageRanks follow a power-law with exponent $α< 1$. We show that if we store $R>q\ln n$ random walks starting from every node for large enough constant $q$ (using the approach outlined for global PageRank), then the expected number of calls made to the distributed social network database is $O(k/(R^{(1-α)/α}))$. We also present experimental results from the social networking site, Twitter, verifying our assumptions and analyses. The overall result is that this algorithm is fast enough for real-time queries over a dynamic social network.

研究の動機と目的

• エッジが段階的に到着する動的ソーシャルネットワークにおけるPageRankのバッチ再計算の非効率性に対処すること。
• 継続的なグラフ更新の下で正確なグローバルおよびパーソナライズドPageRank推定値を維持するスケーラブルでリアルタイムなアルゴリズムを設計すること。
• パーソナライズドPageRankベクトルのパワー則的構造を活用して、ランダムウォークの合成時に高価なデータベースフェッチを最小限に抑えること。
• Twitterデータを用いた実世界の実験により理論的境界を検証し、生産システムへの実用性を確認すること。

提案手法

• 各ノードあたりR個のランダムウォークセグメントを保存することで、PageRankおよびパーソナライズドPageRankに対する高速でインクリメンタルな更新を可能にするモンテカルロサンプリングを用いる。
• ウォークシミュレーション中のグラフエッジへの低遅延ランダムアクセスをサポートするため、分散共有メモリモデル（Social Store）を採用する。
• パーソナライズドPageRankベクトルにおけるパワー則仮定（指数α < 1）を適用し、ウォーク合成時のデータベースフェッチ回数の期待値を制限する。
• 平均1/ǫの幾何分布に従うウォーク長を用いてランダムサーファー行動をシミュレートし、定常分布を推定する。
• 集中不等式とパワー則解析を用いて、グローバルPageRankの総作業量およびトップkパーソナライズド結果のフェッチ回数の期待値に関する理論的境界を導出する。
• セグメントベースのウォーク合成技術を採用：ウォークが必要な際は事前に保存されたセグメントをフェッチし、それらをつなぎ合わせて完全なウォークを構成する。

実験結果

リサーチクエスチョン

• RQ1 大規模で動的変化するソーシャルネットワークにおけるインクリメンタルPageRank計算に、モンテカルロ手法を効率的に適用できるか？
• RQ2 ランダムな順序でエッジが到着する悪意ある状況下でも、正確なグローバルPageRank推定値を維持するために必要な理論的総作業量は何か？
• RQ3 最小限のデータベースアクセスで、トップk推薦のためのパーソナライズドPageRankを効率的に計算するにはどうすればよいか？
• RQ4 実際のソーシャルネットワークにおいて、パーソナライズドPageRankベクトルはどの程度パワー則分布に従うか？
• RQ5 短いランダムウォークは、実用的な推薦システムにおいて定常分布を十分に近似できるか？

主な発見

• リセット確率ǫの下でグローバルPageRankを維持するための総作業量はO(n ln m / ǫ²)であり、パワー反復法のΩ(m² / ln(1/(1−ǫ)))およびナイーブモンテカルロ再計算のO(mn / ǫ)に比べて著しく優れている。
• 本手法はエッジの削除に対しても挿入と同等の効率性を維持し、同じ理論的境界を保つ。
• パワー則指数α < 1のトップkパーソナライズドPageRankにおいて、期待されるデータベースフェッチ回数はO(k / (R(1−α)/α))であり、Rはノードあたりの保存ウォークセグメント数である。
• Twitterデータを用いた実験により、パーソナライズドPageRankベクトルが平均指数0.77、標準偏差0.08でパワー則に従うことが確認され、モデル仮定の妥当性が裏付けられた。
• 5,000ステップの短いランダムウォークが、真のトップ100結果の80%をトップ100の推薦内に回復し、再現率0.8における精度はほぼ0.8に達した。
• フェッチ回数の理論的境界と実験結果がよく一致しており、R > q ln nを満たすことで理論的閾値に達する前からも頑健な性能を発揮することが確認された。