[論文レビュー] FAST-PPR: Scaling Personalized PageRank Estimation for Large Graphs

Peter Lofgren, Siddhartha Banerjee+2 more|arXiv (Cornell University)|Apr 11, 2014

Advanced Graph Neural Networks参考文献 21被引用数 27

ひとこと要約

FAST-PPR は、大規模な有向グラフにおける個人化ページランク（PPR）推定のための新規アルゴリズムであり、双方向探索フレームワークを用いることで実行時間を顕著に短縮する。平均ケースの時間計算量は $ O(\tilde{\nabla}{\sqrt{d/\delta}}) $ であり、Twitter-2010 などの大規模グラフでは、既存手法に比べ最大160倍の高速化を達成している。また、高い精度を維持するとともに、$ \pi_s(t) > \delta $ の場合に相対誤差に関する理論的保証を提供する。

ABSTRACT

We propose a new algorithm, FAST-PPR, for estimating personalized PageRank: given start node $s$ and target node $t$ in a directed graph, and given a threshold $δ$, FAST-PPR estimates the Personalized PageRank $π_s(t)$ from $s$ to $t$, guaranteeing a small relative error as long $π_s(t)>δ$. Existing algorithms for this problem have a running-time of $Ω(1/δ)$; in comparison, FAST-PPR has a provable average running-time guarantee of ${O}(\sqrt{d/δ})$ (where $d$ is the average in-degree of the graph). This is a significant improvement, since $δ$ is often $O(1/n)$ (where $n$ is the number of nodes) for applications. We also complement the algorithm with an $Ω(1/\sqrtδ)$ lower bound for PageRank estimation, showing that the dependence on $δ$ cannot be improved. We perform a detailed empirical study on numerous massive graphs, showing that FAST-PPR dramatically outperforms existing algorithms. For example, on the 2010 Twitter graph with 1.5 billion edges, for target nodes sampled by popularity, FAST-PPR has a $20$ factor speedup over the state of the art. Furthermore, an enhanced version of FAST-PPR has a $160$ factor speedup on the Twitter graph, and is at least $20$ times faster on all our candidate graphs.

研究の動機と目的

• 大規模ネットワークにおける個人化ページランク（PPR）推定の計算ボトル neck を解消すること。特に、$ \delta $ が小さい場合に既存手法がスケーリングに失敗する問題を解決する。
• 与えられた閾値 $ \delta $ より大きな PPR 値に対して、低相対誤差を保証する実用的で効率的なアルゴリズムを開発すること。特に $ \delta = O(1/n) $ の場合に有効であるように設計する。
• 従来手法が示す $ \Omega(1/\delta) $ の実行時間複雑性を克服するため、フロントイアおよびターゲットセットの近似に基づく双方向探索戦略を導入する。
• 理論的裏付けを提供するため、$ \Omega(1/\sqrt{\delta}) $ の下界を証明し、FAST-PPR が $ \sqrt{\delta} $ 依存性を漸近的に最適化していることを示す。
• 実世界の多様なグラフにわたる実験的検証と、バランス型 FAST-PPR などのヒューリスティックな強化により、高い精度と頑健性を確保する。

提案手法

• ソースノード $ s $ からの前方パスとターゲットノード $ t $ からの逆方向パスを同時に探索する双方向探索フレームワークを導入し、寄与度のしきい値を用いて影響が小さいノードを pruning する。
• ノード $ t $ への逆方向 PPR が大きいノードの集合であるフロントイア集合 $ F_t(\epsilon_r) $ を維持し、ランダムウォークの早期終了を可能にする。これにより分散が低減され、推定精度が向上する。
• フロントイア集合からの逆方向 PPR 評価値を用いてランダムウォークに重み付けとバイアスを加え、$ t $ に到達する可能性の高いパスを優先的に探索することで収束速度を向上させる。
• バランス型 FAST-PPR では動的しきい値戦略を採用し、各ターゲットノードのグローバルページランクに応じて逆方向探索のしきい値 $ \epsilon_r $ を動的に調整することで、前方探索と逆方向探索の計算負荷をバランスさせる。
• 残りのノードの寄与度が $ \delta $ に比例するしきい値未満に下がった時点で探索を停止する有意性しきい値機構を導入し、相対誤差の境界を保証する。
• モンテカルロサンプリングとフロントイアベースの pruning を組み合わせ、各ウォークがフロントイアにヒットするたびに $ \pi_s(t) $ のバイアス付き推定値が得られることを活用して、$ \pi_s(t) $ を効率的に推定する。

実験結果

リサーチクエスチョン

• RQ1 大規模グラフにおける個人化ページランク推定を、$ \pi_s(t) > \delta $ の場合の相対誤差保証を損なわずに高速化することは可能か？
• RQ2 フロントイア集合を活用する双方向探索戦略により、従来手法の $ \Omega(1/\delta) $ の下界を超えて PPR 推定の実行時間を短縮できるか？
• RQ3 相対誤差保証付きの PPR 推定における実行時間の理論的限界は何か？ そして FAST-PPR はその限界に達しているか？
• RQ4 推定精度と分散の観点から、ターゲットセットと比較してフロントイア集合を用いる利点は何か？
• RQ5 前方探索と逆方向探索の計算負荷を動的にバランスさせることで、多様な実世界グラフにおける平均性能が向上するか？

主な発見

• FAST-PPR は平均ケースで $ O(\sqrt{d/\delta}) $ の実行時間を達成し、既存手法の $ \Omega(1/\delta) $ の複雑性に比べ、特に大規模ネットワークで $ \delta $ が小さい場合に顕著な高速化を実現する。
• 15億エッジを持つ Twitter-2010 グラフにおいて、バランス型 FAST-PPR は最先端手法に比べ160倍の高速化を達成し、ランダムなソース・ターゲットペアに対して1クエリあたり3秒未塔の実行時間となった。
• FAST-PPR は高い精度を維持しており、全テスト対象グラフで平均相対誤差が15％未満であり、一部のグラフ（例：Twitter）ではモンテカルロ法や Local-Update 法よりも相対誤差が小さいことが確認された。
• 実験結果から、推定にフロントイア集合を用いることで分散が低減され、精度が向上することが示された。これは、推定値と真値の散布図がより密にクラスタリングされていることからも裏付けられた。
• バランス型 FAST-PPR は前方探索と逆方向探索の計算負荷を効果的にバランスさせ、グローバルページランクが高・低のターゲット間での実行時間の差を縮小した。これは、Twitter-2010 グラフにおける実行時間プロットから明確に示された。
• 理論的分析により、相対誤差保証付きの PPR 推定における実行時間に $ \Omega(1/\sqrt{\delta}) $ の下界が存在することが示され、FAST-PPR が $ \sqrt{\delta} $ 依存性を漸近的に最適化していることが証明された。