[論文レビュー] Fast and Accurate Random Walk with Restart on Dynamic Graphs with Guarantees

Minji Yoon, Woojeong Jin+1 more|arXiv (Cornell University)|Dec 2, 2017

Advanced Graph Neural Networks参考文献 23被引用数 4

ひとこと要約

本稿では、理論的保証を伴う高速かつ正確な動的グラフ上のランダムウォークリセット（RWR）の計算のための新規アルゴリズム、OSPおよびOSP-Tを提案する。更新された辺の周辺に局所的なオフセットスコアを計算・伝搬することで、OSPは正確なRWRの更新を保証する。一方、OSP-Tは、誤差境界が保証され、対数時間で収束する、速度と正確性の調整可能なトレードオフを提供する。

ABSTRACT

Given a time-evolving graph, how can we track similarity between nodes in a fast and accurate way, with theoretical guarantees on the convergence and the error? Random Walk with Restart (RWR) is a popular measure to estimate the similarity between nodes and has been exploited in numerous applications. Many real-world graphs are dynamic with frequent insertion/deletion of edges; thus, tracking RWR scores on dynamic graphs in an efficient way has aroused much interest among data mining researchers. Recently, dynamic RWR models based on the propagation of scores across a given graph have been proposed, and have succeeded in outperforming previous other approaches to compute RWR dynamically. However, those models fail to guarantee exactness and convergence time for updating RWR in a generalized form. In this paper, we propose OSP, a fast and accurate algorithm for computing dynamic RWR with insertion/deletion of nodes/edges in a directed/undirected graph. When the graph is updated, OSP first calculates offset scores around the modified edges, propagates the offset scores across the updated graph, and then merges them with the current RWR scores to get updated RWR scores. We prove the exactness of OSP and introduce OSP-T, a version of OSP which regulates a trade-off between accuracy and computation time by using error tolerance ε. Given restart probability c, OSP-T guarantees to return RWR scores with O (ε /c ) error in O (log (ε/2)/log(1-c)) iterations. Through extensive experiments, we show that OSP tracks RWR exactly up to 4605x faster than existing static RWR method on dynamic graphs, and OSP-T requires up to 15x less time with 730x lower L1 norm error and 3.3x lower rank error than other state-of-the-art dynamic RWR methods.

研究の動機と目的

• 頻繁な辺およびノードの更新を伴う時間発展するグラフにおけるRWRスコアの効率的かつ正確な追跡の課題に対処すること。
• 正確性や収束に関する理論的保証を欠く既存の動的RWR手法の限界を克服すること。
• ノードおよび辺の挿入・削除を伴う、有向および無向グラフの両方へ一般化して適用可能なソリューションを提供すること。
• OSP-Tにおける誤差許容度の制御を通じて、計算効率と正確性の間のトレードオフメカニズムを導入すること。
• OSPに対して理論的正確性を保証し、OSP-Tに対して一般化された動的グラフ設定下での厳密な時間および誤差バウンドを確保すること。

提案手法

• OSPは、グラフの更新に伴い変更された辺の周辺でのみオフセットスコアを事前に計算することで、RWRの更新を実行する。
• オフセットスコアは、累積的べき乗反復（CPI）を用いて更新されたグラフ全体に伝搬され、反復的行列-ベクトル乗算を効率的にモデル化する。
• 伝搬されたオフセットスコアと事前に計算されたRWRスコアをマージすることで、更新されたRWRスコアが得られる。
• OSP-Tは、ユーザーが定義する誤差許容度εを導入することで、OSPを拡張し、計算時間の短縮を可能にする制御可能な近似を実現する。
• 誤差境界がO(ε/c)であることを保証するため、OSP-Tはlog(ε/2)/log(1−c)回の反復に基づく停止基準を用いる。ここでcはリセット確率である。
• スコア伝搬および誤差蓄積の理論的分析を通じて、収束性と正確性を保証する。

実験結果

リサーチクエスチョン

• RQ1 収束および誤差に関する理論的保証を伴い、動的RWRの更新を正確に計算することは可能か？
• RQ2 動的RWR計算において、速度と正確性の間の調整可能なトレードオフを実現するにはどうすればよいか？
• RQ3 一般のグラフ変更（有向・無向グラフにおける挿入・削除）を想定した動的RWRアルゴリズムの理論的時間計算量および誤差バウンドは何か？
• RQ4 グラフ変更のサイズおよび位置が、動的RWRアルゴリズムの性能および誤差に与える影響は何か？
• RQ5 既存の伝搬ベースの動的RWRモデルを、理論的保証付きで速度および正確性の両面で上回る方法を設計できるか？

主な発見

• OSPは動的グラフ上で正確なRWRの更新を達成し、実世界の動的グラフにおいて、最良の静的RWR手法と比較して最大4605倍高速である。
• OSP-Tは、最先端の動的RWR手法と比較して計算時間を最大15倍短縮し、L1ノルム誤差は730倍低減、ランク誤差は3.3倍低減した。
• OSP-TのL1ノルム誤差は、すべての実験で理論的バウンドO(ε/c)の範囲内に保たれ、誤差保証の正しさが確認された。
• OSP-Tの実行時間は、グラフ変更のサイズΔGに応じて増加するが、局所的なオフセット計算のおかげで、大きな更新に対しても効率的である。
• 高RWRスコアを持つノードの近辺で変更が発生すると性能劣化が生じるが、実際の応用ではこのようなケースはまれであり、理論的期待と整合的である。
• OSP-TはO(log(1−c)(ε/2))回の反復で収束し、理論的時間計算量が検証され、εを用いた予測可能なパフォーマンスチューニングが可能である。