[论文解读] Fast and Accurate Random Walk with Restart on Dynamic Graphs with Guarantees

Minji Yoon, Woojeong Jin+1 more|arXiv (Cornell University)|Dec 2, 2017

Advanced Graph Neural Networks参考文献 23被引用 4

一句话总结

该论文提出 OSP 和 OSP-T，一种用于在具有理论保证的动态图上快速且精确计算随机游走重启（RWR）的新算法。通过计算并传播更新边周围的局部偏移分数，OSP 确保了精确的 RWR 更新；而 OSP-T 则通过可调节的误差容忍度，在速度与精度之间提供可调的权衡，并具备可证明的误差界和对数时间复杂度的收敛速度。

ABSTRACT

Given a time-evolving graph, how can we track similarity between nodes in a fast and accurate way, with theoretical guarantees on the convergence and the error? Random Walk with Restart (RWR) is a popular measure to estimate the similarity between nodes and has been exploited in numerous applications. Many real-world graphs are dynamic with frequent insertion/deletion of edges; thus, tracking RWR scores on dynamic graphs in an efficient way has aroused much interest among data mining researchers. Recently, dynamic RWR models based on the propagation of scores across a given graph have been proposed, and have succeeded in outperforming previous other approaches to compute RWR dynamically. However, those models fail to guarantee exactness and convergence time for updating RWR in a generalized form. In this paper, we propose OSP, a fast and accurate algorithm for computing dynamic RWR with insertion/deletion of nodes/edges in a directed/undirected graph. When the graph is updated, OSP first calculates offset scores around the modified edges, propagates the offset scores across the updated graph, and then merges them with the current RWR scores to get updated RWR scores. We prove the exactness of OSP and introduce OSP-T, a version of OSP which regulates a trade-off between accuracy and computation time by using error tolerance ε. Given restart probability c, OSP-T guarantees to return RWR scores with O (ε /c ) error in O (log (ε/2)/log(1-c)) iterations. Through extensive experiments, we show that OSP tracks RWR exactly up to 4605x faster than existing static RWR method on dynamic graphs, and OSP-T requires up to 15x less time with 730x lower L1 norm error and 3.3x lower rank error than other state-of-the-art dynamic RWR methods.

研究动机与目标

• 解决在频繁更新边和节点的时间演化图中高效且准确追踪 RWR 分数的挑战。
• 克服先前动态 RWR 方法在精度或收敛性方面缺乏理论保证的局限性。
• 提供一种通用解决方案，适用于有向图和无向图中节点与边的插入和删除操作。
• 通过 OSP-T 中的误差容忍度控制，引入计算效率与精度之间的权衡机制。
• 确保 OSP 的理论精确性，以及在广义动态图设置下 OSP-T 的严格时间复杂度与误差界。

提出的方法

• OSP 通过首先仅在图更新过程中修改的边周围计算偏移分数，来计算 RWR 更新。
• 利用累积幂迭代（CPI）方法在更新后的图上传播偏移分数，该方法高效地建模了迭代的矩阵-向量乘法。
• 通过将传播后的偏移分数与先前计算的 RWR 分数合并，获得更新后的 RWR 分数。
• OSP-T 通过引入用户定义的误差容忍度 ε 扩展了 OSP，从而实现可控的近似以减少计算时间。
• OSP-T 使用基于 log(ε/2)/log(1−c) 次迭代的停止准则，其中 c 为重启概率，以保证 O(ε/c) 的误差界。
• 通过评分传播与误差累积的理论分析，确保了收敛性与准确性。

实验结果

研究问题

• RQ1 我们能否在具有收敛性和误差理论保证的前提下，精确计算动态图上的 RWR 更新？
• RQ2 如何在动态 RWR 计算中实现速度与精度之间的可调权衡？
• RQ3 在一般图修改（有向图/无向图中的插入/删除）下，动态 RWR 算法的理论时间复杂度和误差界是什么？
• RQ4 图修改的大小和位置如何影响动态 RWR 算法的性能与误差？
• RQ5 我们能否设计一种方法，在速度和精度上均优于现有基于传播的动态 RWR 模型，并具备可证明的边界？

主要发现

• OSP 在真实世界动态图上实现了对动态图的精确 RWR 更新，其速度比最佳静态 RWR 方法快达 4605 倍。
• OSP-T 相比最先进动态 RWR 方法将计算时间减少了最多 15 倍，同时 L1 范数误差降低 730 倍，排名误差降低 3.3 倍。
• OSP-T 的 L1 范数误差在所有实验中均保持在理论误差界 O(ε/c) 之内，证实了误差保证的正确性。
• OSP-T 的运行时间随图修改大小 ΔG 的增加而增长，但由于采用局部偏移计算，即使在大规模更新下仍保持高效。
• 当修改发生在高 RWR 分数节点附近时会出现性能下降，但此类情况在实际中较为罕见，与理论预期一致。
• OSP-T 在 O(log(1−c)(ε/2)) 次迭代内收敛，验证了理论时间复杂度，并可通过调节 ε 实现可预测的性能调优。