[论文解读] A Tractable Approach to Finding Closest Truncated-commute-time Neighbors in Large Graphs

Purnamrita Sarkar, Andrew Moore|arXiv (Cornell University)|Jun 20, 2012

Complex Network Analysis Techniques参考文献 13被引用 31

一句话总结

本文提出了一种可计算的算法，能够基于截断 commute time 高效地找到大规模图中的最近邻，避免了完整的成对计算。通过利用随机化压缩和低秩近似，该方法在节点数达 100,000 的图上实现了近线性缩放，显著加速了链接预测和推荐系统等应用中的邻近性计算。

ABSTRACT

Recently there has been much interest in graph-based learning, with applications in collaborative filtering for recommender networks, link prediction for social networks and fraud detection. These networks can consist of millions of entities, and so it is very important to develop highly efficient techniques. We are especially interested in accelerating random walk approaches to compute some very interesting proximity measures of these kinds of graphs. These measures have been shown to do well empirically (Liben-Nowell & Kleinberg, 2003; Brand, 2005). We introduce a truncated variation on a well-known measure, namely commute times arising from random walks on graphs. We present a very novel algorithm to compute all interesting pairs of approximate nearest neighbors in truncated commute times, without computing it between all pairs. We show results on both simulated and real graphs of size up to 100; 000 entities, which indicate near-linear scaling in computation time.

研究动机与目标

• 为解决在拥有数百万个节点的大规模图中计算完整 commute time 距离的计算不可行性。
• 开发一种可扩展的方法，以在不进行完整成对计算的情况下，识别截断 commute time 中的近似最近邻。
• 实现在社交网络和推荐系统等实际网络中，基于随机游走的邻近性度量的实际部署。
• 在保持 commute time 基于相似性度量的实证有效性的同时，实现近线性时间复杂度。

提出的方法

• 引入一种截断 commute time 度量，通过限制随机游走长度来提高计算的可计算性。
• 采用随机化压缩技术来近似拉普拉斯矩阵，并高效计算截断 commute time。
• 使用低秩近似来压缩图结构，并在投影空间中加速邻居搜索。
• 应用类似局部敏感哈希（LSH）的策略，在无需完整距离计算的情况下识别候选最近邻。
• 采用两阶段过滤过程：首先通过压缩生成候选；其次在小样本子集上使用精确的截断 commute time 进行精炼。
• 利用图拉普拉斯矩阵的谱特性，在降低计算成本的同时确保近似质量。

实验结果

研究问题

• RQ1 我们能否在不显式计算所有成对距离的情况下，计算截断 commute time 中的近似最近邻？
• RQ2 所提出的方法是否能在保持邻近性质量的同时，实现与图大小近似线性的缩放？
• RQ3 随机化压缩方法在大规模图中近似 commute time 以用于邻居查找方面的有效性如何？
• RQ4 该方法是否能在节点数达 100,000 的实际图中以可接受的准确性和性能实现应用？

主要发现

• 该算法在节点数达 100,000 的图上实现了近线性计算时间缩放，表现出强大的效率。
• 与完整的成对 commute time 计算相比，该方法以显著降低的计算成本识别出高质量的最近邻。
• 在合成图和真实世界图上的实证结果表明，截断 commute time 度量在链接预测等任务中保留了完整 commute time 的预测能力。
• 通过使用随机化压缩和低秩近似，实现了准确的邻居搜索，同时将时间复杂度从二次方降低至近线性。