[论文解读] Fast computation of von Neumann entropy for large-scale graphs via quadratic approximations

Hayoung Choi, Jinglian He+2 more|arXiv (Cornell University)|Nov 12, 2018

Complex Network Analysis Techniques参考文献 26被引用 4

一句话总结

本文提出新颖的二次逼近方法，以加速大规模图中 von Neumann 图熵（VNGE）的计算，将时间复杂度从 O(n³) 降低至 O(n + m)。通过使用二次形式逼近熵函数 −λᵢ ln λᵢ，该方法无需计算最大特征值即可实现线性时间计算，在随机网络和真实网络中均优于先前的 FINGER 方法，在准确性和效率方面表现更优。

ABSTRACT

The von Neumann graph entropy (VNGE) can be used as a measure of graph complexity, which can be the measure of information divergence and distance between graphs. However, computing VNGE is extensively demanding for a large-scale graph. We propose novel quadratic approximations for fast computing VNGE. Various inequalities for error between the quadratic approximations and the exact VNGE are found. Our methods reduce the cubic complexity of VNGE to linear complexity. Computational simulations on random graph models and various real network datasets demonstrate superior performance.

研究动机与目标

• 为解决当前在大规模图中精确 von Neumann 图熵（VNGE）计算的高成本问题，其时间复杂度为 O(n³)。
• 开发高效、无需模型的 VNGE 近似方法，避免昂贵的特征谱计算。
• 通过熵函数 −λᵢ ln λᵢ 的二次逼近，实现线性时间复杂度 O(n + m)。
• 在合成图和真实世界图数据集上，评估所提近似方法与精确 VNGE 的准确性和效率。
• 展示快速 VNGE 计算在图相似性度量（如 Jensen-Shannon 距离）等实际应用中的实用性。

提出的方法

• 提出四种二次逼近方法：改进泰勒展开、径向投影、受 FINGER 启发的逼近以及混合二次逼近，用于近似 VNGE 计算中的非线性项 −λᵢ ln λᵢ。
• 利用可在线性时间 O(n + m) 内计算的密度矩阵纯度，评估近似方法的性能，而无需完整特征谱计算。
• 推导出改进泰勒展开和径向投影近似方法的理论误差界，证明其可靠性。
• 仅通过归一化拉普拉斯矩阵的迹和弗罗贝尼乌斯范数来估计 VNGE，避免特征值分解。
• 利用径向投影方法避免对最大特征值的依赖，提升稀疏图的计算效率。
• 将近似方法集成到 Jensen-Shannon 距离框架中，实现对大规模图序列的可扩展比较。

实验结果

研究问题

• RQ1 能否利用熵函数 −λᵢ ln λᵢ 的二次逼近，在线性时间 O(n + m) 内计算 von Neumann 图熵？
• RQ2 与现有方法（如 FINGER）相比，所提近似方法在准确性和效率方面表现如何，特别是在误差界和特征值依赖性方面？
• RQ3 在稀疏真实图中，径向投影方法因无需计算最大特征值，是否展现出更优性能？
• RQ4 在各类随机图模型（ER、BA、WS）中，精确 VNGE 与近似方法之间的相关性如何？
• RQ5 快速 VNGE 计算是否能够支持基于 Jensen-Shannon 距离的可扩展图相似性分析与异常检测？

主要发现

• 在所有测试的随机图模型中，混合二次逼近与精确 VNGE 的相关性最高，优于 FINGER 和其他近似方法。
• 径向投影方法在无需最大特征值计算的情况下表现出色，可在稀疏图上实现高精度与线性时间复杂度。
• 在真实世界无权和加权网络中，混合二次逼近与径向投影方法的准确性显著优于 FINGER 和改进泰勒展开方法。
• 所提方法的计算时间随图规模线性增长，将 O(n³) 复杂度降低至 O(n + m)，使大规模图的实用化成为可能。
• 使用所提近似方法计算的 Jensen-Shannon 距离与精确版本保持高度一致，支持其在异常检测与分岔检测中的应用。
• 已为改进泰勒展开和径向投影近似方法建立理论误差界，为其在大规模应用中的可靠性提供了信心。