[论文解读] Why do simple algorithms for triangle enumeration work in the real world?

Jonathan W. Berry, Luke Fostvedt+4 more|arXiv (Cornell University)|Jul 4, 2014

Complex Network Analysis Techniques参考文献 32被引用 4

一句话总结

本文解释了为何 MinBucket 算法——通过选择度数最低的中间顶点来确定三角形枚举路径——在真实世界图中能实现显著的加速。它证明该算法的期望运行时间由度数序列的 ℓ₄/₃-范数决定，对于幂律度分布指数 α ≥ 7/3 的情况可实现线性时间复杂度，而对于 α ∈ (2, 3) 的情况也能实现非平凡的加速。

ABSTRACT

Listing all triangles is a fundamental graph operation. Triangles can have important interpretations in real-world graphs, especially social and other interaction networks. Despite the lack of provably efficient (linear, or slightly super-linear) worst-case algorithms for this problem, practitioners run simple, efficient heuristics to find all triangles in graphs with millions of vertices. How are these heuristics exploiting the structure of these special graphs to provide major speedups in running time? We study one of the most prevalent algorithms used by practitioners. A trivial algorithm enumerates all paths of length $2$, and checks if each such path is incident to a triangle. A good heuristic is to enumerate only those paths of length $2$ where the middle vertex has the lowest degree. It is easily implemented and is empirically known to give remarkable speedups over the trivial algorithm. We study the behavior of this algorithm over graphs with heavy-tailed degree distributions, a defining feature of real-world graphs. The erased configuration model (ECM) efficiently generates a graph with asymptotically (almost) any desired degree sequence. We show that the expected running time of this algorithm over the distribution of graphs created by the ECM is controlled by the $\ell_{4/3}$-norm of the degree sequence. Norms of the degree sequence are a measure of the heaviness of the tail, and it is precisely this feature that allows non-trivial speedups of simple triangle enumeration algorithms. As a corollary of our main theorem, we prove expected linear-time performance for degree sequences following a power law with exponent $α\geq 7/3$, and non-trivial speedup whenever $α\in (2,3)$.

研究动机与目标

• 解释为何在最坏情况理论复杂度较差的情况下，简单的三角形枚举启发式方法（如 MinBucket）在真实世界图中仍表现出显著的实证成功。
• 分析 MinBucket 算法在具有重尾度分布的图上的性能，这类图在真实世界网络中很常见。
• 建立一个理论基础，将该算法的效率与真实世界图的结构特性（特别是度数序列的 ℓ₄/₃-范数）联系起来。
• 通过在具有幂律度分布的擦除配置模型（ECM）生成的图上进行实验，验证理论模型。

提出的方法

• 作者使用擦除配置模型（ECM）对真实世界图进行建模，该模型可生成具有指定度数序列的随机图。
• 他们分析 MinBucket 算法中每个桶内处理的路径对的期望数量，重点关注低度数顶点的贡献。
• 关键的理论工具是使用度数序列的 ℓ₄/₃-范数来界定期望工作量，表明重尾分布（具有有限 ℓ₄/₃-范数）可导致次二次复杂度。
• 他们通过期望的线性和集中度不等式，推导出同一桶中路径对期望数量的渐近表达式，这对应于算法的工作量。
• 分析利用单调收敛定理和尾部界限，证明对于幂律度分布，期望工作量收敛于 n 的一个有限常数倍。
• 在 ECM 生成的图上进行实验，其幂律指数分别为 α = 2.3 和 α = 2.4，验证了理论预测：随着 n 增大，工作量趋近于线性缩放。

实验结果

研究问题

• RQ1 为何 MinBucket 算法尽管具有较差的最坏情况时间复杂度，却在真实世界图中显著快于朴素算法？
• RQ2 真实世界图的结构——特别是重尾度分布——如何影响 MinBucket 算法的性能？
• RQ3 度数序列的何种数学性质决定了 MinBucket 算法在随机图中的期望运行时间？
• RQ4 对于哪些幂律度分布，MinBucket 算法可实现期望线性时间复杂度？
• RQ5 基于擦除配置模型（ECM）的理论分析，在具有类似度分布的合成图上与实际性能的匹配程度如何？

主要发现

• MinBucket 算法的期望运行时间渐近地受度数序列的 ℓ₄/₃-范数乘以 n 的常数倍所限制。
• 对于幂律度分布指数 α ≥ 7/3 的情况，MinBucket 算法可实现期望线性时间复杂度。
• 对于幂律度分布指数 α ∈ (2, 3) 的情况，该算法相对于朴素 O(∑dᵢ²) 算法实现了非平凡的加速。
• 在 α = 2.4 的情况下，期望工作量的理论常数约为 0.687935，且在节点数达 8000 万的 ECM 图上的实验结果趋近于这一线性边界。
• 实验结果表明，对于 α = 2.4，工作量与 n 的比值稳定在 1 以下，证实了理论预测的线性缩放。
• 对于 α = 2.3，工作量呈超线性增长，与 ℓ₄/₃-范数发散导致超线性性能的理论一致。