[论文解读] Efficient Generation ε-close to G(n,p) and Generalizations

Antonio Blanca, Milena Mihail|arXiv (Cornell University)|Apr 26, 2012

Markov Chains and Monte Carlo Methods参考文献 19被引用 5

一句话总结

该论文提出了一种高效算法，用于生成与 $G(n,p)$ 及其推广形式 $\epsilon$-接近的随机图，采用马尔可夫链蒙特卡洛方法对二项分布进行采样，并严格计算位精度。该方法实现了 $O(m \log n \log(1/\epsilon))$ 的期望运行时间，其中 $m$ 为边的期望数量，首次提供了对经典随机图模型进行实际、精确模拟的方案，且能量化精度与效率之间的权衡。

ABSTRACT

We give an efficient algorithm to generate a graph from a distribution $ε$-close to $G(n,p)$, in the sense of total variation distance. In particular, if $p$ is represented with $O(\log n)$-bit accuracy, then, with high probability, the running time is linear in the expected number of edges of the output graph (up to poly-logarithmic factors). All our running times include the complexity of the arithmetic involved in the corresponding algorithms. Previous standard methods for exact $G(n,p)$ sampling (see e.g. Batagelj and Brandes, 2005) achieve similar running times, however, under the assumption that performing real number arithmetic with arbitrary accuracy takes constant time. We note that the actual accuracy required by these methods is O(n)-bit per step, which results in quadratic running times. The main idea of our $G(n,p)$ generation algorithm is a Metropolis Markov chain to sample $ε$-close from the binomial distribution. This is a new method for sampling from the binomial distribution: it is of separate interest and may find other useful applications. Our analysis accounts for all necessary bit-accuracy and arithmetic, and our running times are comparable to known methods for exact binomial sampling. We further obtain efficient generation algorithms for random graphs with given arbitrary degree distributions, Inhomogeneous Random Graphs when the kernel function is the inner product, and Stochastic Kronecker Graphs. To the best our knowledge, our work can be viewed as the first effort to simulate efficient generation of graphs from classical random graph models, while taking into account implementational considerations as fundamental computational aspects, and quantifying the tradeoff between accuracy and running time in a way that can be useful in practice.

研究动机与目标

• 开发一种高效算法，生成在总变差距离上与 $G(n,p)$ $\epsilon$-接近的图，同时严格核算位精度与算术复杂度。
• 解决先前方法中假设常数时间实数算术运算的问题，该假设在有限精度实现时会导致二次运行时间或无法量化的偏差。
• 将该方法推广至 $G(n,p)$ 的各类推广形式，包括具有给定期望度数的随机图 $G(n,\vec{w})$、内积图 $G(n,W)$ 以及随机克罗内克图 $G(n,\mathcal{P})$。
• 为使用经典随机图模型模拟大规模复杂网络，提供一个实用且可实现的框架，具备可证明的精度与效率保证。

提出的方法

• 核心方法使用马尔可夫链蒙特卡洛方法对二项分布 $\text{Bin}(n,p)$ 进行采样，实现 $\epsilon$-接近性，确保在算术运算中对位精度进行严格核算。
• 该算法根据边的概率 $p_e$ 将边划分为不同类别，对每一类使用基于马尔可夫链的二项分布采样器来采样边数。
• 对每一类边，使用组合采样方法从 $N$ 个可能的边中生成大小为 $M$ 的随机边子集，每类的时间复杂度为 $O(d^4 M)$。
• 对于 $G(n,\mathcal{P})$，利用其递归克罗内克积结构，按边的概率 $p_e = \theta_1 \cdots \theta_k$ 对边进行分组，从而实现高效的类别内采样。
• 通过维护概率的累积乘积，并使用迭代计算避免从头重新计算阶乘与乘积，从而降低算术成本。
• 通过边类上的并集界确保 $\epsilon$-接近性，并利用集中不等式控制运行时间的尾部概率。

实验结果

研究问题

• RQ1 我们能否在边的期望数量线性时间内生成与 $G(n,p)$ $\epsilon$-接近的图，同时考虑有限精度算术运算？
• RQ2 在精确采样 $G(n,p)$ 时，位精度与运行时间之间的权衡是什么？这种权衡能否被严格量化？
• RQ3 该方法能否推广至 $G(n,\vec{w})$、$G(n,W)$ 与 $G(n,\mathcal{P})$ 等 $G(n,p)$ 的推广形式，同时保持相似的效率与精度？
• RQ4 使用马尔可夫链对二项分布进行采样，是否能作为标准方法的实用且高效的替代方案，尤其是在考虑位精度时？
• RQ5 该算法在所有推广模型下的期望运行时间与高概率运行时间是多少？其随 $n$、$p$ 与模型参数的扩展规律如何？

主要发现

• 该算法在期望时间 $O(m \log n \log(1/\epsilon))$ 内生成与 $G(n,p)$ $\epsilon$-接近的图，其中 $m$ 为边的期望数量，即使 $p$ 以 $O(\log n)$ 位精度表示，该结果依然成立。
• 该方法通过使用马尔可夫链蒙特卡洛方法对二项分布进行采样，实现高效性，同时对位精度与算术复杂度进行了完整核算。
• 对于 $G(n,\mathcal{P})$，期望运行时间为 $O(d^4 \mu \log(\epsilon^{-1}) \max\{\log n, \log q\} + d^2 (\log n)^{d^2 + 2} \log^2 q)$，其中 $\mu = \mathbb{E}[|E|]$ 且 $q = \max\{|\log_2 \max \theta_{ij}|, |\log_2 \min \theta_{ij}|\}$。
• 运行时间超过其期望值 $2c\log n$ 倍的概率至多为 $O(n^{-c})$，从而保证了高概率性能。
• 该方法解决了先前方法中长期存在的问题：假设常数时间实数算术运算，这在有限精度实现时会导致二次运行时间或无法量化的偏差。
• 本工作首次严格量化了随机图生成中精度与运行时间之间的权衡，使其在大规模网络模拟中具备实际可行性。