[论文解读] Are we there yet? When to stop a Markov chain while generating random graphs

Jaideep Ray, Ali Pinar+1 more|arXiv (Cornell University)|Feb 15, 2012

Complex Network Analysis Techniques参考文献 10被引用 5

一句话总结

本文提出了两种实用方法，用于确定马尔可夫链迭代次数（N），以生成具有指定联合度分布的近似独立的随机图。方法A基于边独立性的闭式模型来估计N，而方法B则通过数据驱动的方式对边出现的时间序列进行稀释，以选择最优稀释因子k。关键结果是，当N ≈ 30|E|时，可获得近乎独立的样本，且在大规模下，方法A的输出与方法B在统计上无法区分。

ABSTRACT

Markov chains are a convenient means of generating realizations of networks, since they require little more than a procedure for rewiring edges. If a rewiring procedure exists for generating new graphs with specified statistical properties, then a Markov chain sampler can generate an ensemble of graphs with prescribed characteristics. However, successive graphs in a Markov chain cannot be used when one desires independent draws from the distribution of graphs; the realizations are correlated. Consequently, one runs a Markov chain for N iterations before accepting the realization as an independent sample. In this work, we devise two methods for calculating N. They are both based on the binary "time-series" denoting the occurrence/non-occurrence of edge (u, v) between vertices u and v in the Markov chain of graphs generated by the sampler. They differ in their underlying assumptions. We test them on the generation of graphs with a prescribed joint degree distribution. We find the N proportional |E|, where |E| is the number of edges in the graph. The two methods are compared by sampling on real, sparse graphs with 10^3 - 10^4 vertices.

研究动机与目标

• 为解决马尔可夫链蒙特卡洛（MCMC）采样器生成的图实现因序列依赖而产生相关样本的挑战。
• 通过确定采样前的最小迭代次数N，消除初始化偏差并减少MCMC生成图集合中的自相关性。
• 开发简单、实用且近似的替代方法，避免用户定义的阈值以及对所有边进行完整自相关分析的高计算成本。
• 使用真实稀疏图验证所提方法，并通过图级指标（如直径和边分布）比较其性能。
• 为生成具有固定联合度分布的统计可靠图集合提供可扩展的解决方案。

提出的方法

• 方法A（‘多次短运行’）基于边独立性的闭式模型，估算马尔可夫链收敛到其平稳分布所需的迭代次数N。
• 该方法假设链中边的出现遵循伯努利过程，并推导出使链充分‘遗忘’初始状态的N值。
• 方法B（‘一次长运行’）分析单次长MCMC运行中边存在/不存在的二值时间序列，并通过保留每第k个样本逐步稀释链。
• 它通过比较一阶马尔可夫模型与独立采样模型的似然性，选择独立模型BIC评分更低的稀释因子k。
• 该方法为数据驱动，无需用户定义的阈值（如ρ_min），因此比以往基于自相关性的方法更具鲁棒性。
• 两种方法均在真实稀疏图（10^3–10^4个顶点）上进行测试，结果通过直径和边分布等图指标进行验证。

实验结果

研究问题

• RQ1 是否存在一种实用且可扩展的方法，用于确定MCMC迭代次数N，以确保生成的图实现近似独立？
• RQ2 如何在不依赖用户定义阈值的情况下，最小化MCMC生成图集合中的初始化偏差和自相关性？
• RQ3 所提出的两种方法——方法A（基于模型）和方法B（数据驱动）——在多大程度上产生统计上等价的图集合？
• RQ4 与基于数据驱动的k因子相比，N ≈ 30|E|在保留全局图属性（如直径和边分布）方面表现如何？
• RQ5 少量罕见边中的残余相关性对图指标整体分布有何影响？

主要发现

• 所提出的 方法A 估计 N ≈ 30|E| 足够生成近乎独立的图实现，最小化初始化偏差并实现近似平稳性。
• 方法B通过在边时间序列上基于BIC的模型选择，识别出最优稀释因子k，其值通常在10|E|至100|E|之间，证实了N ≈ 30|E|的实用性。
• 使用 方法A 且 N = 30|E| 生成的图集合，在包括直径和边分布在内的多种指标上，与使用 方法B 生成的图集合在统计上无法区分。
• 尽管 方法A 基于边独立性的理论假设，其生成的图集合与 方法B 相比仅存在微小差异，分布略宽，这是由于少量罕见边中存在残余相关性所致。
• 方法A与方法B之间的差异可测量但可忽略，表明N ≈ 30|E|是生成独立样本的稳健且实用的选择。
• 本研究证明，两种方法均有效且可扩展，且 方法A 为全边|V|²自相关分析提供了计算高效的替代方案。