[论文解读] Convergence of MCMC and Loopy BP in the Tree Uniqueness Region for the Hard-Core Model

Charilaos Efthymiou, Thomas P. Hayes+3 more|arXiv (Cornell University)|Apr 5, 2016

Markov Chains and Monte Carlo Methods参考文献 26被引用 5

一句话总结

该论文在最大度 $ \Delta \geq \Delta_0 $ 且围长至少为 7 的图上，针对 $ \lambda < \lambda_c(\Delta) $ 的硬核模型划分函数，建立了运行时间为 $ O^*(n^2) $ 的全概率近似随机算法（FPRAS）。证明了在 $ O(n\log n) $ 步内 Glauber 动力学的快速混合，并通过一种新颖的收缩论证方法，利用 BP 算子的主特征向量，展示了环状 BP 收敛到吉布斯分布。

ABSTRACT

We study the hard-core model defined on independent sets of an input graph where the independent sets are weighted by a parameter $λ&gt;0$. For constant $Δ$, previous work of Weitz (2006) established an FPTAS for the partition function for graphs of maximum degree $Δ$ when $λ&lt; λ_c(Δ)$. The threshold $λ_c(Δ)$ is the critical point for the phase transition for uniqueness/non-uniqueness on the infinite $Δ$-regular trees. Sly (2010) showed that there is no FPRAS, unless NP=RP, when $λ&gt;λ_c(Δ)$. The running time of Weitz's algorithm is exponential in $\log(Δ)$. Here we present an FPRAS for the partition function whose running time is $O^*(n^2)$. We analyze the simple single-site Glauber dynamics for sampling from the associated Gibbs distribution. We prove there exists a constant $Δ_0$ such that for all graphs with maximum degree $Δ\geqΔ_0$ and girth $\geq 7$, the mixing time of the Glauber dynamics is $O(n\log(n))$ when $λ

研究动机与目标

• 为围长较高且最大度较大的图上的硬核模型划分函数开发一种高效的近似算法。
• 在树唯一性区域内证明 Glauber 动力学的快速混合，特别是当 $ \lambda < \lambda_c(\Delta) $ 时。
• 通过一种新颖的收缩论证方法，利用 BP 算子的主特征向量，建立环状 BP 与吉布斯分布之间的严格联系。
• 证明 Glauber 动力学在短暂预热期后会局部收敛到 BP 固定点。
• 将高效算法的适用范围扩展至 $ \Delta $ 随 $ n $ 增长的情况，而不仅限于常数 $ \Delta $。

提出的方法

• 基于 BP 算子的主特征向量设计一种距离函数，用于衡量马尔可夫链状态之间的收敛性。
• 证明当状态对靠近 BP 固定点时，该距离在期望下发生收缩，从而确保快速混合。
• 利用局部均匀性特性，控制围长 $ \geq 7 $ 的图中未被阻塞邻居数的波动。
• 将 Glauber 动力学分析为局部近似环状 BP，从而实现收敛性保证的转移。
• 证明当 $ \lambda < \lambda_c(\Delta) $ 且围长 $ \geq 6 $ 时，BP 固定点是吉布斯分布的近似。
• 将该方法应用于随机 $ \Delta $-正则二分图，证明当 $ \Delta \geq \Delta_0 $ 时，快速混合以高概率成立。

实验结果

研究问题

• RQ1 能否设计出对 $ n $ 多项式依赖的硬核模型 FPRAS，即使 $ \Delta $ 随 $ n $ 增长？
• RQ2 对于围长较高且 $ \Delta \geq \Delta_0 $ 的图，Glauber 动力学是否在 $ O(n\log n) $ 步内混合？
• RQ3 能否严格证明环状 BP 在树唯一性区域内快速收敛到吉布斯分布？
• RQ4 是否存在一种新颖的距离函数，使得当链靠近 BP 固定点时，其在 Glauber 动力学下发生收缩？
• RQ5 短环对混合时间有何影响？在较弱的环约束下，是否可放宽对围长的要求？

主要发现

• 实现了硬核模型划分函数的 FPRAS，运行时间为 $ O^*(n^2) $，优于 Weitz 算法中对 $ \log \Delta $ 的指数依赖。
• 对于所有最大度 $ \Delta \geq \Delta_0 $、围长 $ \geq 7 $ 且 $ \lambda < \lambda_c(\Delta) $ 的图，Glauber 动力学在 $ O(n\log n) $ 步内实现快速混合。
• 当 $ \lambda < \lambda_c(\Delta) $ 且围长 $ \geq 6 $ 时，环状 BP 快速收敛到吉布斯分布，原因在于 Glauber 动力学局部收敛到 BP 固定点。
• BP 算子的主特征向量使得一种新颖的收缩论证成为可能，从而证明了 Glauber 动力学的快速混合。
• 对于随机 $ \Delta $-正则二分图，当 $ \Delta \geq \Delta_0 $ 时，混合时间界以高概率成立，原因在于短环稀疏。
• 该结果可推广至每顶点最多有 $ \ell $ 个短环（长度 < 7）的图，只要 $ \ell $ 有界且 $ \Delta $ 足够大。