[论文解读] Modified log-Sobolev inequalities for strong-Rayleigh measures

Jonathan Hermon, Justin Salez|arXiv (Cornell University)|Feb 7, 2019

Markov Chains and Monte Carlo Methods被引用 4

一句话总结

本论文在强雷利（strong Rayleigh）条件更弱的负依赖条件——随机覆盖性质（stochastic covering property, SCP）下，为布尔格点 \{0,1\}^n 上的可逆马尔可夫链建立了通用的修正对数 Sobolev 不等式。关键贡献是：对于 $k$-齐次测度，混合时间上界为 $kn\log\log\frac{1}{\pi(x)}$，并应用于浓度不等式与 MCMC 的抽样。

ABSTRACT

We establish universal modified log-Sobolev inequalities for reversible Markov chains on the boolean lattice $\{0,1\}^n$, under the only assumption that the invariant law $π$ satisfies a form of negative dependence known as the stochastic covering property. This condition is strictly weaker than the strong Rayleigh property, and is satisfied in particular by all determinantal measures, as well as any product measure over the set of bases of a balanced matroid. In the special case where $π$ is $k-$homogeneous, our results imply the celebrated concentration inequality for Lipschitz functions due to Pemantle & Peres (2014). As another application, we deduce that the natural Monte-Carlo Markov Chain used to sample from $π$ has mixing time at most $kn\log\log\frac{1}{π(x)}$ when initialized in state $x$. To the best of our knowledge, this is the first work relating negative dependence and modified log-Sobolev inequalities.

研究动机与目标

• 在负依赖条件下，为布尔格点上的马尔可夫链发展通用的函数不等式。
• 弥合负依赖与修正对数 Sobolev 不等式之间的鸿沟，这一此前未被探索的联系。
• 在 $k$-齐次与随机覆盖性质条件下，推导 MCMC 抽样器的显式混合时间上界。
• 通过修正对数 Sobolev 框架，恢复并推广佩曼特尔-佩雷斯（Pemantle-Peres）对利普希茨函数的浓度不等式。
• 提供一种构造方法，通过坐标平均构建具有统一谱界与函数界生成元的生成器。

提出的方法

• 引入随机覆盖性质（SCP）作为负依赖条件，其严格弱于强雷利性质，但包含确定性测度与平衡拟阵测度。
• 针对每个坐标 $\ell$，基于 $x_\ell$ 的取值构造翻转-交换生成元 $Q^{(\ell)}$，确保 $\lambda(Q^{(\ell)}), \alpha(Q^{(\ell)}) \geq 1$ 且 $\Delta(Q^{(\ell)}) \leq n$。
• 对所有坐标上的生成元取平均，形成 $Q^\star = \frac{1}{n}\sum_{\ell=1}^n Q^{(\ell)}$，保持谱界与函数界不变。
• 利用 Herbst 方法，从修正对数 Sobolev 不等式推导出次高斯浓度不等式，通过二次变差 $v(f)$ 将 $\alpha(Q)$ 与尾部概率联系起来。
• 将函数不等式应用于推导混合时间上界 $t_{\textsc{mix}}(x;\varepsilon) \leq \frac{1}{\alpha(Q)}\left(\log\log\frac{1}{\pi(x)} + \log\frac{1}{2\varepsilon^2}\right)$。
• 证明：对于 $k$-齐次 $\pi$，生成元 $Q^\star$ 满足 $-Q^\star(x,x) \leq 2k$，从而得到最终的混合时间上界 $kn\log\log\frac{1}{\pi(x)}$。

实验结果

研究问题

• RQ1 能否在强雷利性质更弱的负依赖条件下，为布尔格点上的可逆马尔可夫链建立修正对数 Sobolev 不等式？
• RQ2 随机覆盖性质（SCP）是否足以推导 MCMC 抽样器的通用函数不等式与混合时间上界？
• RQ3 能否通过修正对数 Sobolev 不等式恢复并推广佩曼特尔-佩雷斯（Pemantle-Peres）对利普希茨函数的浓度不等式？
• RQ4 在 SCP 条件下，针对 $k$-齐次测度的 MCMC 抽样器，其最优混合时间上界是什么？
• RQ5 如何通过坐标生成元的平均，得到一个具有统一谱界与函数界的全局生成元？

主要发现

• 本论文为任意可逆马尔可夫链在 $\{0,1\}^n$ 上建立了修正对数 Sobolev 不等式，其不变测度 $\pi$ 满足随机覆盖性质。
• 对于 $k$-齐次测度，当初始化于状态 $x$ 时，所构造的 MCMC 抽样器的混合时间至多为 $kn\log\log\frac{1}{\pi(x)}$，优于先前的上界。
• 应用 Herbst 方法，推导出依赖于最大单边二次变差 $v(f)$ 的次高斯浓度不等式。
• 证明随机覆盖性质严格弱于强雷利性质，但仍足以推出所需的函数不等式。
• 通过构造坐标特定生成元 $Q^{(\ell)}$ 并将其平均为 $Q^\star$，确保了修正对数 Sobolev 常数的统一下界 $\alpha(Q^\star) \geq 1$。
• 该框架在 $\pi$ 为 $k$-齐次时，可作为特例恢复佩曼特尔-佩雷斯浓度不等式，表明该方法的通用性与强大性。