[论文解读] Fast Mixing Markov Chains for Strongly Rayleigh Measures, DPPs, and Constrained Sampling

Chengtao Li, Stefanie Jegelka+1 more|arXiv (Cornell University)|Aug 2, 2016

Markov Chains and Monte Carlo Methods参考文献 31被引用 4

一句话总结

本论文首次为强雷利（Strongly Rayleigh, SR）测度和约束离散分布（包括行列式点过程，DPPs）提出了可证明快速混合的马尔可夫链采样方法。论文建立了SR测度的多项式混合时间界，并为基数约束和拟阵约束模型开发了高效链，首次在DPPs提出以来提供了从一般DPPs进行快速MCMC采样的理论保证。

ABSTRACT

We study probability measures induced by set functions with constraints. Such measures arise in a variety of real-world settings, where prior knowledge, resource limitations, or other pragmatic considerations impose constraints. We consider the task of rapidly sampling from such constrained measures, and develop fast Markov chain samplers for them. Our first main result is for MCMC sampling from Strongly Rayleigh (SR) measures, for which we present sharp polynomial bounds on the mixing time. As a corollary, this result yields a fast mixing sampler for Determinantal Point Processes (DPPs), yielding (to our knowledge) the first provably fast MCMC sampler for DPPs since their inception over four decades ago. Beyond SR measures, we develop MCMC samplers for probabilistic models with hard constraints and identify sufficient conditions under which their chains mix rapidly. We illustrate our claims by empirically verifying the dependence of mixing times on the key factors governing our theoretical bounds.

研究动机与目标

• 开发在组合约束下快速且可证明高效的离散概率分布马尔可夫链采样方法。
• 解决一般行列式点过程（DPPs）快速混合的长期开放问题。
• 将MCMC采样扩展至具有非线性集合函数的约束模型，超越线性权重假设。
• 识别确保采样链快速混合的集合函数结构条件。
• 通过在真实世界数据集上的实验，实证验证理论边界。

提出的方法

• 提出一种新颖的基于投影的马尔可夫链（Mix链），用于从强雷利测度中采样，利用负相关性特性。
• 通过路径耦合和转移矩阵的谱分析，建立多项式混合时间界。
• 分析拟阵约束模型（如均匀拟阵、划分拟阵）的交换链，具有基数或分组约束。
• 为 $|S| \leq k$ 约束引入增删链，并证明其与 $|S| = k$ 的混合行为存在显著差异。
• 使用逆温度 $\beta$ 和结构参数 $\zeta_F$ 或 $\alpha$ 来量化混合时间的依赖关系。
• 通过Ailerons和伊辛模型数据集上的PSRF和收敛诊断，实证验证理论预测。

实验结果

研究问题

• RQ1 我们能否设计一种马尔可夫链，使其对所有强雷利测度（包括一般DPPs）均在多项式时间内混合？
• RQ2 集合函数 $F$ 需满足何种条件，才能在约束分布采样中确保快速混合？
• RQ3 在 $|S| = k$ 和 $|S| \leq k$ 约束下，增删链的混合时间有何不同？
• RQ4 基于 $\zeta_F$ 和 $\alpha$ 的理论混合时间界在多大程度上与实证观察一致？
• RQ5 在不依赖线性权重假设的前提下，能否实现约束DPPs的快速混合？

主要发现

• 所提出的Mix链对所有强雷利测度均实现多项式混合时间，为一般DPPs提供了首个可证明快速的MCMC采样器。
• 对于拟阵约束模型（如 $|S| = k$ 或划分约束），在温和的结构假设下，交换链可在多项式时间内混合。
• $|S| \leq k$ 的增删链表现出与 $|S| = k$ 显著不同的混合行为，在高谱差异设置下收敛更快。
• 实证结果表明，混合时间随基集大小 $N$ 几乎呈线性增长，表明在中小规模下具有可扩展性。
• 混合时间的理论界依赖于 $\zeta_F$ 和 $\beta$，这些依赖关系在 $\beta$ 和 $\delta$ 变化时的收敛速度中得到验证。
• 在特征值高度集中的情况下（如第一特征值较大的DPPs），由于能够交换元素，Mix链的表现优于增删链。