[论文解读] Markov Chain Sampling in Discrete Probabilistic Models with Constraints

Chengtao Li, Stefanie Jegelka+1 more|arXiv (Cornell University)|Aug 2, 2016

Markov Chains and Monte Carlo Methods参考文献 5被引用 1

一句话总结

本文为带有约束的离散概率模型开发了快速马尔可夫链蒙特卡洛（MCMC）采样器，重点关注强雷利（SR）测度和确定性点过程（DPPs）。研究建立了混合时间的精确多项式界，首次在DPPs提出40多年后，提供了其可证明快速的MCMC采样器。

ABSTRACT

We study probability measures induced by set functions with constraints. Such measures arise in a variety of real-world settings, where prior knowledge, resource limitations, or other pragmatic considerations impose constraints. We consider the task of rapidly sampling from such constrained measures, and develop fast Markov chain samplers for them. Our first main result is for MCMC sampling from Strongly Rayleigh (SR) measures, for which we present sharp polynomial bounds on the mixing time. As a corollary, this result yields a fast mixing sampler for Determinantal Point Processes (DPPs), yielding (to our knowledge) the first provably fast MCMC sampler for DPPs since their inception over four decades ago. Beyond SR measures, we develop MCMC samplers for probabilistic models with hard constraints and identify sufficient conditions under which their chains mix rapidly. We illustrate our claims by empirically verifying the dependence of mixing times on the key factors governing our theoretical bounds.

研究动机与目标

• 解决由于先验知识或资源限制而在实际应用中出现的硬约束离散概率模型的高效采样挑战。
• 为具有理想负依赖性质的强雷利（SR）测度类设计快速混合马尔可夫链采样器。
• 将该框架扩展至一般带硬约束的概率模型，并确定快速混合的充分条件。
• 提供首个可证明快速的DPPs MCMC采样器，解决了自其问世以来长期存在的开放问题。

提出的方法

• 设计一种针对强雷利（SR）测度结构的Metropolis-Hastings马尔可夫链采样器，利用其负依赖性质。
• 通过分析谱间隙和一致率性质，建立马尔可夫链混合时间的多项式上界。
• 通过证明DPPs是SR测度的特例，将该框架应用于DPPs，从而继承快速混合保证。
• 提出一种针对带约束概率模型的一般性方法，识别出确保快速混合的结构性条件，如负相关性和强对数凹性。
• 通过系统分析转移核和平稳分布，验证收敛性质。
• 通过测量不同约束密度和模型参数下的混合时间，对理论界进行经验验证。

实验结果

研究问题

• RQ1 能否为带硬约束的离散概率模型（特别是来自集合函数的模型）构建快速混合的MCMC采样器？
• RQ2 约束概率模型结构的何种充分条件可保证其马尔可夫链的混合时间为多项式时间？
• RQ3 强雷利测度类是否允许存在可证明快速的MCMC采样器？若存在，其混合时间界是什么？
• RQ4 所提出的框架能否实现DPPs的首个可证明快速MCMC采样器，鉴于其长期以来作为基准模型却始终缺乏此类采样器？
• RQ5 约束密度和模型参数等关键因素如何影响实际混合时间？其表现是否与理论预测一致？

主要发现

• 本文为针对强雷利（SR）测度的马尔可夫链建立了精确的多项式混合时间界，确保快速收敛至平稳分布。
• 作为直接结果，首次实现了DPPs的可证明快速MCMC采样器，解决了概率建模领域数十年来的开放问题。
• 该框架识别出SR测度以外的充分结构性条件，使得带约束概率模型的MCMC采样器可在多项式时间内混合。
• 实验结果证实，混合时间可预测地随约束密度和模型参数等关键理论因素变化，验证了理论界的有效性。
• 分析表明，SR测度的负依赖性质在实现快速混合中起关键作用，为高效采样提供了理论基础。