[论文解读] Poisson-Minibatching for Gibbs Sampling with Convergence Rate Guarantees

Ruqi Zhang, Christopher De|arXiv (Cornell University)|Nov 21, 2019

Markov Chains and Monte Carlo Methods被引用 6

一句话总结

本文提出泊松-小批量吉布斯采样（Poisson-minibatching Gibbs），一种新颖的吉布斯采样方法，通过使用状态相关的小批量并避免马尔可夫链蒙特卡洛（Metropolis-Hastings）校正步骤，实现了对离散和连续图模型的无偏、高效采样。该方法通过谱间隙界限提供了理论收敛速率保证，其每次迭代的计算速度优于以往的小批量方法，同时保持了全吉布斯采样的性能。

ABSTRACT

Gibbs sampling is a Markov chain Monte Carlo method that is often used for learning and inference on graphical models. Minibatching, in which a small random subset of the graph is used at each iteration, can help make Gibbs sampling scale to large graphical models by reducing its computational cost. In this paper, we propose a new auxiliary-variable minibatched Gibbs sampling method, {\it Poisson-minibatching Gibbs}, which both produces unbiased samples and has a theoretical guarantee on its convergence rate. In comparison to previous minibatched Gibbs algorithms, Poisson-minibatching Gibbs supports fast sampling from continuous state spaces and avoids the need for a Metropolis-Hastings correction on discrete state spaces. We demonstrate the effectiveness of our method on multiple applications and in comparison with both plain Gibbs and previous minibatched methods.

研究动机与目标

• 通过实现高效的小批量采样，解决大规模图模型中吉布斯采样的高计算成本问题。
• 通过状态相关的小批量采样，消除离散状态吉布斯采样中昂贵的马尔可夫链蒙特卡洛校正步骤。
• 将小批量吉布斯采样扩展至连续状态空间，而此前的方法无法支持此类情况。
• 通过相对于普通吉布斯采样的谱间隙边界，提供理论收敛速率保证。
• 设计一种实际可行的算法，其每次迭代的计算成本低于现有小批量吉布斯变体，同时保持采样精度。

提出的方法

• 使用依赖于当前状态的泊松分布小批量，确保细致平衡和可逆性，无需马尔可夫链蒙特卡洛校正。
• 对连续变量使用快速逆变换采样，并结合概率密度函数的多项式逼近。
• 应用切比雪夫插值，高效逼近连续状态空间中的条件分布。
• 推导谱间隙的理论边界，以量化相对于完整吉布斯采样的收敛速率。
• 提出两种连续采样变体：PGITS（使用逆变换采样）和PGDA（使用双重逼近以提高效率）。
• 采用状态相关的小批量采样，其中包含某因子的概率取决于其对能量函数当前贡献的大小。

实验结果

研究问题

• RQ1 是否可以设计一种小批量吉布斯采样器，使其既无偏又无需马尔可夫链蒙特卡洛校正，同时保持正确性？
• RQ2 如何通过随机逼近方法高效地将吉布斯采样扩展至连续状态空间？
• RQ3 与完整吉布斯采样相比，小批量吉布斯算法可提供哪些理论收敛速率保证？
• RQ4 为实现接近完整吉布斯采样收敛速率，最优小批量大小应如何选择？
• RQ5 状态相关的小批量采样是否能降低每次迭代的计算成本，而不会引入偏差或需要校正步骤？

主要发现

• 泊松-小批量吉布斯采样在无需马尔可夫链蒙特卡洛校正的情况下实现了无偏采样，将离散设置下的每次迭代计算成本从 O(DΨ²) 降低至 O(DL²)。
• 该方法通过快速逆变换采样与多项式逼近，支持连续状态空间，使在拒绝采样过慢时仍能实现高效采样。
• 对于连续模型，PGDA 的每次迭代计算成本为 O(L² log L)，当 N 较大时，显著快于拒绝采样的 O(NΔ)。
• 理论边界表明，通过适当地选择小批量大小，泊松-吉布斯采样的收敛速率可被设定为与普通吉布斯采样任意接近。
• 实验结果表明，泊松-吉布斯采样在采样精度上与完整吉布斯采样相当，同时每次迭代的计算量更少。
• 该方法在离散和连续模型上均表现有效，包括截断高斯混合模型，密度估计结果与真实分布高度吻合。