[论文解读] Retrospective Markov chain Monte Carlo methods for Dirichlet process hierarchical model

Omiros Papaspiliopoulos, Gareth O. Roberts|ArXiv.org|Oct 23, 2007

Bayesian Methods and Mixture Models参考文献 29被引用 9

一句话总结

本文提出了一种回溯性马尔可夫链蒙特卡洛（MCMC）算法，可在无需有限维近似的情况下，对狄利克雷过程层次模型实现精确后验模拟。通过利用回溯抽样，该方法避免了对无限维狄利克雷过程分量的显式插补，相较于标准条件方法，显著提升了混合效率并降低了自相关性，尤其在后验分布呈多峰时表现更优。

ABSTRACT

Inference for Dirichlet process hierarchical models is typically performed using Markov chain Monte Carlo methods, which can be roughly categorised into marginal and conditional methods. The former integrate out analytically the infinite-dimensional component of the hierarchical model and sample from the marginal distribution of the remaining variables using the Gibbs sampler. Conditional methods impute the Dirichlet process and update it as a component of the Gibbs sampler. Since this requires imputation of an infinite-dimensional process, implementation of the conditional method has relied on finite approximations. In this paper we show how to avoid such approximations by designing two novel Markov chain Monte Carlo algorithms which sample from the exact posterior distribution of quantities of interest. The approximations are avoided by the new technique of retrospective sampling. We also show how the algorithms can obtain samples from functionals of the Dirichlet process. The marginal and the conditional methods are compared and a careful simulation study is included, which involves a non-conjugate model, different datasets and prior specifications.

研究动机与目标

• 开发适用于狄利克雷过程层次模型的精确MCMC算法，避免标准条件方法中使用的有限维近似。
• 实现对分配变量、分量参数、权重以及随机测度泛函的精确后验模拟。
• 通过回溯抽样克服条件吉布斯采样器中固有的标签切换问题与多峰后验探索困难。
• 在非共轭设置下，将所提出的回溯性MCMC方法与现有的边际与条件MCMC算法进行性能比较。
• 证明回溯抽样可降低集成自相关时间，提升采样效率，尤其在复杂后验景观中表现更优。

提出的方法

• 提出一种回溯抽样技术，通过基于其后验联合分布的条件生成，实现对无限维狄利克雷过程分量的模拟，而无需显式插补。
• 采用狄利克雷过程的棒棒糖表示法，其中 $ p_j = (1 - V_1)\times\text{...}\times(1 - V_{j-1})V_j $，且 $ V_j \sim \text{Be}(1,\alpha) $，并应用回溯模拟以避免对 $ (p,Z) $ 的直接采样。
• 利用后验联合结构推导出分配变量 $ K_i $、分量参数 $ Z_j $ 和权重 $ p_j $ 的条件分布，从而实现精确的吉布斯更新。
• 引入标签切换移动策略，以改善后验空间中的混合性能，尤其在簇标签不可识别的多峰后验中效果显著。
• 采用集成自相关时间（IAT）作为性能度量，用于比较不同算法的MCMC效率，IAT通过滞后求和法估计，截断点 $ L \ll N $。
• 在FORTRAN 77中实现该算法，并与边际方法（无间隙法、尼尔算法7和8）进行比较，使用 $ N = 2 \times 10^6 $ 次蒙特卡洛样本。

实验结果

研究问题

• RQ1 能否利用回溯抽样构建无需有限维近似的狄利克雷过程层次模型的精确MCMC算法？
• RQ2 在集成自相关时间与混合效率方面，回溯性MCMC方法相较于边际与条件MCMC算法的性能如何？
• RQ3 与标准条件吉布斯采样器相比，回溯方法是否能缓解标签切换问题并改善多峰后验的探索能力？
• RQ4 回溯算法的计算成本如何随浓度参数 $ \alpha $ 变化？与现有方法相比表现如何？
• RQ5 该回溯方法能否推广至更一般的棒棒糖先验，而不仅限于狄利克雷过程，同时保持精确模拟所需的条件独立结构？

主要发现

• 回溯性MCMC算法在无需有限维近似的情况下实现了精确后验模拟，从而支持对狄利克雷过程及其随机测度 $ P $ 的泛函进行精确推断。
• 与标准条件吉布斯采样器相比，该算法显著降低了集成自相关时间，尤其在多峰后验中，标签切换导致混合困难的问题得到缓解。
• 在每轮迭代的有效样本量方面，该方法优于标准条件方法，其更低的IAT源于对后验空间更优的探索能力。
• 标签切换移动显著改善了回溯算法的混合性能，降低了标签不可识别性对收敛性的影响。
• 回溯算法的计算时间随 $ \alpha $ 增大而增加，但当 $ \alpha = 1 $ 时，其计算时间与尼尔算法7及无间隙算法等现代MCMC方法相当。
• 边际方法（如尼尔算法7和8）在IAT方面优于条件方法，因其避免了对 $ (p,Z) $ 多峰后验的探索，这正是回溯方法在复杂模型中的一项关键优势。