[论文解读] Extension of Fill's perfect rejection sampling algorithm to general chains (Extended abstract)

James Allen Fill, Motoya Machida+2 more|ArXiv.org|Jun 1, 2001

Statistical Methods and Inference参考文献 32被引用 4

一句话总结

该论文将Fill的完美拒绝采样算法扩展至一般马尔可夫链，无需单调性假设即可从平稳分布π中实现精确采样。通过使用时序反向链和前向轨迹的多变量耦合，该方法实现了可中断的精确采样，与耦合从过去（CFTP）方法存在关键联系，通过在反向时间路径上检查耦合收敛性，确保了正确性与计算效率。

ABSTRACT

We provide an extension of the perfect sampling algorithm of Fill (1998) to general chains, and describe how use of bounding processes can ease computational burden. Along the way, we unearth a simple connection between the Coupling From The Past (CFTP) algorithm originated by Propp and Wilson (1996) and our extension of Fill's algorithm.

研究动机与目标

• 将Fill的完美拒绝采样算法从原本仅适用于随机单调链的限制，推广至无需状态空间排序的一般马尔可夫链。
• 开发一种可中断的采样算法，避免因系统崩溃或提前终止导致的偏差，与标准CFTP方法形成对比。
• 建立所提算法与耦合从过去（CFTP）方法之间的正式联系，阐明在适当构造下二者的概率等价性。
• 通过边界过程和高效的耦合收敛检测，减轻计算负担，尤其适用于高维或连续状态空间。

提出的方法

• 该算法使用时序反向马尔可夫链，从固定时间t开始向后模拟，从一个相对于π绝对连续分布抽取的初始状态X_t出发。
• 它通过共享的随机变量U_s，对所有x ∈ X的前向轨迹Y(x)构建多变量耦合，确保Y(X_0)与反向路径X一致。
• 通过检查所有Y_t(x)在x上的取值是否一致来验证耦合收敛；若一致，则接受X_0作为来自π的样本。
• 重复该过程直至发生耦合收敛，确保精确采样，且不受提前终止的影响。
• 另一种算法（算法5.1）重用反向路径，并在反向时间中插值驱动变量U_s，允许基于耦合检测实现动态停止。
• 该方法利用输出W与驱动变量U之间的统计独立性，解释了其可中断性，并与CFTP建立联系。

实验结果

研究问题

• RQ1 Fill的完美拒绝采样算法能否被推广至一般马尔可夫链，而无需依赖随机单调性或状态空间排序？
• RQ2 如何利用耦合前向轨迹的收敛性，确保在一般链中从平稳分布π中实现精确采样？
• RQ3 在概率空间构造与输出分布方面，所提拒绝采样方法与耦合从过去（CFTP）算法之间存在何种关系？
• RQ4 如何通过边界过程和内存权衡优化，提升采样过程的计算效率？
• RQ5 为何所提算法具有可中断性？该性质如何源于输出与驱动随机性之间的条件独立性？

主要发现

• 所提算法成功将Fill的拒绝采样推广至一般马尔可夫链，消除了对随机单调性或离散状态空间的需求。
• 该方法通过检查从每个状态x出发的所有前向轨迹的耦合收敛性，确保从π中实现精确采样，成功概率取决于链的混合特性。
• 该算法具有可中断性，因为给定成功条件下，输出W与耦合时间T条件独立，与CFTP不同。
• 建立了所提算法与CFTP之间强有力的概率联系：二者构造相同的底层概率空间，但时间顺序相反。
• 通过使用时序反向链和事后耦合，实现了高效实现与理论支持，尤其在统一遍历性条件下表现突出。
• 通过采用2的幂次停止时间，可对算法进行优化，在保持正确性的同时降低计算开销。