[论文解读] Perfect simulation using atomic regeneration with application to Sequential Monte Carlo

Anthony Lee, Randal Douc+1 more|arXiv (Cornell University)|Jul 22, 2014

Target Tracking and Data Fusion in Sensor Networks参考文献 54被引用 7

一句话总结

本文通过引入一个人工原子并利用伯努利工厂技术，提出了两种针对转移核不可解析的统一遍历马尔可夫链的高效完美抽样算法。该方法实现了在期望运行时间 𝒪(β⁻¹) 内从平稳分布中进行精确抽样，并将其应用于迭代条件SMC核的完美抽样，实现了费曼-费曼-费曼路径分布的 𝒪(n²) 期望时间复杂度。

ABSTRACT

Consider an irreducible, Harris recurrent Markov chain of transition kernel Π and invariant probability measure π. If Π satisfies a minorization condition, then the split chain allows the identification of regeneration times which may be exploited to obtain perfect samples from π. Unfortunately, many transition kernels associated with complex Markov chain Monte Carlo algorithms are analytically intractable, so establishing a minorization condition and simulating the split chain is challenging, if not impossible. For uniformly ergodic Markov chains with intractable transition kernels, we propose two efficient perfect simulation procedures of similar expected running time which are instances of the multigamma coupler and an imputation scheme. These algorithms overcome the intractability of the kernel by introducing an artificial atom and using a Bernoulli factory. We detail an application of these procedures when Π is the recently introduced iterated conditional Sequential Monte Carlo kernel. We additionally provide results on the general applicability of the methodology, and how Sequential Monte Carlo methods may be used to facilitate perfect simulation and/or unbiased estimation of expectations with respect to the stationary distribution of a non-uniformly ergodic Markov chain.

研究动机与目标

• 为转移核在解析上不可行的统一遍历马尔可夫链开发完美抽样方法。
• 克服现有方法依赖分裂链模拟的局限性，而该分裂链在复杂MCMC核下通常不可行。
• 实现从满足小化条件但缺乏可计算分裂链的迭代条件SMC核的平稳分布的精确抽样。
• 将完美抽样的适用范围扩展至一般状态空间模型，特别是在序列蒙特卡洛方法的背景下。
• 为使用SMC技术对非统一遍历链的期望值实现无偏估计提供一个框架。

提出的方法

• 在状态空间中引入一个人工单点原子 α = {a}，确保对所有 x 满足 infₓ Π(x, α) ≥ β > 0，其中 β 为已知常数。
• 利用伯努利工厂模拟一个 (2p−1)-面硬币，其中 p 为命中人工原子的概率，从而通过再生机制实现完美抽样。
• 构建两种等价的完美抽样过程——多伽马耦合器与插补方案，两者均具有 𝒪(β⁻¹) 的期望运行时间。
• 修改原始核，使其继承统一遍历性，同时保持平稳测度为 π 与人工原子处的点质量的混合。
• 通过利用已知的小化常数 ε > 0 并借助SMC模拟所需组件，将该方法应用于迭代条件SMC核。
• 通过从 μ|φ| 中进行拒绝抽样以模拟 φ(ζ) 的符号，并利用伯努利工厂构造符号概率的无偏估计器。

实验结果

研究问题

• RQ1 对于转移核不可解析的统一遍历马尔可夫链，能否实现完美抽样？
• RQ2 当分裂链不可行时，伯努利工厂能否用于模拟再生事件？
• RQ3 在所提出的基于人工原子与伯努利工厂的框架下，完美抽样的期望计算成本是多少？
• RQ4 该方法能否应用于迭代条件SMC核，以实现对费曼-费曼-费曼路径分布的完美抽样？
• RQ5 在相同框架下能否实现期望值的无偏估计，特别是当 φ 具有混合符号时？

主要发现

• 所提出的完美抽样算法具有 𝒪(β⁻¹) 的期望运行时间，其中 β 为命中人工原子的概率下界。
• 该方法实现了使用 i-cSMC 核对离散时间费曼-费曼-费曼模型路径分布进行完美抽样，期望时间复杂度为 𝒪(n²)，其中 n 为时间范围。
• 伯努利工厂被成功用于模拟符号概率的 (2p−1)-面硬币，从而实现对具有正下界的期望值的无偏估计。
• 构造了一个 μ(φ) 的无偏估计器 W，满足 E[W] = μ(φ) 且 P(0 ≤ W ≤ ||φ||) = 1，其中 μ(φ) ≥ δ > 0。
• 可通过平均算法的多个独立输出或使用控制变量实现方差减少。
• 修改后核的平稳测度仍为原始 π 与人工原子处点质量的混合，从而保持目标分布的结构。