[论文解读] Flexible Particle Markov chain Monte Carlo methods with an application to a factor stochastic volatility model

Eduardo Mendes, Chris Carter+2 more|arXiv (Cornell University)|Jan 8, 2014

Statistical Methods and Bayesian Inference参考文献 41被引用 4

一句话总结

本文提出了一种灵活的粒子马尔可夫链蒙特卡洛（PMCMC）框架，将粒子边缘元蒙特卡洛、粒子吉布斯采样和粒子元吉布斯采样整合为统一方案。该框架通过有选择地对不同参数组条件化于状态，实现自适应采样，在高相关性场景下提升收敛性，尤其在因子随机波动率模型中表现显著。

ABSTRACT

Particle Markov Chain Monte Carlo methods are used to carry out inference in non-linear and non-Gaussian state space models, where the posterior density of the states is approximated using particles. Current approaches usually perform Bayesian inference using a particle Marginal Metropolis-Hastings algorithm, a particle Gibbs sampler, or a particle Metropolis within Gibbs sampler. This paper shows how the three ways of generating variables mentioned above can be combined in a flexible manner to give sampling schemes that converge to a desired target distribution. The advantage of our approach is that the sampling scheme can be tailored to obtain good results for different applications, for example when some parameters and the states are highly correlated. We investigate the properties of this flexible sampling scheme, including conditions for uniform convergence to the posterior. We illustrate our methods with a factor stochastic volatility state space model where one group of parameters can be generated in a straightforward manner in a particle Gibbs step by conditioning on the states, and a second group of parameters are generated without conditioning on the states because of the high dependence between such parameters and the states.

研究动机与目标

• 解决由于参数与潜在状态之间强相关性，导致非线性、非高斯状态空间模型中MCMC采样效率低下的挑战。
• 开发一种统一的采样框架，整合多种PMCMC方法，以提升混合效率与收敛性。
• 提供所提方案确保统一遍历性并收敛至目标后验分布的条件。
• 在具有不同依赖结构的参数组表现出显著差异的因子随机波动率模型中，验证该方法的有效性。

提出的方法

• 该框架将粒子边缘元蒙特卡洛、粒子吉布斯采样和粒子元吉布斯采样器整合为单一自适应MCMC方案。
• 根据参数组与潜在状态之间依赖结构的不同，可对不同参数组应用不同的采样策略。
• 对于与状态条件独立的参数，使用粒子吉布斯采样直接采样，无需对状态条件化。
• 对于高度依赖的参数，该方法避免对状态条件化，转而使用基于粒子的提议分布以提升混合效率。
• 该方案设计确保细致平衡性，并在弱正则性条件下保证收敛至真实后验分布。
• 该方法利用序列蒙特卡洛（SMC）近似状态的边缘似然与后验分布。

实验结果

研究问题

• RQ1 如何灵活地组合粒子MCMC方法，以提升高参数-状态相关性状态空间模型中的采样效率？
• RQ2 在何种条件下可确保所提混合PMCMC方案的统一遍历性并收敛至目标后验分布？
• RQ3 对不同参数组选择性地条件化于状态，如何提升复杂模型中混合效率与收敛性？
• RQ4 该方法在具有不同参数对潜在状态依赖关系的因子随机波动率模型中表现如何？

主要发现

• 所提灵活PMCMC方案通过根据参数与状态之间的依赖结构自适应调整采样策略，实现了更优的收敛性与混合效率。
• 在弱正则性条件下，该方法可确保统一遍历性，从而保证收敛至目标后验分布。
• 在因子随机波动率模型中，该方案成功处理了两组具有不同特性的参数：一组通过条件化于状态，利用粒子吉布斯采样高效采样；另一组因高度依赖而无需条件化，改用基于粒子的提议。
• 在参数-状态相关性阻碍传统采样器混合效率的场景中，该混合方法优于标准PMCMC方法。