[论文解读] Bayesian Inference for State Space Models using Block and Correlated Pseudo Marginal Methods

Praveen B. Choppala, David Gunawan+3 more|arXiv (Cornell University)|Dec 21, 2016

Statistical Methods and Bayesian Inference参考文献 21被引用 14

一句话总结

本文提出了一种相关伪边缘化（CPM）方法，用于状态空间模型，其在扰动空间中而非状态空间中运行，当状态转移密度难以处理或维度较高时，可提高效率。此外，本文还引入了一种块伪边缘化（BPM）方法，采用带有分块随机数的并行粒子滤波，与标准PM相比效率提高达1540倍，与扰动CPM相比提高57倍，适用于金融时间序列应用。

ABSTRACT

This article addresses the problem of efficient Bayesian inference in dynamic systems using particle methods and makes a number of contributions. First, we develop a correlated pseudo-marginal (CPM) approach for Bayesian inference in state space (SS) models that is based on filtering the disturbances, rather than the states. This approach is useful when the state transition density is intractable or inefficient to compute, and also when the dimension of the disturbance is lower than the dimension of the state. Second, we propose a block pseudo-marginal (BPM) method that uses as the estimate of the likelihood the average of G independent unbiased estimates of the likelihood. We associate a set of underlying uniform of standard normal random numbers used to construct each of the individual unbiased likelihood estimates and then use component-wise Markov Chain Monte Carlo to update the parameter vector jointly with one set of these random numbers at a time. This induces a correlation of approximately 1-1/G between the logs of the estimated likelihood at the proposed and current values of the model parameters. Third, we show for some non-stationary state space models that the BPM approach is much more efficient than the CPM approach, because it is difficult to translate the high correlation in the underlying random numbers to high correlation between the logs of the likelihood estimates. Although our focus has been on applying the BPM method to state space models, our results and approach can be used in a wide range of applications of the PM method, such as panel data models, subsampling problems and approximate Bayesian computation.

研究动机与目标

• 提高在状态转移密度难以处理或计算成本高昂的状态空间模型中的贝叶斯推断效率。
• 通过减少达到稳定混合所需的粒子数量，降低标准粒子MCMC方法的高计算成本。
• 开发一种方法，通过分块随机数并联合更新参数，利用多个处理器。
• 将相关伪边缘化方法扩展至扰动空间，该空间维度更低，滤波更高效。
• 在有效样本量和计算时间方面，展示BPM方法相较于标准PM和CPM的优越性能。

提出的方法

• CPM方法通过在扰动空间中保持相似性，而非在状态空间中，来关联似然估计，从而在对数似然估计中保持相关性。
• BPM方法将似然估计为G个独立粒子滤波估计的平均值，每个估计使用一组独立同分布的均匀或正态随机数。
• 每次MCMC迭代联合更新模型参数与一组随机数，使对数似然估计的相关性约为1 - 1/G。
• 该方法使用分量式MCMC，逐个更新参数和一组随机数，从而提高混合效率并降低接受率的方差。
• BPM框架支持在多个处理器上并行执行，似然估计独立计算后取平均。
• 该方法进一步扩展为包含基于梯度的提议分布，通过减少积分自相关时间（IACT）进一步提高混合效率。

实验结果

研究问题

• RQ1 相关伪边缘化方法能否有效应用于基于扰动的状态空间模型，以在状态转移密度难以处理时提高混合效率？
• RQ2 在粒子滤波似然估计中对随机数进行分块，是否能降低对数似然估计的方差并提高MCMC效率？
• RQ3 在计算成本和有效样本量方面，块伪边缘化方法与标准和相关伪边缘化方法相比如何？
• RQ4 BPM方法能否在具有难以处理似然的高维或非平稳时间序列模型中实现显著的效率提升？
• RQ5 在提议分布中使用梯度信息对BPM方法的性能有何影响？

主要发现

• 在All Ordinaries数据集（T=3564）中，BPM方法的效率约为标准PM的1540倍，约为扰动CPM的57倍，相对时间归一化方差（RTNV）为0.0006。
• 在S&P 500数据集（T=7832）中，BPM方法的效率约为扰动CPM的280倍，约为标准PM的100倍，RTNV为0.0036。
• 使用基于梯度提议的BPM方法，将波动率参数的积分自相关时间（IACT）降低至5.1451，而ARW提议分布下为16.3。
• BPM中对数似然估计的方差保持在约1.6，显著低于扰动CPM中观察到的10.6833，表明混合效果更好。
• BPM中对数似然估计的相关性（ρl）达到0.9167，表明提议值与当前似然值之间具有强相关性。
• BPM方法在All Ordinaries数据集中仅需100个粒子，而CPM需要230个，表明在同等性能下粒子数量显著减少。