[论文解读] Scalable Monte Carlo inference for state-space models

Sinan Yıldırım, Christophe Andrieu+1 more|arXiv (Cornell University)|Sep 7, 2018

Simulation Techniques and Applications参考文献 25被引用 5

一句话总结

本文提出了一种基于联合条件序蒙特卡罗（cSMC）与退火重要性采样（AIS）框架的新型似然比估计器，用于状态空间模型，通过共享单一随机源来降低方差。该方法实现了新型精确-近似MCMC算法，其计算复杂度随数据规模线性增长，在大规模数据集上相比标准PMHH算法具有更高的计算效率。

ABSTRACT

We present an original simulation-based method to estimate likelihood ratios efficiently for general state-space models. Our method relies on a novel use of the conditional Sequential Monte Carlo (cSMC) algorithm introduced in \citet{Andrieu_et_al_2010} and presents several practical advantages over standard approaches. The ratio is estimated using a unique source of randomness instead of estimating separately the two likelihood terms involved. Beyond the benefits in terms of variance reduction one may expect in general from this type of approach, an important point here is that the variance of this estimator decreases as the distance between the likelihood parameters decreases. We show how this can be exploited in the context of Monte Carlo Markov chain (MCMC) algorithms, leading to the development of a new class of exact-approximate MCMC methods to perform Bayesian static parameter inference in state-space models. We show through simulations that, in contrast to the Particle Marginal Metropolis-Hastings (PMMH) algorithm of Andrieu_et_al_2010, the computational effort required by this novel MCMC scheme scales very favourably for large data sets.

研究动机与目标

• 开发一种适用于状态空间模型（SSMs）的可扩展、低方差似然比估计器，以实现高效的贝叶斯推断。
• 解决在大规模数据集下状态空间模型中似然评估的计算不可行性问题。
• 设计一种MCMC算法，在保持精确边缘平稳性的同时，实现与数据规模的有利可扩展性。
• 利用cSMC-AIS中共享随机性带来的方差降低特性，提升采样效率。
• 在混合性能与计算成本方面，证明该方法优于现有方法（如PMHH）。

提出的方法

• 该方法将条件序蒙特卡罗（cSMC）与退火重要性采样（AIS）相结合，通过单一随机源联合估计似然比，避免对分子与分母进行独立估计。
• 在cSMC-BS框架中引入向后抽样步骤，以提升似然比估计器的质量并降低方差。
• 将估计器嵌入MCMC算法中，形成一种新的精确-近似MCMC方案，其目标后验分布为静态参数与隐状态的联合后验。
• 该算法利用cSMC核生成隐状态的提议，重要性权重则来自AIS路径。
• 该方法的设计使得似然比估计器的方差随着参数值θ与θ′之间距离的减小而降低。
• 通过线性高斯状态空间模型的模拟实验，对方法在性能上与PMHH和MwPG进行了对比验证。

实验结果

研究问题

• RQ1 在cSMC-AIS中通过共享随机性联合估计似然比，是否能相比独立估计显著降低方差？
• RQ2 所提出的MCMC算法是否如理论预期，随数据点数量T线性增长，而标准PMHH则呈二次增长？
• RQ3 在静态参数的积分自相关时间（IAC）方面，新MCMC方案与PMHH和MwPG相比表现如何？
• RQ4 随着θ与θ′之间的距离减小，似然比估计器的方差是否降低，从而实现更高效的MCMC探索？
• RQ5 cSMC-AIS框架是否可用于构建一种保持细致平衡与精确边缘平稳性的精确-近似MCMC算法？

主要发现

• MCMC AIS cSMC-BS算法的积分自相关时间（IAC）显著低于PMHH，当K=1且N₀=500时，σ²_v的中位IAC为17.7，σ²_w为20.9。
• 对于较大的T（如T=10,000），PMHH的IAC显著上升（σ²_v的IAC达7,368），而MCMC AIS cSMC-BS的IAC保持稳定在约17.6，表明其具有优越的可扩展性。
• 在所有测试的T与N设置下，MCMC AIS cSMC-BS在IAC方面始终优于MwPG，且IAC值更低。
• 似然比估计器的方差随着θ与θ′之间距离的减小而降低，从而支持更高效的MCMC更新。
• 所提方法在计算成本上实现了与T的线性增长，而标准PMHH则呈二次增长，与独立同分布情况下的理论分析预测一致。
• 实证结果证实，cSMC-BS步骤对性能至关重要，因为MCMC AIS cSMC-BS在性能上优于无向后抽样的MCMC AIS cSMC。