[论文解读] Ecological non-linear state space model selection via adaptive particle Markov chain Monte Carlo (AdPMCMC)

Gareth W. Peters, Geoff R. Hosack+1 more|arXiv (Cornell University)|May 13, 2010

Insurance, Mortality, Demography, Risk Management参考文献 37被引用 29

一句话总结

本文提出了一种自适应粒子马尔可夫链蒙特卡洛（AdPMCMC）算法，可高效地从非线性状态空间模型（SSMs）中复杂、高维的后验分布中进行抽样，适用于生态种群动态建模。通过将自适应Metropolis提议与序贯蒙特卡洛（SMC）滤波相结合，该方法克服了在多模态似然和强参数相关性模型中标准MCMC方法混合性能差的问题，即使在存在观测噪声和过程噪声的情况下，也能实现稳健的贝叶斯模型选择（通过贝叶斯因子衡量）。

ABSTRACT

We develop a novel advanced Particle Markov chain Monte Carlo algorithm that is capable of sampling from the posterior distribution of non-linear state space models for both the unobserved latent states and the unknown model parameters. We apply this novel methodology to five population growth models, including models with strong and weak Allee effects, and test if it can efficiently sample from the complex likelihood surface that is often associated with these models. Utilising real and also synthetically generated data sets we examine the extent to which observation noise and process error may frustrate efforts to choose between these models. Our novel algorithm involves an Adaptive Metropolis proposal combined with an SIR Particle MCMC algorithm (AdPMCMC). We show that the AdPMCMC algorithm samples complex, high-dimensional spaces efficiently, and is therefore superior to standard Gibbs or Metropolis Hastings algorithms that are known to converge very slowly when applied to the non-linear state space ecological models considered in this paper. Additionally, we show how the AdPMCMC algorithm can be used to recursively estimate the Bayesian Cramér-Rao Lower Bound of Tichavský (1998). We derive expressions for these Cramér-Rao Bounds and estimate them for the models considered. Our results demonstrate a number of important features of common population growth models, most notably their multi-modal posterior surfaces and dependence between the static and dynamic parameters. We conclude by sampling from the posterior distribution of each of the models, and use Bayes factors to highlight how observation noise significantly diminishes our ability to select among some of the models, particularly those that are designed to reproduce an Allee effect.

研究动机与目标

• 解决生态种群动态中常见的非线性、非高斯状态空间模型里MCMC混合效率低下的挑战。
• 开发一种稳健且自适应的MCMC方法，能够在高维、复杂的似然空间中联合估计潜变量和静态参数。
• 在观测误差和过程误差干扰下，评估使用贝叶斯因子进行模型选择的性能。
• 证明传统参数化方式可能施加不切实际的约束，并表明通过AdPMCMC进行数据驱动推断可揭示先验依赖性和模型模糊性。

提出的方法

• AdPMCMC算法将静态参数的自适应Metropolis提议与序贯蒙特卡洛（SMC）滤波器（SIR粒子滤波器）相结合，用于在非线性SSMs中联合推断潜变量和模型参数。
• 其采用完全自适应的提议分布，基于历史样本动态调整随机游走提议的协方差，从而提升高维参数空间中的混合性能。
• 该方法应用粒子MCMC（如Andrieu等人，2010年所述）通过SMC生成边际似然估计，实现在无需线性化的情况下联合后验抽样。
• 该算法递归估计贝叶斯Cramér-Rao下界（CRLB），以评估统计效率和参数估计的不确定性。
• 支持灵活的参数化方式，包括直接估计生态参数（如r, K, θ），而非转换后的参数（如bi），从而避免引入先验依赖性。
• 支持对参数的超先验，从而实现敏感性分析，并减少推断过程中的先验依赖性。

实验结果

研究问题

• RQ1 AdPMCMC能否在具有复杂、多模态似然曲面的非线性生态SSMs中，高效地从潜变量与静态参数的联合后验中进行抽样？
• RQ2 过程误差和观测噪声在多大程度上影响通过贝叶斯因子区分竞争性种群增长模型的能力？
• RQ3 标准参数化方式（如bi）在多大程度上会引发对生态参数（如r和K）之间不希望出现的先验依赖性？
• RQ4 与标准的Metropolis-Hastings在Gibbs采样（MHG）相比，AdPMCMC在高维、非线性SSMs中是否在收敛性和混合性能方面表现更优？
• RQ5 递归的贝叶斯Cramér-Rao下界能否被有效估计，并用于评估生态模型中参数估计的统计效率？

主要发现

• AdPMCMC算法在非线性SSMs中实现了对复杂、高维后验分布的高效探索，其混合性能和收敛速度显著优于标准MHG方法。
• 常见生态模型（包括具有Allee效应的模型）的似然曲面高度多模态且存在显著的脊状结构，使得在存在噪声时的模型选择尤为困难。
• 观测噪声显著降低了通过贝叶斯因子区分模型的能力，尤其在涉及Allee效应的模型中表现明显。
• 采用转换参数（如bi）的传统参数化方式会在生态参数（如r和K）之间引入强烈的先验依赖性，而通过AdPMCMC直接估计可避免此类问题。
• 递归的贝叶斯Cramér-Rao下界被成功估计，并可作为评估非线性SSMs中估计效率的有用基准。
• 在同时存在过程误差和观测误差的情况下，b3 > 0或sgn(b3) = sgn(b0)等约束可能不切实际或过于严格，表明应优先采用数据驱动的方式评估约束条件。