[论文解读] Quasi-Newton particle Metropolis-Hastings

Johan Dahlin, Fredrik Lindsten+1 more|arXiv (Cornell University)|Feb 12, 2015

Markov Chains and Monte Carlo Methods参考文献 19被引用 7

一句话总结

该论文提出了一种拟牛顿粒子马尔可夫链蒙特卡洛（qPMH2）算法，通过使用基于梯度的海森矩阵近似而非随机游走提议，改进了非线性状态空间模型中不可行似然函数下的贝叶斯参数推断的混合性能。该方法通过利用粒子平滑梯度的有限内存BFGS更新，实现了更优的混合效果且调优更少，在具有$α$-稳定分布创新项的随机波动率模型中表现出色。

ABSTRACT

Particle Metropolis-Hastings enables Bayesian parameter inference in general nonlinear state space models (SSMs). However, in many implementations a random walk proposal is used and this can result in poor mixing if not tuned correctly using tedious pilot runs. Therefore, we consider a new proposal inspired by quasi-Newton algorithms that may achieve similar (or better) mixing with less tuning. An advantage compared to other Hessian based proposals, is that it only requires estimates of the gradient of the log-posterior. A possible application is parameter inference in the challenging class of SSMs with intractable likelihoods. We exemplify this application and the benefits of the new proposal by modelling log-returns of future contracts on coffee by a stochastic volatility model with $α$-stable observations.

研究动机与目标

• 解决标准粒子马尔可夫链蒙特卡洛（PMH）因使用随机游走提议而导致混合性能差、需大量调优的问题。
• 通过利用梯度信息，减少对初始运行以调优提议协方差的依赖。
• 开发一种仅基于梯度估计来近似海森矩阵的提议机制，避免昂贵的海森矩阵计算。
• 在具有不可行似然函数的模型中（如具有$α$-稳定分布创新项的随机波动率模型）证明方法的有效性。
• 为高维或非各向同性后验分布设置下提供一种可扩展、低调优的现有PMH方法替代方案。

提出的方法

• 将有限内存BFGS算法适配至PMH框架中，用于构建基于对数后验梯度估计的提议分布。
• 使用粒子平滑技术估计对数后验的梯度，从而在无需显式计算海森矩阵的情况下实现海森矩阵近似。
• 采用拟牛顿更新规则，基于历史梯度信息迭代优化提议协方差矩阵。
• 将所提出的qPMH2方法集成至粒子MCMC框架中，以预条件化的、基于梯度信息的提议替代标准的随机游走提议。
• 将该方法应用于线性高斯状态空间模型和具有$α$-稳定分布收益的随机波动率模型。
• 使用序列蒙特卡洛（SMC）估计不可行似然，利用粒子平滑计算梯度以实现海森矩阵近似。

实验结果

研究问题

• RQ1 基于梯度的拟牛顿提议是否能在不依赖大量初始运行的情况下改善粒子马尔可夫链蒙特卡洛的混合性能？
• RQ2 仅使用梯度估计进行海森矩阵近似是否在混合效率上优于随机游走或基于完整海森矩阵的提议？
• RQ3 qPMH2方法在具有不可行似然函数的模型（如具有$α$-稳定分布观测值的模型）中表现如何？
• RQ4 梯度估计方差对qPMH2算法混合性能有何影响？
• RQ5 与使用随机游走提议的标准PMH相比，qPMH2在更高维参数空间中是否具备有效的可扩展性？

主要发现

• qPMH2方法在混合性能上达到或优于预条件PMH，且显著减少了调优工作量。
• 该算法仅需选择两个参数（$\delta$ 和 $M$），相比协方差调优的随机游走提议，实现更为简便。
• 在具有$α$-稳定分布收益的随机波动率模型中，qPMH2对$\mu$、$\phi$、$\sigma_v$ 和 $\alpha$ 的后验均值估计为$\widehat{\theta} = \{0.214, 0.931, 0.268, 1.538\}$。
• qPMH2得到的后验估计与标准PMH结果一致，表明其具有可靠性和准确性。
• qPMH2得到的平滑对数波动率估计成功捕捉了低波动和高波动时期，包括2014年3月左右的跳跃。
• 当梯度方差较低或适中时，该方法表现出稳健性能；但梯度方差较高时混合性能下降，提示需要改进粒子平滑技术。