[论文解读] Efficient implementation of Markov chain Monte Carlo when using an unbiased likelihood estimator

Randal Douc, M. Pitt+2 more|arXiv (Cornell University)|Oct 5, 2012

Markov Chains and Monte Carlo Methods参考文献 24被引用 8

一句话总结

本文提出了在使用无偏似然估计器（如粒子滤波器）时，选择马尔可夫链蒙特卡洛（MCMC）中蒙特卡洛样本数 $N$ 的指南。在高斯噪声假设下，结果表明：对于高效链，似然估计器对数似然标准差约为 1.0 时效率最优；对于低效链，约为 1.7；实际应用中可采用 1.2 作为默认选择。

ABSTRACT

When an unbiased estimator of the likelihood is used within a Metropolis--Hastings chain, it is necessary to trade off the number of Monte Carlo samples used to construct this estimator against the asymptotic variances of averages computed under this chain. Many Monte Carlo samples will typically result in Metropolis--Hastings averages with lower asymptotic variances than the corresponding Metropolis--Hastings averages using fewer samples. However, the computing time required to construct the likelihood estimator increases with the number of Monte Carlo samples. Under the assumption that the distribution of the additive noise introduced by the log-likelihood estimator is Gaussian with variance inversely proportional to the number of Monte Carlo samples and independent of the parameter value at which it is evaluated, we provide guidelines on the number of samples to select. We demonstrate our results by considering a stochastic volatility model applied to stock index returns.

研究动机与目标

• 解决使用无偏似然估计器时，MCMC 中计算成本与渐近方差之间的权衡问题。
• 为在似然估计中选择蒙特卡洛样本数 $N$ 提供实用指南，以最小化达到目标渐近方差所需的计算时间。
• 通过放宽对提议分布和噪声分布的假设，扩展先前的工作，同时仍能提供可计算的计算时间边界。
• 提供一个适用于状态空间模型和粒子滤波器的一般框架，尤其适用于似然不可计算的情况。

提出的方法

• 在精确最小化不可行的一般情况下，提出最小化计算时间的显式上界，而非精确计算时间。
• 假设对数似然估计器中的加性噪声为高斯分布，其方差与 $N$ 成反比，且与参数值无关。
• 利用伪边缘 MCMC 框架和参数与辅助变量的联合目标分布，推导出无效因子和计算时间的理论边界。
• 使用数值积分和蒙特卡洛积分来评估边界中的关键项，如自相关性和无效因子。
• 将该框架应用于具有粒子滤波器的随机波动率模型，利用实证结果验证理论指南。
• 推导出一条经验法则：对高效链，将对数似然估计器的标准差设为约 1.0；对低效链，设为约 1.7；或采用 1.2 作为默认值。

实验结果

研究问题

• RQ1 在使用无偏似然估计器的 MCMC 中，为最小化计算时间，应选择多少个蒙特卡洛样本 $N$？
• RQ2 当似然通过粒子滤波器或重要性采样估计时，$N$ 的选择如何影响 MCMC 平均值的渐近方差？
• RQ3 在何种条件下可解析确定最优 $N$？这些条件如何推广至非独立同分布噪声和非各向同性提议分布的情况？
• RQ4 梅特罗波利斯-黑斯廷斯提议的效率如何影响对数似然估计器标准差的最优值？
• RQ5 当真实后验效率未知时（这在实践中很常见），能否为 $N$ 推导出实用指南？

主要发现

• 对于使用精确似然的高效梅特罗波利斯-黑斯廷斯链，对数似然估计器的标准差最优值约为 1.0。
• 对于低效链，最优标准差增加至约 1.7，反映出在混合性差的链中需要更强的噪声控制。
• 当链的真实效率未知时，实用的默认选择是将标准差设为 1.2，从而在方差和计算成本之间取得平衡。
• 随机波动率模型的实证结果表明，当对数似然估计器的标准差接近理论指南时，计算时间被最小化。
• 随着提议中相关性的增加（例如，$\rho = 0.9$），相对计算时间变得更为平坦，表明在持久提议下对 $N$ 的敏感性降低。
• 对计算时间的理论边界通过数值方法得到验证，显示出在不同参数值和提议分布下的一致性能。