[论文解读] Adaptive Multiple Importance Sampling

Jean‐Marie Cornuet, Jean‐Michel Marin+2 more|arXiv (Cornell University)|Jul 7, 2009

Bayesian Methods and Mixture Models参考文献 28被引用 7

一句话总结

本文提出自适应多重重要性采样（AMIS），一种通过使用所有提议密度的确定性混合重新计算过去和当前模拟的重要性权重，递归重用所有过去和当前模拟的算法。通过完全复用历史样本并自适应地在每一步迭代中优化提议分布，AMIS 实现了显著的方差减少和效率提升——在群体遗传学案例研究中实现了6倍的加速，证明了其在高维目标估计中高效复用历史模拟和改善收敛性的潜力。

ABSTRACT

The Adaptive Multiple Importance Sampling (AMIS) algorithm is aimed at an optimal recycling of past simulations in an iterated importance sampling scheme. The difference with earlier adaptive importance sampling implementations like Population Monte Carlo is that the importance weights of all simulated values, past as well as present, are recomputed at each iteration, following the technique of the deterministic multiple mixture estimator of Owen and Zhou (2000). Although the convergence properties of the algorithm cannot be fully investigated, we demonstrate through a challenging banana shape target distribution and a population genetics example that the improvement brought by this technique is substantial.

研究动机与目标

• 解决标准重要性采样在高维问题中因权重退化和提议选择不佳导致的效率低下问题。
• 克服现有自适应重要性采样方法（如群体蒙特卡洛，PMC）的局限性，这些方法未完全复用历史样本或未对全部历史数据进行优化。
• 开发一种利用所有历史加权样本自适应改进提议分布的方法，以提升采样效率并降低计算成本。
• 在群体遗传学等复杂高维模型中，证明AMIS相较于MCMC和标准IS的实用优越性。
• 提供一种将重要性采样与顺序学习相结合的框架，最大化模拟复用，且无需重采样或从头开始重新加权。

提出的方法

• 在每次迭代 $ t $，所有过去和当前的样本 $ \mathbf{y}_i^l $（$ l = 0, \dots, t $）均使用所有提议密度 $ q_l $ 的确定性混合进行重新加权，形成全局分母：$ \frac{1}{\sum_{j=0}^T N_j} \sum_{l=0}^T N_l q_l(\mathbf{y}_i^t) $。
• 每个样本的重要性权重变为 $ \omega_i^t = \pi(\mathbf{y}_i^t) / \left( \frac{1}{\sum_{j=0}^T N_j} \sum_{l=0}^T N_l q_l(\mathbf{y}_i^t) \right) $，确保对目标 $ \pi $ 下期望的无偏估计。
• 在每一步，提议分布 $ Q_{t+1} $ 均基于完整的加权样本历史自适应构建，使算法能够从所有先前模拟中学习。
• 该方法避免了重采样，且在整个迭代过程中保持所有粒子，从而实现模拟的完全复用，并最小化冗余的似然评估。
• 该算法以顺序方式应用：在每次迭代中，更新权重，并基于完整的加权样本集优化下一步的提议分布。
• AMIS 在基于重要性采样的似然估计群体遗传学模型中实现，其中通过模拟谱系并使用自适应提议进行重要性采样对谱系进行加权。

实验结果

研究问题

• RQ1 一种能够使用动态更新权重复用所有历史模拟的多重重要性采样方案，是否能比标准IS或基于PMC的自适应IS实现更高的效率？
• RQ2 确定性混合加权策略在高维或具有挑战性的目标分布中，对估计量的方差和收敛性有何影响？
• RQ3 在群体遗传学等复杂模型中，利用全部历史样本进行自适应提议优化，能在多大程度上提升采样效率？
• RQ4 AMIS 是否能在保持或提升估计精度和可重复性的同时，显著降低与MCMC相比的计算成本？
• RQ5 在似然评估成本昂贵的模型中，完全复用模拟对后验推断的稳定性和可靠性有何影响？

主要发现

• 在群体遗传学案例研究中，AMIS 相较于MCMC实现了6倍的加速，将相同推断任务的运行时间从约2小时缩短至约20分钟。
• IS-AMIS 方法产生的后验分布相较于MCMC在多次重复运行中更加一致，表明其具有更高的可重复性和稳定性。
• AMIS 和MCMC的后验估计高度相似，验证了尽管AMIS采用非马尔可夫、非拒绝型结构，其近似结果仍具有高精度。
• 该算法能够复用所有历史模拟，显著减少了有效似然评估次数，从而在似然计算成本昂贵的模型中大幅降低了计算成本。
• 确定性混合加权方案在保持估计量无偏性的同时，稳定了各次迭代中重要性权重的方差。
• 无需对初始重要性函数进行预先校准，因为先验分布本身已足够集中，能有效探索相关参数空间。