[论文解读] Initializing adaptive importance sampling with Markov chains

Frederik Beaujean, A. Caldwell|arXiv (Cornell University)|Apr 29, 2013

Bayesian Methods and Mixture Models参考文献 22被引用 16

一句话总结

该论文提出了一种基于马尔可夫链和层次聚类的鲁棒初始化方法，用于自适应重要性采样，以生成准确的多模态提议密度。该方法可实现快速收敛，并在高维、具有挑战性的后验分布中精确估计归一化常数和边缘分布，在20维多模态示例中优于嵌套采样法。

ABSTRACT

Adaptive importance sampling is a powerful tool to sample from complicated target densities, but its success depends sensitively on the initial proposal density. An algorithm is presented to automatically perform the initialization using Markov chains and hierarchical clustering. The performance is checked on challenging multimodal examples in up to 20 dimensions and compared to results from nested sampling. Our approach yields a proposal that leads to rapid convergence and accurate estimation of overall normalization and marginal distributions.

研究动机与目标

• 解决自适应重要性采样（PMC）中因初始化不佳而导致失败的关键挑战，这通常源于提议密度匹配不良。
• 开发一种完全自动化、鲁棒的初始化方法，能够可靠地识别复杂高维目标密度中的多个模式和退化现象。
• 在高维问题（最高达20维）中实现高效、可并行化的采样，以支持粒子物理和宇宙学中常见的多模态后验分布的贝叶斯推断。
• 与嵌套采样等现有方法相比，提高边缘分布和归一化（证据）估计的准确性。
• 通过最小化人工调参并提升在多样化目标分布上的可靠性，为实现‘黑箱’采样算法铺平道路。

提出的方法

• 从随机或均匀起点启动多个短时马尔可夫链，以探索目标密度并生成代表性样本。
• 应用层次聚类将马尔可夫链生成的样本分组为不同簇，每个簇对应目标分布的一个潜在模式。
• 将簇中心和协方差矩阵用作种群蒙特卡洛（PMC）中混合提议密度的初始分量。
• 构建初始提议密度为高斯或学生t分布的混合形式，其分量由簇统计量导出，以匹配目标分布的多模态结构。
• 将初始化后的PMC与标准基于EM的更新结合，迭代优化提议分布，以最小化提议与目标分布之间的KL散度。
• 通过将重要性权重计算分布到多个核心或GPU上，实现大规模并行化，每个样本均从混合提议分布中抽取。

实验结果

研究问题

• RQ1 如何在高维多模态后验分布中实现可靠且自动化的自适应重要性采样初始化？
• RQ2 马尔可夫链结合层次聚类能否有效识别复杂目标密度中的多个模式和退化现象？
• RQ3 与嵌套采样相比，所提出的初始化方法是否能实现更快的收敛速度和更精确的归一化与边缘分布估计？
• RQ4 该方法在高维问题（如d=20）中能多大程度上实现可扩展性，且无需人工调参？
• RQ5 该初始化方法是否能显著减少PMC收敛所需的迭代次数，同时在具有挑战性的贝叶斯推断任务中保持高精度？

主要发现

• 所提出的初始化方法成功识别出高达20维的目标密度中的多个孤立模式和退化现象。
• 在相同测试问题上，该方法估计的证据（归一化常数）比公开可用的嵌套采样实现更准确。
• 使用初始化PMC估计的边缘分布与真实目标分布高度吻合，表明采样具有高保真度。
• 由于初始提议质量高，即使在高维设置下，算法也能快速收敛，仅需少数PMC迭代。
• 该方法高度可并行化，重要性权重计算和提议更新可轻松分布到数千个核心或GPU上。
• 该方法显著降低了对人工调参和‘经验猜测’进行初始化的依赖，朝着更自动化、更鲁棒的采样流程迈进。