[论文解读] Black-box Importance Sampling

Qiang Liu, Jason D. Lee|arXiv (Cornell University)|Oct 17, 2016

Statistical Methods and Inference参考文献 3被引用 3

一句话总结

本文提出黑箱重要性采样（black-box importance sampling），一种无需显式知晓提议分布密度即可为任意未知或复杂提议分布的样本计算重要性权重的方法。通过将权重估计建模为基于核化Stein差异的凸二次优化问题，该方法在使用未归一化的复杂提议分布时，仍能实现优于标准重要性采样方法的估计精度，从而在高维及大规模数据场景下实现稳健推断。

ABSTRACT

Importance sampling is widely used in machine learning and statistics, but its power is limited by the restriction of using simple proposals for which the importance weights can be tractably calculated. We address this problem by studying black-box importance sampling methods that calculate importance weights for samples generated from any unknown proposal or black-box mechanism. Our method allows us to use better and richer proposals to solve difficult problems, and (somewhat counter-intuitively) also has the additional benefit of improving the estimation accuracy beyond typical importance sampling. Both theoretical and empirical analyses are provided.

研究动机与目标

• 为克服传统重要性采样方法对可计算提议密度的依赖，以及在处理复杂、高维目标分布时的困难。
• 通过绕过对提议密度的计算需求，使能够使用丰富而复杂的提议分布（如未收敛的MCMC或变分推断所得分布）。
• 即使仅使用较少信息（无提议密度），仍能提升估计精度，挑战蒙特卡洛方法中传统认知。
• 为未归一化后验估计与近似推断提供一种稳定、可扩展且广泛适用的方差缩减方法。

提出的方法

• 该方法将重要性权重估计建模为一个凸二次优化问题，通过最小化加权经验测度与目标分布之间的核化Stein差异来实现。
• 利用再生核希尔伯特空间（RKHS）定义一种仅依赖于目标密度和样本、而不依赖于提议密度的差异度量。
• 对权重施加概率单纯形约束（非负且总和为一），相比允许负权重或未归一化权重的方法，提升了稳定性和可解释性。
• 该方法适用于贝叶斯统计与机器学习中常见的未归一化目标分布，无需归一化常数。
• 通过标准二次规划求解器可高效实现的约束优化问题进行实现。
• 利用近期在Stein差异方面的进展，使该方法能够从任意样本生成机制（包括MCMC、变分推断或扰动-最大后验方法）实现黑箱估计。

实验结果

研究问题

• RQ1 当提议分布未知或难以处理（如来自复杂MCMC链）时，能否使重要性采样依然有效？
• RQ2 仅使用样本信息（不依赖提议密度）是否能获得比使用提议密度的标准IS方法更高的估计精度？
• RQ3 基于差异最小化的黑箱方法是否能在高维及非高斯场景下超越传统IS与控制变量方法？
• RQ4 在模型误设或大数据应用中常见的未收敛MCMC链条件下，该方法表现如何？
• RQ5 权重约束（如非负性）对估计器的稳定性和准确性有何影响？

主要发现

• 在高维及非高斯目标分布中，所提出的黑箱重要性采样方法相较于标准IS与控制变量方法，实现了更低的均方误差（MSE）。
• 在标准高斯情形下，该方法性能与最佳基线相当，其中归一化后的Control Func在低维情况下略胜一筹。
• 在模拟和真实世界贝叶斯probit模型中，该方法显著优于均匀加权法，尤其在MCMC链较短或未收敛时表现更优。
• Control Func与KDE的未归一化版本在实践中表现欠佳，而其归一化变体则展现出更好的稳定性，凸显了正确权重归一化的重要性。
• 在小样本情形下（n < 1000），强制非负权重（w_i → 0）能获得更优性能，表明其作为稳健且实用的默认选择具有优势。
• 在包含54个特征的Covtype数据集上，Stein方法与归一化后的Control Func优于均匀加权法及未归一化方法，展示了其在真实场景下的可扩展性与鲁棒性。