[论文解读] Stein Neural Sampler

Tianyang Hu, Zixiang Chen+4 more|arXiv (Cornell University)|Oct 8, 2018

Generative Adversarial Networks and Image Synthesis参考文献 39被引用 16

一句话总结

本文提出了两种基于深度生成模型的采样器——KSD-NS 和 Fisher-NS，利用神经网络学习从简单参考分布到复杂、未归一化目标分布的变换。通过最小化核化 Stein 散度和 Fisher 散度，该方法在理论上具有保证的前提下，实现了高质量的样本生成，并在稳定性方面优于传统的 MCMC 和变分推断方法。

ABSTRACT

We propose two novel samplers to generate high-quality samples from a given (un-normalized) probability density. Motivated by the success of generative adversarial networks, we construct our samplers using deep neural networks that transform a reference distribution to the target distribution. Training schemes are developed to minimize two variations of the Stein discrepancy, which is designed to work with un-normalized densities. Once trained, our samplers are able to generate samples instantaneously. We show that the proposed methods are theoretically sound and experience fewer convergence issues compared with traditional sampling approaches according to our empirical studies.

研究动机与目标

• 开发一种可扩展、高容量的采样方法，以规避传统 MCMC 和变分推断在处理未归一化目标密度时的局限性。
• 利用深度神经网络的表达能力，建模从简单参考分布到目标分布的复杂非线性变换。
• 设计基于 Stein 散度的训练目标，可直接作用于未归一化密度，实现稳定且样本高效的训练。
• 相比 HMC、SVGD 和基于 GAN 的方法，提升采样稳定性和收敛性，尤其在高维和多模态设置下表现更优。

提出的方法

• 使用深度神经网络参数化从标准参考分布（如高斯分布）到目标分布的确定性变换。
• 采用核化 Stein 散度（KSD）作为训练目标，该方法作用于未归一化密度，可在再生核希尔伯特空间（RKHS）中实现闭式优化。
• 提出 Fisher-NS 作为扩展，将判别函数空间从 RKHS 推广至 $ L^2 $ 空间，从而在 Fisher 散度下实现更优的收敛性。
• 通过梯度下降训练生成器，以最小化生成样本与目标分布之间的差异，利用未归一化密度的得分函数信息。
• 借鉴 GAN 的训练范式，使生成器学习生成在 Stein 散度度量下与目标分布不可区分的样本。
• 使用得分函数 $ S_q(x) = \nabla_x \log q(x) $，避免对归一化常数的依赖，使方法适用于未归一化的后验分布。

实验结果

研究问题

• RQ1 能否有效训练深度神经网络，以学习从简单参考分布到复杂、未归一化目标分布的确定性变换？
• RQ2 通过神经网络最小化 Stein 散度是否能实现比传统 MCMC 或变分推断更稳定、更精确的采样？
• RQ3 将判别函数空间从 RKHS 扩展至 $ L^2 $ 空间，对神经采样器的收敛性和样本质量有何影响？
• RQ4 所提出的方法能否有效探索多模态分布，避免 GAN 和 SVGD 中常见的模式崩溃或局部陷阱问题？
• RQ5 在真实世界高维数据上，所提出采样器相较于 SGLD、DSVI 和 SVGD 等基线方法表现如何？

主要发现

• KSD-NS 由于在 RKHS 中使用单位球，实现了稳定训练并具备理论保证，在 Covertype 数据集上的贝叶斯逻辑回归任务中，跨多次重复实验的方差更低。
• Fisher-NS 在 Covertype 数据集上实现了更高的平均测试准确率（76.22%），优于 KSD-NS（76.17%）、SGLD（75.09%）和 DSVI（73.46%），表明其在高维设置下性能更优。
• 在具有 8 个高度分离模式的二维多模态高斯混合分布上，所提采样器成功探索了所有模式，未出现模式遗漏，优于 SVGD、Stein GAN 和 HMC。
• 在单峰和多峰混合的玩具示例中，生成样本在局部和全局结构上均与目标分布高度一致，训练迭代过程中的可视化演化清晰显示了分布匹配的进展。
• 训练完成后，采样器可通过前向传播立即生成独立样本，避免了 MCMC 的序列依赖性，适用于大规模数据的高效推理。
• 实证结果表明，KSD-NS 和 Fisher-NS 均对初始化更具鲁棒性，且收敛速度优于传统采样方法，尤其在高维和复杂后验分布场景下表现更优。