[论文解读] Measuring Sample Quality with Kernels

Jackson Gorham, Lester Mackey|arXiv (Cornell University)|Mar 6, 2017

Gaussian Processes and Bayesian Inference参考文献 42被引用 52

一句话总结

本文提出了收敛性决定的核斯坦差异（KSDs），使用朗之耶斯坦算子和核核（尤其是 IMQ），来高效评估样本质量、检测非收敛并指导超参数/采样器选择。结果表明基于 IMQ 的 KSD 对高维鲁棒且可扩展，优于若干先前诊断，并实现实际应用如单样本检验和样本改进。

ABSTRACT

Approximate Markov chain Monte Carlo (MCMC) offers the promise of more rapid sampling at the cost of more biased inference. Since standard MCMC diagnostics fail to detect these biases, researchers have developed computable Stein discrepancy measures that provably determine the convergence of a sample to its target distribution. This approach was recently combined with the theory of reproducing kernels to define a closed-form kernel Stein discrepancy (KSD) computable by summing kernel evaluations across pairs of sample points. We develop a theory of weak convergence for KSDs based on Stein's method, demonstrate that commonly used KSDs fail to detect non-convergence even for Gaussian targets, and show that kernels with slowly decaying tails provably determine convergence for a large class of target distributions. The resulting convergence-determining KSDs are suitable for comparing biased, exact, and deterministic sample sequences and simpler to compute and parallelize than alternative Stein discrepancies. We use our tools to compare biased samplers, select sampler hyperparameters, and improve upon existing KSD approaches to one-sample hypothesis testing and sample quality improvement.

研究动机与目标

• 激励并形式化一种实用、可计算的样本质量度量，该度量不需要在目标分布 P 下进行积分。
• 基于RKHS和朗之韦斯坦算子的核斯坦差异（KSD）的闭式表达，易于计算和并行化。
• 确保 KSD 能控制广义目标分布的一致性收敛（弱收敛），并识别在高维下能检测到非收敛的核选择。
• 展示 KSD 在超参数调优、采样器选择、假设检验和提升样本质量方面的应用。

提出的方法

• 使用分数函数 b = ∇log p 和向量值函数 g 定义朗之韦斯坦算子 T_P，其形式为 (T_P g)(x) = ⟨g(x), b(x)⟩ + ⟨∇, g(x)⟩。
• 引入核斯坦集 G_k，使每个 g_j ∈ RKHS K_k 且 ∥g_j∥_{K_k} 受控，从而实现闭式 KSD。
• 推导出闭式 KSD：S(μ, T_P, G_k) = ∥w∥，其中 w_j = √E_{μ×μ}[k_0^j(X, X̃)]，其中 k_0^j 是由 p 和 k 构建的 Stein 核。
• 证明在 P 下测试函数的零均值，并展示不同范数选择在常数意义上的等价性；给出 KSD 检测收敛性的条件。
• 分析核的尾部行为以确保收敛检测（IMQ 的 β ∈ (-1,0) 强制紧性并检测非收敛）。
• 给出将 KSD 与 IPMs（有界 Lipschitz）及 Wasserstein 距离联系起来的收敛性保证的理论结果。

实验结果

研究问题

• RQ1 是否可以设计核斯坦差异（KSD）以可靠地检测对 P 的收敛，适用于高维目标（d ≥ 3）？
• RQ2 哪些核选取（尾部形状和带宽）能确保 KSD 检测到非收敛并强制紧性？
• RQ3 如何在实践中使用 KSD 比较带偏、精确和确定性采样器（超参数调优、采样器选择、检验和样本改进）？
• RQ4 闭式 KSD 相对于基于图的 Stein 差异在速度和并行性方面有哪些计算优势？

主要发现

• 基于朗之韦算子和 RKHS 核的 KSD 计算具有闭式形式，且易于在样本对和坐标间并行。
• β ∈ (-1,0) 的 IMQ 核强制紧性并检测非收敛，而尾部较轻的常见核在 d ≥ 3 时可能失效。
• 高斯和 Matérn 核在高维下可能被目标之外的序列驱动到零，无法检测非收敛；IMQ KSD 可避免这一失败。
• 对 P 的单变量目标（距离耗散且趋向 Lipschitz 的分数），KSD 能检测非收敛；在高维下，IMQ KSD 仍对非收敛信号具有鲁棒性。
• 上界将 KSD 收敛性与 Wasserstein 距离联系起来，且独立同分布样本的标准蒙特卡罗速率（n^{-1/2}）适用，支持实际使用。
• 实证演示显示 IMQ KSD 在速度和可扩展性方面优于 Wasserstein 和图 Stein 差异，并实现有效的超参数调优和采样器比较。
• 相比高斯核和标准正态性检验，IMQ KSD 在高维下提高了单样本检验的效能。
• 基于 KSD 的方法可通过优化目标函数类 T_P G_k 来提高样本质量，如相关工作所示。