[論文レビュー] Measuring Sample Quality with Kernels

Jackson Gorham, Lester Mackey|arXiv (Cornell University)|Mar 6, 2017

Gaussian Processes and Bayesian Inference参考文献 42被引用数 52

ひとこと要約

本論文はランジェヴィン・ Stein 演算子とカーネル核（特に IMQ）を用いて、サンプル品質を効率的に評価し、収束しない場合を検出し、ハイパーパラメータ/サンプラー選択を導く、収束決定的なカーネル・スタイン・ディスクリプancies (KSD) を開発しています。IMQ ベースの KSD が高次元に対して頑健でスケーラブルであることを示し、従来の診断法を上回り、ワンサンプル検定やサンプル改善といった実用的な応用を可能にします。

ABSTRACT

Approximate Markov chain Monte Carlo (MCMC) offers the promise of more rapid sampling at the cost of more biased inference. Since standard MCMC diagnostics fail to detect these biases, researchers have developed computable Stein discrepancy measures that provably determine the convergence of a sample to its target distribution. This approach was recently combined with the theory of reproducing kernels to define a closed-form kernel Stein discrepancy (KSD) computable by summing kernel evaluations across pairs of sample points. We develop a theory of weak convergence for KSDs based on Stein's method, demonstrate that commonly used KSDs fail to detect non-convergence even for Gaussian targets, and show that kernels with slowly decaying tails provably determine convergence for a large class of target distributions. The resulting convergence-determining KSDs are suitable for comparing biased, exact, and deterministic sample sequences and simpler to compute and parallelize than alternative Stein discrepancies. We use our tools to compare biased samplers, select sampler hyperparameters, and improve upon existing KSD approaches to one-sample hypothesis testing and sample quality improvement.

研究の動機と目的

• ターゲット分布 P の下で積分を必要とせず、計算可能なサンプル品質の実用的な指標を動機づけ、形式化する。
• RKHSとランジェヴィン・スタイン演算子に基づく閉形式の KSD を開発し、計算が容易で並列化可能であることを確立する。
• KSD が広範なターゲット分布の弱収束を制御し、高次元で非収束を検出するカーネル選択を特定する。
• KSD をハイパーパラメータの調整、サンプラー選択、仮説検定、サンプル品質の改善といった実用的な応用で活用することを示す。

提案手法

• Milestone: b = ∇log p のスコア関数とベクトル値関 g を用いて Langevin ステイン演算子 T_P を定義し、(T_P g)(x) = ⟨g(x), b(x)⟩ + ⟨∇, g(x)⟩。
• カーネル・スタイン集合 G_k を導入し、各 g_j ∈ RKHS K_k で ∥g_j∥_{K_k} が制御され、閉形式の KSD を可能にする。
• 閉形式の KSD を導出: S(μ, T_P, G_k) = ∥w∥、ここで w_j = √E_{μ×μ}[k_0^j(X, X̃)]、k_0^j は p と k から構築されたスタイン核。
• P の下でのゼロ平均のテスト関数を証明し、ノルム選択間の同値性（定数を除く）を示し、KSD が収束検出をする条件を提示する。
• 核の尾部挙動を分析して収束検出性を保証する。β ∈ (-1,0) の IMQ は締め付け性を強化し非収束を検出する一方、尾が軽い一般的なカーネルは d ≥ 3 で失敗する可能性がある。
• KSD と IPMs（有界リプシッツ）および Wasserstein 距離との理論的関係を示し、収束保証を得る。

実験結果

リサーチクエスチョン

• RQ1 KSD を設計して、d ≥ 3 の高次元ターゲットに対して P への収束を信頼性高く検出できるか。
• RQ2 どのような尾部・帯域幅のカーネル選択が非収束を検出し、締め付けを確保するか。
• RQ3 実務的に、偏りあり/厳密/決定論的なサンプラーを比較するために KSD をどのように用いるか（ハイパーパラメータの調整、サンプラー選択、検定、サンプル改善）。
• RQ4 閉形式の KSD とグラフベースのスチーン・ディスcrepancy の計算上の利点（速度と並列性）の比較。

主な発見

• ランジェヴィン演算子と RKHS カーネルに基づく KSD は、サンプル対・座標間のペアごとに容易に并列計算できる閉形式を提供する。
• β ∈ (-1,0) の IMQ カーネルは締め付け性を強化し非収束を検出する一方、尾が軽い一般的なカーネルは d ≥ 3 で失敗する可能性がある。
• 高次元ではオフターゲット列によってガウス核やマテルン核がゼロに近づくことがあり、非収束検出に失敗するが、IMQ KSD はこの欠陥を回避する。
• P の一次元ターゲット（リプシッツ・スコアを持つ遠分散性）では KSD は非収束を検出するが、より高次元では IMQ KSD は非収束信号に対してロバスト性を維持する。
• KSD の収束性を Wasserstein 距離と、独立同分布サンプルの標準モンテカルロ収束率（n^{-1/2}）と結びつける上界が得られ、実用性を支持する。
• 経験的には IMQ KSD が Wasserstein やグラフ・スティーン・ディスcrepancy よりも速度とスケーラビリティで優れており、ハイパーパラメータ調整とサンプラー比較の実用性を高める。
• IMQ KSD は高次元でのワン・サンプル検定の検出力を、Gaussian カーネルや標準正規性検定と比較して改善する。
• KSD ベースのアプローチは、ターゲット関数クラス T_P G_k を最適化することでサンプル品質を向上させることができる、関連研究で実証されている。