[논문 리뷰] Measuring Sample Quality with Kernels

Jackson Gorham, Lester Mackey|arXiv (Cornell University)|2017. 03. 06.

Gaussian Processes and Bayesian Inference참고 문헌 42인용 수 52

한 줄 요약

본 논문은 Langevin Stein 연산자와 커널 커널(IMQ를 주로)을 사용하여 수렴 결정적 Kernel Stein 불일치(KSD)를 개발하고 샘플 품질을 효율적으로 평가하며 비수렴을 감지하고 하이퍼파라미터/샘플러 선택을 안내한다. IMQ 기반 KSD가 고차원에 강건하고 확장 가능하며 기존 진단들보다 우수하고, 일표본 테스트 및 샘플 개선과 같은 실용적 응용을 가능하게 한다.

ABSTRACT

Approximate Markov chain Monte Carlo (MCMC) offers the promise of more rapid sampling at the cost of more biased inference. Since standard MCMC diagnostics fail to detect these biases, researchers have developed computable Stein discrepancy measures that provably determine the convergence of a sample to its target distribution. This approach was recently combined with the theory of reproducing kernels to define a closed-form kernel Stein discrepancy (KSD) computable by summing kernel evaluations across pairs of sample points. We develop a theory of weak convergence for KSDs based on Stein's method, demonstrate that commonly used KSDs fail to detect non-convergence even for Gaussian targets, and show that kernels with slowly decaying tails provably determine convergence for a large class of target distributions. The resulting convergence-determining KSDs are suitable for comparing biased, exact, and deterministic sample sequences and simpler to compute and parallelize than alternative Stein discrepancies. We use our tools to compare biased samplers, select sampler hyperparameters, and improve upon existing KSD approaches to one-sample hypothesis testing and sample quality improvement.

연구 동기 및 목표

• 타깃 분포 P를 적분하지 않고도 샘플 품질에 대한 실용적이고 계산 가능한 지표를 동기화하고 형식화한다.
• RKHS와 Langevin Stein 연산자에 기초한 닫힌 형식의 커널 Stein 불일치를 개발하여 쉽게 계산 가능하고 병렬화가 가능하도록 한다.
• KSD가 다양한 목표 분포에 대해 약한 수렴을 제어하도록 보장하고, 고차원에서 비수렴을 탐지하는 커널 선택을 식별한다.
• KSD를 하이퍼파라미터 튜닝, 샘플러 선택, 가설 검정, 샘플 품질 개선에 적용한다.

제안 방법

• P의 점수 함수 b = ∇log p와 벡터 값 g를 사용하는 Langevin Stein 연산자 T_P를 정의하고 (T_P g)(x) = ⟨g(x), b(x)⟩ + ⟨∇, g(x)⟩으로 표현한다.
• 각 g_j ∈ RKHS K_k이고 ∥g_j∥_{K_k}가 제어되는 커널 Stein 집합 G_k를 도입하여 닫힌 형식의 KSD를 가능하게 한다.
• 닫힌 형식의 KSD를 도출: S(μ, T_P, G_k) = ∥w∥ with w_j = √E_{μ×μ}[k_0^j(X, X̃)], 여기서 k_0^j는 p와 k로부터 구성된 Stein 커널이다.
• P 하에서의 영평균 검정 함수임을 보이고, 벡터 노름 선택에 따라 동등성(상수 차이)을 보이며, KSD가 수렴을 탐지하는 조건을 제시한다.
• 커널의 꼬리 거동을 분석하여 수렴 탐지를 보장한다(β ∈(-1,0)인 IMQ가 타이트니스를 강제하고 비수렴을 탐지한다).
• KSD와 IPM(유계 Lipschitz) 및 Wasserstein 거리 사이의 이론적 관계를 제시하여 수렴 보장을 제공한다.

실험 결과

연구 질문

• RQ1 KSD가 d≥3인 고차원 타깃에 대해 P로의 수렴을 신뢰성 있게 탐지하도록 설계될 수 있는가?
• RQ2 어떤 커널 선택(꼬리와 대역)이 KSD가 비수렴을 탐지하고 타이트니스를 강제하도록 보장하는가?
• RQ3 편향된 샘플러, 정확한 샘플러, 결정론적 샘플러를 실무에서 어떻게 비교(하이퍼파라 parameter 튜닝, 샘플러 선택, 검정, 샘플 개선)할 수 있는가?
• RQ4 닫힌 형식 KSD와 그래프 기반 Stein 불일치의 계산적 이점은 속도와 병렬화 측면에서 어떤 차이가 있는가?

주요 결과

• Langevin 연산자와 RKHS 커널에 基づ한 KSD는 샘플 쌍과 좌표 간에 쉽게 병렬화 가능한 닫힌 형식 계산을 제공한다.
• β가 (-1,0)에 속하는 IMQ 커널은 타이트니스를 강제하고 비수렴을 탐지하는 반면, 꼬리가 가볍거나 일반적인 커널은 d≥3에서 실패할 수 있다.
• 고차원에서 오프타깃 시퀀스에 의해 가설이 0으로 수렴될 수 있는 가우시안 및 매터른 커널은 비수렴 탐지에 실패하는 반면, IMQ KSD는 이 실패를 피한다.
• 단변 타깃에서 수렴을 탐지하는 반면(Obj: Lipschitz 점수의 경우), 고차원에서 IMQ KSD는 비수렴 신호에 대해 더 강건하다.
• 상한은 KSD의 수렴을 Wasserstein 거리와 연결하고 iid 샘플에 대해 표준 몬테카를로 속도(n^{-1/2})를 적용하므로 실용적 사용을 지원한다.
• 경험적 시연에서 IMQ KSD가 속도와 확장성 면에서 Wasserstein 및 그래프 Stein 불일치를 능가하고, 하이퍼파라미터 튜닝 및 샘플러 비교에 효과적임을 보여준다.
• IMQ KSD는 Gaussian 커널 및 표준 정규성 검정에 비해 고차원에서 일표본 검정의 검력 능력을 향상시킨다.
• KSD 기반 접근법은 표적 함수 클래스 ᾿T_P G_k᾽를 최적화하여 샘플 품질을 개선하는 데 사용할 수 있으며, 관련 연구에서 이를 시사한다.