[論文レビュー] Measuring Sample Quality with Stein's Method

Jackson Gorham, Lester Mackey|arXiv (Cornell University)|Jun 9, 2015

Markov Chains and Monte Carlo Methods参考文献 37被引用数 68

ひとこと要約

この論文は、シュタインの手法に基づき、マルコフ連鎖モンテカルロ（MCMC）サンプルの新たな計算可能な品質指標を提案する。この指標は、広範なテスト関数のクラスにおいて、サンプルとターゲットの期待値の最大差を定量化する。この手法により、正確なサンプラー、バイアスのあるサンプラー、決定的サンプラーを比較可能となり、ベイズ推論におけるバイアスと分散のトレードオフ、収束の評価に実用的なツールを提供する。

ABSTRACT

To improve the efficiency of Monte Carlo estimation, practitioners are turning to biased Markov chain Monte Carlo procedures that trade off asymptotic exactness for computational speed. The reasoning is sound: a reduction in variance due to more rapid sampling can outweigh the bias introduced. However, the inexactness creates new challenges for sampler and parameter selection, since standard measures of sample quality like effective sample size do not account for asymptotic bias. To address these challenges, we introduce a new computable quality measure based on Stein's method that quantifies the maximum discrepancy between sample and target expectations over a large class of test functions. We use our tool to compare exact, biased, and deterministic sample sequences and illustrate applications to hyperparameter selection, convergence rate assessment, and quantifying bias-variance tradeoffs in posterior inference.

研究の動機と目的

• バイアスのあるMCMC手法において、漸近的に正確でないものの、より高速なサンプリングを実現するための信頼できるサンプル品質指標の欠如を解消すること。
• 収束と漸近的バイアスの両方を検出できる、計算可能で解釈可能な指標の開発。
• モンテカルロ推定において、正確なサンプラー、バイアスのあるサンプラー、決定的サンプラーのサンプル系列間の公平な比較を可能にすること。
• 事後分布推定におけるハイパーパrameter選択、収束速度の評価、バイアスと分散のトレードオフの定量化といった実用的タスクを支援すること。

提案手法

• この手法は、シュタインの手法から導かれるテスト関数のクラス上で、サンプル期待値とターゲット期待値の絶対差の上界を品質指標として定義する。
• 品質指標を線形計画問題として定式化することで、有限サンプルにおいて計算可能となる。
• 幾何的スパニヤーを用いることで、高次元における計算コストを低減し、効率的な近似を実現する。
• 勾配とヘッセ行列の制約を用いてテスト関数のクラスを構築し、滑らかさと差異の制御を可能にする。
• ウィットニー＝グレーサー拡張定理を活用し、サンプル点上で定義された関数を、勾配とヘッセ行列の境界を保ったまま拡張する。
• 双対定式化により、再生核ヒルバート空間の枠組みで最適関数を効率的に求められる。

実験結果

リサーチクエスチョン

• RQ1 サンプラーが漸近的にバイアスを持つ場合、どのようにしてサンプル系列の品質を定量化できるか？
• RQ2 サンプラーがバイアスを持つ場合でも、ターゲット分布への収束を検出できるか？
• RQ3 バイアスが存在する状況において、標準的な診断法（例：有効サンプルサイズ）と比較して、提案手法の指標はどのように異なるか？
• RQ4 この指標を、バイアスのあるMCMCアルゴリズムにおけるハイパーパrameter最適化にどの程度活用できるか？
• RQ5 事後分布推定におけるバイアスと分散のトレードオフはどのようなものか、そしてこの指標を用いてどのように定量化できるか？

主な発見

• 提案されたシュタインに基づく品質指標は、収束と漸近的バイアスの両方を検出でき、バイアスのあるMCMCにおける従来の診断法の信頼できる代替手段を提供する。
• 線形計画法により計算可能であるため、実世界のサンプリング問題への実用的応用が可能である。
• この手法は、バイアスが存在する場合でも、サンプル系列がターゲット分布に収束しないことを的確に特定できる。
• 幾何的スパニヤーの使用により計算複雑性が低減され、高次元問題へのスケーラビリティが実現された。
• 品質指標により、バイアスのあるサンプラーにおけるハイパーパrameter選択が効果的に行えるようになり、バイアスと分散のトレードオフが定量的に評価可能になった。
• 理論的分析により、指標が0に収束するならば、サンプリング分布がターゲット分布に弱収束することを確認した。