[論文レビュー] The reproducing Stein kernel approach for post-hoc corrected sampling

Liam Hodgkinson, Robert Salomone+1 more|arXiv (Cornell University)|Jan 25, 2020

Markov Chains and Monte Carlo Methods参考文献 71被引用数 12

ひとこと要約

本稿は、不調整マルコフ連鎖からの標本に対する後処理補正としてのスティーン重要度サンプリングの理論的枠組みを導入し、連鎖がバイアスがあるか不変測度が未知であっても一貫性が保証されることを証明する。再帰的スティーンカーネルの使用により、カーネル化されたスティーン不一致と関連する尺度における収束が可能となり、幾何的エルゴディシティのもとで明示的な収束速度が得られ、高次元および部分標本化設定への応用が可能となる。

ABSTRACT

Stein importance sampling is a widely applicable technique based on kernelized Stein discrepancy, which corrects the output of approximate sampling algorithms by reweighting the empirical distribution of the samples. A general analysis of this technique is conducted for the previously unconsidered setting where samples are obtained via the simulation of a Markov chain, and applies to an arbitrary underlying Polish space. We prove that Stein importance sampling yields consistent estimators for quantities related to a target distribution of interest by using samples obtained from a geometrically ergodic Markov chain with a possibly unknown invariant measure that differs from the desired target. The approach is shown to be valid under conditions that are satisfied for a large number of unadjusted samplers, and is capable of retaining consistency when data subsampling is used. Along the way, a universal theory of reproducing Stein kernels is established, which enables the construction of kernelized Stein discrepancy on general Polish spaces, and provides sufficient conditions for kernels to be convergence-determining on such spaces. These results are of independent interest for the development of future methodology based on kernelized Stein discrepancies.

研究の動機と目的

• 不調整マルコフ連鎖からの標本に適用するスティーン重要度サンプリングの普遍的な理論的基盤を確立すること。
• 元のマルコフ連鎖がバイアスがあるか幾何的エルゴディックである場合でも、スティーン重要度サンプリングがターゲット期待値の一貫推定量をもたらすことを証明すること。
• 一般のポーランド空間における再帰的スティーンカーネルの一般理論を構築し、指数型分布族を超えたカーネル化されたスティーン不一致の構築を可能とすること。
• 大規模ベイジアン推論における実用的応用を支援するため、部分標本化に対して本手法の頑健性を示すこと。
• 適切な条件下で、カーネル化されたスティーン不一致における収束が、MMDなどの他の不一致尺度への収束を示すこと。

提案手法

• ターゲット分布 π から導出される再帰的スティーンカーネルを用いて、カーネル化されたスティーン不一致（KSD）を定義し、実測分布とターゲット分布の距離を測定する。
• 重み付き実測分布と π 間の KSD を最小化する非負の重みを計算するための制約付き二次計画問題を定式化し、有効な確率測度を保証する。
• 本手法は後処理補正として機能する：サンプリングアルゴリズムの変更は不要で、既存の標本の再重み付けのみを要する。
• マルコフ連鎖の幾何的エルゴディシティおよびドリフト条件に関する仮定を用いて理論的保証を導出し、重み付き実測測度が π に収束することを保証する。
• サンプリングとスティーンカーネル計算で用いる部分標本勾配が独立であることを保証することで、部分標本設定への拡張を図る。
• 一般のポーランド空間上で再帰的スティーンカーネルの普遍的理論を構築し、カーネルが収束を決定づけるための十分条件を提供する。

実験結果

リサーチクエスチョン

• RQ1 不調整MCMCアルゴリズムからのバイアス付き標本で、不変測度が未知であっても、スティーン重要度サンプリングが一貫した補正を可能とするか？
• RQ2 スティーン重要度サンプリングがカーネル化されたスティーン不一致およびMMDなどの関連尺度において、どのような条件下で収束するか？
• RQ3 MMDなどの他の不一致尺度へのKSDの収束性が、弱い正則性条件のもとでどのように転送可能か？
• RQ4 本手法は、サンプリングとカーネル計算の両方において部分標本化に対して頑健であり、一貫性を保持するか？
• RQ5 カーネルおよび状態空間にどのような一般的条件を課すと、再帰的スティーンカーネルが任意のポーランド空間上で収束を決定づける不一致を誘導するか？

主な発見

• スティーン重要度サンプリングは、おそらく未知または誤った不変測度を持つ幾何的エルゴディックなマルコフ連鎖からの標本に対しても、ターゲット期待値の一致推定を達成する。
• 定理1の条件下で、カーネル化されたスティーン不一致における収束速度が O(n⁻¹/²) であり、i.i.d. サンプリングのパラメトリックレートと一致する。
• KSDにおける収束はMMDにおける収束を示し、補正が複数の不一致尺度にわたる性能向上をもたらすことを示している。
• 部分標本勾配を用いたTULAアルゴリズムでは、部分標本化されたカーネルがサンプリング勾配と独立である限り、スティーン重要度サンプリングは一貫性を保つ。これにより、スケーラブルな推論が可能となる。
• 実用的には、IMQベースカーネルがガウスカーネルを上回り、十分な標本数で正確なi.i.d. サンプリングを上回る収束速度と性能を達成する。
• 理論的枠組みにより、再帰的スティーンカーネルが一般のポーランド空間上で収束を決定づけることが示され、指数型分布族を超えた広範な応用が可能となる。