[論文レビュー] Pseudo-Marginal Slice Sampling

Iain Murray, Matthew M. Graham|arXiv (Cornell University)|Oct 10, 2015

Forensic Anthropology and Bioarchaeology Studies被引用数 6

ひとこと要約

この論文では、無偏推定器で使用される乱数を更新可能な補助変数として扱うことで、疑似周辺化MCMCにおけるロバスト性と混合性を向上させる、疑似周辺化スライスサンプリングというフレームワークを提案する。これらの補助変数を固定して繰り返し更新することで、高分散推定器によって引き起こされる「すば抜け」（sticking）行動を軽減し、手動のチューニングを必要とせずに収束が速くなり、性能が向上する。

ABSTRACT

Markov chain Monte Carlo (MCMC) methods asymptotically sample from complex probability distributions. The pseudo-marginal MCMC framework only requires an unbiased estimator of the unnormalized probability distribution function to construct a Markov chain. However, the resulting chains are harder to tune to a target distribution than conventional MCMC, and the types of updates available are limited. We describe a general way to clamp and update the random numbers used in a pseudo-marginal method's unbiased estimator. In this framework we can use slice sampling and other adaptive methods. We obtain more robust Markov chains, which often mix more quickly.

研究の動機と目的

• 高分散推定器を用いた場合に一般的に見られる、混合性の悪化や「すば抜け」（sticking）行動を是正すること。
• 推定器のランダムネスを更新可能な補助変数として扱うことで、スライスサンプリングなどの適応的MCMC手法を疑似周辺化フレームワークに組み込むこと。
• 手動チューニングを必要とせず、正確な周辺分布推論を維持しながらも、チェーンの効率を向上させる、標準的な疑似周辺化MCMCの代替手段を提供すること。
• 補助変数の乱数を更新することで、ガウス過程モデルやイジングモデルを含む実世界の応用において、自己相関の低減と収束の高速化が顕著に実現されることを示すこと。

提案手法

• 無作為推定器で使用される乱数を補助変数として扱い、マルコフ連鎖の状態に含めることで、サンプリング中にこれらを更新可能にするフレームワークを導入する。
• 標準的な疑似周辺化MCMCアルゴリズムを拡張し、推定器の補助変数（例：推定器からの乱数抽出）をスライスサンプリングや他の適応的MCMC手法で更新可能にする。
• 反射的スライスサンプリングと楕円型スライスサンプリングを、補助ランダムネスの更新に用い、提案分布のチューニングは不要である。
• ターゲットパラメータθにおける正確な周辺分布を維持しつつ、推定器分散の高い領域から脱出できるようにすることで、混合性を向上させる。
• コード変更は最小限で済む：ユーザーは推定器の乱数シードを固定するか、補助変数を含むマルコフ連鎖状態へのアクセスを提供するだけでよい。
• 既存の疑似周辺化実装と互換性があり、重要度サンプリング、粒子法、または確率的級数の切り捨てなど、あらゆる無偏推定器に適用可能である。

実験結果

リサーチクエスチョン

• RQ1 スライスサンプリングを疑似周辺化MCMCにおける補助ランダム数に効果的に適用することで、混合性の向上とすば抜けの低減が達成できるか？
• RQ2 無偏推定器で使用される乱数を更新することで、ターゲットパラメータチェーンの収束が速くなり、自己相関が低減するか？
• RQ3 ガウス過程モデルやイジングモデルのような、正規化定数が不確実な実世界のモデルに、手動チューニングを必要とせずにこのフレームワークを適用できるか？
• RQ4 補助変数の更新に伴う計算コストは、混合性と収束速度の向上という利点と比べてどの程度か？
• RQ5 特に標準的な疑似周辺化MCMCが移動不能になるような状況において、重尾分布や挙動が悪い推定器に対しても、この手法はロバストであるか？

主な発見

• 提案手法は、特に高分散または重尾分布の推定器を用いた状況（例：アニールド重要度サンプリングを用いたイジングモデル）において、チェーンのすば抜けを顕著に低減した。
• 補助変数をスライスサンプリングすることで、自己相関の減衰が速くなり、混合性が向上した。これは、イジングモデルおよび乳がんデータセットの実験で確認された。
• 乳がんデータセットにおけるガウス過程モデルでは、補助変数付き疑似周辺化手法（SS+MH）が、標準的な疑似周辺化MHと比較して著しく優れた混合性と少ないすば抜けイベントを示した。
• 提案手法の計算コストは、標準的な疑似周辺化MCMCと実質的に同等であり、同じ実装においてSS+MHの1回の更新あたりのウォールクロックタイムはMI+MHよりわずかに6%程度しか増加しなかった。
• 実験では、補助変数の更新に楕円型スライスサンプリングを用いることで、メトロポリス独立サンプリングに比べてわずかだが測定可能な性能向上が得られた。
• 標準的な疑似周辺化MCMCが推定器ノイズのため失敗する状況でも、本手法はロバストにサンプリングを可能にした。特に、イジングモデルでは数百万回の反復を経て突然すば抜けが発生する事例でも、本手法は正常に動作した。