[論文レビュー] Covariance-Adaptive Slice Sampling

Madeleine B. Thompson, Radford M. Neal|arXiv (Cornell University)|Mar 16, 2010

Markov Chains and Monte Carlo Methods参考文献 10被引用数 8

ひとこと要約

本稿では、非定常スライスサンプリングおよびメトロポリス法よりも、特に低次元で強い相関を持つ設定において、混合性能が向上する、勾配情報を用いて提案分布を局所的曲率に適応させる2つの共分散適応型スライスサンプリング手法を提案する。拒否された提案における勾配を用いることで、局所的曲率を把握し、提案分布を適応的に調整することで、性能がチューニングパラメータの選択に強く依存しない。

ABSTRACT

We describe two slice sampling methods for taking multivariate steps using the crumb framework. These methods use the gradients at rejected proposals to adapt to the local curvature of the log-density surface, a technique that can produce much better proposals when parameters are highly correlated. We evaluate our methods on four distributions and compare their performance to that of a non-adaptive slice sampling method and a Metropolis method. The adaptive methods perform favorably on low-dimensional target distributions with highly-correlated parameters.

研究の動機と目的

• 高次元で相関の強い多変量分布に対して、事前知識や広範なチューニングを必要とせずに良好に動作するMCMCサンプラーの開発。
• 勾配情報を利用して局所的曲率に応じて提案分布を適応的に調整することにより、多変量スライスサンプリングの性能を向上させること。
• チューニングパラメータの選択に強く依存せず、事前チェーンや手動チューニングを回避できる手法の構築。
• 非適応型スライスサンプリングおよびメトロポリス法と比較して、相関のあるターゲット分布における性能の評価。
• 勾配に基づく適応が、低次元で相関の強い設定における混合性能と収束性をどのように向上させるかの実証。

提案手法

• 本手法は、クルムフレームワークを用い、中間分布（クルム）をサンプリングすることで多変量の提案を生成する。クルムの共分散は、拒否された提案における対数密度の勾配を用いて適応的に調整される。
• 2つの適応戦略を提案：1つはスライスの均一分布の共分散を一致させるもの、もう1つは計算コストを低減するためのランク縮小近似を用いるもの。
• 観察されたクルムとその尤度を用いて、提案分布を反復的に更新する。ターゲット分布をクルムで条件づけた分布が、提案分布として用いられる。
• クルムフレームワークの理論的基盤に従い、詳細釣合の性質とターゲット分布に対する不変性を構成上保証する。
• 勾配情報を用いて局所的曲率を推定し、特に相関が高い方向において、スライス $ S_{y_0} $ の形状に提案分布がよりよく適合するようにする。
• ランク縮小法では $ \log f(u_k) \approx \log y_0 $ を近似することで、対数密度評価回数を半減させつつ、性能の損失を最小限に抑え、効率性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 勾配に基づく適応は、相関の強い多変量分布における多変量スライスサンプリングの性能を向上させるか？
• RQ2 低次元で相関のある設定において、適応型スライスサンプリングは非適応型スライスサンプリングおよびメトロポリス法と比較して、どのように性能を発揮するか？
• RQ3 非適応型またはメトロポリスサンプラーと比較して、適応型手法はチューニングパラメータの選択に対してどれほど頑健か？
• RQ4 勾配情報の使用が、相関の強いターゲットにおける混合性能と収束性を顕著に向上させるか？
• RQ5 ランク縮小近似は、計算コストを削減しつつ、適応型スライスサンプリングの性能を維持できるか？

主な発見

• 適応型スライスサンプリング手法は、$ N_4(\rho=0.999) $ のような低次元で相関の強い分布において、非適応型スライスサンプリングおよびメトロポリス法を上回る性能を発揮する。特に、チューニングパラメータがターゲットの標準偏差のスケールと近い場合に顕著な向上が見られる。
• 両手法とも「ホッキースティック型」の性能曲線を示し、チューニングパラメータがターゲットの標準偏差と同オーダーに達すると急激に性能が向上する。
• 非適応型スライスサンプラーは、チューニングパラメータが小さすぎる場合に性能が著しく低下するが、閾値を超えると安定化し、チューニングへの感受性が低いことが示された。
• メトロポリスサンプラーは、小さなチューニングパラメータでは適応がうまくいかず、同じ実装で大きなパラメータでは提案が生成できないため、自動チューニングの限界が顕在化している。
• 相関が弱い分布 $ N_4(\rho=-0.3329) $ では、メトロポリスサンプラーの性能が著しく向上し、適応型スライスサンプラーと同等の性能を発揮する。これはターゲットの構造が性能に与える影響を示している。
• 10成分混合分布のような多モーダルターゲットでは、すべての手法が不規則な性能を示し、複数のモードを扱う際のスライスサンプリングの限界が予想通り顕在化している。