[論文レビュー] Austerity in MCMC Land: Cutting the Metropolis-Hastings Budget

Anoop Korattikara, Yutian Chen+1 more|arXiv (Cornell University)|Apr 19, 2013

Markov Chains and Monte Carlo Methods参考文献 19被引用数 167

ひとこと要約

本稿では、大規模データセットにおけるMCMCサンプリングの計算コストを大幅に削減するため、部分的なデータを用いた逐次仮説検定により受容/却認決定を下す近似メトロポリス・ハスティングスアルゴリズムを提案する。わずかな漸近的バイアスを伴うが、単位時間あたりのサンプル数を増やすことで全体の推定誤差を低減し、誤差の減少速度において正確なMCMCを上回る。

ABSTRACT

Can we make Bayesian posterior MCMC sampling more efficient when faced with very large datasets? We argue that computing the likelihood for N datapoints in the Metropolis-Hastings (MH) test to reach a single binary decision is computationally inefficient. We introduce an approximate MH rule based on a sequential hypothesis test that allows us to accept or reject samples with high confidence using only a fraction of the data required for the exact MH rule. While this method introduces an asymptotic bias, we show that this bias can be controlled and is more than offset by a decrease in variance due to our ability to draw more samples per unit of time.

研究の動機と目的

• 大規模データセットにスケーリングする際、各提案に対して全尤度を計算する必要があるため、標準的なMCMC手法が計算的に非効率であるという問題に対処すること。
• 受容/却認ステップにおけるメトロポリス・ハスティングスの計算負担を、統計的精度を損なわずに軽減すること。
• 1回の反復あたりの計算予算を低くすることでバイアスを遅く減らすことが、分散の低減を早め、全体の誤差性能を向上させるかどうかを検討すること。
• 近似許容誤差によって制御される「バイアス・ノブ」を用いて、バイアスと分散のトレードオフを調整可能な、実用的でスケーラブルなMCMCフレームワークを構築すること。

提案手法

• 尤度比をデータのランダムなミニバッチを用いて段階的に評価する逐次仮説検定に基づく近似MHルールを提案する。
• 全データ評価を避けるために、高い信頼性で受容または却認を早期に決定するため、逐次尤度比検定（SPRT）を用いる。
• 近似誤差を制御するための許容誤差パラメータεを導入し、計算コストとバイアスの間のトレードオフを可能にする。
• メトロポリス・ハスティングスとギブスサンプリングの両方への適用を検討し、全変数距離の観点から近似誤差の理論的境界を提示する。
• 近似誤差が有界であり、定常分布が真の事後分布に近いことを示す理論的保証を導出する。
• 計算予算を減らすことでバイアスの減少が遅くなるが、サンプリング速度が向上する「バイアス・ノブ」メカニズムを採用し、バイアスと分散のトレードオフを改善する。

実験結果

リサーチクエスチョン

• RQ1 全尤度評価を大幅に削減することで、受容/却認ステップの計算コストを下げつつ、サンプリング精度を著しく損なわずに済ませることは可能か？
• RQ2 データのミニバッチ上で逐次仮説検定を用いることで、正確なMCMCと比較して推定誤差の観点で収束が早くなるか？
• RQ3 近似によって生じるバイアスを制御することで、全体の推定誤差をネットで低減させることは可能か？
• RQ4 大規模ベイズ推論問題において、計算コストとサンプリング効率のトレードオフは実際の場面でどのように現れるか？

主な発見

• わずかな近似バイアスを伴いながらも、単位時間あたりに生成されるサンプル数が著しく増加するため、正確なMCMCと比較して誤差の減少が速い。
• ε = 0.01の場合、1000秒以内に5変数クラスタの同時分布におけるL1誤差を正確なギブスサンプリングよりも速く低減した。
• ε = 0.01のとき、経験的条件付き確率における最大誤差は真の値から0.01以内に収まり、高い近似品質を示した。
• 初期のサンプリング段階では、サンプリングスループットが高いため、正確なMCMCに比べて優れた性能を示したが、後期には正確なMCMCがより低いバイアスフロアに到達した。
• 理論的解析により、近似誤差が有界であり、やや厳しい条件下でも定常分布が真の事後分布に近いことが確認された。
• 本手法により、実用的なバイアス・ノブがMCMCに実装可能となり、ユーザーが計算コストと推定精度のトレードオフを自在に調整できるようになった。