[論文レビュー] Ergodicity of Approximate MCMC Chains with Applications to Large Data Sets

Natesh S. Pillai, Aaron Smith|arXiv (Cornell University)|May 1, 2014

Markov Chains and Monte Carlo Methods参考文献 40被引用数 36

ひとこと要約

この論文は、フル尤度評価が計算的に非現実的である大規模データ設定において使用される近似マルコフ連鎖モンテカルロ（MCMC）アルゴリズムの定量的エルゴドリシティバインディングを確立する。真のメトロポリス・ハスティングスカーネルの摂動を分析することで、近似サンプラーが部分標本に基づく近似を用いていても、正確なMCMCよりも低いモンテカルロ誤差を達成できる条件を特定するバイアス・バリアンストレードオフ不等式を導出する。

ABSTRACT

In many modern applications, difficulty in evaluating the posterior density makes performing even a single MCMC step slow. This difficulty can be caused by intractable likelihood functions, but also appears for routine problems with large data sets. Many researchers have responded by running approximate versions of MCMC algorithms. In this note, we develop quantitative bounds for showing the ergodicity of these approximate samplers. We then use these bounds to study the bias-variance trade-off of approximate MCMC algorithms. We apply our results to simple versions of recently proposed algorithms, including a variant of the "austerity" framework of Korratikara et al.

研究の動機と目的

• フル尤度評価が高コストである大規模データ環境におけるMCMC収束の遅さという課題に対処する。
• 部分標本化や尤度近似に依存する近似MCMCサンプラーに対して、厳密な理論的保証を提供する。
• 固定された計算予算下で、近似MCMC連鎖が正確なMCMCよりも高い統計的効率（低いモンテカルロ誤差）を達成できる条件を確立する。
• 近似が一様に良いわけではない場合にも、摂動を加えたマルコフ連鎖の収束性および混合性を分析するフレームワークを開発する。
• 一部のデータしか使わないにもかかわらず、平均二乗誤差の観点で正確なMCMCを上回る性能を示す近似サンプラーが存在することを実証する。

提案手法

• 近似連鎖が真のターゲット分布からどれほど離れているかを定量化する一般化された摂動バインディングを考案する。
• 真のメトロポリス・ハスティングスカーネルに対する直接の摂動解析が失敗する場合に、収束バインディングを改善するための補間連鎖を導入する。
• スラストMCMCフレームワークにこれらのバインディングを適用し、受理確率をデータの部分標本を用いて近似する。
• 1ステップあたりの尤度評価回数として計算複雑性を定義し、平均二乗誤差を通じて統計的効率と結びつける。
• 部分標本化された対数尤度比の集中不等式と信頼区間を用いて、近似された受理意思決定における停止ルールを決定する。
• 近似サンプラーの平均二乗誤差を正確なメトロポリス・ハスティングスカーネルのそれと比較するバイアス・バリアンストレードオフ不等式を定式化する。

実験結果

リサーチクエスチョン

• RQ1 部分標本化された尤度を用いた近似MCMCサンプラーが、真の後方分布に近い分布に収束する条件は何か？
• RQ2 同じ計算予算下で、近似MCMCアルゴリズムが正確なMCMCよりも低いモンテカルロ誤差を達成できるか？
• RQ3 非一様的または品質の低い近似は、MCMC連鎖のエルゴドリシティおよび混合性にどのように影響するか？
• RQ4 近似MCMCにおける計算コスト（データ評価回数）と統計的精度（平均二乗誤差）の理論的トレードオフは何か？
• RQ5 なぜ標準的な摂動解析では、特定の近似サンプラーの性能向上を捉えきれないのか、そしてその問題をどのように是正できるか？

主な発見

• 近似が一様に良いわけではない場合でさえも、近似MCMC連鎖の分布収束に関する定量的バインディングを確立した。
• スラストMCMCフレームワークにおいて、特定の条件下で近似サンプラーが正確なメトロポリス・ハスティングスアルゴリズムよりも低い平均二乗誤差を達成できることを示すバイアス・バリアンストレードオフ不等式を導出した。
• 補間連鎖の使用により、真のメトロポリス・ハスティングスカーネルに対する直接的解析の弱みを克服する、より緊密な摂動バインディングが得られた。
• 計算予算が制限されている場合、部分標本化に基づくMCMCアルゴリズムは受理意思決定プロセスにおける分散低減のおかげで、正確なMCMCを上回る統計的効率を示すことができる。
• 固定された1ステップあたりの尤度評価回数であっても、近似誤差が信頼区間を用いて制御されていれば、近似サンプラーが正確なサンプラーよりも優れたモンテカルロ推定値を提供できることが示された。
• フレームワークにより、近似MCMCにおける「自明に見える」性能向上が、標準的な摂動理論では捉えきれないことが特定され、このアプローチの限界が浮き彫りになった。