[論文レビュー] Approximations of Markov Chains and Bayesian Inference

James E. Johndrow, Jonathan C. Mattingly+2 more|arXiv (Cornell University)|Aug 13, 2015

Markov Chains and Monte Carlo Methods参考文献 62被引用数 23

ひとこと要約

本稿は、計算制約下での推定精度を最適化するために、マルコフ連鎖モンテカルロ（MCMC）アルゴリズムにおける近似の許容可能性の時期と程度を評価する理論的枠組みを提案する。カーネル近似誤差とエルゴドゥシティの分析を通じて、与えられた不一致測度と予算に対して、近似されたMCMC連鎖が最適な性能を達成するための条件を確立する。

ABSTRACT

The Markov Chain Monte Carlo method is the dominant paradigm for posterior computation in Bayesian analysis. It has long been common to control computation time by making approximations to the Markov transition kernel. Comparatively little attention has been paid to convergence and estimation error in these approximating Markov Chains. We propose a framework for assessing when to use approximations in MCMC algorithms, and how much error in the transition kernel should be tolerated to obtain optimal estimation performance with respect to a specified discrepancy measure and computational budget. The results require only ergodicity of the exact kernel and control of the kernel approximation accuracy. The theoretical framework is applied to approximations based on random subsets of data, low-rank approximations of Gaussian processes, and a novel approximating Markov chain for discrete mixture models.

研究の動機と目的

• 近似MCMCアルゴリズムにおける収束誤差と推定誤差に関する体系的分析の不足に対処すること。
• マークフ・遷移カーネルの近似における計算効率と推定精度のトレードオフを特定すること。
• 固定された計算予算下で性能を最適化する近似の程度を決定する原則的基準を提供すること。
• 実用的近似、例えばサブサンプリングされたデータ、低ランクガウス過程、離散混合モデルに対する枠組みの拡張

提案手法

• 正確なカーネルのエルゴドゥシティと遷移カーネルにおける有界な近似誤差に基づく理論的枠組みの構築。
• 不一致測度を用いて推定誤差を定量化し、カーネル近似の精度と関連付ける。
• 近似されたマルコフ連鎖が真の事後分布に近い分布に収束するための条件を導出する。
• ランダムなデータサブセット、ガウス過程の低ランク近似、離散混合モデルのための新規近似連鎖の3つの具体的な近似スキームに枠組みを適用する。
• カーネル近似の精度と計算予算に依存する推定誤差の理論的バウンドを確立する。
• 推定誤差の不一致測度を近似レベルの最適化に統合し、精度と実行時間のバランスをとる。

実験結果

リサーチクエスチョン

• RQ1 与えられた計算予算下で、推定誤差が許容不能になる前に、マークフ遷移カーネルにおけるどの程度の近似が許容可能か。
• RQ2 カーネル近似誤差は、ベイズ推論におけるMCMCサンプラーの収束性と精度にどのように影響するか。
• RQ3 近似の使用を最適な推定性能を保証しながら指針づける統一的理論枠組みを構築可能か。
• RQ4 データサブサンプリングや低ランク近似などの特定の近似戦略が、提案された枠組み下でどのように性能を発揮するか。

主な発見

• 近似誤差と計算コストのバランスを取ることで、近似されたMCMC連鎖が最適な推定性能を達成するための条件を枠組みが提供する。
• カーネル近似の精度と不一致測度に依存する推定誤差の理論的バウンドが導出され、原則的近似選択を可能にする。
• サブサンプリングされたデータ、低ランクガウス過程近似、離散混合モデルのための新規連鎖を含む、多様な近似技術に本アプローチが適用可能である。
• 正確なカーネルがエルゴドゥシティでかつ近似誤差が制御されていれば、連鎖が真の事後分布に近い分布に収束することを保証する。
• 正確なカーネルが計算的に高価であっても、実行時間と推定精度の最適なトレードオフを実現可能である。
• 複数の近似タイプにおいて実証的検証が行われ、理論的バウンドが実際の応用において意味的かつ実行可能であることが示された。