[論文レビュー] Optimal approximating Markov chains for Bayesian inference

James E. Johndrow, Jonathan C. Mattingly+2 more|arXiv (Cornell University)|Aug 13, 2015

Markov Chains and Monte Carlo Methods参考文献 23被引用数 13

ひとこと要約

この論文は、近似誤差と計算コストのバランスを取ることで、ベイズ推論における最適近似マルコフ連鎖のフレームワークを提案する。均一混合条件下での不変測度間の全 Variation 距離について鋭い境界を確立し、計算的最適性の概念を導入して、効率的な MCMC 近似をガイドする。ロジスティック回帰およびガウス過程モデルで検証された。

ABSTRACT

The Markov Chain Monte Carlo method is the dominant paradigm for posterior computation in Bayesian analysis. It is common to control computation time by making approximations to the Markov transition kernel. Comparatively little attention has been paid to computational optimality in these approximating Markov Chains, or when such approximations are justified relative to obtaining shorter paths from the exact kernel. We give simple, sharp bounds for uniform approximations of uniformly mixing Markov chains. We then suggest a notion of optimality that incorporates computation time and approximation error, and use our bounds to make generalizations about properties of good approximations in the uniformly mixing setting. The relevance of these properties is demonstrated in applications to a minibatching-based approximate MCMC algorithm for large $n$ logistic regression and low-rank approximations for Gaussian processes.

研究の動機と目的

• 近似 MCMC における近似誤差 (ε) と計算時間のトレードオフを体系的に分析する欠如に対処すること。
• 真の事後分布と近似された不変測度の間の全 Variation 距離について、簡単で鋭い境界を提供すること。
• 統計的精度（近似誤差）と計算コストの両方を組み込んだ計算的最適性の概念を定義すること。
• 実用的な MCMC アルゴリズムにおける良好な近似の性質を、均一混合条件の下で一般化すること。
• ミニバッチ処理を用いたロジスティック回帰およびガウス過程における低ランク近似といった実世界の応用でフレームワークを検証すること。

提案手法

• Doeblin の条件（均一幾何的正帰属性）を用いて、マルコフ連鎖がその不変測度へ指数的収束することを保証する。
• 正確なカーネル P と近似カーネル Pε の間の全 Variation 距離に一様な境界 ε を課し、ε < α/2 となるようにすることで、幾何的正帰属性を維持する。
• 重要な境界を導出：‖μ − με‖_TV ≤ ε/α であり、不変測度における近似誤差が ε に比例し、幾何的正帰属性パラメータ α に反比例することを示す。
• 近似誤差とサンプリングコストのトレードオフをバランスさせる計算的最適性基準を導入する。
• 理論的境界を用いて、大規模 n のロジスティック回帰におけるミニバッチベースの MCMC およびガウス過程における低ランク近似を分析する。
• 摂動理論とカップリングの議論を用いて、Cesáro 平均およびパスワイズ推定子の収束に関する境界を導出する。

実験結果

リサーチクエスチョン

• RQ1 近似 MCMC における総誤差（統計的誤差 + 計算コスト）を最小化する最適な近似誤差 ε は何か？
• RQ2 幾何的正帰属性パラメータ α は、カーネル摂動に対する事後分布近似の感度にどのように影響するか？
• RQ3 均一混合条件下で、真の不変測度と近似された不変測度の間の全 Variation 距離について、鋭く計算可能な境界を導出できるか？
• RQ4 誤差と計算コストの合計コストを最小化するための最適近似カーネル Pε が満たすべき性質は何か？
• RQ5 理論的境界は、ロジスティック回帰やガウス過程といった大規模データのベイズモデルにおける実用的性能向上にどのように対応するか？

主な発見

• 真の事後分布 μ と近似された不変測度 με の間の全 Variation 距離は、‖μ − με‖_TV ≤ ε/α で有界であり、ここで α は Doeblin 係数である。
• ε < α/2 のとき、近似された連鎖 Pε は依然として均一幾何的正帰属的であり、正の幾何的正帰属性パラメータ αε > α − 2ε を満たす。
• 理論的フレームワークにより、固定予算下で近似誤差と計算コストの最適なバランスをとる ε の選択が可能になる。
• 境界を用いて、ロジスティック回帰におけるミニバッチ処理およびガウス過程における低ランク近似が、制御された誤差で顕著な高速化を達成できることを示した。
• α が大きい場合には、中程度の ε であっても近似誤差が小さくなることが示され、高次元設定においても積極的な近似が有効であることを支持する。
• このフレームワークは、誤差と計算効率のトレードオフに基づいて、異なる近似 MCMC アルゴリズムを体系的かつ比較的に評価・分析するための原則的手段を提供する。