[論文レビュー] Asymptotically Exact MCMC Algorithms via Local Approximations of Computationally Intensive Models

Patrick R. Conrad, Youssef Marzouk+2 more|arXiv (Cornell University)|Feb 7, 2014

Markov Chains and Monte Carlo Methods被引用数 11

ひとこと要約

本論文は、計算的に高価なベイズ推論において、前向きモデルの評価回数を劇的に削減するために、メトロポリス・フاستィングスカーネル内に局所的近似（多項式またはガウス過程モデルなど）を用いる、新しいMCMCフレームワークを提案する。この手法は、真の事後分布からの漸近的に正確なサンプリングを保証しながら、ODEおよびPDEの推論問題において複数桁の高速化を達成する。

ABSTRACT

We construct a new framework for accelerating Markov chain Monte Carlo in posterior sampling problems where standard methods are limited by the computational cost of the likelihood, or of numerical models embedded therein. Our approach introduces local approximations of these models into the Metropolis-Hastings kernel, borrowing ideas from deterministic approximation theory, optimization, and experimental design. Previous efforts at integrating approximate models into inference typically sacrifice either the sampler's exactness or efficiency; our work seeks to address these limitations by exploiting useful convergence characteristics of local approximations. We prove the ergodicity of our approximate Markov chain, showing that it samples asymptotically from the \emph{exact} posterior distribution of interest. We describe variations of the algorithm that employ either local polynomial approximations or local Gaussian process regressors. Our theoretical results reinforce the key observation underlying this paper: when the likelihood has some \emph{local} regularity, the number of model evaluations per MCMC step can be greatly reduced without biasing the Monte Carlo average. Numerical experiments demonstrate multiple order-of-magnitude reductions in the number of forward model evaluations used in representative ODE and PDE inference problems, with both synthetic and real data.

研究の動機と目的

• 尤度関数や数値モデルの評価が高価な場合に生じるMCMCサンプリングの計算的ボトルneckを解消すること。
• 1ステップあたりの前向きモデル評価回数を削減しながらも、正確な事後分布からのサンプリングを維持する手法を開発すること。
• 正確性または効率性のどちらかを犠牲にする既存の近似推論手法の限界を克服すること。
• 尤度関数の局所的滑らかさを活用し、MCMCフレームワーク内での正確で低コストな近似を可能にすること。

提案手法

• 計算的に高価なモデルの局所的近似を組み込んだ、変更されたメトロポリス・フاستィングスカーネルを導入する。
• 決定的近似理論を用いて、尤度関数の局所的多項式またはガウス過程レグレッサーを構築する。
• 提案分布のメカニズムをこれらの局所的近似に依存させることで、完全なモデル評価への依存度を低減する。
• 実験的設計の原則を用いて、局所的近似を構築するのに有用な情報をもつ点を選択する。
• 得られるマルコフ連鎖のエルゴディシティを証明し、真の事後分布への漸近的収束を保証する。
• 局所的モデルの滑らかさに基づいて、近似の品質を動的に調整することで、正確性と効率性を両立する。

実験結果

リサーチクエスチョン

• RQ1 メトロポリス・フاستィングスカーネル内での局所的近似は、計算コストを削減しながらも、事後分布からの正確なサンプリングを維持できるか？
• RQ2 前向きモデル評価回数は、近似の品質や局所的滑らかさにどのように依存するか？
• RQ3 多項式やガウス過程などの種々の局所的近似手法の中で、正確性と効率性のバランスを最も良くするものは何か？
• RQ4 どのような条件下で局所的近似がエルゴディシティと真の事後分布への収束を維持できるか？
• RQ5 バイアスを導入せずに、ODEおよびPDEの推論において顕著な高速化を達成できるか？

主な発見

• 提案されたMCMCアルゴリズムは、局所的近似を用いていながらも、真の事後分布からの漸近的に正確なサンプリングを達成する。
• 合成データおよび実データのODEおよびPDE推論問題において、前向きモデル評価回数を複数桁削減する。
• 局所的多項式近似とガウス過程近似の両方が、高い計算的節約効果を発揮するとともに、サンプリングの正確性を維持する。
• マルコフ連鎖の収束特性が厳密に証明されており、提案されたフレームワーク下でもサンプラーが有効であることが保証される。
• 数値実験により、モデル評価回数を著しく削減しても、モンテカルロ平均が不偏のまま保たれることが確認された。