[論文レビュー] MCMC Using Ensembles of States for Problems with Fast and Slow Variables such as Gaussian Process Regression

Radford M. Neal|arXiv (Cornell University)|Jan 2, 2011

Gaussian Processes and Bayesian Inference参考文献 13被引用数 32

ひとこと要約

この論文は、ガウス過程回帰などの高速・遅速変数をもつモデルにおけるサンプリング効率を向上させるため、共通の空間で複数の状態を同時に更新するアンサンブルMCMCを提案する。高速変数（例：スケーリング要因）を変更する際の計算の短縮を活用することで、詳細なバランスを維持したまま全体の計算時間を削減し、高次元の事後分布推論における混合と収束を著しく改善する。

ABSTRACT

I introduce a Markov chain Monte Carlo (MCMC) scheme in which sampling from a distribution with density pi(x) is done using updates operating on an "ensemble" of states. The current state x is first stochastically mapped to an ensemble, x^{(1)},...,x^{(K)}. This ensemble is then updated using MCMC updates that leave invariant a suitable ensemble density, rho(x^{(1)},...,x^{(K)}), defined in terms of pi(x^{(i)}) for i=1,...,K. Finally a single state is stochastically selected from the ensemble after these updates. Such ensemble MCMC updates can be useful when characteristics of pi and the ensemble permit pi(x^{(i)}) for all i in {1,...,K}, to be computed in less than K times the amount of computation time needed to compute pi(x) for a single x. One common situation of this type is when changes to some "fast" variables allow for quick re-computation of the density, whereas changes to other "slow" variables do not. Gaussian process regression models are an example of this sort of problem, with an overall scaling factor for covariances and the noise variance being fast variables. I show that ensemble MCMC for Gaussian process regression models can indeed substantially improve sampling performance. Finally, I discuss other possible applications of ensemble MCMC, and its relationship to the "multiple-try Metropolis" method of Liu, Liang, and Wong and the "multiset sampler" of Leman, Chen, and Lavine.

研究の動機と目的

• 高速・遅速変数をもつモデルにおいて、全事後分布の更新が計算的に高価であるため、標準MCMCの非効率性に対処すること。
• 従来のMCMCの制限を超えるために、複数の状態のアンサンブルを用いて、事後分布の探索をより効率的に行うことを目的とする。
• アンサンブル空間における不変分布が、高速変数のみを更新する場合に密度評価を高速化できるフレームワークを構築すること。
• アンサンブルMCMCが、高速変数を周辺化する理想の状態に近づきつつ、遅速変数をその周辺事後分布に基づいて更新できることを示すこと。
• ガウス過程回帰のような階層モデルにおける標準MCMCのスケーラブルな代替手段として、アンサンブルMCMCの理論的・実用的基盤を確立すること。

提案手法

• 高速変数をアンサンブルメンバー間で共有するベース測度を用いて、単一の状態 $x \in \mathcal{X}$ を確率的にアンサンブル $ (x^{(1)}, \dots, x^{(K)}) \in \mathcal{X}^K $ に写像する。
• アンサンブル密度 $ \rho(x^{(1)}, \dots, x^{(K)}) \propto \sum_{i=1}^K \pi(x^{(i)}) $ を定義し、高速変数のみが変更された場合の計算を効率化する。
• 不変アンサンブル密度 $ \rho $ を保持する提案分布を用いて、アンサンブル空間 $ \mathcal{X}^K $ でMCMC更新を実行する。
• アンサンブル更新後、確率的にアンサンブルから1つの状態を選択し、元の状態空間 $ \mathcal{X} $ に戻すことで、全体のチェインが $ \pi(x) $ をターゲットにすることを保証する。
• 計算の短縮を活用する：高速変数（例：全体のスケールやノイズ分散）のみが変更された場合、全 $ K $ 個のアンサンブルメンバーの全密度 $ \pi(x) $ を、1つの状態の評価コストの $ K $ 倍未満で再計算可能である。
• アンサンブルを用いて、高速変数を効率的に統合することで、遅速変数の周辺事後分布を近似し、理想化された条件付き更新を模倣する。

実験結果

リサーチクエスチョン

• RQ1 個々の状態ではなく、複数の状態のアンサンブル上で動作させることで、高速・遅速変数をもつモデルにおけるMCMCのサンプリングを高速化できるか？
• RQ2 密度評価が高価である場合に、アンサンブルMCMCが標準MCMCよりも計算上の利点を示す条件は何か？
• RQ3 アンサンブルメンバー間で共有される高速変数を活用しながら、詳細なバランスを維持するようにアンサンブルMCMCを設計するにはどうすればよいか？
• RQ4 未知のハイパーパrameterをもつガウス過程回帰において、アンサンブルMCMCは混合と収束をどの程度改善できるか？
• RQ5 アンサンブルMCMCと、複数試行メトロポリスやマルチセットサンプラーといった既存手法との関係は何か？

主な発見

• アンサンブルMCMCは、高速変数（例：スケーリング要因やノイズ分散）が更新される際の計算の短縮を活用することで、ガウス過程回帰モデルにおけるサンプリング性能を著しく向上させる。
• 高速変数が共有される複数の状態のアンサンブル上で効率的な同時更新が可能であるため、標準MCMCよりも混合が良く、収束が速い。
• 高速変数のみが変更された場合、全 $ K $ 個のアンサンブルメンバーの密度 $ \pi(x) $ を、1つの状態の評価コストの $ K $ 倍未満で計算可能であり、顕著な高速化が達成できる。
• 個々の $ \pi(x^{(i)}) $ の和として定義されるアンサンブル密度 $ \rho $ は、詳細なバランスを保証し、正しい周辺分布 $ \pi(x) $ をターゲットにすることを可能にする。
• この手法は、Leman, Chen, and Lavine (2009) のマルチセットサンプラーと理論的に同等であるが、計算の短縮を特定するためのより体系的なフレームワークを提供する。
• 計算の短縮が存在する場合、標準MCMCよりもアンサンブルMCMCが優れる。特に、高速変数の変更によってアンサンブル全体の全密度を素早く再評価できる場合に顕著である。