[論文レビュー] Taking Bigger Metropolis Steps by Dragging Fast Variables

Radford M. Neal|ArXiv.org|Feb 6, 2005

Markov Chains and Monte Carlo Methods参考文献 5被引用数 57

ひとこと要約

本稿では、エネルギー関数の高速再計算を活用して中間遷移を経由することで、遅い変数に対してより大きな、より効率的なステップを可能にするメトロポリス・ハスティングスサンプリング手法を提案する。実験的に、その分布が直接計算できない場合でも、遅い変数の周辺分布からの直接サンプリングに近い効率性を達成している。

ABSTRACT

I show how Markov chain sampling with the Metropolis-Hastings algorithm can be modified so as to take bigger steps when the distribution being sampled from has the characteristic that its density can be quickly recomputed for a new point if this point differs from a previous point only with respect to a subset of 'fast' variables. I show empirically that when using this method, the efficiency of sampling for the remaining 'slow' variables can approach what would be possible using Metropolis updates based on the marginal distribution for the slow variables.

研究の動機と目的

• 連合分布のエネルギー関数を完全に再計算するコストが高いため、遅い変数に対するメトロポリス更新が非効率であるという課題に対処すること。
• 迅速な変数の再計算を活用して、MCMCサンプリングにおける遅い変数のより大きな、より効果的なステップを可能にする手法を開発すること。
• その周辺分布の明示的計算が不可能であっても、遅い変数の周辺分布からの直接サンプリングの効率性を近似すること。
• 実験的に、中間遷移を経由して高速変数を「引きずること」で、MCMC系列の自己相関を著しく低減し、混合性を向上させられることを示すこと。

提案手法

• 提案分布 $S(x^*|x)$ を用いて、遅い変数 $x$ の新しい状態 $x^*$ を提案する。
• 高速変数 $y$ における中間分布 $\rho(y;x,x^*) \propto \exp\left(-\frac{1}{2}(E(x,y) + E(x^*,y))\right)$ を定義する。
• 分布 $\rho$ を不変に保ち、$x$ と $x^*$ に対して詳細釣合の条件と対称性を満たす遷移核 $T(y'|y;x,x^*)$ を用いる。
• エネルギー関数 $E(x,y)$ の高速再計算のみを用いて、$T(y^*|y;x,x^*)$ から $y^*$ を生成する1回以上の中間遷移を実行する。
• 受理確率 $a(x,y,x^*,y^*) = \min\left[1, \frac{S(x|x^*)\pi(x^*,y^*)\rho(y;x,x^*)}{S(x^*|x)\pi(x,y)\rho(y^*;x,x^*)}\right]$ を用いて、提案状態 $(x^*,y^*)$ を受理する。
• 中間遷移回数を多くする極限において、この手法は遅い変数の周辺分布からのサンプリングの効率性に漸近的に近づく。

実験結果

リサーチクエスチョン

• RQ1 エネルギー関数の再計算が高速に可能な場合に、変化するのは高速変数のみであるとき、遅い変数のためのより大きなステップを取るために、中間遷移を経由するメトロポリス・ハスティングスアルゴリズムを設計できるか？
• RQ2 高速変数を中間分布を経由して「引きずること」で、遅い変数の周辺分布からの直接サンプリングの効率性をどの程度近似できるか？
• RQ3 中間遷移回数が、遅い変数のMCMC系列における自己相関と混合効率にどのように影響するか？
• RQ4 高速・遅速変数の分離が明確な高次元設定において、標準的な連合、単一変数、または周辺メトロポリス更新と比較して、この手法はどのように性能を発揮するか？

主な発見

• 500回の中間遷移を経た場合、遅い変数 $x$ の自己相関時間は約9.3に低下し、周辺メトロポリス法で観測される理想的な値7.4に近づいた。
• 外側の $x$-更新の拒否率は、連合メトロポリスの87％から500回の中間遷移を経た段階で52％に低下し、混合性の向上が示された。
• その周辺分布が明示的に計算不可能であったにもかかわらず、この手法は、$x$ の真の周辺分布からのサンプリングとほぼ同等の効率性を達成した。
• 第2の高速変数 $z$ を追加した場合、連合メトロポリスの自己相関時間は約75から約205に増加したが、引きずり手法では約7.4から約9.3にしか増加しなかった。これは、高速変数の次元が増加しても、その手法が頑健であることを示している。
• $x$ と $y$ の関係が単調でない、あるいは未知である場合（例：宇宙論的パrameter推定）でも、この手法は依然として有効であった。