[論文レビュー] On Optimal Scaling of Additive Transformation Based Markov Chain Monte Carlo

Kushal K. Dey, Sourabh Bhattacharya|arXiv (Cornell University)|Jul 4, 2013

Markov Chains and Monte Carlo Methods被引用数 4

ひとこと要約

本稿は、高次元パラメータを1次元の確率的抽出1つで更新する手法である加法的変換ベースのマルコフ連鎖モンテカルロ法（TMCMC）の最適スケーリングを研究している。さまざまな目標分布の下で拡散極限を導出し、TMCMCが0.439の最適受容率を達成することが示され、これはランダムウォークメトロポリス法の0.234よりも顕著に高い値であり、多様なモデルや空間データ応用において収束が速く、優れた性能を発揮することを示している。

ABSTRACT

Study of diffusion limits of the Metropolis-Hastings algorithm in high dimensions yields useful quantificaton of the scaling of the underlying proposal distribution in terms of the dimensionality. Here we consider the recently introduced Transformation-based Markov Chain Monte Carlo (TMCMC) (Dutta and Bhattacharya (2013a)), a methodology that is designed to update all the parameters simultaneously using some simple deterministic transformation of a one-dimensional random variable drawn from some arbitrary distribution on a relevant support. The additive transformation based TMCMC is similar in spirit to random walk Metropolis, except the fact that unlike the latter, additive TMCMC uses a single draw from a one-dimensional proposal distribution to update the high-dimensional parameter. In this paper, we study the diffusion limits of additive TMCMC under various set-ups ranging from the product structure of the target density to the case where the target is absolutely continuous with respect to a Gaussian measure; we also consider the additive TMCMC within Gibbs approach for all the above set-ups. These investigations lead to appropriate scaling of the one-dimensional proposal density. We also show that the optimal acceptance rate of additive TMCMC is 0.439 under all the aforementioned set-ups, in contrast with the well-established 0.234 acceptance rate associated with optimal random walk Metropolis algorithms under the same set-ups. We also elucidate the ramifications of our results and the advantages of additive TMCMC over random walk Metropolis with ample simulation studies. It was found that in all set ups we considered- namely iid component set up, independent scaling components, a wide range of dependent set ups as well as real spatial data application- TMCMC performed much better and converged to the target density much faster than the RWMH algorithm.

研究の動機と目的

• 積構造およびガウス分布依存の目標密度構造を含む、さまざまな目標密度構造における加法的TMCMCの拡散極限を調査すること。
• 高次元パrameter空間における1次元の提案分布の最適スケーリングを特定すること。
• 収束速度および混合効率の観点から、加法的TMCMCとランダムウォークメトロポリス＝ハスティングス法（RWMH）の性能を比較すること。
• さまざまな依存構造において、ギブスサンプリングフレームワーク内でのTMCMCの有効性を評価すること。
• 広範なシミュレーションスタディおよび実際の空間データ応用を通じて、TMCMCがRWMHに対して実用的な利点を示すことを実証すること。

提案手法

• i.i.d. 成分、独立したスケーリング、一般の依存構造を仮定した高次元漸近的枠組みの下で、加法的TMCMCの拡散極限を導出する。
• 関数中心極限定理の議論を適用して、TMCMCアルゴリズムの極限拡散過程を特徴付ける。
• 1次元確率変数の決定的変換を用いて、高次元パrameter空間における移動を提案し、詳細釣り合いを保持する。
• 構造化されたモデルにおける混合の向上を目的として、スタンドアロンTMCMCおよびギブスサンプラー内でのTMCMCの両方を検討する。
• 拡散極限解析に基づき、最適なパフォーマンスを達成するための提案分布のスケーリング則を導出する。
• 理論的発見の妥当性を検証し、複数のシナリオにおけるRWMHとの収束速度を比較するために、シミュレーションスタディを実施する。

実験結果

リサーチクエスチョン

• RQ1 高次元積構造の目標分布における加法的TMCMCの1次元提案分布の最適スケーリングは何か？
• RQ2 同じ目標分布の下で、加法的TMCMCの拡散極限はランダムウォークメトロポリスと比べてどのように異なるか？
• RQ3 さまざまな目標密度構造において、加法的TMCMCのパフォーマンスを最適化する受容率は何か？
• RQ4 独立および依存パrameter設定の両方において、収束速度および混合の観点から、TMCMCはRWMHに比べてどのように性能を発揮するか？
• RQ5 複雑な依存構造を持つ実世界の空間データ応用において、TMCMCは優れた性能を維持できるか？

主な発見

• 加法的TMCMCの最適受容率は、i.i.d.、独立スケーリング、および依存構造を含むすべての検討された目標分布で0.439である。
• この最適受容率は、同じ条件下で観察されるランダムウォークメトロポリスの0.234よりも顕著に高く、より効率的なサンプリングを示している。
• すべてのシミュレーション設定、特に高次元および空間相関のあるモデルにおいて、加法的TMCMCはRWMHよりもターゲット分布への収束がはるかに速い。
• RWMHが混合が悪いと悩む複雑な依存パrameter構造でも、TMCMCは優れた性能を維持する。
• シミュレーションスタディにより、すべてのテストされたシナリオにおいて、TMCMCはRWMHに比べてより高い有効サンプルサイズと低い自己相関を達成することが確認された。
• 拡散極限の分析から導出された理論的スケーリング則は、高次元における安定的かつ効率的なサンプリングを実現する実用的提案分布を導く。