[論文レビュー] Fast Langevin based algorithm for MCMC in high dimensions

Alain Durmus, Gareth O. Roberts+2 more|arXiv (Cornell University)|Jul 8, 2015

Markov Chains and Monte Carlo Methods参考文献 40被引用数 11

ひとこと要約

本稿では、最適化されたガウス提案を用いることで、高次元のターゲット分布におけるMCMC効率を向上させる高速なメトロポリス補正付きランジュヴィアン・アルゴリズムfMALAを提案する。fMALAは、最適収束率𝒪(d¹/⁵)を達成し、MALAの𝒪(d¹/³)よりも顕著に優れている。漸近的受容率は0.704で、幾何的エルゴード性を示し、理論的拡散極限と数値実験（積型および非積型密度）により検証されている。

ABSTRACT

We introduce new Gaussian proposals to improve the efficiency of the standard Hastings-Metropolis algorithm in Markov chain Monte Carlo (MCMC) methods, used for the sampling from a target distribution in large dimension $d$. The improved complexity is $\mathcal{O}(d^{1/5})$ compared to the complexity $\mathcal{O}(d^{1/3})$ of the standard approach. We prove an asymptotic diffusion limit theorem and show that the relative efficiency of the algorithm can be characterised by its overall acceptance rate (with asymptotical value 0.704), independently of the target distribution. Numerical experiments confirm our theoretical findings.

研究の動機と目的

• 標準的なMCMC手法の次元に伴う悪化するスケーリング、特にMALAの𝒪(d¹/³)収束率の改善を目的とする。
• 離散化によるバイアスを導入せずに、ターゲット密度に関する高階情報を取り入れることで、より高速な収束を達成する勾配ベースのMCMCアルゴリズムの開発を目的とする。
• 新アルゴリズムの理論的拡散極限を確立し、漸近的受容率と弱収束を用いてその効率を特徴付けることを目的とする。
• 積型および非積型ターゲット密度における数値実験を通じて、幾何的エルゴード性および改善された混合性を示すこと。

提案手法

• ランジュヴィアンスデのオイラー＝マルヤム離散化を変更することで、弱順序と収束行動を改善する、メトロポリス・ハスティングス法のための新しいガウス提案機構を提案する。
• 漸近的拡散極限解析から導かれた最適化されたステップサイズスケーリングh = 1.79²d⁻¹/⁵を有する修正1ステップ積分器を導入する。
• 弱収束理論を用いてfMALA過程の拡散極限を導出し、不変測度πへの収束を示す。
• fMALAとRWMの提案を組み合わせたハイブリッド戦略を採用し、遷移段階の性能を安定化させ、初期反復におけるロバストネスを向上させる。
• d¹/⁵スケーリングに基づく第1階層効率指標を用いてアルゴリズムの効率を分析し、さまざまな次元におけるMALAおよびRWMと比較する。
• Cauchyノイズを伴うAR(1)モデルを含む積型密度および非積型密度における数値実験を通じて、理論的結果を検証する。

実験結果

リサーチクエスチョン

• RQ1 勾配ベースのMCMCアルゴリズムは、高次元において𝒪(d¹/³)より優れた収束率を達成できるか？
• RQ2 修正されたランジュヴィアン提案において、幾何的エルゴード性と高速な混合性を保証するための最適なステップサイズhのスケーリングは何か？
• RQ3 漸近的受容率0.704は、ターゲット分布に依存しない相対的効率を特徴付けるか？
• RQ4 fMALAアルゴリズムは、積型でないターゲット密度において、特に遷移段階および定常段階でMALAよりも優れた性能を示すか？
• RQ5 fMALAとRWMを組み合わせたハイブリッドスキームは、初期反復における収束のロバストネスを向上させられるか？

主な発見

• fMALAアルゴリズムは𝒪(d¹/⁵)の収束率を達成し、MALAの𝒪(d¹/³)およびRWMの𝒪(d⁻¹)スケーリングを上回る。
• fMALAの漸近的受容率は0.704に収束し、これはターゲット分布に依存しない相対的効率を特徴付ける。
• 数値実験により、fMALAの第1階層効率はd¹/⁵スケーリング下でゼロでない極限に収束することが確認されたのに対し、MALAの効率は同様のスケーリング下でゼロに低下する。
• fMALAは、MALAおよびRWMよりも自己相関の減衰が速く、定常状態における優れた混合性を示す。
• fMALAとRWMを組み合わせたハイブリッドfMALAスキームは、遷移段階でロバストな性能を示し、期待二乗効率の観点で標準MALAを上回る。
• 非積型密度（三重対角のヤコビアンを有する）に対しても、1反復あたり𝒪(d)の計算コストを維持し、MALAと同等のスケーリングを達成する。