[論文レビュー] Adaptive Optimal Scaling of Metropolis-Hastings Algorithms Using the Robbins-Monro Process

Paul H. Garthwaite, Yanan Fan+1 more|arXiv (Cornell University)|Jun 18, 2010

Markov Chains and Monte Carlo Methods参考文献 14被引用数 9

ひとこと要約

本稿では、ランダムウォークメトロポリス・ハスティングスサンプラーにおけるスケーリングパラメータを自動的に最適化する適応的アルゴリズムを提案する。ロビンズ＝モンローの確率的探索プロセスを用い、多次元の目的に対しては目標受容率（例：0.234）を達成する。臨界ステップ長定数の単純な推定器を導入し、徐々に適応を小さくする条件および包含条件の下で収束を保証する。シミュレーションおよび実データ例において高い効率性が示された。

ABSTRACT

We present an adaptive method for the automatic scaling of Random-Walk Metropolis-Hastings algorithms, which quickly and robustly identifies the scaling factor that yields a specified overall sampler acceptance probability. Our method relies on the use of the Robbins-Monro search process, whose performance is determined by an unknown steplength constant. We give a very simple estimator of this constant for proposal distributions that are univariate or multivariate normal, together with a sampling algorithm for automating the method. The effectiveness of the algorithm is demonstrated with both simulated and real data examples. This approach could be implemented as a useful component in more complex adaptive Markov chain Monte Carlo algorithms, or as part of automated software packages.

研究の動機と目的

• ランダムウォークメトロポリス・ハスティングスアルゴリズムにおける提案スケールパラメータのチューニングを自動化し、手動によるキャリブレーションに依存するのを減らすこと。
• 高次元または相関のあるパrameter空間では手動でのチューニングが現実的でないため、その課題に対処すること。
• 望ましい受容確率（例：0.234）を達成するための、頑健で自動的な方法を開発し、提案分散の適応的調整を実現すること。
• ロビンズ＝モンロー過程における最適ステップ長定数を推定し、より速く安定した収束を実現すること。
• 徐々に適応を小さくする条件および包含条件を満たすことで、結果として得られる適応的MCMCアルゴリズムがエルゴディシティを保つようにすること。

提案手法

• 提案スケールパラメータ σ の受容結果に基づき反復的に調整するロビンズ＝モンローの確率的近似プロセスを用いる。
• 反復 i においてステップサイズを 1/i として減少させることで、エルゴディシティを保証するための徐々に適応を小さくする条件を満たす。
• 多次元の目的に対しては、目標受容確率 p*（例：0.234）を用いて最適な σ の探索をガイドする。
• σ → 0 の漸近的挙動に基づき、d p(σ)/dσ を σ* で評価することで、ステップ長定数 c* の閉形式推定器を導出する。
• 多次元正規分布の提案に対しては、σ → 0 で p(σ) → 1 であることに基づき、簡単な推定器 c* ≈ σ*/(1−p*) を用いる。
• 各提案の後に σ を更新するサンプリングアルゴリズムを用いて、適応的スケーリングをMCMCに統合し、受容時に σ を増加、拒否時に減少させる。

実験結果

リサーチクエスチョン

• RQ1 ロビンズ＝モンロー過程は、ランダムウォークメトロポリス・ハスティングスアルゴリズムにおけるスケールパラメータのチューニングに効果的に適用可能か？
• RQ2 MCMCスケーリングにおいてロビンズ＝モンロー過程の最適ステップ長定数は何か、そしてそれを効率的に推定する方法は？
• RQ3 提案された適応的手法は、理論的最適受容率（例：0.234）に到達するか、かつエルゴディシティを保つか？
• RQ4 高次元または相関のあるパrameter空間において、適応的アルゴリズムの性能は手動チューニングと比べてどうか？
• RQ5 多次元正規分布の提案分布に対して、ステップ長定数の単純で閉形式の推定器を導出可能か？

主な発見

• 提案手法は、反復的調整により、目標受容確率 p*（例：0.234）を達成する最適スケーリングパラメータ σ* を効果的に特定した。
• 多次元正規分布の提案に対しては、σ → 0 の極限において、c* ≈ σ*/(1−p*) という単純な推定器が導出可能であり、有効である。
• アルゴリズムは徐々に適応を小さくする条件および包含条件を満たし、結果として得られるマルコフ連鎖のエルゴディシティを保証した。
• シミュレーションおよび実データ例から、手動チューニングなしで、目標受容率に速くかつ頑健に収束することが示された。
• 計算的に効率的であり、自動MCMCソフトウェアパッケージへの統合に適している。
• 特に手動キャリブレーションが不可能な高次元または相関のある設定では、ナイーブなチューニング戦略よりも優れた性能を示した。