[論文レビュー] Selection of a MCMC simulation strategy via an entropy convergence criterion

Didier Chauveau, Pierre Vandekerkhove|ArXiv.org|May 10, 2006

Markov Chains and Monte Carlo Methods参考文献 30被引用数 3

ひとこと要約

本稿では、並列かつ独立なマルコフ連鎖を比較することにより、混合率の事前知識がなくとも、収束速度が速いMCMC戦略（例：メトロポリス・ハスティングス法やギブスサンプラー）を特定するための、シミュレーションに基づくエントロピー収束基準を提案する。この手法は、核密度推定とモンテカルロ積分を用いて、エントロピーに基づく収束測度を一貫して推定し、混合率の理論的計算が困難な状況下でも、収束が速いアルゴリズムを早期に選択可能にする。

ABSTRACT

In MCMC methods, such as the Metropolis-Hastings (MH) algorithm, the Gibbs sampler, or recent adaptive methods, many different strategies can be proposed, often associated in practice to unknown rates of convergence. In this paper we propose a simulation-based methodology to compare these rates of convergence, grounded on an entropy criterion computed from parallel (i.i.d.) simulated Markov chains coming from each candidate strategy. Our criterion determines on the very first iterations the best strategy among the candidates. Theoretically, we give for the MH algorithm general conditions under which its successive densities satisfy adequate smoothness and tail properties, so that this entropy criterion can be estimated consistently using kernel density estimate and Monte Carlo integration. Simulated examples are provided to illustrate this convergence criterion.

研究の動機と目的

• 収束速度が未知であり、解析的に計算が困難な状況下で、最適なMCMC戦略を選択する課題に対処すること。
• 理論的収束バインディングに依存せず、収束速度に基づいて、メトロポリス・ハスティングス法、ギブスサンプラー、あるいは適応的手法を含むMCMCアルゴリズムを早期に比較可能な実用的で、シミュレーションに基づく基準を開発すること。
• 非パラメトリック密度推定を用いて、メトロポリス・ハスティングス法に対してエントロピー収束基準を一貫して推定できる理論的条件を確立すること。
• 標準的および適応的MCMC手法の両方に適用可能な手法を提供すること。特に、異なる提案分布やギブスサンプラーの分解法との比較を含む。
• 理論的収束バインディングが得られない状況下でも、有限標本における実装可能性と一貫性を、シミュレーション例を通じて示すこと。

提案手法

• メトロポリス・ハスティングス法における異なる提案密度など、候補となるMCMC戦略ごとに、複数の独立かつ並列なマルコフ連鎖を生成する。
• 各反復で、核密度推定を用いて、連鎖状態の経験的エントロピーを推定し、現在の分布の密度を近似する。
• モンテカルロ積分を用いて、時間経過に伴うエントロピー基準を推定し、それが目標エントロピーにどの程度速く収束するかを追跡する。
• エントロピー収束基準を、経験的エントロピーが目標分布の極限エントロピーに近づく速度として定義する。
• 最初の反復から基準を適用し、エントロピー収束が最も速い戦略を最適選択として選ぶ。
• 特に対称ランダムウォークおよびインdependenceサンプラーに対して、ターゲット密度と提案密度の滑らかさおよび尾部の性質に関する条件下で、エントロピー推定量の一貫性を確立する。

実験結果

リサーチクエスチョン

• RQ1 理論的収束バインディングに依存せず、シミュレーションに基づくエントロピー基準が、収束が速いMCMC戦略を一貫して特定できるか？
• RQ2 核密度推定とモンテカルロ積分を用いたエントロピー推定量の一貫性を保証する、ターゲット密度および提案密度に必要な正則性条件は何か？
• RQ3 シミュレーションのどの段階で、エントロピー収束基準が競合するMCMC戦略を信頼性高く区別できるか？
• RQ4 エントロピー基準は、異なるギブスサンプラー同士の比較、あるいはギブスサンプラーとメトロポリス・ハスティングス法の比較に適用可能か？
• RQ5 一般のメトロポリス・ハスティングスカーネル下で、エントロピー収束基準の理論的性質は何か。特に、遷移密度のリプシッツ連続性および可積分性に関する性質は？

主な発見

• 滑らかさおよびターゲット密度と提案密度の尾部挙動といった、やや緩い正則性条件下で、エントロピー収束基準は真のターゲット分布のエントロピーを一貫して推定する。
• メトロポリス・ハスティングス法において、提案密度が対称で、ターゲット密度が適切な尾部減衰および滑らかさ条件を満たす場合、基準は一貫性を示す。
• 混合率の真の値が分かっていなくても、数百回の反復後ですでに、収束が速いMCMC戦略をエントロピー収束に基づいて早期に選択可能である。
• 理論的分析により、遷移核および受容確率がリプシッツ連続であるという仮定の下で、エントロピー基準が安定に推定できることを確認した。
• シミュレーションにより、エントロピー基準が収束速度に応じてMCMC戦略を信頼性高く順位付けできることを示した。収束が速い連鎖は、エントロピーの安定化が早く現れる。
• 本手法はモデルの複雑さに強く依存せず、標準的および適応的MCMC手法に適用可能であり、インdependenceとランダムウォークメトロポリス・ハスティングス法の比較にも応用可能である。