[論文レビュー] Delayed rejection schemes for efficient Markov-Chain Monte-Carlo sampling of multimodal distributions

Miquel Trias, A. Vecchio+1 more|ArXiv.org|Apr 14, 2009

Bayesian Methods and Mixture Models参考文献 25被引用数 13

ひとこと要約

本稿では、高次元のパラメータ空間における孤立モードの影響で標準的なMCMC手法が失敗するような、マルチモーダルな分布を効率的にサンプリングするため、複数段階の完全マルコフ型遅延拒否MCMCアルゴリズムを提案する。事前知識に基づくモードスケールを反映した適応的でマルチステージの提案機構を組み込むことで、並列チェーンや温度調整を必要とせず、混合度を著しく向上させ、ランダムウォーク的挙動を低減し、複雑な尤度構造においても高い受容率を達成する。

ABSTRACT

A number of problems in a variety of fields are characterised by target distributions with a multimodal structure in which the presence of several isolated local maxima dramatically reduces the efficiency of Markov Chain Monte Carlo sampling algorithms. Several solutions, such as simulated tempering or the use of parallel chains, have been proposed to facilitate the exploration of the relevant parameter space. They provide effective strategies in the cases in which the dimension of the parameter space is small and/or the computational costs are not a limiting factor. These approaches fail however in the case of high-dimensional spaces where the multimodal structure is induced by degeneracies between regions of the parameter space. In this paper we present a fully Markovian way to efficiently sample this kind of distribution based on the general Delayed Rejection scheme with an arbitrary number of steps, and provide details for an efficient numerical implementation of the algorithm.

研究の動機と目的

• 標準的なMCMC手法が孤立モードに閉じ込められる高次元のマルチモーダル分布において、その非効率性を解消すること。
• 並列チェーンやシミュレーテッド・トランジションの計算コストを回避する完全マルコフ型のサンプリング戦略を開発すること。
• 特徴的な退化や局所的な「島状」の高い事後密度領域を有するパラメータ空間における混合度と探索性を向上させること。
• 任意の段階数を有する遅延拒否の数値的効率的な実装を提供し、モードスケールに関する事前知識を活用すること。
• 複雑な8次元尤度構造を有する現実的な重力波データ解析問題に対して、本手法の有効性を実証すること。

提案手法

• 任意の段階数を有する一般化された遅延拒否スキームを採用し、1イテレーションあたり複数回の提案試行を可能にする。
• 各段階で、異なる位置に中心を持つ提案分布を用い、過去のチェーン履歴に基づいて適応する中央提案を含む。
• 後続の段階で、初期の拒否移動に基づいて提案を精緻化する階層的提案メカニズムを採用し、遠く離れたモードの探索性を向上させる。
• 3ガウス成分モデルから導出された対数正規化混合密度の解析的近似を用いて、提案密度比を計算する。
• 提案関数と評価関数の非対称性を組み込み、さまざまな不整合状態における期待対数尤度比の解析的表現を導出する。
• モード間隔がモード幅を上回る条件下で有効な近似を用い、重要なパラメータに焦点を当てることで、高次元問題の処理を可能にする数値的実装を設計する。

実験結果

リサーチクエスチョン

• RQ1 複数段階の完全マルコフ型遅延拒否スキームは、高次元のマルチモーダル分布において標準的MCMCを上回る性能を示すか？
• RQ2 孤立モードが存在する状況下で、複数の提案段階の導入が混合度と受容率に与える影響は何か？
• RQ3 提案分布とターゲットモード中心の不整合（例：シフトされた平均）が、マルチモーダルサンプリングにおける遅延拒否の効率性に与える影響は何か？
• RQ4 提案密度比の解析的近似を用いることで、高次元MCMCにおける数値的安定性と効率性が向上するか？
• RQ5 モードスケールに関する事前知識が、複雑な尤度構造における遅延拒否の性能にどの程度寄与するか？

主な発見

• 複数段階の遅延拒否スキームは、高次元のマルチモーダル分布において混合度を著しく向上させ、ランダムウォーク的挙動を低減する。
• 1つの提案分布に依存するMCMCと比較して、適応的でマルチステージの提案により、遠く離れたモードをより効果的に探索することで、高い受容確率を達成する。
• 提案密度比の期待対数比に関する解析的表現を導出し、完全な数値積分を実行することなく、効率的な計算を可能にした。
• 中央提案が適切に整合している場合、中程度の不整合に対しても性能が安定しており、特に顕著な耐性を示す。
• 局所的な「島状」の高い事後密度領域を有する高次元問題において、標準的MCMCおよびシミュレーテッド・トランジションを上回る性能を発揮する。
• 8次元の重力波尤度構造を模擬した数値的検証により、特に分離されたモード領域における探索性と収束性の向上が確認された。