[論文レビュー] Metropolized Randomized Maximum Likelihood for sampling from multimodal distributions

Dean S. Oliver|arXiv (Cornell University)|Jul 30, 2015

Markov Chains and Monte Carlo Methods参考文献 29被引用数 14

ひとこと要約

本稿では、最適化と補助変数を用いて、多次元後騰分布からの効率的で独立な提案を生成するためのメトロポリス化ランダム化最大尤度（RML）手法を提案する。確率的目的関数をランダム化されたデータで最小化することで、ターゲット分布に近い提案密度を生成し、複雑な多次元後騰分布であっても高い受容率と迅速な混合を実現する。

ABSTRACT

This article describes a method for using optimization to derive efficient independent transition functions for Markov chain Monte Carlo simulations. Our interest is in sampling from a posterior density $π(x)$ for problems in which the dimension of the model space is large, $π(x)$ is multimodal with regions of low probability separating the modes, and evaluation of the likelihood is expensive. We restrict our attention to the special case for which the target density is the product of a multivariate Gaussian prior and a likelihood function for which the errors in observations are additive and Gaussian.

研究の動機と目的

• 地球科学分野の逆問題における多次元後騰分布からのサンプリングにおいて、標準的なMCMC手法が混合が悪いという課題に対処する。
• 局所的モードに閉じ込められてしまう小さな局所的遷移を持つランダムウォークメトロポリスサンプラーの非効率性を克服する。
• 局所的勾配情報やランダムウォークスケーリングに依存せずに、高確率領域にサンプルを配置する提案メカニズムを開発する。
• 拡張変数を用いて、ターゲット後騰分布に近い提案密度を構築することで、効率的な独立サンプリングを実現する。
• パラメータρとγの慎重な調整により、多次元後騰分布におけるマルコフ連鎖の収束性と妥当性を保証する。

提案手法

• 提案密度の計算を簡素化し、メトロポリス・ハスティングスの受容率評価を効率的に行うために、補助変数（モデル変数およびデータ変数）を導入する。
• 2段階のプロセスを採用する：まず、モデルおよびデータ変数の結合事前分布からランダムサンプルを抽出し、次に確率的目的関数を最小化して提案を生成する。
• 確率的目的関数は、負の対数事前分布とランダム化された尤度項の組み合わせであり、データ不確実性の影響を制御する正則化パラメータρが関与する。
• 独立提案を用いたメトロポリス・ハスティングスアルゴリズムを適用し、提案密度q(x)は補助データ変数の周辺化によって導出される。
• 提案品質とサンプリングの妥当性のバランスを図るために、パラメータρ（正則化）およびγ（データ重み付け）を調整する。特に多次元設定において有効である。
• 非ガウス事前分布の場合には、変数をガウス空間に写像するアナモルフィスス変換を適用し、本手法を直接適用可能にする。

実験結果

リサーチクエスチョン

• RQ1 最適化に基づく提案生成は、多次元後騰分布からのMCMCサンプリングにおける混合効率を向上させるか？
• RQ2 補助変数をどのように用いることで、独立メトロポリス・サンプラーにおける提案密度および受容率の計算を簡素化できるか？
• RQ3 どのパラメータ選択（ρおよびγ）が、多次元後騰分布サンプリングにおいて高い受容率と適切な収束性を保証するか？
• RQ4 標準的なランダムウォークメトロポリスアルゴリズムと比較して、RML手法はバーンイン時間および混合時間の短縮にどの程度効果を示すか？
• RQ5 事前分布が非ガウス的である場合、本手法はどの程度有効であり、変数変換によってその適用範囲を拡張可能か？

主な発見

• 例3において、提案されたメトロポリス化RMLサンプラーは74％の受容率を達成しており、高い提案効率と最小限の拒否を示している。
• 数値例における視覚的および統計的比較により、モンテカルロサンプルの分布はターゲット後騰分布と区別できないことが確認された。
• 最初の2000イタレーションにおいて、バーンインや非定常的挙動の兆候が認められず、急速な収束と良好な混合を示している。
• 最適化によって高確率領域に一貫して提案が配置されるため、局所的モードに閉じ込められるのを効果的に回避している。
• ガウス事前分布および誤差を伴う線形観測モデルでは、ρおよびγが小さい場合、提案密度q(x)はターゲット後騰分布π(x)と一致し、100％の受容率が得られる。
• 適切なアナモルフィスス変換を適用すれば、事前分布が非ガウス的であっても、本手法は依然として有効である。