[論文レビュー] Optimal Proposal Design for Random Walk Type Metropolis Algorithms with Gaussian Random Field Priors

Natesh S. Pillai, Andrew M. Stuart+1 more|arXiv (Cornell University)|Aug 6, 2011

Advanced Mathematical Modeling in Engineering被引用数 5

ひとこと要約

本稿では、ヒルバート空間上の測度に対して絶対連続なガウス事前分布に関して、オーランシュタイン＝ウーレン型提案分布を用いた可逆メトロポリス・ハスティングスアルゴリズムを提案する。導出されたマルコフ連鎖の拡散極限を分析することで、ガウス事前分布に一致する空間相関を持つウィENER過程によって駆動されるノイズ付き勾配フローSDEへの収束を示し、この手法の漸近的可逆性と、ターゲット測度下での安定性を確立する。

ABSTRACT

Consider a probability measure on a Hilbert space defined via its density with respect to a Gaussian. The purpose of this paper is to demonstrate that an appropriately defined Markov chain, which is reversible with respect to the measure in question, exhibits a diffusion limit to a noisy gradient flow, also reversible with respect to the same measure. The Markov chain is defined by applying a Metropolis-Hastings accept-reject mechanism to an Ornstein-Uhlenbeck proposal which is itself reversible with respect to the underlying Gaussian measure. The resulting noisy gradient flow is a stochastic partial differential equation driven by a Wiener process with spatial correlation given by the underlying Gaussian structure.

研究の動機と目的

• ヒルバート空間上の測度からサンプリングするためのマルコフ連鎖モンテカルロ法を開発すること。ただし、その測度はガウス事前分布に関して絶対連続である。
• マルコフ連鎖がターゲット測度に関して可逆であり、詳細釣合の法則を満たすように保証すること。
• 連鎖の拡散極限を確立し、ガウス事前分布の空間相関を持つウィENER過程によって駆動される確率的偏微分方程式（ノイズ付き勾配フロー）への収束を示すこと。
• ターゲット測度下でのアルゴリズムの漸近的挙動を分析し、長期的な安定性と正しさを保証すること。

提案手法

• 基礎となるガウス測度に関して可逆であるようなオーランシュタイン＝ウーレン型提案分布を用いたメトロポリス・ハスティングスアルゴリズムを定義する。
• OU提案に対して受容・棄却機構を適用し、ヒルバート空間上での可逆マルコフ連鎖を構築する。
• 連鎖の拡散スケーリング下でのスケーリング極限を分析し、確率的偏微分方程式への収束を示す。
• 極限SDEをノイズ付き勾配フローとして導出し、そのノイズがガウス事前分布の共分散構造に従って空間的に相関を持つことを示す。
• 極限SDEがターゲット測度に関して再び可逆であり、極限においても詳細釣合の法則が保たれることを確立する。
• 関数中心極限定理の技術を用いて、マルコフ連鎖が確率的PDEに収束することを正当化する。

実験結果

リサーチクエスチョン

• RQ1 提案されたOU提案を用いたメトロポリス・ハスティングスアルゴリズムは、拡散極限において明確に定義された確率的PDEに収束するか？
• RQ2 極限SDEは、ガウス事前分布に関する密度によって定義されるターゲット測度に関して可逆か？
• RQ3 極限SDEにおけるノイズの空間相関は、基礎となるガウス測度の共分散構造とどのように関係するか？
• RQ4 拡散スケーリング下でのマルコフ連鎖の漸近的挙動は何か？また、極限において詳細釣合の法則が保持されるか？
• RQ5 このアルゴリズムは、無限次元空間における勾配ベースのサンプリング手法の有効な近似として正当化できるか？

主な発見

• OU提案を用いたメトロポリス・ハスティングスアルゴリズムによって定義されるマルコフ連鎖は、拡散スケーリング下で分布収束する。
• 極限SDEは、ターゲット測度に関して可逆なノイズ付き勾配フローである。
• 極限SDEにおけるノイズは、基礎となるガウス事前分布の共分散作用素に従って空間的に相関を持つ。
• 収束結果により、アルゴリズムが無限次元極限において詳細釣合の法則を保持することが保証される。
• 本手法は、ガウス事前分布を伴うヒルバート空間におけるランダムウォーク型メトロポリスアルゴリズムの使用を、厳密に正当化する。
• 解析により、アルゴリズムが漸近的領域において安定かつ正しく動作することを確認し、高次元および無限次元ベイズ推論への応用を支持する。