[論文レビュー] A Metropolis-Hastings algorithm for posterior measures with self-decomposable priors

Bamdad Hosseini|arXiv (Cornell University)|Apr 20, 2018

Medical Imaging Techniques and Applications被引用数 1

ひとこと要約

本稿では、自己分解可能である事前分布を活用することで、無限次元ヒルバート空間上での非常に非ガウス的な事後測度のサンプリングに適した、新しいメトロポリス・ハスティングスアルゴリズムを提案する。Bessel-K事前分布—無限次元におけるガンマ分布の一般化—を導入し、自己回帰的提案カーネルを用いることで、スパースまたは圧縮可能なパラメータの効率的サンプリングが可能になる。

ABSTRACT

We introduce a new class of Metropolis-Hastings algorithms for sampling target measures that are absolutely continuous with respect to an underlying self-decomposable prior measure on infinite-dimensional Hilbert spaces. We particularly focus on measures that are highly non-Gaussian and cannot be sampled effectively using conventional algorithms. We utilize the self-decomposability of the prior to construct an autoregressive proposal kernel that preserves the prior measure and satisfies detailed balance. We then introduce an entirely new class of self-decomposable prior measures, called the Bessel-K prior, as a generalization of the gamma density to infinite dimensions. The Bessel-K priors interpolate between well-known priors such as the gamma distribution and Besov priors and can model sparse or compressible parameters. We present example applications of our algorithm in inverse problems ranging from finite-dimensional denoising to deconvolution on $L^2$ .

研究の動機と目的

• 従来の手法では困難な、非常に非ガウス的な事後測度を効率的にサンプリングできる新しいクラスのメトロポリス・ハスティングスアルゴリズムの開発。
• 事前分布の自己分解性を活用し、事前分布を保存し、詳細釣合条件を満たす提案カーネルの構築。
• ガンマ分布の無限次元への一般化として、スパースまたは圧縮可能なパラメータをモデル化可能なBessel-K事前分布の導入。
• $L^2$ 上でのノイズ除去やデコンボリューションを含む、困難な逆問題における有効なサンプリングの実現。
• 非ガウス的事前分布を用いた無限次元設定におけるベイズ推論のための柔軟で理論的根拠を持つフレームワークの提供。

提案手法

• 事前分布の自己分解性を活用し、事前分布を保存する自己回帰的提案カーネルを構築。
• メトロポリス・ハスティングスの受容率に詳細釣合条件を組み込むことで、目的の事後測度への収束を保証。
• ガンマ分布の無限次元への自然な拡張として、ベッセル・K事前分布を、無限次元ヒルバート空間上での自己分解可能測度の新たなクラスとして導入。
• ベッセル・K事前分布を、ガンマ密度の無限次元への自然な拡張として導出し、ベッセル・プライヤーとの関連を明らかにする。
• 有限次元のノイズ除去および$L^2$ デコンボリューションを含む逆問題にアルゴリズムを適用し、非ガウス的性質に対してもロバストであることを示す。
• 自己分解可能測度の構造を活用することで、提案カーネルが計算的に実行可能かつ理論的に妥当であることを保証。

実験結果

リサーチクエスチョン

• RQ1 無限次元ヒルバート空間上での非常に非ガウス的な事後測度を効率的にサンプリングするためのメトロポリス・ハスティングスアルゴリズムは、どのように設計できるか？
• RQ2 どのクラスの自己分解可能事前分布が、無限次元ベイズ推論におけるスパースまたは圧縮可能なパラメータのモデル化を可能にするか？
• RQ3 ガンマ分布の無限次元への一般化であり、自己回帰的提案による効率的サンプリングを可能にする新しい無限次元事前分布を構築できるか？
• RQ4 提案されたアルゴリズムは、ノイズ除去やデコンボリューションといった実用的逆問題において、どのように性能を発揮するか？
• RQ5 提案フレームワークにおいて、詳細釣合条件や事前分布の保存といった理論的性質は、どのように保証できるか？

主な発見

• 提案されたメトロポリス・ハスティングスアルゴリズムは、従来のMCMC手法では取り扱いが困難な非常に非ガウス的な事後測度のサンプリングに成功した。
• Bessel-K事前分布は、無限次元における自己分解可能測度の新たなクラスとして導入され、ガンマ分布とベッセル・プライヤーの間を滑らかに補間する。
• 自己回帰的提案カーネルは事前分布を保存し、詳細釣合条件を満たすため、正しい収束が保証される。
• アルゴリズムは、有限次元のノイズ除去および$L^2$ デコンボリューション問題においても、非ガウス的事後分布に対しても効果的に機能することが示された。
• Bessel-K事前分布は、スパースまたは圧縮可能なパラメータのモデル化を可能にし、既存の無限次元事前分布に対する柔軟な代替手段を提供する。
• 本フレームワークは、非ガウス的かつ無限次元の設定におけるベイズ推論に対して、理論的根拠があり、計算的に実行可能なアプローチを提供する。