[論文レビュー] Well-posed Bayesian Inverse Problems: beyond Gaussian priors

Bamdad Hosseini, Nilima Nigam|arXiv (Cornell University)|Apr 9, 2016

Sparse and Compressive Sensing Techniques参考文献 2被引用数 1

ひとこと要約

本稿は、ガウス型でない凸（対数凹型）事前分布——ガウス型、ベゾフ型、階層型事前分布などを含む——を用いたベイズ逆問題の適切性を、尤度関数と事前分布に課される条件を同定することによって確立する。この条件により、観測データの摂動に対して、事後分布の存在、一意性、安定性が保証される。さらに、バナッハ空間上でのこのような事前分布の一般構成法を提供し、$L^2$ 空間および連続関数空間における頑健な推論を可能にする。

ABSTRACT

We consider the well-posedness of Bayesian inverse problems when the prior measure has exponential tails. In particular, we consider the class of convex (log-concave) probability measures which include the Gaussian and Besov measures as well as certain classes of hierarchical priors. We identify appropriate conditions on the likelihood distribution and the prior measure which guarantee existence, uniqueness and stability of the posterior measure with respect to perturbations of the data. We also consider consistent approximations of the posterior such as discretization by projection. Finally, we present a general recipe for construction of convex priors on Banach spaces which will be of interest in practical applications where one often works with spaces such as $L^2$ or the continuous functions.

研究の動機と目的

• ガウス型事前分布にとどまらず、凸（対数凹型）測度を含むベイズ逆問題の理論的基盤を拡張すること。
• 事後測度の存在、一意性、安定性を保証する尤度関数と事前分布に必要な十分条件を同定すること。
• データ摂動および射影による離散化の下で、事後分布の一貫した近似が保証されることを確認すること。
• $L^2$ 空間および連続関数空間における実用的応用を想定した、バナッハ空間上での凸事前分布の一般枠組みを構築すること。

提案手法

• 事前分布が対数凹型かつ指数的尾を有するものとして、バナッハ空間設定におけるベイズ逆問題を形式化する。
• 変分解析および大偏差理論を用いて、尤度関数と事前分布の弱い正則性条件下で事後分布の適切性を確立する。
• 射影に基づく離散化を用いて、事後分布の一貫した近似を構築し、観測データの摂動に対して収束を保証する。
• ノルムと対数凹型密度を用いた一般的手続きを導出し、$L^2$ 空間および連続関数空間上での凸事前分布の構築に応用可能である。
• 弱収束および連続性の議論を用いて、観測データの摂動に対する事後分布の安定性を確立する。
• 事前分布の対数密度を用いて凸性と指数的尾の挙動を保証し、濃縮性および適切性の両者を促進する。

実験結果

リサーチクエスチョン

• RQ1 非ガウス型事前分布を用いたベイズ逆問題において、尤度関数と事前分布にどのような条件下で事後測度が存在し、一意的であるか。
• RQ2 事前分布が非ガウス型である場合、観測データの摂動に対して事後分布がどのように安定性を示すか。
• RQ3 無限次元設定における射影に基づく近似を用いて、事後分布のための一貫した離散化スキームを構築できるか。
• RQ4 $L^2$ や連続関数空間などのバナッハ空間上での凸（対数凹型）事前分布を設計するための一般構築法は何か。
• RQ5 指数的尾を持つ凸事前分布は、ガウス型事前分布と比較して、事後分布の適切性および実用的適用性においてどのように異なるか。

主な発見

• 尤度関数と対数凹型事前分布（指数的尾を有する）に対して、弱い条件下でも事後測度は適切である——存在し、一意的であり、安定である。
• 弱収束および観測データに対する事後分布の連続性を用いて、データ摂動に対する事後分布の安定性が確立された。
• 射影に基づく離散化により、事後分布の一貫した近似が得られ、離散化次元が増加するに従い収束が保証された。
• バナッハ空間上での凸事前分布の一般構築法が提供された。ノルムと対数凹型密度を用いて、$L^2$ 空間および連続関数空間上での事前分布を定義可能である。
• ガウス型、ベゾフ型、階層型事前分布といった重要なクラスの事前分布が、特別な場合として含まれており、それらの理論的裏付けが拡張された。
• 本研究の結果により、ガウス型事前分布に限らないベイズ逆問題の適切性理論が一般化され、構造的事前知識を有する逆問題への広範な応用が可能になった。