[論文レビュー] Posterior convergence for approximated unknowns in non-Gaussian statistical inverse problems

Sari Lasanen|arXiv (Cornell University)|Dec 5, 2011

Bayesian Methods and Mixture Models参考文献 107被引用数 15

ひとこと要約

この論文は、一般化ベイズ公式を用いて非ガウス型統計的逆問題における近似された未知数の事後分布の収束を確立し、有限次元近似を refining する際、事後分布が弱収束、集合単位収束、変動収束する条件を示している。主な貢献は、広範な非ガウス型ノイズモデル（非ガウス型測度に対する一般化されたカミルン＝マーチン公式も含む）において、適切な定式化と収束を保証するフレームワークを提供することにある。

ABSTRACT

The statistical inverse problem of estimating the probability distribution of an infinite-dimensional unknown given its noisy indirect observation is studied in the Bayesian framework. In practice, one often considers only finite-dimensional unknowns and investigates numerically their probabilities. As many unknowns are function-valued, it is of interest to know whether the estimated probabilities converge when the finite-dimensional approximations of the unknown are refined. In this work, the generalized Bayes formula is shown to be a powerful tool in the convergence studies. With the help of the generalized Bayes formula, the question of convergence of the posterior distributions is returned to the convergence of the finite-dimensional (or any other) approximations of the unknown. The approach allows many prior distributions while the restrictions are mainly for the noise model and the direct theory. Three modes of convergence of posterior distributions are considered -- weak convergence, setwise convergence and convergence in variation. The convergence of conditional mean estimates is studied. Several examples of applicable infinite-dimensional non-Gaussian noise models are provided, including a generalization of the Cameron-Martin formula for certain non-Gaussian measures. Also, the well-posedness of Bayesian statistical inverse problems is studied.

研究の動機と目的

• 無限次元の未知数の有限次元近似を refining する際、事後分布が収束する条件を確立すること。
• 一般化ベイズ公式の非ガウス型ノイズモデルへの適用範囲を統計的逆問題において拡張すること。
• 非ガウス型および非支配的ノイズ仮定の下でのベイズ的逆問題の適切な定式化を調査すること。
• 近似された未知数の文脈において、事後平均および条件付き期待値の収束を分析すること。
• 支配的でない場合の不連続性が生じる可能性があるにもかかわらず、事後分布の連続性および収束の十分条件を提供すること。

提案手法

• 一般化ベイズ公式を用いて、事後分布の収束を未知数の有限次元近似の収束に還元する。
• 無限次元の未知数と観測値を扱うために、局所凸ソウスリン位相線形空間における一般化ベイズ公式の適用。
• ノイズ測度 με+L(x) の μX-ほとんど確実な支配性を用いて、事後分布の連続性および収束を保証する。
• 非ガウス型測度に対するカミルン＝マーチン公式のカクタニ型一般化を導出し、非ガウス型ノイズモデルの新たなクラスを可能にする。
• ノイズおよび直接モデルに対する最小限の仮定の下で、弱収束、集合単位収束、変動収束の3つの収束モードを分析する。
• 可分バナッハ空間上の事前分布に対する一般化された準乱数近似法を導入し、離散化作用素の点ごとの収束に依存しない。

実験結果

リサーチクエスチョン

• RQ1 非ガウス型逆問題において、未知数が有限次元モデルで近似される際、どのような条件下で事後分布が収束するか？
• RQ2 一般化ベイズ公式は、無限次元的かつ非ガウス型の設定における事後分布収束の分析をどのように支援するか？
• RQ3 ノイズ測度の μX-ほとんど確実な支配性は、事後分布の連続性および収束を保証するために果たす役割は何か？
• RQ4 カミルン＝マーチン公式を非ガウス型測度に一般化することは可能か？その結果、非ガウス型ノイズモデルにどのような影響を与えるか？
• RQ5 未知数の異なる近似スキームは、事後平均およびMAP推定値の収束にどのように影響するか？

主な発見

• 有限次元近似を refining する際、近似事前測度が適切に収束する限り、事後分布は変動収束する。
• 一般化ベイズ公式により、事後分布全体の収束を直接分析する代わりに、未知数の近似の収束に問題を還元できる。
• μX-ほとんど確実な支配性が存在しない場合には、事後分布に不連続性が生じる可能性があり、観測値の置き換えによる誤差が拡大されることがある。
• 特定の非ガウス型測度に対して、一般化されたカミルン＝マーチン公式が導出され、逆問題における広範な非ガウス型ノイズモデルの適用が可能になった。
• 無限次元の観測値が与えられた場合の事後分布は、有限次元の観測値よりも単純になることがある。これは、新たな数値的近似戦略の可能性を示唆する。
• 近似事前分布の弱収束だけでは、最大事後確信度（MAP）推定値の収束を保証できないことが、全変動事前分布を用いた反例によって示された。