[論文レビュー] A Consistent Bayesian Formulation for Stochastic Inverse Problems Based on Push-forward Measures

Troy Butler, John Jakeman+1 more|arXiv (Cornell University)|Apr 3, 2017

Gaussian Processes and Bayesian Inference参考文献 22被引用数 16

ひとこと要約

本稿では、確率的逆問題に対する一貫性のあるベイズ的定式化を提案する。これは、事後確率測度を定義することで、それが決定論的モデルを通して押し出された際に観測データ分布と正確に一致するようにする。この手法は、押し出し測度を用いて一貫性を確保し、閉形式の事後密度を導出し、存在性、一意性、安定性を確立する。これにより、古典的ベイズ推論と測度論的アプローチの間の橋渡しをし、高次元設定における解釈可能性と計算の実行可能性を向上させる。

ABSTRACT

We formulate, and present a numerical method for solving, an inverse problem for inferring parameters of a deterministic model from stochastic observational data (quantities of interest). The solution, given as a probability measure, is derived using a Bayesian updating approach for measurable maps that finds a posterior probability measure, that when propagated through the deterministic model produces a push-forward measure that exactly matches the observed probability measure on the data. Our approach for finding such posterior measures, which we call consistent Bayesian inference, is simple and only requires the computation of the push-forward probability measure induced by the combination of a prior probability measure and the deterministic model. We establish existence and uniqueness of observation-consistent posteriors and present stability and error analysis. We also discuss the relationships between consistent Bayesian inference, classical/statistical Bayesian inference, and a recently developed measure-theoretic approach for inference. Finally, analytical and numerical results are presented to highlight certain properties of the consistent Bayesian approach and the differences between this approach and the two aforementioned alternatives for inference.

研究の動機と目的

• 事後分布を決定論的モデルを通じて伝播させた際に、観測データ分布と正確に一致するようにするベイズ推論フレームワークの開発。
• 提案された一貫性のある事後測度の理論的基盤（存在性、一意性、安定性）の確立。
• 押し出し測度を介した事前知識とデータの一貫性を組み合わせることで、古典的ベイズ推論と測度論的アプローチを統合する。
• 高次元のサンプリングを回避し、低次元のデータ空間における計算に焦点を当てることで、数値的に実行可能な手法の提供。
• 解析的および数値的例を通じて、一貫性のあるベイズ的手法、古典的ベイズ推論、測度論的推論の違いと類似点を示すこと。

提案手法

• 事後密度は、分解定理を用いて導出され、$\pi_{\mathbf{\Lambda}}^{\text{post}}(\lambda) = \pi_{\mathbf{\Lambda}}^{\text{prior}}(\lambda) \frac{\pi_{\mathbf{\mathcal{D}}}^{\text{obs}}(Q(\lambda))}{\pi_{\mathbf{\mathcal{D}}}^{Q(\text{prior})}(Q(\lambda))}$ と表現される。分母は、モデルを通じた事前の押し出し測度である。
• この手法は、事前の不確実性をパrameterから目的の量へ伝播させる、押し出し測度 $\pi_{\mathbf{\mathcal{D}}}^{Q(\text{prior})}$ の計算に依存する。
• 押し出し測度に関する2つの主要な仮定の下で、事後の存在性と一意性が証明され、数学的整合性が保証される。
• 標準的な測度論的議論を用いて、観測データの摂動に対する事後の安定性が確立される。
• 事後の数値近似は、パrameter空間でのサンプリングにより達成され、密度比の計算のために $\mathbf{\Lambda}$ および $\mathbf{\mathcal{D}}$ の両方で評価が行われる。
• 可能な限り低次元のデータ空間演算を活用することで、高次元パrameter空間へのスケーラビリティが設計されている。

実験結果

リサーチクエスチョン

• RQ1 どのような条件下で、モデルを通して押し出された際に観測データ分布と正確に一致する事後確率測度が存在するか？
• RQ2 一貫性のあるベイズ的事後分布は、古典的ベイズ推論および測度論的推論と比べて、構造的および解釈的観点でどのように異なるか？
• RQ3 提案された事後分布定式化における理論的保証（存在性、一意性、安定性）は何か？
• RQ4 どのような状況下で、一貫性のあるベイズ的事後分布と測度論的解法が一致するか？
• RQ5 一貫性のあるベイズ的手法の計算効率および数値的挙動は、古典的および測度論的手法と比べてどのように異なるか？

主な発見

• 一貫性のあるベイズ的事後分布は、押し出し測度に関する2つの主要な仮定の下で一意に定義され、数学的厳密性が保証される。
• 事後密度は、観測密度と前方に押し出された事前密度の比として明示的に定式化されており、反復的サンプリングを回避して直接計算が可能である。
• この手法により、事後の押し出し測度が観測データ分布と正確に一致することが保証され、一貫性基準を満たす。
• 観測データの摂動に対する事後の安定性が証明され、実用的応用におけるロバストネスを支持する。
• 事前の分布がパrameter空間上の体積測度に関して一様である場合、一貫性のあるベイズ的事後分布は測度論的解法と一致する。これにより、両者のアプローチの間の関係が明確になる。
• 数値的例では、一貫性のあるベイズ的手法と古典的ベイズ推論との間に顕著な違いが示され、とくに尤度が正規分布でない場合やモデルが非線形な場合に顕著である。