[论文解读] A Consistent Bayesian Formulation for Stochastic Inverse Problems Based on Push-forward Measures

Troy Butler, John Jakeman+1 more|arXiv (Cornell University)|Apr 3, 2017

Gaussian Processes and Bayesian Inference参考文献 22被引用 16

一句话总结

本文通过定义一个后验概率测度，提出了一种一致的贝叶斯框架来处理随机反问题，该测度在通过确定性模型前向传播后，能精确匹配观测数据分布。该方法利用前向传播测度确保一致性，推导出后验密度的闭式表达，并建立了存在性、唯一性和稳定性，为经典贝叶斯推断与测度论方法之间架起桥梁，提升了高维场景下的可解释性与计算可处理性。

ABSTRACT

We formulate, and present a numerical method for solving, an inverse problem for inferring parameters of a deterministic model from stochastic observational data (quantities of interest). The solution, given as a probability measure, is derived using a Bayesian updating approach for measurable maps that finds a posterior probability measure, that when propagated through the deterministic model produces a push-forward measure that exactly matches the observed probability measure on the data. Our approach for finding such posterior measures, which we call consistent Bayesian inference, is simple and only requires the computation of the push-forward probability measure induced by the combination of a prior probability measure and the deterministic model. We establish existence and uniqueness of observation-consistent posteriors and present stability and error analysis. We also discuss the relationships between consistent Bayesian inference, classical/statistical Bayesian inference, and a recently developed measure-theoretic approach for inference. Finally, analytical and numerical results are presented to highlight certain properties of the consistent Bayesian approach and the differences between this approach and the two aforementioned alternatives for inference.

研究动机与目标

• 开发一种贝叶斯推断框架，确保后验分布通过确定性模型传播后，能精确匹配观测数据分布。
• 为所提出的后验测度建立理论基础——存在性、唯一性和稳定性。
• 通过利用前向传播测度将先验知识与数据一致性相结合，弥合经典贝叶斯推断与测度论方法之间的差距。
• 提供一种数值上可处理的方法，通过聚焦于低维数据空间计算，避免高维参数空间的采样。
• 通过解析与数值示例，展示一致贝叶斯方法、经典贝叶斯推断与测度论推断之间的异同。

提出的方法

• 利用分解定理推导后验密度，将其表达为 $\pi_{\mathbf{\Lambda}}^{\text{post}}(\lambda) = \pi_{\mathbf{\Lambda}}^{\text{prior}}(\lambda) \frac{\pi_{\mathbf{\mathcal{D}}}^{\text{obs}}(Q(\lambda))}{\pi_{\mathbf{\mathcal{D}}}^{Q(\text{prior})}(Q(\lambda))}$，其中分母为先验通过模型的前向传播测度。
• 该方法依赖于计算前向传播测度 $\pi_{\mathbf{\mathcal{D}}}^{Q(\text{prior})}$，以将参数空间中的先验不确定性传播至感兴趣的量。
• 在关于前向传播测度的两个关键假设下，证明了后验的存在性与唯一性，确保数学上的一致性。
• 通过标准测度论论证，建立了后验对观测数据扰动的稳定性。
• 通过在参数空间中采样实现后验的数值近似，同时在 $\mathbf{\Lambda}$ 和 $\mathbf{\mathcal{D}}$ 中进行评估，以计算密度比。
• 该方法设计为可扩展至高维参数空间，尽可能利用低维数据空间运算。

实验结果

研究问题

• RQ1 在何种条件下，存在一个后验概率测度，使其通过模型前向传播后能精确匹配观测数据分布？
• RQ2 从结构与解释角度，一致贝叶斯后验与经典贝叶斯推断及测度论推断有何异同？
• RQ3 所提出的后验公式在理论上具有哪些保证——存在性、唯一性与稳定性？
• RQ4 在何种情形下，一致贝叶斯后验与测度论解完全一致？
• RQ5 一致贝叶斯方法在计算效率与数值行为方面，相较于经典方法与测度论方法有何表现？

主要发现

• 在关于前向传播测度的两个关键假设下，一致贝叶斯后验被唯一定义且存在，确保了数学上的严谨性。
• 后验密度被显式表述为观测密度与前向传播先验密度之比，支持直接计算，无需迭代采样。
• 该方法确保后验的前向传播结果精确匹配观测数据分布，满足一致性准则。
• 已证明后验对观测数据扰动具有稳定性，支持其在实际应用中的鲁棒性。
• 当先验在参数空间的体积测度下为均匀分布时，一致贝叶斯后验与测度论解完全一致，凸显了两种方法之间的联系。
• 数值示例表明，一致贝叶斯方法与经典贝叶斯方法在非高斯似然或非线性模型下存在显著差异。