[论文解读] Multiplicative noise in Bayesian inverse problems: Well-posedness and consistency of MAP estimators

Matthew M. Dunlop|arXiv (Cornell University)|Oct 31, 2019

Markov Chains and Monte Carlo Methods参考文献 21被引用 7

一句话总结

本文建立了在具有乘法噪声的贝叶斯反问题中最大后验概率（MAP）估计器的适定性与一致性，涵盖纯乘法噪声和加法-乘法混合噪声模型。证明了在数据扰动下后验分布的连续性，并在高斯先验与噪声条件下，展示了在小噪声极限下MAP估计器的一致性，其中加法噪声起到正则化作用，从而放宽了对前向映射的要求。

ABSTRACT

Multiplicative noise arises in inverse problems when, for example, uncertainty on measurements is proportional to the size of the measurement itself. The likelihood that arises is hence more complicated than that from additive noise. We consider two multiplicative noise models: purely multiplicative noise, and a mixture of multiplicative noise and additive noise. Adopting a Bayesian approach, we provide conditions for the resulting posterior distributions on Banach space to be continuous with respect to perturbations in the data; the inclusion of additive noise in addition to multiplicative noise acts as a form of regularization, allowing for milder conditions on the forward map. Additionally, we show that MAP estimators exist for both the purely multiplicative and mixed noise models when a Gaussian prior is employed, and for the latter prove that they are consistent in the small noise limit when all noise is Gaussian.

研究动机与目标

• 建立具有乘法噪声的贝叶斯反问题的适定性，确保后验分布关于数据扰动的连续性。
• 分析在纯乘法噪声和加法-乘法混合噪声模型下MAP估计器的存在性与一致性。
• 表明加法噪声的引入可对问题进行正则化，从而允许对前向算子施加更宽松的假设。
• 将函数空间贝叶斯分析扩展至乘法噪声模型，该类模型在文献中尚未受到充分关注。
• 为在成像和地下介质应用等场景中使用MAP估计器提供理论依据。

提出的方法

• 在巴拿赫空间上采用贝叶斯框架，以建模具有乘法噪声的反问题中的不确定性。
• 分析两种模型：纯乘法噪声（y = ηₘG(u)）和加法-乘法混合噪声（y = ηₘG(u) + ηₐ）。
• 采用高斯先验以确保两种模型下MAP估计器的存在性。
• 应用变分方法，将MAP估计器表示为结合负对数似然与正则化项的泛函的最小化器。
• 通过前向映射和噪声分布的条件建立后验连续性，尤其利用加法噪声作为正则化手段。
• 使用有限维近似与范数等价性，界定了后验分布的矩，从而证明在小噪声极限下的收敛性。

实验结果

研究问题

• RQ1 在何种条件下，具有乘法噪声的贝叶斯反问题中的后验分布关于观测数据扰动是连续的？
• RQ2 当使用高斯先验时，纯乘法噪声和加法-乘法混合噪声模型下的MAP估计器是否存在？
• RQ3 加法噪声的引入如何影响具有乘法噪声的反问题的正则性与适定性？
• RQ4 在高斯假设下，混合噪声模型的MAP估计器在小噪声极限下是否一致？
• RQ5 能否将适用于加法噪声模型的理论框架扩展至处理乘法噪声更复杂的似然结构？

主要发现

• 在较弱条件下，后验分布关于数据扰动是连续的，尤其当存在加法噪声时，其起到正则化作用。
• 当使用高斯先验时，纯乘法噪声和混合噪声模型下的MAP估计器均存在。
• 对于混合噪声模型，MAP估计器在小噪声极限下一致，且在适当的正则性条件下收敛至真实状态。
• 加法噪声的存在使得对前向算子G的假设可更宽松，从而增强了分析的鲁棒性。
• 通过范数等价性与高斯随机变量的性质，建立了后验分布的矩界，从而支持了收敛性证明。
• 该理论框架支持在实际应用中使用MAP估计，如图像去噪和地下介质成像，这些场景中普遍存在乘法噪声。