[论文解读] A stochastic approach to mixed linear and nonlinear inverse problems with applications to seismology.

Darko Volkov|arXiv (Cornell University)|Jul 8, 2020

Markov Chains and Monte Carlo Methods参考文献 20被引用 1

一句话总结

本文提出了一种用于带有噪声数据和病态线性分量的混合线性和非线性反问题的随机算法。通过将非线性参数和正则化参数建模为随机变量，并推导联合后验分布，该方法通过并行采样实现了后验期望和协方差的高效计算，在地震学应用中优于传统方法如广义交叉验证和偏差原则。

ABSTRACT

We derive an efficient stochastic algorithm for computational inverse problems that present an unknown linear forcing term and a set of nonlinear parameters to be recovered. It is assumed that the data is noisy and that the linear part of the problem is ill-posed. The vector of nonlinear parameters to be recovered is modeled as a random variable. This random vector is augmented by a random regularization parameter for the linear part. A probability distribution function for this augmented random vector knowing the measurements is derived. We explain how this derivation is related to the maximum likelihood regularization parameter selection [Galatsanos and Katsaggelos, 1992], which we generalize to the case where the underlying linear operator is rectangular and depends on a nonlinear parameter. A major difference in our approach is that, unlike in [Galatsanos and Katsaggelos, 1992], we do not limit ourselves to the most likely regularization parameter, instead we show that due to the dependence of the problem on the nonlinear parameter, there is a great advantage in exploring all positive values of the regularization parameter. Based on our new probability distribution function, we construct a choice sampling algorithm to compute the posterior expected value and covariance of the nonlinear parameter. This algorithm is greatly accelerated by using a parallel platform where we alternate computing proposals in parallel and combining proposals to accept or reject them as in [Calderhead, 2014]. Finally, our new algorithm is illustrated by solving an inverse problem in seismology. We show how our algorithm performs in that example and how it is able to compute marginal posterior probability functions even in the presence of strong noise. We discuss why this problem can not be approached by using the Generalized Cross Validation method or the discrepancy principle.

研究动机与目标

• 解决线性部分病态且数据带有噪声的混合线性和非线性反问题。
• 克服传统正则化参数选择方法（如广义交叉验证和偏差原则）的局限性。
• 构建一个贝叶斯框架，将非线性参数和正则化参数均视为随机变量。
• 在强噪声和病态性条件下，高效计算非线性参数的后验期望和协方差。
• 在真实地震学反问题中展示该方法的有效性。

提出的方法

• 将非线性参数建模为随机向量，并将正则化参数作为附加随机变量，形成扩展的随机向量。
• 基于噪声测量数据，推导扩展向量的联合后验概率分布，将最大似然正则化选择推广至矩形和非线性相关算子。
• 该方法避免将正则化参数固定为其最可能的取值，而是探索所有正则化值的范围，以考虑不确定性。
• 设计了一种并行马尔可夫链蒙特卡洛采样算法，通过多个处理器交替生成提议和执行接受/拒绝步骤，以加速收敛。
• 通过在整个后验分布上积分（包括正则化参数的不确定性），计算非线性参数的后验期望和协方差。
• 该方法在涉及从噪声数据中重建波场的地震学反问题上进行了验证。

实验结果

研究问题

• RQ1 将正则化参数视为随机变量的贝叶斯框架是否能改善混合线性和非线性反问题中的推断？
• RQ2 与仅选择单一最优值相比，探索正则化参数的全部范围如何在强噪声下提升鲁棒性？
• RQ3 为何传统方法如广义交叉验证和偏差原则不适用于此类反问题？
• RQ4 在正则化不确定的高维反问题中，并行采样能在多大程度上加速后验计算？
• RQ5 该方法在真实地震学应用中恢复非线性参数的边缘后验分布方面表现如何？

主要发现

• 所提方法即使在强噪声条件下，也能成功计算非线性参数的后验期望和协方差，而传统方法在此类情况下会失效。
• 通过探索正则化参数的所有正值，该方法比将正则化参数固定为其最可能值的方法更准确地捕捉了不确定性。
• 与广义交叉验证和偏差原则相比，该算法表现出更优的性能，后者在本情境中因线性算子的非线性依赖关系而无法适用。
• 非线性参数的边缘后验概率函数被准确恢复，从而实现了可靠的不确定性量化。
• 并行采样显著加速了计算，使复杂反问题的后验推断成为可能。
• 该方法在地震学反问题上得到验证，显示出在从噪声数据中重建波场时的鲁棒性和准确性。