[论文解读] The Bayesian Approach To Inverse Problems

Masoumeh Dashti, Andrew M. Stuart|arXiv (Cornell University)|Feb 27, 2013

Gaussian Processes and Bayesian Inference被引用 39

一句话总结

本文建立了一个针对微分方程反问题的严格无限维贝叶斯框架，通过在可分巴拿赫空间上构造的随机级数定义概率测度。该研究证明了后验分布在 Hellinger 度量下的适定性，建立了与正则化理论的联系，并通过测度保持动力学（如 MCMC 和 SMC）实现了与网格无关的算法。

ABSTRACT

These lecture notes highlight the mathematical and computational structure relating to the formulation of, and development of algorithms for, the Bayesian approach to inverse problems in differential equations. This approach is fundamental in the quantification of uncertainty within applications involving the blending of mathematical models with data.

研究动机与目标

• 解决在涉及微分方程和噪声数据的反问题中，对不确定性进行数学上严谨量化的需求。
• 通过在可分巴拿赫空间上直接形式化贝叶斯推断，克服有限维离散化的局限性。
• 建立贝叶斯推断与经典正则化理论（特别是 Tikhonov 正则化）之间的联系。
• 开发在无限维设定下运行的算法（如 MCMC 和 SMC），确保其在网格细化下的定义良好与稳定性。
• 确保后验推断对数据扰动和前向模型数值近似的鲁棒性。

提出的方法

• 通过来自 Sobolev 或 Besov 空间中的函数的随机级数展开，在可分巴拿赫空间上构造先验。
• 利用 Kolmogorov 连续性定理分析先验样本的正则性，并将结果扩展至 Hölder 连续函数。
• 通过证明后验相对于先验的绝对连续性，并利用似然函数计算 Radon-Nikodym 导数，推导出无限维中的贝叶斯定理。
• 在 Hellinger 度量下证明后验的适定性，确保其在数据扰动和模型近似下的稳定性。
• 在无限维空间上构建测度保持的马尔可夫过程，包括 MCMC 和序贯蒙特卡洛（SMC），以对后验进行采样。
• 利用可逆随机偏微分方程（SDE）构造保持后验测度的朗之万型动力学。

实验结果

研究问题

• RQ1 如何在无限维设定下严格形式化微分方程反问题的贝叶斯推断？
• RQ2 在数据扰动和模型近似下，后验测度在 Hellinger 度量下的适定性需要满足什么条件？
• RQ3 通过随机级数构造的无限维先验如何与经典正则化方法（如 Tikhonov 正则化）相关联？
• RQ4 能否设计出在无限维空间中直接运行的 MCMC 和 SMC 算法，使其在网格细化下保持稳定与准确？
• RQ5 从无限维先验中抽取的样本路径具有何种正则性？其与 Sobolev、Besov 和 Hölder 空间有何关联？

主要发现

• 后验测度在 Hellinger 度量下是适定的，确保了在数据扰动和前向模型数值近似下的稳定性。
• 后验相对于先验是绝对连续的，且 Radon-Nikodym 导数由似然函数显式给出。
• 在无限维设定下存在最大后验估计（MAP）估计器，将贝叶斯推断与变分正则化联系起来。
• 通过随机级数构造的先验样本在 Sobolev 和 Besov 空间中表现出正则性，且通过 Kolmogorov 连续性定理建立了 Hölder 连续性。
• 测度保持的马尔可夫过程（包括 MCMC 和 SMC）可在无限维中严格形式化，从而实现与网格细化无关的收敛性保证。
• 该框架为贝叶斯推断与经典正则化理论之间提供了直接联系，其中 Tikhonov 正则化作为特例出现。