[论文解读] Regularization of Inverse Problems

Christian Clason|arXiv (Cornell University)|Jan 2, 2020

Numerical methods in inverse problems参考文献 18被引用 12

一句话总结

本讲义全面介绍了希尔伯特空间中线性和非线性反问题的正则化方法，重点讨论了Tikhonov正则化和Landweber正则化、谱方法以及收敛性分析。通过泛函分析建立理论基础，并在源条件假设下给出收敛速率，为反问题与应用分析领域的研究人员提供了一套自包含的参考资料。

ABSTRACT

These lecture notes for a graduate class present the regularization theory for linear and nonlinear ill-posed operator equations in Hilbert spaces. Covered are the general framework of regularization methods and their analysis via spectral filters as well as the concrete examples of Tikhonov regularization, Landweber iteration, regularization by discretization for linear inverse problems. In the nonlinear setting, Tikhonov regularization and iterative regularization (Landweber, Levenberg-Marquardt, and iteratively regularized Gauß-Newton methods) are discussed. The necessary background from functional analysis is also briefly summarized. The notes end with a brief outlook to statistical inverse problems from both a frequentist and a Bayesian point of view.

研究动机与目标

• 为利用泛函分析与正则化理论求解不适定反问题提供严格的数学基础。
• 在希尔伯特空间中，基于源条件分析正则化方法的收敛性与收敛速率。
• 介绍并比较关键的正则化技术，如线性和非线性问题中的Tikhonov与Landweber方法。
• 通过离散化与投影方法，将理论结果与实际实现相衔接。
• 为适合研究生阶段学习与研究，提供一套自包含且易于理解的反问题处理方法。

提出的方法

• 应用泛函分析工具，包括有界算子与紧算子、希尔伯特空间中的谱理论与弱收敛。
• 利用紧算子的奇异值分解（SVD）推导并分析谱正则化方法。
• 通过Tikhonov泛函最小化引入Tikhonov正则化，并采用Tikhonov参数选择规则。
• 将Landweber迭代视为一种具有源条件收敛保证的迭代正则化方法进行分析。
• 引入参数选择规则（如残差原则、平衡原则）以确保收敛性与最优收敛速率。
• 通过Galerkin与Petrov-Galerkin投影进行离散化，以在有限维空间中稳定求解过程。

实验结果

研究问题

• RQ1 如何对不适定反问题进行正则化，以确保在希尔伯特空间中解的稳定与收敛？
• RQ2 在源条件假设下，Tikhonov与Landweber正则化的收敛速率如何？
• RQ3 参数选择规则如何影响正则化方法的收敛性与最优性？
• RQ4 谱正则化在何种程度上利用了紧算子的奇异值结构？
• RQ5 离散化在反问题数值求解中如何作为一种正则化机制？

主要发现

• 在源条件假设下，Tikhonov正则化可达到O(δ^α)阶的收敛速率，其中α取决于解的光滑性。
• 在适当的源条件与参数选择下，Landweber迭代以O(ρ^n)的速率线性收敛，其中ρ < 1。
• 谱正则化方法（如截断SVD）在源条件假设下可实现最优收敛速率，且与奇异值衰减特性直接关联。
• 残差原则在较弱假设下可确保正则化解收敛于真实解，即使在存在噪声数据的情况下亦成立。
• 通过最小二乘投影实现的离散化，当与Tikhonov或Landweber方法结合时，可起到正则化机制的作用。
• 对于非线性反问题，通过迭代正则化格式（如迭代正则化高斯-牛顿法）推导出收敛速率，其速率取决于非线性程度与源条件。