[论文解读] On the discrepancy principle

А. Г. Рамм|ArXiv.org|Apr 17, 2003

Numerical methods in inverse problems参考文献 2被引用 14

一句话总结

本文为线性不适定问题中基于残差原则（DP）的变分正则化方法提供了简洁的收敛性证明，表明在标准假设下，DP 能够收敛到真实解。此外，本文证明了 DP 无法保证关于数据的统一收敛性，并为非线性算子方程提出了一种确保收敛性的先验正则化参数选择方法。

ABSTRACT

A simple proof of the convergence of the variational regularization, with the regularization parameter, chosen by the discrepancy principle, is given for linear operators under suitable assumptions. It is shown that the discrepancy principle, in general, does not yield uniform with respect to the data convergence. An a priori choice of the regularization parameter is proposed and justified for some nonlinear operator equations.

研究动机与目标

• 在有界、单射的线性算子下，建立当正则化参数通过残差原则选取时，变分正则化方法的收敛性。
• 研究残差原则是否能保证在不适定问题中关于噪声数据的统一收敛性。
• 为非线性算子方程提出并证明一种先验正则化参数选择方法，以实现收敛性。
• 将收敛性结果扩展至非紧算子或非单射算子的情形，包括存在非平凡零空间的情况。
• 通过构造反例，证明残差原则无法实现统一收敛性。

提出的方法

• 使用 Tikhonov 类型泛函的变分正则化：$ F(u) = ||Au - f_{ u}||^2 + a||u||^2 $，在 $ u $ 上最小化以获得 $ u_a $。
• 应用残差原则选择 $ a = a(\nu) $，即求解 $ ||Au_a - f_{\nu}|| = C\nu $，其中 $ C \geq 1 $，确保残差与噪声水平匹配。
• 采用谱理论和算子恒等式，特别是 $ u_a = (B + a)^{-1}A^*f_{\nu} $，其中 $ B = A^*A $，以分析收敛行为。
• 利用弱收敛性和紧致性论证，证明 $ u_{\nu} \rightharpoonup y $，并通过范数下确界连续性和 $ ||u_{\nu}|| \to ||y|| $ 证明强收敛性。
• 对于非线性问题，引入泛函 $ F(u) = ||Au - f_{\nu}|| + \nu||u||_1 $，其中 $ ||\cdot||_1 $ 是稠密子空间 $ H_1 $ 上的更强范数，并使用先验误差界。
• 通过算子 $ A $ 的谱分析构造反例，使用特征值 $ \mu_j = j^{-1} $，并证明 $ ||Tf_{\nu} - TAv|| \geq c\nu / \sqrt{a} $，从而导致统一收敛性失败。

实验结果

研究问题

• RQ1 残差原则是否能确保线性不适定问题中正则化解收敛到真实解？
• RQ2 残差原则能否推广至非线性算子方程？若能，其适用条件是什么？
• RQ3 残差原则是否能实现关于数据 $ f_{\nu} $ 的统一收敛性，还是存在依赖于数据的收敛速率？
• RQ4 当算子 $ A $ 非紧或非单射时，正则化解的行为如何？
• RQ5 在非线性问题中，能否通过先验参数选择替代残差原则以确保收敛性？

主要发现

• 在标准假设下，对于有界、单射的线性算子，无论 $ A $ 是否紧致，残差原则均能确保 $ \|u_{\nu} - y\| \to 0 $ 当 $ \nu \to 0 $ 时收敛。
• 即使 $ A $ 不是单射，只要真实解 $ y $ 与 $ N(A) $ 正交，且正则化解 $ u_{\nu} $ 始终位于 $ N(A) $ 的正交补空间中，收敛性依然成立。
• 残差原则无法实现关于 $ f_{\nu} $ 的统一收敛性：存在数据序列使得 $ \sup_{v \in S_{\nu}} \|u_{\nu} - v\| \geq c > 0 $，即使 $ \nu \to 0 $ 仍成立。
• 对于非线性问题，通过 $ F(u) = ||Au - f_{\nu}|| + \nu||u||_1 $ 的先验参数选择，且 $ u_{\nu} $ 满足 $ F(u_{\nu}) \leq \inf F + \nu $，在算子单射且 $ y \in H_1 $ 的条件下，可确保 $ \|u_{\nu} - y\| \to 0 $。
• 构造了一个反例，其中 $ f_{\nu} $ 固定且不在 $ A $ 的值域中，且 $ a = a(\nu) \sim c_1 \nu^2 $，导致 $ \|u_{\nu} - v_{\nu}\| \geq c > 0 $，从而证明非统一收敛性。
• 当 $ A $ 紧致且 $ f_{\nu} \notin R(A) $ 时，序列 $ v_{\nu} = B^b z_a $ 无法收敛，且 $ \|v_{\nu}\| \to \infty $，这与收敛性矛盾，从而证明了非统一性。