[论文解读] Methods of Solving Ill-Posed Problems

Suresh B. Srinivasamurthy|arXiv (Cornell University)|May 24, 2012

Numerical methods in inverse problems被引用 5

一句话总结

本文提出并分析了求解不适定算子方程的方法，强调动力系统方法（DSM）作为经典正则化方法的优越替代方案。在存在噪声数据的情况下，该文建立了基于偏差原则的停止规则下的收敛性和误差估计，并证明DSM即使在数据被扰动时也能产生稳定且收敛的解，其收敛速率取决于先验源条件。

ABSTRACT

Many physical problems can be formulated as operator equations of the form Au = f. If these operator equations are ill-posed, we then resort to finding the approximate solutions numerically. Ill-posed problems can be found in the fields of mathematical analysis, mathematical physics, geophysics, medicine, tomography, technology and ecology. The theory of ill-posed problems was developed in the 1960's by several mathematicians, mostly Soviet and American. In this report we review the methods of solving ill-posed problems and recent developments in this field. We review the variational regularization method, the method of quasi-solution, iterative regularization method and the dynamical systems method. We focus mainly on the dynamical systems method as it is found that the dynamical systems method is more efficient than the regularization procedure.

研究动机与目标

• 回顾并比较求解不适定问题的现有方法，包括变分正则化、拟解法、迭代正则化以及动力系统方法（DSM）。
• 证明DSM在效率和噪声数据下的稳定性方面优于传统正则化技术。
• 为DSM建立严格的收敛框架，包括误差估计和基于偏差原则的停止规则。
• 在解的先验源型假设下分析DSM的收敛速率，表明当已知额外光滑性时，其收敛速率可被定量估计。

提出的方法

• 动力系统方法（DSM）通过将算子方程 $ Au = f $ 转化为柯西问题 $ \frac{du}{dt} = - (A^*A + \epsilon(t))u + A^*f $ 来求解不适定问题，其中 $ \epsilon(t) \to 0 $ 当 $ t \to \infty $。
• 在时间 $ t = t_\delta $ 处应用停止规则，选择使得 $ \|Au_\delta(t) - f_\delta\| = C\delta $ 成立，且 $ C > 1 $，以确保解保持在噪声数据的容差范围内。
• 利用谱定理和控制收敛定理，证明了解 $ u_\delta(t) $ 依范数收敛于真实解 $ y $，即 $ \|u_\delta(t) - y\| \to 0 $ 当 $ \delta \to 0 $。
• 将误差分解为两部分：$ \|u_\delta(t) - u(t)\| \leq \frac{\delta}{2\sqrt{\epsilon(t)}} $ 和 $ \|u(t) - y\| = \eta(t) \to 0 $，从而得到总误差界 $ \|u_\delta(t) - y\| \leq \frac{\delta}{2\sqrt{\epsilon(t)}} + \eta(t) $。
• 选取尺度参数 $ \epsilon(t) $ 为 $ \epsilon(t) = \frac{c_1}{(c_0 + t)^b} $，其中 $ 0 < b < 1 $，以确保收敛所需的足够衰减速率。
• 该方法利用极分解 $ A = U|A| $ 和谱理论，推导出对解算子 $ [B + \epsilon I]^{-1} $ 的界，证明 $ \|[B + \epsilon I]^{-1}A^*\| \leq \frac{1}{2\sqrt{\epsilon}} $。

实验结果

研究问题

• RQ1 动力系统方法（DSM）在效率和稳定性方面与经典正则化技术相比如何，尤其在不适定问题中？
• RQ2 当数据受噪声污染时，DSM的最优停止规则是什么？该规则如何确保收敛？
• RQ3 在解的先验源型假设下，DSM的收敛速率能否被定量估计？
• RQ4 参数 $ \epsilon(t) $ 的选择在DSM的收敛行为中起什么作用？应如何参数化？
• RQ5 偏差原则在DSM中如何用于平衡数据拟合与正则化？其产生的误差界是什么？

主要发现

• 在假设 $ f_\delta \perp N(A^*) $ 的前提下，DSM即使在数据 $ f $ 被扰动时，也能为不适定问题 $ Au = f $ 提供稳定解，且满足 $ \|u_\delta(t) - y\| \to 0 $ 当 $ \delta \to 0 $。
• 建立了误差界 $ \|u_\delta(t) - y\| \leq \frac{\delta}{2\sqrt{\epsilon(t)}} + \eta(t) $，其中 $ \eta(t) \to 0 $ 当 $ t \to \infty $，在 $ \epsilon(t) $ 衰减适当的情况下可确保收敛。
• 通过选择 $ t_\delta $ 使得 $ \|Au_\delta(t) - f_\delta\| = C\delta $ 且 $ C > 1 $，应用偏差原则，该选择可导出有效的误差估计。
• 利用谱理论和极分解，推导出界 $ \|[B + \epsilon I]^{-1}A^*\| \leq \frac{1}{2\sqrt{\epsilon}} $，这对误差传播分析至关重要。
• 当 $ \epsilon(t) = \frac{c_1}{(c_0 + t)^b} $ 且 $ 0 < b < 1 $ 时，$ \eta(t) $ 的收敛速度虽较慢但可积，从而在停止规则下仍能保证收敛。
• 在源型假设下，$ \eta(t) $ 的收敛速率可被估计，从而可构造出最小化 $ \frac{\delta}{2\sqrt{\epsilon(t)}} + \eta(t) $ 的最优停止规则。