[论文解读] A convergence analysis of a multi-level projected steepest descent iteration for nonlinear inverse problems in Banach spaces subject to stability constraints

Maarten V. de Hoop, Lingyun Qiu+1 more|arXiv (Cornell University)|Jun 16, 2012

Numerical methods in inverse problems参考文献 19被引用 9

一句话总结

本文提出了一种用于巴拿赫空间中非线性反问题的多层级投影最速下降算法，该算法在条件稳定性约束下运行。通过利用稳定性常数增长受控的嵌套凸子集，该方法在存在噪声数据的情况下，实现了更大的收敛半径和有限步收敛至满足偏差准则的解，相较于单层级方法在精度和鲁棒性方面表现更优。

ABSTRACT

We consider nonlinear inverse problems described by operator equations in Banach spaces. Assuming conditional stability of the inverse problem, that is, assuming that stability holds on a closed, convex subset of the domain of the operator, we introduce a novel nonlinear projected steepest descent iteration and analyze its convergence to an approximate solution given limited accuracy data. We proceed with developing a multi-level algorithm based on a nested family of closed, convex subsets on which stability holds and the stability constants are ordered. Growth of the stability constants is coupled to the increase in accuracy of approximation between neighboring levels to ensure that the algorithm can continue from level to level until the iterate satisfies a desired discrepancy criterion, after a finite number of steps.

研究动机与目标

• 解决在定义域的闭凸子集上，反演算子仅具有条件稳定性的非线性反问题。
• 针对在条件Lipschitz稳定性下具有数据不准确性的投影最速下降迭代，建立收敛性分析。
• 将单层级方法扩展为多层级框架，通过在嵌套凸集上逐次逼近，减轻稳定性常数的增长。
• 建立近似误差和稳定性常数的充分条件，以确保在多层级框架中实现有限步收敛至满足偏差准则的解。

提出的方法

• 该方法采用带有事后回溯线搜索的投影最速下降迭代，将迭代点投影到条件稳定性成立的闭凸子集上。
• 使用Bregman距离度量解的接近程度，并确保残差在整个迭代过程中单调递减。
• 引入多层级策略，利用一族嵌套的闭凸子集 $\{Z_\alpha\}$，其中稳定性常数 $\mathfrak{C}_\alpha$ 以受控方式增长。
• 算法根据Fréchet导数 $DF_\alpha$ 的Lipschitz连续性动态调整参数，其中常数 $\hat{\mathfrak{L}}_\alpha$ 和 $\mathfrak{L}_\alpha$ 控制收敛行为。
• 使用偏差容差 $\hat{\eta}$ 作为停止准则，确保在有限次迭代后，最终迭代点满足 $\|F(x_{N,K_N}) - y\| \leq \hat{\eta}$。
• 通过依赖于稳定性常数、数据不准确性及问题参数的收敛半径 $\rho_n$ 的界，建立了理论收敛性。

实验结果

研究问题

• RQ1 当仅在凸子集上具有条件稳定性时，投影最速下降迭代是否能收敛至巴拿赫空间中非线性反问题的解？
• RQ2 在稳定性常数增长的情况下，如何改进单层级投影最速下降方法的收敛半径？
• RQ3 在多层级框架中，近似误差和稳定性常数应满足何种条件，以确保有限步收敛？
• RQ4 多层级方法如何缓解各层级间稳定性常数增长带来的不利影响？
• RQ5 通过在各层级上实现逐次精炼，该算法是否能在初始猜测远离真实解时，仍能获得高精度解？

主要发现

• 只要数据不准确性有界且在凸子集上满足稳定性条件，投影最速下降迭代将单调收敛至满足偏差准则 $\|F(x) - y\| \leq \hat{\eta}$ 的解。
• 第 $n$ 层的收敛半径 $\rho_n$ 满足不等式 $\left(\frac{C_p}{p}\right)^3 (8\tau)^{-p} (n+1)^{-p} < \rho_n < \left(\frac{C_p}{p}\right)^3 (2\tau)^{-p} (n+1)^{-p}$，表明其随层级呈反多项式衰减。
• 对于单层级方法，若初始猜测位于收敛半径 $\rho_0$ 之外，尤其当 $\eta_0 = \lambda/2 \gg \hat{\eta}$ 时，方法可能无法收敛或精度较差。
• 多层级算法即使在单层级方法因初始估计不佳或 $\rho_n$ 过大而失效时，仍能确保有限步收敛至残差满足 $\|F(x_{N,K_N}) - y\| \leq \hat{\eta}$ 的解。
• 通过在各层级上平衡近似误差与稳定性常数的增长，该方法的收敛半径显著大于单层级方案。
• 在 $\mathfrak{C}_\alpha = 2e^\alpha$，$\hat{\mathfrak{L}}_\alpha = (\alpha+1)e^{-\alpha}$，且 $\mathfrak{L}_\alpha = \tau e^{-\alpha}$ 的算例中，当 $4\eta_N \leq \hat{\eta}$ 时，算法在 $N$ 层后成功收敛。