[论文解读] Hybrid and Iteratively Reweighted Regularization by Unbiased Predictive Risk and Weighted GCV for Projected Systems

Rosemary A. Renaut|arXiv (Cornell University)|Mar 8, 2017

Numerical methods in inverse problems参考文献 31被引用 51

一句话总结

该论文提出了一种混合正则化方法，利用Golub-Kahan双对角化求解大规模病态反问题，结合无偏预测风险估计（UPRE）与加权广义交叉验证（WGCV），在投影子空间中选择正则化参数。结果表明，在中度至严重病态的情况下，基于UPRE的参数能为完整问题提供稳健的估计；而采用最优权重的WGCV相较于标准GCV，显著提升了稳定性与准确性，尤其在欠定或噪声较大的情形下表现更优。

ABSTRACT

abstract: Tikhonov regularization for projected solutions of large-scale ill-posed problems is considered. The Golub{Kahan iterative bidiagonalization is used to project the problem onto a subspace and regularization then applied to nd a subspace approximation to the full problem. Determination of the regularization, parameter for the projected problem by unbiased predictive risk estimation, generalized cross validation, and discrepancy principle techniques is investigated. It is shown that the regularized parameter obtained by the unbiased predictive risk estimator can provide a good estimate which can be used for a full problem that is moderately to severely ill-posed. A similar analysis provides the weight parameter for the weighted generalized cross validation such that the approach is also useful in these cases, and also explains why the generalized cross validation without weighting is not always useful. All results are independent of whether systems are over- or underdetermined. Numerical simulations for standard one-dimensional test problems and two- dimensional data, for both image restoration and tomographic image reconstruction, support the analysis and validate the techniques. The size of the projected problem is found using an extension of a noise revealing function for the projected problem [I. Hn etynkov a, M. Ple singer, and Z. Strako s, BIT Numer. Math., 49 (2009), pp. 669{696]. Furthermore, an iteratively reweighted regularization approach for edge preserving regularization is extended for projected systems, providing stabilization of the solutions of the projected systems and reducing dependence on the determination of the size of the projected subspace.

研究动机与目标

• 开发一种在大规模病态问题中，基于投影Krylov子空间的稳定且精确的正则化参数选择方法。
• 评估无偏预测风险估计（UPRE）与加权广义交叉验证（WGCV）在估计投影系统最优正则化参数方面的性能。
• 将迭代重加权正则化方法扩展至投影系统，以增强边缘保持能力并降低对子空间维数选择的敏感性。
• 在1D与2D测试问题（包括图像去模糊与断层扫描重建）上验证所提方法。
• 证明从投影问题中获得的正则化参数能为完整问题提供可靠估计，尤其在严重病态情况下表现优异。

提出的方法

• 采用Golub-Kahan双对角化（GKB）将大规模病态问题投影至维数为t的低维Krylov子空间。
• 对投影后的子问题应用Tikhonov正则化，使用正则化参数ζ，并通过矩阵Bt的SVD求解降维系统。
• 利用无偏预测风险估计器（UPRE）通过最小化预测残差均方误差的估计值来计算ζ。
• 提出一种加权GCV（WGCV）公式，引入自适应权重ω，以在欠定或噪声较大的情况下提升标准GCV的稳定性与准确性。
• 将迭代重加权Tikhonov正则化方法扩展至投影系统，以增强边缘保持能力并降低对子空间维数t的依赖。
• 采用噪声揭示函数基于Hn˘etynkov´a等人（2009）的工作，估计最优子空间维数t，以检测投影问题中的噪声水平。

实验结果

研究问题

• RQ1 通过投影问题上的UPRE估计的正则化参数ζ，能否为完整问题中的最优参数α提供可靠估计，尤其在中度至严重病态系统中？
• RQ2 在欠定或噪声较大的情形下，采用优化权重ω的加权GCV（WGCV）是否优于标准GCV，用于投影系统的正则化参数选择？
• RQ3 与标准Tikhonov正则化相比，应用于投影系统的迭代重加权正则化方法在提升解的稳定性和边缘保持方面有何改进？
• RQ4 子空间维数t的选择在多大程度上影响最终解？噪声揭示函数是否能无需先验噪声水平知识，可靠估计t？
• RQ5 所提混合正则化方法在不同类型的大规模反问题（如图像去模糊与断层扫描重建）中是否表现出一致的性能？

主要发现

• 通过投影问题上的UPRE获得的正则化参数ζ，能为完整问题中的最优α提供强有力估计，尤其在中度至严重病态问题中表现优异。
• 采用优化权重ω的加权GCV显著优于标准GCV，尤其在欠定或噪声较大的系统中，标准GCV可能无法收敛或产生较差估计。
• 应用于投影系统的迭代重加权正则化方法显著提升了边缘保持能力，并降低了对子空间维数t选择的敏感性，增强了解的鲁棒性。
• 在1D与2D问题（包括图像去模糊与断层扫描重建）上的数值实验表明，所提方法能生成更高保真度的重建结果，相对误差更低，且更有效地保持锐利特征。
• 噪声揭示函数成功通过检测投影问题中的噪声水平，可靠估计了最优子空间维数t，实现了自动且可靠的子空间大小选择。
• 所提方法在系统为过定或欠定的情况下均表现有效且稳定，展现出在大规模反问题中的广泛适用性。