[论文解读] A new principle for choosing regularization parameter in certain inverse problems

Hans Rullgård|arXiv (Cornell University)|Mar 26, 2008

Numerical methods in inverse problems参考文献 3被引用 8

一句话总结

该论文提出了一种针对高噪声条件下反问题中 $L^1$ 正则化的启发式、噪声水平估计型参数选择规则，特别适用于电子断层扫描。通过分析比值 $s_\lambda(f) = R_\lambda(f)/\sigma(f)$，其中 $\sigma(f)$ 用于估计噪声方差，该方法选择一个正则化参数，以最小化重建中虚假小物体的出现，从而在噪声抑制与特征保持之间实现平衡。

ABSTRACT

A new parameter choice rule for inverse problems is introduced. This parameter choice rule was developed for total variation regularization in electron tomography and might in general be useful for $L^1$ regularization of inverse problems with high levels of noise in the data.

研究动机与目标

• 为解决在极高噪声水平下（特别是电子断层扫描中）反问题正则化参数选择的挑战。
• 开发一种无需显式估计噪声水平的参数选择规则，而是直接从数据中估计噪声。
• 通过最小化由噪声而非真实信号引起的虚假小物体的出现，提升重建质量。
• 为非线性、$L^1$-正则化反问题提供一种计算高效的替代方法，优于传统方法如 L-曲线法。
• 提供一个定量度量 $s_\\lambda(f)$，通过比较正则化强度与噪声方差，评估重建中特征的可靠性。

提出的方法

• 定义满足齐次性 $R_\\lambda(\alpha f) = |\\alpha| R_\\lambda(f)$ 的正则化泛函 $R_\\lambda(f)$，这通常是 $L^1$ 类范数（如总变差）的典型特征。
• 引入标量函数 $\alpha_\\lambda(f,g)$，即沿方向 $f$ 的一维优化问题的解，可通过显式分段公式（4）计算得出。
• 使用 $\sigma(f) = \text{Var}[\\langle Tf, G^{\\text{noise}} \rangle]^{1/2}$ 估计噪声方差，假设噪声为零均值且具有已知结构。
• 定义比值 $s_\\lambda(f) = R_\\lambda(f)/\sigma(f)$，作为正则化强度相对于噪声水平的度量。
• 选择正则化参数 $\lambda$，使得对一组代表性特征 $f \in F$，满足 $s_\\lambda(f) \geq s_{\\text{min}}(f)$，从而抑制由噪声引起的伪影。
• 通过数值实验验证该方法，特别关注作为 $\lambda$ 函数的重建中较小的非-TMV 物体数量。

实验结果

研究问题

• RQ1 当噪声水平高且未知时，如何在 $L^1$-正则化反问题中选择正则化参数？
• RQ2 能否构建一种启发式参数选择规则，直接从数据中估计噪声，而无需事先知道噪声幅度？
• RQ3 比值 $s_\\lambda(f) = R_\\lambda(f)/\sigma(f)$ 在多大程度上可作为正则化强度相对于噪声水平的可靠指标？
• RQ4 与 L-曲线等既定规则相比，该方法在计算成本和重建保真度方面表现如何？
• RQ5 正则化参数对电子断层扫描重建中虚假小物体出现的影响是什么？

主要发现

• 对于 ET 数据，所提出的参数选择规则选定 $\lambda = 70$，将小且非-TMV 物体数量（阈值 0.5）从 $\lambda = 40$ 时的 129 个减少至仅 1 个。
• 当 $\lambda$ 降低至推荐值以下时，虚假小物体数量迅速增加，表明对噪声产生过拟合。
• 该方法计算高效，参数选择成本低于重建算法的一轮迭代。
• 比值 $s_\\lambda(f)$ 提供了定量度量，可用于判断重建中某一特征是否可能由噪声引起而非真实信号。
• 该方法为启发式方法，严格意义上不具收敛性，但在高噪声、真实世界反问题中表现良好。
• 该方法可推广至其他高噪声的 $L^1$-正则化反问题，前提是噪声结构假设成立。