[论文解读] Variable Projection Methods for Solving Regularized Separable Inverse Problems with Applications to Semi-Blind Image Deblurring

Delfina B. Comerso Salzer, Malena I. Español+1 more|arXiv (Cornell University)|Jan 8, 2026

Advanced Image Processing Techniques被引用 0

一句话总结

这篇论文将 Variable Projection (VarPro) 扩展到带正则化的可分离非线性最小二乘问题，提出准牛顿降维求解器，并将其应用于带参数正则化的半盲图像去模糊。

ABSTRACT

Separable nonlinear least squares problems appear in many inverse problems, including semi-blind image deblurring. The variable projection (VarPro) method provides an efficient approach for solving such problems by eliminating linear variables and reducing the problem to a smaller, nonlinear one. In this work, we extend VarPro to solve minimization problems containing a differentiable regularization term on the nonlinear parameters, along with a general-form Tikhonov regularization term on the linear variables. Furthermore, we develop a quasi-Newton method for solving the resulting reduced problem, and provide a local convergence analysis under standard smoothness assumptions, establishing conditions for superlinear or quadratic convergence. For large-scale settings, we introduce an inexact LSQR-based variant and prove its local convergence despite inner-solve and Hessian approximations. Numerical experiments on semi-blind deblurring show that parameter regularization prevents degenerate no-blur solutions and that the proposed methods achieve accurate reconstructions, with the inexact variant offering a favorable accuracy-cost tradeoff consistent with the theory.

研究动机与目标

• 说明在半盲/去模糊中引入参数正则化的必要性以避免退化的无模糊解。
• 将 RSNLS 表述为在非线性参数上具有可微正则化项、在线性变量上具有广义形式的 Tikhonov 项。
• 扩展 VarPro 到 RSNLS 并推导降维问题的形式。
• 提出带本地收敛保证的准牛顿方法（RGenVarPro）。
• 为大规模问题提出基于不精确 LSQR 的变体（iRGenVarPro），并证明收敛性。

提出的方法

• 将前向算子表示为依赖于小参数向量 y 的可微映射 A(y)。
• 将带正则化的可分离非线性最小二乘（RSNLS）问题表述为 F(x,y)=1/2||K(y)x-d||^2+R(y)，其中 K(y)=[A(y); λL]，d=[b;0]。
• 通过变量投影消去 x，使 x(y)=K(y)†d，降维为 φ(y)=1/2||f(y)||^2+R(y)，其中 f(y)=-P_{K(y)}⊥ d。
• 推导 φ(y) 的梯度 ∇φ(y) 和雅可比 J_f(y)，从而实现准牛顿更新 y^{k+1}=y^{k}-H(y^{k})^{-1}∇φ(y^{k})，其中 H(y)=J_f(y)^T J_f(y)+∇^2R(y)。
• 在利普希茨连续性和凸正则化等假设下证明 RGenVarPro 的局部收敛性，并给出基于不精确 LSQR 的大规模问题变体 iRGenVarPro 的收敛性保证。

实验结果

研究问题

• RQ1 正则化非线性参数 y 如何影响半盲去模糊解的稳定性与可辨识性？
• RQ2 是否可以将 VarPro 扩展到 RSNLS，以在 y 上包含可微正则化，在 x 上包含 Tikhonov 项？
• RQ3 降维后 RSNLS 问题的准牛顿求解器有哪些收敛性性质，内部求解对收敛有何影响？
• RQ4 基于不精确 LSQR 的变体是否能在大规模 RSNLS 问题中保持局部收敛？
• RQ5 在半盲图像去模糊任务中，所提方法在重建精度及避免退化解方面的表现如何？

主要发现

• 对 y 的正则化可防止退化的无模糊解并使重建有意义。
• 降维问题 φ(y) 能正确识别对应原始 RSNLS 问题解的全局极小值。
• RGenVarPro 在常见光滑性假设和凸正则化下实现局部收敛。
• 不精确的 iRGenVarPro 在保持收敛的同时提供有利的精度-成本权衡。
• 半盲去模糊的数值实验验证了理论结果，并显示参数正则化的有效性。