[論文レビュー] Variable Projection Methods for Solving Regularized Separable Inverse Problems with Applications to Semi-Blind Image Deblurring

Delfina B. Comerso Salzer, Malena I. Español+1 more|arXiv (Cornell University)|Jan 8, 2026

Advanced Image Processing Techniques被引用数 0

ひとこと要約

この論文は Variable Projection (VarPro) を正則化付き分離型非線形最小二乗問題へ拡張し、準ニュートン法を用いた縮約問題解法を開発、パラメータ正則化付き半盲画像デブラーリングへ適用する。

ABSTRACT

Separable nonlinear least squares problems appear in many inverse problems, including semi-blind image deblurring. The variable projection (VarPro) method provides an efficient approach for solving such problems by eliminating linear variables and reducing the problem to a smaller, nonlinear one. In this work, we extend VarPro to solve minimization problems containing a differentiable regularization term on the nonlinear parameters, along with a general-form Tikhonov regularization term on the linear variables. Furthermore, we develop a quasi-Newton method for solving the resulting reduced problem, and provide a local convergence analysis under standard smoothness assumptions, establishing conditions for superlinear or quadratic convergence. For large-scale settings, we introduce an inexact LSQR-based variant and prove its local convergence despite inner-solve and Hessian approximations. Numerical experiments on semi-blind deblurring show that parameter regularization prevents degenerate no-blur solutions and that the proposed methods achieve accurate reconstructions, with the inexact variant offering a favorable accuracy-cost tradeoff consistent with the theory.

研究の動機と目的

• 半盲/デブラーリングにおけるパラメータ正則化の必要性を動機づけ、平凡なノーブラーソリューションを回避する。
• 非線形パラメータに滑らかな正則化子を、線形変数に一般形のティホノフ項を課した RSNLS を定式化する。
• VarPro を RSNLS に適用可能に拡張し、縮約問題の定式化を導出する。
• 局所収束保証を伴う準ニュートン法（RGenVarPro）を開発する。
• 大規模問題向けの非完全 LSQR ベースの変種（iRGenVarPro）を提案し、収束性を証明する。

提案手法

• 正方向演算子を、微小パラメータベクター y に依存する微分可能な写像 A(y) として表す。
• RSNLS 問題を F(x,y)=1/2||K(y)x-d||^2+R(y) で定式化する。ここで K(y)=[A(y); λL]、d=[b;0]。
• 変数投影を用いて x(y)=K(y)†d により x を消去し、 φ(y)=1/2||f(y)||^2+R(y) とする。ここで f(y)=-P_{K(y)}⊥ d。
• 勾配 ∇φ(y) およびヤコビ行列 J_f(y) を導出し、準ニュートン更新 y^{k+1}=y^{k}-H(y^{k})^{-1}∇φ(y^{k})、ここで H(y)=J_f(y)^T J_f(y)+∇^2R(y)。
• RSNLS の縮約問題に対する局所収束を、リプシッツ連続性と凸正則化の仮定の下に証明し、さらに大規模問題向けの非完全 LSQR ベース変種 iRGenVarPro を収束保証付きで確立する。

実験結果

リサーチクエスチョン

• RQ1 非線形パラメータ y の正則化が半盲デブラーリング解の安定性と識別性にどのように影響するか？
• RQ2 VarPro を RSNLS に拡張して、y に滑らかな正則化子と x にティホノフ項を組み込めるか？
• RQ3 縮約 RSNLS 問題に対する準ニュートン解法の収束性の特性は何か、内部解法は収束にどう影響するか？
• RQ4 非完全 LSQR ベースの iRGenVarPro は大規模 RSNLS 問題で局所収束を維持できるか？
• RQ5 提案手法は半盲画像デブラーリングの再構成精度と退化解の回避の点でどう機能するか？

主な発見

• y に対する正則化は退化的なノーブラー解を防ぎ、有意な再構成を可能にする。
• 縮約問題 φ(y) は元の RSNLS 問題の解に対応する全局極小点を正しく同定する。
• RGenVarPro は標準的な滑らかさと正則化の仮定の下で局所収束を達成する。
• 非完全 iRGenVarPro は精度とコストの良好なトレードオフを提供しつつ収束性を維持する。
• 半盲デブラーリングの数値実験は理論結果を検証し、パラメータ正則化の利点を示す。