[论文解读] Gradient Step Denoiser for convergent Plug-and-Play

Samuel Hurault, Arthur Leclaire+1 more|arXiv (Cornell University)|Oct 7, 2021

Sparse and Compressive Sensing Techniques参考文献 53被引用 19

一句话总结

本文提出了一种新颖的即插即用（Plug-and-Play, PnP）框架——梯度步长去噪器（Gradient Step Denoiser, GS-PnP），用基于深度神经网络参数化函数的梯度下降步骤替代了PnP-HQS中的传统去噪器。通过可学习函数确保去噪器满足近端映射条件，该方法即使在非凸数据保真项下，也能保证收敛至显式全局函数的驻点，同时在去模糊、超分辨率和图像修复任务中实现了最先进性能。

ABSTRACT

Plug-and-Play methods constitute a class of iterative algorithms for imaging problems where regularization is performed by an off-the-shelf denoiser. Although Plug-and-Play methods can lead to tremendous visual performance for various image problems, the few existing convergence guarantees are based on unrealistic (or suboptimal) hypotheses on the denoiser, or limited to strongly convex data terms. In this work, we propose a new type of Plug-and-Play methods, based on half-quadratic splitting, for which the denoiser is realized as a gradient descent step on a functional parameterized by a deep neural network. Exploiting convergence results for proximal gradient descent algorithms in the non-convex setting, we show that the proposed Plug-and-Play algorithm is a convergent iterative scheme that targets stationary points of an explicit global functional. Besides, experiments show that it is possible to learn such a deep denoiser while not compromising the performance in comparison to other state-of-the-art deep denoisers used in Plug-and-Play schemes. We apply our proximal gradient algorithm to various ill-posed inverse problems, e.g. deblurring, super-resolution and inpainting. For all these applications, numerical results empirically confirm the convergence results. Experiments also show that this new algorithm reaches state-of-the-art performance, both quantitatively and qualitatively.

研究动机与目标

• 解决在使用通用深度去噪器时，即插即用（PnP）方法缺乏收敛性保证的问题。
• 开发一种PnP框架，在保持高图像恢复性能的同时确保理论收敛性。
• 实现对非凸数据保真项（如去模糊和超分辨率等病态逆问题）的收敛性。
• 提供一种与函数显式关联的去噪器，以实现可解释性和数值控制。
• 证明可学习去噪器可在不牺牲收敛性保证的前提下实现最先进性能。

提出的方法

• 该方法将PnP-HQS中正则项的近端算子替换为由深度神经网络参数化的函数上的梯度下降步骤。
• 去噪器的构建方式使其更新规则对应于可学习函数的梯度，从而确保其满足条件 ∇g(x) = x − D(x)。
• 算法采用半二次分裂方案，其中通过大步长 τ 的近端步长最小化数据保真项，随后通过在学习函数上进行梯度下降完成去噪步骤。
• 采用回溯线搜索自适应调整步长 τ，提升稳定性和收敛性。
• 去噪器通过端到端训练以最小化整体恢复目标，同时通过函数结构保持收敛性保证。
• 该方法被应用于多种逆问题，包括去模糊、超分辨率和图像修复，且在所有任务中使用相同的框架。

实验结果

研究问题

• RQ1 基于可学习函数的梯度下降步骤的PnP方法，能否在非凸数据保真项下实现收敛性保证？
• RQ2 此类方法能否在确保收敛性的同时维持最先进图像恢复性能？
• RQ3 所提出的基于函数推导的去噪器，在非凸设置下是否满足收敛所需的必要条件？
• RQ4 该算法对初始化和超参数选择（特别是 σ 和 λ）的鲁棒性如何？
• RQ5 该方法能否在收敛性和恢复质量两方面均优于现有的PnP方案（如DPIR和RED）？

主要发现

• 在对去噪器施加温和假设的前提下，所提出的GS-PnP算法即使在数据保真项为非凸时，也能收敛至显式全局函数的驻点。
• 在GS-PnP中，残差 ||x_{k+1} − x_k||² 达到 ∼10⁻¹³，表明收敛性极强；而DPIR未显示收敛，残差维持在约10⁻⁴。
• 在CBSD10数据集上使用10个核进行去模糊任务时，GS-PnP在 σ/ν = 2 条件下达到32.45 dB的PSNR，优于RED及其他基线方法。
• 该方法对噪声初始化具有鲁棒性：即使初始噪声 σ_init = 60/255，PSNR仍保持稳定且视觉效果一致。
• 在图像修复和超分辨率任务中，GS-PnP实现了最先进水平的PSNR和SSIM得分，证明了其在多样化逆问题中的泛化能力。
• 消融研究证实，回溯过程可稳定收敛并支持使用较大的初始 τ 值，从而提升鲁棒性。