[论文解读] Averaged Deep Denoisers for Image Regularization

Pravin Nair, Kunal N. Chaudhury|arXiv (Cornell University)|Jul 15, 2022

Image and Signal Denoising Methods被引用 4

一句话总结

本文提出了一种新颖的框架，通过展开迭代软阈值算法（ISTA）和交替方向乘子法（ADMM）来构建可证明的平均化（收缩性）深度去噪器，用于图像正则化，结合了插件即用（PnP）和通过去噪进行正则化（RED）算法。通过展开基于小波的去噪器的ISTA和ADMM迭代过程，该方法通过收缩性确保收敛性保证，其性能与卷积神经网络（CNN）去噪器相当，同时提供了理论上的稳定性。

ABSTRACT

Plug-and-Play (PnP) and Regularization-by-Denoising (RED) are recent paradigms for image reconstruction that leverage the power of modern denoisers for image regularization. In particular, they have been shown to deliver state-of-the-art reconstructions with CNN denoisers. Since the regularization is performed in an ad-hoc manner, understanding the convergence of PnP and RED has been an active research area. It was shown in recent works that iterate convergence can be guaranteed if the denoiser is averaged or nonexpansive. However, integrating nonexpansivity with gradient-based learning is challenging, the core issue being that testing nonexpansivity is intractable. Using numerical examples, we show that existing CNN denoisers tend to violate the nonexpansive property, which can cause PnP or RED to diverge. In fact, algorithms for training nonexpansive denoisers either cannot guarantee nonexpansivity or are computationally intensive. In this work, we construct contractive and averaged image denoisers by unfolding splitting-based optimization algorithms applied to wavelet denoising and demonstrate that their regularization capacity for PnP and RED can be matched with CNN denoisers. To our knowledge, this is the first work to propose a simple framework for training contractive denoisers using network unfolding.

研究动机与目标

• 为解决在使用非扩张去噪器时PnP和RED算法的不稳定性问题，后者可能导致发散。
• 开发一种训练框架，确保去噪器具有收缩性（平均化）特性，从而在PnP和RED迭代中保证收敛性。
• 提供一种简单高效的现有非扩张去噪器训练方法的替代方案，避免计算成本高昂的检查或约束。
• 证明通过展开构建的小波基去噪器在正则化性能上可与最先进的CNN去噪器相媲美。
• 基于算子理论和平均化性质，为所提出的去噪器的收缩性和平均化特性建立理论基础。

提出的方法

• 将基于总变差的小波去噪的迭代软阈值算法（ISTA）和交替方向乘子法（ADMM）展开为深度网络架构。
• 通过堆叠ISTA/ADMM迭代的多个展开层，构建一个可学习的、参数化的算子作为去噪器。
• 证明：若基础小波去噪器（局部块级）具有收缩性或平均化特性，则通过局部算子平均得到的全局去噪器也具有收缩性或平均化特性。
• 采用基于重叠块的平均方案，其中全局去噪器表示为局部去噪算子的均匀平均。
• 利用平均收缩或平均化算子可保持收缩性和平均化特性的性质，从而在PnP和RED中确保理论收敛性。
• 证明所得到的去噪器在数学上是非扩张且收缩的，从而在无需昂贵的非扩张性检查的情况下，为PnP和RED提供收敛性保证。

(a) BM3D.

实验结果

研究问题

• RQ1 能否构建一种深度去噪器，使其可证明具有收缩性（平均化）特性，从而确保在PnP和RED框架中的收敛性？
• RQ2 能否通过理论基础坚实的、非扩张的去噪器架构，在PnP/RED中实现与基于CNN的去噪器相当的性能？
• RQ3 是否可以通过展开训练去噪器，使其继承底层优化算法（如ISTA/ADMM）的收缩性，而无需施加硬性约束？
• RQ4 展开网络的平均化结构如何在重叠块之间保持收缩性？
• RQ5 块级去噪器的收缩性与通过平均形成的全局去噪器之间存在何种理论关系？

主要发现

• 所提方法通过展开基于小波的去噪器的ISTA和ADMM，构建了可证明具有收缩性的深度去噪器。
• 通过使用算子平均的数学证明表明，若基础块级去噪器具有收缩性，则所得去噪器也具有收缩性（即平均化）。
• 该方法保证了PnP和RED算法的收敛性，而现有CNN去噪器常违反非扩张性条件，导致发散。
• 数值实验表明，所提去噪器在PnP和RED设置下的重建性能与最先进的CNN去噪器相当。
• 该框架计算效率高，避免了在基于梯度的训练中验证非扩张性所需的难以处理的检查。
• 本工作首次建立了基于展开的端到端训练框架，用于可证明的平均化去噪器，填补了PnP和RED在理论收敛性方面的关键空白。

(b) DnCNN.