[论文解读] Solving Linear Inverse Problems Using the Prior Implicit in a Denoiser

Zahra Kadkhodaie, Eero P. Simoncelli|arXiv (Cornell University)|Jul 27, 2020

Image and Signal Denoising Methods参考文献 55被引用 15

一句话总结

本文提出一种通用的、无需训练的方法，通过利用预训练的盲去噪器中嵌入的隐式先验，解决线性反问题（如去模糊、超分辨率和压缩感知）。该方法采用一种基于去噪器输出来估计数据分布得分的随机粗到细梯度上升算法，从而高效地从条件于线性测量的先验中采样，在无需微调的情况下，在多个任务上实现了最先进（SOTA）的无监督性能。

ABSTRACT

Prior probability models are a fundamental component of many image processing problems, but density estimation is notoriously difficult for high-dimensional signals such as photographic images. Deep neural networks have provided state-of-the-art solutions for problems such as denoising, which implicitly rely on a prior probability model of natural images. Here, we develop a robust and general methodology for making use of this implicit prior. We rely on a statistical result due to Miyasawa (1961), who showed that the least-squares solution for removing additive Gaussian noise can be written directly in terms of the gradient of the log of the noisy signal density. We use this fact to develop a stochastic coarse-to-fine gradient ascent procedure for drawing high-probability samples from the implicit prior embedded within a CNN trained to perform blind (i.e., with unknown noise level) least-squares denoising. A generalization of this algorithm to constrained sampling provides a method for using the implicit prior to solve any linear inverse problem, with no additional training. We demonstrate this general form of transfer learning in multiple applications, using the same algorithm to produce state-of-the-art levels of unsupervised performance for deblurring, super-resolution, inpainting, and compressive sensing.

研究动机与目标

• 开发一种无需微调的通用框架，仅使用预训练去噪器求解线性反问题。
• 利用深度卷积神经网络去噪器所学习的隐式先验，这些去噪器在未标注数据上进行训练，以最小化未知高斯噪声下的均方误差。
• 通过一种自适应调整步长和噪声水平的随机梯度上升过程，实现对去噪器隐式先验的鲁棒、自适应采样。
• 将该方法推广至约束采样，通过基于线性测量的条件化，求解任意线性反问题。
• 通过单一通用去噪器在多种图像恢复任务中展示可迁移性与最先进性能。

提出的方法

• 该方法基于一个经典统计结果：对于加性高斯噪声，最优去噪器计算的是噪声信号对数密度的梯度。
• 采用一种随机粗到细梯度上升算法，通过迭代应用去噪器来估计得分（对数密度梯度），从而从隐式先验中抽取高概率样本。
• 步长和噪声幅度由去噪器自身自适应控制，无需手动调整超参数。
• 对于线性反问题，通过将解投影到测量空间，将算法扩展至约束采样，从而求解如图像修复和压缩感知等问题。
• 该方法仅依赖一个盲去噪器，该去噪器在未知噪声水平的图像上进行训练以最小化MSE，避免了在不同噪声水平下使用多个去噪器的需要。
• 该算法计算高效，通过基于去噪器输出的直接、迭代梯度上升策略，避免了MCMC采样。

实验结果

研究问题

• RQ1 能否有效利用预训练盲去噪器的隐式先验，在无需额外训练的情况下求解广泛的线性反问题？
• RQ2 如何利用去噪器的输出来估计数据分布的得分，从而实现从先验中高效采样？
• RQ3 一个在盲去噪任务上训练的单一通用去噪器，是否可用于求解如超分辨率和压缩感知等多样化的反问题？
• RQ4 基于去噪器的自适应步长与噪声控制机制，相较于固定参数方法，如何提升收敛性与鲁棒性？
• RQ5 在定量指标与感知质量方面，该方法相较于现有插件式（plug-and-play）与基于得分的方法，性能优越程度如何？

主要发现

• 仅使用一个预训练的盲去噪器，该方法在去模糊、超分辨率、图像修复和压缩感知任务中均实现了最先进（SOTA）的无监督性能。
• 结果在感知质量上显著优于原始图像，即使PSNR略低于直接采样方法。
• 通过平均多个采样结果，PSNR优于单一样本结果，但代价是图像模糊度增加。
• 该算法对超参数选择（如初始步长和衰减率）具有鲁棒性，在广泛参数范围内性能稳定。
• 在从随机低维投影中恢复图像时，该方法显著优于基于稀疏子空间并集的传统压缩感知先验。
• 该方法通过随机梯度上升实现了高效、非马尔可夫链的采样，避免了拉普拉斯动力学或序列去噪链带来的计算负担。