[论文解读] Deep Belief Networks for Image Denoising

Mohammad Ali Keyvanrad, Mohammad Pezeshki+1 more|arXiv (Cornell University)|Dec 20, 2013

Image and Signal Denoising Methods参考文献 11被引用 5

一句话总结

本文提出了一种基于深度置信网络（DBNs）的新型图像去噪方法，该方法在最终隐藏层中学习区分噪声与图像内容特征。通过识别并抑制主要由噪声激活的神经元，模型实现了对更清晰图像的重建，在添加了方差为0.20的加性白高斯噪声（AWGN）的MNIST数据集上，平均平方误差（MSE）降低了65.9%。

ABSTRACT

Deep Belief Networks which are hierarchical generative models are effective tools for feature representation and extraction. Furthermore, DBNs can be used in numerous aspects of Machine Learning such as image denoising. In this paper, we propose a novel method for image denoising which relies on the DBNs' ability in feature representation. This work is based upon learning of the noise behavior. Generally, features which are extracted using DBNs are presented as the values of the last layer nodes. We train a DBN a way that the network totally distinguishes between nodes presenting noise and nodes presenting image content in the last later of DBN, i.e. the nodes in the last layer of trained DBN are divided into two distinct groups of nodes. After detecting the nodes which are presenting the noise, we are able to make the noise nodes inactive and reconstruct a noiseless image. In section 4 we explore the results of applying this method on the MNIST dataset of handwritten digits which is corrupted with additive white Gaussian noise (AWGN). A reduction of 65.9% in average mean square error (MSE) was achieved when the proposed method was used for the reconstruction of the noisy images.

研究动机与目标

• 开发一种基于深度学习的图像去噪方法，利用深度置信网络（DBNs）的特征表示能力。
• 在DBN的最终隐藏层中建立并学习噪声特征与干净图像特征之间的行为差异。
• 通过识别并停用主要表示噪声的神经元，实现噪声抑制。
• 通过仅使用代表图像内容的神经元进行重构，实现更优的图像重建质量。

提出的方法

• 使用贪婪逐层预训练方法，在MNIST数据集的一个子集上训练一个包含四层隐藏层（784-1000-500-250-100）的DBN。
• 通过计算同一神经元在输入干净图像与对应噪声图像时的激活值之差，计算最终层中每个神经元的相对激活度。
• 将平均相对激活度超过0.9阈值的所有神经元识别为噪声神经元。
• 通过计算训练集中所有干净图像中该神经元的激活值平均值，确定每个噪声神经元的中性（非激活）值。
• 通过将训练好的DBN输入噪声图像，并将识别出的噪声神经元的值设置为其对应的中性值，实现去噪图像的重构。
• 利用DBN的生成能力，基于修改后的最终层激活值重构输入图像，从而有效去除噪声。

实验结果

研究问题

• RQ1 是否可以训练一个深度置信网络，使其在最终隐藏层中区分代表图像内容的特征与代表噪声的特征？
• RQ2 如何利用最终层神经元的相对激活度来检测主要由噪声激活的神经元？
• RQ3 在存在加性白高斯噪声（AWGN）的情况下，抑制识别出的噪声激活神经元在多大程度上能提升图像重建质量？
• RQ4 是否可以通过在预训练DBN中选择性地停用对噪声敏感的神经元，实现图像去噪中显著降低的MSE？

主要发现

• 所提方法在平均均方误差（MSE）上实现了65.9%的降低，从噪声图像的0.0966降至噪声神经元抑制后重构图像的0.0329。
• 在消除噪声激活神经元后，图像重建质量显著提升，如图5所示，其输出更清晰、更少噪声，视觉上得到验证。
• 平均相对激活度超过0.9的神经元被可靠识别为噪声神经元，表明DBN在捕捉噪声行为方面具有强大的判别能力。
• 每个噪声神经元的中性值被有效确定为在所有干净图像中其激活值的平均值，从而在重构过程中实现一致的抑制。
• 通过在选择性神经元停用后利用DBN的生成重构能力，该方法成功重构出无噪声图像。
• 该方法表明，DBN不仅可用于特征学习，还可通过隐藏层激活值的后处理实现针对性的噪声抑制。