[论文解读] Image denoising with multi-layer perceptrons, part 2: training trade-offs and analysis of their mechanisms

Harold Christopher Burger, Christian J. Schuler+1 more|arXiv (Cornell University)|Nov 7, 2012

Image and Signal Denoising Methods参考文献 23被引用 26

一句话总结

本文研究了多层感知机（MLP）在图像去噪任务中的训练权衡与内部机制，表明通过合理超参数调优，更深的MLP可实现最先进性能。研究发现，去噪通过tanh单元的特征检测与饱和实现，生成类似二值的表征，起到隐式正则化作用，激活模式分析使模型内部逻辑具有可解释性。

ABSTRACT

Image denoising can be described as the problem of mapping from a noisy image to a noise-free image. In another paper, we show that multi-layer perceptrons can achieve outstanding image denoising performance for various types of noise (additive white Gaussian noise, mixed Poisson-Gaussian noise, JPEG artifacts, salt-and-pepper noise and noise resembling stripes). In this work we discuss in detail which trade-offs have to be considered during the training procedure. We will show how to achieve good results and which pitfalls to avoid. By analysing the activation patterns of the hidden units we are able to make observations regarding the functioning principle of multi-layer perceptrons trained for image denoising.

研究动机与目标

• 识别并解决MLP在图像去噪中，尤其是在大规模、耗时的实验中，存在的关键训练权衡问题。
• 理解为何某些超参数选择会导致性能灾难性下降，尽管初期表现有所提升。
• 分析隐藏单元的激活模式，以揭示训练后MLP在图像去噪中的内部工作机制。
• 评估网络深度、图像块大小和微调在实现最优去噪性能中的作用。
• 比较单层与多层MLP的功能行为，并将其机制与去噪自编码器和受限玻尔兹曼机（RBMs）相关联。

提出的方法

• 在包含噪声与干净图像块的大规模数据集上，训练具有最多四层隐藏层、每层2047个神经元的深层MLP。
• 使用自适应学习率的随机梯度下降法进行训练，并同时监控训练和测试的PSNR，以追踪性能演化过程。
• 应用激活最大化技术，可视化使单个隐藏单元最大激活的输入模式。
• 分析块匹配MLP中相邻图像块的权重更新，以评估特征检测器的一致性。
• 通过比较不同图像块大小、网络深度和隐藏单元数量的模型，识别最优配置。
• 采用降低学习率的微调策略，以提升最终测试性能。

实验结果

研究问题

• RQ1 哪些训练超参数与配置能够实现MLP的稳定收敛并达到最优去噪性能？
• RQ2 为何某些训练过程尽管初期性能提升，仍会出现灾难性下降？
• RQ3 隐藏单元的激活模式如何揭示训练后MLP在图像去噪中的内部工作机制？
• RQ4 更深的MLP在多大程度上遵循与单层模型相同的函数原理？
• RQ5 噪声的类型与强度在多大程度上影响学习到的特征检测器与生成器？

主要发现

• 长时间训练不会导致过拟合；相反，它对收敛至关重要，尤其是在高容量模型中。
• 更大的网络架构始终优于较小的模型，且更多训练数据始终能提升性能。
• 存在一个最优的隐藏层数量；超过该数量会导致性能灾难性下降。
• 采用较低学习率的微调能显著提升性能，尤其在深层网络中效果更明显。
• 训练后MLP的隐藏单元会检测特定图像特征，其激活模式表明去噪依赖于特征检测与tanh饱和。
• 由于tanh饱和，模型的内部表征实质上是二值的，这支持了去噪自编码器中正则化解释的观点。