[论文解读] Exploiting the Potential of Standard Convolutional Autoencoders for Image Restoration by Evolutionary Search

Masanori Suganuma, Mete Özay+1 more|arXiv (Cornell University)|Mar 1, 2018

Advanced Image Processing Techniques参考文献 44被引用 33

一句话总结

该论文表明，通过进化算法优化的、仅包含基本组件（卷积层和跳跃连接）的标准卷积自编码器（CAE）在图像恢复任务中可超越当前最先进模型。通过使用进化搜索寻找最优架构，并采用标准ℓ₂损失和ADAM优化，该方法在CelebA数据集上达到27.8 dB PSNR，在SVHN数据集上达到40.4 dB PSNR，优于依赖对抗训练和复杂损失函数的模型。

ABSTRACT

Researchers have applied deep neural networks to image restoration tasks, in which they proposed various network architectures, loss functions, and training methods. In particular, adversarial training, which is employed in recent studies, seems to be a key ingredient to success. In this paper, we show that simple convolutional autoencoders (CAEs) built upon only standard network components, i.e., convolutional layers and skip connections, can outperform the state-of-the-art methods which employ adversarial training and sophisticated loss functions. The secret is to employ an evolutionary algorithm to automatically search for good architectures. Training optimized CAEs by minimizing the $\ell_2$ loss between reconstructed images and their ground truths using the ADAM optimizer is all we need. Our experimental results show that this approach achieves 27.8 dB peak signal to noise ratio (PSNR) on the CelebA dataset and 40.4 dB on the SVHN dataset, compared to 22.8 dB and 33.0 dB provided by the former state-of-the-art methods, respectively.

研究动机与目标

• 探究仅使用基本组件（卷积层和跳跃连接）的简单卷积自编码器（CAE）是否能超越当前最先进图像恢复模型。
• 评估进化架构搜索在发现高性能CAE架构用于图像恢复方面的有效性。
• 确定在图像恢复任务中实现最先进性能是否需要对抗训练或复杂损失函数设计。
• 探索在结合智能架构搜索时，仅使用标准ℓ₂损失和ADAM优化是否足够。

提出的方法

• 使用进化算法通过调整滤波器数量、滤波器大小、层数和跳跃连接使用情况等超参数，搜索最优CAE架构。
• 搜索空间包含卷积层和跳跃连接的所有组合，具有可变深度、滤波器数量和卷积核大小。
• 每个候选架构均使用ADAM优化器，通过最小化重建图像与真实图像之间的ℓ₂损失进行训练。
• 进化过程基于验证集PSNR选择表现最佳的架构，通过多代迭代逐步提升种群性能。
• 该方法未使用对抗训练、感知损失或任何人工设计的损失函数。
• 最终模型在测试集上进行微调，以报告最终性能指标。

实验结果

研究问题

• RQ1 仅使用基本组件（卷积层和跳跃连接）的标准卷积自编码器能否在图像恢复任务中实现最先进性能？
• RQ2 高性能图像恢复是否需要对抗训练或复杂损失函数设计？
• RQ3 进化算法能否有效搜索CAE的高维架构空间，以发现更优配置？
• RQ4 在结合智能架构搜索时，仅最小化ℓ₂重建损失并使用ADAM优化器是否足够？

主要发现

• 所提出的进化搜索方法发现的CAE架构在CelebA数据集上达到27.8 dB PSNR，显著优于此前最先进水平的22.8 dB。
• 在SVHN数据集上，该方法达到40.4 dB PSNR，超越此前最先进水平的33.0 dB。
• 表现最佳的架构是在突变概率r=0.1和种群规模λ=4的设置下发现的，尽管λ=1也取得了具有竞争力的结果。
• 进化算法成功探索了高维架构空间，发现了有效配置，且无需依赖对抗训练或复杂损失函数。
• 该方法仅使用标准ℓ₂损失和ADAM优化即取得优越结果，表明在某些情况下架构搜索的重要性可能超过损失函数设计。
• 结果表明，当经过适当搜索后，经典CNN组件可匹配甚至超越具有复杂架构和训练方案的模型。