[論文レビュー] Exploiting the Potential of Standard Convolutional Autoencoders for Image Restoration by Evolutionary Search

Masanori Suganuma, Mete Özay+1 more|arXiv (Cornell University)|Mar 1, 2018

Advanced Image Processing Techniques参考文献 44被引用数 33

ひとこと要約

この論文は、標準的な畳み込み自己符号化器（CAE）が、進化計算アルゴリズムを用いて最適化された場合、敵対的訓練や複雑な損失関数を用いる最先端の画像修復モデルを上回ることを示している。進化的探索を用いて最適なアーキテクチャを探索し、標準的な ℓ₂ 損失と ADAM を用いて訓練することで、CelebA で 27.8 dB の PSNR、SVHN で 40.4 dB の PSNR を達成し、敵対的訓練や複雑な損失関数に依存しない最先端の性能を実現した。

ABSTRACT

Researchers have applied deep neural networks to image restoration tasks, in which they proposed various network architectures, loss functions, and training methods. In particular, adversarial training, which is employed in recent studies, seems to be a key ingredient to success. In this paper, we show that simple convolutional autoencoders (CAEs) built upon only standard network components, i.e., convolutional layers and skip connections, can outperform the state-of-the-art methods which employ adversarial training and sophisticated loss functions. The secret is to employ an evolutionary algorithm to automatically search for good architectures. Training optimized CAEs by minimizing the $\ell_2$ loss between reconstructed images and their ground truths using the ADAM optimizer is all we need. Our experimental results show that this approach achieves 27.8 dB peak signal to noise ratio (PSNR) on the CelebA dataset and 40.4 dB on the SVHN dataset, compared to 22.8 dB and 33.0 dB provided by the former state-of-the-art methods, respectively.

研究の動機と目的

• 標準的なコンponents（畳み込み層とスキップ接続）のみを用いた単純な畳み込み自己符号化器（CAE）が、最先端の画像修復モデルを上回ることを調査すること。
• 進化的アーキテクチャ探索が、画像修復に適した高性能な CAE アーキテクチャを発見する有効性を評価すること。
• 画像修復タスクで最先端の性能を達成するために、敵対的訓練や複雑な損失関数が必須であるかどうかを特定すること。
• 洗練されたアーキテクチャ探索と組み合わせた場合、標準的な ℓ₂ 損失と ADAM 最適化が十分であるかどうかを調査すること。

提案手法

• フィルタ数、フィルタサイズ、層数、スキップ接続の使用有無といったハイパーパramータを最適化することで、最適な CAE アーキテクチャを探索するための進化計算アルゴリズムを用いる。
• 探索空間には、畳み込み層とスキップ接続のすべての組み合わせが含まれており、深さ、フィルタ数、カーネルサイズが可変である。
• 各候補アーキテクチャは、再構成画像と真値画像の間の ℓ₂ 損失を最小化するように ADAM 最適化子を用いて訓練される。
• 進化プロセスでは、検証セットの PSNR を基準に上位性能のアーキテクチャを選び、世代を重ねて段階的にパラメータを改善する。
• 本手法では敵対的訓練、知覚損失、あるいは手動で設計された損失関数を一切使用しない。
• 最終的なモデルはテストセットでファインチューニングされ、最終的な性能指標が報告される。

実験結果

リサーチクエスチョン

• RQ1 畳み込み層とスキップ接続という基本的なコンponentsのみを用いた標準的な畳み込み自己符号化器（CAE）は、画像修復において最先端の性能を達成できるか？
• RQ2 高精度な画像修復を達成するために、敵対的訓練や複雑な損失関数の設計は必須であるか？
• RQ3 進化的アルゴリズムは、CAE の高次元アーキテクチャ空間を効果的に探索し、優れた設定を発見できるか？
• RQ4 洗練されたアーキテクチャ探索と組み合わせた場合、ℓ₂ 再構成損失を ADAM 最適化子で最小化するのだけでは十分か？

主な発見

• 提案された進化的探索手法により、CelebA データセットで 27.8 dB の PSNR を達成する CAE アーキテクチャが発見され、以前の最先端の 22.8 dB より顕著に優れた性能を示した。
• SVHN データセットでは 40.4 dB の PSNR を達成し、以前の SOTA の 33.0 dB を上回った。
• 最高性能を示したアーキテクチャは、突然変異確率 r=0.1 と集団サイズ λ=4 を用いて発見されたが、λ=1 でも競争力のある結果が得られた。
• 進化的アルゴリズムは高次元アーキテクチャ空間を効果的に探索し、敵対的訓練や複雑な損失関数に依存せずに、効果的な設定を発見できた。
• 標準的な ℓ₂ 損失と ADAM 最適化のみを用いても、洗練されたアーキテクチャ探索と組み合わせることで優れた結果が得られた。これは、一部の状況では損失関数の設計よりもアーキテクチャ探索の重要性が顕著である可能性を示唆している。
• 結果から、適切に探索された古典的な CNN コンponents は、複雑なアーキテクチャや訓練手法を用いたモデルと同等、あるいはそれを上回る性能を達成できる可能性がある。