[論文レビュー] An ELU Network with Total Variation for Image Denoising

Tianyang Wang, Zhengrui Qin+1 more|arXiv (Cornell University)|Aug 14, 2017

Image and Signal Denoising Methods参考文献 20被引用数 7

ひとこと要約

本論文は、指数線形ユニット（ELU）活性化関数と全変動（TV）正則化付きL2損失を用いた画像ノイズ除去のための深層CNNを提案する。ELUをバッチ正則化と組み合わせる新しい「Conv-ELU-Conv-BN」ブロックを導入し、TV正則化を適用することで、さまざまなノイズレベルにおいてグレースケールおよびカラー画像の両方で最先端のPSNR性能を達成し、DnCNN や TNRD といった先行手法を上回る性能を発揮する。

ABSTRACT

In this paper, we propose a novel convolutional neural network (CNN) for image denoising, which uses exponential linear unit (ELU) as the activation function. We investigate the suitability by analyzing ELU's connection with trainable nonlinear reaction diffusion model (TNRD) and residual denoising. On the other hand, batch normalization (BN) is indispensable for residual denoising and convergence purpose. However, direct stacking of BN and ELU degrades the performance of CNN. To mitigate this issue, we design an innovative combination of activation layer and normalization layer to exploit and leverage the ELU network, and discuss the corresponding rationale. Moreover, inspired by the fact that minimizing total variation (TV) can be applied to image denoising, we propose a TV regularized L2 loss to evaluate the training effect during the iterations. Finally, we conduct extensive experiments, showing that our model outperforms some recent and popular approaches on Gaussian denoising with specific or randomized noise levels for both gray and color images.

研究の動機と目的

• ReLUの代わりにELUを深層CNNに組み込むことで、画像ノイズ除去性能の向上を図ること。
• 直接BNとELU層を積み重ねることによる性能低下を解消すること。
• 1×1畳み込みをBNとELUと統合することで、学習安定性と特徴量学習を向上させること。
• 全変動（TV）正則化をL2損失に組み込むことで、ノイズ除去品質を向上させること。
• グレースケールおよびカラー画像の両方において、特定のノイズレベルとランダム化されたノイズレベルの両方で、提案手法の有効性を検証すること。

提案手法

• クリーン画像を直接予測するのではなく、ノイズ付きの残差を予測するための残差学習フレームワークを採用する。
• ELUを活性化関数として採用し、負の活性化を可能にすることで、隠れユニット出力をゼロ中心に保ち、収束性とノイズ耐性を向上させる。
• ELUとバッチ正則化を効果的に統合するための新しい「Conv-ELU-Conv-BN」ブロックを導入し、性能低下を防止する。
• 全変動（TV）正則化をL2損失関数に適用し、学習中に局所的滑らかさを促進し、エッジを保持する。
• 対象となる損失関数にTV正則化を組み込むことで、双対定式化を必要とせず、確率的勾配降下法（SGD）を用いてネットワークを最適化する。
• 特定のノイズレベル（例：σ = 15, 25, 50）とランダム化されたノイズレベル（0–55）の両方でモデルを学習し、ブラインドノイズ除去を実現する。

実験結果

リサーチクエスチョン

• RQ1 ELUは、ゼロ中心の活性化を生成でき、エネルギー最小化がより効果的であるため、画像ノイズ除去においてReLUよりも適しているのだろうか？
• RQ2 新しい構成の層（Conv-ELU-Conv-BN）は、直接BN-ELUを積み重ねた場合の性能低下を効果的に緩和できるのだろうか？
• RQ3 L2損失に全変動正則化を組み込むことで、ノイズ除去性能が向上し、画像の詳細が保持されるのだろうか？
• RQ4 DnCNN や TNRD といった最先端手法と比較して、本手法はグレースケールおよびカラー画像の両方においてPSNRと視覚的品質の点で優れているのだろうか？
• RQ5 固定ノイズレベルではなく、ランダム化されたノイズレベルで学習させた場合、同等の性能が得られるのだろうか？

主な発見

• グレースケール画像（σ = 15）において、本手法は31.82 dBのPSNRを達成し、DnCNN（31.82 dB）とTNRD（31.73 dB）を上回った。
• カラー画像（σ = 15）において、本手法は34.10 dBを達成し、DnCNN（33.99 dB）とCBM3D（33.50 dB）を上回った。
• ランダム化されたノイズレベル（0–55）を用いたブラインドノイズ除去において、カラー画像（σ = 50）で28.11 dBを達成し、DnCNN（28.01 dB）を上回った。
• 視覚的比較では、本手法が微細な画像ディテールを保持し、特にテクスチャーや背景領域で過剰に平滑化を抑える効果が顕著に現れた。
• グレースケールおよびカラー画像の両データセットにおいて、全テストノイズレベルでDnCNNと比較してPSNRが約0.1 dB向上した。
• アブレーションスタディの結果、ELU、新規BN-ELUブロック、TV正則化の組み合わせが相乗効果をもたらし、性能向上に寄与していることが確認された。