[논문 리뷰] An ELU Network with Total Variation for Image Denoising

Tianyang Wang, Zhengrui Qin외 1명|arXiv (Cornell University)|2017. 08. 14.

Image and Signal Denoising Methods참고 문헌 20인용 수 7

한 줄 요약

이 논문은 지수선형함수(ELU) 활성화 함수와 총변동(TV)-정규화된 L2 손실을 사용하는 딥 CNN을 제안한다. 새로운 'Conv-ELU-Conv-BN' 블록을 통해 ELU를 배치정규화와 융합하고 TV 정규화를 적용함으로써, 다양한 노이즈 수준에서 회색 및 색상 이미지에 대해 최신 기술(SOTA) 수준의 PSNR 성능을 달성하며, DnCNN 및 TNRD와 같은 이전 방법들을 능가한다.

ABSTRACT

In this paper, we propose a novel convolutional neural network (CNN) for image denoising, which uses exponential linear unit (ELU) as the activation function. We investigate the suitability by analyzing ELU's connection with trainable nonlinear reaction diffusion model (TNRD) and residual denoising. On the other hand, batch normalization (BN) is indispensable for residual denoising and convergence purpose. However, direct stacking of BN and ELU degrades the performance of CNN. To mitigate this issue, we design an innovative combination of activation layer and normalization layer to exploit and leverage the ELU network, and discuss the corresponding rationale. Moreover, inspired by the fact that minimizing total variation (TV) can be applied to image denoising, we propose a TV regularized L2 loss to evaluate the training effect during the iterations. Finally, we conduct extensive experiments, showing that our model outperforms some recent and popular approaches on Gaussian denoising with specific or randomized noise levels for both gray and color images.

연구 동기 및 목표

• 딥 CNN에서 ReLU를 ELU로 대체하여 이미지 노이즈 제거 성능을 향상시키는 것.
• 직접 스택된 BN 및 ELU 레이어 조합으로 인한 성능 저하 문제를 해결하는 것.
• 1×1 컨볼루션을 BN 및 ELU와 융합하여 학습 안정성과 특징 학습 능력을 향상시키는 것.
• 총변동(TV) 정규화를 L2 손실에 통합하여 노이즈 제거 품질을 향상시키는 것.
• 회색 및 색상 이미지의 특정 및 무작위 노이즈 수준에서 제안된 모델의 효과성을 검증하는 것.

제안 방법

• 직접 정(clean) 이미지를 예측하기보다는 노이즈 잔여치를 예측하는 잔여 학습 프레임워크를 사용한다.
• ELU를 활성화 함수로 사용하여 음수 활성화를 가능하게 하여 은닉 유닛 출력을 0에 중심화함으로써 수렴 속도 향상과 노이즈에 대한 강건성 향상을 도모한다.
• ELU와 배치정규화를 효과적으로 통합하기 위해 새로운 'Conv-ELU-Conv-BN' 블록을 도입하여 성능 저하를 방지한다.
• 총변동(TV) 정규화를 L2 손실 함수에 적용하여 조각별로 매끄러운 구조를 유지하고 테두리 보존을 도모한다.
• 이중 형식을 필요로 하지 않고 TV 정규화를 손실에 통합하여 확률적 경사 하강법(SGD)으로 네트워크를 최적화한다.
• 특정 노이즈 수준(예: σ = 15, 25, 50)과 무작위 노이즈 수준(0–55)을 모두 활용하여 블라인드 노이즈 제거를 위한 학습을 수행한다.

실험 결과

연구 질문

• RQ1 ELU는 음수 활성화를 가능하게 하여 중심화된 출력을 생성하고 에너지 최소화를 향상시키므로, 이미지 노이즈 제거에 있어 ReLU보다 더 적합한가?
• RQ2 새로운 Conv-ELU-Conv-BN 조합이 직접 BN-ELU 스택으로 인한 성능 저하를 효과적으로 완화할 수 있는가?
• RQ3 L2 손실에 총변동(TV) 정규화를 통합하면 노이즈 제거 성능 향상과 이미지 세부 정보 보존에 기여하는가?
• RQ4 DnCNN 및 TNRD와 같은 최신 기술(SOTA) 방법들과 비교했을 때, 제안된 모델은 회색 및 색상 이미지에서 PSNR 및 시각적 품질 측면에서 어떻게 성능을 내는가?
• RQ5 고정된 노이즈 수준이 아닌 무작위 노이즈 수준으로 학습할 경우, 경쟁 가능한 성능을 달성할 수 있는가?

주요 결과

• 회색 이미지에서 σ = 15일 때 제안된 모델은 PSNR 31.82 dB를 달성하여 DnCNN(31.82 dB)과 TNRD(31.73 dB)를 능가한다.
• 색상 이미지에서 σ = 15일 때 모델은 34.10 dB를 기록하여 DnCNN(33.99 dB)과 CBM3D(33.50 dB)를 초월한다.
• 무작위 노이즈 수준(0–55)을 갖는 블라인드 노이즈 제거에서 σ = 50일 때 색상 이미지에 대해 28.11 dB를 달성하여 DnCNN(28.01 dB)을 능가한다.
• 시각적 비교 결과, 제안된 방법은 더 섬세한 이미지 세부 정보를 보존하고 특히 무늬 및 배경 영역에서 과도한 매끄러움을 줄이는 데 성공한다.
• 모든 테스트 노이즈 수준에서 회색 및 색상 데이터셋에 대해 DnCNN 대비 약 0.1 dB의 PSNR 향상을 지속적으로 달성한다.
• 제거 분석 결과, ELU, 새로운 BN-ELU 블록, TV 정규화의 조합이 상호 보완적으로 성능 향상에 기여하는 것으로 확인된다.