[논문 리뷰] Image Denoising Using Convolutional Autoencoder

Prashanth Venkataraman|arXiv (Cornell University)|2022. 07. 24.

Image and Signal Denoising Methods인용 수 7

한 줄 요약

이 논문은 MNIST 데이터셋에서 완전히 연결된 오토인코더(FAE)와 비교하여 이미지 노이즈 제거를 위한 합성곱 오토인코더(CAE)를 제안한다. CAE는 합성곱층을 사용하여 공간적 특징을 학습하고 노이즈가 섞인 입력에서 깨끗한 이미지를 재구성하며, 검증 손실 0.0871을 기록하여 FAE의 0.2305보다 유의미하게 낮게, 더 나은 특징 표현 덕분에 우수한 노이즈 제거 성능을 입증한다.

ABSTRACT

With the inexorable digitalisation of the modern world, every subset in the field of technology goes through major advancements constantly. One such subset is digital images which are ever so popular. Images can not always be as visually pleasing or clear as you would want them to be and are often distorted or obscured with noise. A number of techniques to enhance images have come up as the years passed, all with their own respective pros and cons. In this paper, we look at one such particular technique which accomplishes this task with the help of a neural network model commonly known as an autoencoder. We construct different architectures for the model and compare results in order to decide the one best suited for the task. The characteristics and working of the model are discussed briefly knowing which can help set a path for future research.

연구 동기 및 목표

• 28×28 회색조 이미지의 노이즈 제거에서 오토인코더의 효과성을 평가하는 것.
• 이미지 노이즈 제거를 위한 완전히 연결된 오토인코더(FAE)와 합성곱 오토인코더(CAE)를 비교하는 것.
• 가우시안 노이즈 존재 하에서 어느 아키텍처가 더 나은 재구성 품질과 낮은 손실을 달성하는지 규명하는 것.
• 합성곱층이 노이즈 제거 작업을 위한 의미 있는 이미지 표현을 학습하는 데 미치는 영향을 조사하는 것.
• 향후 고해상도 및 다중 채널 이미지 기반 딥러닝 기반 이미지 노이즈 제거 연구의 기초를 마련하는 것.

제안 방법

• 노이즈 제거 오토인코더(DAE)는 훈련 중에 입력 이미지에 무작위 가우시안 노이즈를 주입하고, 원본 깨끗한 이미지를 재구성 목표로 사용한다.
• 완전히 연결된 오토인코더(FAE)는 64개와 784개의 뉴런을 가진 두 개의 밀집층을 통해 784차원 입력을 처리하며, ReLU 활성화 함수와 이진 교차 엔트로피 손실을 사용한다.
• 합성곱 오토인코더(CAE)는 두 개의 2D 합성곱 블록(32개 필터, 3×3 커널, ReLU)을 사용하고, 최대 풀링(2×2, 스트라이드 1)을 통해 입력을 7×7×32 잠재 공간으로 인코딩한다.
• CAE는 잠재 표현을 복원하기 위해 두 개의 역합성곱층(2×2 스트라이드, 32개 필터, ReLU)을 사용한 후 최종 2D 합성곱층을 통해 원본 이미지 크기를 재구성한다.
• 두 모델은 MNIST 데이터셋에 가우시안 노이즈를 추가하여 20 에포크 동안 훈련하며, Adam 옵timizer와 이진 교차 엔트로피 손실을 사용한다.
• 모델 성능은 검증 손실과 노이즈가 섞인 입력에서 재구성된 이미지의 시각적 점검을 통해 평가된다.

실험 결과

연구 질문

• RQ1 합성곱 오토인코더는 28×28 회색조 이미지의 노이즈 제거에서 완전히 연결된 오토인코더를 능가하는가?
• RQ2 합성곱층의 사용이 오토인코더에서 공간적 특징 학습과 노이즈 억제에 어떤 영향을 미치는가?
• RQ3 아키텍처 설계(밀집 대비 합성곱)가 이미지 노이즈 제거에서 재구성 품질과 손실에 어떤 영향을 미치는가?
• RQ4 노이즈 제거 오토인코더는 가우시안 노이즈를 효과적으로 제거하면서도 이미지의 구조를 유지할 수 있는가?
• RQ5 MNIST에서 훈련된 오토인코더는 유사한 특성을 가진 노이즈 제거 작업으로 얼마나 일반화되는가?

주요 결과

• 합성곱 오토인코더는 검증 손실 0.0871을 기록하여 완전히 연결된 오토인코더의 0.2305보다 유의미하게 낮게, 더 나은 최적화와 재구성 정밀도를 나타낸다.
• 시각적 점검을 통해 합성곱 오토인코더가 가우시안 노이즈를 효과적으로 제거하여 선명하고 식별 가능한 숫자를 생성한 반면, 완전히 연결된 오토인코더는 이미지 품질을 악화시켜 입력을 더 노이즈가 많게 만들었다.
• 완전히 연결된 오토인코더는 공간 계층을 포착하지 못해 의미 있는 이미지 표현을 학습하지 못했고, 이로 인해 열악한 노이즈 제거 성능을 보였다.
• 합성곱 오토인코더의 합성곱 및 역합성곱층 사용은 효과적인 특징 학습과 공간 재구성을 가능하게 하여 이미지 노이즈 제거에 핵심적인 역할을 했다.
• CAE는 28,353개의 학습 가능한 파라미터를 가졌고, FAE의 101,200개보다 더 효율적인 파라미터 사용을 보였으며, 더 뛰어난 성능을 달성했다.
• 결과적으로 합성곱층은 노이즈 제거 작업에서 노이즈와 구조적 콘텐츠를 구분할 수 있는 계층적 이미지 표현을 학습하는 데 필수적임을 입증했다.