[논문 리뷰] Is L2 a Good Loss Function for Neural Networks for Image Processing

Hang Zhao, Orazio Gallo외 2명|arXiv (Cornell University)|2015. 11. 28.

Image and Signal Denoising Methods인용 수 35

한 줄 요약

이 논문은 영상 처리 분야에서 널리 사용되는 L2 손실의 사용을 도전하며, 인간의 시각 인지와 더 잘 부합하는 새로운 미분 가능 손실 함수가 영상 품질을 크게 향상시킬 수 있음을 입증한다. 동일한 네트워크 아키텍처를 사용할 때조차도 인간의 시각 인지에 더 잘 부합하는 새로운 미분 가능 오차 함수를 제안하여 뛰어난 성능을 달성한다.

ABSTRACT

Neural networks are becoming central in several areas of computer vision and image processing. Different architectures have been proposed to solve specific problems. The impact of the loss layer of neural networks, however, has not received much attention by the research community: the default and most common choice is L2. This can be particularly limiting in the context of image processing, since L2 correlates poorly with perceived image quality. In this paper we bring attention to alternative choices. We study the performance of several losses, including perceptually-motivated losses, and propose a novel, differentiable error function. We show that the quality of the results improves significantly with better loss functions, even for the same network architecture.

연구 동기 및 목표

• L2 손실이 영상 품질 인지와의 상관관계가 떨어지는 영상 처리 분야에서의 한계를 조사한다.
• 신경망 학습에 효과적인지 평가하기 위해 인간의 시각 인지에 기반한 손실 함수를 포함한 다양한 손실 함수를 평가한다.
• 인간 시각 인지에 더 잘 반영되는 새로운 미분 가능 오차 함수를 제안한다.
• 개선된 손실 함수가 네트워크 아키텍처의 변화 없이도 영상 품질을 크게 향상시킬 수 있음을 입증한다.

제안 방법

• 저자들은 L2, 인간의 시각 인지에 기반한 손실 함수, 그리고 새로 제안된 미분 가능 오차 함수를 포함한 다양한 손실 함수를 분석하고 비교한다.
• 인간 시각 인지와 더 잘 부합하기 위해 인지 유사성 기반의 새로운 미분 가능 손실 함수를 설계한다.
• 다양한 영상 처리 작업에서 동일한 신경망 아키텍처를 사용하여 평가를 수행한다.
• 각 손실 함수의 성능은 정량적 지표와 정성적 시각적 검토를 통해 평가된다.

실험 결과

연구 질문

• RQ1 L2 손실이 영상 처리 작업에서 다른 손실 함수와 비교해 인지된 영상 품질 측면에서 어떻게 성능을 보이는가?
• RQ2 인간 시각 인지에 더 잘 반영되는 새로운 미분 가능 손실 함수를 설계할 수 있는가?
• RQ3 네트워크 아키텍처를 그대로 유지할 때 개선된 손실 함수가 영상 품질 향상에 얼마나 기여하는가?

주요 결과

• 인간의 시각 인지에 기반한 손실 함수와 새로운 손실 함수를 사용할 경우, 표준 L2 손실 대비 영상 품질이 뚜렷이 향상된다.
• 동일한 네트워크 아키텍처를 사용할 때조차도, 더 나은 손실 함수가 눈에 띄게 뛰어난 출력 결과를 낳는다.
• 제안된 미분 가능 오차 함수는 L2 손실 및 기타 대안들보다 인지 품질 측면에서 뛰어난 성능을 보였다.
• 본 연구는 손실 함수가 최종 출력 품질에 상당한 영향을 미치며, 이는 이전 연구에서 자주 간과된 점임을 확인했다.