[논문 리뷰] Multi-class Generative Adversarial Networks with the L2 Loss Function.

Xudong Mao, Qing Li외 3명|arXiv (Cornell University)|2016. 11. 13.

Generative Adversarial Networks and Image Synthesis참고 문헌 11인용 수 149

한 줄 요약

이 논문은 표준 GAN에서 사용하는 시그모이드 교차 엔트로피 손실 대신 분류기의 L2 손실 함수를 사용하여 훈련을 안정화시키는 다중 클래스 GAN을 제안한다. 이는 일반적으로 발생하는 포화 문제를 해결하기 위한 것이다. 수작업으로 쓴 중국어 문자 3,740개 클래스의 데이터셋에서의 실험 결과, L2 기반 접근 방식이 많은 클래스에 걸쳐 안정적이고 고품질의 이미지 생성을 가능하게 한다.

ABSTRACT

Generative adversarial networks (GANs) have achieved huge success in unsupervised learning. Most of GANs treat the discriminator as a classifier with the binary sigmoid cross entropy loss function. However, we find that the sigmoid cross entropy loss function will sometimes lead to the saturation problem in GANs learning. In this work, we propose to adopt the L2 loss function for the discriminator. The properties of the L2 loss function can improve the stabilization of GANs learning. With the usage of the L2 loss function, we propose the multi-class generative adversarial networks for the purpose of image generation with multiple classes. We evaluate the multi-class GANs on a handwritten Chinese characters dataset with 3740 classes. The experiments demonstrate that the multi-class GANs can generate elegant images on datasets with a large number of classes. Comparison experiments between the L2 loss function and the sigmoid cross entropy loss function are also conducted and the results demonstrate the stabilization of the L2 loss function.

연구 동기 및 목표

• 표준 GAN에서 시그모이드 교차 엔트로피 손실 함수로 인해 발생하는 훈련 불안정성, 특히 포화 문제를 해결하기 위해.
• 많은 수의 클래스에서 이미지 생성을 수행할 때 GAN의 안정성과 성능을 향상시키기 위해.
• 분류기의 L2 손실 함수를 사용하는 다중 클래스 GAN 프레임워크를 제안하기 위해.
• L2 손실이 표준 시그모이드 교차 엔트로피 손실과 비교하여 다중 클래스 이미지 생성에서의 효과를 평가하기 위해.

제안 방법

• 표준 GAN의 분류기에서 사용하는 시그모이드 교차 엔트로피 손실을 L2 손실 함수로 대체하여 훈련 안정성을 향상시키기 위해.
• 수작업으로 쓴 중국어 문자 3,740개 클래스와 같은 많은 수의 클래스를 가진 데이터셋에서 이미지를 생성할 수 있는 다중 클래스 GAN 아키텍처를 설계하기 위해.
• 실제와 가짜 특징 표현 간의 차이를 최소화하기 위해, L2 손실을 사용하여 생성기와 분류기를 동시에 훈련시키기 위해.
• 모든 클래스의 실제 이미지와 생성된 이미지를 구분할 수 있도록 분류기의 다중 클래스 분류 헤드를 설계하기 위해.
• 실제와 생성된 특징 맵 간의 L2 손실을 최소화함으로써 생성기를 최적화하여 현실적인 샘플을 생성하기 위해.
• 실제 데이터 분포와 생성된 데이터 분포 양쪽에 L2 손실을 적용하여, 분류기가 더 안정적이고 의미 있는 특징 표현을 학습하도록 유도하기 위해.

실험 결과

연구 질문

• RQ1 시그모이드 교차 엔트로피 손실을 L2 손실 함수로 대체하면 GAN의 훈련 안정성이 향상되는가?
• RQ2 L2 기반 분류기는 많은 수의 클래스를 가진 다중 클래스 이미지 생성을 효과적으로 처리할 수 있는가?
• RQ3 L2 손실 기반 GAN은 시그모이드 교차 엔트로피 손실을 사용하는 표준 GAN과 비교하여 이미지 품질과 훈련 수렴성 측면에서 어떻게 성능을 내는가?
• RQ4 L2 손실 함수는 GAN 훈련에서 포화 문제를 효과적으로 완화하는가?

주요 결과

• L2 손실 함수는 GAN의 훈련 포화 위험을 크게 감소시켜 더 안정적인 훈련 동역학을 이끌어낸다.
• L2 손실을 사용하는 제안된 다중 클래스 GAN은 수작업으로 쓴 중국어 문자 3,740개 클래스에서 고품질의 이미지를 성공적으로 생성한다.
• 비교 실험 결과, L2 기반 GAN은 표준 GAN에 비해 훈련 안정성과 이미지 충실도 측면에서 뛰어난 성능을 보였다.
• L2 손실은 더 나은 특징 공간 최적화를 가능하게 하여 일관되고 현실적인 생성 샘플을 만들어낸다.