[논문 리뷰] Least Squares Generative Adversarial Networks

Xudong Mao, Qing Li외 4명|arXiv (Cornell University)|2016. 11. 13.

Generative Adversarial Networks and Image Synthesis참고 문헌 32인용 수 161

한 줄 요약

LSGAN은 GAN의 시그모이드 크로스 엔트로피 손실을 판별기에 대한 최소제곱 손실로 대체하여 더 나은 이미지 품질과 더 안정적인 학습을 달성하고, Pearson 카이제곱 분산과 관련이 있다.

ABSTRACT

Unsupervised learning with generative adversarial networks (GANs) has proven hugely successful. Regular GANs hypothesize the discriminator as a classifier with the sigmoid cross entropy loss function. However, we found that this loss function may lead to the vanishing gradients problem during the learning process. To overcome such a problem, we propose in this paper the Least Squares Generative Adversarial Networks (LSGANs) which adopt the least squares loss function for the discriminator. We show that minimizing the objective function of LSGAN yields minimizing the Pearson $χ^2$ divergence. There are two benefits of LSGANs over regular GANs. First, LSGANs are able to generate higher quality images than regular GANs. Second, LSGANs perform more stable during the learning process. We evaluate LSGANs on five scene datasets and the experimental results show that the images generated by LSGANs are of better quality than the ones generated by regular GANs. We also conduct two comparison experiments between LSGANs and regular GANs to illustrate the stability of LSGANs.

연구 동기 및 목표

• 정규 GAN에서 생성기 업데이트 시 소실되는 그래디언트 문제를 해결한다.
• GAN의 판별기에 대한 최소제곱 손실 공식화를 제안한다.
• 일부 매개변수 선택 하에서 LSGAN 목표가 Pearson 카이제곱 발산을 최소화하는 것과 대응한다는 것을 보인다.
• 이미지 생성 및 다중 클래스 작업(예: 중국어 문자)에 대한 두 가지 네트워크 아키텍처를 제시한다.
• 데이터셋 전반에 걸쳐 정규 GAN에 비해 샘플 품질과 안정성이 향상되었음을 입증한다.

제안 방법

• a-b 부호화 체계를 갖춘 판별기에 대한 최소제곱 손실을 채택한다: D 훈련은 1/2 E[(D(x)-b)^2] + 1/2 E[(D(G(z))-a)^2]를 최소화한다.
• 생성기 훈련은 1/2 E[(D(G(z))-c)^2]를 최소화하여 생성 샘플을 목표 값 c로 밀어낸다.
• b-c=1이고 b-a=2일 때 이 목표가 p_data+p_g와 2p_g 사이의 Pearson 카이제곱 발산에 대응한다는 것을 보인다.
• 112x112 이미지 생성을 위한 하나의 모델 아키텍처와 다수의 클래스(예: 중국어 문자)에 대한 조건부 LSGAN을 제공한다.
• 매개변수 선택 옵션들(예: a=-1, b=1, c=0 또는 0-1 인코딩을 갖는 a,b,c) 및 그것들의 실제적 함의에 대해 설명한다.

실험 결과

연구 질문

• RQ1 GAN 판별기에 대한 최소제곱 손실 도입이 시그모이드 크로스 엔트로피를 사용하는 GAN에 비해 샘플 품질을 향상시키는가?
• RQ2 LSGAN 학습이 데이터셋 전반에서 더 큰 안정성과 모드 붕괴 감소를 보이는가?
• RQ3 LSGAN 목표가 f-발산류와 어떻게 관련되며, 특히 Pearson 카이제곱 발산과는 어떤 관계가 있는가?
• RQ4 다중 클래스나 대형 레이블 문제에 대해 조건부 설정으로 LSGAN을 확장할 수 있는가?

주요 결과

• LSGAN은 여러 LSUN 장면 데이터셋에서 일반 GAN보다 더 높은 품질의 이미지를 생성한다.
• LSGAN은 더 큰 학습 안정성과 소실되는 그래디언트에 대한 취약성이 감소함을 보여준다.
• 특정 설정과 적절한 옵티마이저에서 배치 정규화 없이도 수렴할 수 있다.
• 가우시안 혼합 실험에서 일반 GAN은 모드 붕괴를 보이는 반면 LSGAN은 전체 분포를 학습한다.
• 조건부 LSGAN은 3740개 클래스에 걸쳐 읽을 수 있는 중국어 문자를 생성할 수 있다.
• 정량적 분석은 특정 매개변수 선택 하에서 LSGAN 목표를 Pearson 카이제곱 발산 최소화와 연결한다.