[논문 리뷰] Cumulant GAN.

Yannis Pantazis, Dipjyoti Paul외 3명|arXiv (Cornell University)|2020. 06. 11.

Generative Adversarial Networks and Image Synthesis참고 문헌 62인용 수 4

한 줄 요약

이 논문은 누적모멘트 생성 함수를 기반으로 한 새로운 GAN 손실 함수인 Cumulant GAN을 소개한다. 이는 리니어 분류기와 정규 분포 데이터 하에서 나시 균형에 선형 수렴을 보장하며, KLD, 반전 KLD, 헬링거 거리, χ²-발산을 포함하는 레니의 발산 최소화를 통합한다. 이미지 생성의 안정성과 성능이 워셔스탈 GAN보다 인셉션 스코어와 프리셰트 인셉션 거리 측정치에서 향상됨을 입증한다.

ABSTRACT

In this paper, we propose a novel loss function for training Generative Adversarial Networks (GANs) aiming towards deeper theoretical understanding as well as improved stability and performance for the underlying optimization problem. The new loss function is based on cumulant generating functions giving rise to \emph{Cumulant GAN}. Relying on a recently-derived variational formula, we show that the corresponding optimization problem is equivalent to R{\'e}nyi divergence minimization, thus offering a (partially) unified perspective of GAN losses: the R{\'e}nyi family encompasses Kullback-Leibler divergence (KLD), reverse KLD, Hellinger distance and $\chi^2$-divergence. Wasserstein GAN is also a member of cumulant GAN. In terms of stability, we rigorously prove the linear convergence of cumulant GAN to the Nash equilibrium for a linear discriminator, Gaussian distributions and the standard gradient descent ascent algorithm. Finally, we experimentally demonstrate that image generation is more robust relative to Wasserstein GAN and it is substantially improved in terms of both inception score and Fr\'echet inception distance when both weaker and stronger discriminators are considered.

연구 동기 및 목표

• 훈련 안정성과 성능을 햖थ기하는 이론적으로 탄탄한 GAN 손실 함수를 개발하는 것.
• 변분 공식을 통해 누적모멘트 생성 함수를 활용해 기존 GAN 손실을 레니의 발산 프레임워크에 통합하는 것.
• GAN 훈련의 최적화 과정에 대한 이론적 수렴 보장을 확립하는 것.
• 다양한 분류기 강도에서 개선된 생성 품질을 경험적으로 검증하는 것.

제안 방법

• 누적모멘트 생성 함수에서 유도된 변분 공식을 활용해 새로운 GAN 손실 함수를 정의하는 방법.
• 손실 함수가 레니의 발산 최소화와 동치임을 보여주며, 기존의 여러 GAN 목표를 통합함.
• 표준 경사수하강법을 사용할 때 선형 분류기와 정규 분포 데이터 하에서 나시 균형에 선형 수렴이 보장됨을 이론적으로 분석함.
• 이 프레임워크는 워셔스탈 GAN을 특수 케이스로 포함하며, 그 이론적 기반을 확장함.
• 이 방법은 약한 및 강한 분류기 모두에서 안정적인 훈련을 가능하게 함.
• 경험적 평가에서는 인셉션 스코어와 프리셰트 인셉션 거리를 사용해 이미지 생성 품질을 평가함.

실험 결과

연구 질문

• RQ1 누적모멘트 생성 함수를 활용해 GAN 손실에 대해 통합된 이론적 프레임워크를 수립할 수 있는가?
• RQ2 제안된 누적모멘트 기반 손실이 표준 훈련 동역학 하에서 나시 균형에 선형 수렴을 보장하는가?
• RQ3 이미지 품질 측정치에서 Cumulant GAN의 성능이 워셔스탈 GAN보다 어떻게 다를까?
• RQ4 약하거나 강한 분류기를 사용할 때도 이 방법이 안정성과 성능 향상을 유지할 수 있는가?
• RQ5 레니의 발산 가족이 제안된 Cumulant GAN 프레임워크에 완전히 포함되는가?

주요 결과

• Cumulant GAN은 Kullback-Leibler 발산, 반전 KLD, 헬링거 거리, χ²-발산을 포함한 여러 GAN 손실을 레니의 발산 최소화 프레임워크 내에서 통합한다.
• 표준 경사수하강법을 사용할 때 선형 분류기와 정규 분포 데이터 하에서 나시 균형에 선형 수렴이 보장됨을 증명함.
• 약한 및 강한 분류기 설정 모두에서 Cumulant GAN의 이미지 생성이 워셔스탈 GAN보다 더 뛰어난 내성적 안정성을 보임.
• Cumulant GAN은 워셔스탈 GAN보다 상당히 높은 인셉션 스코어와 프리셰트 인셉션 거리를 달성함.
• 워셔스탈 GAN이 공식적으로 Cumulant GAN 프레임워크 내의 특수 케이스임을 증명함으로써 그 이론적 기반을 확장함.
• 제안된 손실 함수는 아키텍처 수정 없이도 훈련 안정성과 생성 성능을 향상시킴.