[논문 리뷰] f-GAN: Training Generative Neural Samplers using Variational Divergence Minimization

Sebastian Nowozin, Botond Cseke외 1명|arXiv (Cornell University)|2016. 06. 02.

Adversarial Robustness in Machine Learning참고 문헌 29인용 수 636

한 줄 요약

본 논문은 GAN 학습이 f-divergences 위의 변분적 발산 최소화의 특수한 사례임을 보이고, 변분 판별기를 사용하여 임의의 f-divergence로 학습되도록 생성 신경 샘플러를 일반화한다.

ABSTRACT

Generative neural samplers are probabilistic models that implement sampling using feedforward neural networks: they take a random input vector and produce a sample from a probability distribution defined by the network weights. These models are expressive and allow efficient computation of samples and derivatives, but cannot be used for computing likelihoods or for marginalization. The generative-adversarial training method allows to train such models through the use of an auxiliary discriminative neural network. We show that the generative-adversarial approach is a special case of an existing more general variational divergence estimation approach. We show that any f-divergence can be used for training generative neural samplers. We discuss the benefits of various choices of divergence functions on training complexity and the quality of the obtained generative models.

연구 동기 및 목표

• Jensen-Shannon/GAN을 넘어서는 발산을 통해 생성 신경 샘플러의 학습을 동기 부여하고 형식화한다.
• Q_theta를 학습시켜 P를 근사하기 위한 일반 프레임워크로 변분적 발산 최소화(VDM)를 도입한다.
• 광범위한 f-divergences 가족에 대한 f-GAN 목표를 유도하고 이를 신경망으로 구현하는 방법을 보인다.
• 다양한 f-divergences를 처리하기 위한 실용적 최적화 방법 및 활성화 설계에 대해 명확히 한다.
• 이미지 데이터와 모델 성능에 대한 발산 선택의 실증적 효과를 보여준다.

제안 방법

• 볼록 공액 f*를 통해 f-divergences와 그 변분 표현을 검토한다.
• Formulate the f-GAN saddle-point objective F(theta, omega) = E_{x~P}[T_omega(x)] - E_{x~Q_theta}[f*(T_omega(x))].
• 적절한 출력 활성화로 dom(f*)를 맞추기 위해 T_omega(x) = g_f(V_omega(x))로 변분 함수를 표현한다.
• GAN/JS는 특정 활성화 및 T*를 가진 일반 F(θ, ω) 목표의 특수한 사례임을 보인다.
• 한 번의 패스로 제너레이터와 변분 함수를 함께 업데이트하여 saddle point를 최적화하는 실용적인 단일 스텝 기울기 방법을 제안한다.
• 대안적 제너레이터 업데이트, 진짜/가짜 통계, 최적화 보조 수단(Adam, 그래디언트 클리핑) 등의 학습 팁을 논의한다.

실험 결과

연구 질문

• RQ1 임의의 f-divergence를 변분적 objective를 통해 생성 신경 샘플러 학습에 사용할 수 있는가?
• RQ2 f-divergence의 선택이 학습 동역학과 학습된 분포의 품질에 어떤 영향을 미치는가?
• RQ3 다양한 발산에 걸쳐 변분 함수를 구현할 때의 실용적 고려사항은 무엇인가?
• RQ4 합리적인 조건 하에서 단일 스텝 최적화 접근법이 saddle point로 수렴하는가?
• RQ5 MNIST, LSUN과 같은 실제 이미지 데이터 세트에서 발산이 결과에 어떤 영향을 미치는가?

주요 결과

• 임의의 f-divergence는 변분 판별기와 결합될 때 생성 샘플러에 유효한 학습 목표를 제공한다.
• GAN 학습은 더 넓은 f-GAN/VDM 프레임워크의 특수한 경우로 복원될 수 있다.
• 완화된 매끄러움과 볼록성 가정하에 실용적인 단일 스텝 기울기 방법이 saddle point에 수렴할 수 있다.
• 다양한 발산은 모델이 잘못 지정되었을 때 서로 다른 학습 분포를 초래하여 모델 적합성에 발산의 영향을 강조한다.
• MNIST와 LSUN에 대한 실증 연구는 발산에 따라 샘플 품질과 가능도 동작이 달라지며, KL 관련 발산이 때때로 MNIST 실험에서 더 높은 holdout 가능도를 보이는 경향이 있다.
• 이 프레임워크는 각 f-divergence에 대응하는 출력 활성화 및 T*에 대한 지침을 제공한다.