[논문 리뷰] Generative Adversarial Networks

Ian Goodfellow, Jean Pouget-Abadie외 6명|arXiv (Cornell University)|2014. 06. 10.

Generative Adversarial Networks and Image Synthesis인용 수 4,518

한 줄 요약

이 논문은 Generative Adversarial Nets 프레임워크를 도입하여 데이터 분포를 마르코프 체인 없이 모델링하기 위해 생성자와 판별자를 미니맥스 게임으로 학습하고, 여러 데이터셋에서 질적 및 정량적 결과를 입증한다.

ABSTRACT

We propose a new framework for estimating generative models via an adversarial process, in which we simultaneously train two models: a generative model G that captures the data distribution, and a discriminative model D that estimates the probability that a sample came from the training data rather than G. The training procedure for G is to maximize the probability of D making a mistake. This framework corresponds to a minimax two-player game. In the space of arbitrary functions G and D, a unique solution exists, with G recovering the training data distribution and D equal to 1/2 everywhere. In the case where G and D are defined by multilayer perceptrons, the entire system can be trained with backpropagation. There is no need for any Markov chains or unrolled approximate inference networks during either training or generation of samples. Experiments demonstrate the potential of the framework through qualitative and quantitative evaluation of the generated samples.

연구 동기 및 목표

• 계산적으로 다루기 어려운 우도와 Markov 체인을 피하는 새로운 생성 모델링 접근 방식에 동기를 부여한다.
• 생성기가 판별자를 속여 실제 샘플과 구별할 수 없도록 데이터를 생성하도록 학습하는 두 사람 게임을 제안한다.
• 비모수적 극한에서 생성기가 진짜 데이터 분포를 복구할 수 있는 이론적 조건을 확립한다.
• 표준 이미지 데이터셋에서 프레임워크를 경험적으로 시연하여 샘플 품질과 학습 역학을 평가한다.

제안 방법

• 노이즈 z를 데이터 공간으로 매핑하는 생성기 G(z; θ_g)와 데이터 대 모델 기원을 예측하는 판별기 D(x; θ_d) 정의한다.
• V(D,G) = E_x~pdata[log D(x)] + E_z~pz[log(1 − D(G(z)))] 를 미니맥스 목적으로 formulation하고 D를 최대화하도록, G는 최소화하도록 학습한다.
• G가 변화함에 따라 D의 최적 근처를 유지하기 위해 D 업데이트를 k단계, G 업데이트를 한 단계 교대로 수행한다.
• 역전파를 사용하여 두 네트워크를 모두 학습한다; 마르코프 체인이나 명시적 추론은 필요 없다.
• 글로벌 최적은 pg = pdata일 때 발생한다는 이론적 분석을 제공하고, 학습 절차의 수렴을 분석한다.

실험 결과

연구 질문

• RQ1 대립적 학습 설정을 사용하여 생성 모델이 실제 데이터 분포를 학습할 수 있는 조건은 무엇인가?
• RQ2 훈련 중 D와 G를 어떻게 업데이트해야 안정적인 수렴을 보장할 수 있는가?
• RQ3 미니맥스 목적과 pdata와 pg 간의 발산 사이의 이론적 관계는 무엇인가?
• RQ4 샘플 품질과 가능도 추정 측면에서 표준 이미지 데이터셋에서 GAN 프레임워크의 실험적 성능은 어떠한가?

주요 결과

모델	MNIST	TFD
DBN	138±2	1909±66
Stacked CAE	121±1.6	2110±50
Deep GSN	214±1.1	1890±29
Adversarial nets	225±2	2057±26

• 게임의 글로벌 최적은 생성기 분포 pg가 데이터 분포 pdata와 정확히 같을 때에만 달성된다.
• 고정점 판별기 D*는 pdata/(pdata+pg) 이 되고 수렴 시 생성기가 pdata를 재현할 수 있다.
• 경험적으로, 적대적 신경망은 MNIST, Toronto Face Database, CIFAR-10에서 다른 심층 생성 모델과 경쟁력 있는 샘플을 생성한다.
• Parzen 윈도우 추정은 MNIST와 TFD에서 adversarial nets의 테스트 로그 가능도를 경쟁력 있게 보여준다(표 1).
• 훈련 및 샘플링에 마르코프 체인 필요성이 없으므로 직접 역전파 기반 최적화를 가능하게 한다.