[论文解读] Generative Adversarial Networks

Ian Goodfellow, Jean Pouget-Abadie+6 more|arXiv (Cornell University)|Jun 10, 2014

Generative Adversarial Networks and Image Synthesis被引用 4,518

一句话总结

本论文引入 Generative Adversarial Nets 框架，在最小化极大博弈中训练生成器和判别器，以在无马尔可夫链的情况下建模数据分布，并在若干数据集上展示定性与定量结果。

ABSTRACT

We propose a new framework for estimating generative models via an adversarial process, in which we simultaneously train two models: a generative model G that captures the data distribution, and a discriminative model D that estimates the probability that a sample came from the training data rather than G. The training procedure for G is to maximize the probability of D making a mistake. This framework corresponds to a minimax two-player game. In the space of arbitrary functions G and D, a unique solution exists, with G recovering the training data distribution and D equal to 1/2 everywhere. In the case where G and D are defined by multilayer perceptrons, the entire system can be trained with backpropagation. There is no need for any Markov chains or unrolled approximate inference networks during either training or generation of samples. Experiments demonstrate the potential of the framework through qualitative and quantitative evaluation of the generated samples.

研究动机与目标

• 提出一种新的生成建模方法，避免不可处理的似然和马尔可夫链。
• 提出一个两人博弈，在该博弈中生成器通过欺骗判别器使所生成的数据与真实样本无法区分，从而学习产生数据。
• 建立在非参数极限下生成器能够恢复真实数据分布的理论条件。
• 在标准图像数据集上对该框架进行经验验证，以评估样本质量和学习动态。

提出的方法

• 定义一个生成器 G(z; θ_g)，将噪声 z 映射到数据空间，以及一个判别器 D(x; θ_d)，用于预测数据来自真实样本还是模型产出。
• 将其表达为一个 minimax 目标 V(D,G) = E_x~pdata[log D(x)] + E_z~pz[log(1 − D(G(z)))]，并让 D 最大化而 G 最小化。
• 在更新 D 的 k 步和更新 G 的一步之间交替，以使 D 在 G 改变时仍接近其最优。
• 使用反向传播来训练这两个网络；不需要马尔可夫链或显式推断。
• 提供理论分析，表明全局最优在 pg = pdata 时出现，并分析训练过程的收敛性。

实验结果

研究问题

• RQ1 在什么条件下，生成模型能够在对抗性训练设置中学习到真实数据分布？
• RQ2 在训练过程中应如何更新 D 和 G 以确保稳定收敛？
• RQ3 极小极大目标与 pdata 与 pg 之间的散度之间的理论关系是什么？
• RQ4 在标准图像数据集上，GAN 框架在样本质量和似然估计方面的经验表现如何？

主要发现

模型	MNIST	TFD
DBN	138±2	1909±66
Stacked CAE	121±1.6	2110±50
Deep GSN	214±1.1	1890±29
Adversarial nets	225±2	2057±26

• 当且仅当生成器分布 pg 等于数据分布 pdata 时，博弈的全局最优才会达到。
• 定点判别器 D* 变为 pdata/(pdata+pg)，并且在收敛时，生成器可以重现 pdata。
• 经验上，Adversarial nets 在 MNIST、Toronto Face Database（TFD）和 CIFAR-10 上生成的样本与其他深度生成模型具有竞争力。
• 对测试对数似然的 Parzen 窗估计在 MNIST 和 TFD（表 1）上显示对抗性网络具有竞争力的性能。
• 该模型在训练和采样过程中避免了马尔可夫链的需要，使得可以直接进行基于反向传播的优化。