[论文解读] Text Generation Based on Generative Adversarial Nets with Latent Variable

Heng Wang, Zengchang Qin+1 more|arXiv (Cornell University)|Dec 1, 2017

Topic Modeling参考文献 18被引用 3

一句话总结

本文提出 VGAN，一种结合变分自编码器（VAE）与生成对抗网络（GAN）的文本生成模型，通过引入潜在变量以提升生成结果的多样性与真实感。通过将基于 RNN 的生成器与 VAE 结合，并采用 CNN 判别器，再利用策略梯度进行训练，VGAN 在三个基准数据集上实现了最先进性能，其负对数似然与 BLEU 分数均优于 RNNLM 与 SeqGAN。

ABSTRACT

In this paper, we propose a model using generative adversarial net (GAN) to generate realistic text. Instead of using standard GAN, we combine variational autoencoder (VAE) with generative adversarial net. The use of high-level latent random variables is helpful to learn the data distribution and solve the problem that generative adversarial net always emits the similar data. We propose the VGAN model where the generative model is composed of recurrent neural network and VAE. The discriminative model is a convolutional neural network. We train the model via policy gradient. We apply the proposed model to the task of text generation and compare it to other recent neural network based models, such as recurrent neural network language model and SeqGAN. We evaluate the performance of the model by calculating negative log-likelihood and the BLEU score. We conduct experiments on three benchmark datasets, and results show that our model outperforms other previous models.

研究动机与目标

• 解决标准 GAN 在文本生成中面临的模式崩溃与多样性不足问题。
• 克服 RNN 语言模型中存在的暴露偏差，以及词级别训练与句子级别评估之间的不匹配问题。
• 通过引入高层潜在随机变量，改进离散序列生成中的数据分布建模。
• 构建一个统一框架，结合 VAE 与 GAN，以同时提升生成文本的多样性与真实感。
• 通过联合使用似然与 n-gram 相似性指标，在标准文本生成基准上展示优越性能。

提出的方法

• 提出 VGAN，一种生成模型，其生成器结合 RNN 与 VAE，以更好地学习潜在变量的数据分布。
• 使用卷积神经网络（CNN）作为判别器，以区分真实与生成的文本序列。
• 采用策略梯度训练生成器，以优化对抗目标，实现对离散输出的反向传播。
• 引入变分推理框架，以近似潜在变量的真实后验分布，从而实现端到端训练。
• 应用对抗训练，利用来自判别器的奖励信号，以优化生成器策略。
• 在对抗微调前，先使用 VAE 目标对生成器进行预训练，以稳定训练过程并提升收敛性。

实验结果

研究问题

• RQ1 将 VAE 与 GAN 结合，是否能相比标准 GAN 或 RNNLM 提升生成文本的多样性和真实感？
• RQ2 在生成器中引入高层潜在变量，是否有助于缓解模式崩溃，并改善离散序列生成中的数据分布建模？
• RQ3 在 GAN 框架中结合对抗训练时，策略梯度训练是否能有效优化离散序列生成器？
• RQ4 在多个数据集上，所提出的 VGAN 模型相较于 RNNLM 与 SeqGAN 等强基线模型，在负对数似然与 BLEU 分数上的表现如何？
• RQ5 生成器的预训练阶段（通过 VAE 实现）是否能带来更稳定且更优的对抗训练效果？

主要发现

• 在 Taobao 数据集上，VGAN 的负对数似然（NLL）最低，为 191，优于 RNNLM（219）与 SeqGAN（212）。
• 在 Amazon 数据集上，VGAN 的 NLL 为 408，显著低于 RNNLM（483）与 SeqGAN（467）。
• 在 PTB 数据集上，VGAN 的 NLL 为 423，优于 RNNLM（502）、SeqGAN（490）与预训练的 VGAN-pre（465）。
• 在 Taobao 数据集上，VGAN 的 BLEU-2 得分为 0.969，高于 RNNLM（0.965）、SeqGAN（0.968）与 VGAN-pre（0.968）。
• 在 Amazon 数据集上，VGAN 的 BLEU-2 得分为 0.868，优于 RNNLM（0.848）、SeqGAN（0.856）与 VGAN-pre（0.848）。
• 对抗训练过程在所有数据集上均带来 NLL 的持续且显著下降，表明生成器性能随时间稳定提升。