[論文レビュー] Text Generation Based on Generative Adversarial Nets with Latent Variable

Heng Wang, Zengchang Qin+1 more|arXiv (Cornell University)|Dec 1, 2017

Topic Modeling参考文献 18被引用数 3

ひとこと要約

本稿では、変分オートエンコーダー（VAE）と生成的対抗ネットワーク（GAN）を組み合わせ、潜在変数を用いて多様性と現実性を向上させるテキスト生成モデル、VGANを提案する。RNNベースの生成器とVAE、CNNの識別器を統合し、方策勾配による学習を実施することで、3つのベンチマークデータセットにおいて、負の対数尤度とBLEUスコアの両面でRNNLMおよびSeqGANを上回る最先端の性能を達成した。

ABSTRACT

In this paper, we propose a model using generative adversarial net (GAN) to generate realistic text. Instead of using standard GAN, we combine variational autoencoder (VAE) with generative adversarial net. The use of high-level latent random variables is helpful to learn the data distribution and solve the problem that generative adversarial net always emits the similar data. We propose the VGAN model where the generative model is composed of recurrent neural network and VAE. The discriminative model is a convolutional neural network. We train the model via policy gradient. We apply the proposed model to the task of text generation and compare it to other recent neural network based models, such as recurrent neural network language model and SeqGAN. We evaluate the performance of the model by calculating negative log-likelihood and the BLEU score. We conduct experiments on three benchmark datasets, and results show that our model outperforms other previous models.

研究の動機と目的

• 標準GANがテキスト生成において抱える問題、特にモード崩壊と多様性の欠如を解決すること。
• RNN言語モデルにおける露出バイアスおよび単語レベルの学習と文レベルの評価の不一致を克服すること。
• 離散的系列生成におけるデータ分布モデリングを向上させるために、ハイレベルの潜在確率的変数を導入すること。
• VAEとGANを統合した包括的なフレームワークを構築し、生成テキストの多様性と現実性を向上させること。
• 尤度およびn-gram類似度メトリクスの両方を用いて、標準的なテキスト生成ベンチマークで優れた性能を示すこと。

提案手法

• 潜在変数のモデリングを改善するため、RNNとVAEを組み合わせた生成器を備えた生成モデルVGANを提案する。
• 実際のテキスト系列と生成されたテキスト系列を区別するため、畳み込みニューラルネットワーク（CNN）を識別器として使用する。
• 生成器を方策勾配を用いて学習し、離散出力のバックプロパゲーションを可能にする敵対的目的を最適化する。
• 真の潜在変数の事後分布を近似するための変分推論フレームワークを導入し、エンドツーエンドの学習を可能にする。
• 識別器から得られる報酬信号を用いた敵対的学習を実施し、生成器の方策を改善する。
• 敵対的微調整の前に、生成器をVAEの目的関数で事前学習することで、学習の安定化と収束性の向上を図る。

実験結果

リサーチクエスチョン

• RQ1 VAEとGANを組み合わせることで、標準GANやRNNLMと比較して、生成テキストの多様性と現実性が向上するか？
• RQ2 生成器におけるハイレベルの潜在変数の使用は、離散的系列生成におけるモード崩壊の緩和およびデータ分布モデリングの向上に寄与するか？
• RQ3 GANフレームワークにおける敵対的学習と組み合わせた場合、方策勾配学習が離散的系列生成器を効果的に最適化できるか？
• RQ4 複数のデータセットにおいて、VGANはRNNLMおよびSeqGANと比較して、負の対数尤度とBLEUスコアの両面で優れた性能を示すか？
• RQ5 生成器の事前学習段階（VAEを用いて）は、VGANフレームワークにおける敵対的学習の安定性と性能向上に寄与するか？

主な発見

• Taobaoデータセットでは、VGANがNLL（負の対数尤度）191を達成し、RNNLM（219）およびSeqGAN（212）を上回った。
• Amazonデータセットでは、VGANがNLL 408を達成し、RNNLM（483）およびSeqGAN（467）を大きく下回った。
• PTBデータセットでは、VGANがNLL 423を達成し、RNNLM（502）、SeqGAN（490）、および事前学習済みのVGAN-pre（465）を上回った。
• Taobaoデータセットでは、VGANがBLEU-2スコア0.969を達成し、RNNLM（0.965）、SeqGAN（0.968）、およびVGAN-pre（0.968）を上回った。
• Amazonデータセットでは、VGANがBLEU-2スコア0.868を達成し、RNNLM（0.848）、SeqGAN（0.856）、およびVGAN-pre（0.848）を上回った。
• 敵対的学習プロセスにより、すべてのデータセットでNLLが一貫的かつ顕著に低下し、生成器の性能向上が時間経過とともに顕著に見られた。