[論文レビュー] Creative GANs for generating poems, lyrics, and metaphors

Asir Saeed, Suzana Ilić+1 more|arXiv (Cornell University)|Sep 20, 2019

Topic Modeling参考文献 25被引用数 11

ひとこと要約

本論文では、最大尤度推定（MLE）の代わりに識別器を用いた敵対的訓練を採用することで、詩、歌詞、隠喩などの創造的テキスト生成のオリジナリティと多様性を向上させるGenerative Adversarial Networkフレームワーク、Creative-GANを提案する。このモデルは、3つの異なる創造的テキストデータセットにおいて、パーセプレキシティと定性的な多様性の両面でMLEベースのベースラインおよびGumbelGANを上回る性能を発揮する。

ABSTRACT

Generative models for text have substantially contributed to tasks like machine translation and language modeling, using maximum likelihood optimization (MLE). However, for creative text generation, where multiple outputs are possible and originality and uniqueness are encouraged, MLE falls short. Methods optimized for MLE lead to outputs that can be generic, repetitive and incoherent. In this work, we use a Generative Adversarial Network framework to alleviate this problem. We evaluate our framework on poetry, lyrics and metaphor datasets, each with widely different characteristics, and report better performance of our objective function over other generative models.

研究の動機と目的

• 最大尤度推定（MLE）の創造的テキスト生成における限界を解決すること。MLEはしばしば一般的で繰り返し的で、一貫性のない出力をもたらす。
• 詩、歌詞、隠喩といった複数の妥当な出力が許容されるタスクにおいて、生成テキストの多様性とオリジナリティを向上させること。
• 真の出力との厳密な一致が存在しない状況において、識別器を用いた敵対的訓練が、より高品質で創造的な出力へと生成モデルを効果的に誘導できるかどうかを評価すること。
• 自動指標および定性的なパフォーマンスの観点から、提案されたCreative-GANフレームワークをMLEベースの言語モデルおよびGumbelGANと比較すること。

提案手法

• 生成器は、Gutenbergデータセットで事前学習されたAWD-LSTMまたはTransformerXL言語モデルを微調整し、その後MLEを用いてターゲットの創造的テキストデータセットに適応させる。
• 識別器は、生成器と同じエンコーダ構造を持つ二値分類器であり、最大プーリングと平均プーリングの隠れ状態を統合するプールドデコーダヘッドを備えており、[0,1]のスコアとしてサンプルの真正性を出力する。
• 敵対的訓練は、識別器を3ステップ更新し、次に生成器を1ステップ更新するのを繰り返す。生成器の出力は非微分可能であるため、方策勾配を用いて生成器の出力の背後に誤差を逆伝播させる。
• 生成器は識別器からの報酬信号を用いて訓練され、より創造的で繰り返しの少ないシーケンスの生成を促進する。
• 出力品質と多様性を向上させるために、argmaxではなく、完全な多項分布全体からサンプリングする。
• ハイパーパrameterとモデル構成は検証セット上で調整され、学習および推論コードは公開されている。

実験結果

リサーチクエスチョン

• RQ1 MLEベースのモデルと比較して、識別器を用いた敵対的訓練が、創造的テキスト生成におけるオリジナリティと多様性を向上させることができるか。
• RQ2 詩、隠喩、歌詞といった言語的特徴が異なる多様な創造的テキストドメインにおいて、Creative-GANはどのように性能を発揮するか。
• RQ3 識別器ベースの報酬信号を用いることで、自動指標および定性的な出力の両面で、GumbelGANや標準MLEベースラインを上回る性能が得られるか。
• RQ4 真の出力リファレンスに依存せずに、識別器が生成器を繰り返しの少ない、一貫性のある、スタイルに適した創造的テキストの生成へと効果的に誘導できる程度はどの程度か。

主な発見

• Creative-GANは、詩、隠喩、歌詞の3つのデータセットすべてにおいて、MLEベースのベースラインおよびGumbelGANと比較して、テストセットにおけるパーセプレキシティが低かった。
• 識別器のフィードバックにより、生成器はより多様で繰り返しの少ない出力を生成するよう促され、MLEで学習されたモデルに見られる単調さが軽減された。
• 人間評価の傾向から、定性的な出力が向上していることが示唆されるが、主な本文には具体的な人間評価スコアは報告されていない。
• 言語的複雑性や構造が異なるデータセットにおいても一貫した改善が見られ、ドメインの違いに対して頑健であることが示された。
• 方策勾配とGumbel-Softmax再パrameter化の使用により、離散的テキストトークンを介した効果的な誤差逆伝播が可能となり、生成器のエンドツーエンド学習が可能になった。
• 外部の識別器からのフィードバックが、真のリファレンスが存在しないデコードタスク（例：創造的テキスト生成）の最適化に有効であることが、このフレームワークによって示された。