[論文レビュー] Incorporating Discriminator in Sentence Generation: a Gibbs Sampling Method

Jinyue Su, Jiacheng Xu+2 more|arXiv (Cornell University)|Feb 25, 2018

Topic Modeling参考文献 22被引用数 12

ひとこと要約

本稿では、事前学習言語モデルと判別モデルを用いて候補文を段階的に改善することで、制約付きで流暢で多様な文を生成するためのギブスサンプリングベースのフレームワークを提案する。判別モデルが語の置換をガイドすることで生成品質が向上し、ベースラインのサンプリング手法よりも高いBLEUスコアと対数尤度を達成している。

ABSTRACT

Generating plausible and fluent sentence with desired properties has long been a challenge. Most of the recent works use recurrent neural networks (RNNs) and their variants to predict following words given previous sequence and target label. In this paper, we propose a novel framework to generate constrained sentences via Gibbs Sampling. The candidate sentences are revised and updated iteratively, with sampled new words replacing old ones. Our experiments show the effectiveness of the proposed method to generate plausible and diverse sentences.

研究の動機と目的

• 感情やトピックなどの明示的な制約を満たす短い、流暢で多様な文を生成する課題に対処すること。
• 制約下で意味的に整合性のない文や意味のない文を生成してしまう自己回帰的モデルの限界を克服すること。
• 言語モデルと判別モデルを分離することで、ラベル付きデータとラベルなしデータの両方を活用できる半教師あり学習を可能にすること。
• 文の長さの制御を可能にし、流暢さと制約適合性のコンponentを分離することで解釈可能性を向上させること。
• 標準的な自己回帰的デコードとは異なる、神経的テキスト生成におけるギブスサンプリングの新規な応用を検討すること。

提案手法

• フレームワークはギブスサンプリングを用い、文内の各語を逐次的に再サンプリングすることで、条件付き確率に基づいて新しい語に置き換える。
• 事前学習済み言語モデルが $ p(w_i | w_{1..i-1}, w_{i+1..n}) $ を計算することで、局所的な一貫性を保証し、文の流暢さを推定する。
• 別個の判別モデルが、現在の文が望ましい制約を満たしているかどうかを評価し、$ p(c | w_{1..n}) $ を推定する。
• 各イテレーションで、候補生成器が言語モデルに基づいて最も確率の高い語を選択して候補語を生成する。
• ギブスサンプリングプロセスは、語の更新と判別モデルによる文の再評価を交互に繰り返し、段階的に制約適合性を向上させる。
• 本手法は長さ制御が可能であり、モジュール型の学習が可能である：言語モデルと判別モデルは、それぞれラベル付きデータおよびラベルなしデータ上で独立に学習できる。

実験結果

リサーチクエスチョン

• RQ1 自己回帰的手法と比較して、ギブスサンプリングを制約付き文生成に効果的に適用することで、流暢さと多様性が向上するか？
• RQ2 直接 $ p(w_{1..n}|c) $ をモデリングしない状況下でも、判別モデルの統合が生成文の制約適合性をどのように向上させるか？
• RQ3 提案手法は、BLEUスコア、対数尤度、有効文割合という観点から、標準的なサンプリングベースラインをどの程度上回るか？
• RQ4 言語モデルをラベルなしデータで、判別モデルをラベル付きデータで学習することで、本フレームワークが半教師あり学習をサポートできるか？
• RQ5 システムのモジュール性は、生成失敗時の解釈可能性と障害診断にどのように影響するか？

主な発見

• 提案されたギブスサンプリング手法は、短縮補正なし・ありの両状況で、ベースラインのサンプリング手法よりも顕著に高いBLEUスコアを達成した。
• ギブスサンプリングでは生成文の単語あたりの対数尤度が高く、言語モデルとの整合性と流暢さが向上していることを示している。
• ギブスサンプリングでは有効文割合がわずかに高くなっており、判別効率の向上が示されている。
• ギブスサンプリングプロセスが自然に長さ制約をサポートするため、本手法は文の長さを制御可能である。
• 失敗事例の主な原因は、言語モデルの限界（例：壊れた文節や不完全な節）に起因しており、判別モデルによるものではない。
• 言語モデルと判別モデルをラベル付きデータおよびラベルなしデータ上で別々に学習できるため、本フレームワークは半教師あり学習をサポートしている。