[論文レビュー] Improving Variational Encoder-Decoders in Dialogue Generation

Xiaoyu Shen, Hui Su+2 more|arXiv (Cornell University)|Feb 6, 2018

Topic Modeling参考文献 28被引用数 31

ひとこと要約

本稿では、対話生成における変分自己オートエンコーダ・デコーダ（VED）モデルのための二段階訓練フレームワークを提案する。潜在表現学習と系列生成を分離することで、KL消失問題を軽減する。事前学習段階で自己オートエンコーダ（AE）を用いて柔軟な連続的表現を学習し、その後により表現力の高い潜在事前分布を備えたVEDを条件づけることで、自然な表現、一貫性、多様性の向上が図られ、自動評価および人的評価の両面で強力なベースラインを上回る結果を得た。

ABSTRACT

Variational encoder-decoders (VEDs) have shown promising results in dialogue generation. However, the latent variable distributions are usually approximated by a much simpler model than the powerful RNN structure used for encoding and decoding, yielding the KL-vanishing problem and inconsistent training objective. In this paper, we separate the training step into two phases: The first phase learns to autoencode discrete texts into continuous embeddings, from which the second phase learns to generalize latent representations by reconstructing the encoded embedding. In this case, latent variables are sampled by transforming Gaussian noise through multi-layer perceptrons and are trained with a separate VED model, which has the potential of realizing a much more flexible distribution. We compare our model with current popular models and the experiment demonstrates substantial improvement in both metric-based and human evaluations.

研究の動機と目的

• 変分自己オートエンコーダ・デコーダ（VED）モデルにおけるKL消失問題に対処すること。特に、RNNが潜在変数の学習を犠牲にして系列生成に過剰に集中する現象を解消すること。
• 系列生成の能力を損なわせることなく、VEDにおける潜在変数分布の表現力を向上させること。
• 表現学習と生成を分離する訓練フレームワークを構築し、より柔軟かつ効果的な事後分布および事前分布の構築を可能にすること。
• 二段階の訓練プロセス（まず自己符号化により連続的表現を学習し、その後にVEDをこれらの表現で訓練）が、優れた対話生成性能をもたらすことを実証すること。

提案手法

• モデルは訓練を二段階に分ける。まず、自己オートエンコーダ（AE）が離散的テキストを連続的埋め込みに復元する。
• 次に、条件付き変分オートエンコーダ（CVAE）がこれらの埋め込みから潜在変数を生成する。多層パーセプトロンを用いてガウスノイズを柔軟な潜在コードに変換する。
• AEモジュールは、高品質な連続的表現を抽出するために、RNNエンコーダおよびデコーダをユニバーサル近似関数として用いる。得られた表現は、CVAEにおける潜在変数モデリングの入力として使用される。
• 生成段階での一般化性能と露出バイアスの低減を図るため、訓練中にスケジューリングサンプリングを適用する。
• CVAEは、再構成とKLダイバージェンスのバランスを取る変分下界の目的関数で訓練される。一方、AEは表現学習の堅牢性を保証する。
• GAN風の精錬を排除し、VAEベースの代替手法を採用することで、敵対的訓練を回避し、系列変換タスクにおける安定的かつスケーラブルな訓練を実現する。

実験結果

リサーチクエスチョン

• RQ1 潜在表現学習と系列生成を分離することで、対話用VEDにおける潜在変数分布の表現力が向上するか？
• RQ2 二段階の訓練プロセスに分けることで、対話生成モデルにおけるKL消失問題の緩和にどのような影響を与えるか？
• RQ3 自己符号化とその後のVED訓練という二段階の訓練プロセスが、生成応答の自然さ、一貫性、多様性をどの程度向上させるか？
• RQ4 自己符号化段階でRNNベースのユニバーサル近似関数を用いることで、固定事前分布よりも高品質な表現が学習可能になるか？

主な発見

• 本稿のモデルは、Dailydialogコーパスにおいて、自然さの人的評価で最高得点89％を記録し、KLA+BOW（70％）やFB-all（74％）を大きく上回った。
• 一貫性評価では、文脈への関連性について44％の一致率を達成し、KLA+BOW（36％）やFB-all（29％）を上回り、文脈との整合性が優れていることが示された。
• 人的評価における多様性スコアは51％を記録し、ベースラインと比較してより多様で重複の少ない応答を生成していることが示された。
• 指標ベースの評価では、DailydialogおよびCornell Movie Corpusの両ベンチマークでBLEU、ROUGE、BERTScoreのすべてで一貫した向上が確認された。
• モデルはよりトピックに関連した情報豊かな応答を生成でき、例えばタクシー運賃の話題に対して「新しい車を買いたい」という新しい内容を含む応答を生成した。
• 人的評価により、モデルは自然で一貫性があり多様な応答を生成することが確認され、アノテーター間の合意率も高く、二段階訓練アプローチの有効性が裏付けられた。