[論文レビュー] Learning Discourse-level Diversity for Neural Dialog Models using Conditional Variational Autoencoders

Tiancheng Zhao, Ran Zhao+1 more|arXiv (Cornell University)|Mar 31, 2017

Topic Modeling参考文献 30被引用数 165

ひとこと要約

本論文は、オープンドメイン会話における談話レベルの多様性を捉えるCVAEベースの対話モデルを紹介し、知識導入型のバリアント（kgCVAE）と訓練を安定化させるための単語袋損失を提案する。

ABSTRACT

While recent neural encoder-decoder models have shown great promise in modeling open-domain conversations, they often generate dull and generic responses. Unlike past work that has focused on diversifying the output of the decoder at word-level to alleviate this problem, we present a novel framework based on conditional variational autoencoders that captures the discourse-level diversity in the encoder. Our model uses latent variables to learn a distribution over potential conversational intents and generates diverse responses using only greedy decoders. We have further developed a novel variant that is integrated with linguistic prior knowledge for better performance. Finally, the training procedure is improved by introducing a bag-of-word loss. Our proposed models have been validated to generate significantly more diverse responses than baseline approaches and exhibit competence in discourse-level decision-making.

研究の動機と目的

• オープンドメイン対話のワン・ツー・マニー性と談話レベルの多様性の必要性を動機づける。
• 多様な応答の潜在談話因子をモデル化するためのCVAEベースのフレームワークを開発する。
• kgCVAEを通じて言語知識を組み込み、性能と解釈性を向上させる。
• 潜在変数の消失を緩和するための単語袋（BOW）損失を用いてCVAEの訓練を改善する。
• 談話レベルの多様性が適切な応答を生成する際、単語レベルの多様性を上回る可能性を示す。

提案手法

• 各対話を文脈 c、応答 x、潜在 z の分布 p(x|z,c)p(z|c)として表現する。
• 事前ネットワーク p(z|c) と認識ネットワーク q(z|x,c) を用いて変分下限を最適化する。
• BRNN-GRUで発話をエンコードし、文脈をGRUで形成して c を作成し、z と c を条件として GRU で x を生成する。
• 語用特徴 y を生成と y の予測に組み込み、生成において知識を導入することで kgCVAE を導入する。
• BOW（単語袋）補助損失を用いて消失する潜在変数を緩和し、z と c から x の BOW を予測することで訓練を安定化させる。

実験結果

リサーチクエスチョン

• RQ1 条件付きVAE はオープンドメイン対話における談話レベルの多様性を捉えられるか。
• RQ2 潜在談話因子を組み込むことで、基準手法と比較して多様性と妥当な応答のカバレッジが改善されるか。
• RQ3 語知識導入によるガイダンス（kgCVAE）は性能と解釈性を改善するか。
• RQ4 単語袋損失はCVAE訓練を安定化させ、潜在変数の利用を高めるか。

主な発見

モデル	パープレキシティ（KL）	BLEU-1 精度	BLEU-1 リコール	BLEU-2 精度	BLEU-2 リコール	BLEU-3 精度	BLEU-3 リコール	BLEU-4 精度	BLEU-4 リコール	A-bow 精度	A-bow リコール	E-bow 精度	E-bow リコール	DA 精度	DA リコール
ベースライン	35.4 (n/a)	0.405	0.336	0.300	0.281	0.272	0.254	0.226	0.215	0.951	0.935	0.827	0.801	0.736	0.514
CVAE	20.2 (11.36)	0.372	0.381	0.295	0.322	0.265	0.292	0.223	0.248	0.954	0.943	0.815	0.812	0.704	0.604
kgCVAE	16.02 (13.08)	0.412	0.411	0.350	0.356	0.310	0.318	0.262	0.272	0.961	0.944	0.804	0.807	0.721	0.598

• CVAEおよび kgCVAE は、強いベースラインよりも多様な応答を生成し、指標全体でリコールが高い。
• kgCVAE は BLEU-1 から BLEU-4 および A-BOW 指標で最高の精度とリコールを達成する。
• エントロピー文脈全体で、CVAE/kgCVAE はベースラインより高いリコールを示し、kgCVAE は高い精度を維持する。
• 単語袋損失は潜在変数の消失を効果的に緩和し、KLアニーリングだけに依存せず訓練の安定性を向上させる。
• t-SNE の可視化は、学習された z-空間が対話行為や応答長と相関するクラスターを形成することを示唆する。