[論文レビュー] Constructing Emotion Consensus and Utilizing Unpaired Data for Empathetic Dialogue Generation

Lei Shen, Jinchao Zhang+3 more|arXiv (Cornell University)|Sep 16, 2021

Topic Modeling参考文献 41被引用数 5

ひとこと要約

本稿では、感情共感を表す離散的潜在変数を用いて、文脈→応答の前向き（forward）および応答→文脈の後向き（backward）対話生成を統合的に学習する二重生成モデル、Dual-Empを提案する。オープンドメイン会話からの対応のない感情データを活用して偽ラベル付きの学習ペアを生成することで、Dual-Empは共感的応答生成を向上させ、EmpatheticDialoguesベンチマークにおいて、自然さ、一貫性、共感性の面で最先端の性能を達成した。

ABSTRACT

Researches on dialogue empathy aim to endow an agent with the capacity of accurate understanding and proper responding for emotions. Existing models for empathetic dialogue generation focus on the emotion flow in one direction, that is, from the context to response. We argue that conducting an empathetic conversation is a bidirectional process, where empathy occurs when the emotions of two interlocutors could converge on the same point, i.e., reaching an emotion consensus. Besides, we also find that the empathetic dialogue corpus is extremely limited, which further restricts the model performance. To address the above issues, we propose a dual-generative model, Dual-Emp, to simultaneously construct the emotion consensus and utilize some external unpaired data. Specifically, our model integrates a forward dialogue model, a backward dialogue model, and a discrete latent variable representing the emotion consensus into a unified architecture. Then, to alleviate the constraint of paired data, we extract unpaired emotional data from open-domain conversations and employ Dual-Emp to produce pseudo paired empathetic samples, which is more efficient and low-cost than the human annotation. Automatic and human evaluations demonstrate that our method outperforms competitive baselines in producing coherent and empathetic responses.

研究の動機と目的

• 共感的対話生成における一方向的モデリングの制限を解消し、共感を文脈から応答への一方向的流れとして扱うのではなく、改善すること。
• 共感を感情共感に中心を置いた二重方向的プロセスとして形式化し、発話者と聞き手が感情的に一致するようにすること。
• 共感的対話データの不足を克服し、オープンドメイン会話から得られる大規模な対応のない感情発話の有効活用を図ること。
• 前向きおよび後向きの生成を統合的に最適化し、離散的潜在変数を用いて共有される感情的理解をモデル化する統一された生成フレームワークを開発すること。

提案手法

• Dual-Empは、一つのアーキテクチャ内に前向き対話モデル（文脈 → 応答）と後向き対話モデル（応答 → 文脈）を統合する。
• 文脈と応答の間で共有される感情共感を表すために、離散的潜在変数 $ z_e $ を導入し、高次元の感情的整合性を捉える。
• 感情強化型アテンション機構を用いて、両方のデコーダーで感情共感 $ z_e $ を活用し、共感的な応答を生成する。
• RedditとTwitterから事前学習済みの32クラスの感情分類器を用いて対応のない感情発話を抽出し、偽ペアサンプルを生成する。
• ペアデータと偽ペアデータの両方を組み合わせた共同学習目的関数を採用し、ノイズの多い対応のないラベルの学習を安定化させるために温度制御損失を用いる。
• ペアデータと偽ペアデータの両方の学習に適した最適化戦略を別々に適用することで、効果的な知識の転送を実現する。

実験結果

リサーチクエスチョン

• RQ1 共有される感情共感を伴う二重方向的プロセスとして共感をモデル化することで、応答生成の質が向上するか？
• RQ2 対応のない感情データを活用することで、対応データが限られる状況において共感的対話生成がどの程度向上するか？
• RQ3 感情共感のための離散的潜在変数の統合により、より一貫性があり感情的に正確な応答が生成されるか？
• RQ4 対応のないデータラベルの信頼度が異なる場合、モデルの性能にどのような影響を与えるか？

主な発見

• Dual-EmpはEmpatheticDialoguesベンチマークで最先端の性能を達成し、自動評価および人間評価の両面で競合モデルを上回った。
• 32の感情カテゴリすべてにおいて感情の正確性が向上し、一方向モデルと比較してよりバランスの取れた分布を示した。
• 人間評価では、MoEL、Emp-DG、MIMEといったベースラインと比較して、Dual-Empがより自然で一貫性があり、共感的な応答を生成した。
• モデルは文脈にふさわしい応答を生成できており、『仕事を失った』から『新しい仕事の希望』への微細な感情の変化を正しく特定・反映していた。
• 対応のない発話から生成された偽ペアデータは、ノイズの多いラベルであってもモデル性能を顕著に向上させ、データ拡張戦略の有効性を示した。
• 対応のないデータ量を増やしても性能が必ずしも向上しないことから、ラベルの品質と信頼度がデータ選択において極めて重要な要因であることが示された。