[論文レビュー] Empathetic Dialogue Generation via Knowledge Enhancing and Emotion Dependency Modeling.

Qintong Li, Piji Li+2 more|arXiv (Cornell University)|Sep 21, 2020

Topic Modeling参考文献 53被引用数 11

ひとこと要約

本稿では、感情関連の知識を文脈グラフに統合し、感情に焦点を当てたアテンションを備えたグラフ認識トランスフォーマーを用いて感情的依存関係をモデル化する、知識強化型の共感的対話生成フレームワークKnow-EDGを提案する。自動評価および人的評価の両方の指標において、最先端の手法を上回る性能を発揮する。

ABSTRACT

Enabling the machines with empathetic abilities to provide context-consistent responses is crucial on both semantic and emotional levels. The task of empathetic dialogue generation is proposed to address this problem. However, two challenges still exist in this task: perceiving nuanced emotions implied in the dialogue context and modelling emotional dependencies. Lacking useful external knowledge makes it challenging to perceive implicit fine-grained emotions. Missing the emotional interactions among interlocutors also restricts the performance of empathetic dialogue generation. To address above challenges, we propose a knowledge-enhanced framework, named Know-EDG. We first enrich dialogue context by bunches of emotion-related concepts and construct a knowledge-enhanced context graph. Then we introduce a graph-aware Transformer encoder to learn graph's semantic and emotional representations, which are the prerequisites of the emotion identifier to predicate the target emotion signal. Finally, we propose an emotion-focused attention mechanism to exploit the emotional dependencies between dialogue context and target empathetic response. Conducted on a benchmark dataset, extensive experimental results show that our proposed framework outperforms state-of-the-art baselines in terms of automatic metrics and human evaluations.

研究の動機と目的

• 対話文脈における繊細で内省的な感情を認識する課題に対処すること。
• 対話参加者間の感情的依存関係をモデル化し、共感的応答生成を改善すること。
• 外部の感情関連知識を用いて文脈表現を強化し、感情予測を向上させること。
• 共感的応答のための意味的、感情的、依存関係に配慮した表現を統合的に学習するフレームワークの構築

提案手法

• 外部知識から得た感情関連概念を対話発話に統合することで、知識強化型の文脈グラフを構築する。
• 文脈グラフからの意味的および感情的表現を共同で学習するため、グラフ認識トランスフォーマーエンコーダを採用する。
• グラフから学習された表現に基づいて、ターゲットの感情シグナルを予測する感情識別モジュールを統合する。
• 対話文脈と応答生成の間の感情的依存関係を明示的にモデル化するため、感情に焦点を当てたアテンション機構を設計する。
• 自動評価および人的評価の両方のプロトコルを備えたベンチマークデータセットを用いて、エンドツーエンドのフレームワークを訓練する。
• 内的な感情的キューが存在する状況において、外部知識を活用して微細な感情認識を向上させる。

実験結果

リサーチクエスチョン

• RQ1 外部知識は、対話文脈における微細で内的な感情の認識を改善できるか？
• RQ2 グラフベースの表現モデルは、対話の各ターンにわたる感情的依存関係をどれほど効果的に捉えられるか？
• RQ3 感情に焦点を当てたアテンションは、生成された応答の感情の整合性をどの程度向上させるか？
• RQ4 知識統合と依存関係モデリングを統合することで、既存の共感的対話生成手法に顕著な改善がもたらされるか？

主な発見

• 提案されたKnow-EDGフレームワークは、最先端のベースラインと比較して、自動評価指標で優れた性能を達成した。
• 人的評価の結果、Know-EDGが生成する応答は、感情の整合性と共感性がより高いことが確認された。
• 外部知識の統合により、モデルの対話における繊細な感情的キューの検出能力が顕著に向上した。
• 感情に焦点を当てたアテンション機構は、対話の各ターン間の感情的依存関係を効果的に捉え、応答の関連性を向上させた。
• グラフ認識トランスフォーマー・エンコーダは、知識強化型の文脈グラフから、豊富な意味的および感情的表現を効果的に学習した。
• ベンチマークデータセットにおける実験結果から、自動評価および人的評価の両方で一貫した性能向上が示された。