[論文レビュー] EmpDG: Multiresolution Interactive Empathetic Dialogue Generation

Qintong Li, Hongshen Chen+4 more|arXiv (Cornell University)|Nov 20, 2019

Topic Modeling参考文献 62被引用数 11

ひとこと要約

本稿では、対話全体の感情とトークン単位の感情を統合的にモデル化することで、応答の感情的ニュアンスを向上させる、マルチスケールの敵対的モデルであるEmpDGを提案する。さらに、ユーザーのフィードバックを用いたインタラクティブな敵対的フレームワークを導入し、感情の認識度を向上させた。EmpathicDialoguesデータセットにおいて、コンテンツ品質および共感スコアの両面で、最先端のベースラインを著しく上回った。

ABSTRACT

A humanized dialogue system is expected to generate empathetic replies, which should be sensitive to the users' expressed emotion. The task of empathetic dialogue generation is proposed to address this problem. The essential challenges lie in accurately capturing the nuances of human emotion and considering the potential of user feedback, which are overlooked by the majority of existing work. In response to this problem, we propose a multi-resolution adversarial model -- EmpDG, to generate more empathetic responses. EmpDG exploits both the coarse-grained dialogue-level and fine-grained token-level emotions, the latter of which helps to better capture the nuances of user emotion. In addition, we introduce an interactive adversarial learning framework which exploits the user feedback, to identify whether the generated responses evoke emotion perceptivity in dialogues. Experimental results show that the proposed approach significantly outperforms the state-of-the-art baselines in both content quality and emotion perceptivity.

研究の動機と目的

• 既存のモデルが会話生成における人間の感情の微細なニュアンスを捉えることの制限を解決すること。
• ユーザーのフィードバックを動的シグナルとして統合し、生成応答の感情認識度を向上させること。
• 対話レベルとトークンレベルの両方の感情シグナルを統合するマルチスケールフレームワークを構築すること。
• 長期的な共感目標に整合するインタラクティブな敵対的訓練メカニズムを通じて、応答生成の質を向上させること。
• 文脈的および感情的に適切な応答を生成できる、より人間らしい会話システムを構築すること。

提案手法

• EmpDGは、粗いスケールの対話レベルの感情と細かいスケールのトークンレベルの感情語を同時に符号化するマルチスケールの共感的生成器を採用する。
• モデルはクロスアテンション機構を用いて、対話文脈からのマルチスケールの感情的キューに応答生成器を整合させる。
• 2つの識別器を備えたインタラクティブな敵対的学習フレームワークを導入する：1つは対話履歴に基づいて応答の共感性を評価し、もう1つはユーザーのフィードバックを追加的文脈として使用する。
• 識別器は敵対的に訓練され、生成器がより感情的に認識されやすい応答を生成するように最適化される。
• ユーザーのフィードバックは、生成器が適切な感情反応を引き起こす応答を生成するように導くための訓練シグナルの一部として明示的にモデル化される。
• フレームワークは、意味的および感情的フィードバックを統合し、フィードバックに配慮した方法で応答生成を洗練させる。

実験結果

リサーチクエスチョン

• RQ1 粗いスケールと細かいスケールの両方の感情的シグナルをモデル化することで、生成応答の感情的ニュアンスが向上するか？
• RQ2 敵対的訓練プロセスにユーザーのフィードバックを統合すると、生成応答の共感性と一貫性にどのような影響を与えるか？
• RQ3 マルチスケールの敵対的フレームワークは、単一スケールの感情モデル化アプローチに比べて、共感的会話生成においてどの程度優れているか？
• RQ4 ユーザーのフィードバックを活用するインタラクティブな識別メカニズムは、より感情的に認識されやすく、文脈的に適切な応答を生成できるか？
• RQ5 提案手法は、現実世界の共感的会話シナリオにおける多様な感情状態と会話文脈に、どの程度一般化可能か？

主な発見

• EmpDGは、EmpathicDialoguesベンチマークデータセットにおいて、コンテンツ品質および共感品質の両面で、最先端のベースラインを著しく上回った。
• モデルは、'sorry'、'hope'、'better'などの細かいスケールの感情語に注目することで、より情報量が多く文脈的に関連性の高い応答を生成した。
• ケーススタディでは、EmpDGはより共感的な応答を生成した——例：'I am sorry to hear that. I hope he gets better.'——一方、ベースラインは一般的すぎるか感情的に不一致な返答を生成した。
• インタラクティブな敵対的フレームワークは、アテンション可視化と応答品質比較の両方で、ユーザーのフィードバックを効果的に活用して生成応答の感情的認識度を向上させた。
• 特にネガティブな感情状況では、ベースラインモデルが共感を表現できないのに対し、EmpDGは感情的に適切な応答を生成する点で優れたパフォーマンスを示した。
• アブレーションスタディにより、マルチスケールの感情モデル化とフィードバックに配慮した訓練の両方が、共感性と応答品質の向上に不可欠であることが確認された。