[論文レビュー] Emotion-aware Chat Machine: Automatic Emotional Response Generation for Human-like Emotional Interaction

Wei Wei, Jiayi Liu+5 more|arXiv (Cornell University)|Jun 6, 2021

Topic Modeling参考文献 12被引用数 17

ひとこと要約

本稿では、投稿の意味的および感情的コンテンツを統合的に符号化することで、文脈的に整合性があり感情的に適切な応答を生成するエンド・ツー・エンドの感情認識対話マシン（EACM）を提案する。自己注意を用いた統合的統合予測ネットワークにより、EACMは最先端手法よりも意味スコアで16.9%、感情スコアで1.72%、応答品質で25.81%の向上を達成し、感情的に不適切な応答を顕著に低減した。

ABSTRACT

The consistency of a response to a given post at semantic-level and emotional-level is essential for a dialogue system to deliver human-like interactions. However, this challenge is not well addressed in the literature, since most of the approaches neglect the emotional information conveyed by a post while generating responses. This article addresses this problem by proposing a unifed end-to-end neural architecture, which is capable of simultaneously encoding the semantics and the emotions in a post for generating more intelligent responses with appropriately expressed emotions. Extensive experiments on real-world data demonstrate that the proposed method outperforms the state-of-the-art methods in terms of both content coherence and emotion appropriateness.

研究の動機と目的

• 応答生成において意味的および感情的整合性を同時にモデル化できない対話システムのギャップを解消すること。
• 事前に指定された感情ラベルや絵文字に依存する既存の感情認識モデルの限界を克服し、応答の流暢さと感情的一致性を損なわないようにすること。
• 入力投稿の感情的内容に基づいて最適な応答の感情を自動で推定する統合的エンド・ツー・エンドニューラルアーキテクチャを開発すること。
• 感情的適切性と意味的整合性を保証することで、人間らしい感情的対話を向上させること。

提案手法

• 感情選択と応答生成を統合した1つのフレームワークに統合したエンド・ツー・エンドニューラルアーキテクチャ、EACMを提案する。
• 自己注意を用いた統合予測ネットワークを採用し、入力投稿からの意味的および感情的表現を同時に符号化する。
• 自己注意機構を用いて長距離依存関係を捉え、意味的および感情的表現学習を向上させる。
• 入力から直接感情に敏感な表現を学習する「ソフト感情インジェクション」を導入し、事前にラベル付けされた感情に硬くマッピングするのを避ける。
• 注意機構を備えたシーケンス・ツー・シーケンス学習によりエンド・ツー・エンドで訓練し、意味的および感情的一致性の共同最適化を可能にする。
• 応答生成と感情分類の両方の目的を統合した損失関数を採用し、感情の意図と応答内容の整合性を高める。

実験結果

リサーチクエスチョン

• RQ1 統合的エンド・ツー・エンドモデルは、意味的および感情的表現を同時に学習することで、オープンドメイン対話における応答品質を向上させることができるか？
• RQ2 入力コンテンツから感情を学習する「ソフト感情インジェクション」と、事前にラベル付けされた感情カテゴリを使用する「ハード感情インジェクション」では、どちらが優れているか？
• RQ3 手動でアノテートされた感情ラベルに依存せずに、モデルが最適な応答感情を自動で推定できる範囲はどの程度か？
• RQ4 意味と感情を同時にモデル化することは、分離してモデル化するアプローチよりも、より整合性があり感情的に適切な応答を生成できるか？
• RQ5 提案されたEACMモデルは、自動評価および人的評価の両方において、最先端のベースラインと比較してどの程度の性能を示すか？

主な発見

• EACMはベースラインのECMに対して意味スコアで16.9%の向上を達成し、生成された応答における意味的整合性の優位性を示した。
• EACMはECMと比較して感情スコアで1.72%、応答品質で25.81%の向上を示し、感情的適切性と全体的な応答品質の強化を裏付けた。
• 人的評価において、正しい感情と意味を持つ応答（1-1）の割合が39%に上昇した一方で、感情的に誤りだが意味的には正しい（0-1）カテゴリの割合は2.5%に低下し、感情的一致性の欠如が減少したことが示された。
• 事例研究により、EACMは「怒り、その他」といった複雑または曖昧な感情入力に対しても、感情的に適切な応答を生成できることを確認した。ECMは同様の状況で失敗した。
• EACMは、悲しい投稿に対して喜びの応答を生成するような感情的対立応答の頻度を低減し、Seq2seqおよびSeq2seq-embを上回る感情的整合性を示した。
• EACMは、実際の会話で一般的な「その他」感情カテゴリを、明示的な感情ラベルに依存せずに、洗練された感情パターンを学習することで効果的に処理できた。