[論文レビュー] Think Twice: A Human-like Two-stage Conversational Agent for Emotional Response Generation

Yushan Qian, Bo Wang+6 more|arXiv (Cornell University)|Jan 12, 2023

Topic Modeling被引用数 6

ひとこと要約

本論文では、感情付与のない意味的に整合性のあるプロトタイプ応答を最初に生成し、次に共感に基づく感情検出によって誘導される制御可能なかいごの修正器を用いてそれを精錬する二段階型会話エージェントを提案する。この手法は、大規模な感情付与データセットへの依存を軽減しながら、感情的応答生成において最先端の性能を達成し、自動評価および人的評価の両面で既存モデルを上回る。

ABSTRACT

Towards human-like dialogue systems, current emotional dialogue approaches jointly model emotion and semantics with a unified neural network. This strategy tends to generate safe responses due to the mutual restriction between emotion and semantics, and requires rare emotion-annotated large-scale dialogue corpus. Inspired by the "think twice" behavior in human dialogue, we propose a two-stage conversational agent for the generation of emotional dialogue. Firstly, a dialogue model trained without the emotion-annotated dialogue corpus generates a prototype response that meets the contextual semantics. Secondly, the first-stage prototype is modified by a controllable emotion refiner with the empathy hypothesis. Experimental results on the DailyDialog and EmpatheticDialogues datasets demonstrate that the proposed conversational outperforms the comparison models in emotion generation and maintains the semantic performance in automatic and human evaluations.

研究の動機と目的

• エンドツーエンドの感情付き対話モデルが稀な感情付与コーパスに過度に依存する問題と意味的劣化の問題を解消すること。
• 『二度考える』認知戦略を模倣することで、意味的生成と感情的精錬を分離し、人間らしい対話行動を再現すること。
• 検出された文脈的感情に基づいて『再書式化』および『追加』戦略を適用する制御可能なかいごの修正器を用いて、感情的応答の質を向上させること。
• 最初の段階のモデルを感情付与なしの対話データで学習させることで、大規模な感情付与データセットへの依存を低減すること。
• 共感仮説に従い、最終的な応答の感情を文脈の感情状態と一致させることで、応答の整合性と共感性を向上させること。

提案手法

• 二段階アーキテクチャ：最初の段階では、感情付与なしの対話データで微調整された事前学習済み言語モデルを用いてプロトタイプ応答を生成する。
• 対話感情検出器が履歴発話から文脈的感情状態を特定し、精錬の対象とする感情としての基準を提供する。
• 第二段階では、二つのモジュールを用いる：『再書式化』モジュールはプロトタイプ内の感情的語彙を対象感情に合わせて変更し、『追加』モジュールは感情的表現を含む文を挿入する。
• GLEUスコアに基づいて、再書式化と追加の出力の間で最終的な応答を選択し、流れと関連性を保証する。
• 感情の修正器は制御可能な生成技術で学習され、コアな意味を変えることなく感情のトーンを動的に調整可能である。
• 共感仮説が全プロセスを規定する：最終的な応答の感情は、文脈の感情状態と一致させることで、共感的な一貫性を確保する。

実験結果

リサーチクエスチョン

• RQ1 意味的生成と感情的精錬を分離する二段階アプローチは、エンドツーエンドモデルと比較して感情的応答の質を向上させることができるか？
• RQ2 『再書式化』および『追加』戦略に基づく制御可能なかいごの修正器の使用は、感情表現の豊かさを向上させるのにどの程度有効か？
• RQ3 提案されたモデルは、大規模な感情付与対話コーパスへの依存をどの程度低減できるか？
• RQ4 共感に基づく感情検出は、応答の感情と文脈の感情の一致を向上させるか？
• RQ5 感情的に適切な応答を生成する際、高い意味的整合性を維持できるか？

主な発見

• 提案された二段階型会話エージェントは、DailyDialogおよびEmpatheticDialoguesデータセットにおいて、自動評価および人的評価の両面で既存モデルを上回る性能を発揮した。
• 人的評価指標により確認されたように、本モデルは感情生成分野で最先端の性能を達成しながらも、強い意味的関連性を維持している。
• 非付与データでの事前学習段階の導入により、大規模な感情付与データセットへの依存が顕著に低減された。
• GLEUに基づく選択器は、再書式化と追加戦略の間で効果的に選択を行い、流れを損なわず応答の質を向上させた。
• 事例研究では、モデルが感情的に豊かで文脈的に整合性のある応答を生成していることが示された。例えば、中立的な発話を感情表現を追加することで共感的な応答に変換している。
• 対話感情検出器は、文脈を連結するか、単一発話を分類する手法よりも優れた性能を示し、動的で感情認識の有効性を実証した。