[論文レビュー] CoMAE: A Multi-factor Hierarchical Framework for Empathetic Response Generation

Chujie Zheng, Yong Liu+3 more|arXiv (Cornell University)|May 18, 2021

Topic Modeling参考文献 39被引用数 7

ひとこと要約

本稿では、コミュニケーションメカニズム、対話行動、感情を構造的で依存関係に基づく階層にモデル化する、多要因の階層的フレームワークCoMAEを提案する。GPT-2ベースのアーキテクチャを用いてこれらの要因を統合することで、応答の共感性が著しく向上し、自動評価および人的評価の両方で最先端の性能を達成した。階層的モデリングは、正確な要因選択と実現に不可欠であることが示された。

ABSTRACT

The capacity of empathy is crucial to the success of open-domain dialog systems. Due to its nature of multi-dimensionality, there are various factors that relate to empathy expression, such as communication mechanism, dialog act and emotion. However, existing methods for empathetic response generation usually either consider only one empathy factor or ignore the hierarchical relationships between different factors, leading to a weak ability of empathy modeling. In this paper, we propose a multi-factor hierarchical framework, CoMAE, for empathetic response generation, which models the above three key factors of empathy expression in a hierarchical way. We show experimentally that our CoMAE-based model can generate more empathetic responses than previous methods. We also highlight the importance of hierarchical modeling of different factors through both the empirical analysis on a real-life corpus and the extensive experiments. Our codes and used data are available at https://github.com/chujiezheng/CoMAE.

研究の動機と目的

• 既存の共感的応答生成モデルが共感要因を独立して扱うのではなく階層的に扱うという限界を解消すること。
• コミュニケーションメカニズム、対話行動、感情という共感の多次元的性質を、統一された階層的フレームワーク内にモデル化すること。
• 階層的モデリングの必要性と有効性を実証的に検証すること、特に共感要因の選択と実現の向上に寄与すること。
• GPT-2に基づくCoMAEベースのモデルを開発し、より共感的で一貫性があり、文脈的に適切な応答を生成すること。
• 共感要因間の階層的依存関係が、独立的または平坦なモデリングよりも優れた性能をもたらすことを示すこと。

提案手法

• CoMAEは、共感要因を階層的依存関係に構造化する：コミュニケーションメカニズム（CM）→ 対話行動（DA）→ 感情（EM）、現実の言語的依存関係を反映する。
• フレームワークは、各共感要因が階層内の先行要因に条件付けられるマルチタスク学習設定を採用する。
• GPT-2ベースのデコーダーが、CM、DA、EMの階層的埋め込みに基づいて応答を生成し、応答内のすべてのトークンに一様に共通するCoMAE埋め込みを適用する。
• 入力文脈からCM、DA、EMを予測するための分離分類器を採用し、要因に意識的な応答生成を可能にする。
• 条件付き依存関係により階層的モデリングを強制する：CMがDAに影響し、DAがEMに影響する。これにより、矛盾的または一貫性のない要因の組み合わせを低減する。
• フレームワークは要因予測と応答生成の両方をサポートし、Redditベースの共感的対話コーパスを用いた自動および人的評価を実施する。

実験結果

リサーチクエスチョン

• RQ1 共感要因（CM → DA → EM）の階層的モデリングは、独立的または平坦なモデリングよりも優れた応答生成をもたらすか？
• RQ2 コミュニケーションメカニズム、対話行動、感情の統合は、生成された応答の共感性と一貫性を向上させられるか？
• RQ3 階層的依存関係は、共感要因予測の正確性および生成された応答における要因の実現にどのように影響するか？
• RQ4 提案されたCoMAEフレームワークは、自動評価および人的評価において、既存手法をどの程度上回るか？
• RQ5 共感要因の階層的構造とモデル性能の向上の間に有意の相関があるか？

主な発見

• CoMAEベースのモデルは、3つの共感要因を階層的にモデリングした場合、最高の自動評価スコア（CM：70.7、DA：76.2、EM：72.6）を達成した。
• 階層的モデリングは共感要因の実現を著しく向上させ、符号検定のp値が0.00001未満であり、統計的に堅牢な向上が確認された。
• 人的評価では、CoMAEによって生成された応答が、従来の手法よりもより共感的で魅力的であることが確認された。特に複数の共感要因を統合した場合に顕著であった。
• モデルは要因予測の正確性が向上し、予測された要因と実現された要因との整合性も向上した。特にCM → DA → EMの依存関係が強制された場合に顕著であった。
• 事例研究では、階層的モデリングが、感情の自然な表現やコミュニケーションスタイルの文脈的適切な表現（例：感情の反応と解釈の組み合わせ）を可能にした。
• フレームワークは、独立したモデリング（例：CM || DA || EM）が最適でないことを示し、階層的モデリング（CM → DA → EM）が一貫性があり文脈に適切な共感の表現を可能にしたことを明らかにした。