[論文レビュー] CAiRE: An Empathetic Neural Chatbot

Zhaojiang Lin, Peng Xu+5 more|arXiv (Cornell University)|Jul 28, 2019

Topic Modeling参考文献 25被引用数 25

ひとこと要約

CAiRE は、応答言語モデル化、応答予測、対話感情検出の3つのマルチタスク目的を用いて、大規模な事前学習言語モデルを微調整するエモパシーに満ちたエンドツーエンドのニューラルチャットボットである。このモデルは、エモパシー対話データセットにおいて最先端のパフォーマンスを達成し、応答の perplexity、BLEU スコア、感情分類の正確性において、先行モデルを上回っている。

ABSTRACT

In this paper, we present an end-to-end empathetic conversation agent CAiRE. Our system adapts TransferTransfo (Wolf et al., 2019) learning approach that fine-tunes a large-scale pre-trained language model with multi-task objectives: response language modeling, response prediction and dialogue emotion detection. We evaluate our model on the recently proposed empathetic-dialogues dataset (Rashkin et al., 2019), the experiment results show that CAiRE achieves state-of-the-art performance on dialogue emotion detection and empathetic response generation.

研究の動機と目的

• 自然な対話においてユーザーの感情を理解し、それに応じた応答を生成できるエンドツーエンドのエモパシー対応チャットボットの開発。
• 大規模な事前学習とマルチタスク微調整を通じて、エモパシー対話システムにおけるデータスパarsity とモデル容量の制限を克服すること。
• 流暢さ、関連性、感情的適切さを同時に最適化することで、応答生成の質を向上させること。
• ユーザーが不適切または倫理に反する応答を報告するフィードバックを活用したアクティブラーニングにより、継続的な改善を可能にすること。

提案手法

• BooksCorpus データセットを用いて、大規模な事前学習済み言語モデル上で Generative Pre-trained Transformer (GPT) を微調整する。
• 応答言語モデル化、応答予測、対話感情検出の3つの目的を持つマルチタスク学習フレームワークを導入する。
• 重み付き損失の和を用いる：$\mathcal{L} = \alpha\mathcal{L}_{L} + \mathcal{L}_{S} + \mathcal{L}_{E}$ で、応答生成と感情分類を統合する。
• 微調整の前に、17億件の Reddit 会話データで事前学習することで、雑談能力を強化する。
• ユーザーが不適切な応答を報告し、改善された返答を提案できるウェブベースのインターフェースを採用する。
• ユーザーが修正した応答に基づく模倣学習を適用し、時間の経過とともに不適切な行動を軽減し、倫理的整合性を高める。

実験結果

リサーチクエスチョン

• RQ1 1つのエンドツーエンドモデルが、エモパシー対応の応答生成と対話感情検出を同時に最適化できるか？
• RQ2 感情検出を組み込んだマルチタスク学習は、エモパシー対話における応答の質と一貫性をどのように向上させるか？
• RQ3 大規模な会話データで事前学習することで、小規模で特化したエモパシー対話データセットにおけるパフォーマンスはどの程度向上するか？
• RQ4 ユーザーのフィードバックとアクティブラーニングは、ニューラルチャットボットにおける不適切または倫理に反する応答を効果的に削減できるか？
• RQ5 生成段階で感情検出を統合することで、より感情的適切で文脈的に関連性のある応答が得られるか？

主な発見

• CAiRE は、エモパシー対話データセットにおいて、応答 perplexity が 13.32 に達し、次に優れたモデル（19.05）を著しく上回った。
• 平均 BLEU スコアは 7.03 に達し、すべてのベースラインを上回り、次に高いスコアを記録した ENSEM-DM も 6.83 にとどまった。
• CAiRE は感情分類の正確性が 0.516 を達成し、従来の手法と比較して優れた感情検出性能を示した。
• 8 枚の GPU を用いて、2 秒のリクエスト間隔で 50 名以上の同時接続をサポートし、高いスケーラビリティと効率的な GPU 利用率を示した。
• ユーザーのフィードバックに基づくアクティブラーニングにより、不適切な応答が効果的に削減され、模倣学習により時間の経過とともに倫理的整合性が向上した。
• 感情検出をマルチタスクの目的として統合することで、自動評価指標およびユーザーインタラクションの両面で、よりエモパシーに満ちて文脈的に適切な応答が得られた。