[論文レビュー] Affect-Driven Dialog Generation

Pierre Colombo, Wojciech Witoń+3 more|arXiv (Cornell University)|Apr 4, 2019

Topic Modeling参考文献 24被引用数 7

ひとこと要約

この論文では、連続的な感情表現を用いて感情的に制御された応答を生成するニューラル対話システムであるEMOTICONSを紹介する。感情埋め込み、感情正則化項、および人間を含むフィードバックループによる再ランク付けプロセスを統合することで、ベースラインモデルと比較して応答の多様性が最大52%向上し、BLEUスコアも7.7%向上するが、文法的正しさを維持し、感情的に適切な出力をユーザーが好む傾向が強く見られた。

ABSTRACT

The majority of current systems for end-to-end dialog generation focus on response quality without an explicit control over the affective content of the responses. In this paper, we present an affect-driven dialog system, which generates emotional responses in a controlled manner using a continuous representation of emotions. The system achieves this by modeling emotions at a word and sequence level using: (1) a vector representation of the desired emotion, (2) an affect regularizer, which penalizes neutral words, and (3) an affect sampling method, which forces the neural network to generate diverse words that are emotionally relevant. During inference, we use a reranking procedure that aims to extract the most emotionally relevant responses using a human-in-the-loop optimization process. We study the performance of our system in terms of both quantitative (BLEU score and response diversity), and qualitative (emotional appropriateness) measures.

研究の動機と目的

• エンドツーエンド対話システムにおいて明示的な感情制御が欠如していること、これはしばしば中立的または不適切な応答を生じさせることを解決すること。
• 離散的な感情ラベルではなく、連続的な感情表現（感情の価値・覚醒度・優位性）を用いて、感情的に豊かな応答の制御生成を可能にすること。
• 文法的正しさや一貫性を損なわず、応答の多様性と感情的適切さを向上させること。
• 定量的指標と定性的な人間による研究を通じて、システムの性能を評価すること。

提案手法

• 応答生成にゲート付き再帰ユニット（GRUs）とアテンションメカニズムを用いたシーケンス・ツー・シーケンスアーキテクチャを採用する。
• 感情的制御は、ターゲット感情の連続的ベクトル表現（VAD：価値、覚醒度、優位性）をデコーダーに組み込むことで実現する。
• 訓練中に中立的な語をペナルティ化する感情正則化項を導入し、生成応答における感情表現を促進する。
• ネットワークが複数のデコード経路で感情的に関連する語を生成するよう促す、新しい感情サンプリング手法を提案する。
• 推論段階では、感情分類器のフィードバックに基づく人間を含むフィードバックループによる最適化プロセスを用いた再ランク付け手順により、最も感情的に適切な応答を選択する。
• 自然な流れと感情的適切さの両立を図るため、交差エントロピー損失と感情正則化を組み合わせたファインチューニングを実施する。

実験結果

リサーチクエスチョン

• RQ1 連続的な感情表現を用いて、神経対話システムは制御的に感情的に適切な応答を生成できるか？
• RQ2 感情正則化とサンプリングの導入が、応答の多様性と感情的表現力にどのように寄与するか？
• RQ3 人間を含むフィードバックループによる再ランク付けプロセスは、生成応答の感情的適切さをどの程度向上させるか？
• RQ4 ユーザーは、EMOTICONSが生成する応答の文法的正しさと感情的適切さを、ベースラインモデルと比較してどのように評価するか？

主な発見

• ベースラインseq2seqモデルと比較して、EMOTICONSはBLEUスコアを最大7.7%向上させ、応答の自然さと関連性の向上を示した。
• ベースラインと比較して、応答の多様性が最大52%向上し、感情サンプリングと正則化技術の有効性が裏付けられた。
• ユーザーの好みに関する研究では、96回の比較のうち37回でEMOTICONSの応答が選ばれ、ベースラインモデルを顕著に上回った。
• 文法的正しさは全感情タイプで維持されており、ネイティブスピーカーによる評価で79–84%の応答が文法的に正しいとされた。
• ユーザー研究により、EMOTICONSは感情的に適切な応答を効果的に生成できていることが確認され、平均的なVADベクトルは意図された感情とよく一致しており、特に恐怖、怒り、喜びの感情に対して顕著であった。
• 驚きを表現する点では性能が低く、主にユーザーが驚きと喜びを混同していたことが原因で、感情認識とラベル付けの課題が浮き彫りになった。