[論文レビュー] MojiTalk: Generating Emotional Responses at Scale

Xianda Zhou, William Yang Wang|arXiv (Cornell University)|Nov 11, 2017

Topic Modeling参考文献 25被引用数 16

ひとこと要約

この論文では、Twitterデータ内の自然に現れる絵文字を暗黙の感情ラベルとして活用することで、スケーラブルに感情表現のある会話応答を生成する手法MojiTalkを提案する。50万件の絵文字ラベル付きTwitter会話データで訓練された強化付き条件付き変分オートエンコーダー（CVAE）を用い、指定された感情と整合した高品質で抽象的（abstractive）な応答を生成する。人的評価では27％の評価者が機械生成応答と人間が書いた応答を区別できず、優れた人間らしさを示した。

ABSTRACT

Generating emotional language is a key step towards building empathetic natural language processing agents. However, a major challenge for this line of research is the lack of large-scale labeled training data, and previous studies are limited to only small sets of human annotated sentiment labels. Additionally, explicitly controlling the emotion and sentiment of generated text is also difficult. In this paper, we take a more radical approach: we exploit the idea of leveraging Twitter data that are naturally labeled with emojis. More specifically, we collect a large corpus of Twitter conversations that include emojis in the response, and assume the emojis convey the underlying emotions of the sentence. We then introduce a reinforced conditional variational encoder approach to train a deep generative model on these conversations, which allows us to use emojis to control the emotion of the generated text. Experimentally, we show in our quantitative and qualitative analyses that the proposed models can successfully generate high-quality abstractive conversation responses in accordance with designated emotions.

研究の動機と目的

• 神経的会話エージェントの訓練に適した大規模で手作業でアノテートされた感情表現付き応答データセットの不足に対処すること。
• 高価な人的アノテーションを回避するために、絵文字を自然な感情ラベルとして用いることで、感情表現付き応答の制御生成を可能にすること。
• 任意の絵文字ターゲットに基づいて、多様で抽象的かつ感情的に整合性のある応答を生成できる神経生成モデルの開発。
• Amazon Mechanical Turkを用いた自動分類と人的評価を通じて、生成された応答の品質と感情の正確性を評価すること。

提案手法

• 細分化された絵文字でラベル付けされた、50万件のTwitter会話ペアから成る大規模データセットを収集し、絵文字を裏にある感情の代理として扱う。
• 応答生成をターゲット絵文字で条件づけるため、系列対系列アテンション機構を備えた条件付き変分オートエンコーダー（CVAE）をベースモデルとして訓練する。
• 変分下界（VLB）とポリシー勾配（強化学習）を組み合わせたハイブリッド訓練目的関数を適用し、感情表現の質と応答の質を向上させる。
• 生成された応答の感情正確性を自動的に評価するために、事前学習済みの文書から絵文字への分類器（DeepMoji）を用いる。
• Amazon Mechanical Turkを介した人的評価を通じて、モデル出力とベースラインseq2seqモデルの間で関連性と感情の整合性を比較する。
• 簡易的なチューリングテストを用いて、生成された応答の人間らしさを評価し、人間が機械生成出力を人間のものと誤認する頻度を測定する。

実験結果

リサーチクエスチョン

• RQ1 ソーシャルメディアに自然に現れる絵文字は、大規模な感情表現応答生成のための弱い教師信号として効果的に利用できるか？
• RQ2 絵文字ラベルで条件づけられた条件付き変分オートエンコーダーは、スケーラブルに多様で抽象的かつ感情的に整合性のある応答を生成できるか？
• RQ3 提案手法の性能は、強力なベースラインseq2seqモデルと比較して、応答の関連性と感情正確性の面でどのように差がつくか？
• RQ4 人的評価の文脈において、生成された応答がどれほど人間が書いたものと誤認されるか？

主な発見

• 50万件の絵文字ラベル付きTwitter会話データで訓練された提案手法MojiTalkは、制御された感情を備えた高品質で抽象的な応答を効果的に生成した。
• 人的評価の結果、27％の評価者が機械生成応答と人間が書いた応答を区別できず、高い人間らしさを示した。
• モデルは高い感情正確性を達成し、文書から絵文字への分類器が生成された応答のターゲット感情を正しく同定した。
• 人的レーティングによる確認により、強化付きCVAEモデルはベースラインseq2seqモデルよりも関連性と感情の整合性の両面で優れていた。
• モデルは応答生成において多様性を示し、ベースラインseq2seqモデルで見られる繰り返しパターンを避けた。
• 強化付きCVAEでは長さの過剰生成が一部見られたが、文の流れの自然さは保たれ、ハイパーパramータのチューニングに対しても安定していた。