[論文レビュー] EmotionX-IDEA: Emotion BERT -- an Affectional Model for Conversation

Yen-Hao Huang, Ssu-Rui Lee+4 more|arXiv (Cornell University)|Aug 17, 2019

Topic Modeling参考文献 10被引用数 38

ひとこと要約

本論文は因果的発話モデリングとデータセット特化の事前学習により対話感情認識のためのBERTを適用・適合させ、FriendsでマイクロF1 0.815、EmotionPushで0.885を達成する。

ABSTRACT

In this paper, we investigate the emotion recognition ability of the pre-training language model, namely BERT. By the nature of the framework of BERT, a two-sentence structure, we adapt BERT to continues dialogue emotion prediction tasks, which rely heavily on the sentence-level context-aware understanding. The experiments show that by mapping the continues dialogue into a causal utterance pair, which is constructed by the utterance and the reply utterance, models can better capture the emotions of the reply utterance. The present method has achieved 0.815 and 0.885 micro F1 score in the testing dataset of Friends and EmotionPush, respectively.

研究の動機と目的

• 前の発話からの文脈を活用して会話における正確な感情認識を動機づける。
• Friends（脚本化された対話）とEmotionPush（チャット）データ間のドメイン差を扱う。
• 感情アノテーションにおけるデータ不足とラベルの不均衡を緩和する。
• 因果発話モデリングと専門的な事前学習を強化したBERTベースのフレームワークを提案する。
• EmotionLinesデータセット上でベースラインより改善を示す評価を行う。

提案手法

• 対象発話をその前の発話と連結して因果発話ペアとして対話を再構成する（x_t = concat(u_t, u_{t-1})）。
• 二つのドメイン適応済み事前学習モデルを開発する：FriendsBERT（脚本化されたFriendsデータ）とChatBERT（Twitter/チャット風データ）。
• Friends向けに人格/トークン化スキームを実装してキャラクター固有の手がかりを Encoding; EmotionPushにはスラング、絵文字、固有名詞へ対応するため非公式テキスト処理を適用。
• ラベル不均衡へ対処する重み付きNLL損失でファインチューニングし、[CLS]埋め込みを密結合の出力層で分類に用いる。
• 標準的なBERTファインチューニングで訓練するが、入力構造を二文形式および因果発話表現に適応。
• 従来のベースライン（BOW、TFIDF）とTextCNN系を比較し、マイクロF1を主要指標として報告。

実験結果

リサーチクエスチョン

• RQ1 前の文脈を活用して因果発話モデリングは対話における感情検出を改善できるか？
• RQ2 ドメイン適合型事前学習戦略（FriendsBERT、ChatBERT）は脚本化対話とチャット風対話でより良い性能を発揮するか？
• RQ3 重み付き損失は感情ラベルの不均衡を解消し訓練を安定化させるか？
• RQ4 単一文形式と二文形式の入力がBERTベースの対話感情分類にどう影響するか？
• RQ5 EmotionLinesデータセットで提案モデルの従来ベースラインに対する比較性能はどうか？

主な発見

• FriendsBERTとChatBERTはテストデータで優れたマイクロF1を達成：0.815（Friends）、0.885（EmotionPush）.
• 因果発話モデリングはTextCNNをAngerで最大6ポイント、Joyで2ポイント改善し、全体のF1も設定次第で約1–6ポイントの改善をもたらす。
• 初期訓練での重み付き損失は多数派と少数派の感情間の性能バランスを助け、少数クラス（例：Anger、Sadness）を支援する。
• 従来のベースライン（BOW、TFIDF）は全体F1は高いが少数派感情での性能が低い。
• Friendsスクリプトを用いたFriendsBERTとTwitterデータを用いたChatBERTという二つの適合型事前学習レジームは、ドメインバイアスとデータ不足を緩和する。
• 最も性能の良いバリアントはFriendsBERT-baseとFriendsBERT-largeで、Friends実験の中でトップの検証指標を達成。