[論文レビュー] AttnConvnet at SemEval-2018 Task 1: Attention-based Convolutional Neural Networks for Multi-label Emotion Classification

Yanghoon Kim, Hwanhee Lee+1 more|arXiv (Cornell University)|Apr 3, 2018

Sentiment Analysis and Opinion Mining参考文献 12被引用数 8

ひとこと要約

この論文は、人間の2段階処理（理解してからラベル付けする）を模倣した、マルチラベル感情分類のためのアテンションベースの畳み込みニューラルネットワーク（AttnConvnet）を提案している。自己アテンションによる文脈表現、絵文字の意味への変換前処理、NRC感情リソースの統合を組み合わせることで、SemEval-2018タスク1において英語で5位、スペイン語で1位という最先端の性能を達成した。

ABSTRACT

In this paper, we propose an attention-based classifier that predicts multiple emotions of a given sentence. Our model imitates human's two-step procedure of sentence understanding and it can effectively represent and classify sentences. With emoji-to-meaning preprocessing and extra lexicon utilization, we further improve the model performance. We train and evaluate our model with data provided by SemEval-2018 task 1-5, each sentence of which has several labels among 11 given sentiments. Our model achieves 5-th/1-th rank in English/Spanish respectively.

研究の動機と目的

• 短くノイズの多いソーシャルメディア文に複数の感情を効果的に分類する深層学習モデルを開発すること。
• タスク固有の前処理と外部リソースを統合することで、リソースが限られたマルチラベル感情分類の性能を向上させること。
• 文の理解と感情分類を別々の段階に分けることで、人間の認知処理を模倣すること。
• 絵文字の意味への変換、自己アテンション、外部リソースの影響がモデル性能に与える影響を評価すること。

提案手法

• モデルは、単語埋め込みからクエリ、キー、値ベクトルを計算することで、文脈的な文の表現を学習する自己アテンションモジュールを用いる。
• 11の感情クラスそれぞれに独立した1次元畳み込みネットワークを適用し、各感情の分類を並列で実行する。
• 絵文字をその意味的同等物に置き換えることで、感情の信号表現を向上させる絵文字の意味への変換前処理を実施する。
• データスパarsityを扱うために、事前学習済みのGloVe（英語）およびfastText（スペイン語）の単語埋め込みを採用する。
• NRC感情リソースから得られる感情スコア特徴量を、プーリング層の出力に連結することで統合する。
• 事前学習済みモデルを微調整して合成データを生成したが、この手法は限定的な効果にとどまった。

実験結果

リサーチクエスチョン

• RQ1 絵文字の意味への変換前処理は、マルチラベル感情分類の性能にどのような影響を与えるか？
• RQ2 自己アテンションは、マルチラベル感情分類の表現学習をどの程度向上させるか？
• RQ3 感情リソースや合成データなどの外部リソースは、リソースが限られたデータセットにおけるモデルの一般化性能を向上させられるか？
• RQ4 アンサンブル学習は、SemEval-2018のマルチラベル感情分類ベンチマークにおける性能をどの程度向上させるか？

主な発見

• 絵文字の意味への変換前処理を適用することで、テスト精度が1%向上し、54.91%から55.90%に上昇した。
• 自己アテンションモジュールを削除すると、テスト精度が4%以上低下し、55.90%から51.60%に低下した。
• 二値化された単語レベルラベルを用いたNRCリソース統合（AC + nrc2）により、テスト精度が56.40%に向上した。
• 9つのAC + nrc2モデルのアンサンブルにより、最高の性能が達成され、英語データではバリデーション精度59.76%、テスト精度57.40%を記録した。
• 合成データ生成は性能向上に寄与せず、わずかにテスト精度を低下させたことから、過学習の可能性が示唆された。
• モデルはSemEval-2018タスク1のリーダーボードで、英語で5位、スペイン語で1位を達成した。