[論文レビュー] A Question Answering Approach to Emotion Cause Extraction

Lin Gui, Jiannan Hu+4 more|arXiv (Cornell University)|Aug 18, 2017

Sentiment Analysis and Opinion Mining参考文献 30被引用数 12

ひとこと要約

本稿では、畳み込み記憶スロットを用いて順序的な文脈をモデル化する新しい深層記憶ネットワークを用いて、質問応答（QA）ベースの感情原因抽出手法を提案する。感情語をクエリとし、テキストをストーリーとみなして感情原因検出をQAタスクとして定式化することで、最近の感情原因データセットにおいて最先端の性能を達成し、ベースラインよりF値で最低3.01%の向上を示した。

ABSTRACT

Emotion cause extraction aims to identify the reasons behind a certain emotion expressed in text. It is a much more difficult task compared to emotion classification. Inspired by recent advances in using deep memory networks for question answering (QA), we propose a new approach which considers emotion cause identification as a reading comprehension task in QA. Inspired by convolutional neural networks, we propose a new mechanism to store relevant context in different memory slots to model context information. Our proposed approach can extract both word level sequence features and lexical features. Performance evaluation shows that our method achieves the state-of-the-art performance on a recently released emotion cause dataset, outperforming a number of competitive baselines by at least 3.01% in F-measure.

研究の動機と目的

• テキスト内の感情の原因を特定する課題に取り組むこと。これは感情分類よりも深い意味的理解を要する。
• 従来の手法が手動で作成したルールに依存するか、感情語とその原因の間の意味的・関係的情報を無視するという限界を克服すること。
• 感情原因抽出を質問応答における読解タスクとして定式化することで、文脈や長距離依存関係のより良いモデル化を可能にすること。
• 複数の記憶スロットを介して畳み込み演算を用いて順序的な文脈を明示的に捉える記憶ネットワークアーキテクチャを開発すること。
• ベンチマーク用の感情原因データセットにおいて最先端の性能を達成し、QAにインspiredされたフレームワークの有効性を示すこと。

提案手法

• モデルは、感情原因抽出をQAタスクとして扱う。具体的には、感情語（例：'sad'）をクエリとし、与えられたテキストパラグラフがその感情の原因を含むかどうかを判断する。
• 深層記憶ネットワークアーキテクチャを用い、テキストパラグラフ（ストーリー）と感情語（クエリ）の両方を単語埋め込み表現で入力する。
• 文脈表現を格納する複数の記憶スロットを用い、畳み込み演算を用いて順序的依存関係をモデル化し、局所的な文脈構造を保持する。
• アテンション機構を用いて、テキスト内の各単語がクエリに対してどれほど関連しているかを計算し、感情原因に関連する顕著なフレーズに注目できるようにする。
• 最終的な回答は、集約された文脈表現に基づき'yes'または'no'として生成され、モデルは原因の有無を予測するように学習される。
• ConvMS-Memnetという変種は、畳み込み特徴学習とマルチスロット記憶を組み合わせることで、キーワードレベルの原因検出性能を向上させた。

実験結果

リサーチクエスチョン

• RQ1 感情原因抽出をQAタスクとして効果的に定式化することで、従来の情報抽出手法よりも性能を向上させることができるか？
• RQ2 記憶ネットワークにおいて、順序的な文脈情報を明示的にモデル化することで、感情原因の特定をより良くできるか？
• RQ3 記憶スロットに畳み込み演算を組み込むことで、感情原因抽出における関連する節やキーワードの特定が向上するか？
• RQ4 提案されたモデルは、感情原因検出におけるF値という指標で、既存のベースラインをどの程度上回るか？
• RQ5 学習の深さ（ステップ数）とアテンション機構が、感情原因の特定能力に与える影響は何か？

主な発見

• 提案されたQAベースのモデルは、感情原因検出データセットにおいて最先端の性能を達成し、競合するベースラインよりF値で最低3.01%の向上を示した。
• 畳み込み演算を記憶スロットに統合したConvMS-Memnet変種は、キーワードレベルでベースラインのMemnetよりF値を5.6%向上させた。
• わずか5エポックの学習後にも、モデルは感情原因節を高い確率で正しく特定できた。これは収束が速いことを示している。
• アテンション機構は、'insistence'のようなキーワードを感情原因に関連するものとして適切に強調しており、顕著なフレーズに的確に注目できていることを示している。
• モデルの性能は学習エポック数が増えるにつれて向上し、より深い学習により正しい原因節の検出が精錬され、誤ったものとの抑制が強化されていることがわかった。
• 複雑な話法的構造、例えば長距離依存関係や否定構造に対しては、モデルが苦労することがあり、今後の研究では話法的モデリングの強化が求められる。