[論文レビュー] Modeling Rich Contexts for Sentiment Classification with LSTM

Minlie Huang, Yujie Cao+1 more|arXiv (Cornell University)|May 5, 2016

Sentiment Analysis and Opinion Mining参考文献 2被引用数 32

ひとこと要約

本稿では、リツイート／リプライスレッドをモデル化することで、ソーシャルメディアのテキストにおける長距離の文脈的依存関係を捉える階層的LSTMモデルを提案する。これにより、感情分類の精度が顕著に向上する。単語レベルとツイートレベルのLSTMを組み合わせ、さらにソーシャル的およびテキストベースの文脈特徴を加えることで、特に会話的文脈における皮肉や感情のずれの検出において、ベースライン手法を上回る性能を発揮する。

ABSTRACT

Sentiment analysis on social media data such as tweets and weibo has become a very important and challenging task. Due to the intrinsic properties of such data, tweets are short, noisy, and of divergent topics, and sentiment classification on these data requires to modeling various contexts such as the retweet/reply history of a tweet, and the social context about authors and relationships. While few prior study has approached the issue of modeling contexts in tweet, this paper proposes to use a hierarchical LSTM to model rich contexts in tweet, particularly long-range context. Experimental results show that contexts can help us to perform sentiment classification remarkably better.

研究の動機と目的

• Weibo や Twitter のような短くノイジーなソーシャルメディアのテキストにおける感情分類の課題に取り組むこと。ここでは文脈が重要であるが、しばしば無視されがちである。
• リツイートおよびリプライ履歴を含む、ツイートスレッドにおける長距離の文脈的依存関係をモデル化すること。これは感情極性に影響を与える。
• ソーシャル関係やディス course 構造などの豊富な文脈特徴を組み込むことで、感情分類を向上させること。
• ローカルなツイートレベルとグローバルなスレッドレベルの両方の依存関係を捉える階層的ディープラーニングアーキテクチャを開発すること。

提案手法

• 2段階の階層的LSTMアーキテクチャを提案する。単語レベルのLSTMが個々のツイートを符号化し、ツイートレベルのLSTMが会話スレッド内のツイートの系列をモデル化する。
• 本モデルは、ソーシャル的文脈（フォロワー／フォロー関係）およびテキストベースの文脈（トピック類似度、ディス course マーカー）といった追加の文脈特徴を、データから自動的に抽出して統合する。
• 単語埋め込みは、大規模な中国語ツイートコーパスで事前学習され、128次元の特徴を有し、トレーニング中にファインチューニングされる。
• 階層的構造により、スレッド内の複数のツイートにわたる長距離の依存関係を学習でき、標準的なRNNで見られる消失勾配問題を緩和する。
• 本モデルは、Weibo における1,600スレッド、全14,000ツイート（50トピック）から構成される新規に収集されたデータセット上でトレーニングおよび評価される。
• ハイパーパramータは3:1:1のトレーニング／検証／テスト分割を用いてチューニングされ、性能評価はマクロF1スコアおよび正答率で測定される。

実験結果

リサーチクエスチョン

• RQ1 リツイート／リプライ履歴の長距離モデリングは、短くノイジーなソーシャルメディアのテキストにおける感情分類性能を向上させることができるか？
• RQ2 階層的LSTMアーキテクチャは、会話スレッド内の複数のツイートにわたる文脈的依存関係をどれほど効果的に捉えられるか？
• RQ3 ソーシャル関係やディス course 構造といった追加の文脈特徴は、感情分類にどの程度寄与するか？
• RQ4 本モデルは、会話的文脈における皮肉や感情のずれを検出する際、標準LSTMや他のベースラインを上回るか？

主な発見

• 階層的LSTM（HLSTM）モデルは、標準LSTMおよびSVMベースラインよりも顕著に優れた性能を示し、長距離の文脈をモデル化することの有効性を裏付けている。
• HLSTMモデルは、標準LSTMに比べてマクロF1スコアおよび正答率が向上しており、長距離の依存関係が正確な感情分類に不可欠であることを確認している。
• 追加の文脈特徴（HLSTM-f）を組み込むことで性能がさらに向上するが、特徴の疎らさのため、その向上幅は限定的である。
• 事例研究において、HLSTMは皮肉や賛同／反論のマーカーを含む曖昧なツイートを正しく分類する一方で、標準LSTMは失敗している。
• 46.9％のツイートがルートツイートと同じ感情極性を持ち、64.7％が親ツイートと同じ極性を持つ。これは、文脈が非常に予測可能性が高いことを示している。
• 本モデルは、肯定的語彙を含むが文脈的に否定的感情を示すツイートにおける皮肉（例：「素晴らしいね」）の検出に成功しており、感情のずれを的確に検出している。