[論文レビュー] Deep-Sentiment: Sentiment Analysis Using Ensemble of CNN and Bi-LSTM Models

Shervin Minaee, Elham Azimi+1 more|arXiv (Cornell University)|Apr 8, 2019

Sentiment Analysis and Opinion Mining参考文献 34被引用数 36

ひとこと要約

この論文は、Glove 埋め込みを用いた CNN と Bi-LSTM のアンサンブル感情分析モデルを提案し、IMDB と SST2 データセットで個別モデルより精度が向上することを示している。

ABSTRACT

With the popularity of social networks, and e-commerce websites, sentiment analysis has become a more active area of research in the past few years. On a high level, sentiment analysis tries to understand the public opinion about a specific product or topic, or trends from reviews or tweets. Sentiment analysis plays an important role in better understanding customer/user opinion, and also extracting social/political trends. There has been a lot of previous works for sentiment analysis, some based on hand-engineering relevant textual features, and others based on different neural network architectures. In this work, we present a model based on an ensemble of long-short-term-memory (LSTM), and convolutional neural network (CNN), one to capture the temporal information of the data, and the other one to extract the local structure thereof. Through experimental results, we show that using this ensemble model we can outperform both individual models. We are also able to achieve a very high accuracy rate compared to the previous works.

研究の動機と目的

• 感情分析の精度をモデルアンサンブルで向上させる動機づけ。
• CNN を用いて局所的な文本構造を捕捉し、Bi-LSTM で時間的依存性を捉える。
• 標準データセット上でアンサンブル予測の平均化が個別モデルを上回ることを示す。

提案手法

• Glove 単語埋め込みを CNN および 2 層 Bi-LSTM アーキテクチャの入力として使用。
• CNN は4つのフィルタサイズ (1, 2, 3, 4) を各100の特徴マップで使用し、その後に2つの全結合層とソフトマックス。
• Bi-LSTM は Glove 埋め込みを用いて2層 Bi-LSTM で感情を予測。
• CNN と Bi-LSTM からの予測確率スコアを平均してアンサンブルを行う。

実験結果

リサーチクエスチョン

• RQ1 CNN と Bi-LSTM のアンサンブルは、各モデル単独より感情分類精度を改善するか？
• RQ2 IMDB および SST2 データセットでアンサンブルの性能は従来研究と比べてどうか？
• RQ3 アンサンブル性能に影響を与える学習設定とデータ特性は何か？

主な発見

Method	Accuracy Rate
Proposed LSTM Model	89%
Proposed CNN Model	89.3%
Proposed Ensemble of LSTM and CNN	90%
Proposed LSTM Model (SST2)	80%
Proposed CNN Model (SST2)	80.2%
Proposed Ensemble of LSTM and CNN (SST2)	80.5%

• IMDB で CNN と Bi-LSTM のアンサンブルは、どちらのモデル単独より高い精度を示す（アンサンブル 90% vs CNN 89.3%、LSTM 89%）。
• SST2 ではアンサンブルはわずかに改善（アンサンブル 80.5% vs CNN 80.2%、LSTM 80%）。
• IMDB の選択された従来研究と比較して、アンサンブルは競争力のある精度を達成（アンサンブル 90% vs 従来法 最高 89.3%）。
• CNN は予測スコアを LSTM よりも一貫して 1 または 0 に近づけ、分類を助ける。