[論文レビュー] Exploiting Deep Learning for Persian Sentiment Analysis

Kia Dashtipour, Mandar Gogate+4 more|arXiv (Cornell University)|Aug 15, 2018

Sentiment Analysis and Opinion Mining参考文献 22被引用数 11

ひとこと要約

本稿では、新規の映画レビュー・データセットを用いて、ペルシャ語のセンチメント分析のための深層学習モデル—深層オートエンコーダーおよび1次元畳み込みニューラルネットワーク（1D-CNN）—を提案し、評価している。fastTextによる単語埋め込みと多層パーセプトロン（MLP）との比較評価により、1D-CNNが82.86%の最高精度を達成し、オートエンコーダーや最先端のMLPベースラインよりも優れた性能を示した。

ABSTRACT

The rise of social media is enabling people to freely express their opinions about products and services. The aim of sentiment analysis is to automatically determine subject's sentiment (e.g., positive, negative, or neutral) towards a particular aspect such as topic, product, movie, news etc. Deep learning has recently emerged as a powerful machine learning technique to tackle a growing demand of accurate sentiment analysis. However, limited work has been conducted to apply deep learning algorithms to languages other than English, such as Persian. In this work, two deep learning models (deep autoencoders and deep convolutional neural networks (CNNs)) are developed and applied to a novel Persian movie reviews dataset. The proposed deep learning models are analyzed and compared with the state-of-the-art shallow multilayer perceptron (MLP) based machine learning model. Simulation results demonstrate the enhanced performance of deep learning over state-of-the-art MLP.

研究の動機と目的

• 自然言語処理における低リソース言語であるペルシャ語向けに、深層学習ベースのセンチメント分析モデルが不足しているという問題に取り組むこと。
• 具体的には、ペルシャ語におけるセンチメント分類のための深層ニューラルネットワークアーキテクチャ—特に深層オートエンコーダーおよび1D-CNN—の開発と評価を行うこと。
• 新しく収集したペルシャ語の映画レビュー・データセット上で、深層学習モデルの性能を最先端の浅層MLPベースの分類器と比較すること。
• 深層学習手法を用いたペルシャ語センチメント分析における今後の研究のためのベンチマークを確立すること。

提案手法

• 単語埋め込みはfastTextを用いて生成され、各単語が300次元のベクトルに変換され、意味的特徴を表現した。
• センチメント分類のため、標準的なバックプロパゲーションを用いて100イテレーションの学習を実施した多層パーセプトロン（MLP）を訓練した。
• 次元削減と特徴学習を教師なしで行うために、3層の隠れ層（1500, 512, 1500）を有する深層オートエンコーダーを採用した。
• 11層の1D-CNNアーキテクチャ（4層の畳み込み層、4層のマックスプーリング層、3層の全結合層）を設計し、フィルターサイズ2および15の特徴マップを用い、その後にReLUおよびソフトマックス活性化関数を適用した。
• CNNモデルは入力シーケンスを連結された単語ベクトルとして処理し、各畳み込み層の後にマックスプーリングを適用して特徴をダウンサンプリングした。
• 性能評価には、適合率、再現率、F-measure、および精度を用い、最終層には多クラス分類のためのソフトマックスを適用した。

実験結果

リサーチクエスチョン

• RQ1 深層オートエンコーダーは、ペルシャ語のテキストにおけるセンチメント分類のための判別的表現を効果的に学習できるか？
• RQ2 1D-CNNアーキテクチャは、ペルシャ語の映画レビューにおけるセンチメント分類において、MLPのような従来の浅層モデルを上回る性能を示すか？
• RQ3 ペルシャ語のような低リソース言語において、深層学習モデルの性能は最先端の浅層分類器と比べてどのように異なるか？
• RQ4 fastTextによる単語埋め込みを、深層ニューラルネットワークと組み合わせることで、ペルシャ語のセンチメント分類にどの程度向上効果が得られるか？

主な発見

• 1D-CNNモデルが最も高い全体的な精度82.86%を達成し、MLP（78.49%）およびオートエンコーダー（80.08%）モデルを顕著に上回った。
• CNNモデルはマクロF-measureが0.83を記録し、ポジティブおよびネガティブなセンチメントクラスの両方において、適合率と再現率のバランスが良好であることを示した。
• オートエンコーダーはMLPベースラインを改善し、平均精度80.08%を達成したのに対し、MLPは78.49%であった。
• CNNモデルはネガティブセンチメントの適合率が90%で高く、ポジティブセンチメントの再現率も89%と高く、両クラスの予測において高い堅牢性を示した。
• 結果から、特徴の自動学習を可能にする深層学習モデルは、手動による特徴工学に依存する従来の機械学習モデルよりも優れた性能を示すことが確認された。
• 本研究により、新しく導入されたペルシャ語の映画レビュー・データセット上で、1D-CNNが最も効果的なアーキテクチャとして浮き彫りになり、ペルシャ語センチメント分析の新たなベンチマークが確立された。