[論文レビュー] An Unsupervised Approach for Aspect Category Detection Using Soft Cosine Similarity Measure

Erfan Ghadery, Sajad Movahedi+2 more|arXiv (Cornell University)|Dec 8, 2018

Sentiment Analysis and Opinion Mining被引用数 5

ひとこと要約

本稿では、ラベルなしのレビュー文に対してソフトコサイン類似度とk-meansクラスタリングを用いた教師なし手法を提案し、ラベル付きデータや特徴工学の必要を排除する。この手法はSemEval-2014のレストランデータセットで76.98%のF1スコアを達成し、既存の教師あり・教師なしベースラインを著しく上回る性能を示した。

ABSTRACT

Aspect category detection is one of the important and challenging subtasks of aspect-based sentiment analysis. Given a set of pre-defined categories, this task aims to detect categories which are indicated implicitly or explicitly in a given review sentence. Supervised machine learning approaches perform well to accomplish this subtask. Note that, the performance of these methods depends on the availability of labeled train data, which is often difficult and costly to obtain. Besides, most of these supervised methods require feature engineering to perform well. In this paper, we propose an unsupervised method to address aspect category detection task without the need for any feature engineering. Our method utilizes clusters of unlabeled reviews and soft cosine similarity measure to accomplish aspect category detection task. Experimental results on SemEval-2014 restaurant dataset shows that proposed unsupervised approach outperforms several baselines by a substantial margin.

研究の動機と目的

• ラベル付き学習データが乏しいもしくは存在しない低リソース環境におけるアスペクトカテゴリ検出の課題に対処すること。
• アスペクトベースのセンチメント分析における、高コストで時間がかかる手動のラベル付けの必要性を排除すること。
• 手作業で特徴を設計する依存度を減らし、単語埋め込みと意味的類似度測定を活用すること。
• 汎用性が高く、パラメータ効率の良い教師なし手法を構築し、レビュー文全体にわたって良好に一般化されること。

提案手法

• 各アスペクトカテゴリ（例：'food', 'service'）に対して、5つのシード語を手動で選択する。『anecdotes/miscellaneous』は抽象的であるため除く。
• 事前学習済みの単語埋め込みを用い、各レビュー文の平均埋め込みを計算してその意味的コンテンツを表現する。
• 各文の平均単語埋め込み間のユークリッド距離に基づいてk-meansクラスタリングを適用し、k個のクラスタを形成する。
• 各カテゴリのシード語との間でテスト文のソフトコサイン類似度を計算し、文-カテゴリ類似度スコアを算出する。
• クラスタ内の全文とカテゴリのシード語との間のソフトコサイン類似度の平均値として、クラスタ-カテゴリ類似度を計算する。
• 学習された補間係数αを用いて、文のカテゴリスコアと最も近いクラスタのスコアを補間し、正規化してしきい値を適用して最終的なカテゴリ予測を行う。

実験結果

リサーチクエスチョン

• RQ1 ラベル付き学習データに依存せずに、教師なし手法が競争力のある性能を達成できるか？
• RQ2 明示的な特徴設計が行われない状況下で、ソフトコサイン類似度が文とアスペクトカテゴリ間の意味的関係をどれほど的確に捉えられるか？
• RQ3 文単位の類似度に加えて、ラベルなしの文をクラスタリングすることで、アスペクトカテゴリ検出の性能がどの程度向上するか？
• RQ4 正確なカテゴリ予測のための、文単位とクラスタ単位の類似度スコアの最適なバランスは何か？

主な発見

• 提案手法は、SemEval-2014のレストランデータセットで76.98%のF1スコアを達成し、最も優れた既存の教師なしベースライン（Spreading Activation）を9.98ポイントも上回った。
• この手法は、SemEval-2014の教師ありベースラインに対してもF1スコアで13.08%の向上を示し、教師なしであるにもかかわらず優れた性能を発揮した。
• ハイパーパramータチューニングの結果、補間係数α = 0.7およびk = 17クラスタが最適な性能をもたらし、この範囲外では性能が低下した。
• クラスタサイズの変動に対しても手法の性能は頑健であり、k = 17で最適な結果が得られた。これはクラスタの凝集性と一貫性のバランスを示している。
• ソフトコサイン類似度の使用により、文に正確なシード語が含まれていない場合でも、意味的類似度を捉えることでアスペクトカテゴリの検出が効果的に行えるようになった。
• 文単位とクラスタ単位のスコアの補間により分類精度が向上し、クラスタレベルの文脈情報が個々の文の予測を強化することが確認された。