[論文レビュー] Twitter Opinion Topic Model: Extracting Product Opinions from Tweets by Leveraging Hashtags and Sentiment Lexicon

Kar Wai Lim, Wray Buntine|arXiv (Cornell University)|Sep 21, 2016

Sentiment Analysis and Opinion Mining参考文献 44被引用数 66

ひとこと要約

本稿では、ノイズが多く不規則なツイートにおけるアスペクトベースの意見抽出を向上させるために、LDAに基づくトピックモデルであるTwitterオピニオントピックモデル（TOTM）を提案する。TOTMは、ターゲットと意見語の直接的な相互作用をモデル化するとともに、学習可能な事前分布としてセンチメントリソースを統合することで、900万件の電子製品に関するツイートにおいて、ILDA や LDA-DP などのベースラインモデルを上回る意見予測とセンチメント分類を実現する。

ABSTRACT

Aspect-based opinion mining is widely applied to review data to aggregate or summarize opinions of a product, and the current state-of-the-art is achieved with Latent Dirichlet Allocation (LDA)-based model. Although social media data like tweets are laden with opinions, their "dirty" nature (as natural language) has discouraged researchers from applying LDA-based opinion model for product review mining. Tweets are often informal, unstructured and lacking labeled data such as categories and ratings, making it challenging for product opinion mining. In this paper, we propose an LDA-based opinion model named Twitter Opinion Topic Model (TOTM) for opinion mining and sentiment analysis. TOTM leverages hashtags, mentions, emoticons and strong sentiment words that are present in tweets in its discovery process. It improves opinion prediction by modeling the target-opinion interaction directly, thus discovering target specific opinion words, neglected in existing approaches. Moreover, we propose a new formulation of incorporating sentiment prior information into a topic model, by utilizing an existing public sentiment lexicon. This is novel in that it learns and updates with the data. We conduct experiments on 9 million tweets on electronic products, and demonstrate the improved performance of TOTM in both quantitative evaluations and qualitative analysis. We show that aspect-based opinion analysis on massive volume of tweets provides useful opinions on products.

研究の動機と目的

• 明確な評価やラベルを備えない非構造的でノイズの多いツイートから製品の意見を抽出する課題に対処すること。
• ターゲット（例：'camera'、'phone'）と意見語（例：'love'、'hate'）の直接的な相互作用をモデル化することで、ツイートにおける意見予測を向上させること。
• データ駆動的かつ学習可能な方法でセンチメントリソースの情報をトピックモデルに統合し、恣意的またはルールベースの手法ではなく、より効果的な方法を採用すること。
• ツイート単位のセンチメントとハッシュタグベースのクラスタリングを用いて、エンティティごとの意見を抽出・集約することで、高水準の製品およびブランド比較を可能にすること。
• 新製品に関するインサイトを提供するため、Twitter上でリアルタイムかつ大規模に実行可能な、アスペクトベースの意見分析の実現可能性と実用性を示すこと。

提案手法

• TOTMはLDAを拡張し、ターゲット-意見の相互作用を直接モデル化することで、'grilled' といったセンチメント語が特定のターゲット（例：'sausage'）に対してのみ肯定的であることを学習できる。
• 短く不規則なテキストにおけるトピッククラスタリングと意見検出の精度を向上させるために、ハッシュタグ、メンション、絵文字、強力なセンチメント語を信号として活用する。
• 公開のセンチメントリソースをトピックモデルの事前分布に統合する新しい定式化を提案し、データから動的にセンチメント強度を学習・更新できるようにする。
• ハッシュタグやメンションを用いたツイート集約により、アスペクトクラスタリングの精度を向上させ、製品間比較を可能にする。
• 短くノイズの多いツイート形式に特化した新しいターゲット-意見抽出手順を導入し、検出精度を向上させる。
• 事前処理として、スペルミスや略語の正規化、URLの削除によるスパムフィルタリングを実施し、データ品質を向上させる。

実験結果

リサーチクエスチョン

• RQ1 明確な評価がない非構造的で不規則なツイートから、LDAベースのモデルがアスペクト固有の意見を効果的に抽出できるか。
• RQ2 標準的なLDAやILDAと比較して、ターゲット-意見の相互作用を直接モデル化することで、意見予測がどの程度向上するか。
• RQ3 センチメントリソースをトピックモデルに効果的かつ学習可能な方法で統合できるか。
• RQ4 TOTMは、ツイート単位のセンチメントとハッシュタグクラスタリングを用いて、Canon、Sony、Samsung などのブランド間での意見比較をどの程度可能にするか。
• RQ5 TOTMは、iPhone などの特定製品について、対照的な意見（肯定的 vs. 否定的）をどの程度正確に抽出できるか。

主な発見

• TOTMは、ILDA や LDA-DP に比べて意見予測において顕著に優れており、'grilled' といった語が 'sausage' のような特定のターゲットに対してのみ肯定的であることを正しく識別している。
• センチメントリソースを学習可能な事前分布として統合する本手法の定式化により、恣意的またはルールベースの手法よりもセンチメント分類性能が向上した。
• 900万件の電子製品に関するツイートから成るデータセットにおいて、TOTMはベースラインモデルよりも優れたモデル適合とより正確なセンチメント分析を達成した。
• TOTMは、ハッシュタグとセンチメントベースのクラスタリングを用いて、Canon、Sony、Samsung のカメラやスマートフォンに関する意見を抽出・要約できることを実証した。
• 定性的な分析から、TOTMがiPhoneのような製品について、自然言語で表現された肯定的・否定的両方の意味のある意見を効果的に抽出できていることが確認された。
• 本モデルは、リアルタイムかつ大規模に実行可能な、アスペクトベースの意見抽出の実現可能性を示しており、新製品に対する認識のタイムリーなインサイトを提供する。