[論文レビュー] Learning Attitudes and Attributes from Multi-Aspect Reviews

Julian McAuley, Jure Leskovec+1 more|arXiv (Cornell University)|Oct 15, 2012

Sentiment Analysis and Opinion Mining参考文献 31被引用数 15

ひとこと要約

この論文では、複数の側面に関するレビューテキストから、側面レーティングを弱い教師信号として用いることで、側面固有の感情をスケーラブルかつ解釈可能に学習するPaleLagerを提案する。コンテンツ語と感情語を分離することで、正確な側面割り当て、要約作成、欠落したレーティングの回復が可能となり、複数のドメインにまたがる500万件のレビューを含む大規模データセットにおいて、最先端の性能を達成した。

ABSTRACT

The majority of online reviews consist of plain-text feedback together with a single numeric score. However, there are multiple dimensions to products and opinions, and understanding the `aspects' that contribute to users' ratings may help us to better understand their individual preferences. For example, a user's impression of an audiobook presumably depends on aspects such as the story and the narrator, and knowing their opinions on these aspects may help us to recommend better products. In this paper, we build models for rating systems in which such dimensions are explicit, in the sense that users leave separate ratings for each aspect of a product. By introducing new corpora consisting of five million reviews, rated with between three and six aspects, we evaluate our models on three prediction tasks: First, we use our model to uncover which parts of a review discuss which of the rated aspects. Second, we use our model to summarize reviews, which for us means finding the sentences that best explain a user's rating. Finally, since aspect ratings are optional in many of the datasets we consider, we use our model to recover those ratings that are missing from a user's evaluation. Our model matches state-of-the-art approaches on existing small-scale datasets, while scaling to the real-world datasets we introduce. Moreover, our model is able to `disentangle' content and sentiment words: we automatically learn content words that are indicative of a particular aspect as well as the aspect-specific sentiment words that are indicative of a particular rating.

研究の動機と目的

• ビールのレビューにおける味、香り、感触といった製品の複数の側面にわたり、ユーザーの意見がどのように分布しているかをモデル化すること。
• 手動ラベルを一切使用せず、側面レーティングのみを用いて、どの文がどの側面について述べているかを学習するスケーラブルな手法を開発すること。
• 各側面ごとにコンテンツ語と感情語を分離することで、解釈可能な側面および感情の語彙を生成すること。
• レビューテキストと全体のレーティングから、側面レーティングがオプションである場合でも、欠落した側面レーティングを予測すること。
• ユーザーの全体のレーティングを最もよく説明する文を特定することで、レビューサマリの質を向上させること。

提案手法

• 潜在変数の混合を用いて、各側面ごとの側面割り当てと感情を同時にモデル化する確率的モデルであるPaleLagerを提案する。
• 複数の側面レーティングを弱い教師信号として用い、未教師付きモデルを訓練することで、各側面固有の語分布と感情重みを学習する。
• 側面レーティング同士の相関関係を明示的にモデル化するペアワイズレーティングモデルを導入し、欠落したレーティング予測の精度を向上させる。
• 各側面に対して別々の感情パラメータを導入することで、各側面ごとに異なる感情語彙を可能にした（例：「watery」は「taste」では否定的だが「look」では中立的）。
• 側面レーティングのみを教師信号として用い、各文をどの側面に属させるかを決定するセグメンテーションモデルを適用する。
• 教師なし（レーティングのみ）、弱教師あり（少数のラベル付き文）、完全教師あり（完全にラベル付けされたデータ）の3つの設定でモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 複数の側面レーティングを弱い教師信号として用いることで、レビューテキスト内のどの文がどの側面について述べているかを学習できるか？
• RQ2 ユーザーの全体のレーティングを最もよく説明する代表的な文をモデルが特定できるか。これにより、効果的なレビューサマリが可能になるか？
• RQ3 レビューテキストと全体のレーティングから、特に側面レーティングがオプションである場合でも、欠落した側面レーティングを回復できるか？
• RQ4 側面のコンテンツと感情を分離することで、統合モデルと比較して解釈性と性能がどのように向上するか？
• RQ5 側面レーティング同士の相関関係をモデル化することで、独立モデルと比較して欠落レーティング予測の精度が向上するか？

主な発見

• 教師なしのPaleLagerモデルは、手動ラベルを一切使用せず、側面検出および要約作成において優れた性能を示し、一部の設定では教師ありベースラインを上回った。
• モデルは非常に解釈可能な側面および感情語彙を学習した：コンテンツ語は主に名詞（例：「flavor」、「aroma」）であり、感情語は主に形容詞（例：「stale」、「velvety」）であった。
• ペアワイズレーティングモデルは、テキストをセグメンテーションしない状態でSVMベースラインと比較して予測誤差を23%削減し、セグメンテーション済みテキストと組み合わせるとさらに22%の削減を達成した。
• 不正確な側面ラベルが与えられても、教師なしモデルは予測可能なレーティングを生成した。これは、学習された側面割り当てがユーザーのレーティングと本質的に相関していることを示している。
• モデルは「corn」がビールレビューにおいて「taste」と「smell」の両方で否定的に関連していることを正しく特定し、専門家間での実世界の意味的連関を反映していた。
• テキストのセグメンテーションはレーティング予測に寄与するが、成功の鍵は側面間の相関関係をモデル化することにある。セグメンテーションそのものだけでは不十分である。