[論文レビュー] Review Helpfulness Prediction with Embedding-Gated CNN

Cen Chen, Minghui Qiu+5 more|arXiv (Cornell University)|Aug 29, 2018

Sentiment Analysis and Opinion Mining参考文献 16被引用数 7

ひとこと要約

本論文は、複数スケール表現（単語、文字、トピック）の上に適応的ゲーティング機構を用いて単語レベルの重要度重みを学習することで、レビューヘルプフルネス予測を向上させる埋め込みゲーティングCNN（EG-CNN）モデルを提案する。さらに、データ豊富なドメインからデータが乏しいドメインへ知識を転送するクロスドメイン関係学習を統合し、特に『Watches』のような低リソースドメインにおいて最先端の性能を達成した。

ABSTRACT

Product reviews, in the form of texts dominantly, significantly help consumers finalize their purchasing decisions. Thus, it is important for e-commerce companies to predict review helpfulness to present and recommend reviews in a more informative manner. In this work, we introduce a convolutional neural network model that is able to extract abstract features from multi-granularity representations. Inspired by the fact that different words contribute to the meaning of a sentence differently, we consider to learn word-level embedding-gates for all the representations. Furthermore, as it is common that some product domains/categories have rich user reviews, other domains not. To help domains with less sufficient data, we integrate our model into a cross-domain relationship learning framework for effectively transferring knowledge from other domains. Extensive experiments show that our model yields better performance than the existing methods.

研究の動機と目的

• 深層ニューラルネットワークにおける適応的ゲーティングを用いて単語レベルの重要度をモデル化することで、レビューヘルプフルネス予測を向上させること。
• 関連するデータ豊富なドメインから効果的な知識転送を可能にすることで、データが乏しい製品ドメインにおけるデータ不足問題に対処すること。
• 単語、文字、トピックレベルの複数スケール表現を統合し、標準的な単語埋め込みを超えた特徴学習を豊かめること。
• ドメイン間相関を同時に学び、ドメイン間で知識を転送する包括的フレームワークを構築し、一般化性能を向上させること。
• 学習されたゲート重みを通じて、どの単語がヘルプフルネス予測に最も寄与しているかを解釈可能な洞察として提供すること。

提案手法

• モデルは、意味的理解を豊かめるために単語レベル埋め込み、文字レベルCNN特徴、トピックレベル分布を組み合わせた複数スケール入力表現を採用する。
• 各単語表現の重要度を動的に重みづける単語レベルゲーティング機構を導入し、ネットワークが意味的に顕著な語に注目できるようにする。
• ゲーティング機構は微分可能であり、CNNと同時に最適化されるため、特徴抽出と関連語への注目をエンドツーエンドで学習可能である。
• ソースドメインとターゲットドメイン間の相関をモデル化するドメイン関係学習モジュールを統合し、マルチタスク学習フレームワーク内で構造的な知識転送を可能にする。
• 全モデルは共有エンコーダとドメイン固有のヘッドを備え、すべてのドメインを同時に最適化することで、共有特徴とドメイン固有特徴の両方を活用する。
• ドメイン内およびクロスドメイン学習をサポートし、複数のAmazon製品カテゴリで回帰指標を用いて性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 標準CNNとは異なり、単語レベルの重要度重みを学習するゲーティングCNN機構は、レビューヘルプフルネス予測を向上させることができるか？
• RQ2 複数スケール表現（単語、文字、トピック）は、レビューヘルプフルネス予測における特徴学習をどのように向上させるか？
• RQ3 クロスドメイン関係学習は、データ豊富なドメインからデータが乏しい製品ドメインへ知識を効果的に転送できるか？
• RQ4 ドメイン相関モデリングの統合は、完全共有モデルやターゲット専用モデルと比較して、低リソースドメインでの性能を向上させるか？
• RQ5 学習されたゲート重みは、どの語がヘルプフルネス予測に最も予測的かを解釈可能な洞察として提供できるか？

主な発見

• 提案されたEG-CNNモデルは、全評価ドメインで手作業特徴ベースラインおよびヴァナイルCNNモデルを上回り、学習されたゲーティング機構の有効性を示した。
• 10,000件のラベル付きレビューレビューしか存在しない『Watches』ドメインでは、F1スコアが0.535を達成し、ターゲット専用ベースライン（0.515）と比較して3.9%の相対的改善を示した。
• 完全共有モデルは『Home』ドメインでターゲット専用モデル（0.541）より性能が低かった（0.518）、これはドメインシフトが存在する場合、無差別な知識転送が性能を損なう可能性があることを示している。
• 提案モデルは全ドメインで最高のF1スコアを達成し、ターゲット専用ベースラインと比較して0.013～0.027の改善を示した。特に低リソースドメインで顕著な恩恵をもたらした。
• ゲート重みは解釈可能な洞察を提供し、高いゲート値はヘルプフルネス予測に大きな寄与を示している。例えば、『great battery life』のような記述的表現は高い注目度を示した。
• ドメイン関係学習モジュールは、意味のあるクロスドメイン相関を効果的に同定・活用し、ネガティブな転送を伴わずに効果的な転移学習を可能にした。