[論文レビュー] A Context-Aware User-Item Representation Learning for Item Recommendation

Libing Wu, Cong Quan+3 more|arXiv (Cornell University)|Dec 6, 2017

Recommender Systems and Techniques参考文献 34被引用数 7

ひとこと要約

本稿では、レビューとレーティング相互作用からのユーザおよびアイテム特徴を別々のレビュー基盤型および相互作用基盤型学習部を用いて統合的に符号化する、文脈に配慮したユーザ-アイテム表現学習モデルであるCARLを提案する。アテンションとファクタリゼーションマシンを用いた動的特徴相互作用モデリングにより、5つの実世界データセットにおいて最先端のレーティング予測性能を達成し、アテンション駆動の重要度に基づく解釈可能性の向上を実現する。

ABSTRACT

Both reviews and user-item interactions (i.e., rating scores) have been widely adopted for user rating prediction. However, these existing techniques mainly extract the latent representations for users and items in an independent and static manner. That is, a single static feature vector is derived to encode her preference without considering the particular characteristics of each candidate item. We argue that this static encoding scheme is difficult to fully capture the users' preference. In this paper, we propose a novel context-aware user-item representation learning model for rating prediction, named CARL. Namely, CARL derives a joint representation for a given user-item pair based on their individual latent features and latent feature interactions. Then, CARL adopts Factorization Machines to further model higher-order feature interactions on the basis of the user-item pair for rating prediction. Specifically, two separate learning components are devised in CARL to exploit review data and interaction data respectively: review-based feature learning and interaction-based feature learning. In review-based learning component, with convolution operations and attention mechanism, the relevant features for a user-item pair are extracted by jointly considering their corresponding reviews. However, these features are only review-driven and may not be comprehensive. Hence, interaction-based learning component further extracts complementary features from interaction data alone, also on the basis of user-item pairs. The final rating score is then derived with a dynamic linear fusion mechanism. Experiments on five real-world datasets show that CARL achieves significantly better rating prediction accuracy than existing state-of-the-art alternatives. Also, with attention mechanism, we show that the relevant information in reviews can be highlighted to interpret the rating prediction.

研究の動機と目的

• 既存の推薦モデルが文脈に特化した好みを捉えられない、静的かつ独立したユーザおよびアイテム表現の限界を是正すること。
• テキストレビューとユーザ-アイテム相互作用データの両方から得られる動的で文脈に配慮したユーザ-アイテム特徴相互作用をモデリングすることで、レーティング予測精度を向上させること。
• アテンション機構を用いて関連するレビュー特徴を強調することで、モデルの解釈可能性を向上させること。
• より良い汎化性能と性能を実現するため、レビューとレーティングスコアからの補完的情報を統合的かつ動的表現フレームワークに統合すること。

提案手法

• CARLは、ユーザおよびアイテムレビューから文脈的に関連する特徴を抽出するため、CNNとアテンション機構を用いたレビュー基盤型特徴学習モジュールを備えた、並列で専用の2つの学習部を採用する。
• ユーザ-アイテムレーティング相互作用から潜在的特徴を独立して抽出する相互作用基盤型特徴学習モジュールを設け、レビュー内容に依存せずにユーザ固有の好みを捉える。
• 入力の文脈に基づいて寄与度を動的に重み付ける動的線形統合メカニズムにより、両モジュールの出力を統合する。
• 高次特徴相互作用は、ユーザ-アイテムペアの文脈に配慮した統合表現にファクタリゼーションマシンを適用することでモデリングする。
• 解釈可能な予測を可能にするために、アテンション機構をレビュー処理パイプラインに統合し、意味的に関連する語句やフレーズを強調する。
• 最終的なレーティング予測は、文脈に配慮した表現の微分可能な関数として計算され、確率的勾配降下法を用いてエンドツーエンドで最適化される。

実験結果

リサーチクエスチョン

• RQ1 ユーザとアイテムの潜在的特徴相互作用を通じて統合的に表現をモデリングすることで、静的かつ独立した表現と比較して、レーティング予測精度が向上するか？
• RQ2 アテンション機構は、予測性能とモデルの解釈可能性の両面で、関連するレビュー内容を効果的に強調できるか？
• RQ3 レビュー基盤型と相互作用基盤型の特徴学習部を組み合わせることで、単独で使用する場合よりも優れた性能が得られるか？
• RQ4 レビューとレーティングの複数ソース特徴の動的統合は、スパarsityやコールドスタートの推薦状況において、どの程度汎化性能を向上させるか？

主な発見

• CARLは、5つの実世界データセットにおいて、最先端のベースラインと比較して顕著に優れたレーティング予測精度を達成し、一貫した性能向上を示した。
• アテンション機構は、レビュー内の意味的に関連する語句やフレーズを効果的に強調し、予測意思決定における解釈可能なインサイトを提供した。
• 相互作用基盤型学習部は、レビュー基盤型特徴とは補完的な情報を提供し、モデルのロバストネスと精度を向上させた。
• 動的線形統合メカニズムは、レビュー信号と相互作用信号の寄与度を効果的にバランスさせ、固定または初期統合戦略を上回る性能を発揮した。
• 文脈に配慮した表現にファクタリゼーションマシンを統合することで、高次特徴相互作用の有効なモデリングが可能になり、予測力が向上した。
• アブレーションスタディの結果、レビュー基盤型および相互作用基盤型の両モジュールが不可欠であり、それぞれが最終的な性能に独自に寄与していることが確認された。