[論文レビュー] Deep Context-Aware Recommender System Utilizing Sequential Latent Context

Amit Livne, Moshe Unger+2 more|arXiv (Cornell University)|Sep 9, 2019

Recommender Systems and Techniques参考文献 25被引用数 16

ひとこと要約

本論文では、LSTMに基づくエンコーダデコーダネットワークを用いて文脈の系列をモデル化し、文脈シーケンスの圧縮された潜在表現を学習する、深層的で文脈に配慮したレコメンデーションシステムを提案する。この系列潜在文脈をニューラル共同フィルタリングフレームワークに統合することで、2つの実世界データセットにおいて、ヒット率@kで最大16.3%、RMSEで9.47%向上するなど、推薦精度が著しく向上し、最先端のモデルを上回る。

ABSTRACT

Context-aware recommender systems (CARSs) apply sensing and analysis of user context in order to provide personalized services. Adding context to a recommendation model is challenging, since the addition of context may increases both the dimensionality and sparsity of the model. Recent research has shown that modeling contextual information as a latent vector may address the sparsity and dimensionality challenges. We suggest a new latent modeling of sequential context by generating sequences of contextual information and reducing their contextual space to a compressed latent space.We train a long short-term memory (LSTM) encoder-decoder network on sequences of contextual information and extract sequential latent context from the hidden layer of the network in order to represent a compressed representation of sequential data. We propose new context-aware recommendation models that extend the neural collaborative filtering approach and learn nonlinear interactions between latent features of users, items, and contexts which take into account the sequential latent context representation as part of the recommendation process. We deployed our approach using two context-aware datasets with different context dimensions. Empirical analysis of our results validates that our proposed sequential latent context-aware model (SLCM), surpasses state of the art CARS models.

研究の動機と目的

• 動的で変化するユーザーの文脈をモデル化する課題に取り組み、スパarsityと高次元性を軽減すること。
• 文脈情報の系列的モデリングにより、長期的な文脈パターンを捉えることで、推薦精度を向上させること。
• ユーザー、アイテム、および系列潜在文脈表現の間の非線形相互作用を、ニューラル共同フィルタリングに拡張すること。
• 静的または短期的文脈表現と比較して、系列潜在文脈モデリングの有効性を評価すること。
• 推薦性能における文脈表現の最適なシーケンス長を特定すること。

提案手法

• 文脈特徴のシーケンスを対象にLSTMエンコーダデコーダネットワークを学習させ、系列文脈の圧縮された低次元潜在表現を学習する。
• LSTMエンコーダの隠れ状態を、ユーザー文脈シーケンス内の時間的依存性を捉えた系列潜在文脈ベクトルとして使用する。
• 系列潜在文脈をニューラル共同フィルタリング（NCF）フレームワークに統合し、ユーザー、アイテム、および文脈の間の非線形相互作用をモデル化する。
• 暗黙のフィードバックを用いてエンドツーエンドで学習し、確率的勾配降下法で損失関数を最適化する。
• ユーザーIDを含めない最近のユーザー行動から文脈シーケンスを構築し、プライバシーを保護するとともに、ユーザー間での一般化を可能にする。
• シーケンス長の感度分析を実施し、推薦性能における最適な文脈ウィンドウサイズを同定する。

実験結果

リサーチクエスチョン

• RQ1 LSTMベースのオートエンコーダを用いて系列文脈をモデリングすることで、静的または現在の文脈のみを考慮するモデルと比較して、推薦精度が向上するか？
• RQ2 系列潜在文脈の統合が、トップ-k推薦における順位付け性能（例：ヒット率@k）に与える影響は何か？
• RQ3 予測精度（RMSE、MAE）の観点から、文脈表現における最適なシーケンス長は何か？
• RQ4 提案された系列潜在文脈モデル（SLCM）は、レーティング予測および順位付けタスクの両方において、最先端のCARSモデルと比較して優れているか？
• RQ5 ユーザー固有の識別子に依存せず、意味のある文脈ダイナミクスを捉えながら、ユーザー間で一般化性を示せるか？

主な発見

• CARSデータセットでは、SLCMモデルが最も優れたベースライン（NeuMF）に対して、MAEで15.2%、RMSEで9.47%の向上を達成した。
• Yelpデータセットでは、SLCMがNeuMFに対してRMSEで12.3%、MAEで12.3%の向上を達成し、RMSEは1.239、MAEは1.011を記録した。
• SLCMは、RMSEおよびMAEの両方において、他のニューラル文脈モデル（ENCM、LNCM）をすべて上回り、長期的文脈シーケンスをモデル化する利点を示した。
• ヒット率@k評価では、k=1で最大16.3%、k=3で10.88%、k=5で6.75%の向上を示し、トップ1およびトップ3推薦の順位付け品質が優れていることが示された。
• 最適なシーケンス長は2〜3個の文脈ベクトルであった。これより長いシーケンス（5〜6）では、RMSEが0.344、MAEが0.275に上昇し、性能が低下した。
• CARSデータセットでは、シーケンス長が2および3のときが最良の結果を示し、RMSEは0.336、MAEは0.243を記録した。