[論文レビュー] MARS: Memory Attention-Aware Recommender System

Lei Zheng, Chun-Ta Lu+5 more|arXiv (Cornell University)|May 18, 2018

Recommender Systems and Techniques参考文献 42被引用数 7

ひとこと要約

MARSは、ユーザーの履歴から関連するアイテムに動的に注目することで、深層的で適応的なユーザー表現を学習するメモリ拡張型で注目メカニズムを備えたレコメンデーションシステムを提案する。このアプローチにより、正確で解釈可能なレコメンデーションが可能となる。MARSは3つの実世界データセットにおいて7つの最先端手法を上回り、関連する過去の相互作用を強調することで解釈可能な説明を提供する。

ABSTRACT

In this paper, we study the problem of modeling users' diverse interests. Previous methods usually learn a fixed user representation, which has a limited ability to represent distinct interests of a user. In order to model users' various interests, we propose a Memory Attention-aware Recommender System (MARS). MARS utilizes a memory component and a novel attentional mechanism to learn deep extit{adaptive user representations}. Trained in an end-to-end fashion, MARS adaptively summarizes users' interests. In the experiments, MARS outperforms seven state-of-the-art methods on three real-world datasets in terms of recall and mean average precision. We also demonstrate that MARS has a great interpretability to explain its recommendation results, which is important in many recommendation scenarios.

研究の動機と目的

• 複数のアイテムカテゴリにわたる多様なユーザーの関心を捉えるために、固定されたユーザー表現の限界を是正すること。
• エンドツーエンドで学習可能な、深層学習に基づくレコメンデーションシステムを構築すること。
• ユーザーの過去の相互作用に基づく説明を提供することで、モデルの解釈性を向上させること。
• 事前学習済みまたは手作業で作成された特徴に依存する既存の注目メカニズムベースのモデルの欠陥を克服すること。
• 特に解釈性が重要なB2B環境において、正確で透明性のあるレコメンデーションを実現すること。

提案手法

• MARSは、履歴的な相互作用からユーザーの関心パターンを記憶・取得するメモリコンponentを採用し、動的な表現学習を可能にする。
• ユーザーの相互作用履歴にあるアイテムに対して、ターゲットアイテムとの関連性に基づいて注目重みを計算するアイテムレベルの注目メカニズムを導入する。
• 適応的ユーザー表現は、注目メカニズムによって決定される重み付きのアイテム埋め込みの集約として計算される。
• 表現学習と注目一致の最適化を同時に達成するため、コントラスト損失を用いてエンドツーエンドでモデルを訓練する。
• コンテンツ特徴から深層ニューラルネットワークを用いてアイテム埋め込みを学習することで、コンテンツに配慮したレコメンデーションを実現する。
• 注目メカニズムにより、モデルは特定の過去のアイテムを強調し、レコメンデーションの根拠として提示でき、解釈性が向上する。

実験結果

リサーチクエスチョン

• RQ1 深層学習ベースのレコメンデーションシステムは、固定表現よりも多様なユーザーの関心をよりよく捉える適応的ユーザー表現を学習できるか？
• RQ2 注目メカニズムをレコメンデーションシステムに統合することで、正確性と解釈性の両方を向上させられるか？
• RQ3 メモリコンponentを備えたエンドツーエンドで訓練可能なモデルは、事前学習済みまたは手作業で作成された特徴に依存するモデルを上回るか？
• RQ4 注目メカニズムは、ユーザーが理解可能な意味のある説明をレコメンデーションに提供できるか、その程度はどの程度か？
• RQ5 提案されたモデルは、多様なデータセットにおいて、リCALLと平均平均精度（MAP）という指標で、最先端手法と比較してどのように差をつけるか？

主な発見

• MARSは、3つの実世界データセットにおいて、7つの最先端手法をリCALLおよび平均平均精度（MAP）の観点で顕著に上回る。
• 固定表現の限界を克服するため、ユーザー履歴内の関連するアイテムに動的に適応するユーザー表現を学習することで、優れたパフォーマンスを達成する。
• MARSは、レコメンデーションに影響を与えた特定の過去のアイテムを強調することで、解釈可能なレコメンデーションを提供し、信頼性と透明性を向上させる。
• アイテム埋め込みと注目メカニズムのエンドツーエンド訓練により、事前学習済み特徴を使用するモデルよりも、より正確でタスク最適化された注目が得られる。
• 注目メカニズムは、ユーザー履歴から意味的に関連するアイテムを効果的に同定でき、レコメンデーションの根拠となる意味のある説明を提供する。
• 実証的結果から、複雑で多様なユーザーの関心をモデル化する際、固定表現よりも適応的ユーザー表現がはるかに有効であることが確認された。