[論文レビュー] Inter-sequence Enhanced Framework for Personalized Sequential Recommendation

Feng Liu, Weiwen Liu+2 more|arXiv (Cornell University)|Apr 25, 2020

Recommender Systems and Techniques参考文献 28被引用数 6

ひとこと要約

本稿では、ユーザー-アイテム二部グラフおよびアイテム-アイテム共起性グラフ上でグラフニューラルネットワーク（GNN）を用いて、順序付きアイテム相関の内因性および外因性相関を明示的にモデル化する、新しいフレームワークISSRを提案する。GNNを用いて高次元の外因性順序依存関係を捉え、GRUとアテンションネットワークを組み合わせて内因性順序ダイナミクスをモデル化することで、3つの実世界データセットで最先端の性能を達成し、強力なベースライン比でRecall@10で最大25.0%の向上を達成した。

ABSTRACT

Modeling the sequential correlation of users' historical interactions is essential in sequential recommendation. However, the majority of the approaches mainly focus on modeling the \emph{intra-sequence} item correlation within each individual sequence but neglect the \emph{inter-sequence} item correlation across different user interaction sequences. Though several studies have been aware of this issue, their method is either simple or implicit. To make better use of such information, we propose an inter-sequence enhanced framework for the Sequential Recommendation (ISSR). In ISSR, both inter-sequence and intra-sequence item correlation are considered. Firstly, we equip graph neural networks in the inter-sequence correlation encoder to capture the high-order item correlation from the user-item bipartite graph and the item-item graph. Then, based on the inter-sequence correlation encoder, we build GRU network and attention network in the intra-sequence correlation encoder to model the item sequential correlation within each individual sequence and temporal dynamics for predicting users' preferences over candidate items. Additionally, we conduct extensive experiments on three real-world datasets. The experimental results demonstrate the superiority of ISSR over many state-of-the-art methods and the effectiveness of the inter-sequence correlation encoder.

研究の動機と目的

• 既存の順序付き推薦手法が主に内因性順序アイテム相関に注目している一方で、異なるユーザー行動シーケンス間の外因性相関を無視するという限界を是正すること。
• 構造化されたユーザー-アイテムおよびアイテム-アイテム相互作用グラフ上で、グラフニューラルネットワークを用いて高次元の外因性順序アイテム相関を明示的にモデル化すること。
• 外因性および内因性順序モデリングを統合したフレームワークを構築し、パーソナライズド順序付き推薦の精度を向上させること。
• 異なるデータセットおよび推薦ベースラインにおいて、外因性相関エンコーディングの有効性を実証的に検証すること。

提案手法

• 外因性順序相関エンコーダは、ユーザー-アイテム二部グラフおよびアイテム-アイテム共起性グラフ上でGNNを用いて、異なるユーザーのシーケンス間の高次元アイテム相関を捉える。
• 内因性順序相関エンコーダは、GRUとマルチヘッドアテンション機構を組み合わせて、個々のユーザー行動シーケンス内の順序依存関係と時間的ダイナミクスをモデル化する。
• アイテム埋め込みは、まず2つのグラフ上でGNNを用いて強化され、その後GRU-アテンションモジュールに供給され、ユーザーの関心表現学習が行われる。
• 最終的な予測ヘッドは、ユーザーが学習した関心表現を用いて、候補セットから次に起こりやすいアイテムを予測する。
• フレームワークは、ネガティブサンプリングと標準的な推薦損失関数を用いてエンドツーエンドで訓練される。
• アブレーションスタディでは、二部グラフおよび共起性グラフの各コンponentの寄与度が評価され、MFベースおよび単一グラフエンコーダーの変種が用いられる。

実験結果

リサーチクエスチョン

• RQ1 異なるユーザー行動シーケンス間の外因性アイテム相関をモデル化することで、順序付き推薦の性能が向上するか？
• RQ2 ユーザー-アイテム二部グラフとアイテム-アイテム共起性グラフの異なるグラフ構造は、高次元外因性順序相関を捉えるのにどのように寄与するか？
• RQ3 外因性順序相関エンコーディングをRNN、CNN、アテンションベースの順序付き推薦モデルに統合することで、どの程度性能が向上するか？
• RQ4 提案フレームワークにおいて、モデル容量と性能のバランスを取る最適なアイテム埋め込み次元は何か？

主な発見

• ISSRは3つの実世界データセットで最先端の性能を達成し、Recall、nDCG、HR、MRRの指標において複数のSOTA手法を上回った。
• 外因性順序相関エンコーダーをGRU4Recに追加した場合、MovieLens (1M) データセットでRecall@10が最大25.0%向上し、SASRecでは14.8%、Caserでは9.0%向上した。
• 二重グラフGNNエンコーダー（二部グラフ＋共起性）は、単一グラフおよびMFベースのベースラインを上回り、ISSRはMovieLens (1M) で0.1563のRecall@10、Steamでは0.0872を達成した。
• ユーザー-アイテム二部グラフとアイテム-アイテム共起性グラフは、性能向上にほぼ同等の寄与をし、両方を組み合わせた場合が最も優れた結果をもたらした。
• モデル性能は埋め込み次元d=64でピークに達し、以降の増加はモデル容量の飽和により、向上が得られず、わずかな劣化を示した。
• アブレーションスタディにより、外因性順序モデリングが不可欠であることが確認され、『内因性のみ』のバージョンは他のすべての設定よりも顕著に性能が劣った。