[論文レビュー] Enhancing Sequential Recommendation with Graph Contrastive Learning

Yixin Zhang, Yong Liu+6 more|arXiv (Cornell University)|May 30, 2022

Recommender Systems and Techniques被引用数 5

ひとこと要約

本稿では、全ユーザーの順序列から重み付きアイテム遷移グラフ（WITG）を構築することで、グローバルなアイテム遷移パターンを捉えることで順序推薦を向上させるGCL4SRというグラフ対照学習フレームワークを提案する。WITGからの部分グラフを用いてインタラクション順序列を増強し、表現の一貫性とグローバル・ローカル整合性の2つの補助目的を用いた対照学習を適用することで、GCL4SRは順序表現学習を顕著に向上させ、実世界のデータセットにおいて最先端の性能を達成した。

ABSTRACT

The sequential recommendation systems capture users' dynamic behavior patterns to predict their next interaction behaviors. Most existing sequential recommendation methods only exploit the local context information of an individual interaction sequence and learn model parameters solely based on the item prediction loss. Thus, they usually fail to learn appropriate sequence representations. This paper proposes a novel recommendation framework, namely Graph Contrastive Learning for Sequential Recommendation (GCL4SR). Specifically, GCL4SR employs a Weighted Item Transition Graph (WITG), built based on interaction sequences of all users, to provide global context information for each interaction and weaken the noise information in the sequence data. Moreover, GCL4SR uses subgraphs of WITG to augment the representation of each interaction sequence. Two auxiliary learning objectives have also been proposed to maximize the consistency between augmented representations induced by the same interaction sequence on WITG, and minimize the difference between the representations augmented by the global context on WITG and the local representation of the original sequence. Extensive experiments on real-world datasets demonstrate that GCL4SR consistently outperforms state-of-the-art sequential recommendation methods.

研究の動機と目的

• 個々のユーザーの順序列内でのローカルな文脈に依存する既存の順序推薦モデルの限界を解消すること。
• 全ユーザーにわたるグローバルなアイテム遷移パターンを活用することで、ユーザーインタラクション順序列のデータスパarsityとノイズを軽減すること。
• グラフベースのデータ拡張を通じてグローバルな文脈を組み込むことで、順序表現学習を向上させること。
• 追加のラベル付きデータを必要とせず、モデルの汎化性能とロバスト性を向上させる自己教師付き学習フレームワークの構築。

提案手法

• 全ユーザーのインタラクション順序列におけるアイテム遷移の共起頻度に基づいて重み付きアイテム遷移グラフ（WITG）を構築し、グローバルな遷移パターンを符号化する。
• WITG上で近隣サンプリングを実行し、各ユーザーのインタラクション順序列に対して複数の拡張された部分グラフビューを生成する。
• 同じ順序列の異なる拡張ビューにおける表現の一貫性を最大化するようにグラフ対照学習を適用する。
• グローバルな文脈に配慮したWITGの表現と元の順序列からのローカル表現を一致させるために最大平均差分（MMD）損失を導入する。
• 標準のアイテム予測損失と2つの補助的対照的目的を組み合わせて、モデルをエンドツーエンドで訓練する。
• SASRec、GRU4Rec、HGNなどのさまざまなバックボーンモデルと統合することで、汎用性の検証を実施する。

実験結果

リサーチクエスチョン

• RQ1 共有のWITGから得られるグローバルなアイテム遷移パターンを組み込むことで、順序推薦における順序表現の質が向上するか？
• RQ2 同じユーザー順序列の拡張ビューを対照的に学習することで、表現のロバスト性がどの程度向上するか？
• RQ3 グローバル表現とローカル表現のMMDベースの整合性が、推薦性能にどの程度寄与するか？
• RQ4 提案フレームワークは、順序推薦におけるさまざまなバックボーンアーキテクチャに一般化可能か？

主な発見

• GCL4SRは、PoetryおよびPhonesの両データセットで最先端の性能を達成し、SASRec、GRU4Rec、HGNを含む既存のSOTA手法を上回った。
• アブレーションスタディにより、グラフ対照学習損失とMMD損失の両方が不可欠であることが確認された。両者を削除すると性能が著しく低下し（例：グラフ対照学習損失なしではHR@20が0.2428から0.2433に低下）、顕著な劣化が生じた。
• 遷移頻度を符号化するWITGコンponentは極めて重要であり、これを削除すると性能が著しく低下した（PoetryではHR@20が0.2138に低下）。
• 異なるバックボーンエンコーダーに対してもモデルはロバストであった：GCL4SR-SAS、GCL4SR-GRU、GCL4SR-HGNは、それぞれのベースモデルを上回った。
• ハイパーパramータ分析の結果、最適な性能は、Poetryではサンプリング深さM=4、PhonesではM=3で得られ、埋め込み次元d=64（Poetry）およびd=96（Phones）が最適であった。
• サンプリングサイズNを大きくすることで性能が向上した。これは、より豊富な増幅が優れた表現学習をもたらすことを示している。