[論文レビュー] Spatio-Temporal Contrastive Learning Enhanced GNNs for Session-based Recommendation

Zhongwei Wan, Xin Liu+6 more|arXiv (Cornell University)|Sep 23, 2022

Recommender Systems and Techniques被引用数 4

ひとこと要約

本稿では、GNNにおける時間的情報損失を軽減するために、空間的・時間的対照学習を統合した、新しいグラフニューラルネットワークフレームワークRESTCを提案する。空間的および時間的ビュー間のクロスビュー対照学習を活用し、グローバル共同フィルタリンググラフを組み込むことで、RESTCはセッション表現学習を著しく向上させ、ベンチマークデータセットで最先端の性能を達成する。

ABSTRACT

Session-based recommendation (SBR) systems aim to utilize the user's short-term behavior sequence to predict the next item without the detailed user profile. Most recent works try to model the user preference by treating the sessions as between-item transition graphs and utilize various graph neural networks (GNNs) to encode the representations of pair-wise relations among items and their neighbors. Some of the existing GNN-based models mainly focus on aggregating information from the view of spatial graph structure, which ignores the temporal relations within neighbors of an item during message passing and the information loss results in a sub-optimal problem. Other works embrace this challenge by incorporating additional temporal information but lack sufficient interaction between the spatial and temporal patterns. To address this issue, inspired by the uniformity and alignment properties of contrastive learning techniques, we propose a novel framework called Session-based Recommendation with Spatio-Temporal Contrastive Learning Enhanced GNNs (RESTC). The idea is to supplement the GNN-based main supervised recommendation task with the temporal representation via an auxiliary cross-view contrastive learning mechanism. Furthermore, a novel global collaborative filtering graph (CFG) embedding is leveraged to enhance the spatial view in the main task. Extensive experiments demonstrate the significant performance of RESTC compared with the state-of-the-art baselines e.g., with an improvement as much as 27.08% gain on HR@20 and 20.10% gain on MRR@20.

研究の動機と目的

• メッセージ伝達中に時間的順序を無視するGNNベースのセッション推薦モデルの制限を是正し、最適でない表現学習を回避すること。
• 対照学習メカニズムを導入することで、セッション埋め込みにおける空間的グラフ構造と時間的パターンの相互作用を向上させること。
• 短いセッションにおけるデータスパarsityを軽減するために、グローバル共同フィルタリンググラフ（CFG）埋め込みを組み込むこと。
• 空間的および時間的ビュー間で一様性を促進し、一致を強化する自己教師付き対照学習により、表現品質を向上させること。

提案手法

• フレームワークは、空間的（アイテム遷移グラフ）および時間的（順序付きアイテムシーケンス）ビューからのセッション表現を一致させる二重ビュー対照学習目的関数を採用する。
• マルチヘッドグラフアテンションネットワーク（MGAT）が空間的グラフ構造を符号化し、位置エンコーディングとシーケンスモデリングにより時間的順序が保持される。
• 相互セッション共起パターンから構築されたグローバル共同フィルタリンググラフ（CFG）は、空間的表現を豊かにし、データスパarsityを低減する。
• 対照学習損失は自己教師付きで最適化され、同じセッションの異なるビュー間のポジティブサンプルの一致とネガティブサンプルの一様性が向上する。
• 主な推薦タスクは、教師あり損失と対照学習損失の重み付き組み合わせを用いて、対照目的と同時に訓練される。
• 対照学習損失の重みやMGAT層数などのハイパーパrameterは、グリッドサーチにより調整され、主タスク最適化と表現学習のバランスを取る。

実験結果

リサーチクエスチョン

• RQ1 空間的・時間的対照学習は、GNNベースのセッション推薦におけるセッション表現学習を向上させ得るか？
• RQ2 共同フィルタリンググラフの統合は、短くスパースなセッションにおける性能にどのように影響を与えるか？
• RQ3 対照学習は、潜在空間におけるセッション埋め込みの判別性をどの程度向上させるか？
• RQ4 MGAT層数や対照学習損失重みなどのモデルハイパーパrameterは、性能と一般化能力にどのように影響を与えるか？

主な発見

• RESTCは、Diginetica、Tmall、RetailRocket、LastFMデータセットで最先端の性能を達成し、HR@20およびMRR@20の両指標で既存のSOTAベースラインを上回る。
• アブレーションスタディでは、対照学習コンponentを削除したRESTC w/o Cont.では性能が著しく低下し、表現学習におけるその有効性が確認された。
• 3層のCFG埋め込みモジュールが最良の性能を示したが、より深い層はノイズと過剰平滑化を引き起こした。
• モデルはさまざまなセッション長に強く、CFG埋め込みによるスパarsity軽減のおかげで短いセッションにおいても優れた性能を発揮する。
• t-SNE可視化により、RESTCはS2-DHCNやGC-SANと比較して、より判別性が高く、明確に分離されたセッション埋め込みを学習していることが確認された、特に同ラベルセッションにおいて顕著である。
• グリッドサーチにより、主予測損失と対照学習損失の最適なバランスは特定のハイパーパramータ値で達成され、対照学習重み（η₁）が高すぎると性能が低下することが判明した。