[論文レビュー] Self-Supervised Graph Co-Training for Session-based Recommendation

Xin Xia, Hongzhi Yin+3 more|arXiv (Cornell University)|Aug 24, 2021

Recommender Systems and Techniques参考文献 58被引用数 9

ひとこと要約

本稿では、破壊的アイテムドロップアウトではなく、二重ビューのグラフエンコーダーを用いて情報豊かなデータ拡張を生成する、自己教師付きグラフ共同学習フレームワークCOTRECを提案する。対照的学習を通じて内部および外部のセッション接続性を活用することで、COTRECはベンチマークデータセットで最先端の性能を達成し、特に低データ環境下で、既存のSSLおよびドロップアウトベースの手法を上回る。

ABSTRACT

Session-based recommendation targets next-item prediction by exploiting user behaviors within a short time period. Compared with other recommendation paradigms, session-based recommendation suffers more from the problem of data sparsity due to the very limited short-term interactions. Self-supervised learning, which can discover ground-truth samples from the raw data, holds vast potentials to tackle this problem. However, existing self-supervised recommendation models mainly rely on item/segment dropout to augment data, which are not fit for session-based recommendation because the dropout leads to sparser data, creating unserviceable self-supervision signals. In this paper, for informative session-based data augmentation, we combine self-supervised learning with co-training, and then develop a framework to enhance session-based recommendation. Technically, we first exploit the session-based graph to augment two views that exhibit the internal and external connectivities of sessions, and then we build two distinct graph encoders over the two views, which recursively leverage the different connectivity information to generate ground-truth samples to supervise each other by contrastive learning. In contrast to the dropout strategy, the proposed self-supervised graph co-training preserves the complete session information and fulfills genuine data augmentation. Extensive experiments on multiple benchmark datasets show that, session-based recommendation can be remarkably enhanced under the regime of self-supervised graph co-training, achieving the state-of-the-art performance.

研究の動機と目的

• 短い期間の相互作用によって制限されるモデル性能を改善するため、セッションベースの推薦におけるデータスパarsityを解決すること。
• アイテム／セグメントドロップアウトに依存する既存の自己教師付き学習手法の限界を克服し、セッションデータのスパarsityを悪化させる要因を排除すること。
• グラフベースのデータ拡張により、完全なセッション情報を保持することで、より情報豊かな自己教師信号を生成すること。
• 二つの補完的ビューのセッショングラフ上で対照的学習を用いた共同学習により、推薦性能を向上させること。
• 提案されたフレームワークの有効性を、多様なセッション長さおよびハイパーパrameter設定の下で示すこと。

提案手法

• セッションデータの二つの異なるビューを構築する：一つは内部セッション接続性（例：順序付き遷移）を強調し、もう一つは外部セッション・アイテム相互作用（例：複数のセッション間での共起）を強調する。
• これらの二つのビュー上で別々のGNNエンコーダーを学習させ、異なる構造的パターンを捉える表現を学習する。
• 同じセッションの二つのビュー間での表現を対照的学習により一致させ、相互の自己教師信号を生成する。
• 二つのエンコーダー間の乖離制約を適用し、共同学習中の崩壊を防ぎ、一貫性を促進する。
• ハイパーパrameter β によって制御される重み付き組み合わせにより、自己教師信号損失を主な推薦目的と統合する。
• 相手の生成する偽ラベルを用いて交互に更新する共同最適化戦略を採用し、反復的改善を実現する。

Figure 1. An overview of the proposed COTREC framework.

実験結果

リサーチクエスチョン

• RQ1 通常のドロップアウトによるデータ拡張ではスパarsityが増すが、自己教師付き学習がセッションベースの推薦性能を向上させられるか？
• RQ2 内部および外部のセッション接続性を捉える二重ビューのグラフ表現は、単一ビューまたはドロップアウトベースの手法に比べ、より情報豊かな自己教師信号を提供するか？
• RQ3 対照的学習を用いた共同学習メカニズムは、さまざまなセッション長にわたるモデルの一般化性能をどのように向上させるか？
• RQ4 自己教師付き対照的損失と主な推薦目的との間の最適なバランスは、ハイパーパラメータによってどのように制御されるか？
• RQ5 モデルの深さが増すに従い、過剰平滑化や性能低下が生じるリスクに対して、提案されたフレームワークはどれほど頑健か？

主な発見

• COTRECはTmallおよびDigineticaの両データセットで最先端の性能を達成し、既存の自己教師付きおよびベースラインモデルを上回る。
• TmallではPrec@20が78.9%を達成し、2番目に良い手法（76.3%）を顕著に上回った。
• DigineticaではPrec@20が68.2%を達成し、次善のベースラインを2.5ポイント以上上回った。
• 短いセッション（≤5アイテム）においても優れた性能を示し、現実のデータに適応可能であることを示した。
• 最適なハイパーパラメータはβ = 0.05およびα = 0.005であり、αは二つのエンコーダー間の乖離制約を制御する。
• 3層を超えると過剰平滑化のため性能が低下するため、深さと表現品質の間にはトレードオフがあることが示された。

Figure 2. Ablation Study.