Skip to main content
QUICK REVIEW

[論文レビュー] Socially-Aware Self-Supervised Tri-Training for Recommendation

Junliang Yu, Hongzhi Yin|arXiv (Cornell University)|Jun 7, 2021
Recommender Systems and Techniques参考文献 52被引用数 10
ひとこと要約

本稿では、ユーザーの社会的関係とユーザー・アイテム相互作用を活用して補完的ビューを生成することで、推薦性能を向上させる社会的認識型自己教師あり三重学習フレームワークSEPTを提案する。三つのグラフエンコーダー(二つは偽ラベル生成用、一つは推薦用)を用いた三重学習と対照学習を組み合わせることで、同質性に基づく教師信号を捉え、実世界のデータセットにおいて自己教師ありおよびベースライン手法を著しく上回る性能を達成する。

ABSTRACT

Self-supervised learning (SSL), which can automatically generate ground-truth samples from raw data, holds vast potential to improve recommender systems. Most existing SSL-based methods perturb the raw data graph with uniform node/edge dropout to generate new data views and then conduct the self-discrimination based contrastive learning over different views to learn generalizable representations. Under this scheme, only a bijective mapping is built between nodes in two different views, which means that the self-supervision signals from other nodes are being neglected. Due to the widely observed homophily in recommender systems, we argue that the supervisory signals from other nodes are also highly likely to benefit the representation learning for recommendation. To capture these signals, a general socially-aware SSL framework that integrates tri-training is proposed in this paper. Technically, our framework first augments the user data views with the user social information. And then under the regime of tri-training for multi-view encoding, the framework builds three graph encoders (one for recommendation) upon the augmented views and iteratively improves each encoder with self-supervision signals from other users, generated by the other two encoders. Since the tri-training operates on the augmented views of the same data sources for self-supervision signals, we name it self-supervised tri-training. Extensive experiments on multiple real-world datasets consistently validate the effectiveness of the self-supervised tri-training framework for improving recommendation. The code is released at https://github.com/Coder-Yu/QRec.

研究の動機と目的

  • 既存の自己教師あり学習(SSL)手法が、ユーザー・アイテム相互作用における広範な同質性にもかかわらず、すべての非同一ノードをネガティブ例として扱うという限界に対処する。
  • ユーザーの関係性を補助的データソースとして活用し、ユーザーの好みと社会的影響を反映する補完的ビューを生成する。
  • 近隣の複数のビューから動的に偽ラベルを生成することで、ユーザー表現学習を改善する三重学習ベースのSSLフレームワークを開発する。
  • 対照学習において、類似ユーザーをネガティブ例として扱う代わりに、それらのポジティブ信号を捉えることで推薦性能を向上させる。
  • 側面情報が利用可能な実世界の推薦シナリオにおいて、社会的認識型マルチビュー学習の有効性を示す。

提案手法

  • ユーザー・アイテム相互作用グラフにユーザーの社会的ネットワークを統合し、二つの追加のデータビューを生成する:一つはユーザーの友人関係に基づき、もう一つはアイテム共有行動に基づく。
  • 三つの非対称グラフエンコーダーを構築する:ユーザー・アイテムビュー用(推薦用)、社会的ビューおよび共有ビューからの表現学習と偽ラベル生成用の二つ。
  • 近隣識別に基づく対照学習を適用し、異なるビュー間で同じユーザーの表現を一致させる。他のユーザーからの偽ラベルを用いて学習をガイドする。
  • エッジドロップアウトによる動的摂動を社会的グラフに施し、人為的ラベルなしで自己教師あり信号を生成するための確率的ビューを生成する。
  • 他の二つのエンコーダーからの自己教師あり信号を用いて、三つのエンコーダーを繰り返し精緻化する。これにより、一般化性能が向上する三重学習ループを形成する。
  • 温度制御対照損失とバランス要因βを統合し、自己教師あり三重学習信号が最終的な推薦モデルに与える影響を制御する。

実験結果

リサーチクエスチョン

  • RQ1社会的関係を自己教師あり学習に組み込むことで、同質性を捉えることで推薦システムにおける表現学習が向上するか?
  • RQ2提案されたマルチビュー三重学習フレームワークは、標準的な自己教師あり対照学習と比較して、推薦性能にどのように差をつけるか?
  • RQ3各ビュー(ユーザー・アイテム、社会的、共有)が全体の推薦精度に果たす寄与度は何か?
  • RQ4ハイパーパrameter(正例数Kやエッジドロップアウト率ρ)の変化に対して、フレームワークの感度はどの程度か?
  • RQ5一部の側面情報(例:ユーザー・アイテムデータのみ)しか利用できない状況でも、フレームワークは依然として良好な性能を発揮できるか?

主な発見

  • SEPTは、LastFM、Yelp、Douban-Bookの三つの実世界データセットにおいて、最先端の自己教師ありおよび教師ありベースライン(LightGCNや他のSSLベース手法を含む)を著しく上回る性能を発揮する。
  • LastFMおよびYelpでは、ユーザー・アイテム、社会的、共有の三つのビューをすべて使用した場合が最良の性能を示し、最良のベースライン比でAUCが最大3.5%向上、Recall@20が2.8%向上した。
  • Douban-Bookでは、自己教師あり共同学習設定(二つのビュー)が最高の性能を達成しており、特定のデータセットでは社会的ビューがやや情報量が少ない可能性を示している。
  • アブレーションスタディの結果、各ビューが表現学習に正の寄与をしていることが確認され、特に好みのビュー(ユーザー・アイテム)が最も重要であり、社会的および共有ビューが補完的信号を提供している。
  • フレームワークはハイパーパrameterの変化に対して頑健である:エッジドロップアウト率ρの広い範囲で性能が安定しており、βおよびKの適切な中程度の値で最適な性能が得られる。
  • ユーザー・アイテムビューのみを用いても、SEPTはLightGCNを上回る性能を発揮しており、明示的な側面情報がなくても自己教師あり学習の有効性が示された。

より良い研究を、今すぐ始めましょう

論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。

クレジットカード登録不要

このレビューはAIが作成し、人間の編集者が確認しました。