[論文レビュー] Graph Collaborative Signals Denoising and Augmentation for Recommendation

Ziwei Fan, Ke Xu+4 more|arXiv (Cornell University)|Apr 6, 2023

Recommender Systems and Techniques被引用数 5

ひとこと要約

本稿では、事前学習とtop-K近隣サンプリングを用いて、ユーザー・アイテム相互作用のノイズ除去とユーザー同士・アイテム同士の相関を統合することで、グラフ隣接行列を強化する新規なフレームワークGraphDAを提案する。近隣の品質を向上させ、ノイズを低減することで、複数のベンチマークデータセットにおいてアクティブなユーザーとインアクティブなユーザーの両方の性能が顕著に向上する。

ABSTRACT

Graph collaborative filtering (GCF) is a popular technique for capturing high-order collaborative signals in recommendation systems. However, GCF's bipartite adjacency matrix, which defines the neighbors being aggregated based on user-item interactions, can be noisy for users/items with abundant interactions and insufficient for users/items with scarce interactions. Additionally, the adjacency matrix ignores user-user and item-item correlations, which can limit the scope of beneficial neighbors being aggregated. In this work, we propose a new graph adjacency matrix that incorporates user-user and item-item correlations, as well as a properly designed user-item interaction matrix that balances the number of interactions across all users. To achieve this, we pre-train a graph-based recommendation method to obtain users/items embeddings, and then enhance the user-item interaction matrix via top-K sampling. We also augment the symmetric user-user and item-item correlation components to the adjacency matrix. Our experiments demonstrate that the enhanced user-item interaction matrix with improved neighbors and lower density leads to significant benefits in graph-based recommendation. Moreover, we show that the inclusion of user-user and item-item correlations can improve recommendations for users with both abundant and insufficient interactions. The code is in \url{https://github.com/zfan20/GraphDA}.

研究の動機と目的

• 二部グラフ隣接行列におけるノイズが多く、疎なユーザー・アイテム相互作用に起因する、従来のグラフ協調フィルタリング手法の限界を解消すること。
• ユーザー同士およびアイテム同士の相関を組み込むことで、豊富な相互作用を持つユーザーと希少な相互作用を持つユーザーの両方の推薦性能を向上させること。
• 外部特徴量や蒸留技術に依存せずに、より強固で情報量の多い隣接行列を生成するための事前学習および強化パイプラインを開発すること。
• ノイズ除去と拡張による強化された近隣選択が、多様なデータセットにおいて一貫した推薦品質の向上をもたらすことを示すこと。

提案手法

• 生のユーザー・アイテム相互作用から高品質なユーザーおよびアイテム埋め込みを取得するために、グラフベースの推薦モデルを事前学習する。
• 事前学習済み埋め込みを用いてtop-Kサンプリングを適用し、近隣の品質が向上したノイズ除去済みかつ拡張されたユーザー・アイテム相互作用行列を構築する。
• 事前学習済み埋め込みに基づいて対称的なユーザー同士・アイテム同士の相関行列を構築し、高次の協調信号を捉える。
• 強化されたユーザー・アイテム行列とユーザー同士・アイテム同士の相関成分を統合し、グラフ畳み込みネットワーク用の統一された隣接行列を構築する。
• 洗練された隣接行列をLightGCNスタイルのフレームワークに組み込み、メッセージパッシングと表現学習を改善する。
• 近隣密度と相関強度を制御するハイパーパrameterを用いて、最終モデルをエンドツーエンドで最適化する。

実験結果

リサーチクエスチョン

• RQ1 二部グラフ隣接行列の品質が、相互作用回数が異なるユーザーの推薦性能にどのように影響するか？
• RQ2 ユーザー同士およびアイテム同士の相関を組み込むことで、アクティブおよびインアクティブなユーザーの推薦が向上するか？
• RQ3 事前学習済み埋め込みからのtop-Kサンプリングによるユーザー・アイテム相互作用のノイズ除去が、標準的なグラフベース手法よりも優れた性能をもたらすか？
• RQ4 強化された隣接行列における相互作用密度と近隣品質の最適なバランスは何か？
• RQ5 ユーザー同士およびアイテム同士の相関成分は、グラフベース推薦における表現学習にどのように寄与するか？

主な発見

• 3回未満の相互作用を持つインアクティブなユーザーに対して、GraphDAは最良のベースライン比で3.7%から19.6%の性能向上を達成する。
• 7回以上の相互作用を持つハイアクトティブユーザーに対しては、GraphDAはLightGCN比で5.1%から67.8%の性能向上を示し、Toolsのようなノイズの多いデータセットで特に顕著である。
• ユーザー同士およびアイテム同士の相関の組み込みは一貫して推薦品質を向上させるが、小規模な近隣数（例：$UU_k, II_k \leq 10$）を超えるとわずかな向上が観察される。
• ユーザー側の近隣を除去（$U_k = 0$）すると顕著な性能低下が生じるため、ユーザーレベルの協調信号の重要性が示される。
• 強化された隣接行列は密度を低く抑えつつ性能を維持または向上させるため、効果的なノイズ低減と近隣品質向上が実現されている。
• GraphDAは、すべてのデータセットでLightGCN、GTN、UltraGCNといった強力なベースラインを上回り、ノイズ除去および拡張パイプラインの有効性を示している。