[論文レビュー] WSFE: Wasserstein Sub-graph Feature Encoder for Effective User Segmentation in Collaborative Filtering

Yankai Chen, Yifei Zhang+4 more|arXiv (Cornell University)|May 8, 2023

Recommender Systems and Techniques被引用数 4

ひとこと要約

WSFE は、ユーザー・アイテム相互作用グラフからの高次部分グラフパターンをエンコードすることで、最適輸送理論を用いた Wasserstein 距離を介して協調フィルタリングにおけるユーザー単位の類似度を測定する、モデルに依存せず、トレーニングを必要としない表現エンコーダーである。本手法は、再トレーニングを伴わず、6つの実世界データセットにおける6つの最先端モデルで、ユーザー分割性能を顕著に向上させ、ユーザークラスタリングタスクにおける再現率と NDCG で最大 +13.60% の向上を達成した。

ABSTRACT

Maximizing the user-item engagement based on vectorized embeddings is a standard procedure of recent recommender models. Despite the superior performance for item recommendations, these methods however implicitly deprioritize the modeling of user-wise similarity in the embedding space; consequently, identifying similar users is underperforming, and additional processing schemes are usually required otherwise. To avoid thorough model re-training, we propose WSFE, a model-agnostic and training-free representation encoder, to be flexibly employed on the fly for effective user segmentation. Underpinned by the optimal transport theory, the encoded representations from WSFE present a matched user-wise similarity/distance measurement between the realistic and embedding space. We incorporate WSFE into six state-of-the-art recommender models and conduct extensive experiments on six real-world datasets. The empirical analyses well demonstrate the superiority and generality of WSFE to fuel multiple downstream tasks with diverse underlying targets in recommendation.

研究の動機と目的

• 現代の協調フィルタリングモデルにおける明示的なユーザー単位の類似度モデリングの欠如が、効果的なユーザー分割を妨げているという問題に取り組む。
• モデルの再トレーニングやアーキテクチャの変更を必要とせず、ユーザー類似度測定を向上させる表現エンコーダーを開発すること。
• 多様なグラフベースのレコメンデーションモデルに柔軟かつ即時のユーザー分割を実装できるようにすること。
• 高次部分グラフパターンと最適輸送理論を活用して、分布に敏感な強力なユーザー埋め込み表現をエンコードすること。
• 本手法の汎用性と有効性を、複数のモデルおよび実世界のデータセット上で検証すること。

提案手法

• WSFE は、学習されたアイテム相互作用パターンから導かれる未知の高次元確率分布としてユーザーの好みをモデル化する。
• 最適輸送理論を用いて、経験的分布と埋め込み分布間の Wasserstein 距離を計算することで、ユーザー表現をエンコードする。
• ユーザー・アイテム相互作用グラフから高次部分グラフ特徴を抽出し、複雑な行動的類似度を捉える。
• 計算コストと精度のバランスを取るために、累積 Wasserstein 距離を効率的に計算するスライシングベースの近似法 (S) を適用する。
• 次元削減とメモリ制限の緩和を目的として、レイヤーごとの埋め込みを和または連結により集約する。
• 本エンコーダーは、任意の事前学習済みのグラフベースのレコメンデーションモデルと完全に互換性があり、即時のユーザー分割が可能である。

実験結果

リサーチクエスチョン

• RQ1 トレーニング不要、モデルに依存しない手法が、再トレーニングを伴わず協調フィルタリングにおけるユーザー分割性能を向上させられるか？
• RQ2 部分グラフパターンのエンコードと最適輸送を用いることで、WSFE はユーザー単位の類似度をどれほど効果的に捉えられるか？
• RQ3 WSFE は多様なグラフベースのレコメンデーションモデルおよび実世界のデータセットに一般化可能か？
• RQ4 スライシング数 S の変更が、性能と計算効率に与える影響は何か？
• RQ5 特徴集約法（和 vs. 連結）の違いが、次元削減と分割精度に与える影響は何か？

主な発見

• WSFE は、6つの実世界データセットおよび6つの最先端モデルすべてでユーザー分割性能を向上させ、再現率の向上幅は +0.83% から +13.60% の範囲にのぼる。
• 最も大きな向上は、平均相互作用数が 165.60 に達する MovieLens データセットで観察され、WSFE がより豊かな好みの分布を活用できることが示された。
• 対照学習ベースのモデル（例：SGL、SimGCL、NCL）は、データオーグメンテーションによる埋め込み多様性の向上のおかげで、WSFE による恩恵を最も大きく受けており、再現率で最大 +12.60% の向上が得られた。
• スライシング数 S を 64 に設定すると、性能と計算コストのバランスが最良となることが判明した。これ以上の増加は、利得の逓減を示した。
• 和集約法は連結法と比較して競争力ある性能を示しており、リソース制限のある環境でも実用的である。
• WSFE は再トレーニングを伴わず、多様なモデルアーキテクチャにわたり強力な汎用性と柔軟性を示し、効果的なユーザー分割を可能にした。