[论文解读] WSFE: Wasserstein Sub-graph Feature Encoder for Effective User Segmentation in Collaborative Filtering

Yankai Chen, Yifei Zhang+4 more|arXiv (Cornell University)|May 8, 2023

Recommender Systems and Techniques被引用 4

一句话总结

WSFE 是一种模型无关、无需训练的表示编码器，通过最优传输理论中的Wasserstein距离，从用户-物品交互图中编码高阶子图模式，以度量协同过滤中的用户级相似性。该方法在无需微调的情况下，显著提升了六种真实世界数据集上六种最先进模型的用户聚类性能，召回率和NDCG的提升最高达+13.60%。

ABSTRACT

Maximizing the user-item engagement based on vectorized embeddings is a standard procedure of recent recommender models. Despite the superior performance for item recommendations, these methods however implicitly deprioritize the modeling of user-wise similarity in the embedding space; consequently, identifying similar users is underperforming, and additional processing schemes are usually required otherwise. To avoid thorough model re-training, we propose WSFE, a model-agnostic and training-free representation encoder, to be flexibly employed on the fly for effective user segmentation. Underpinned by the optimal transport theory, the encoded representations from WSFE present a matched user-wise similarity/distance measurement between the realistic and embedding space. We incorporate WSFE into six state-of-the-art recommender models and conduct extensive experiments on six real-world datasets. The empirical analyses well demonstrate the superiority and generality of WSFE to fuel multiple downstream tasks with diverse underlying targets in recommendation.

研究动机与目标

• 为解决现代协同过滤模型中缺乏显式用户级相似性建模的问题，该问题限制了有效用户分割的实现。
• 开发一种表示编码器，可在不需模型微调或架构修改的情况下，提升用户相似性度量性能。
• 实现在多种基于图的推荐模型中灵活、即插即用的用户分割部署。
• 利用高阶子图模式与最优传输理论，实现鲁棒、分布感知的用户嵌入编码。
• 在多种模型与真实世界数据集上验证该方法的通用性与有效性。

提出的方法

• WSFE 将用户偏好建模为从学习到的物品交互模式中推导出的未知高维概率分布。
• 通过最优传输理论，计算经验特征分布与嵌入特征分布之间的Wasserstein距离，以编码用户表示。
• 该方法从用户-物品交互图中提取高阶子图特征，以捕捉复杂的用户行为相似性。
• 采用基于切片的近似方法（S）高效计算累积Wasserstein距离，在准确率与计算成本之间实现平衡。
• 通过求和或拼接方式对层间嵌入进行聚合，以降低维度并缓解内存问题。
• 该编码器与任意预训练的基于图的推荐模型完全兼容，支持即插即用的用户分割。

实验结果

研究问题

• RQ1 一种无需训练、模型无关的方法是否能在不微调模型的前提下，提升协同过滤中的用户分割性能？
• RQ2 WSFE 在通过子图模式编码与最优传输理论结合时，其在捕捉用户级相似性方面的有效性如何？
• RQ3 WSFE 是否能在多种基于图的推荐模型与真实世界数据集上实现良好泛化？
• RQ4 切片数量 S 对性能与计算效率的影响如何？
• RQ5 特征聚合方式（求和 vs. 拼接）对维度与分割准确率的影响是什么？

主要发现

• WSFE 在全部六个真实世界数据集与六种最先进模型上均提升了用户分割性能，召回率提升范围为+0.83%至+13.60%。
• 在 MovieLens 数据集上观察到最大提升，该数据集用户平均交互次数较高（165.60），表明 WSFE 更能从更丰富的偏好分布中获益。
• 对比学习方法（如 SGL、SimGCL、NCL）从 WSFE 中获益最多，召回率最高提升达+12.60%，归因于数据增强带来的嵌入多样性提升。
• 当切片数量 S 设为 64 时，性能与计算成本之间达到最佳平衡，进一步增加 S 带来的收益已趋于饱和。
• 求和聚合方式在性能上与拼接方式相当，使其成为资源受限环境下的可行选择。
• WSFE 可在不微调模型的前提下实现有效的用户分割，展现出在多种模型架构中的强大通用性与灵活性。