[论文解读] Decentralized Recommender Systems

Wang, Zhangyang, Xianming Liu+4 more|arXiv (Cornell University)|Mar 5, 2015

Recommender Systems and Techniques参考文献 10被引用 5

一句话总结

本文提出一种去中心化推荐系统，将协同过滤建模为去中心化矩阵补全问题，实现完全分布式的数据存储与计算。通过仅允许用户与本地邻居交换用户资料因子并保持项目资料私密，该方法在无需中心化融合或内容特征的情况下，实现了具有竞争力的性能（mAPS = 53.46），提升了隐私保护、可扩展性与鲁棒性。

ABSTRACT

This paper proposes a decentralized recommender system by formulating the popular collaborative filleting (CF) model into a decentralized matrix completion form over a set of users. In such a way, data storages and computations are fully distributed. Each user could exchange limited information with its local neighborhood, and thus it avoids the centralized fusion. Advantages of the proposed system include a protection on user privacy, as well as better scalability and robustness. We compare our proposed algorithm with several state-of-the-art algorithms on the FlickerUserFavor dataset, and demonstrate that the decentralized algorithm can gain a competitive performance to others.

研究动机与目标

• 设计一种去中心化推荐系统，消除对中心化数据融合和云服务器的依赖。
• 通过将项目资料和评分在用户间分布存储，保护用户隐私。
• 通过将通信限制在本地邻居范围内，提升大规模移动网络中的可扩展性与鲁棒性。
• 在不使用内容特征的前提下，实现与最先进集中式方法相当的性能。

提出的方法

• 通过在用户本地化数据分区上使用交替最小化，将协同过滤建模为去中心化矩阵补全问题。
• 每位用户维护其局部用户资料估计（U_i）、项目资料估计（V_i）以及对应其部分评分数据的辅助矩阵（Z_i）。
• 采用非线性高斯-赛德尔迭代的变体，结合本地一致性机制：用户先在本地更新V_i和Z_i，然后将U_i传播给邻居，再通过平均一致性更新U_i。
• 使用步长β和邻居平均值，结合本地数据与一跳邻居信息来更新U_i：U_i = (Z_i V_i^T - a_i + β Σ_{j∈N_i} U_j) / (1 + 2β|N_i|)。
• 在Z_i更新过程中，使用投影算子P_Ω强制与观测评分保持一致：Z_i = U_i V_i + P_Ω(R_i - U_i V_i)。
• 依赖用户间的迭代同步，无需全局协调，以收敛至联合解。

实验结果

研究问题

• RQ1 协同过滤能否在无中心融合点或共享数据存储的情况下实现有效去中心化？
• RQ2 如何通过将项目资料和评分保留在本地，来保护协同过滤中的用户隐私？
• RQ3 与集中式最先进方法相比，去中心化矩阵补全算法能实现怎样的性能？
• RQ4 在去中心化环境中，缺乏内容特征如何影响推荐准确率？

主要发现

• 所提出的去中心化矩阵补全（DMC）算法在FlickrUserFavor数据集上达到mAPS = 53.46，优于PMF（61.99）并接近CTR（52.76）。
• 尽管未使用任何内容信息，DMC仍实现了具有竞争力的性能，表明其在集成特征后具有显著提升潜力。
• 去中心化方法确保了用户数据隐私，因为项目资料和评分始终保持分布存储，不会共享给中心服务器。
• 由于通信与计算均局限于本地，系统展现出更好的可扩展性与鲁棒性，避免了单点故障。
• 该算法收敛至重建误差与集中式方法相当的解，验证了其有效性。