[论文解读] A Latent Source Model for Online Collaborative Filtering

Guy Bresler, George H. Chen+1 more|arXiv (Cornell University)|Oct 31, 2014

Advanced Bandit Algorithms Research参考文献 13被引用 15

一句话总结

本文提出了一种用于在线协同过滤的潜在源模型，其中用户被划分为k类，具有共享的物品偏好模式。该方法引入了一种基于余弦相似度的算法，结合双重探索（物品空间和用户相似度），即使在未知k值的情况下，也能在仅O(log(km))次初始步骤后实现近似最优性能。

ABSTRACT

Despite the prevalence of collaborative filtering in recommendation systems, there has been little theoretical development on why and how well it works, especially in the "online" setting, where items are recommended to users over time. We address this theoretical gap by introducing a model for online recommendation systems, cast item recommendation under the model as a learning problem, and analyze the performance of a cosine-similarity collaborative filtering method. In our model, each of $n$ users either likes or dislikes each of $m$ items. We assume there to be $k$ types of users, and all the users of a given type share a common string of probabilities determining the chance of liking each item. At each time step, we recommend an item to each user, where a key distinction from related bandit literature is that once a user consumes an item (e.g., watches a movie), then that item cannot be recommended to the same user again. The goal is to maximize the number of likable items recommended to users over time. Our main result establishes that after nearly $\log(km)$ initial learning time steps, a simple collaborative filtering algorithm achieves essentially optimal performance without knowing $k$. The algorithm has an exploitation step that uses cosine similarity and two types of exploration steps, one to explore the space of items (standard in the literature) and the other to explore similarity between users (novel to this work).

研究动机与目标

• 为理解在线推荐系统中协同过滤为何有效，填补理论空白。
• 将在线推荐建模为一个学习问题，约束条件是用户无法重新查看已消费的项目。
• 分析在此设定下，基于余弦相似度的协同过滤算法的有限时间性能。
• 证明即使不知道用户类型的数量k，一个简单算法也能实现近似最优性能。

提出的方法

• 使用k个潜在用户类型建模用户偏好，每类用户对m个物品具有共享的概率向量。
• 以在线方式向用户推荐项目，确保同一用户不会被重复推荐同一项目。
• 采用具有两个探索阶段的协同过滤算法：标准物品空间探索和新颖的基于用户相似度的探索。
• 利用余弦相似度识别相似用户，并优先向他们推荐更可能喜欢的项目。
• 采用两阶段策略：初始探索阶段用于学习用户类型和项目可喜欢性，随后进入利用阶段，基于相似性进行推荐。
• 在仅可观测到已揭示评分、而非完整偏好向量的约束下进行性能分析。

实验结果

研究问题

• RQ1 我们如何从理论上证明协同过滤在在线推荐系统中的有效性？
• RQ2 协同过滤算法实现近似最优性能所需的最小初始探索量是多少？
• RQ3 推荐算法是否能在未知用户类型数量k的情况下实现良好性能？
• RQ4 对物品和用户相似度的双重探索策略如何影响学习效率？

主要发现

• 所提出的算法仅在O(log(km))次初始时间步后即可实现近似最优性能，显著缩短了学习阶段。
• 该算法的性能几乎与一个预先知道所有可喜欢项目的“预言机”相当。
• 双重探索机制（物品空间与用户相似度）使学习效率得以提升，且对k和m的依赖呈对数关系。
• 即使在未知k值（用户类型数量）的情况下，该算法仍表现良好，这是其关键的实际优势。
• 在Movielens10M和Netflix数据集上的实验结果表明，尽管未使用完整数据进行训练，该算法仍优于基于矩阵补全和基于流行度的基线方法。