[论文解读] Combating the Cold Start User Problem in Model Based Collaborative Filtering

Sampoorna Biswas, Laks V. S. Lakshmanan+1 more|arXiv (Cornell University)|Feb 18, 2017

Recommender Systems and Techniques被引用 10

一句话总结

本文提出了一种用于在基于矩阵分解的协同过滤中为冷启动用户选择最佳b个推荐项目的优化框架，旨在最小化用户画像估计误差。该问题被形式化为最优访谈设计（OID），证明了目标函数的NP难性及非子模性，并提出了加速的贪心启发式算法，在保持与先前方法相当的推荐准确率的同时，显著提升了可扩展性，在四个真实世界数据集上表现优异。

ABSTRACT

For tackling the well known cold-start user problem in model-based recommender systems, one approach is to recommend a few items to a cold-start user and use the feedback to learn a profile. The learned profile can then be used to make good recommendations to the cold user. In the absence of a good initial profile, the recommendations are like random probes, but if not chosen judiciously, both bad recommendations and too many recommendations may turn off a user. We formalize the cold-start user problem by asking what are the $b$ best items we should recommend to a cold-start user, in order to learn her profile most accurately, where $b$, a given budget, is typically a small number. We formalize the problem as an optimization problem and present multiple non-trivial results, including NP-hardness as well as hardness of approximation. We furthermore show that the objective function, i.e., the least square error of the learned profile w.r.t. the true user profile, is neither submodular nor supermodular, suggesting efficient approximations are unlikely to exist. Finally, we discuss several scalable heuristic approaches for identifying the $b$ best items to recommend to the user and experimentally evaluate their performance on 4 real datasets. Our experiments show that our proposed accelerated algorithms significantly outperform the prior art in runnning time, while achieving similar error in the learned user profile as well as in the rating predictions.

研究动机与目标

• 解决基于模型的协同过滤中的冷启动用户问题，即新用户缺乏足够的评分历史。
• 正式定义为冷启动用户选择最优b个推荐项目以最小化其真实用户画像学习过程中的误差。
• 分析项目选择问题的计算复杂度，证明其NP难性及近似困难性。
• 设计可扩展的启发式算法，在计算成本最小化的同时实现高质量的用户画像学习。
• 在真实世界数据集上对所提算法进行实证评估，证明其在可扩展性方面优于先前方法，且在准确率上保持相当水平。

提出的方法

• 将冷启动项目选择问题形式化为最优访谈设计（OID），即最小化真实与学习到的用户画像之间最小二乘误差的优化问题。
• 推导出所选b个项目潜在因子的用户画像误差的闭式表达式，从而在无需真实用户数据的情况下计算目标函数。
• 通过从三集合精确覆盖问题（X3C）的归约证明OID问题是NP难的，确立其计算不可解性。
• 证明目标函数既非子模也非超模，意味着高效近似算法可能不存在。
• 提出加速的贪心启发式算法——前向贪心（FG）、前向贪心2（FG2）、后向贪心（BG）和后向贪心2（BG2），以实现对高质量项目集合的高效搜索。
• 在FG2和BG2中采用快速近似策略，减少冗余计算，实现数量级的速度提升，同时不损失准确性。

实验结果

研究问题

• RQ1 为冷启动用户推荐哪组b个项目能最小化其真实用户画像学习过程中的误差？
• RQ2 在基于矩阵分解的协同过滤中，选择最佳b个项目用于用户画像学习的问题在计算上有多复杂？
• RQ3 用户画像误差的目标函数是否具有子模性或超模性？这对近似算法意味着什么？
• RQ4 能否设计出可扩展的启发式算法，使其在显著优于先前方法的运行时间下实现高质量的用户画像学习？
• RQ5 在大规模真实世界数据集上，所提算法在用户画像误差、预测误差和运行时间方面的表现如何？

主要发现

• 最优访谈设计（OID）问题是NP难的，且难以在α/θ因子内近似，表明不存在高效的精确解或近似解。
• 目标函数——真实与学习到的用户画像之间的最小二乘误差——既非子模也非超模，暗示标准近似技术可能无效。
• 加速贪心算法FG2和BG2在ML-100K、ML-1M、Netflix和ML-20M上的实验中，其用户画像误差和预测误差与非加速版本相当。
• 在理想条件下，FG2在ML-100K数据集上b=100时的运行时间小于ABG2的1/6，展示了显著的可扩展性提升。
• 随着b值减小，后向贪心算法（BG和BG2）的运行时间急剧增加，使其在实际系统中（b通常较小）不切实际。
• 在所有数据集上，FG2在运行时间上优于所有基线方法，同时在用户画像误差和预测误差上保持或超越其他方法，确立其为最有效的启发式算法。