[论文解读] Top-N Recommendation with Novel Rank Approximation

Zhao Kang, Qiang Cheng|arXiv (Cornell University)|Feb 25, 2016

Sparse and Compressive Sensing Techniques参考文献 29被引用 3

一句话总结

本文提出了一种新颖的非凸秩逼近方法，在Top-N推荐中优于核范数，通过更准确地模拟真实秩函数，显著提升了推荐性能。将该逼近方法集成到LorSLIM框架后，该方法在六个真实世界数据集上实现了显著的推荐准确率提升，平均在命中率（Hit Rate）上提升11.66%，在平均倒数排名（ARHR）上提升11.23%，超越了当前最先进方法。

ABSTRACT

The importance of accurate recommender systems has been widely recognized by academia and industry. However, the recommendation quality is still rather low. Recently, a linear sparse and low-rank representation of the user-item matrix has been applied to produce Top-N recommendations. This approach uses the nuclear norm as a convex relaxation for the rank function and has achieved better recommendation accuracy than the state-of-the-art methods. In the past several years, solving rank minimization problems by leveraging nonconvex relaxations has received increasing attention. Some empirical results demonstrate that it can provide a better approximation to original problems than convex relaxation. In this paper, we propose a novel rank approximation to enhance the performance of Top-N recommendation systems, where the approximation error is controllable. Experimental results on real data show that the proposed rank approximation improves the Top-$N$ recommendation accuracy substantially.

研究动机与目标

• 解决核范数松弛在Top-N推荐中低秩矩阵逼近时的局限性。
• 开发一种更紧密、可调控的真矩阵秩函数逼近方法，以提升推荐质量。
• 通过用更优的非凸松弛替代核范数为基础的秩最小化，提升LorSLIM模型的性能。
• 证明更优的秩逼近可带来推荐准确率的显著提升，尤其在稀疏数据场景下。
• 为所提出的非凸秩逼近提供一种可扩展且高效的优化策略。

提出的方法

• 提出一种新的非凸矩阵秩替代函数，能紧密逼近真实秩，通过参数δ实现逼近误差的可控调节。
• 在LorSLIM框架中，利用新秩逼近方法将Top-N推荐问题建模为低秩、稀疏矩阵优化问题。
• 设计一种高效的交替方向乘乘法（ADMM）算法，每个子问题均具有闭式解，实现可扩展优化。
• 在增广拉格朗日方法中引入动态惩罚参数μ，以提升收敛性与稳定性。
• 通过ℓ1-范数正则化参数α控制聚合矩阵的稀疏性，平衡推荐覆盖率与精度。
• 使用参数β控制学习到的相似度矩阵中低秩与稀疏结构之间的权衡。

实验结果

研究问题

• RQ1 在Top-N推荐中，非凸秩逼近是否能作为矩阵秩函数的替代函数，优于核范数？
• RQ2 用该新逼近方法替代核范数后，是否能在真实世界数据集上实现可测量的推荐准确率提升？
• RQ3 所提模型的关键超参数α、β和δ对性能的敏感度如何？
• RQ4 该方法在多大程度上比LorSLIM更准确地重构原始用户-物品矩阵？
• RQ5 在不同N值下，该方法与当前最先进算法（如ItemKNN、PureSVD、WRMF、BPRMF、SLIM和LorSLIM）相比表现如何？

主要发现

• 在六个真实数据集上，该方法在命中率（HR）上平均提升11.66%，在平均倒数排名（ARHR）上平均提升11.23%，均超越LorSLIM。
• 平均而言，该方法在HR上分别优于ItemKNN、PureSVD、WRMF、BPRKNN、BPRMF和SLIM 40.41%、47.22%、34.65%、27.99%、36.01%和25.67%。
• 矩阵重构质量显著更优：该方法在X中非零条目的平均恢复值为1.338，而LorSLIM仅为0.0665，表明信息保留能力更强。
• 该方法在不同N值（5至25）下均保持优异性能，在所有设置中均一致优于所有基线方法。
• 当δ ≤ 0.1时，该秩逼近与真实秩高度吻合，逼近误差仅为0.05，验证了替代函数的可控性与准确性。
• 性能对α比对β更敏感，最优性能在中等α值下实现；α过大则导致过度稀疏，影响推荐质量。