[论文解读] Hybrid Deep-Semantic Matrix Factorization for Tag-Aware Personalized Recommendation

Zhenghua Xu, Cheng Chen+2 more|arXiv (Cornell University)|Aug 12, 2017

Recommender Systems and Techniques参考文献 15被引用 3

一句话总结

该论文提出了一种新型模型——混合深度语义矩阵分解（HDMF），通过混合学习信号将深度语义表征学习与矩阵分解相结合，联合优化重构误差和矩阵分解误差。HDMF 显著优于当前最先进的基线模型，在标签感知个性化推荐任务中，其平均倒数排名（MRR）比最佳基线模型 DSPR 提高 1.52 倍，平均平均精度（MAP）提高 1.66 倍。

ABSTRACT

Matrix factorization has now become a dominant solution for personalized recommendation on the Social Web. To alleviate the cold start problem, previous approaches have incorporated various additional sources of information into traditional matrix factorization models. These upgraded models, however, achieve only "marginal" enhancements on the performance of personalized recommendation. Therefore, inspired by the recent development of deep-semantic modeling, we propose a hybrid deep-semantic matrix factorization (HDMF) model to further improve the performance of tag-aware personalized recommendation by integrating the techniques of deep-semantic modeling, hybrid learning, and matrix factorization. Experimental results show that HDMF significantly outperforms the state-of-the-art baselines in tag-aware personalized recommendation, in terms of all evaluation metrics, e.g., its mean reciprocal rank (resp., mean average precision) is 1.52 (resp., 1.66) times as high as that of the best baseline.

研究动机与目标

• 为解决现有标签感知推荐模型的局限性，包括深度语义模型优化不佳，以及基于附加信息的矩阵分解（AMF）模型性能提升有限。
• 通过有效利用社交标签作为用户和物品表征的主要来源，克服矩阵分解中的冷启动问题。
• 通过深度语义学习使矩阵分解中分解出的用户和物品矩阵具有语义意义，从而提升模型可解释性。
• 通过引入结合重构误差和矩阵分解误差的混合学习信号，提升模型优化与泛化能力。
• 通过最大化标签信息对优化过程的贡献，实现更优的推荐性能，而不同于 AMF 模型仅将标签信息作为弱正则化项使用。

提出的方法

• HDMF 使用两个深度自编码器处理基于标签的用户和物品矩阵，在编码层学习深度语义表征，并在输出层重构原始矩阵。
• 模型采用混合学习信号进行训练，同时最小化重构误差（输入与输出矩阵之间的差异）和矩阵分解误差（由深度语义矩阵预测的用户-物品评分与实际评分之间的差异）。
• 用户和物品的潜在因子由自编码器的编码层表征生成，并通过点积运算预测用户-物品评分，构成矩阵分解的核心部分。
• 混合损失函数有助于改善梯度流动，帮助模型逃离局部极小值，提升优化稳定性。
• 该模型具有可解释性，因为它能识别每个深度语义矩阵维度中最具影响力的输入标签，从而实现对潜在因子的语义化解释。
• HDMF 直接利用标签信息来塑造矩阵分解中分解出的用户和物品矩阵，最大化其对优化的影响，而不同于 AMF 模型将其视为弱正则化项。

实验结果

研究问题

• RQ1 能否有效结合深度语义建模与矩阵分解，以提升标签感知个性化推荐性能？
• RQ2 结合重构误差与矩阵分解误差的混合学习信号是否能带来优于单目标训练的优化效果与性能表现？
• RQ3 通过识别每个维度的关键输入标签，能否使 HDMF 中的深度语义矩阵具备可解释性，从而克服传统矩阵分解的不可解释性问题？
• RQ4 在不同评估指标下，HDMF 与当前最先进的模型（如 DSPR 和 AMF 变体）相比，其推荐准确率与鲁棒性如何？
• RQ5 通过矩阵分解整合协同过滤信号，在冷启动场景下，对深度语义模型的性能提升程度如何？

主要发现

• 在 Delicious 数据集上，HDMF 在所有七个基线模型的全部评估指标（包括 P@k、R@k、F@k、MAP 和 MRR）上均显著优于基线。
• HDMF 的平均倒数排名（MRR）比最佳基线模型 DSPR 高 1.52 倍，其平均平均精度（MAP）高 1.66 倍。
• HDMF 相较于 DSPR 的相对性能增益随截断排名 k 的增加而提升，在 k=50 时，P@k 的性能提升超过两倍，表明其在长推荐列表上表现更强。
• 与标准矩阵分解模型（MF）相比，HDMF 在 MAP 和 MRR 上分别提升了约 70% 和 130%，表明通过有效整合标签信息实现了显著的性能跃升。
• AMF 模型（如 MF_sf 和 MF_tc）仅在 MAP 和 MRR 上比 MF 提升 2.4% 和 6.8%，而 HDMF 的性能提升则显著更高，凸显了 HDMF 在分解矩阵中直接建模标签信息的优越性。
• 混合学习信号实现了更优的优化与梯度流动，使 HDMF 能够逃离局部极小值，收敛性能优于依赖单目标训练的模型。