[论文解读] Application of Knowledge Graphs to Provide Side Information for Improved Recommendation Accuracy

Yuhao Mao, Serguei A. Mokhov+1 more|arXiv (Cornell University)|Jan 7, 2021

Recommender Systems and Techniques参考文献 15被引用 4

一句话总结

本文提出了一种通用软件框架，将知识图谱作为辅助信息集成到推荐系统中，以提升推荐准确率。通过将产品和用户元数据（如演员、导演、用户人口统计信息）编码为知识图谱，并在模型训练过程中利用该图谱，框架显著提升了推荐性能，相较于基线模型，AUC和准确率最高提升1%。

ABSTRACT

Personalized recommendations are popular in these days of Internet driven activities, specifically shopping. Recommendation methods can be grouped into three major categories, content based filtering, collaborative filtering and machine learning enhanced. Information about products and preferences of different users are primarily used to infer preferences for a specific user. Inadequate information can obviously cause these methods to fail or perform poorly. The more information we provide to these methods, the more likely it is that the methods perform better. Knowledge graphs represent the current trend in recording information in the form of relations between entities, and can provide additional (side) information about products and users. Such information can be used to improve nearest neighbour search, clustering users and products, or train the neural network, when one is used. In this work, we present a new generic recommendation systems framework, that integrates knowledge graphs into the recommendation pipeline. We describe its software design and implementation, and then show through experiments, how such a framework can be specialized for a domain, say movie recommendations, and the improvements in recommendation results possible due to side information obtained from knowledge graphs representation of such information. Our framework supports different knowledge graph representation formats, and facilitates format conversion, merging and information extraction needed for training recommendation methods.

研究动机与目标

• 解决传统推荐系统中用户和物品信息不足的挑战。
• 提供一个统一的软件框架，将来自知识图谱的多样化辅助信息集成到推荐流水线中。
• 实现结构化知识（例如实体、关系）的可扩展、可互操作使用，以提升模型的泛化能力和可解释性。
• 支持多种知识表示格式和机器学习后端，确保广泛的研究与部署兼容性。
• 通过在MovieLens-1M数据集上使用知识感知推荐模型（MKR）进行实证评估，证明该框架的有效性。

提出的方法

• 使用RDF、RDFS、OWL或Neo4j格式，将辅助信息（如电影类型、演员、导演、用户年龄、职业）表示为知识图谱中的三元组。
• 使用Python实现一个模块化软件框架，支持知识图谱的摄入、格式转换、合并以及用于训练的信息提取。
• 通过将图结构化的辅助信息融入到项目和用户嵌入中，将知识图谱与深度学习推荐模型（MKR）集成。
• 在MKR模型中采用多任务学习目标，联合优化评分预测和知识感知对比学习。
• 通过缓存预训练的图结构和模型权重，支持实时推理，并使用时间戳记录的流水线执行来测量延迟。
• 通过计划中的Java API包装器和对多种机器学习框架（如PyTorch、Scikit-learn）的支持，实现可扩展性。

实验结果

研究问题

• RQ1 将来自知识图谱的结构化辅助信息集成到推荐模型中，对模型准确率有何影响？
• RQ2 哪些类型的辅助信息（如用户人口统计、电影海报、演员、导演）对提升推荐性能贡献最大？
• RQ3 一个通用且可扩展的软件框架能否有效支持推荐系统中多种知识图谱格式和机器学习后端？
• RQ4 与现有基线相比，该框架在实时推理延迟方面表现如何？
• RQ5 稀疏的辅助信息（如电影海报）在多大程度上会降低模型性能？是否可通过特征提取加以改善？

主要发现

• 同时引入用户和电影的辅助信息（如年龄、职业、演员、导演）使测试AUC提升至0.9136，较基线模型（0.9042）提高0.9%。
• 用户侧信息（年龄、职业）对性能有显著贡献，当其被添加到基线模型时，测试AUC提升至0.9091。
• 仅使用电影侧信息（类型、演员、导演）即可使测试AUC提升至0.9061，较基线模型提高0.2%。
• 基于海报的辅助信息因数据稀疏性产生负面影响，导致测试AUC降至0.9029，准确率降至0.8214，表明在缺乏视觉特征提取的情况下其效用有限。
• 该框架在笔记本电脑上的平均推理延迟为634.33ms，远低于2000ms的实时基线，证明其具备实际可部署性。
• 该框架的模块化设计支持多种知识图谱格式（RDF、OWL、Neo4j），并可在未来集成PyTorch、Caffe等额外框架。