[论文解读] DeepRec: An Open-source Toolkit for Deep Learning based Recommendation

Shuai Zhang, Yi Tay+3 more|arXiv (Cornell University)|May 25, 2019

Recommender Systems and Techniques参考文献 21被引用 7

一句话总结

DeepRec 是一个基于 TensorFlow 的开源工具包，为基于深度学习的推荐系统提供统一、可扩展的框架，支持评分预测、Top-N 排名和序列推荐。它通过 GPU 加速和标准化评估指标，实现了对 20 多个最先进深度学习模型的轻松复现与扩展。

ABSTRACT

Deep learning based recommender systems have been extensively explored in recent years. However, the large number of models proposed each year poses a big challenge for both researchers and practitioners in reproducing the results for further comparisons. Although a portion of papers provides source code, they adopted different programming languages or different deep learning packages, which also raises the bar in grasping the ideas. To alleviate this problem, we released the open source project: extbf{DeepRec}. In this toolkit, we have implemented a number of deep learning based recommendation algorithms using Python and the widely used deep learning package - Tensorflow. Three major recommendation scenarios: rating prediction, top-N recommendation (item ranking) and sequential recommendation, were considered. Meanwhile, DeepRec maintains good modularity and extensibility to easily incorporate new models into the framework. It is distributed under the terms of the GNU General Public License. The source code is available at github: \url{https://github.com/cheungdaven/DeepRec}

研究动机与目标

• 解决由于代码库不一致、编程语言和深度学习框架差异导致的基于深度学习的推荐模型复现困难问题。
• 提供一个统一、模块化且可扩展的框架，使用单一深度学习后端支持多种推荐场景。
• 通过提供最先进模型的一致实现和标准化评估指标，降低研究人员和实践者的入门门槛。
• 通过利用 GPU 和与 TensorFlow 的集成，实现大规模数据集上的高效训练。
• 超越现有工具，包含在大多数先前开源库中缺失的序列感知推荐模型。

提出的方法

• 围绕三个核心组件构建工具包：推荐器（模型实现）、后端（TensorFlow、NumPy、Scikit-learn 等）和工具（数据预处理和评估函数）。
• 在三个主要场景中实现多样化的基于深度学习的推荐模型：评分预测、Top-N 推荐和序列推荐。
• 通过 TensorFlow 实现端到端可微分性和 GPU 加速，在同一框架中同时支持深度学习和传统模型（如 biasedSVD、FM、BPRMF）。
• 使用标准化数据格式（如 FM 兼容的 libfm 格式）和评估指标（RMSE、MAE、Recall@n、NDCG、MRR），确保一致性和可比性。
• 设计时注重模块化，使用户能够轻松插入新模型和评估协议。
• 通过利用 TensorFlow 的计算图和即时执行支持，确保与现代深度学习实践的兼容性。

实验结果

研究问题

• RQ1 统一的开源工具包在多大程度上能降低在不同实现之间复现基于深度学习的推荐模型的难度？
• RQ2 单一框架在一致接口下，能在多大程度上支持多种推荐场景——包括评分预测、Top-N 排名和序列推荐？
• RQ3 使用标准化深度学习后端（TensorFlow）对推荐系统中模型的可扩展性、性能和 GPU 利用率有何影响？
• RQ4 与现有开源推荐库相比，DeepRec 在模型覆盖范围、GPU 支持和对现代深度学习架构的支持方面表现如何？
• RQ5 模块化且可扩展的框架能否在单一、可维护的代码库中有效集成经典模型和最先进深度学习推荐模型？

主要发现

• DeepRec 支持超过 20 个最先进基于深度学习的推荐模型，涵盖三大主要推荐场景，显著优于现有库（如 OpenRec 仅实现四个深度学习模型）。
• 该工具包是首个开源库，包含序列感知推荐模型（如 Caser、AttRec 和基于 GRU 的模型），填补了现有框架的关键空白。
• DeepRec 通过 TensorFlow 实现 GPU 加速，使其可扩展以处理大规模数据集，并高效训练复杂模型。
• 该框架在所有模型类型中提供一致的评估指标（如 RMSE、Recall@n、NDCG），便于对结果进行公平且直接的比较。
• DeepRec 的模块化架构支持轻松集成新模型，相比单体或过时的库，显著提升了可扩展性和长期可维护性。
• 与 Suprise、MyMediaLite 和 LibRec 等库相比，DeepRec 独一无二地支持深度学习模型和 GPU 使用，且模型覆盖范围也超过 OpenRec。