[논문 리뷰] DeepRec: An Open-source Toolkit for Deep Learning based Recommendation

Shuai Zhang, Yi Tay외 3명|arXiv (Cornell University)|2019. 05. 25.

Recommender Systems and Techniques참고 문헌 21인용 수 7

한 줄 요약

DeepRec는 텐서플로 기반의 오픈소스 툴킷으로, 레이팅 예측, 상위-N 순위 매기기, 순차적 추천을 지원하는 통합적이고 확장 가능한 딥러닝 기반 추천 시스템 프레임워크를 제공한다. GPU 가속과 표준화된 평가 지표를 통해 20개 이상의 최신 딥러닝 모델의 재현 및 확장이 용이하다.

ABSTRACT

Deep learning based recommender systems have been extensively explored in recent years. However, the large number of models proposed each year poses a big challenge for both researchers and practitioners in reproducing the results for further comparisons. Although a portion of papers provides source code, they adopted different programming languages or different deep learning packages, which also raises the bar in grasping the ideas. To alleviate this problem, we released the open source project: extbf{DeepRec}. In this toolkit, we have implemented a number of deep learning based recommendation algorithms using Python and the widely used deep learning package - Tensorflow. Three major recommendation scenarios: rating prediction, top-N recommendation (item ranking) and sequential recommendation, were considered. Meanwhile, DeepRec maintains good modularity and extensibility to easily incorporate new models into the framework. It is distributed under the terms of the GNU General Public License. The source code is available at github: \url{https://github.com/cheungdaven/DeepRec}

연구 동기 및 목표

• 일관되지 않은 코드베이스, 프로그래밍 언어, 딥러닝 프레임워크로 인해 딥러닝 기반 추천 모델의 재현이 어려운 문제를 해결한다.
• 단일 딥러닝 백엔드를 사용해 다양한 추천 시나리오를 지원하는 통합적이고 모듈형이며 확장 가능한 프레임워크를 제공한다.
• 표준화된 구현과 일관된 평가 지표를 제공함으로써 연구자와 실무자들이 접근하기 쉬운 환경을 조성한다.
• 텐서플로와의 통합을 통해 GPU 활용을 통해 대규모 데이터셋에서의 효율적인 학습을 가능하게 한다.
• 기존 도구들에 비해 부족한 점을 보완하여 순서 인식 추천 모델을 포함함으로써 기능을 확장한다.

제안 방법

• 추천 모델(모델 구현), 백엔드(TensorFlow, NumPy, Scikit-learn 등), 유틸리티(데이터 전처리 및 평가 함수)의 세 핵심 구성 요소를 중심으로 툴킷 아키텍처를 설계한다.
• 레이팅 예측, 상위-N 추천, 순차적 추천의 세 주요 시나리오에 걸쳐 다양한 딥러닝 기반 추천 모델을 구현한다.
• 텐서플로를 사용해 엔드 투 엔드 미분 가능성과 GPU 가속을 확보함으로써 딥러닝 모델과 전통적 모델(예: biasedSVD, FM, BPRMF)을 동일한 프레임워크 내에서 지원한다.
• 표준화된 데이터 포맷(예: FM용 libfm 호환 형식)과 평가 지표(RMSE, MAE, Recall@n, NDCG, MRR)를 사용해 일관성과 비교 가능성 확보.
• 모듈성에 중점을 두어 사용자가 새로운 모델과 평가 프로토콜을 쉽게 통합할 수 있도록 설계한다.
• 텐서플로의 계산 그래프와 즉각 실행 지원을 활용해 현대적인 딥러닝 실천 방식과의 호환성을 확보한다.

실험 결과

연구 질문

• RQ1 통합 오픈소스 툴킷은 다양한 구현 방식 간의 딥러닝 기반 추천 모델 재현 난이도를 어떻게 줄일 수 있는가?
• RQ2 단일 프레임워크가 일관된 인터페이스 내에서 레이팅 예측, 상위-N 순위 매기기, 순차적 추천 등의 다양한 추천 시나리오를 얼마나 잘 지원할 수 있는가?
• RQ3 표준화된 딥러닝 백엔드(TensorFlow)를 사용할 경우 추천 시스템의 모델 확장성, 성능, GPU 활용에 어떤 영향을 미치는가?
• RQ4 기존 오픈소스 추천 라이브러리와 비교했을 때 DeepRec의 모델 커버리지, GPU 지원, 현대적인 딥러닝 아키텍처 지원 능력은 어떠한가?
• RQ5 모듈형이고 확장 가능한 프레임워크는 단일 유지보수 가능한 코드베이스 내에서 고전적 모델과 최신 딥러닝 추천 모델을 효과적으로 통합할 수 있는가?

주요 결과

• DeepRec는 세 가지 주요 추천 시나리오에 걸쳐 20개 이상의 최신 딥러닝 기반 추천 모델을 지원하며, OpenRec처럼 단지 네 개의 딥러닝 모델만을 구현하는 기존 라이브러리에 비해 뚜렷한 우월성을 보인다.
• 이 툴킷은 Caser, AttRec, GRU 기반 모델과 같은 순서 인식 추천 모델을 포함한 최초의 오픈소스 라이브러리로, 기존 프레임워크의 핵심적 단점을 메운다.
• DeepRec는 텐서플로를 통해 GPU 가속을 지원하여 대규모 데이터셋과 복잡한 모델의 효율적 학습이 가능해진다.
• 모든 모델 유형에 걸쳐 일관된 평가 지표(RMSE, Recall@n, NDCG 등)를 제공함으로써 결과 비교의 공정성과 직접성을 보장한다.
• DeepRec의 모듈형 아키텍처는 새로운 모델의 통합을 용이하게 하여, 단일 코드베이스나 오래된 라이브러리에 비해 확장성과 장기적 유지보수성에서 뛰어난 성능을 발휘한다.
• Suprise, MyMediaLite, LibRec와 같은 라이브러리와 비교했을 때, DeepRec는 딥러닝 모델과 GPU 사용을 지원하며, OpenRec보다도 더 포괄적인 모델 커버리지를 제공한다.