[論文レビュー] DeepRec: An Open-source Toolkit for Deep Learning based Recommendation

Shuai Zhang, Yi Tay+3 more|arXiv (Cornell University)|May 25, 2019

Recommender Systems and Techniques参考文献 21被引用数 7

ひとこと要約

DeepRec は、TensorFlow をベースにしたオープンソースのツールキットであり、レーティング予測、トップ-N ランキング、順序付き推薦をサポートする統合的かつ拡張可能なフレームワークを提供する。GPU アクセeleration と標準化された評価指標を備えており、20 以上の最先端のディープラーニングモデルの再現と拡張を容易にする。

ABSTRACT

Deep learning based recommender systems have been extensively explored in recent years. However, the large number of models proposed each year poses a big challenge for both researchers and practitioners in reproducing the results for further comparisons. Although a portion of papers provides source code, they adopted different programming languages or different deep learning packages, which also raises the bar in grasping the ideas. To alleviate this problem, we released the open source project: extbf{DeepRec}. In this toolkit, we have implemented a number of deep learning based recommendation algorithms using Python and the widely used deep learning package - Tensorflow. Three major recommendation scenarios: rating prediction, top-N recommendation (item ranking) and sequential recommendation, were considered. Meanwhile, DeepRec maintains good modularity and extensibility to easily incorporate new models into the framework. It is distributed under the terms of the GNU General Public License. The source code is available at github: \url{https://github.com/cheungdaven/DeepRec}

研究の動機と目的

• コードベースの不一致、プログラミング言語、ディープラーニングフレームワークの違いにより、ディープラーニングベースの推薦モデルの再現が困難であるという課題に対処する。
• 単一のディープラーニングバックエンドを用いて、複数の推薦シナリオをサポートする統合的・モジュラー的・拡張可能なフレームワークを提供する。
• 標準化された実装と一貫した評価指標を提供することで、研究者や実務家が入門しやすくなるようにする。
• TensorFlow との統合と GPU の活用により、大規模データセットにおける効率的な学習を可能にする。
• 既存のツールの不足を補うために、多数の先行オープンソースライブラリに存在しない順序付き推薦モデルを含める。

提案手法

• 推薦モデル（モデル実装）、バックエンド（TensorFlow、NumPy、Scikit-learn など）、ユティリティ（データ前処理および評価関数）という3つのコアコンponents にツールキットを設計する。
• レーティング予測、トップ-N 推奨、順序付き推薦の3つの主要なシナリオにわたり、多様なディープラーニングベースの推薦モデルを実装する。
• TensorFlow を用いてエンドツーエンドの微分可能性と GPU アクセeleration を実現することで、ディープラーニングモデルと従来のモデル（例：biasedSVD、FM、BPRMF）を同じフレームワーク内で統合する。
• 標準化されたデータフォーマット（例：FM 用に libfm 互換）と評価指標（RMSE、MAE、Recall@n、NDCG、MRR）を採用し、一貫性と比較可能性を確保する。
• モジュラリティを設計の核とする。これにより、ユーザーが新しいモデルや評価プロトコルを簡単に統合できる。
• TensorFlow の計算グラフとエージャー実行のサポートを活用することで、現代のディープラーニング実践と互換性を保つ。

実験結果

リサーチクエスチョン

• RQ1 統合的オープンソースツールキットは、多様な実装間でディープラーニングベースの推薦モデルの再現の難易度をどの程度低減できるか？
• RQ2 1つのフレームワークが、レーティング予測、トップ-N ランキング、順序付き推薦という多様な推薦シナリオを、一貫したインターフェースでどの程度サポートできるか？
• RQ3 標準化されたディープラーニングバックエンド（TensorFlow）を用いることで、推薦システムにおけるモデルの拡張性、パフォーマンス、GPU 利用効率にどのような影響を与えるか？
• RQ4 DeepRec は、既存のオープンソース推薦ライブラリと比較して、モデルカバレッジ、GPU サポート、最新のディープラーニングアーキテクチャのサポートにおいて、どの程度優れているか？
• RQ5 モジュラーかつ拡張可能なフレームワークは、1つの保守可能なコードベースに、古典的モデルと最先端のディープラーニング推薦モデルを効果的に統合できるか？

主な発見

• DeepRec は、3つの主要な推薦シナリオにわたり、20 以上の最先端のディープラーニングベースの推薦モデルをサポートしており、OpenRec が4つのディープラーニングモデルしか実装していないのに対し、顕著に優れている。
• このツールキットは、Caser や AttRec、GRU ベースのモデルを含む、順序に依存する推薦モデルを最初にオープンソースで実装した。これは、既存のフレームワークに欠けていた重要なギャップを埋めている。
• DeepRec は TensorFlow を介して GPU アクセeleration を実現しており、大規模データセットへのスケーラビリティと、複雑なモデルの効率的学習を可能にしている。
• すべてのモデルタイプにわたって一貫した評価指標（例：RMSE、Recall@n、NDCG）を提供しており、結果の公平かつ直接的な比較を可能にしている。
• DeepRec のモジュラーなアーキテクチャにより、新しいモデルの統合が容易であり、モノリシックまたは古くなったライブラリと比較して、拡張性と長期的な保守性が顕著に向上している。
• Suprise や MyMediaLite、LibRec と比較して、DeepRec はディープラーニングモデルと GPU 使用を独自にサポートしており、OpenRec よりも包括的なモデルカバレッジを提供している。