[論文レビュー] GenRec: Large Language Model for Generative Recommendation

Jianchao Ji, Zelong Li+5 more|arXiv (Cornell University)|Jul 2, 2023

Topic Modeling被引用数 6

ひとこと要約

GenRecは、ユーザーおよびアイテムのテキスト記述を活用して、自然言語プロンプトを用いて直接ターゲットアイテムを生成するLLMベースの生成的レコメンデーションフレームワークを提案する。特にMovieLens 25Mのような大規模データセットにおいて、特化したプロンプトと相互作用データに対する微調整を組み合わせたLLaMAベースのLLMを用いて、ユーザーの好みとアイテムの意味的特徴を効果的に統合することで、既存手法を上回る性能を発揮する。

ABSTRACT

In recent years, large language models (LLM) have emerged as powerful tools for diverse natural language processing tasks. However, their potential for recommender systems under the generative recommendation paradigm remains relatively unexplored. This paper presents an innovative approach to recommendation systems using large language models (LLMs) based on text data. In this paper, we present a novel LLM for generative recommendation (GenRec) that utilized the expressive power of LLM to directly generate the target item to recommend, rather than calculating ranking score for each candidate item one by one as in traditional discriminative recommendation. GenRec uses LLM's understanding ability to interpret context, learn user preferences, and generate relevant recommendation. Our proposed approach leverages the vast knowledge encoded in large language models to accomplish recommendation tasks. We first we formulate specialized prompts to enhance the ability of LLM to comprehend recommendation tasks. Subsequently, we use these prompts to fine-tune the LLaMA backbone LLM on a dataset of user-item interactions, represented by textual data, to capture user preferences and item characteristics. Our research underscores the potential of LLM-based generative recommendation in revolutionizing the domain of recommendation systems and offers a foundational framework for future explorations in this field. We conduct extensive experiments on benchmark datasets, and the experiments shows that our GenRec has significant better results on large dataset.

研究の動機と目的

• 大規模言語モデル（LLM）の生成的レコメンデーションへの応用可能性を検討し、従来の判別的順序付けアプローチを越えること。
• コラボラティブフィルタリングやコンテンツベースフィルタリングにおける課題（例：コールドスタートやデータスパarsity）を、アイテム記述における豊富なテキスト情報の活用によって克服すること。
• 個別にスコアを計算するのではなく、直接推奨アイテムを生成する柔軟なLLMベースのフレームワークを構築すること。
• プロンプト工学と微調整が、パーソナライズドレコメンデーションタスクにおけるLLMの性能向上に寄与することを実証すること。
• 将来的なLLM駆動の生成的レコメンデーションシステム分野における研究基盤を提供すること。

提案手法

• LLMがレコメンデーションタスクとユーザー・アイテムの相互作用を理解できるように、特別に設計された自然言語プロンプトを策定する。
• ユーザーの履歴とアイテム記述をテキストシーケンスとして表現したユーザー・アイテム相互作用データを、LLaMAバックボーンLLMで微調整する。
• スコアリングの計算ではなく、文脈に基づいて次のアイテムを直接生成するような、シーケンス・トゥ・シーケンス生成アプローチを採用する。
• ユーザー履歴、アイテム特徴（例：タイトル、カテゴリ）および生成指示を含むプロンプトテンプレートを用い、ターゲットアイテムの予測を促す。
• 4台のA5000 GPUを用い、5エポックにわたり、学習率スケジューリングを用いたAdamW最適化手法を適用し、最大256トークンの入力長を設定して学習を行う。
• ユーザーの相互作用シーケンスとアイテムのテキストメタデータ（例：タイトル、カテゴリ）の両方を入力として用い、好みやアイテムの関連性に関するモデルの理解を強化する。

実験結果

リサーチクエスチョン

• RQ1 大規模言語モデルを、候補のスコアリングではなく、直接推薦を生成する目的で効果的に活用できるか？
• RQ2 テキストベースのアイテム記述とユーザーの相互作用履歴を組み合わせることで、生成的設定下でのレコメンデーションパフォーマンスがどのように向上するか？
• RQ3 相互作用データに対するプロンプト工学と微調整が、LLMベースの生成的レコメンデーションに顕著な効果をもたらすか？
• RQ4 大規模データセットにおいて、GenRecはP5のような既存のLLMベースのレコメンデーションモデルと比較して、どのようなパフォーマンス差を示すか？
• RQ5 豊富な相互作用データを有する大規模かつスパースなデータセットに対しても、生成的レコメンデーションパラダイムは効果的にスケーリング可能か？

主な発見

• GenRecは、特にHit Ratio（HR）とNormalized Discounted Cumulative Gain（NDCG）指標において、MovieLens 25Mデータセットでベースラインモデルを著しく上回るパフォーマンスを達成した。
• MovieLens 25Mデータセットにおいて、P5（強力なベースライン）を上回ったことから、大規模な相互作用データとテキスト特徴を効果的に活用できることを示している。
• モデルは大規模データセットにおいて優れた一般化性能を示しており、LLMによる意味的情報の統合がレコメンデーション精度の向上に寄与していることが示唆される。
• 相互作用データが豊富な状況において、GenRecのパフォーマンスが特に優れていることから、豊富なテキスト的および行動的文脈を活用する利点が明確になった。
• フレームワークは柔軟性に富み、さまざまなLLMに容易に適応可能であるため、異なるモデルアーキテクチャへの広範な適用可能性を示している。
• https://github.com/rutgerswiselab/GenRec でコードとデータをオープンソース化したことで、再現性が確保され、生成的レコメンデーション分野におけるさらなる研究が促進される。