[論文レビュー] LLaRA: Large Language-Recommendation Assistant

Jiayi Liao, Sihang Li+5 more|arXiv (Cornell University)|Dec 5, 2023

Topic Modeling被引用数 5

ひとこと要約

LLaRAは、トレーニング可能なアダプタを介してIDベースの埋め込みとテキスト特徴量を統合することで、従来の逐次推薦モデルと大規模言語モデル（LLMs）をハイブリッドに統合するフレームワークを提案する。カリキュラム学習を用いて、段階的にLLMsをユーザー行動パターンに一致させることで、MovieLensおよびSteamデータセットにおいてベースラインを大きく上回る逐次推薦性能を達成する。

ABSTRACT

Sequential recommendation aims to predict users' next interaction with items based on their past engagement sequence. Recently, the advent of Large Language Models (LLMs) has sparked interest in leveraging them for sequential recommendation, viewing it as language modeling. Previous studies represent items within LLMs' input prompts as either ID indices or textual metadata. However, these approaches often fail to either encapsulate comprehensive world knowledge or exhibit sufficient behavioral understanding. To combine the complementary strengths of conventional recommenders in capturing behavioral patterns of users and LLMs in encoding world knowledge about items, we introduce Large Language-Recommendation Assistant (LLaRA). Specifically, it uses a novel hybrid prompting method that integrates ID-based item embeddings learned by traditional recommendation models with textual item features. Treating the "sequential behaviors of users" as a distinct modality beyond texts, we employ a projector to align the traditional recommender's ID embeddings with the LLM's input space. Moreover, rather than directly exposing the hybrid prompt to LLMs, a curriculum learning strategy is adopted to gradually ramp up training complexity. Initially, we warm up the LLM using text-only prompts, which better suit its inherent language modeling ability. Subsequently, we progressively transition to the hybrid prompts, training the model to seamlessly incorporate the behavioral knowledge from the traditional sequential recommender into the LLM. Empirical results validate the effectiveness of our proposed framework. Codes are available at https://github.com/ljy0ustc/LLaRA.

研究の動機と目的

• 従来のLLMベースの逐次推薦手法がIDベースまたはテキストベースのアイテム表現に依存するという限界を解決する。両者とも、完全なユーザー行動パターンや世界知識を捉えることはできない。
• ユーザー行動をモデル化する従来の逐次推薦モデルと、世界知識を持つLLMsの間のモダリティギャップを、ユーザーインタラクションシーケンスを新たなモダリティとして扱うことで埋める。
• テキスト特徴量と行動埋め込みを組み合わせたハイブリッドプロンプトを段階的に導入するカリキュラム学習戦略を用いて、LLMsを逐次ユーザー行動に適合させる。
• LLMsの世界知識と従来の推薦モデルの逐次的行動パターンを組み合わせることで、推薦精度が向上することを実証する。

提案手法

• 事前学習済みの逐次推薦モデルからのIDベースの埋め込みと、アイテムタイトルなどのテキストメタデータを組み合わせたハイブリッドプロンプティング手法を提案する。
• IDベースの埋め込みをLLMの入力空間にマップするためのトレーニング可能なアダプタ（線形プロジェクタ）を導入し、行動パターンのシームレスな統合を可能にする。
• カリキュラム学習戦略を実装する：まず、LLMをテキストのみのプロンプトで微調整して言語モデリングに一致させ、次第に行動埋め込みを含むハイブリッドプロンプトを導入する。
• LoRAスタイルのパラメータ効率の良い微調整を採用し、コサインスケジューラと半精度学習を用いて効率とメモリ使用量を最適化する。
• 次アイテム予測のクロスエントロピー損失を用いて、アダプタとLLMを同時に学習する。ハイパーパrameterはグリッドサーチで最適化する。
• 過学習を防ぐために、重み減衰（1e-5）と早期停止を適用し、5つのランダムシードでの平均結果を報告する。

実験結果

リサーチクエスチョン

• RQ1 逐次推薦モデルからのIDベースの埋め込みとテキスト特徴量を組み合わせることで、LLMベースの逐次推薦が向上するか？
• RQ2 段階的に行動埋め込みを導入するカリキュラム学習戦略が、LLMsの逐次ユーザー行動パターンへの適合を向上させるか？
• RQ3 ハイブリッドプロンプティングは、純粋なテキストのみまたはIDのみのプロンプティングと比較して、推薦精度にどのように寄与するか？
• RQ4 LLaRAは、世界知識と逐次的行動パターンの両方を活用することで、既存の逐次推薦モデルをどれほど上回るか？
• RQ5 アダプタモジュールは、従来の推薦モデルとLLMsの間のモダリティギャップをどのように埋め合わせるか？

主な発見

• LLaRAは、MovieLensおよびSteamの両データセットですべてのベースラインモデルを上回り、逐次推薦分野で最先端のパフォーマンスを達成する。
• アブレーションスタディにより、ハイブリッドプロンプティングとカリキュラム学習の両方が不可欠であることが確認され、両方のコンポonentを欠落させたバリアントに比べ、完全なLLaRAフレームワークが顕著に優れている。
• MovieLensでは、Hit Rate@10が0.621、NDCG@10が0.587を達成し、次に良いベースラインから3ポイント以上も上回る。
• Steamでは、Hit Rate@10が0.592、NDCG@10が0.551を達成し、多様なドメインにわたり優れた一般化性能を示す。
• ケーススタディでは、LLaRAがジャンルパターン（例：アドベンチャーと戦争）に基づいてユーザーの好みを正しく予測している一方、世界知識や行動にのみ依存するモデルは失敗している。
• アダプタモジュールは、逐次的行動埋め込みとLLM入力空間の間で効果的な一致を実現し、モデルがユーザーの好みのダイナミクスを内省できるようにする。