[論文レビュー] Collaborative Large Language Model for Recommender Systems

Yaochen Zhu, Liang Wu+3 more|arXiv (Cornell University)|Nov 2, 2023

Topic Modeling被引用数 4

ひとこと要約

本稿では、LLMの語彙にユーザ/アイテムIDトークンを拡張し、ソフト＋ハードプロンプティング戦略を用いて協調的およびコンテンツ的意味を統合的にモデル化することで、従来のIDパラダイムと大規模言語モデル（LLM）を緊密に統合した、初めての生成型レコメンデーションシステムであるCLLM4Recを提案する。相互正則化とレコメンデーション指向のファインチューニングにより、LLMバックボーンをファインチューニングせずに、効率的で幻覚のない複数アイテム生成を実現し、最先端の性能を達成する。

ABSTRACT

Recently, there has been growing interest in developing the next-generation recommender systems (RSs) based on pretrained large language models (LLMs). However, the semantic gap between natural language and recommendation tasks is still not well addressed, leading to multiple issues such as spuriously correlated user/item descriptors, ineffective language modeling on user/item data, inefficient recommendations via auto-regression, etc. In this paper, we propose CLLM4Rec, the first generative RS that tightly integrates the LLM paradigm and ID paradigm of RSs, aiming to address the above challenges simultaneously. We first extend the vocabulary of pretrained LLMs with user/item ID tokens to faithfully model user/item collaborative and content semantics. Accordingly, a novel soft+hard prompting strategy is proposed to effectively learn user/item collaborative/content token embeddings via language modeling on RS-specific corpora, where each document is split into a prompt consisting of heterogeneous soft (user/item) tokens and hard (vocab) tokens and a main text consisting of homogeneous item tokens or vocab tokens to facilitate stable and effective language modeling. In addition, a novel mutual regularization strategy is introduced to encourage CLLM4Rec to capture recommendation-related information from noisy user/item content. Finally, we propose a novel recommendation-oriented finetuning strategy for CLLM4Rec, where an item prediction head with multinomial likelihood is added to the pretrained CLLM4Rec backbone to predict hold-out items based on soft+hard prompts established from masked user-item interaction history, where recommendations of multiple items can be generated efficiently without hallucination. Codes are released at https://github.com/yaochenzhu/llm4rec.

研究の動機と目的

• LLMベースのレコメンデーションシステムにおける自然言語とレコメンデーションタスクの間の意味的ギャップを解消すること。
• IDトークン化に起因する誤った相関関係や、ユーザ/アイテムデータにおける言語モデリングの劣化といった問題を克服すること。
• 統一されたLLMフレームワークを用いて、幻覚を伴わずに効率的な複数アイテムレコメンデーション生成を可能にすること。
• 特定のレコメンデーションタスクに適応させるために、事前学習済みLLMの知識を保持しつつ、ターゲットに合わせたファインチューニングを行うこと。
• 統一されたLLMベースのアーキテクチャ内で、協調的およびコンテンツ的信号を相互正則化によって統合する有効性を示すこと。

提案手法

• ユーザおよびアイテムのIDトークンを専用に追加することで、事前学習済みLLMの語彙を拡張し、ユーザおよびアイテムをトークン空間上で直接表現する。
• ソフト＋ハードプロンプティング戦略を導入し、異種のソフト（ユーザ/アイテム）トークンとハード（語彙）トークンを組み合わせることで、RS特化のコーパスにおける安定的かつ効果的な言語モデリングを実現する。
• 協調的LLMとコンテンツLLMの間で知識を共有する相互正則化戦略を採用し、ノイズの多いユーザ/アイテムコンテンツに対しても耐性を高める。
• マスクされた相互作用履歴から複数のアイテムを効率的に生成できるように、マルチノミアル尤度ベースのアイテム予測ヘッドを用いた、レコメンデーション指向のファインチューニング戦略を提案する。
• 2段階の訓練プロセスを採用：第1段階では、ソフト＋ハードプロンプティングを用いた協調的およびコンテンツ的モデリングの統合的訓練；第2段階では、推論効率を高めるために専用の予測ヘッドを用いたファインチューニング。
• 学習済みユーザおよびアイテムトークン埋め込みを128次元に射影し、産業用途向けの軽量な埋め込みベースライン（CLLM4Rec-Emb）を構築する。

実験結果

リサーチクエスチョン

• RQ1 LLMにユーザ/アイテムIDトークンを統合することで、自然言語とレコメンデーションタスクの間の意味的ギャップを効果的に埋め合わせることができるか？
• RQ2 ソフト＋ハードプロンプティングは、混合ユーザ・アイテム相互作用およびコンテンツデータにおける言語モデリングの安定性と有効性をどのように向上させるか？
• RQ3 協調的およびコンテンツLLM間の相互正則化は、ノイズの多いユーザ/アイテム特徴に対する耐性を高めるか？
• RQ4 レコメンデーション指向のファインチューニング戦略は、事前学習済みLLMの知識を保持しつつ、幻覚を伴わずに効率的な複数アイテム生成を可能にするか？
• RQ5 CLLM4Recは、オフライン評価および実世界の産業的展開環境において、強力なベースラインと比較してどのように評価されるか？

主な発見

• CLLM4Recは、LinkedInで使用されている二塔型モデルを大幅に上回り、LinkedInデータセットにおいて実世界の環境でも有効性を示した。
• AM-Beauty、AM-Toys、AM-Sports、Yelpの各データセットにおいて、CLLM4Recは最先端の性能を達成し、全指標で一貫した改善を示した。
• アブレーションスタディの結果、LLMバックボーンの完全なファインチューニングは性能を低下させることを示しており、事前学習済み知識の保持が極めて重要であることがわかった。
• 最適な相互正則化強度はλc ≈ 1であり、全データセットで性能がピークに達することから、バランスの取れた正則化の重要性が確認された。
• CLLM4Rec-Emb（学習済みユーザおよびアイテムトークン埋め込みのみを用いた軽量バージョン）は、元の二塔型モデルおよびM6-Retrievalを上回り、低遅延産業的展開における強力なポテンシャルを示した。
• レコメンデーション指向のファインチューニング戦略により、幻覚を伴わず効率的な複数アイテム生成が可能となり、自己回帰的ベースラインと比較して推論効率が著しく向上した。