[論文レビュー] Prompt Tuning Large Language Models on Personalized Aspect Extraction for Recommendations

Pan Li, Yuyan Wang+2 more|arXiv (Cornell University)|Jun 2, 2023

Web Data Mining and Analysis被引用数 4

ひとこと要約

本稿では、プロンプトチューニングを施した大規模言語モデル（LLM）を用いて、パーソナライズド・アスペクト抽出とアスペクトベース推薦を同時に最適化するエンド・ツー・エンドフレームワークを提案する。ユーザーおよびアイテムの埋め込みからタスク固有のソフトプロンプトを構築することで、文脈的に関連性があり、ユーザーに特化したアスペクト語を生成する。この手法により、3つの産業データセットにおいて、アスペクト抽出の精度と推薦性能の両方が顕著に向上する。

ABSTRACT

Existing aspect extraction methods mostly rely on explicit or ground truth aspect information, or using data mining or machine learning approaches to extract aspects from implicit user feedback such as user reviews. It however remains under-explored how the extracted aspects can help generate more meaningful recommendations to the users. Meanwhile, existing research on aspect-based recommendations often relies on separate aspect extraction models or assumes the aspects are given, without accounting for the fact the optimal set of aspects could be dependent on the recommendation task at hand. In this work, we propose to combine aspect extraction together with aspect-based recommendations in an end-to-end manner, achieving the two goals together in a single framework. For the aspect extraction component, we leverage the recent advances in large language models and design a new prompt learning mechanism to generate aspects for the end recommendation task. For the aspect-based recommendation component, the extracted aspects are concatenated with the usual user and item features used by the recommendation model. The recommendation task mediates the learning of the user embeddings and item embeddings, which are used as soft prompts to generate aspects. Therefore, the extracted aspects are personalized and contextualized by the recommendation task. We showcase the effectiveness of our proposed method through extensive experiments on three industrial datasets, where our proposed framework significantly outperforms state-of-the-art baselines in both the personalized aspect extraction and aspect-based recommendation tasks. In particular, we demonstrate that it is necessary and beneficial to combine the learning of aspect extraction and aspect-based recommendation together. We also conduct extensive ablation studies to understand the contribution of each design component in our framework.

研究の動機と目的

• 既存手法がアスペクト抽出とアスペクトベース推薦を別々のタスクとして扱うというギャップを解消すること。
• 下流の推薦タスクに根ざした、抽出されたアスペクトの質と関連性を向上させること。
• 事前学習済みの大規模言語モデルを活用し、最小限の教師あり学習でユーザーのレビューからのアスペクト抽出を向上させること。
• ユーザーおよびアイテムの特徴に基づいて動的にソフトプロンプトを生成するパーソナライズド・プロンプトチューニング機構を開発すること。
• アスペクト抽出と推薦の共同学習が、独立した学習よりも優れた性能をもたらすことを実証すること。

提案手法

• 入力を、トークン化されたユーザーのレビューとソフトプロンプトを連結したものとする、ファインチューニングされたGPT-2モデルをアスペクト抽出器として使用する。
• ユーザーおよびアイテムの特徴埋め込みからソフトプロンプトを構築し、エンド・ツー・エンド学習中に学習される。
• 抽出されたアスペクト語を標準のユーザーおよびアイテム埋め込みと連結し、アスペクトベース推薦モデルの入力として使用する。
• 全体のフレームワークをエンド・ツー・エンドで学習させ、推薦タスクがアスペクト語の学習をガイドするようにする。
• フルファインチューニングを避けるためにプロンプトチューニングを採用し、一般化性能を維持しながらタスク固有の適応を可能にする。
• 抽出されたアスペクトとユーザー・アイテム特徴から、最終的なアスペクトベース推薦を生成するための注意メカニズムを備えたニューラルネットワークを採用する。

Figure 1. Overview of the Proposed Model.

実験結果

リサーチクエスチョン

• RQ1 アスペクト抽出とアスペクトベース推薦を共同で学習させることで、別々に学習させる場合と比較して性能が向上するか？
• RQ2 ユーザーおよびアイテム固有のソフトプロンプトを用いたプロンプトチューニングは、パーソナライズドで文脈的に関連性のあるアスペクト語を生成するのにどの程度有効か？
• RQ3 限定的な正解アスペクトアノテーションを伴う低リソース環境において、LLMベースのアスペクト抽出手法は、従来のNLPモデルをどの程度上回るか？
• RQ4 本手法のフレームワークは、産業用推薦システムにおける大規模なユーザーおよびアイテムの集団にどの程度スケーラブルか？
• RQ5 各コンポONENT（例：ソフトプロンプト設計、共同学習）が全体の性能に果たす寄与度はどの程度か？

主な発見

• 提案手法は、3つの産業データセットにおいて、パーソナライズド・アスペクト抽出およびアスペクトベース推薦の両タスクで、最先端のベースラインを顕著に上回った。
• アスペクト抽出と推薦の共同学習により、正解アノテーションに近い一致を示す事例研究を通じて、より正確で有用なアスペクト語が得られた。
• DE-CNN、LCFS、ABAEといったベースラインと比較して、本モデルは「購入に値する」といったニュアンスの強いユーザーのフィードバックや「水圧」のような詳細なフィードバックを捉える能力に優れていた。
• スケーラビリティ分析の結果、ユーザーおよびアイテム数の増加に対しても、訓練時間が効率的を維持することが確認され、大規模システムへの導入が可能であることが示された。
• アブレーションスタディにより、ユーザーおよびアイテム特徴に基づくソフトプロンプト機構がパーソナライズ化と性能向上に不可欠であることが確認された。
• 本手法は、LLMの少数ショットまたはゼロショット能力を効果的に活用でき、ラベル付きアスペクトデータが限られる実世界の推薦システムに適していることが示された。

Figure 2. Scalability Analysis in three datasets using the training time for completing 10 epochs