[논문 리뷰] Prompt Tuning Large Language Models on Personalized Aspect Extraction for Recommendations

Pan Li, Yuyan Wang외 2명|arXiv (Cornell University)|2023. 06. 02.

Web Data Mining and Analysis인용 수 4

한 줄 요약

이 논문은 프롬프트 튜닝된 대규모 언어 모델(LLM)을 사용하여 개인화된 아웃라인 추출과 아웃라인 기반 추천을 동시에 최적화하는 엔드 투 엔드 프레임워크를 제안한다. 사용자 및 아이템 임베딩에서 작업별 소프트 프롬프트를 구성함으로써, 맥락적으로 관련성 있고 사용자 맞춤형 아웃라인 용어를 생성하는 방법으로, 세 개의 산업 데이터셋에서 아웃라인 추출 정확도와 추천 성능이 크게 향상된다.

ABSTRACT

Existing aspect extraction methods mostly rely on explicit or ground truth aspect information, or using data mining or machine learning approaches to extract aspects from implicit user feedback such as user reviews. It however remains under-explored how the extracted aspects can help generate more meaningful recommendations to the users. Meanwhile, existing research on aspect-based recommendations often relies on separate aspect extraction models or assumes the aspects are given, without accounting for the fact the optimal set of aspects could be dependent on the recommendation task at hand. In this work, we propose to combine aspect extraction together with aspect-based recommendations in an end-to-end manner, achieving the two goals together in a single framework. For the aspect extraction component, we leverage the recent advances in large language models and design a new prompt learning mechanism to generate aspects for the end recommendation task. For the aspect-based recommendation component, the extracted aspects are concatenated with the usual user and item features used by the recommendation model. The recommendation task mediates the learning of the user embeddings and item embeddings, which are used as soft prompts to generate aspects. Therefore, the extracted aspects are personalized and contextualized by the recommendation task. We showcase the effectiveness of our proposed method through extensive experiments on three industrial datasets, where our proposed framework significantly outperforms state-of-the-art baselines in both the personalized aspect extraction and aspect-based recommendation tasks. In particular, we demonstrate that it is necessary and beneficial to combine the learning of aspect extraction and aspect-based recommendation together. We also conduct extensive ablation studies to understand the contribution of each design component in our framework.

연구 동기 및 목표

• 기존 방법이 아웃라인 추출과 아웃라인 기반 추천를 별개의 과제로 간주하는 격차를 해소한다.
• 아웃라인 추출 과정을 추천 과제에 기반시켜 추출된 아웃라인의 품질과 관련성을 향상시킨다.
• 사전 훈련된 대규모 언어 모델을 활용하여 최소한의 감독 하에 사용자 리뷰에서 아웃라인 추출을 향상시킨다.
• 사용자 및 아이템 특징에 기반해 동적으로 소프트 프롬프트를 생성하는 개인화된 프롬프트 튜닝 메커니즘을 개발한다.
• 아웃라인 추출과 추천의 공동 학습이 개별 학습보다 더 나은 성능을 내는지 확인한다.

제안 방법

• 소프트 프롬프트와 함께 토큰화된 사용자 리뷰를 입력으로 사용하는 미세조정된 GPT-2 모델을 아웃라인 추출기로 사용한다.
• 사용자 및 아이템 특징 임베딩에서 소프트 프롬프트를 구성하며, 이는 엔드 투 엔드 훈련 중에 학습된다.
• 추출된 아웃라인 용어를 표준 사용자 및 아이템 임베딩과 연결하여 아웃라인 기반 추천 모델의 입력으로 구성한다.
• 전체 프레임워크를 엔드 투 엔드로 훈련하여 추천 과제가 아웃라인 용어 학습을 이끄는 방식으로 운영한다.
• 전체 미세조정 없이 프롬프트 튜닝을 활용하여 사전 훈련된 LLM을 적응시키며, 일반화 능력을 유지하면서 과제에 특화된 적응을 가능하게 한다.
• 추출된 아웃라인과 사용자-아이템 특징에서 최종 아웃라인 기반 추천을 생성하기 위해 주의 기반 신경망을 사용한다.

Figure 1. Overview of the Proposed Model.

실험 결과

연구 질문

• RQ1 아웃라인 추출과 아웃라인 기반 추천을 공동으로 훈련하는 것이 별도로 훈련하는 것보다 성능을 향상시키는가?
• RQ2 사용자 및 아이템 전용 소프트 프롬프트를 사용한 프롬프트 튜닝이 개인화되고 맥락적으로 관련성 있는 아웃라인 용어를 얼마나 효과적으로 생성하는가?
• RQ3 제한된 진짜 아웃라인 애너테이션을 가진 저자원 환경에서 LLM 기반 아웃라인 추출 방법이 전통적인 NLP 모델보다 얼마나 뛰어나게 성능을 내는가?
• RQ4 대규모 사용자 및 아이템 집합을 가진 산업적 추천 시스템에서 제안된 프레임워크는 어떻게 확장 가능한가?
• RQ5 각 구성 요소(예: 소프트 프롬프트 설계, 공동 학습)가 전체 성능에 기여하는 정도는 어느 정도인가?

주요 결과

• 제안된 프레임워크는 세 개의 산업 데이터셋에서 개인화된 아웃라인 추출 및 아웃라인 기반 추천 과제에서 최신 기술 수준의 베이스라인을 크게 뛰어넘는다.
• 아웃라인 추출과 추천의 공동 학습은 사례 연구를 통해 진짜 애너테이션과 더 밀접한 일치를 보이는 더 정확하고 유용한 아웃라인 용어를 도출함으로써, 성능 향상에 기여한다.
• 모델의 아웃라인 추출 성능는 DE-CNN, LCFS, ABAE 등의 베이스라인보다 뛰어나며, 특히 '구매할 만한 가치가 있다' 또는 '물압'과 같은 세밀한 사용자 피드백을 잘 포착하는 데 뛰어나다.
• 확장성 분석 결과, 사용자 및 아이템 수가 증가함에 따라도 프레임워크가 효율적인 훈련 시간을 유지함을 확인하여, 대규모 시스템에의 구현 가능성을 뒷받침한다.
• 제거 실험을 통해 사용자 및 아이템 특징에 기반한 소프트 프롬프트 메커니즘이 개인화 및 성능 향상에 핵심적인 역할을 한다는 점을 확인한다.
• 이 방법은 LLM의 소수 또는 제로샷 능력을 효과적으로 활용하여, 레이블이 제한된 실제 추천 시스템에 적합한 성능을 내는 데 기여한다.

Figure 2. Scalability Analysis in three datasets using the training time for completing 10 epochs