[논문 리뷰] Recommendation as Language Processing (RLP): A Unified Pretrain, Personalized Prompt & Predict Paradigm (P5)

Shijie Geng, Shuchang Liu외 3명|arXiv (Cornell University)|2022. 03. 24.

Topic Modeling인용 수 5

한 줄 요약

이 논문은 자연어를 사용하여 추천을 텍스트 간 작업으로 프레임하는 텍스트-투-텍스트 작업으로 추천을 정의하는 통합 사전 훈련, 개인화된 프롬프트, 예측 파라다임인 P5를 제안한다. 사용자-아이템 상호작용, 리뷰, 메타데이터를 프롬프트 튜닝된 언어 시퀀스로 변환함으로써 P5는 최소한의 미세조정으로 다양한 추천 작업 간 제로샷 일반화를 가능하게 한다. 다섯 가지 작업 유형에서 최신 기술 수준 또는 경쟁력 있는 성능을 달성한다.

ABSTRACT

For a long time, different recommendation tasks typically require designing task-specific architectures and training objectives. As a result, it is hard to transfer the learned knowledge and representations from one task to another, thus restricting the generalization ability of existing recommendation approaches, e.g., a sequential recommendation model can hardly be applied or transferred to a review generation method. To deal with such issues, considering that language can describe almost anything and language grounding is a powerful medium to represent various problems or tasks, we present a flexible and unified text-to-text paradigm called "Pretrain, Personalized Prompt, and Predict Paradigm" (P5) for recommendation, which unifies various recommendation tasks in a shared framework. In P5, all data such as user-item interactions, user descriptions, item metadata, and user reviews are converted to a common format -- natural language sequences. The rich information from natural language assists P5 to capture deeper semantics for personalization and recommendation. Specifically, P5 learns different tasks with the same language modeling objective during pretraining. Thus, it serves as the foundation model for various downstream recommendation tasks, allows easy integration with other modalities, and enables instruction-based recommendation based on prompts. P5 advances recommender systems from shallow model to deep model to big model, and will revolutionize the technical form of recommender systems towards universal recommendation engine. With adaptive personalized prompt for different users, P5 is able to make predictions in a zero-shot or few-shot manner and largely reduces the necessity for extensive fine-tuning. On several recommendation benchmarks, we conduct experiments to show the effectiveness of P5. We release the source code at https://github.com/jeykigung/P5.

연구 동기 및 목표

• 평가 예측, 순차적 추천, 리뷰 생성과 같은 다양한 추천 작업을 하나의 공통 프레임워크로 통합하기 위해.
• 특정 작업 아키텍처의 한계를 극복하기 위해 공통 언어 모델링 목표를 통해 추천 작업 간 지식 전이를 가능하게 하기 위해.
• 재훈련 없이도 제로샷 또는 소수의 샘플로 추천을 가능하게 하기 위해 개인화된 프롬프트를 통해 의존도를 줄이기 위해.
• 최근 프롬프트 기반 대규모 언어 모델의 발전에 영감을 받아 지시 기반 추천의 가능성 탐색하기 위해.
• 다중모달 데이터를 통합하여 통합 텍스트 기반 파라다임으로 유니버설 추천 엔진의 기초를 마련하기 위해.

제안 방법

• 평가 예측, 순차적 추천, 리뷰 생성, 설명 생성, 아이템 검색과 같은 다섯 가지 작업 유형을 포함하는 프롬프트 라이브러리 설계.
• 사용자-아이템 상호작용, 사용자 프로필, 아이템 메타데이터, 리뷰 등의 모든 추천 데이터를 작업별 전용 프롬프트 템플릿을 사용해 자연어 시퀀스로 변환.
• 공통 언어 모델링 목표를 사용해 다중 작업 컬렉션의 개인화된 프롬프트에 대해 시퀀스-투-시퀀스 트랜스포머 모델(T5 기반)을 사전 훈련.
• 재훈련 없이도 제로샷 또는 소수의 샘플로 예측을 가능하게 하기 위해 추론 시 적응형 사용자별 프롬프트를 사용.
• 서브워드 토크나이제이션과 전체 단어 임베딩을 통한 개인화 구현으로 의미 구조를 유지하면서 학습 가능한 파rameter를 최소화.
• 표준화된 벤치마크를 사용해 새로운 프롬프트, 새로운 아이템, 교차 도메인 설정에서의 제로샷 전이를 평가.

실험 결과

연구 질문

• RQ1 일관된 텍스트-투-텍스트 프레임워크가 하나의 사전 훈련 목표 아래에서 다양한 추천 작업을 효과적으로 통합할 수 있는가?
• RQ2 P5는 제로샷 또는 소수의 샘플 설정에서 새로운 개인화된 프롬프트와 새로운 아이템에 대해 얼마나 잘 일반화되는가?
• RQ3 프롬프트 설계와 프롬프트 스케일링이 다양한 추천 작업에서 모델 성능에 미치는 영향은 어떠한가?
• RQ4 개인화 전략 선택(서브워드 토크나이제이션 대비 전용 토큰)이 모델 성능과 일반화에 미치는 영향은 어떠한가?
• RQ5 P5는 지시 기반 및 다중모달 추천을 지원하는 유니버설 추천 엔진의 기초 모델로 얼마나 유용한가?

주요 결과

• P5는 벤치마크 데이터셋에서 평가 예측, 순차적 추천, 리뷰 생성, 설명 생성, 아이템 검색의 다섯 가지 추천 작업 유형 전반에서 최신 기술 수준 또는 경쟁력 있는 성능을 달성한다.
• P5는 강력한 제로샷 일반화를 보여주며, 예를 들어 설명 생성을 위한 프롬프트 3-12와 같은 새로운 프롬프트에 대해 어떤 미세조정 없이도 잘 작동한다.
• 프롬프트 라이브러리의 확장(P5-PS)은 대부분의 작업, 특히 제로샷 작업에서 성능 향상을 이끌어내어 고품질이고 다양한 프롬프트가 일반화 능력을 향상시킨다는 것을 시사한다.
• 기본 서브워드 기반 개인화 전략(P5-S)은 순차적 및 직접 추천 작업에서 전용 토큰 접근 방식(P5-I)보다 성능이 뛰어나며, 파arameter 효율성과 공동 학습의 이점 덕분이다.
• P5-I는 일부 생성 작업(예: 설명 생성)에서는 P5-S와 유사하거나 略로 뛰어나지만, 순위 매기기 및 순차적 작업에서는 유의미하게 열등하여 개인화에서 토큰 폭발의 한계를 드러낸다.
• 모델은 도메인 간 및 새로운 아이템에 대해 효과적으로 일반화되며, 이는 유니버설 추천 엔진으로서의 잠재력을 확인한다.