[논문 리뷰] User Embedding Model for Personalized Language Prompting

Sumanth Doddapaneni, Krishna Sayana외 3명|arXiv (Cornell University)|2024. 01. 10.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 장기적인 사용자 이력을 문맥 기반 임베딩으로 압축하는 사용자 임베딩 모듈(User Embedding Module, UEM)을 제안한다. 이 임베딩은 소프트 프롬프트로 기능하여 언어 모델의 출력을 개인화하는 데 사용된다. UEM과 언어 모델을 함께 훈련시음으로써, 기존 텍스트 기반 프롬프팅 기반선 대비 최대 0.25 F1 점수 향상을 달성하는 효율적이고 확장 가능한 개인화를 가능하게 한다.

ABSTRACT

Modeling long histories plays a pivotal role in enhancing recommendation systems, allowing to capture user's evolving preferences, resulting in more precise and personalized recommendations. In this study we tackle the challenges of modeling long user histories for preference understanding in natural language. Specifically, we introduce a new User Embedding Module (UEM) that efficiently processes user history in free-form text by compressing and representing them as embeddings, to use them as soft prompts to a LM. Our experiments demonstrate the superior capability of this approach in handling significantly longer histories compared to conventional text based prompting methods, yielding substantial improvements in predictive performance. The main contribution of this research is to demonstrate the ability to bias language models with user signals represented as embeddings.

연구 동기 및 목표

• 장기적인 사용자 이력을 모델링하는 데 있어 선호도 이해를 향상시키기 위한 개인화된 언어 모델링의 과제를 해결하기 위해.
• 장기적인 사용자 이력을 직접 입력 토큰에 연결할 경우 발생하는 O(n²) 자기주의 비용 문제를 해결하기 위해.
• 하류 작업과 문맥적으로 일치하는 사용자 전용 표현을 학습함으로써 효과적인 개인화를 가능하게 하기 위해.
• 샘플링되거나 요약된 스니펫 대신 전체 사용자 이력을 대규모 언어 모델의 입력으로 사용할 수 있는지 탐색하기 위해.
• 사용자 신호 임베딩이 언어 모델을 효과적으로 편향시킬 수 있음을 입증하고, 추천 작업에서 예측 성능 향상에 기여하기 위해.

제안 방법

• 사용자 이력의 각 항목(예: 영화 제목, 장르, 평점, 설명)을 SentenceT5를 사용해 밀도 임베딩으로 변환한다.
• 이 임베딩들은 p개의 이력 항목 수에 따라 길이가 p인 시퀀스로 조합되며, 이는 s가 SentenceT5의 임베딩 차원일 때 ℝ^{p×3s}에 속하는 사용자 이력 표현 U로 구성된다.
• Transformer 기반의 UEM이 이 임베딩 시퀀스를 처리하고, 언어 모델의 히든 사이즈 e와 일치시키기 위해 학습 가능한 선형 투영을 적용한다.
• 최종적으로 생성된 사용자 프롬프트 임베딩 Pr_{UEM}(U) ∈ ℝ^{p×e}는 작업 전용 소프트 프롬프트 P_e ∈ ℝ^{k×e}와 입력 쿼리 임베딩과 연결되어 언어 모델의 최종 입력을 형성한다.
• UEM은 언어 모델과 함께 공동 훈련되어 사용자 표현이 하류 작업 성능을 최적화하도록 보장한다.
• 원시 텍스트 이력 대신 압축된 학습된 임베딩을 사용함으로써 O(n²) attention 비용을 피하고, 장기적인 이력의 효율적 처리를 가능하게 한다.

Figure 1: Overview of our User History Modeling Approach. The user history’s textual features are processed through the User Embedding module and combined with the task prompt and subsequently passed through the language model.

실험 결과

연구 질문

• RQ1 학습된 사용자 임베딩 모듈이 장기적인 사용자 이력을 대규모 언어 모델의 소프트 프롬프팅에 적합한 형태로 효과적으로 압축할 수 있는가?
• RQ2 제안된 UEM 기반의 프롬프팅 방식은 장기적인 사용자 이력을 활용한 기존의 텍스트 기반 프롬프팅 방식과 비교해 성능가 어떻게 다른가?
• RQ3 샘플링되거나 요약된 사용자 이력 기반의 기반선 대비 UEM이 선호도 이해 작업에서 예측 성능 향상에 얼마나 기여하는가?
• RQ4 UEM의 크기(예: 레이어 수)가 모델 성능과 효율성에 어떤 영향을 미치는가?
• RQ5 분야별 임베딩을 사용해 다중모달 사용자 신호를 지원할 수 있도록 UEM을 확장할 수 있는가?

주요 결과

• 제안된 UEM 기반의 프롬프팅 방법은 영화 장르 예측 작업에서 기존 텍스트 기반 프롬프팅 기반선 대비 최대 0.21 및 0.25 F1 점수 향상을 달성한다.
• UEM은 기존의 텍스트 기반 방법보다 훨씬 긴 사용자 이력을 효율적으로 처리할 수 있으며, 순차 길이에 대해 선형으로 증가하는 계산 비용으로 O(n²)에서 벗어나게 된다.
• UEM 레이어 수를 1개에서 3개로 늘일 경우, 베이스 모델의 F1 점수는 0.346에서 0.396으로, 라지 모델의 경우 0.347에서 0.381로 향상되어 UEM 크기와 성능 간의 양의 상관관계를 보여준다.
• FlanT5 및 LongT5와 같은 기존 기반선 모델보다 성능이 뛰어나며, 최고 성능을 보인 UEM 강화 모델은 베이스 모델에서 테스트 F1 점수 0.396, 라지 모델에서 0.381을 기록한다.
• UEM 성능은 임베딩 모델 선택에 민감하며, SentenceT5 기반 표현은 강력한 기반 성능을 보이며 향후 도메인 특화 임베딩을 통해 추가 향상이 가능하다.
• 이 방법은 일반화 가능하며, 모odal별 임베딩을 사용해 다중모달 입력으로 확장 가능하며, 향후 이 방향으로 연구가 진행될 예정이다.

Figure 2: Comparison of model performance with increasing User History.