[논문 리뷰] Personalized Re-ranking for Recommendation

Changhua Pei, Yi Zhang외 7명|arXiv (Cornell University)|2019. 04. 15.

Recommender Systems and Techniques참고 문헌 44인용 수 11

한 줄 요약

이 논문은 개인화된 재순서 모델(_PRM_)을 제안하며, 추천 목록 내 상호 작용을 명시적으로 모델링하기 위해 트랜스포머 기반 아키텍처를 활용한다. 사용자별 선호도를 개인화된 임베딩을 통해 통합함으로써 순위 품질을 햖थ한다. 이 방법은 온라인 메트릭에서 유의미한 향상을 보이며, 최신 기준 모델 대비 GMV가 6.29%p 증가하고 CTR가 0.69%p 향상되었다.

ABSTRACT

Ranking is a core task in recommender systems, which aims at providing an ordered list of items to users. Typically, a ranking function is learned from the labeled dataset to optimize the global performance, which produces a ranking score for each individual item. However, it may be sub-optimal because the scoring function applies to each item individually and does not explicitly consider the mutual influence between items, as well as the differences of users' preferences or intents. Therefore, we propose a personalized re-ranking model for recommender systems. The proposed re-ranking model can be easily deployed as a follow-up modular after any ranking algorithm, by directly using the existing ranking feature vectors. It directly optimizes the whole recommendation list by employing a transformer structure to efficiently encode the information of all items in the list. Specifically, the Transformer applies a self-attention mechanism that directly models the global relationships between any pair of items in the whole list. We confirm that the performance can be further improved by introducing pre-trained embedding to learn personalized encoding functions for different users. Experimental results on both offline benchmarks and real-world online e-commerce systems demonstrate the significant improvements of the proposed re-ranking model.

연구 동기 및 목표

• 기존 순위 모델이 추천 목록 내 항목을 상호작용 없이 고립된 채로 다루며, 항목 간 상호 영향을 忽略하는 한계를 해결한다.
• 가격 민감도 또는 다양성 요구와 같은 다양한 사용자 선호도와 의도를 반영하기 위해 재순서 과정에 개인화를 도입한다.
• 기존 특징 벡터만을 사용하여 기존 순위 모델 뒤에 플러그인처럼 배치할 수 있는 효율적이고 확장 가능한 재순서 프레임워크를 개발한다.
• RNN 기반 접근 방식과 달리 거리에 따라 성능 저하가 발생하지 않는, 자기주의 어텐션 메커니즘의 장거리 항목 간 상호작용 모델링 능력을 입증한다.
• 향후 개인화된 순위 및 재순서 연구를 지원하기 위해 대규모 실세계 전자상거래 재순서 데이터셋을 공개한다.

제안 방법

• 모든 항목 간의 전역적이고 양방향 상호작용을 모델링하기 위해 자기주의 어텐션을 갖춘 트랜스포머 인코더를 사용하여, 위치에 관계없이 의존성을 포괄한다.
• 사용자별 임베딩을 입력 표현에 통합하여 어텐션 메커니즘을 개인화함으로써, 개별 사용자 선호도와 의도에 맞게 모델을 적응시킨다.
• 사전 훈련된 사용자 임베딩을 사용하여 항목 간 상호작용 모델링의 개인화를 향상시켜 다양한 사용자 행동에 대한 표현 품질을 향상시킨다.
• 라벨이 부여된 클릭스루 데이터 기반으로 리스트 기반 순위 손실을 사용해 엔드 투 엔드로 모델을 훈련하며, NDCG 및 MAP와 같은 상위-k 성능 메트릭을 최적화한다.
• 목록 내 위치에 대한 편향 정보를 유지하기 위해 위치 임베딩을 적용하여, 모델이 항목 순서가 사용자 행동에 미치는 본질적 영향을 고려하도록 한다.
• 기본 순위 모델 뒤에 모듈러한 재순서 레이어로 배포하여, 기본 모델을 재학습하지 않고도 원래의 특징 벡터만을 사용한다.

실험 결과

연구 질문

• RQ1 트랜스포머 기반 재순서 모델은 장거리 항목 간 상호작용을 효과적으로 포착할 수 있는가? 특히 RNN 기반 접근 방식이 장거리에서 기울기 붕괴 문제를 겪는 것과 대비하여 성능이 뛰어난가?
• RQ2 재순서 과정에 사용자별 개인화를 통합하면 다양한 사용자 선호도와 의도에 따라 순위 성능이 유의미하게 향상되는가?
• RQ3 사전 훈련된 사용자 임베딩을 통합하면 모델이 세밀한 항목 간 상호작용을 더 잘 포착하고, 하류 순위 메트릭을 향상시킬 수 있는가?
• RQ4 제안된 재순서 모델은 대규모 온라인 시스템에 효과적으로 구현될 수 있으며, CTR 및 GMV와 같은 핵심 비즈니스 메트릭에 실질적인 향상을 가져오는가?
• RQ5 모델이 학습한 어텐션 가중치는 항목 속성(예: 카테고리, 가격)과 위치 효과와 관련된 의미 있는, 해석 가능한 패턴을 반영하는가?

주요 결과

• PRM-Personalized-Pretrain 모델은 오프라인 전자상거래 재순서 데이터셋에서 PRM-BASE 모델 대비 MAP에 4.5%p의 절대적 향상을 기록했다.
• 온라인 A/B 테스트 결과, PRM-Personalized-Pretrain 모델은 기본 DNN 기반 LTR 모델 대비 GMV를 6.29%p 절대적으로 증가시켜 뚜렷한 비즈니스 영향을 입증했다.
• 최신 기준 DLCM 재순서 방법 대비 클릭스루율은 0.69%p, 시청된 항목 수는 0.50%p 절대적으로 향상되었다.
• 어텐션 가중치의 시각화 결과, 유사한 카테고리나 가격을 가진 항목 간에 더 높은 어텐션을 보이며, 속성 기반 상호작용을 효과적으로 모델링하고 있음을 확인했다.
• 자기주의 어텐션 메커니즘이 위치 영향을 성공적으로 포착했으며, 상위 순위 항목이 장거리에 걸쳐 하위 순위 항목에 더 강한 영향을 미치는 경향을 보여, 목록 수준의 동적 특성을 잘 모델링하고 있음을 검증했다.
• 제거 실험 결과, 위치 임베딩을 제거하면 어텐션 가중치가 더 균일해지며, 위치 편향이 포함되었을 때 효과적으로 모델링되고 있음을 확인했다.