[논문 리뷰] Controllable Multi-Interest Framework for Recommendation

Yukuo Cen, Jianwei Zhang외 4명|arXiv (Cornell University)|2020. 05. 19.

Recommender Systems and Techniques참고 문헌 61인용 수 16

한 줄 요약

이 논문은 Alibaba에서 배포된 산업 규모의 데이터셋에서 MIND보다 8.65% 높은 Recall@50을 달성하며, 다중 관심사 모듈을 통해 사용자 행동 시퀀스에서 다수의 사용자 관심사를 포착하고, 제어 가능한 집계 모듈을 통해 정확도와 다양성의 균형을 이루는 제어 가능한 다중 관심사 프레임워크인 ComiRec을 제안한다. Amazon과 타오바오 데이터셋에서 평가된 결과, ComiRec은 최신 기술 수준의 모델을 초월한다.

ABSTRACT

Recently, neural networks have been widely used in e-commerce recommender systems, owing to the rapid development of deep learning. We formalize the recommender system as a sequential recommendation problem, intending to predict the next items that the user might be interacted with. Recent works usually give an overall embedding from a user's behavior sequence. However, a unified user embedding cannot reflect the user's multiple interests during a period. In this paper, we propose a novel controllable multi-interest framework for the sequential recommendation, called ComiRec. Our multi-interest module captures multiple interests from user behavior sequences, which can be exploited for retrieving candidate items from the large-scale item pool. These items are then fed into an aggregation module to obtain the overall recommendation. The aggregation module leverages a controllable factor to balance the recommendation accuracy and diversity. We conduct experiments for the sequential recommendation on two real-world datasets, Amazon and Taobao. Experimental results demonstrate that our framework achieves significant improvements over state-of-the-art models. Our framework has also been successfully deployed on the offline Alibaba distributed cloud platform.

연구 동기 및 목표

• 순차적 사용자 행동에서 다수의 동시 관심사를 포착하는 데에 통합된 사용자 임베딩의 한계를 해결하기 위해.
• 제어 가능한 메커니즘을 통해 추천 정확도와 다양성의 균형을 이루는 프레임워크를 설계하기 위해.
• 다양한 학습된 사용자 관심사를 활용하여 대규모 아이템 풀에서 효과적인 후보 아이템 검색을 가능하게 하기 위해.
• 실제 산업 환경에서의 구현 사례에서 프레임워크의 효과성과 효율성을 검증하기 위해.

제안 방법

• 다중 관심사 모듈은 사용자의 순차적 행동 이력에서 자기주의 메커니즘을 사용하여 다수의 관심 임베딩을 추출한다.
• 각 관심 임베딩은 빠른 근접 이웃 검색 방법(Faiss 등)을 사용하여 대규모 아이템 풀에서 상위-N 후보 아이템을 별도로 검색한다.
• 학습 가능한 제어 가능한 요소 λ를 사용하여 모든 관심사에서 온 아이템을 집계 모듈이 통합한다. 이는 정확도와 다양성의 균형을 조절한다.
• 제어 가능한 요소 λ는 다양한 관심사의 기여도에 가중치를 적용함으로써 재현율(정확도)과 다양성 사이의 트레이드오프를 동적으로 조정한다.
• 학습 중에는 항목 ID만을 사용하여 수동 카테고리 레이블에 의존하지 않는 엔드 투 엔드 학습이 가능하다.
• 모델는 엔드 투 엔드로 학습되었으며, 오프라인 평가를 위해 알리바바의 분산 클라우드 플랫폼에 배포되었다.

실험 결과

연구 질문

• RQ1 딥 러닝 프레임워크가 순차적 행동 시퀀스에서 다수의 동시 사용자 관심사를 효과적으로 포착할 수 있는가?
• RQ2 통합 추천 프레임워크에서 추천 정확도와 다양성 사이의 트레이드오프를 어떻게 제어할 수 있는가?
• RQ3 제어 가능한 집계 모듈이 대규모 산업 데이터셋에서 성능을 희생시키지 않고 재현율과 다양성을 모두 향상시킬 수 있는가?
• RQ4 명시적인 카테고리 레이블을 사용하지 않고 모델이 의미 있는 아이템 카테고리와 관심사를 얼마나 잘 학습할 수 있는가?

주요 결과

• ComiRec-DR은 산업 규모의 타오바오 데이터셋에서 최신 기술 수준의 MIND 모델보다 Recall@50에서 8.65% 향상되었다.
• ComiRec-SA는 같은 산업 규모의 데이터셋에서 MIND 모델 대비 Recall@50에서 1.39% 향상되었다.
• 제어 가능한 요소 λ가 증가함에 따라 추천의 다양성이 크게 증가했고, 재현율은 약간만 감소하여 정확도-다양성 트레이드오프에 효과적인 제어가 가능함을 입증했다.
• 모델는 카테고리 레이블을 사용하지 않고도 원시적인 항목 ID만으로도 사탕, 선물 상자, 핸드폰 케이스, 액세서리 등 네 가지 명확한 사용자 관심사를 성공적으로 학습했다.
• 프레임워크는 알리바바의 분산 클라우드 플랫폼에 성공적으로 배포되었으며, 145M 명의 사용자와 43억 건의 상호작용을 포함한 빌리언 스케일 데이터셋에서 높은 효율성과 확장성을 입증했다.
• 사례 연구를 통해 각 학습된 관심 임베딩이 일관된 아이템 카테고리에 해당하고, 대규모 아이템 풀에서 의미적으로 관련성이 있는 아이템을 효과적으로 검색함을 확인했다.