[논문 리뷰] Disentangled Item Representation for Recommender Systems

Zeyu Cui, Feng Yu외 3명|arXiv (Cornell University)|2020. 08. 17.

Recommender Systems and Techniques참고 문헌 38인용 수 6

한 줄 요약

이 논문은 항목을 카테고리, 스타일, 가격 등 각 속성에 대해 별도로 학습 가능한 벡터로 모델링하는 디센트렐레이티드 아이템 리프리젠테이션(DIR)을 제안한다. 단일 통합 잠재 벡터가 아닌, 각 속성 수준의 표현을 학습함으로써, 추천 성능을 향상시키고, 특히 콜드 스타트 상황에서 유의미하게 개선되며, 모델 파라미터를 줄이고 해석 가능한 설명을 가능하게 한다. 이는 실제 데이터셋에서 최신 기술들을 능가한다.

ABSTRACT

Item representations in recommendation systems are expected to reveal the properties of items. Collaborative recommender methods usually represent an item as one single latent vector. Nowadays the e-commercial platforms provide various kinds of attribute information for items (e.g., category, price and style of clothing). Utilizing these attribute information for better item representations is popular in recent years. Some studies use the given attribute information as side information, which is concatenated with the item latent vector to augment representations. However, the mixed item representations fail to fully exploit the rich attribute information or provide explanation in recommender systems. To this end, we propose a fine-grained Disentangled Item Representation (DIR) for recommender systems in this paper, where the items are represented as several separated attribute vectors instead of a single latent vector. In this way, the items are represented at the attribute level, which can provide fine-grained information of items in recommendation. We introduce a learning strategy, LearnDIR, which can allocate the corresponding attribute vectors to items. We show how DIR can be applied to two typical models, Matrix Factorization (MF) and Recurrent Neural Network (RNN). Experimental results on two real-world datasets show that the models developed under the framework of DIR are effective and efficient. Even using fewer parameters, the proposed model can outperform the state-of-the-art methods, especially in the cold-start situation. In addition, we make visualizations to show that our proposition can provide explanation for users in real-world applications.

연구 동기 및 목표

• 세부적인 항목 속성을 포착하는 데에 한계가 있는 단일 벡터 기반 항목 표현 방식의 문제점을 해결하기 위해.
• 공유된 속성 벡터를 통해 항목을 모델링하여 모델 파라미터를 줄이고 콜드 스타트 문제를 완화하기 위해.
• 항목의 속성을 분리하여 독립적이고 학습 가능한 벡터로 만들음으로써 해석 가능한 추천을 가능하게 하기 위해.
• 속성 벡터와 항목 할당을 번갈아가며 최적화하는 일반화 가능한 학습 프레임워크(LearnDIR)를 개발하기 위해.
• 실제 추천 작업에서 다양한 모델(MF 및 RNN 포함)에 대해 DIR의 효과성을 입증하기 위해.

제안 방법

• 항목을 단일 잠재 벡터가 아닌, 카테고리, 스타일, 가격 등 여러 속성 벡터의 조합으로 표현하기 위해.
• 동일한 명시적 속성을 가진 항목을 구분할 수 있도록 암묵적 속성 벡터를 도입하여 고유한 표현을 가능하게 하기 위해.
• 속성 벡터와 항목 할당을 번갈아가며 최적화하는 LearnDIR 알고리즘을 제안하여, 동시에 속성 벡터를 학습하고 항목을 최적의 속성 셀로 재할당하기 위해.
• 협업 필터링을 위해 행렬 분해(MF)와 순환 신경망(RNN)에 DIR을 적용하기 위해.
• 각 항목이 명시적 및 암묵적 속성으로 정의된 유일한 셀에 할당되는 텐서 유사 구조를 사용하여 속성 벡터를 조직하기 위해.
• 스티ochastic gradient descent를 사용하여 모델을 학습하고, 주기적으로 항목 할당을 재조정하는 단계를 실행하여 항목-속성 할당을 정교화하기 위해.

실험 결과

연구 질문

• RQ1 기존의 단일 벡터 기반 항목 임베딩과 비교해 별도의 속성 수준 표현이 추천 정확도를 향상시키는가?
• RQ2 DIR은 성능을 유지하거나 향상시키면서 모델 파라미터를 얼마나 줄일 수 있는가?
• RQ3 새로운 항목이나 상호작용 빈도가 낮은 항목에 대해 DIR은 콜드 스타트 문제를 얼마나 효과적으로 완화하는가?
• RQ4 특정 속성의 기여도를 폭 드러내어 DIR이 해석 가능한 추천을 제공할 수 있는가?
• RQ5 암묵적 속성 벡터의 수가 모델 성능과 수렴에 어떤 영향을 미치는가?

주요 결과

• DIR-MF와 DIR-RNN는 모두 전자기기 및 의류 데이터셋에서 최신 기술들을 능가하며, 파라미터 수가 더 적은 상태에서도 성능을 냈다.
• 전자기기 데이터셋에서 DIR-MF(3개 속성)는 AUC 0.7644를 기록하여 2개 속성 버전의 0.7585를 초월했다.
• 전자기기 데이터셋에서 DIR-RNN(3개 속성)은 AUC 0.8568을 기록하여 2개 속성 버전(0.8548)을 略적으로 뛰어넘었다.
• 3개 속성 버전의 DIR-RNN는 0.1743M 파라미터를 사용하여, 2개 속성 버전의 0.2720M 파라미터보다 크게 줄였다.
• 모델은 약 세 번의 재할당 후 수렴하였으며, 항목 재할당 3회 반복 후 성능이 최고조에 이르렀다.
• 시각화 결과는 DIR이 특정 속성의 영향력을 폭 드러내어 해석 가능한 추천을 제공함을 확인했다.