[논문 리뷰] Improving End-to-End Sequential Recommendations with Intent-aware Diversification

Wanyu Chen, Pengjie Ren외 2명|arXiv (Cornell University)|2019. 08. 27.

Recommender Systems and Techniques참고 문헌 28인용 수 6

한 줄 요약

이 논문은 순차적 추천을 위한 엔드 투 엔드 신경망 모델인 IDSR를 제안하며, 암묵적 의도 탐지(Implicit Intent Mining, IIM) 모듈과 의도 인식 기반 다양성 촉진 손실(Intent-aware Diversity Promoting, IDP)을 통해 다수의 은닉 사용자 의도를 명시적으로 모델링함으로써 다양성을 향상시킨다. 이 방법은 두 가지 벤치마크 데이터셋에서 정확도는 뛰어나거나 동등하게 유지하면서도 추천의 다양성을 크게 향상시킨다.

ABSTRACT

Sequential Recommendation (SRs) that capture users' dynamic intents by modeling user sequential behaviors can recommend closely accurate products to users. Previous work on SRs is mostly focused on optimizing the recommendation accuracy, often ignoring the recommendation diversity, even though it is an important criterion for evaluating the recommendation performance. Most existing methods for improving the diversity of recommendations are not ideally applicable for SRs because they assume that user intents are static and rely on post-processing the list of recommendations to promote diversity. We consider both recommendation accuracy and diversity for SRs by proposing an end-to-end neural model, called Intent-aware Diversified Sequential Recommendation (IDSR). Specifically, we introduce an Implicit Intent Mining module (IIM) into SRs to capture different user intents reflected in user behavior sequences. Then, we design an Intent-aware Diversity Promoting (IDP) loss to supervise the learning of the IIM module and force the model to take recommendation diversity into consideration during training. Extensive experiments on two benchmark datasets show that IDSR significantly outperforms state-of-the-art methods in terms of recommendation diversity while yielding comparable or superior recommendation accuracy.

연구 동기 및 목표

• 정확도에만 집중하는 순차적 추천 모델에서의 다양성 부족 문제를 해결하기 위해.
• 정적 사용자 의도를 가정하고 엔드 투 엔드로 학습이 불가능한 후처리 다양성 방법의 한계를 극복하기 위해.
• 학습 중 추천 정확도와 다양성을 동시에 최적화하는 통합 프레임워크를 설계하기 위해.
• 사용자 행동 시퀀스에서 다수의 동적 사용자 의도를 포착하고 반응할 수 있도록 모델을 설계하기 위해.

제안 방법

• 사용자 행동 시퀀스에서 고유한 은닉 사용자 의도를 추출하기 위해 다중 어텐션 메커니즘을 사용하는 암묵적 의도 탐지(Implicit Intent Mining, IIM) 모듈을 도입한다.
• 시퀀스 인코더(예: GRU 또는 Transformer)를 활용해 사용자 행동을 조밀한 임베딩으로 표현한다.
• 각각의 탐지된 의도의 만족도를 추적하면서 하나씩 아이템을 선택하는 의도 인식 기반 추천 디코더를 사용한다.
• 정확도(예: 리콜, MRR)와 다양성(예: ILD) 목표를 하이퍼파rameter λ로 가중치를 조정하여 균형 잡힌 복합 손실인 IDP 손실을 설계한다.
• 백프로파게이션을 사용해 전체 모델을 엔드 투 엔드로 학습함으로써 의도 탐지와 다각적 추천을 함께 학습할 수 있도록 한다.
• 디코딩 중에 이미 선택된 아이템을 컨텍스트로 통합하여, 어떤 한 의도의 과도한 표현을 방지함으로써 다양성을 확보한다.

실험 결과

연구 질문

• RQ1 후처리에 의존하지 않고 엔드 투 엔드로 설계된 모델이 순차적 추천에서 다양성을 효과적으로 향상시킬 수 있는가?
• RQ2 암묵적 의도 탐지 모듈이 순차적 행동에서 다수의 동적 사용자 의도를 얼마나 잘 포착할 수 있는가?
• RQ3 순차적 추천에서 정확도와 다양성 간의 최적의 트레이드오프는 무엇이며, 이를 학습 중에 어떻게 학습할 수 있는가?
• RQ4 GRU와 Transformer 등의 다양한 시퀀스 인코더를 사용할 때, 정확도와 다양성 측면에서 모델의 성능은 어떻게 달라지는가?
• RQ5 사례 연구에서 보듯이, 모델이 사용자 행동 패턴에 부합하는 다각적이고 의도를 반영한 추천을 생성할 수 있는가?

주요 결과

• IDSR는 ML100K 및 ML1M 데이터셋에서 ILD로 측정된 추천 다양성에서 최신 기술보다 뛰어난 성능을 보이며, Recall@20와 MRR@20와 같은 정확도 지표는 유지하거나 향상시킨다.
• IDP 손실은 정확도와 다양성의 효과적인 공동 최적화를 가능하게 하며, ML100K에서는 λ ≈ 0.5, ML1M에서는 λ ≈ 0.8일 때 최적 성능을 달성한다.
• GRU 기반의 IDSR는 모든 지표에서 트랜스포머 기반 버전을 능가한다. 이는 제한된 데이터에서 GRU의 더 강한 순차 모델링에 대한 인덕티브 바이어스 때문일 것이다.
• 낮은 λ 값(ML100K에서는 0.2, ML1M에서는 0.4)에서 모델이 가장 뛰어난 다양성 성능를 기록하며, 학습 중 다양성이 과도하게 페널티를 받지 않도록 할 때 다양성이 가장 잘 촉진됨을 확인한다.
• 사례 연구에서 IDSR는 드라마, 코미디, 액션, 스릴러 영화 등 다양한 장르의 아이템을 포함하는 다각적이고 의도 인식 기반 추천을 생성한다. 이는 다른 모델들이 과도하게 전문화되는 것과는 대조적으로, 주된 의도를 우선시하면서도 다양한 의도를 반영한다.
• 제거 실험 결과, IIM 모듈과 IDP 손실 둘 다 높은 성능 달성에 필수적임을 확인하였으며, 둘 중 하나를 제거하면 다양성과 정확도가 모두 크게 떨어진다.