[논문 리뷰] MARS: Memory Attention-Aware Recommender System

Lei Zheng, Chun-Ta Lu외 5명|arXiv (Cornell University)|2018. 05. 18.

Recommender Systems and Techniques참고 문헌 42인용 수 7

한 줄 요약

MARS는 사용자 이력에서 관련 항목에 동적으로 집중함으로써 깊이 있는 적응형 사용자 표현을 학습하는 메모리 보강형, 주의 기반 추천 시스템을 제안한다. 이는 정확하고 해석 가능한 추천을 가능하게 한다. MARS는 세 개의 실세계 데이터셋에서 일곱 가지 최신 기법보다 뛰어난 성능을 보이며, 관련된 과거 상호작용을 강조함으로써 해석 가능한 설명을 제공한다.

ABSTRACT

In this paper, we study the problem of modeling users' diverse interests. Previous methods usually learn a fixed user representation, which has a limited ability to represent distinct interests of a user. In order to model users' various interests, we propose a Memory Attention-aware Recommender System (MARS). MARS utilizes a memory component and a novel attentional mechanism to learn deep extit{adaptive user representations}. Trained in an end-to-end fashion, MARS adaptively summarizes users' interests. In the experiments, MARS outperforms seven state-of-the-art methods on three real-world datasets in terms of recall and mean average precision. We also demonstrate that MARS has a great interpretability to explain its recommendation results, which is important in many recommendation scenarios.

연구 동기 및 목표

• 다양한 항목 카테고리에 걸쳐 다양한 사용자 관심사를 포착하는 데에 고정된 사용자 표현의 한계를 해결하기 위해.
• 종합적으로 적응형 사용자 표현을 학습하는 딥 러닝 기반 추천 시스템을 개발하기 위해.
• 사용자 과거 상호작용을 바탕으로 관련 항목에 기반한 설명을 제공함으로써 모델의 해석 가능성 향상하기 위해.
• 사전 훈련된 또는 수작업으로 만든 특징에 의존하는 기존 주의 기반 모델의 단점을 극복하기 위해.
• 특히 해석 가능성이 핵심적인 B2B 환경에서 정확하고 투명한 추천을 가능하게 하기 위해.

제안 방법

• MARS는 과거 상호작용에서 사용자 관심 패턴을 저장하고 검색하기 위해 메모리 구성 요소를 사용하여 동적 표현 학습을 가능하게 한다.
• 사용자 상호작용 이력 내 항목들에 대해 목표 항목과의 관련성에 기반해 주의 가중치를 계산하는 항목 수준의 주의 메커니즘을 도입한다.
• 적응형 사용자 표현은 주의 메커니즘에 의해 결정된 가중치에 기반해 항목 임베딩의 가중 평균으로 계산된다.
• 대부분의 표현 학습과 주의 정렬을 최적화하기 위해 대조 손실을 사용하여 종합적으로 훈련된다.
• 콘텐츠 특징에서 딥 네ural 네트워크를 사용해 항목 임베딩을 학습함으로써 콘텐츠 인식 추천을 가능하게 한다.
• 주의 메커니즘은 모델이 특정 과거 항목을 추천의 근거로 강조함으로써 해석 가능성을 향상시킨다.

실험 결과

연구 질문

• RQ1 딥 러닝 기반 추천 시스템은 고정된 표현보다 다양한 사용자 관심사를 더 잘 포착할 수 있는 적응형 사용자 표현을 학습할 수 있는가?
• RQ2 어떻게 주의 메커니즘이 추천 정확도와 해석 가능성 향상에 통합될 수 있는가?
• RQ3 메모리 구성 요소를 갖춘 종합적으로 훈련 가능한 모델은 사전 훈련된 또는 수작업으로 만든 특징에 의존하는 모델보다 우수한 성능을 보일 수 있는가?
• RQ4 주의 메커니즘이 추천에 대한 의미 있는, 사용자가 이해할 수 있는 설명을 어느 정도 제공할 수 있는가?
• RQ5 다양한 데이터셋에서 최신 기법들과 비교해 본다면, 제안된 모델은 리콜과 평균 평균 정밀도 측면에서 어떤 성능을 보이는가?

주요 결과

• MARS는 세 개의 실세계 데이터셋에서 일곱 가지 최신 기법보다 리콜과 평균 평균 정밀도 측면에서 뚜렷한 성능 향상을 보였다.
• 모델은 사용자 이력 내 관련 항목에 동적으로 사용자 표현을 적응시킴으로써 고정 표현의 한계를 극복하며 뛰어난 성능을 달성했다.
• MARS는 특정 과거 항목을 강조함으로써 추천의 근거를 제공함으로써 해석 가능한 추천을 제공했으며, 이는 신뢰도와 투명성을 향상시켰다.
• 항목 임베딩과 주의 메커니즘의 종합적 훈련은 사전 훈련된 특징을 사용하는 모델보다 더 정확하고 작업 최적화된 주의를 가능하게 했다.
• 주의 메커니즘은 사용자 이력에서 의미적으로 관련된 항목을 효과적으로 식별하여 추천에 대한 의미 있는 근거를 제공했다.
• 실험 결과는 복잡하고 다양한 사용자 관심사를 모델링하는 데 있어 적응형 사용자 표현이 고정 표현보다 더 효과적임을 확인했다.