[논문 리뷰] A Context-Aware User-Item Representation Learning for Item Recommendation

Libing Wu, Cong Quan외 3명|arXiv (Cornell University)|2017. 12. 06.

Recommender Systems and Techniques참고 문헌 34인용 수 7

한 줄 요약

이 논문은 리뷰와 평점 상호작용으로부터 사용자 및 아이템 특징을 별도의 리뷰 기반 및 상호작용 기반 학습 구성 요소를 사용해 공동으로 인코딩하는 컨텍스트 인식 사용자-아이템 표현 학습 모델인 CARL을 제안한다. 어텐션과 팩터리제이션 머신을 통한 동적 특징 상호작용 모델링을 통해 다섯 개인 실세계 데이터셋에서 최신 기술 대비 뛰어난 평점 예측 성능를 달성하며, 어텐션 기반 샐런시를 통한 해석 가능성 향상도 이루어진다.

ABSTRACT

Both reviews and user-item interactions (i.e., rating scores) have been widely adopted for user rating prediction. However, these existing techniques mainly extract the latent representations for users and items in an independent and static manner. That is, a single static feature vector is derived to encode her preference without considering the particular characteristics of each candidate item. We argue that this static encoding scheme is difficult to fully capture the users' preference. In this paper, we propose a novel context-aware user-item representation learning model for rating prediction, named CARL. Namely, CARL derives a joint representation for a given user-item pair based on their individual latent features and latent feature interactions. Then, CARL adopts Factorization Machines to further model higher-order feature interactions on the basis of the user-item pair for rating prediction. Specifically, two separate learning components are devised in CARL to exploit review data and interaction data respectively: review-based feature learning and interaction-based feature learning. In review-based learning component, with convolution operations and attention mechanism, the relevant features for a user-item pair are extracted by jointly considering their corresponding reviews. However, these features are only review-driven and may not be comprehensive. Hence, interaction-based learning component further extracts complementary features from interaction data alone, also on the basis of user-item pairs. The final rating score is then derived with a dynamic linear fusion mechanism. Experiments on five real-world datasets show that CARL achieves significantly better rating prediction accuracy than existing state-of-the-art alternatives. Also, with attention mechanism, we show that the relevant information in reviews can be highlighted to interpret the rating prediction.

연구 동기 및 목표

• 기존 추천 모델에서 컨텍스트 기반 선호도를 포착하지 못하는 정적이고 독립적인 사용자 및 아이템 표현의 한계를 해결하기 위해.
• 텍스트 리뷰와 사용자-아이템 상호작용 데이터로부터 유도된 동적이고 컨텍스트 인식 특징 상호작용을 모델링하여 평점 예측 정확도를 향상시키기 위해.
• 어텐션 기반 메커니즘을 통해 관련 리뷰 특징을 강조함으로써 모델의 해석 가능성 향상을 위해.
• 리뷰와 평점 점수의 보완 정보를 통합된 동적 표현 프레임워크에 통합하여 보다 우수한 일반화 및 성능을 위한 목적으로.

제안 방법

• CARL은 별도의 리뷰 기반 및 상호작용 기반 학습 구성 요소를 병렬로 활용한다: 리뷰 기반 특징 학습 모듈은 CNN과 어텐션 메커니즘을 사용해 사용자 및 아이템 리뷰에서 맥락적으로 관련 있는 특징을 추출한다.
• 상호작용 기반 특징 학습 모듈은 사용자-아이템 평점 상호작용에서 독립적으로 잠재 특징을 추출하여 리뷰 콘텐츠에 의존하지 않는 사용자 특화 선호도를 포착한다.
• 모델은 입력 맥락에 따라 기여도를 적응적으로 가중하는 동적 선형 융합 메커니즘을 통해 두 구성 요소의 출력을 융합한다.
• 고차 특징 상호작용은 사용자-아이템 쌍의 컨텍스트 인식 공동 표현에 대해 팩터리제이션 머신을 적용하여 모델링한다.
• 어텐션 메커니즘이 리뷰 처리 파이프라인에 통합되어 의미적으로 관련 있는 단어 및 어구를 강조함으로써 예측의 해석 가능성을 높인다.
• 최종 평점 예측은 컨텍스트 인식 표현의 미분 가능한 함수로 계산되며, 확률적 경사 하강법을 사용해 엔드 투 엔드로 최적화된다.

실험 결과

연구 질문

• RQ1 유저와 아이템 표현을 잠재적 특징 상호작용을 통해 공동으로 모델링할 경우, 정적이고 독립적인 표현 대비 평점 예측 정확도 향상이 이루어지는가?
• RQ2 어텐션 메커니즘이 관련 리뷰 콘텐츠를 얼마나 효과적으로 강조하여 예측 성능 향상과 모델의 해석 가능성 향상에 기여하는가?
• RQ3 리뷰 기반 및 상호작용 기반 특징 학습 구성 요소를 통합할 경우, 각각의 소스를 별도로 사용하는 것보다 성능 향상이 이루어지는가?
• RQ4 리뷰와 평점 등의 다중 소스 특징을 동적으로 융합할 경우, 희소하거나 콜드스터트 추천 시나리오에서 일반화 능력 향상에 어느 정도 기여하는가?

주요 결과

• CARL은 다섯 개인 실세계 데이터셋에서 최신 기술 대비 유의미하게 뛰어난 평점 예측 정확도를 달성하며, 일관된 성능 향상을 입증한다.
• 어텐션 메커니즘이 리뷰 내 의미적으로 관련 있는 단어 및 어구를 성공적으로 강조하여 예측 결정에 대한 해석 가능한 통찰을 제공한다.
• 상호작용 기반 학습 구성 요소는 리뷰 기반 특징을 초월해 보완 정보를 제공하여 정확도 및 견고성을 향상시킨다.
• 동적 선형 융합 메커니즘은 리뷰 및 상호작용 신호의 기여도를 효과적으로 균형 잡아, 고정 또는 조기 융합 전략보다 우수한 성능을 내는 데 기여한다.
• 컨텍스트 인식 표현에 팩터리제이션 머신을 통합함으로써 고차 특징 상호작용을 효과적으로 모델링할 수 있었으며, 이는 예측 능력을 향상시켰다.
• 아블레이션 연구를 통해 리뷰 기반 및 상호작용 기반 구성 요소 모두가 필수적임을 확인하였으며, 각각이 최종 성능에 독립적으로 기여하고 있음을 입증하였다.