[논문 리뷰] Joint Neural Collaborative Filtering for Recommender Systems

Wanyu Chen, Fei Cai외 2명|arXiv (Cornell University)|2019. 07. 08.

Recommender Systems and Techniques참고 문헌 55인용 수 8

한 줄 요약

이 논문은 공유 신경망을 사용하여 사용자 및 아이템 특징 학습과 사용자-아이템 상호작용 모델링을 함께 최적화하는 통합 딥러닝 모델인 공동 신경 협업 필터링(J-NCF)을 제안한다. 명시적 및 암시적 피드백을 통합하고 포인트와 페어와이즈 학습을 조합한 하이브리드 손실 함수를 적용함으로써 J-NCF는 실세계 데이터셋인 MovieLens 1M 및 Amazon Movies에서 최신 기술을 초월한 성능을 달성하며, HR@10에서 최대 10.81% 향상되고 NDCG@10에서 최대 15.06% 향상된다.

ABSTRACT

We propose a J-NCF method for recommender systems. The J-NCF model applies a joint neural network that couples deep feature learning and deep interaction modeling with a rating matrix. Deep feature learning extracts feature representations of users and items with a deep learning architecture based on a user-item rating matrix. Deep interaction modeling captures non-linear user-item interactions with a deep neural network using the feature representations generated by the deep feature learning process as input. J-NCF enables the deep feature learning and deep interaction modeling processes to optimize each other through joint training, which leads to improved recommendation performance. In addition, we design a new loss function for optimization, which takes both implicit and explicit feedback, point-wise and pair-wise loss into account. Experiments on several real-word datasets show significant improvements of J-NCF over state-of-the-art methods, with improvements of up to 8.24% on the MovieLens 100K dataset, 10.81% on the MovieLens 1M dataset, and 10.21% on the Amazon Movies dataset in terms of HR@10. NDCG@10 improvements are 12.42%, 14.24% and 15.06%, respectively. We also conduct experiments to evaluate the scalability and sensitivity of J-NCF. Our experiments show that the J-NCF model has a competitive recommendation performance with inactive users and different degrees of data sparsity when compared to state-of-the-art baselines.

연구 동기 및 목표

• 복잡하고 비선형적인 사용자-아이템 상호작용을 포착하는 데에 기존의 협업 필터링 방법의 한계를 해결하기 위해.
• 기존의 딥러닝 기반 추천 시스템이 특징 학습과 상호작용 모델링을 별도로 다루는 데서 비롯되는 단점을 극복하기 위해.
• 통합 신경망 아키텍처를 사용해 딥 특징 학습과 딥 상호작용 모델링을 함께 훈련시켜 추천 성능을 향상시키기 위해.
• 공동 최적화와 하이브리드 피드백 통합을 통해 데이터 희소성 상황과 비활성 사용자에 대한 모델의 강건성을 높이기 위해.
• 톱-N 추천 목표에 더 잘 부합하기 위해 포인트와 페어와이즈 학습을 조합한 새로운 손실 함수를 설계하기 위해.

제안 방법

• J-NCF는 사용자-아이템 평점 행렬에서 사용자 및 아이템 표현을 학습하는 데 사용되는 한쪽 스트림과, 학습된 특징을 사용해 사용자-아이템 상호작용을 모델링하는 데 사용되는 다른 스트림을 갖는 이중 스트림 딥 신경망을 사용한다.
• 모델은 행렬 분해를 통한 딥 신경망을 사용해 명시적 평점과 암시적 피드백 양쪽에서 사용자 및 아이템 특징 표현을 추출한다.
• 사용자-아이템 상호작용 모델링은 특징 벡터를 연결하여 입력으로 사용하는 두 번째 신경망을 통해 수행되며, 비선형 변환을 통해 평점을 예측한다.
• 공동 훈련을 통해 상호 최적화가 가능해지며, 더 나은 특징 학습이 상호작용 예측을 향상시키고, 더 정확한 상호작용 모델링이 특징 표현을 정교화한다.
• 포인트와 페어와이즈 학습을 조합한 하이브리드 손실 함수가 도입되어, 톱-N 추천 작업에서 성능 향상이 이루어진다.
• 모델은 백프로파게이션을 사용해 엔드 투 엔드로 훈련되며, 다양한 데이터셋과 희소성 수준에서 최적의 성능을 내기 위해 하이퍼파ram터가 조정된다.

실험 결과

연구 질문

• RQ1 분리된 접근 방식에 비해 깊이 있는 특징 학습과 깊이 있는 상호작용 모델링을 함께 훈련시키는 것이 추천 성능 향상에 기여하는가?
• RQ2 명시적 피드백과 암시적 피드백을 모두 통합함으로써 신경 협업 필터링 모델의 성능에 어떤 영향을 미치는가?
• RQ3 포인트와 페어와이즈 학습을 조합한 하이브리드 손실 함수가 HR@10 및 NDCG@10와 같은 랭킹 지표에 얼마나 기여하는가?
• RQ4 데이터 희소성과 비활성 사용자 상황에서 J-NCF는 최신 기술 기반 베이스라인에 비해 어떻게 성능을 발휘하는가?
• RQ5 대규모 희소 데이터셋에서 J-NCF의 확장성과 계산 효율성은 어떠한가?

주요 결과

• MovieLens 100K 데이터셋에서 J-NCF는 최신 기술 기반 방법에 비해 HR@10에서 최대 8.24% 향상되고 NDCG@10에서 최대 12.42% 향상된다.
• MovieLens 1M 데이터셋에서 J-NCF는 HR@10에서 10.81% 향상되고 NDCG@10에서 14.24% 향상되어 더 큰 규모이자 더 복잡한 데이터셋에서도 뛰어난 성능을 보인다.
• Amazon Movies 데이터셋에서 J-NCF는 HR@10에서 10.21% 향상되고 NDCG@10에서 15.06% 향상되어 다양한 데이터 분포에 대한 강건성을 입증한다.
• 모든 사용자 활동 수준에서 최고의 베이스라인(DMF)을 초월하며, 특히 비활성 사용자에 대해 더 뛰어난 일반화 능력을 보여, 데이터 희소성 상황에서의 강건성을 입증한다.
• NCF보다 훈련 비용이 더 높지만, 추론 속도는 경쟁력 있는 수준을 유지하며, 사용자당 상위 10개 추천 생성에 몇 밀리초 내로 수행된다.
• 실험 결과 J-NCF는 더 깊은 네트워크 아키텍처와 명시적/암시적 피드백의 조합에서 유의미한 성능 향상을 기록하며, 하이브리드 손실 함수가 성능 향상에 크게 기여하는 것으로 확인된다.