[논문 리뷰] Integrating User and Item Reviews in Deep Cooperative Neural Networks for Movie Recommendation

Aristeidis Karras, Christos Karras|arXiv (Cornell University)|2022. 05. 12.

Recommender Systems and Techniques인용 수 5

한 줄 요약

이 논문은 사용자 리뷰에서 사용자 행동과 상품 리뷰에서 상품 특성을 동시에 모델링하기 위해 병렬 컨볼루션 네트워크와 공유 잠재 요인 층을 사용하는 딥 협동 신경망인 DeepCoNN을 제안한다. 이는 100차원의 GloVe 임베딩과 드롭아웃 정규화를 사용할 때 아마존 인stant 비디오 데이터셋에서 MSE 0.8549로 가장 낮은 성능을 기록하며 기준선 추천 시스템을 능가한다.

ABSTRACT

User evaluations include a significant quantity of information across online platforms. This information source has been neglected by the majority of existing recommendation systems, despite its potential to ease the sparsity issue and enhance the quality of suggestions. This work presents a deep model for concurrently learning item attributes and user behaviour from review text. Deep Cooperative Neural Network (DeepCoNN) is the suggested model consisting of two parallel neural networks connected in their final layers. One of the networks focuses on learning user behaviour from reviews submitted by the user, while the other network learns item attributes from user reviews. On top, a shared layer is added to connect these two networks. Similar to factorization machine approaches, the shared layer allows latent factors acquired for people and things to interact with each other. On a number of datasets, DeepCoNN surpasses all baseline recommendation systems, according to experimental findings.

연구 동기 및 목표

• 협업 필터링에서의 데이터 희소성 문제를 텍스트 리뷰 데이터를 활용하여 해결하기 위해.
• 리뷰 텍스트에서 사용자 행동과 상품 특성을 함께 모델링하여 추천 정확도를 향상시키기 위해.
• 딥 러닝 아키텍처(CNN, LSTM, GRU)가 텍스트 데이터와 평점 데이터를 통합하는 데 효과적인지 평가하기 위해.
• 단어 임베딩 차원과 드롭아웃 정규화가 모델 일반화에 미치는 영향을 조사하기 위해.

제안 방법

• 모델은 두 개의 병렬 컨볼루션 신경망을 사용한다: 하나는 사용자 리뷰를 처리하여 사용자 행동을 학습하고, 다른 하나는 상품 리뷰를 처리하여 상품 특성을 학습한다.
• 두 네트워크의 최종 층은 공유된 층을 통해 연결되어 학습된 사용자 및 상품 잠재 요인 간의 상호작용을 가능하게 하며, 인자 분해 기계와 유사하게 동작한다.
• 텍스트를 표현하기 위해 단어 임베딩(GloVe)을 사용하며, 성능 비교를 위해 50차원 및 100차원 버전을 테스트한다.
• 세 가지 아키텍처(CNN, LSTM, GRU)를 평가하며, 과적합을 완화하기 위해 드롭아웃을 적용한다. 특히 RNN 기반 모델에서 효과가 뚜렷하다.
• 모델 훈련은 평점 예측을 위한 평균 제곱오차(MSE) 손실을 사용하며, 훈련 중 검증 손실을 모니터링한다.
• 하이퍼파rameter 튜닝은 임베딩 크기와 드롭아웃 비율에 집중하며, 동일한 설정 하에서 다양한 모델 간 비교를 수행한다.

실험 결과

연구 질문

• RQ1 사용자 및 상품 리뷰를 통합하면 희소 추천 환경에서 평점 예측 정확도가 향상되는가?
• RQ2 DeepCoNN의 성능은 전통적인 협업 필터링 및 다른 딥 러닝 기반 추천 모델과 비교해 어떻게 되는가?
• RQ3 단어 임베딩 차원을 늘리면 모델 성능이 향상되는가, 아니면 과적합을 유발하는가?
• RQ4 드롭아웃 정규화는 특히 LSTM 및 GRU와 같은 RNN 기반 변형에서 일반화 능력을 얼마나 향상시키는가?
• RQ5 CNN, LSTM, GRU 중 어느 아키텍처가 성능과 훈련 효율성 사이의 최적의 균형을 제공하는가?

주요 결과

• 100차원의 GloVe 임베딩과 드롭아웃을 적용한 CNN 기반 DeepCoNN가 검증 MSE 0.8549로 모든 구성에서 가장 낮은 성능을 기록하며 기준선을 압도했다.
• 드롭아웃 정규화는 LSTM 및 GRU 모델의 일반화 능력을 향상시켰지만, 특히 높은 임베딩 차원에서 과적합 문제가 여전히 존재했다.
• 100차원 임베딩 설정은 GRU 모델에서 성능이 악화되었는데, 이는 과적합의 영향일 가능성이 높으며, 높은 차원이 항상 결과를 향상시키진 않음을 시사한다.
• CNN 아키텍처는 RNN보다 과적합이 적었으며, 이는 원래 DeepCoNN 연구에서 드롭아웃의 중요성이 덜한 이유일 수 있다.
• 더 높은 훈련 복잡도에도 불구하고 LSTM 및 GRU 모델은 점진적인 정확도 향상 잠재력을 보였지만, 더 많은 훈련 시간이 소요되었다.
• 본 연구는 DeepCoNN가 텍스트 리뷰 데이터를 효과적으로 활용함으로써 희소 데이터 환경에서 기존 협업 필터링보다 뚜렷이 뛰어난 성능을 보임을 확인했다.