[논문 리뷰] Opinion Recommendation using Neural Memory Model

Zhongqing Wang, Yue Zhang|arXiv (Cornell University)|2017. 02. 06.

Sentiment Analysis and Opinion Mining참고 문헌 33인용 수 7

한 줄 요약

이 논문은 유저-제품 쌍에 대해 개인화된 평점과 리뷰를 동시에 예측하기 위해 다른 사용자의 리뷰와 대상 사용자의 과거 리뷰를 활용하는 신경 메모리 모델을 제안한다. 깊이 있는 메모리 네트워크를 활용하여 사용자-제품 상호작용을 모델링하고 다중 작업 학습을 가능하게 함으로써, Yelp 데이터에서 최신 기준 모델들에 비해 평점 정확도와 리뷰 품질 측면에서 뛰어난 성능을 달성한다.

ABSTRACT

We present opinion recommendation, a novel task of jointly predicting a custom review with a rating score that a certain user would give to a certain product or service, given existing reviews and rating scores to the product or service by other users, and the reviews that the user has given to other products and services. A characteristic of opinion recommendation is the reliance of multiple data sources for multi-task joint learning, which is the strength of neural models. We use a single neural network to model users and products, capturing their correlation and generating customised product representations using a deep memory network, from which customised ratings and reviews are constructed jointly. Results show that our opinion recommendation system gives ratings that are closer to real user ratings on Yelp.com data compared with Yelp's own ratings, and our methods give better results compared to several pipelines baselines using state-of-the-art sentiment rating and summarization systems.

연구 동기 및 목표

• Yelp과 같은 플랫폼에서 일반적인 제품 평점과 긴 리뷰 목록의 한계를 해결하기 위해 사용자별 맞춤형 의견을 생성하는 것.
• 기존 시스템이 평점 예측과 리뷰 생성을 별개의 과제로 간주하여 최적의 개인화를 이룰 수 없음을 해결하는 것.
• 텍스트 리뷰와 평점 점수를 모두 포함하여 깊이 있는 신경망을 활용해 사용자 선호도와 제품 특성을 함께 모델링하는 것.
• 리뷰가 적은 사용자에 대한 데이터 희소성 문제를 완화하기 위해 공유 필터링을 활용해 유사 사용자(이웃)의 피드백을 식별하고 통합하는 것.
• 평가 및 리뷰 생성 간의 공유 파rameter를 갖는 엔드 투 엔드 다중 작업 학습을 통해 예측 성능을 향상시키는 것.

제안 방법

• 각 리뷰의 의미적 내용을 조밀한 벡터 표현으로 인코딩하기 위해 순환 신경망(RNN)을 사용한다.
• 목표 제품의 모든 리뷰를 하나의 제품 표현으로 통합하기 위해 신경망을 활용하며, 이를 제품 모델로 구성한다.
• 사용자의 과거 리뷰를 신경망을 통해 단일 벡터 표현으로 인코딩함으로써 사용자 모델을 구축한다.
• 공유 필터링을 적용하여 유사 사용자(이웃)를 식별하고, 신경망 기반의 이웃 모델을 활용해 그들의 리뷰 이력을 통합한다.
• 사용자 및 제품 표현 간의 상호작용을 모델링하기 위해 다중 힙을 갖는 깊이 있는 메모리 네트워크를 활용하며, 평점과 리뷰의 동시 예측을 가능하게 한다.
• 기존 리뷰 점수와 사용자별 제품 표현 간 영향력을 조절하기 위해 편향 파ram터 μ를 통합한다.

실험 결과

연구 질문

• RQ1 통합 신경 모델이 파ipelined 접근 방식에 비해 개인화된 평점과 리뷰를 더 정확하게 동시에 예측할 수 있는가?
• RQ2 제한된 리뷰 이력이 있는 사용자에게 대해 이웃 사용자 정보를 활용하는 것이 데이터 희소성 문제를 얼마나 효과적으로 완화하는가?
• RQ3 사용자-제품 상호작용을 적절히 포착하기 위해 메모리 네트워크에서 최적의 메모리 힙 수는 몇 개인가?
• RQ4 기존 리뷰 점수와 학습된 사용자별 표현 간의 균형이 평점 예측 성능에 어떤 영향을 미치는가?
• RQ5 단일 작업 기반 모델에 비해 다중 작업 학습이 평점 정확도와 리뷰 품질 향상에 얼마나 기여하는가?

주요 결과

• 제안된 통합 모델(Joint)은 평점 오차가 1.023으로, Yelp의 평균 기준 모델(1.280)과 다른 추천 시스템들(예: RS-MF: 1.143)보다 유의미하게 낮았으며, t-검정에서 p < 0.01을 기록했다.
• 리뷰 생성 성능(F1: 0.250)이 최신 기준의 개괄적 요약 모델들(예: Sum-LSTM-Att: 0.196)을 능가하여, 개선된 개인화와 관련성의 가능성을 입증했다.
• 절단 실험을 통해 사용자별 리뷰와 이웃 사용자 정보 모두가 성능 향상에 기여하는 것으로 확인되었으며, -user,-neighbor 버전은 오직 사용자 데이터만 사용한 경우(1.254)에 비해 오차를 1.342로 줄였다.
• 최적의 메모리 힙 수는 3으로 확인되었으며, 이보다 높은 힙 수는 과적합을 유도하고 성능 저하를 초래했다.
• 편향 파ram터 μ = 1으로 설정했을 때 최고의 성능을 기록했으며, 이는 기존 리뷰 점수와 사용자별 표현이 평점 예측에 동일한 기여도를 가짐을 시사한다.
• 메모리 네트워크에서 파aram터 공유를 통한 다중 작업 학습이 평점 예측 및 리뷰 생성 성능을 모두 향상시켰으며, 별도의 평점 또는 생성 모델 대비 Joint 모델의 뛰어난 성능이 이를 입증했다.