[논문 리뷰] Neural Network Based Next-Song Recommendation

Kai-Chun Hsu, Szu-Yu Chou외 2명|arXiv (Cornell University)|2016. 06. 24.

Recommender Systems and Techniques참고 문헌 13인용 수 5

한 줄 요약

이 논문은 자연어 처리에서 영감을 얻어 사용자 플레이리스트의 순차적 청취 패턴을 모델링하기 위해 컨volutional 신경망(CNNs)을 활용하는 새로운 신경망 기반의 다음 곡 추천 시스템인 CNN-rec을 제안한다. 실세계 음악 데이터셋에서 평가한 결과, 전통적인 추천 시스템을 능가하고 최신 기술 수준(SOTA) 수준의 성능을 달성하여 CNN이 음악 추천에서 순차적 의존성을 포착하는 데 효과적임을 입증한다.

ABSTRACT

Recently, the next-item/basket recommendation system, which considers the sequential relation between bought items, has drawn attention of researchers. The utilization of sequential patterns has boosted performance on several kinds of recommendation tasks. Inspired by natural language processing (NLP) techniques, we propose a novel neural network (NN) based next-song recommender, CNN-rec, in this paper. Then, we compare the proposed system with several NN based and classic recommendation systems on the next-song recommendation task. Verification results indicate the proposed system outperforms classic systems and has comparable performance with the state-of-the-art system.

연구 동기 및 목표

• 사용자 청취 시퀀스에서 다음 곡을 추천하는 과제를 해결하기 위해 음악 플레이리스트의 순차적 의존성을 모델링한다.
• 특히 CNN을 포함한 딥 러닝 기법이 음악 추천의 순차적 추천 과제에 어떻게 적용될 수 있는지 탐색한다.
• 제안된 모델을 전통적인 추천 시스템과 최신 기술 수준의 신경망 기반 접근법과 비교한다.
• 컨volutional 네트워크가 사용자 청취 행동의 시간적 패턴을 포착하는 데 기여하는 바를 평가한다.

제안 방법

• 제안된 모델인 CNN-rec은 1차원 컨volutional 신경망을 사용하여 청취 이력 시퀀스로 구성된 사용자 시퀀스를 입력으로 처리한다.
• 시퀀스 내 각 곡은 학습된 임베딩 레이어를 통해 조밀한 벡터 표현으로 매핑된다.
• 다양한 커널 크기를 가진 다수의 컨볼루션 필터를 적용하여 시퀀스 전반에 걸친 국소적 패턴과 의존성을 추출한다.
• 컨볼루션 이후 풀링 레이어를 적용하여 시퀀스 길이를 단축시키고 고수준 특징을 추출한다.
• 최종 표현은 완전 연결 레이어를 거쳐 소프트맥스 레이어에 입력되어 후보 집합에서 다음 곡을 예측한다.
• 모델은 엔드 투 엔드로 교차 엔트로피 손실을 사용하여 다음 곡 예측 과제에서 예측 오차를 최소화하도록 훈련된다.

실험 결과

연구 질문

• RQ1 컨volutional 신경망이 다음 곡 추천을 위한 음악 청취 행동의 순차적 패턴을 효과적으로 모델링할 수 있는가?
• RQ2 제안된 CNN 기반 모델의 성능은 전통적인 협업 필터링 및 행렬 분해 방법과 비교해 어떻게 되는가?
• RQ3 CNN-rec 모델은 최신 기술 수준의 신경망 기반 추천 시스템과 동등한 성능을 달성하는가?
• RQ4 컨볼루션 필터를 통한 국소적 패턴 추출이 추천 정확도 향상에 기여하는 바는 무엇인가?

주요 결과

• CNN-rec은 전통적인 추천 시스템인 협업 필터링과 행렬 분해보다 다음 곡 예측 정확도에서 뛰어난 성능을 보였다.
• 동일한 벤치마크 데이터셋에서 최신 기술 수준의 신경망 기반 추천 시스템과 비교해 유사한 성능을 달성했다.
• 컨볼루션 레이어에서 다양한 커널 크기를 사용함으로써 다양한 시간 스케일에서의 순차적 패턴을 포착할 수 있었다.
• 제거 실험 결과, CNN을 통한 순차적 모델링의 포함 여부가 비순차적 기반 모델 대비 추천 품질 향상에 중대한 기여를 한다는 것이 확인되었다.