[논문 리뷰] Modeling Musical Taste Evolution with Recurrent Neural Networks

Massimo Quadrana, Marta Režnáková외 3명|arXiv (Cornell University)|2018. 06. 18.

Music and Audio Processing참고 문헌 12인용 수 3

한 줄 요약

이 논문은 순차적인 인터넷 라디오 스테이션 생성 데이터를 기반으로 사용자의 음악적 취향의 진화를 예측하기 위해 순환 신경망(RNN) 모델을 제안하며, 장기적 테일 음악 개인화에서 뛰어난 성능을 보이며, 러닝-투-랭킹 시스템에 통합했을 때 MRR@5에서 16.7% 향상되었으며, 기준 모델들보다 장기적 선호도 의존성을 더 잘 포착한다.

ABSTRACT

Finding the music of the moment can often be a challenging problem, even for well-versed music listeners. Musical tastes are constantly in flux, and the problem of developing computational models for musical taste dynamics presents a rich and nebulous problem space. A variety of factors all play some role in determining preferences (e.g., popularity, musicological, social, geographical, generational), and these factors vary across different listeners and contexts. In this paper, we leverage a massive dataset on internet radio station creation from a large music streaming company in order to develop computational models of listener taste evolution. We delve deep into the complexities of this domain, identifying some of the unique challenges that it presents, and develop a model utilizing recurrent neural networks. We apply our model to the problem of next station prediction and show that it not only outperforms several baselines, but excels at long tail music personalization, particularly by learning the long-term dependency structure of listener music preference evolution.

연구 동기 및 목표

• 인터넷 라디오 스테이션 생성의 순차적 데이터를 활용해 개인의 음악적 선호도가 시간에 따라 어떻게 변화하는지 모델링하기.
• 사용자가 시간이 지남에 따라 독특하거나 덜 인기 있는 아티스트를 탐색하는 장기적 테일 음악 개인화 문제 해결하기.
• 기존의 인기 기반 및 유사도 기반 기준 모델과 비교해 RNN이 청취자 행동의 장기적 의존성 구조를 얼마나 잘 포착하는지 평가하기.
• RNN 예측 결과를 계층적 러닝-투-랭킹 프레임워크에 통합해 추천 품질 향상시키기.
• 역사적 스테이션 수와 인기 수준에 따라 나누어진 청취자 집단별로 모델 성능 분석하기.

제안 방법

• 모델은 사용자가 생성한 라디오 스테이션의 시계열을 인코딩하기 위해 게이트드 순환 단위(GRU) 아키텍처를 사용하며, 청취 행동의 시간적 의존성을 학습한다.
• RNN은 사용자가 과거에 생성한 스테이션의 시퀀스를 기반으로 향후 생성할 다음 스테이션을 예측하도록 훈련된다.
• 계층적 러닝-투-랭킹(L2R) 시스템은 RNN 예측 결과와 KNN, 인기도(POP), word2vec(W2V) 모델의 특징을 조합해 후보 스테이션을 재정렬한다.
• L2R 모델은 500개의 트리를 사용하는 LambdaMart를 사용하며, MRR@1과 MRR@5를 최적화해 상위-k 추천 정확도를 향상시킨다.
• 특징으로는 스테이션 인기도, 스테이션 유형, 청취자 연령, 청취 다양성, 곡 인기도, 스테이션 수가 포함되며, RNN 출력 결과는 추가 특징으로 추가된다.
• 모델은 Pandora에서 확보한 110억 개 이상의 라디오 스테이션 데이터셋을 기반으로 평가되며, 역사를 기준으로 스테이션 수와 향후 행동에 따라 청취자들을 분류한다.

실험 결과

연구 질문

• RQ1 RNN은 순차적 스테이션 생성 데이터로부터 음악 취향의 장기적 진화를 효과적으로 모델링할 수 있는가?
• RQ2 RNN의 성능은 다음 스테이션 생성을 예측할 때 인기 기반 및 유사도 기반 기준 모델과 비교해 어떻게 다른가?
• RQ3 어떤 사용자 집단(예: 스테이션 수 또는 인기 수준 기준)에서 RNN이 가장 큰 이점을 보이는가?
• RQ4 RNN 예측 결과를 계층적 러닝-투-랭킹 시스템에 통합했을 때 순위 매기기 성능이 얼마나 향상되는가?
• RQ5 다른 모델들과 비교해 RNN은 덜 인기 있는 장기적 테일 음악 아이템을 얼마나 잘 추천하는가?

주요 결과

• RNN 모델은 기준 모델 대비 재현율(recall@20)에서 8.2% 향상되었으며, 역사적 데이터가 많아질수록 성능 향상이 뚜렷하게 나타났다.
• RNN은 스테이션을 6~40개 사이로 생성한 사용자들에서 기준 모델보다 가장 뚜렷한 성능 향상을 보이며, 장기적 의존성 학습 능력이 뛰어나다는 것을 입증했다.
• RNN은 덜 인기 있는 장기적 테일 음악 아이템을 추천하는 데서 뚜렷한 이점을 보이며, 다른 모델보다 더 자주 정확하게 식별했다.
• 계층적 러닝-투-랭킹 시스템에 RNN 예측 결과를 추가 특징으로 통합했을 때, MRR@5를 최적화했을 경우 MRR@5에서 16.7% 상대적 향상이 이루어졌다.
• L2R 시스템이 MRR@1을 최적화했을 경우 MRR@1에서 10.3% 향상되고, MRR@3에서는 13.8% 향상되어 상위 1위 및 상위 3위 성능이 뛰어나다는 것을 확인했다.
• 결과는 RNN 예측 결과가 다른 모델들과 상호보완적임을 시사하며, 선호도 진화에 대한 고유한 정보를 포착하고 있음을 보여준다.