[논문 리뷰] Indian Regional Movie Dataset for Recommender Systems

Prerna Agarwal, Richa Verma외 1명|arXiv (Cornell University)|2018. 01. 07.

Recommender Systems and Techniques참고 문헌 10인용 수 4

한 줄 요약

이 논문은 18개의 인도어에서 제작된 2,851편의 지역 영화에 대해 919명의 사용자로부터 수집한 10K개의 평가를 포함하는, 인도 지역 영화에 대해 처음으로 종합적인 데이터셋을 소개한다. 이 데이터셋에는 사용자 인구통계학적 정보와 영화 메타데이터가 함께 포함되어 있으며, 확률적 행렬 분해와 블라인드 압축 센싱과 같은 지도 학습 및 비지도 학습 협업 필터링 기법을 활용하여, 메타데이터를 통합할 경우 평가 예측 정확도가 크게 향상됨을 입증한다. 특히 인도 지역 영화 데이터셋에서 가장 낮은 MAE를 기록하여, 지역 특화 추천 시스템의 벤치마킹에 있어 그 가치를 입증한다.

ABSTRACT

Indian regional movie dataset is the first database of regional Indian movies, users and their ratings. It consists of movies belonging to 18 different Indian regional languages and metadata of users with varying demographics. Through this dataset, the diversity of Indian regional cinema and its huge viewership is captured. We analyze the dataset that contains roughly 10K ratings of 919 users and 2,851 movies using some supervised and unsupervised collaborative filtering techniques like Probabilistic Matrix Factorization, Matrix Completion, Blind Compressed Sensing etc. The dataset consists of metadata information of users like age, occupation, home state and known languages. It also consists of metadata of movies like genre, language, release year and cast. India has a wide base of viewers which is evident by the large number of movies released every year and the huge box-office revenue. This dataset can be used for designing recommendation systems for Indian users and regional movies, which do not, yet, exist. The dataset can be downloaded from \href{https://goo.gl/EmTPv6}{https://goo.gl/EmTPv6}.

연구 동기 및 목표

• 기존 추천 시스템이 할리우드 및 메인스트림 콘텐츠에 집중함에 따라, 인도 지역 영화에 전용으로 할애된 데이터셋이 부족한 문제를 해결하기 위함.
• 인도 지역 영화에 대해 사용자 평가, 사용자 인구통계학적 정보(나이, 직업, 거주지 주, 언어), 영화 메타데이터(장르, 언어, 제작 연도, 출연진, IMDb 평점)를 포함한 대규모이고 다양한 데이터셋을 수집하고 체계화하기 위함.
• 이 새로운 데이터셋을 기반으로 협업 필터링 기법(지도 학습 및 비지도 학습)의 성능을 평가하여, 인도 청중에 맞춤형으로 설계된 정확한 개인화된 추천 시스템을 구축하는 데의 유용성을 점검하기 위함.
• 연구자들이 인도의 언어적 및 인구통계적 다양성을 고려한 추천 알고리즘을 개발하고 테스트할 수 있도록, 특히 소외된 지역 영화 장르를 중심으로 한 벤치마킹 데이터셋을 제공하기 위함.

제안 방법

• 사용자 데이터 수집을 위한 웹 포털을 개발하여 이메일, 생년월일, 성별, 거주지 주, 애용하는 언어, 직업 등의 정보를 확보함으로써 사용자 인구통계학적 메타데이터 수집을 가능하게 하였다.
• 사용자들은 지역 영화를 좋아요/싫어요(1/-1) 척도로 평가하여 약 10,000개의 평가로 구성된 희소 평가 행렬을 형성하였으며, 이는 919명의 사용자와 2,851편의 영화를 포함한다.
• 장르, 언어, 제작 연도, 감독, 출연진, IMDb 평점 등의 영화 메타데이터는 공개 자료에서 수집하여 데이터셋을 풍부하게 하였다.
• 지도 학습 기반 협업 필터링은 사용자 및 항목 메타데이터를 일괄 인코딩된 벡터와 클래스 레이블 제약 조건을 통해 통합한 수정된 행렬 분해 프레임워크를 활용하여 구현하였다.
• 이 방법은 예측 오차의 프로베니우스 노름, 사용자 및 항목 정규화, 분류 일致성 항목(예: $\mu_u||W - UC||_{frob}$)을 포함하는 정규화된 목적 함수를 최소화하며, 정규화 파rameter를 튜닝하기 위해 l-curvature 기법을 사용한다.
• 비지도 기법으로는 사용자-사용자 코사인 유사도, 확률적 행렬 분해(PMF), 블라인드 압축 센싱을 적용하여 비교 분석하였으며, 성능 평가에는 5겹 교차검증 기반의 MAE 및 RMSE를 사용하였다.

실험 결과

연구 질문

• RQ1 기존의 벤치마크(Movielens)와 비교하여, 새로 수집한 인도 지역 영화 데이터셋에 협업 필터링 기법을 적용했을 때의 성능 변화는 어떠한가?
• RQ2 사용자 및 항목 메타데이터를 통합할 경우, 인도 지역 영화의 희소 추천 시스템에서 평가 예측 정확도는 어느 정도 향상되는가?
• RQ3 클래스 레이블 제약 조건을 적용한 지도 학습 기반 행렬 분해는 평가의 희소성 영향을 줄이고 예측의 안정성을 향상시키는 데 어떤 영향을 미치는가?
• RQ4 다양한 협업 필터링 알고리즘 기반으로 볼 때, 인도 지역 영화 데이터셋은 Movielens 100K 및 1M와 비교해 예측 오차 지표(MAE 및 RMSE)에서 어떤가?
• RQ5 메타데이터 인코딩 방식(예: 다국어 사용자에 대한 원-핫 인코딩)은 이 데이터셋 기반으로 학습된 추천 모델의 일반화 능력과 정확도에 어떤 영향을 미치는가?

주요 결과

• 모든 테스트된 데이터셋 중에서, 특히 인도 지역 영화 데이터셋에서 가장 낮은 평균 절대 오차(MAE)를 기록하여, 이 분야에서 뛰어난 예측 성능을 보임을 입증하였다.
• 사용자 및 항목 메타데이터를 통합한 지도 학습 기반 협업 필터링 기법이, 기본적인 코사인 유사도나 표준 행렬 분해와 같은 비지도 방법보다 성능이 뛰어나며, 특히 희소성 수준이 높은 상황에서 두드러진다.
• 확률적 행렬 분해(PMF)와 블라인드 압축 센싱은 지역 영화 데이터셋에서 뛰어난 성능을 보였으며, 특히 PMF가 가장 낮은 MAE를 기록하여, 희소하고 다양한, 언어적으로 다양성이 높은 데이터에 효과적임을 시사한다.
• 원-핫 인코딩된 메타데이터(예: 언어 및 사용자 인구통계학적 정보)의 사용은 사용자 선호도를 더 잘 모델링하고 잠재 요인 표현의 일반화 능력을 향상시켰다.
• l-curvature 기법은 최적의 정규화 파rameter를 성공적으로 도출하여, 지도 학습 기반 행렬 분해 프레임워크의 모델 안정성을 높이고 과적합을 감소시켰다.
• 희소도가 높고 풍부한 메타데이터를 갖춘 이 데이터셋은, 예측 성능 향상을 위해 구조적 사전 지식을 활용하는 고급 기법들(예: PMF 및 블라인드 압축 센싱)을 테스트하기에 특히 적합하다.