[논문 리뷰] Embedded Collaborative Filtering for "Cold Start" Prediction

Yubo Zhou, Ali Nadaf|arXiv (Cornell University)|2017. 04. 09.

Recommender Systems and Techniques참고 문헌 9인용 수 3

한 줄 요약

이 논문은 암시적 사용자-아이템 상호작용 데이터에 대해 Word2Vec(특히 Skip-gram 및 CBOW)를 활용하여 차원 축소를 수행하는 하이브리드 방법인 임bedded Collaborative Filtering(ЕСF)을 제안한다. 이는 '콜드 스타트' 상황에서 추천 성능을 향상시키기 위한 것이다. 짧은 기간 동안의 사용자 세션에서 밀도 높은 분포 표현을 학습함으로써, 사용자 상호작용 이력이 최소한일 경우에도 기존의 공동 필터링 및 최신 기술 대비 정밀도에서 상위 1개 및 상위 5개 추천 성능을 뛰어나게 한다.

ABSTRACT

Using only implicit data, many recommender systems fail in general to provide a precise set of recommendations to users with limited interaction history. This issue is regarded as the "Cold Start" problem and is typically resolved by switching to content-based approaches where extra costly information is required. In this paper, we use a dimensionality reduction algorithm, Word2Vec (W2V), originally applied in Natural Language Processing problems under the framework of Collaborative Filtering (CF) to tackle the "Cold Start" problem using only implicit data. This combined method is named Embedded Collaborative Filtering (ECF). An experiment is conducted to determine the performance of ECF on two different implicit data sets. We show that the ECF approach outperforms other popular and state-of-the-art approaches in "Cold Start" scenarios.

연구 동기 및 목표

• 사용자 상호작용 이력이 최소한일 때 발생하는 '콜드 스타트' 문제를 해결하기 위해.
• 사용자 또는 아이템 메타데이터와 같은 보조 정보가 필요 없이 암시적 피드백 데이터만을 사용하여 추천 정확도를 향상시키기 위해.
• 공동 필터링 프레임워크 내에서 분포 표현 학습(Word2Vec)을 활용하여 희박한 상호작용에서 사용자 선호도를 모델링하는 방법을 개발하기 위해.
• 제안된 방법이 '콜드 스타트' 및 비-'콜드 스타트' 상황에서 모두 최신 기술 대비 평가하기 위해.

제안 방법

• 각 사용자 세션을 '문장'으로 간주하여, 사용자 상호작용 시퀀스에서 아이템의 저차원 밀도 임베딩을 Word2Vec(Skip-gram 및 CBOW)를 적용해 학습한다.
• 음성 샘플링과 확률적 경사 하강법을 사용하여 공존하는 아이템의 가능도를 극대화함으로써 아이템 임베딩을 학습한다.
• 학습된 아이템 임베딩을 사용하여 코사인 유사도를 통해 아이템-아이템 유사도를 계산하고, 이를 기반으로 공동 필터링 추천을 수행한다.
• 단기(창크 크기 5) 및 장기(창크 크기 20) 모델을 조합하여 하이브리드 모델을 구성하고, 가중 평균을 통해 안정성을 향상시킨다.
• 임bedded된 아이템 벡터에서 유사도 점수를 도출한 후, 유사도 기반으로 k개의 근접 이웃 아이템을 식별하여 추천을 생성한다.
• 다양한 수준의 데이터 희박성 하에서 두 개의 공개 데이터셋을 기반으로 정밀도@1 및 정밀도@5 지표를 사용해 평가한다.

실험 결과

연구 질문

• RQ1 암시적 피드백 기반 추천에서 Word2Vec 기반 아이템 임베딩은 '콜드 스타트' 상황에서 공동 필터링 성능을 향상시킬 수 있는가?
• RQ2 높은 데이터 희박성 하에서 ECF의 성능은 기존의 아이템-아이템 KNN 및 다른 최신 기술 대비 어떻게 비교되는가?
• RQ3 단기 및 장기 사용자 세션 모델을 조합하는 것이 단일 모델 접근보다 더 높은 추천 정확도를 달성하는가?
• RQ4 암시적 피드백 기반 추천 맥락에서, Skip-gram 또는 CBOW 중 어떤 Word2Vec 변형이 더 높은 성능을 내는가?
• RQ5 사용자 세션에서 숨겨진(보이지 않는) 아이템의 비율이 ECF 및 기준 방법의 정밀도에 어떤 영향을 미치는가?

주요 결과

• ECF는 '콜드 스타트' 상황에서 기존의 아이템-아이템 KNN 및 다른 최신 기술 대비 정밀도@1 및 정밀도@5에서 뛰어난 성능을 보이며, 특히 90% 또는 95%의 아이템이 숨겨진 경우에 두드러진다.
• MovieLens 100k 데이터셋에서, Skip-gram 기반 ECF는 90% 숨겨진 비율에서 정밀도@1이 0.436을 기록하여 CF(0.316) 및 CDAE(0.379)를 초월한다.
• 단기 및 장기 사용자 세션 임베딩을 조합한 하이브리드 모델이 가장 높은 정밀도를 기록하여, 다중 척도 모델링이 안정성을 향상시킨다는 것을 시사한다.
• 모든 숨겨진 비율 및 두 데이터셋에서 Skip-gram이 CBOW를 일관되게 뛰어넘어, 순차적 아이템 패턴을 더 잘 학습할 수 있음을 시사한다.
• 숨겨진 아이템 비율이 높을수록 정밀도가 증가함을 확인하여, ECF가 상호작용 이력이 매우 적은 사용자에게 특히 효과적임을 보여준다.
• 비-'콜드 스타트' 상황에서는 기존의 CF 및 CDAE 방법이 ECF보다 더 뛰어난 성능을 보였으며, 이는 ECF의 장점가 가장 두드러지는 희박한 데이터 환경에서의 성능 향상임을 확인한다.