[논문 리뷰] Scalable Realistic Recommendation Datasets through Fractal Expansions

Francois Belletti, Karthik Lakshmanan외 3명|arXiv (Cornell University)|2019. 01. 23.

Recommender Systems and Techniques참고 문헌 52인용 수 16

한 줄 요약

이 논문은 크로네커 그래프 이론을 활용한 프랙탈 확장 기법을 제안하여 소규모 공개 데이터셋에서 대규모이고 현실적인 합성 추천 데이터셋을 생성함으로써 사용자 참여도, 아이템 인기도, 특이값 스펙트럼 등의 핵심 통계적 성질을 유지한다. 이 방법을 통해 MovieLens 20M 데이터셋을 100억 개의 평가(200만 명의 사용자, 86만 4천 개의 아이템)로 확장하고, 최대 6550억 개의 평가(1700만 명의 사용자, 700만 개의 아이템)까지 확장할 수 있으며, 기밀 위험 없이 산업 수준의 벤치마킹을 가능하게 한다.

ABSTRACT

Recommender System research suffers currently from a disconnect between the size of academic data sets and the scale of industrial production systems. In order to bridge that gap we propose to generate more massive user/item interaction data sets by expanding pre-existing public data sets. User/item incidence matrices record interactions between users and items on a given platform as a large sparse matrix whose rows correspond to users and whose columns correspond to items. Our technique expands such matrices to larger numbers of rows (users), columns (items) and non zero values (interactions) while preserving key higher order statistical properties. We adapt the Kronecker Graph Theory to user/item incidence matrices and show that the corresponding fractal expansions preserve the fat-tailed distributions of user engagements, item popularity and singular value spectra of user/item interaction matrices. Preserving such properties is key to building large realistic synthetic data sets which in turn can be employed reliably to benchmark Recommender Systems and the systems employed to train them. We provide algorithms to produce such expansions and apply them to the MovieLens 20 million data set comprising 20 million ratings of 27K movies by 138K users. The resulting expanded data set has 10 billion ratings, 864K items and 2 million users in its smaller version and can be scaled up or down. A larger version features 655 billion ratings, 7 million items and 17 million users.

연구 동기 및 목표

• 소규모 학술적 추천 데이터셋과 산업 생산 시스템의 막대한 규모 사이의 격차를 해소하기 위해.
• 데이터 확장을 동안 핵심 고차원 통계적 성질—예를 들어, 꼬리가 두꺼운 사용자 참여도, 아이템 인기도, 특이값 스펙트럼—을 유지하기 위해.
• 실제 협업 필터링 과제의 특성을 반영한 대규모 스케일의 합성 그러나 현실적인 사용자-아이템 상호작용 데이터를 생성하기 위해.
• 행렬 분해 및 유사도 기반 추천 모델의 재현 가능한 벤치마킹을 가능하게 하기 위해 산업 수준의 데이터 크기와 유사한 데이터에서 수행하기 위해.
• 기밀을 보호하는 대안으로서 기존의 기업 내부 사용자 데이터를 공개하는 대신, 공개된 소규모 데이터에서 합성 데이터셋을 생성하는 유연하고 확장 가능한 방법을 제공하기 위해.

제안 방법

• 사용자-아이템 인cidense 행렬에 크로네커 그래프 이론을 적용하여 상호작용 행렬을 자기 유사적인 구조로 모델링하고, 이를 프랙탈 확장에 적합하게 한다.
• 기존의 희소 행렬을 사용자, 아이템, 상호작용의 측면에서 크로네커 곱 기반 확장 기법을 적용하여 통계적 불변성을 유지한다.
• 희소하고 균일하지 않은 분포를 보이는 사용자-아이템 상호작용을 다룰 수 있도록 표준 크로네커 생성 과정을 수정하여 행과 열의 합이 현실적으로 확장되도록 보장한다.
• 확장된 행렬의 블록 내 반복적인 패턴을 제거하고 행렬 분해에서의 단순한 해를 방지하기 위해 블록의 무작위 섞음을 도입한다.
• 행렬 분해의 곤란도에 핵심적인 영향을 미치는 스펙트럼 성질을 유지하기 위해 원본 행렬의 특이값 분해(SVD)를 기반으로 한다.
• 재귀적 크로네커 곱을 반복 적용하여 원본 데이터보다 수 개의 주기수만큼 더 큰 규모로 데이터셋을 확장한다(예: 100억에서 6550억 개의 평가로).

실험 결과

연구 질문

• RQ1 프랙탈 확장 기법이 대규모 합성 추천 데이터셋에서 사용자 참여도와 아이템 인기도의 꼬리가 두꺼운 분포를 유지할 수 있는가?
• RQ2 크로네커 기반 확장이 원본 사용자-아이템 상호작용 행렬의 특이값 스펙트럼을 어느 정도 유지할 수 있는가? 이는 행렬 분해 과제의 난이도가 유사하게 유지됨을 의미한다.
• RQ3 합성 데이터가 실세계의 통계적 비정규성—예를 들어, 순위 기반 행과 열의 합이 가속적으로 감소하는 패턴—을 얼마나 잘 재현하는가?
• RQ4 확장된 데이터셋이 기밀을 보호하면서도 산업 수준에서 선형 및 비선형 협업 필터링 모델을 신뢰성 있게 벤치마킹하는 데 사용될 수 있는가?
• RQ5 크로네커 기반 확장의 한계는 무엇인가? 특히 평가 척도의 해상도 세분화와 행렬 내에서의 구조적 반복성에 대해 논의한다.

주요 결과

• 프랙탈 확장 기법을 통해 MovieLens 20M 데이터셋을 100억 개의 평가(200만 명의 사용자, 86만 4천 개의 아이템)로 확장하고, 최대 6550억 개의 평가(1700만 명의 사용자, 700만 개의 아이템)까지 확장하여 산업 수준의 규모를 달성했다.
• 확장된 데이터셋은 사용자 참여도와 아이템 인기도의 꼬리가 두꺼운 분포를 유지하며, 원본 데이터의 통계적 프로파일과 밀도 있게 유사하다.
• 확장된 행렬의 특이값 스펙트럼은 준-파워 라인 형태를 유지하며 원본과 매우 유사하여, 행렬 분해 과제의 난이도가 동일하게 유지됨을 보여준다.
• 합성 데이터셋은 실세계 데이터 패턴을 반영한 현실적인 비정규성—예를 들어, 순위 기반 행 및 열의 합이 가속적으로 감소하는 패턴—을 보여준다.
• 크로네커 곱으로 인해 평가 척도가 더 세분화되기는 하지만, 대부분의 평가가 평균에 가까이 유지되어 극단적인 평가보다는 중립적인 상호작용이 현실적으로 유지된다.
• 행렬의 블록을 무작위로 섞는 기법이 효과적으로 블록 단위의 반복적 구조를 제거하여 크로네커 SVD에서의 단순한 해를 방지하고 모델의 강건성을 향상시킨다.