[논문 리뷰] Sampling-Decomposable Generative Adversarial Recommender

Binbin Jin, Defu Lian외 5명|arXiv (Cornell University)|2020. 11. 02.

Recommender Systems and Techniques참고 문헌 23인용 수 14

한 줄 요약

이 논문은 분포의 산란을 보정하기 위해 닫힘 형태 최적화와 자기 정규화 중요도 샘플링을 사용하는 샘플링-분해 가능한 생성기로 구성된 새로운 프레임워크인 Sampling-Decomposable Generative Adversarial Recommender (SD-GAR)를 제안한다. 이는 학습 효율성과 추천 성능을 향상시킨다. SD-GAR는 IRGAN 대비 12.4% 높은 성능과 SOTA 기준 10% 높은 성능을 기록하며, 디세크리미네이터 학습 속도가 최대 20배 빠르다.

ABSTRACT

Recommendation techniques are important approaches for alleviating information overload. Being often trained on implicit user feedback, many recommenders suffer from the sparsity challenge due to the lack of explicitly negative samples. The GAN-style recommenders (i.e., IRGAN) addresses the challenge by learning a generator and a discriminator adversarially, such that the generator produces increasingly difficult samples for the discriminator to accelerate optimizing the discrimination objective. However, producing samples from the generator is very time-consuming, and our empirical study shows that the discriminator performs poor in top-k item recommendation. To this end, a theoretical analysis is made for the GAN-style algorithms, showing that the generator of limit capacity is diverged from the optimal generator. This may interpret the limitation of discriminator's performance. Based on these findings, we propose a Sampling-Decomposable Generative Adversarial Recommender (SD-GAR). In the framework, the divergence between some generator and the optimum is compensated by self-normalized importance sampling; the efficiency of sample generation is improved with a sampling-decomposable generator, such that each sample can be generated in O(1) with the Vose-Alias method. Interestingly, due to decomposability of sampling, the generator can be optimized with the closed-form solutions in an alternating manner, being different from policy gradient in the GAN-style algorithms. We extensively evaluate the proposed algorithm with five real-world recommendation datasets. The results show that SD-GAR outperforms IRGAN by 12.4% and the SOTA recommender by 10% on average. Moreover, discriminator training can be 20x faster on the dataset with more than 120K items.

연구 동기 및 목표

• GAN 기반 추천 시스템에서 상위-k 추천의 핵심 모델인 디세크리미네이터의 성능이 열악한 이유를 해결한다.
• 큰 샘플 공간으로 인해 GAN 기반 추천 시스템에서 샘플 생성의 계산 비용이 높은 문제를 해결한다.
• 이론적 분석을 통해 제한된 용량의 생성기가 최적 분포에서 벗어나 생성기 학습에 악영향을 미친다는 점을 규명한다.
• 자기 정규화 중요도 샘플링을 사용해 생성기의 분포 산란을 보완함으로써 추천 정확도를 향상시킨다.
• 샘플링 분해 가능성에 기반해 닫힘 형태 최적화를 통해 생성기의 효율적이고 안정적인 최적화를 가능하게 하며, 정책 기반 강화 학습의 비효율성을 피한다.

제안 방법

• Vose-Alias 방법을 사용해 O(1) 샘플 생성이 가능한 샘플링-분해 가능한 생성기를 제안한다.
• 제한된 용량의 생성기와 최적 생성기 간의 분포 산란을 보정하기 위해 자기 정규화 중요도 샘플링을 사용한다.
• GAN 기반 학습에서 정책 기반 강화 학습이 필요 없도록, 번갈아가며 닫힘 형태 해법을 사용해 생성기를 최적화한다.
• 예측 점수가 높은 아이템에 더 높은 가중치를 할당하는 동적 음성 샘플러로 생성기를 통합한다.
• 생성기가 균일 샘플링으로 분해될 경우, 디세크리미네이터가 기존의 DNS 및 SA 모델을 자연스럽게 포함하도록 프레임워크를 설계한다.
• 샘플링을 생성기 아키텍처에서 분리함으로써 스케일러블한 학습을 가능하게 하며, 반복마다 효율적인 업데이트를 허용한다.

실험 결과

연구 질문

• RQ1 GAN 기반 추천 시스템에서 상위-k 추천의 핵심 모델인 디세크리미네이터가 성능이 열악한 이유는 무엇인가?
• RQ2 제한된 용량의 생성기의 분포 산란이 디세크리미네이터의 추천 성능에 어떤 영향을 미치는가?
• RQ3 샘플링 분해 가능성은 생성기의 닫힘 형태 최적화를 가능하게 하여 학습 효율성과 안정성을 향상시키는가?
• RQ4 자기 정규화 중요도 샘플링은 강화 학습에 의존하지 않고도 생성기의 분포 오차를 효과적으로 보완할 수 있는가?
• RQ5 제안된 프레임워크는 대규모 데이터셋에서 추천 정확도와 학습 속도를 어느 정도 향상시키는가?

주요 결과

• SD-GAR는 다섯 개인 실세계 데이터셋에서 NDCG 기준으로 IRGAN 대비 평균 12.4% 높은 성능을 기록한다.
• SD-GAR는 평균적으로 현재 최고 수준의 추천 모델(SOTA)보다 10% 높은 성능을 기록한다.
• 12만 개 이상의 아이템을 포함하는 데이터셋에서 SD-GAR의 디세크리미네이터 학습 속도는 IRGAN 대비 최대 20배 빠르다.
• O(1) 샘플링과 닫힘 형태 최적화 덕분에 SD-GAR의 생성기 학습 속도는 IRGAN 대비 5배 빠르다.
• SD-GAR의 생성기 및 디세크리미네이터의 실행 시간은 아이템 수에 따라 선형적으로 증가하지만, IRGAN의 경우 증가율이 훨씬 빠르다.
• 생성기가 균일 샘플링으로 분해될 경우, 디세크리미네이터는 자연스럽게 DNS 및 SA와 같은 기존 모델을 포함하며, 이는 프레임워크의 후행 호환성을 입증한다.