[논문 리뷰] Variational Bayesian Context-aware Representation for Grocery Recommendation

Zaiqiao Meng, Richard McCreadie외 2명|ENLIGHTEN (Jurnal Bimbingan dan Konseling Islam)|2019. 09. 17.

Recommender Systems and Techniques참고 문헌 16인용 수 6

한 줄 요약

이 논문은 변동형 베이지안 맥락 인식 모델인 VBCAR를 제안하며, 베이지안 스킵그램 프레임워크 내에서 압축된 변동형 추론을 사용하여 확률적 사용자 및 아이템 임베딩을 학습한다. 잠재 표현을 정규분포로 모델링하고 바구니 맥락을 통합함으로써 VBCAR는 기존 최고 수준의 방법들보다 유의미하게 뛰어난 추천 성능을 달성하였으며, 실제 데이터에서 Triple2vec에 비해 NDCG@10 기준 최대 31% 향상을 기록하였다.

ABSTRACT

Grocery recommendation is an important recommendation use-case, which aims to predict which items a user might choose to buy in the future, based on their shopping history. However, existing methods only represent each user and item by single deterministic points in a low-dimensional continuous space. In addition, most of these methods are trained by maximizing the co-occurrence likelihood with a simple Skip-gram-based formulation, which limits the expressive ability of their embeddings and the resulting recommendation performance. In this paper, we propose the Variational Bayesian Context-Aware Representation (VBCAR) model for grocery recommendation, which is a novel variational Bayesian model that learns the user and item latent vectors by leveraging basket context information from past user-item interactions. We train our VBCAR model based on the Bayesian Skip-gram framework coupled with the amortized variational inference so that it can learn more expressive latent representations that integrate both the non-linearity and Bayesian behaviour. Experiments conducted on a large real-world grocery recommendation dataset show that our proposed VBCAR model can significantly outperform existing state-of-the-art grocery recommendation methods.

연구 동기 및 목표

• 기존의 사용자 및 아이템을 임베딩 공간 내의 결정론적 점으로 표현하는 과일 추천 모델의 한계를 해결하기 위해, 표현 능력과 강건성을 제한하는 문제를 해결한다.
• 비선형 표현 학습과 베이지안 불확실성 모델링을 통합한 유일한 프레임워크를 통해 추천 성능을 향상시킨다.
• 사용자-아이템 상호작용에서 유래한 바구니 맥락 정보를 활용하여 보다 개인화되고 맥락 인식 가능한 사용자 및 아이템 표현을 학습한다.
• 대규모 과일 데이터셋에 적합한 효율적인 추론 기반 기법으로 압축된 변동형 추론을 사용한다.
• 다양한 평가 지표와 데이터 크기에서 실세계 Instacart 데이터셋을 대상으로 제안된 모델의 효과성을 검증한다.

제안 방법

• VBCAR 모델은 사용자 및 아이템 임베딩을 정규분포로 간주함으로써 불확실성 인식 표현을 가능하게 하는 베이지안 스킵그램 프레임워크를 사용한다.
• 신경망을 통해 압축된 변동형 추론을 적용하여 사용자 및 아이템 상호작용을 직접 후행 분포로 매핑함으로써, 각 샘플 별 추론을 피함으로써 계산 비용을 절감한다.
• 모델은 아이템 트리플의 복원을 위해 변동형 하한 경계(ELBO)를 최적화하며, 사용자 선호도와 아이템 동시출현 패턴을 모두 통합한다.
• 잠재 표현은 RMSprop를 사용한 확률적 최적화를 통해 업데이트되며, 대규모 데이터에서의 학습 효율성을 향상시키기 위해 음성 샘플링 기법이 적용된다.
• 추천을 위한 선호도 점수는 사용자 및 아이템 정규분포 임베딩 간의 내적곱으로 계산되며, 추론 과정에서 불확실성이 통합된다.
• 시계열 바구니 데이터를 기반으로 엔드 투 엔드로 모델을 학습함으로써 아이템 간의 시간적 및 맥락적 관계를 유지한다.

Figure 1. The architecture of our proposed VBCAR model. The model takes the user and item one-hot identity representation, i.e. $\mathbf{F}^{u}$ and $\mathbf{F}^{i}$ , as input and outputs Gaussian distributions with means and variances as latent embeddings for all users and items. The model then us

실험 결과

연구 질문

• RQ1 결정론적 점 추정에 비해 변동형 베이지안 접근이 과일 추천에서 사용자 및 아이템 임베딩의 표현력과 강건성을 향상시키는가?
• RQ2 압축된 변동형 추론을 맥락 인식 스킵그램 프레임워크에 통합함으로써, 특히 제한된 학습 데이터에서 보다 우수한 일반화 성능을 달성하는가?
• RQ3 다양한 데이터 크기에서 VBCAR의 성능은 Triple2vec과 같은 최고 수준의 모델에 비해 NDCG@10 및 Recall@10 측면에서 어떻게 비교되는가?
• RQ4 작은 데이터 서브셋에서 학습했을 때도 모델이 뛰어난 성능을 유지하는가? 이는 더 뛰어난 샘플 효율성을 시사한다.

주요 결과

• VBCAR는 평가된 모든 데이터셋 크기에서 Triple2vec를 뛰어넘으며, 100% 데이터 서브셋에서 NDCG@10 기준 31%의 상대적 향상을 기록하였다.
• 5% 데이터셋에서 VBCAR는 Recall@10이 0.748을 기록하였고, Triple2vec는 0.708을 기록하였으며, 통계적으로 유의미한 차이(p < 0.01)를 보였다.
• VBCAR와 Triple2vec 간의 성능 격차는 작은 데이터 샘플(예: 5% 및 10%)에서 가장 크게 나타나, 더 뛰어난 샘플 효율성을 시사한다.
• VBCAR는 증가하는 학습 데이터 크기와 함께 NDCG@10 및 Recall@10가 지속적으로 향상되며, 안정적이고 확장 가능한 학습 능력을 보였다.
• K 값(예: K=5, 10, 20)에 관계없이 모델은 상위 K개 추천 작업에서 뛰어난 강건성을 유지하였다.
• 베이지안 추론을 통한 확률적 임베딩 사용은 표현력 있고 일반화 가능한 표현을 가능하게 하며, 두 지표에서의 일관된 성과 향상으로 이를 입증하였다.

(a) NDCG@10 performance by different triple size