[논문 리뷰] Cache-Augmented Inbatch Importance Resampling for Training Recommender Retriever

Jin Chen, Defu Lian외 4명|arXiv (Cornell University)|2022. 05. 30.

Recommender Systems and Techniques인용 수 4

한 줄 요약

이 논문은 추천 검색기의 훈련을 위한 캐시 증강형 배치 내 중요도 재표본화 방법인 ChiIR을 제안한다. 이 방법은 쿼리에 따라 변하는 유사도 점수를 기반으로 하여 음성 예측을 적응적으로 재표본화하고, 자주 사용되며 높은 유사도를 가진 항목들의 동적 캐시를 유지함으로써 소프트맥스 추정 정확도를 향상시킨다. 이는 훈련 편향을 줄이고 수렴 속도를 높이며, 다섯 개인 실세계 데이터셋에서 최신 기술 수준의 성능을 달성하여 NDCG@10 기준 최대 4.87%의 상대적 향상률을 기록한다.

ABSTRACT

Recommender retrievers aim to rapidly retrieve a fraction of items from the entire item corpus when a user query requests, with the representative two-tower model trained with the log softmax loss. For efficiently training recommender retrievers on modern hardwares, inbatch sampling, where the items in the mini-batch are shared as negatives to estimate the softmax function, has attained growing interest. However, existing inbatch sampling based strategies just correct the sampling bias of inbatch items with item frequency, being unable to distinguish the user queries within the mini-batch and still incurring significant bias from the softmax. In this paper, we propose a Cache-Augmented Inbatch Importance Resampling (XIR) for training recommender retrievers, which not only offers different negatives to user queries with inbatch items, but also adaptively achieves a more accurate estimation of the softmax distribution. Specifically, XIR resamples items for the given mini-batch training pairs based on certain probabilities, where a cache with more frequently sampled items is adopted to augment the candidate item set, with the purpose of reusing the historical informative samples. XIR enables to sample query-dependent negatives based on inbatch items and to capture dynamic changes of model training, which leads to a better approximation of the softmax and further contributes to better convergence. Finally, we conduct experiments to validate the superior performance of the proposed XIR compared with competitive approaches.

연구 동기 및 목표

• 배치 내 표본화에서 발생하는 심각한 편향 문제를 해결하기 위해, 모든 쿼리를 동일하게 취급하고 진정한 소프트맥스 분포를 잘 근사하지 못하는 문제를 해결한다.
• 모든 쿼리 간에 동일한 음성 예측 세트를 공유하는 대신, 각 쿼리에 따라 다르게 음성 예측을 선택할 수 있도록 하여 모델 수렴 속도를 향상시킨다.
• 과거에 유의미하고 높은 유사도를 가진 항목들의 캐시를 통합하여 소프트맥스 손실의 근사 오차를 줄인다.
• 균일하게 샘플링하거나 정적 인기 기반 음성 예측에 의존하지 않고도 더 높은 훈련 효율성과 효과를 달성한다.

제안 방법

• ChiIR는 쿼리별 유사도 점수와 항목 인기도를 기반으로 배치 내 항목의 중요도 재표본화를 수행하여 쿼리에 따라 달라지는 음성 예측 세트를 생성한다.
• 자주 사용되는 항목—일반적으로 높은 유사도를 가진 어려운 음성 예측 항목—을 장기적으로 저장하는 동적 캐시를 도입한다.
• 표본화 확률은 유사도 점수와 인기도 기반의 편향 보정을 조합한 수정된 소프트맥스 가중치에서 유도된다.
• 고정 크기의 버퍼를 사용하여 실시간으로 캐시를 업데이트하며, 더 자주 표본화된 항목을 우선순위로 삼는다.
• 이 방법은 이중 타워 모델과 호환되며, 딥 특징 타워와도 호환되어 복잡한 항목 표현을 지원한다.
• 배치 내 적응성과 유의미한 샘플의 장기 기억을 결합함으로써 전체 소프트맥스 분포의 더 정확한 추정을 가능하게 한다.

실험 결과

연구 질문

• RQ1 배치 내 표본화 방식을 개선하여 진정한 소프트맥스 분포를 더 잘 근사하는 쿼리에 따라 달라지는 음성 예측 샘플을 제공할 수 있는가?
• RQ2 자주 사용되는 항목의 동적 캐시를 통합할 경우 추천 검색기의 수렴 속도와 성능에 어떤 영향을 미치는가?
• RQ3 캐시를 활용한 중요도 재표본화 방식은 균일 표본화나 인기 기반 표본화에 비해 기울기 추정의 편향을 얼마나 줄일 수 있는가?
• RQ4 더 적은 수의 항목을 배치당 샘플링할 경우에도 제안된 방법이 성능을 유지하거나 향상시킬 수 있는가? 이는 더 효율적인 훈련을 가능하게 한다.

주요 결과

• 딥 특징 타워를 사용할 경우, Tmall 데이터셋에서 SSL-Pop 대비 NDCG@10 기준 최대 4.87%의 상대적 향상률을 기록하며, 복잡한 표현 방식에서도 뛰어난 효과를 입증한다.
• 배치 항목의 1/64만 재표본화해도 전체 배치 표본화 성능에 맞추거나 초월할 수 있으며, 이는 매우 높은 훈련 효율성을 시사한다.
• 캐시 내 항목 분포는 장꼬리형 인기 분포에서 크게 벗어나 있으며, 더 유의미하고 높은 유사도를 가진 항목들을 선호함으로써 희귀 항목에 대한 편향을 줄인다.
• 캐시 크기의 증가는 성능 향상에 직접적인 영향을 미친다: 배치 크기의 0.5배에서 4배로 증가시킬 경우 추천 품질 향상이 관찰되며, 더 큰 크기에서 최적의 성과를 기록한다.
• 재표본화 항목 수가 줄어들수록 기울기 계산 시간도 비례하여 감소함을 확인하여, 이 방법이 더 낮은 계산 비용으로 효율적인 훈련을 가능하게 함을 확인한다.
• 다섯 개인 공개 데이터셋에서 BIR과 SSL-Pop을 모두 능가하는 성능을 기록하여, 정확도와 수렴 속도 면에서의 우수성을 입증한다.