[논문 리뷰] Beyond Greedy Ranking: Slate Optimization via List-CVAE

Ray Jiang, Sven Gowal외 2명|arXiv (Cornell University)|2018. 03. 05.

Face and Expression Recognition인용 수 16

한 줄 요약

이 논문은 사용자 반응을 조건으로 하여 항목들의 연관 분포를 모델링함으로써 탐욕적 순위 매기기 없이 최적의 문서 슬레이트를 직접 생성하는 List-CVAE를 제안한다. 시뮬레이션 및 실세계 데이터에서 탐욕적 및 자동회귀 기반 베이스라인보다 우수한 성능을 보이며, 훈련 데이터에 최적의 슬레이트가 포함되어 있지 않은 경우에도 강력한 일반화 능력을 입증한다.

ABSTRACT

The conventional solution to the recommendation problem greedily ranks individual document candidates by prediction scores. However, this method fails to optimize the slate as a whole, and hence, often struggles to capture biases caused by the page layout and document interdepedencies. The slate recommendation problem aims to directly find the optimally ordered subset of documents (i.e. slates) that best serve users' interests. Solving this problem is hard due to the combinatorial explosion in all combinations of document candidates and their display positions on the page. Therefore we propose a paradigm shift from the traditional viewpoint of solving a ranking problem to a direct slate generation framework. In this paper, we introduce List Conditional Variational Auto-Encoders (List-CVAE), which learns the joint distribution of documents on the slate conditioned on user responses, and directly generates full slates. Experiments on simulated and real-world data show that List-CVAE outperforms popular comparable ranking methods consistently on various scales of documents corpora.

연구 동기 및 목표

• 슬레이트 추천에서 위치적 및 맥락적 편향을 포착하지 못하는 탐욕적 순위 매기기의 한계를 해결하기 위해.
• 큰 후보 집합에서의 조합 폭발을 피하기 위해 직접 슬레이트 생성을 위한 확장 가능한 종단 간 프레임워크를 개발하기 위해.
• 최적의 슬레이트가 훈련 데이터에 부족하거나 존재하지 않는 경우에도 일반화할 수 있도록 하기 위해.
• 문서 간 상호작용과 레이아웃 효과를 함께 학습하는 유연한 조건부 생성 모델링 접근법을 제공하기 위해.

제안 방법

• 모델은 사용자 반응 벡터를 조건으로 하여 슬레이트 내 문서들의 연관 분포를 학습하기 위해 조건부 변동 자동차오더(CVAE)를 사용한다.
• 전체 슬레이트를 공유된 잠재 공간에 인코딩하여 항목 간의 위치적 및 맥락적 의존성을 포착한다.
• 디코더는 조건부 분포에서 샘플링하여 슬레이트를 생성하며, 큰 문서 풀에 대응하기 위해 음성 샘플링을 사용하는 k헤드 소프트맥스 레이어를 활용한다.
• 훈련 효율성과 일반화 능력을 향상시키기 위해 사전 학습된 문서 임베딩을 사용하여, 200만 개 문서에 대해 단일 GPU에서 훈련 시간을 4분 이내로 단축시켰다.
• 추론은 원하는 사용자 반응 벡터를 조건으로 하여 후보 필터링 없이 직접 고품질의 슬레이트를 생성하는 방식이다.

실험 결과

연구 질문

• RQ1 조합된 문서 상호작용과 레이아웃 편향을 함께 모델링함으로써 조건부 생성 모델이 탐욕적 순위 매기기보다 슬레이트 추천에서 뛰어난 성능을 낼 수 있는가?
• RQ2 최적의 슬레이트가 훈련 데이터에 부족하거나 희귀한 경우 모델이 얼마나 잘 일반화되는가?
• RQ3 대규모 추천 환경에서 모델이 문서 간 복잡한 상호작용과 위치 효과를 어느 정도 잘 포착하는가?
• RQ4 확장 가능한 CVAE 기반 프레임워크가 수백만 개의 문서를 처리하면서도 높은 성능과 빠른 추론을 유지할 수 있는가?

주요 결과

• List-CVAE는 시뮬레이션 및 실세계 데이터셋 모두에서 탐욕적 및 자동회귀 기반 베이스라인보다 일관되게 뛰어난 성능을 보이며, 거의 최적의 사용자 반응 수준을 달성한다.
• 200만 개 문서 코퍼스에서 List-CVAE는 평균적으로 슬레이트당 약 5건의 구매를 기록하여 대규모 환경에서도 뛰어난 성능을 입증했다.
• 최대 가능한 반응의 40% 이하(h=40%)인 슬레이트만 훈련 데이터로 사용했을 때도, List-CVAE는 1,000개의 훈련 스텝 이내에 모든 탐욕적 베이스라인을 초월했다.
• 훈련 중에 근접한 최적의 예제에 노출되지 않은 경우에도 모델은 높은 품질의 추천을 효과적으로 일반화하여 생성했다.
• 음성 샘플링을 적용한 k헤드 소프트맥스의 활용으로, 200만 개 문서에 대해 단일 GPU에서 훈련 및 추론을 4분 이내로 수행할 수 있었으며, 이는 높은 확장성의 증거가 되었다.