[논문 리뷰] End-to-End User Behavior Retrieval in Click-Through RatePrediction Model

Qiwei Chen, Changhua Pei외 4명|arXiv (Cornell University)|2021. 08. 10.

Recommender Systems and Techniques참고 문헌 39인용 수 16

한 줄 요약

이 논문은 클릭률(CTR) 예측에서 장기적인 사용자 행동 시계열을 엔드 투 엔드로 검색하기 위한 새로운 방법인 ETA(End-to-end Target Attention)를 제안한다. SimHash 기반의 국소성 감지 해싱을 활용하여 실시간으로 저복잡도로 검색을 가능하게 함으로써, 이중 단계 모델의 정보 격차와 학습-추론 분리 문제를 해결하며, 최신 기술 모델 대비 온라인 A/B 테스트에서 3.1%의 GMV 향상을 달성한다.

ABSTRACT

Click-Through Rate (CTR) prediction is one of the core tasks in recommender systems (RS). It predicts a personalized click probability for each user-item pair. Recently, researchers have found that the performance of CTR model can be improved greatly by taking user behavior sequence into consideration, especially long-term user behavior sequence. The report on an e-commerce website shows that 23\% of users have more than 1000 clicks during the past 5 months. Though there are numerous works focus on modeling sequential user behaviors, few works can handle long-term user behavior sequence due to the strict inference time constraint in real world system. Two-stage methods are proposed to push the limit for better performance. At the first stage, an auxiliary task is designed to retrieve the top-$k$ similar items from long-term user behavior sequence. At the second stage, the classical attention mechanism is conducted between the candidate item and $k$ items selected in the first stage. However, information gap happens between retrieval stage and the main CTR task. This goal divergence can greatly diminishing the performance gain of long-term user sequence. In this paper, inspired by Reformer, we propose a locality-sensitive hashing (LSH) method called ETA (End-to-end Target Attention) which can greatly reduce the training and inference cost and make the end-to-end training with long-term user behavior sequence possible. Both offline and online experiments confirm the effectiveness of our model. We deploy ETA into a large-scale real world E-commerce system and achieve extra 3.1\% improvements on GMV (Gross Merchandise Value) compared to a two-stage long user sequence CTR model.

연구 동기 및 목표

• 장기적인 사용자 행동 시계열을 사용하는 이중 단계 CTR 모델에서 발생하는 성능 저하 문제를 해결하기 위해.
• 장기적 행동 시계열 모델링을 위한 엔드 투 엔드 학습 및 추론을 가능하게 하여 오프라인 보조 검색 모델의 필요성을 제거하기 위해.
• SimHash 기반 국소성 감지 해싱을 사용하여 최상위-k 검색의 계산 복잡도를 O(L×B×d)에서 O(L×B)로 감소시키기 위해.
• 대규모 추천 시스템에서 엄격한 온라인 서비스 수준 합의(SLA)를 충족하면서도 높은 예측 정확도를 유지하기 위해.
• 실제 전자상거래 환경에서의 오프라인 및 온라인 평가를 통해 엔드 투 엔드 검색의 효과성을 입증하기 위해.

제안 방법

• 장기적인 사용자 행동 시계열 검색을 메인 학습 및 추론 파이프라인에 직접 통합한 엔드 투 엔드 CTR 모델인 ETA를 제안한다.
• 각 아이템 임베딩에 대해 고정 길이의 지문을 생성하기 위해 SimHash를 사용하여 효율적인 해밍 거리 기반 유사도 검색을 가능하게 한다.
• 비용이 많이 드는 내적곱 또는 L2 기반 검색을 O(L×B) 해밍 거리 계산으로 대체하여 검색 복잡도를 극적으로 감소시킨다.
• 사용자의 장기적 행동 시계열에서 검색된 최상위-k 아이템을 타겟 어텐션 메커니즘에 통합하여 동적 사용자 관심 모델링을 수행한다.
• 검색 목적과 주요 CTR 예측 과제를 일치시키는 미분 가능 검색 메커니즘을 적용하여 타겟 분리 문제를 제거한다.
• 학습 및 추론 모두에서 실시간 검색을 지원하여 오래된 오프라인 역인verted 인덱스의 필요성을 제거한다.

실험 결과

연구 질문

• RQ1 이중 단계 방법과 비교해 장기적인 사용자 행동 시계열의 엔드 투 엔드 검색이 CTR 예측 성능 향상에 기여하는가?
• RQ2 생산 규모의 시스템에서 실시간 온라인 검색을 가능하게 하기 위해 검색 복잡도를 어떻게 줄일 수 있는가?
• RQ3 검색과 CTR 예측 간의 정보 격차를 제거하면 모델 성능 향상이 측정 가능한가?
• RQ4 시퀀스 길이와 지문 비트 길이를 변화시킬 경우, 검색 정확도, 추론 지연, 모델 성능 간의 상충 관계는 어떠한가?
• RQ5 SimHash 기반 검색이 내적곱 기반 검색과 비교해 유사하거나 더 높은 성능을 달성하면서도 계산 비용을 크게 감소시킬 수 있는가?

주요 결과

• ETA는 최신 기술 모델 대비 온라인 A/B 테스트에서 총 상품 판매액(GMV)을 3.1% 향상시켰다.
• 기본 ETA 모델(v0)은 19ms의 추론 시간으로 0.7361 AUC를 기록하며, 베이스라인 avg(1024) 모델(0.7311 AUC, 14ms)을 초월하고 전체 시퀀스 어텐션 모델(v4) 대비 추론 비용을 46% 감소시켰다.
• SimHash를 내적곱 기반 검색으로 대체한 v3 모델은 AUC를 0.07% 향상시켰지만, 추론 시간은 68% 증가하여 온라인 SLA 제약 조건을 충족하지 못했다.
• SimHash 지문 비트 길이를 늘일수록 AUC는 일정 수준까지 향상되나, 임베딩 차원의 두 배가 넘는 비트 길이에서는 성능 향상이 미미해진다.
• 다양한 사용자 행동 시계열 길이에 걸쳐도 강력한 성능 유지를 보였으며, v2.3(2048길이 시퀀스)는 0.7394 AUC와 23ms의 추론 시간을 기록했다.
• ETA는 검색과 CTR 목표 간의 완전한 일치를 보장하는 엔드 투 엔드 학습을 가능하게 하여, 이중 단계 모델의 오래된 임베딩과 분리된 타겟 문제를 제거했다.