[논문 리뷰] Delayed Feedback Modeling for the Entire Space Conversion Rate Prediction

Yanshi Wang, Jie Zhang외 2명|arXiv (Cornell University)|2020. 11. 24.

Image and Video Quality Assessment참고 문헌 20인용 수 4

한 줄 요약

이 논문은 전역 인プレ션 공간 내에서 사용자 행동 시퀀스를 모델링함으로써 데이터 희소성, 샘플 선택 편향, 지연 피드백이라는 세 가지 과제를 동시에 해결하는 새로운 딥러닝 프레임워크인 ESDF를 제안한다. CTR와 CVR 예측을 이산 일자 슬롯을 사용한 생존 분석 기반 시간 지연 모델링과 통합함으로써, 산업용 데이터셋에서 ESMM 기준으로 GAUC가 6.68% 상대적으로 향상된다.

ABSTRACT

Estimating post-click conversion rate (CVR) accurately is crucial in E-commerce. However, CVR prediction usually suffers from three major challenges in practice: i) data sparsity: compared with impressions, conversion samples are often extremely scarce; ii) sample selection bias: conventional CVR models are trained with clicked impressions while making inference on the entire space of all impressions; iii) delayed feedback: many conversions can only be observed after a relatively long and random delay since clicks happened, resulting in many false negative labels during training. Previous studies mainly focus on one or two issues while ignoring the others. In this paper, we propose a novel neural network framework ESDF to tackle the above three challenges simultaneously. Unlike existing methods, ESDF models the CVR prediction from a perspective of entire space, and combines the advantage of user sequential behavior pattern and the time delay factor. Specifically, ESDF utilizes sequential behavior of user actions on the entire space with all impressions to alleviate the sample selection bias problem. By sharing the embedding parameters between CTR and CVR networks, data sparsity problem is greatly relieved. Different from conventional delayed feedback methods, ESDF does not make any special assumption about the delay distribution. We discretize the delay time by day slot and model the probability based on survival analysis with deep neural network, which is more practical and suitable for industrial situations. Extensive experiments are conducted to evaluate the effectiveness of our method. To the best of our knowledge, ESDF is the first attempt to unitedly solve the above three challenges in CVR prediction area.

연구 동기 및 목표

• CVR 예측의 세 가지 주요 과제인 데이터 희소성, 샘플 선택 편향, 지연 피드백을 해결하기 위해.
• 단지 클릭된 인프레션만이 아니라 전체 인프레션 공간에 걸쳐 CVR 예측을 통합적으로 모델링하기 위해.
• 지연 분포에 대한 비모수적 가정에 의존하지 않으면서도 산업적 구현 가능성을 유지하기 위해.
• 사용자 순차적 행동 패턴을 활용하여 모델 일반화 능력과 예측 정확도를 향상시키기 위해.
• 공개 샘플링 버전의 산업용 CVR 데이터셋을 배포함으로써 향후 연구를 지원하기 위해.

제안 방법

• ESDF는 CTR와 CTCVR(클릭-전환율) 헤드를 공동으로 학습하는 다중 작업 학습 프레임워크를 사용하여 파라미터 공유를 통해 데이터 희소성을 완화한다.
• 클릭 및 비클릭을 포함한 모든 인프레션에 걸쳐 사용자 행동 시퀀스를 모델링함으로써 샘플 선택 편향을 줄인다.
• 시간 지연 요소는 이산 일자 슬롯을 사용하여 모델링하며, 특정 분포를 가정하지 않고 딥 네트워크를 통해 생존 확률을 근사한다.
• 관측된 전환 시간의 로그우도를 최적화함으로써 생존 분석 원리에 기반한 엔드 투 엔드 학습이 가능하다.
• CTR 및 CVR 작업에 공통된 임bedding 백본을 사용하여 표현 학습 및 일반화 능력을 향상시킨다.
• 지연 시간을 7개의 일자 슬롯으로 이산화하고 각 슬롯에 전환이 발생할 확률을 예측함으로써 실용적 구현을 가능하게 한다.

실험 결과

연구 질문

• RQ1 통합된 딥러닝 프레임워크가 데이터 희소성, 샘플 선택 편향, 지연 피드백을 동시에 효과적으로 해결할 수 있는가?
• RQ2 클릭된 인프레션만이 아니라 전체 인프레션 공간을 모델링할 경우 CVR 예측 성능이 어떻게 향상되는가?
• RQ3 생존 분석 기반의 비모수적 이산 시간 지연 모델이 지수 분포와 같은 모수적 가정보다 얼마나 뛰어난가?
• RQ4 사용자 순차적 행동 패턴을 통합하면 모델의 일반화 능력과 지연 피드백에 대한 강건성이 실제로 향상되는가?
• RQ5 인프레션, 클릭, 지연 전환 레이블을 포함한 공개 샘플링 버전의 산업용 데이터셋이 향후 산업용 CVR 모델링 연구를 가속화할 수 있는가?

주요 결과

• 제품 데이터셋에서 ESDF는 ESMM 기준으로 GAUC가 6.68% 상대적으로 향상되어 산업 응용에서 뚜렷한 성과를 달성했다.
• 공개 데이터셋에서는 ROC AUC가 0.0132 포인트 향상되었고, ESMM 대비 4.93% 상대적 향상률을 기록했다.
• 공개 데이터셋과 제품 데이터셋에서 각각 DFM보다 0.82%와 3.16%의 상대적 향상률을 기록하며 강력한 베이스라인들을 능가했다.
• ESDF의 시간 지연 모델은 지연 피드백 샘플에서 더 안정적이고 정밀한 성능을 보였으며, 특히 DFM의 지수 분포 가정으로 인해 불안정해지는 공개 데이터셋에서 두드러졌다.
• 지연 샘플을 간단히 제거하는 NAIVE 방법은 로그 손실 측면에서 ESMM보다 열 劣하므로, 지연 피드백을 기각하면 분포 이탈이 심화되고 모델 정밀도가 떨어진다는 점을 시사한다.
• 산업용 데이터셋의 공개 샘플링 버전 배포는 인프레션, 클릭, 지연 전환 레이블을 포함한 CVR 모델링에 활용 가능한 첫 번째 자원이다.