[논문 리뷰] A Nonparametric Delayed Feedback Model for Conversion Rate Prediction

Yuya Yoshikawa, Yusaku Imai|arXiv (Cornell University)|2018. 02. 01.

Complex Network Analysis Techniques참고 문헌 7인용 수 15

한 줄 요약

이 논문은 광고 클릭과 전환 사이의 시간 지연 분포를 지정된 형태(예: 지수 또는 Weibull)를 가정하지 않고 비모수적 방식으로 추정하는 NoDeF라는 비모수적 지연 피드백 모델을 제안한다. 학습된 가중치를 사용한 커널 밀도 추정과 EM 알고리즘을 통해 NoDeF는 복잡한 데이터 기반의 지연 분포를 포착하고, 실제 Criteo 데이터에서 로그 손실, 정확도 및 AUC 측면에서 기존의 모수적 모델을 능가한다.

ABSTRACT

Predicting conversion rates (CVRs) in display advertising (e.g., predicting the proportion of users who purchase an item (i.e., a conversion) after its corresponding ad is clicked) is important when measuring the effects of ads shown to users and to understanding the interests of the users. There is generally a time delay (i.e., so-called {\it delayed feedback}) between the ad click and conversion. Owing to the delayed feedback, samples that are converted after an observation period may be treated as negative. To overcome this drawback, CVR prediction assuming that the time delay follows an exponential distribution has been proposed. In practice, however, there is no guarantee that the delay is generated from the exponential distribution, and the best distribution with which to represent the delay depends on the data. In this paper, we propose a nonparametric delayed feedback model for CVR prediction that represents the distribution of the time delay without assuming a parametric distribution, such as an exponential or Weibull distribution. Because the distribution of the time delay is modeled depending on the content of an ad and the features of a user, various shapes of the distribution can be represented potentially. In experiments, we show that the proposed model can capture the distribution for the time delay on a synthetic dataset, even when the distribution is complicated. Moreover, on a real dataset, we show that the proposed model outperforms the existing method that assumes an exponential distribution for the time delay in terms of conversion rate prediction.

연구 동기 및 목표

• 광고 클릭과 전환 사이의 시간 지연에 대해 기존의 CVR 예측 모델이 지수 분포와 같은 모수적 형태를 가정하는 데서 비롯되는 한계를 해결하기 위해.
• 시간 지연 분포를 모수적 방식이 아닌 비모수적 방식으로 모델링하여 복잡하고 데이터 기반의 형태를 민감하게 표현할 수 있도록 하기 위해.
• 지연 피드백을 정확히 포착함으로써 지연 분포에 대한 사전 가정에 의존하지 않고 예측 성능을 향상시키기 위해.
• 디플레이드 피드백이 존재하는 모든 상황에 적용 가능한 일반화 가능한 프레임워크를 개발하기 위해.

제안 방법

• NoDeF는 관측된 전환 시간과 시간축 상의 가짜 점들 중심에 놓인 커널 함수들의 가중치 합으로 시간 지연 분포를 모델링한다.
• 커널 가중치는 은닉 전환 상태와 모델 파라미터를 동시에 추정하는 EM 알고리즘을 통해 데이터로부터 학습된다.
• 이 방법은 커널 밀도 추정 원리를 활용하지만, 지연 피드백 환경에서의 캐시된 데이터와 은닉 변수를 다룰 수 있도록 확장한다.
• 초기화된 하이퍼파라미터들, 예를 들어 가짜 점의 수(L), 정규화 항(λw, λV) 등은 검증 데이터를 통해 최적화된다.
• 범주형 특징의 원핫 인코딩과 로그 변환된 지연 시간의 정규화 이후, 주성분 분석(PCA)을 통해 특징 표현을 100차원으로 압축한다.
• 대규모 전환 로그에 대응하기 위해 스케줄링 가능한 확률적 EM 알고리즘을 사용해 모델을 훈련시킨다.

실험 결과

연구 질문

• RQ1 특정 모수적 형태를 가정하지 않고도 비모수적 모델이 전환 사건의 진짜 시간 지연 분포를 효과적으로 추정할 수 있는가?
• RQ2 NoDeF는 모수적 모델 대비 복잡한 다중모달 또는 비지수적 지연 분포를 얼마나 잘 포착할 수 있는가?
• RQ3 비모수적 접근 방식이 실제 데이터셋에서 CVR 예측 성능을 향상시키는 데 기여하는가?
• RQ4 모델은 새로운 샘플에 대해 일반화할 수 있으며, 전환되지 않은(캐시된) 데이터를 효과적으로 처리할 수 있는가?

주요 결과

• 합성 데이터셋에서 NoDeF는 진짜 분포가 비지수적이고 복잡한 이중피크 지연 분포를 성공적으로 포착했으며, 이는 지수 분포를 가정하지 않은 상태에서도 가능했다.
• Criteo 데이터셋에서 NoDeF는 모든 평가 지표에서 NAIVE 기준선과 DFM 모델을 모두 앞서며 로그 손실, 정확도 및 AUC에서 뛰어난 성능을 보였다.
• 최근 캠프에이인 부분에서는 AUC 0.781을 기록했고, 전체 캠프에이인 부분에서는 0.763를 기록하여 DFM과 NAIVE를 모두 초월했다.
• L 값(10, 20)에 따른 추정 밀도 곡선은 원시 데이터의 이중피크 구조를 잘 반영한 부드럽고 데이터 적응형 형태를 보이며, 효과적인 비모수적 추정을 입증했다.
• NoDeF에서 사용된 커널 밀도 추정의 자동 대역폭 선택 방법은 다양한 설정에서 안정적이고 신뢰할 수 있는 밀도 추정을 제공했다.
• 결과적으로, 지수 분포와 같은 모수적 지연 분포를 가정하는 것은 진짜 지연 분포가 복잡하거나 비표준일 경우 모델 성능을 제한할 수 있음을 입증했다.