[논문 리뷰] Neural Feature Embedding for User Response Prediction in Real-Time Bidding (RTB)

Enno Shioji, Masayuki Arai|arXiv (Cornell University)|2017. 02. 02.

Recommender Systems and Techniques참고 문헌 18인용 수 4

한 줄 요약

이 논문은 실시간 입찰(RTB)에서 사용자 반응 예측을 향상시키기 위해 사용자 웹 내역 콘텐츠 ID의 조밀한 벡터 표현을 학습하는 CBOW 유사 모델을 사용한 신경망 특징 임베딩 방법을 제안한다. 이 방법은 특징 희소성 문제를 완화함으로써 데이터 부족 상황에서도 예측 정확도를 크게 향상시키며, 특히 SB+DR(희소 이진 + 분포 표현)가 작은 학습 세트에서 기준 로지스틱 회귀 모델보다 최대 4.9% AUC 향상을 기록한다.

ABSTRACT

In the area of ad-targeting, predicting user responses is essential for many applications such as Real-Time Bidding (RTB). Many of the features available in this domain are sparse categorical features. This presents a challenge especially when the user responses to be predicted are rare, because each feature will only have very few positive examples. Recently, neural embedding techniques such as word2vec which learn distributed representations of words using occurrence statistics in the corpus have been shown to be effective in many Natural Language Processing tasks. In this paper, we use real-world data set to show that a similar technique can be used to learn distributed representations of features from users' web history, and that such representations can be used to improve the accuracy of commonly used models for predicting rare user responses.

연구 동기 및 목표

• 희귀 사용자 반응(예: 전환)을 예측할 때 발생하는 특징 희소성 문제를 해결한다.
• 로지스틱 회귀 모델에서 사용되는 원-핫 인코딩된 희소 범주형 특징의 한계를 극복한다. 이는 희귀 특징에 대해 일반화 능력이 떨어지는 데 기인한다.
• 자연어처리(NLP)에서 효과가 입증된 신경망 임베딩 기법이 사용자 웹 내역 특징의 분포 표현을 학습하는 데 어떻게 적용될 수 있는지 탐색한다.
• 기존 모델과의 조합에서 학습된 임베딩의 성능을 평가하며, 특히 데이터가 적은 환경에서의 성능을 분석한다.
• 산업 규모의 RTB 시스템에서 비지도 사전학습된 특징 임베딩의 실용성과 효과성을 입증한다.

제안 방법

• 자연어처리에서의 연속 백터 모델(CBOW)을 응용하여 사용자 웹 브라우징 시퀀스에서 콘텐츠 ID의 조밀한 벡터 표현을 학습한다.
• 관측된 동시 발생 사례의 가능도를 극대화하고 무작위 음성 쌍의 가능도를 최소화함으로써 효율적인 학습을 위해 음성 샘플링을 사용한다.
• 지도 학습을 보장하기 위해 클릭 레이블을 제거하고 400만 개의 오래된 광고 인스턴스에서 임베딩 모델을 학습한다.
• 예측에 사용하기 위해 학습된 임베딩을 입력 특징으로 활용한다: 개별적으로 사용(예: DR)하거나 원-핫 인코딩된 특징과 결합하여 사용(SB+DR)한 뒤 로지스틱 회귀 모델에 입력한다.
• 학습 안정성 향상과 일반화 능력 향상을 위해 각 임베딩 차원을 그 최대 절댓값으로 스케일링한다.
• 클릭 예측 작업에서 클래스 불균형 문제를 다루기 위해 데이터를 다운샘플링(비율 0.01) 처리하여 총 500만 개의 인스턴스 중 110만 개의 양성 예측 사례를 유지한다.

실험 결과

연구 질문

• RQ1 사용자 웹 내역을 순차적 데이터로 간주할 때, 신경망 단어 임베딩 기법을 RTB의 사용자 반응 예측에 효과적으로 적용할 수 있는가?
• RQ2 특히 레이블 데이터가 제한적인 상황에서, 콘텐츠 ID의 학습된 분포 표현이 기존 원-핫 인코딩 대비 예측 정확도를 얼마나 향상시키는가?
• RQ3 다양한 데이터 크기에서, 희소 이진(SB)과 분포 표현(DR)을 조합한 병합 특징 표현의 성능이 각각의 구성 요소보다 어떻게 다른가?
• RQ4 RTB의 사용자 반응 예측에 최적의 임베딩 차원은 무엇이며, 성능이 특정 크기 이후 포화 상태에 도달하는가?
• RQ5 종합적인 재학습 없이도 산업용 RTB 파이프라인에 비지도 사전학습된 특징 임베딩을 실용적으로 구현할 수 있는가?

주요 결과

• DR(분포 표현) 모델은 작은 학습 세트에서 SB(희소 이진) 기준선을 능가하며, 0.3K 개의 학습 예제에서 AUC가 4.90% 향상된다.
• SB+DR 모델은 모든 데이터 크기에서 SB 및 DR 모델을 모두 초월하며, 0.3K 개의 학습 예제에서 가장 큰 상대적 향상(4.33% AUC 향상)을 기록한다.
• 학습 데이터가 증가함에 따라 임베딩의 성능 향상 폭이 감소한다. 10만 개의 예제에서 DR 모델은 SB 모델에 뒤지며, 충분한 데이터가 확보된 상황에서 고차원 표현이 분류 능력을 제한할 수 있음을 시사한다.
• 임베딩 크기가 16 차원까지 증가함에 따라 AUC 성능이 향상되며, 이후에는 성능 향상 폭이 정체되어 더 이상의 이점이 없음을 나타낸다.
• 대규모 사용자 브라우징 이력에서의 동시 발생 통계를 활용함으로써, 레이블이 부족한 희귀 특징에 대해서도 효과적인 일반화가 가능하다.
• 기존 산업 표준 모델인 로지스틱 회귀와의 호환성 덕분에, 아키텍처를 대대적으로 수정하지 않고도 실시간 입찰 시스템에 쉽게 구현 가능하다.