[논문 리뷰] Entire Space Multi-Task Modeling via Post-Click Behavior Decomposition for Conversion Rate Prediction

Hong Wen, Jing Zhang외 5명|arXiv (Cornell University)|2019. 10. 15.

Recommender Systems and Techniques참고 문헌 39인용 수 9

한 줄 요약

이 논문은 전환율(CVR) 예측 성능을 햖थ기 위해 클릭 후 사용자 행동을 결정론적(DAction) 및 기타(OAction) 행동으로 분해하는 새로운 딥러닝 모델 ESM²을 제안한다. 전체 공간 다중작업 학습 프레임워크 내에서 이러한 행동을 감독 신호로 모델링함으로써, ESM²은 샘플 선택 편향(Sample Selection Bias)과 데이터 희소성(Data Sparsity)을 효과적으로 완화하고, 오프라인 및 온라인 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Recommender system, as an essential part of modern e-commerce, consists of two fundamental modules, namely Click-Through Rate (CTR) and Conversion Rate (CVR) prediction. While CVR has a direct impact on the purchasing volume, its prediction is well-known challenging due to the Sample Selection Bias (SSB) and Data Sparsity (DS) issues. Although existing methods, typically built on the user sequential behavior path ``impression$ o$click$ o$purchase'', is effective for dealing with SSB issue, they still struggle to address the DS issue due to rare purchase training samples. Observing that users always take several purchase-related actions after clicking, we propose a novel idea of post-click behavior decomposition. Specifically, disjoint purchase-related Deterministic Action (DAction) and Other Action (OAction) are inserted between click and purchase in parallel, forming a novel user sequential behavior graph ``impression$ o$click$ o$D(O)Action$ o$purchase''. Defining model on this graph enables to leverage all the impression samples over the entire space and extra abundant supervised signals from D(O)Action, which will effectively address the SSB and DS issues together. To this end, we devise a novel deep recommendation model named Elaborated Entire Space Supervised Multi-task Model ($ESM^{2}$). According to the conditional probability rule defined on the graph, it employs multi-task learning to predict some decomposed sub-targets in parallel and compose them sequentially to formulate the final CVR. Extensive experiments on both offline and online environments demonstrate the superiority of $ESM^{2}$ over state-of-the-art models. The source code and dataset will be released.

연구 동기 및 목표

• 전자상거래 추천 시스템 내 전환율(CVR) 예측에서 샘플 선택 편향(SSB)과 데이터 희소성(DS)의 이중 과제를 해결한다.
• 구매 레이블이 부족한 '노출 → 클릭 → 구매' 경로에만 의존하는 기존 모델의 한계를 극복한다.
• 장바구니에 담기 또는 위시리스트에 저장하는 등의 풍부한 클릭 후 행동을 결정론적이고 레이블이 부여된 신호로 활용해 감독을 강화한다.
• 분해된 사용자 행동 그래프에서 파생된 하위 작업을 조합하여 CVR을 예측하는 통합 모델을 개발함으로써, 모든 노출 샘플에 대한 일반화를 보장한다.
• 클릭 후 행동 빈도가 높은 사용자에게 특히 효과적인 일반화 능력과 성능 향상을 위해 더 풍부한 순차적 감독을 통합한다.

제안 방법

• 새로운 사용자 행동 그래프를 제안: '노출 → 클릭 → D(O)Action → 구매'로, DAction과 OAction은 상호 배타적이며 클릭 이후에 위치하는, 관련된 행동이다.
• 그래프의 부분 경로에 조건부 확률 규칙을 정의하여 CVR을 네 개의 잠재 확률 변수로 분해한다: 시안 후 CTR, CTCVR, DAction 전환율, OAction 전환율.
• 공유된 특징 표현을 사용하는 다중작업 학습을 통해 이 네 개의 하위 작업을 동시에 예측하는 ESM²이라는 딥 네트워크를 설계한다.
• 특징 정밀도를 유지하고 표현을 향상시키기 위해, 밀도 높은 수치형 특징에 대해 원핫 이산화가 아닌 정규화 기반 임베딩을 사용한다.
• 모든 노출 샘플에서 모델을 훈련함으로써 전체 공간 감독를 실현하고, 클릭된 샘플에만 의존하는 것을 방지함으로써 SSB를 감소시킨다.
• 하위 작업 확률의 곱으로 최종 CVR 추정치를 구성함으로써, 조건부 확률 분해와의 일관성을 확보한다.

실험 결과

연구 질문

• RQ1 장바구니에 담기나 위시리스트에 저장하는 등의 클릭 후 행동이 결정론적이고 레이블이 부여된 신호로 활용되어 CVR 예측 성능을 향상시킬 수 있는가?
• RQ2 클릭 후 단계를 다수의 행동 유형으로 분해하면 데이터 희소성 문제가 완화되고, 저자원 환경에서 모델 일반화 능력이 향상되는가?
• RQ3 이러한 분해된 행동을 포함하는 전체 공간 다중작업 학습 프레임워크가 기존 모델인 ESMM보다 오프라인 및 온라인 환경 모두에서 우월한 성능을 보일 수 있는가?
• RQ4 다양한 클릭 후 활동 수준을 가진 사용자 세그먼트, 특히 빈번한 행동을 보이는 사용자들에서 모델의 성능은 어떠한가?
• RQ5 성능을 극대화하기 위해 수치형 특징의 임베딩 구성과 클릭 후 행동 선택에 최적의 설정은 무엇인가?

주요 결과

• DAction으로 '장바구니에 담기'와 '위시리스트에 저장' 행동을 모두 사용할 경우, ESM²은 CVR AUC 0.8486을 기록하며 단일 행동 변형 및 기준 모델을 초월한다.
• 더 높은 구매 행동을 보이는 사용자 그룹에서 ESM²은 ESMM 대비 점진적인 상대적 성능 향상을 보이며, 각각 0.72%, 0.81%, 1.13%, 1.30%의 CVR AUC 향상률을 기록한다.
• Tanh 활성화 함수를 사용하는 정규화된 수치형 특징은 원핫 이산화 대비 AUC를 0.004 향상시켜 더 나은 특징 표현을 입증한다.
• 임베딩 차원을 128로 늘일수록 성능 향상이 이루어지나, 그 이상으로는 추가적인 성능 향상이 없어지며 이는 이 용량에서趋기의 포화 상태에 도달함을 시사한다.
• 모델은 모든 노출 샘플에 대해 강력한 일반화 능력을 유지하며, 전체 영역에서 훈련함으로써 샘플 선택 편향을 효과적으로 완화한다.
• 온라인 A/B 테스트 결과 ESM²이 전환율과 사업 지표를 유의미하게 향상시켜 실제 환경에서의 효과성을 검증한다.