[논문 리뷰] MiNet: Mixed Interest Network for Cross-Domain Click-Through Rate Prediction

Wentao Ouyang, Xiuwu Zhang외 6명|arXiv (Cornell University)|2020. 08. 07.

Image and Video Quality Assessment참고 문헌 36인용 수 5

한 줄 요약

MiNet는 크로스도메인 클릭-through 비율(CTR) 예측을 위해 혼합 이면 네트워크를 제안한다. 이는 도메인 간 장기적 사용자 관심사를 공동으로 모델링하고, 소스 도메인(뉴스)의 단기적 관심사와 타겟 도메인(광고)의 단기적 관심사를 동시에 고려한다. 이중 수준의 어텐션 메커니즘(아이템 수준 및 관심사 수준)을 사용하여 이러한 신호들을 적응적으로 융합함으로써, 오프라인 평가에서 최신 기술 수준의 성능을 달성하였고, UC Toutiao에서의 A/B 테스트에서는 상당한 온라인 CTR 향상을 보였다.

ABSTRACT

Click-through rate (CTR) prediction is a critical task in online advertising systems. Existing works mainly address the single-domain CTR prediction problem and model aspects such as feature interaction, user behavior history and contextual information. Nevertheless, ads are usually displayed with natural content, which offers an opportunity for cross-domain CTR prediction. In this paper, we address this problem and leverage auxiliary data from a source domain to improve the CTR prediction performance of a target domain. Our study is based on UC Toutiao (a news feed service integrated with the UC Browser App, serving hundreds of millions of users daily), where the source domain is the news and the target domain is the ad. In order to effectively leverage news data for predicting CTRs of ads, we propose the Mixed Interest Network (MiNet) which jointly models three types of user interest: 1) long-term interest across domains, 2) short-term interest from the source domain and 3) short-term interest in the target domain. MiNet contains two levels of attentions, where the item-level attention can adaptively distill useful information from clicked news / ads and the interest-level attention can adaptively fuse different interest representations. Offline experiments show that MiNet outperforms several state-of-the-art methods for CTR prediction. We have deployed MiNet in UC Toutiao and the A/B test results show that the online CTR is also improved substantially. MiNet now serves the main ad traffic in UC Toutiao.

연구 동기 및 목표

• 소스 도메인에서의 보조 데이터를 활용하여 타겟 도메인의 CTR 예측에서 데이터 희소성과 쿨스타트 문제를 해결한다.
• 뉴스 소비 행동에서 유래한 지식을 광고 클릭 예측으로 이전하여 온라인 광고의 CTR 예측 성능을 향상시킨다.
• 장기적 도메인 간 관심사, 소스 도메인(뉴스)의 단기적 관심사, 타겟 도메인(광고)의 단기적 관심사를 포함한 세 가지 유형의 사용자 관심사를 모델링한다.
• 목표 광고에 대한 관련성을 바탕으로 다양한 관심사 표현을 적응적으로 융합할 수 있는 신경망 아키텍처를 개발한다.
• 다양한 관심사 유형의 중요도가 목표 광고에 따라 달라질 수 있음을 고려하면서도 효과적인 크로스도메인 지식 전이를 가능하게 한다.

제안 방법

• 장기적, 소스 도메인 단기적, 타겟 도메인 단기적 세 가지 유형의 사용자 관심사를 인코딩하는 혼합 이면 네트워크(MiNet)를 제안한다.
• 최근에 클릭한 뉴스 및 광고에서 주요 특징을 동적으로 추출하기 위해 아이템 수준의 어텐션을 적용한다.
• 목표 광고에 대한 관련성에 따라 다양한 관심사 표현을 융합하기 위한 가중치를 학습하기 위해 관심사 수준의 어텐션을 구현한다.
• 사용자 프로필 특징을 공유 임베딩 레이어로 사용하여 의미적으로 풍부한 크로스도메인 사용자 표현을 학습한다.
• 사용자 행동 시퀀스와 아이템 특징을 처리하는 딥 네트워크 프레임워크에 어텐션 메커니즘을 통합한다.
• 역사적 사용자 상호작용의 클릭/비클릭 레이블을 기반으로 이진 교차 엔트로피 손실을 사용하여 모델을 엔드 투 엔드로 훈련시킨다.

실험 결과

연구 질문

• RQ1 장기적 및 이중 단기적 사용자 관심사를 모델링하는 것이 단일 도메인 기반 모델을 초월해 크로스도메인 CTR 예측을 향상시킬 수 있는가?
• RQ2 계층적 어텐션은 CTR 예측을 위한 다수의 관심사 표현을 적응적으로 융합하는 데 얼마나 효과적인가?
• RQ3 소스 도메인(뉴스)에서의 보조 데이터가 타겟 도메인(광고)의 CTR 예측 성능 향상에 얼마나 기여하는가?
• RQ4 MiNet은 실제 온라인 광고 시스템에서 다양한 광고 유형과 사용자 행동에 대해 잘 일반화되는가?
• RQ5 제안된 모델은 우수한 오프라인 성능뿐만 아니라 실제 운영 환경에서 측정 가능한 온라인 성과 향상을 달성할 수 있는가?

주요 결과

• MiNet은 UC Toutiao 데이터셋에서 오프라인 평가에서 몇몇 최신 기술 수준의 CTR 예측 모델을 능가하여 뛰어난 예측 정확도를 입증하였다.
• 이중 수준의 어텐션 메커니즘이 다양한 사용자 관심 유형에서 관련 신호를 효과적으로 캡처하고 융합하여 모델의 강건성을 향상시켰다.
• 뉴스 도메인의 사용자 행동을 활용하여 광고 도메인에서의 데이터 희소성과 쿨스타트 문제를 상당히 줄였다.
• UC Toutiao에서 실시한 온라인 A/B 테스트는 온라인 CTR의 상당한 향상을 확인하였으며, 모델의 실제 운영 환경에서의 효과성을 입증하였다.
• MiNet은 이미 생산 환경에 도입되어 UC Toutiao의 주요 광고 트래픽을 처리하고 있으며, 강력한 확장성과 신뢰성도 입증되었다.
• 제거 실험 결과, 세 가지 관심사 유형과 두 가지 어텐션 메커니즘이 모두 최종 성능 향상에 기여하는 것으로 확인되었다.