[논문 리뷰] Leaving No One Behind: A Multi-Scenario Multi-Task Meta Learning Approach for Advertiser Modeling

Qianqian Zhang, Xinru Liao외 3명|arXiv (Cornell University)|2022. 01. 18.

Recommender Systems and Techniques인용 수 6

한 줄 요약

이 논문은 광고주 모델링을 위한 다중 시나리오 다중 작업 메타 학습 프레임워크인 M2M을 제안한다. M2M는 스폰서드 서치, 디스플레이 광고, 라이브 스트리밍과 같은 다양한 광고 시나리오에서 다수의 광고주 성과 지표(예: 지출, 클릭 수, 활성 비율)를 동시에 예측한다. 메타 유닛을 통해 시나리오별 지식을 통합하고, 동적 상호 시나리오 상관관계를 파악하기 위한 메타 어텐션, 시나리오 인식 표현을 향상시키기 위한 메타 타워를 설계함으로써, 최신 기술 수준의 성능을 달성한다. 온라인 A/B 테스트 결과, 광고주 활성 비율이 +2.59% 향상되었고, ARPU(평균 사용자당 수익)는 +2.09% 증가하였다.

ABSTRACT

Advertisers play an essential role in many e-commerce platforms like Taobao and Amazon. Fulfilling their marketing needs and supporting their business growth is critical to the long-term prosperity of platform economies. However, compared with extensive studies on user modeling such as click-through rate predictions, much less attention has been drawn to advertisers, especially in terms of understanding their diverse demands and performance. Different from user modeling, advertiser modeling generally involves many kinds of tasks (e.g. predictions of advertisers' expenditure, active-rate, or total impressions of promoted products). In addition, major e-commerce platforms often provide multiple marketing scenarios (e.g. Sponsored Search, Display Ads, Live Streaming Ads) while advertisers' behavior tend to be dispersed among many of them. This raises the necessity of multi-task and multi-scenario consideration in comprehensive advertiser modeling, which faces the following challenges: First, one model per scenario or per task simply doesn't scale; Second, it is particularly hard to model new or minor scenarios with limited data samples; Third, inter-scenario correlations are complicated, and may vary given different tasks. To tackle these challenges, we propose a multi-scenario multi-task meta learning approach (M2M) which simultaneously predicts multiple tasks in multiple advertising scenarios.

연구 동기 및 목표

• 광고주 모델링에 대한 광범위한 연구가 이루어졌음에도 불구하고, 전자상거래 플랫폼에서 광고주에 대한 종합적인 모델링의 부족을 해결한다.
• 신규 또는 소규모 광고 시나리오에서의 희소 데이터 문제와 복잡한, 작업에 따라 달라지는 상호 시나리오 상관관계에 도전한다.
• 스케일링 가능하고 통합된 프레임워크 내에서 다수의 광고 시나리오에 걸쳐 다수의 광고주 성과 작업(예: 지출, 클릭 수, 활성 비율)을 공동으로 예측할 수 있도록 한다.
• 새로운 시나리오에 잘 일반화되고, 훈련 샘플이 제한된 경우에도 높은 성능을 유지할 수 있는 모델을 개발한다.

제안 방법

• 다양한 시나리오 간의 명시적 상호 시나리오 상관관계를 학습하고, 하류 예측 네트워크에 적응형 레이어 가중치를 생성하기 위해 시나리오별 지식을 통합한 다수준 메타 유닛을 제안한다.
• 특정 예측 작업(예: 지출 vs. 클릭 수)에 따라 다양한 상호 시나리오 상관관계를 동적으로 캡처하기 위해 메타 어텐션 모듈을 도입한다.
• 계층적 융합 패턴을 학습하여 시나리오별 특징의 표현을 향상시키기 위해 메타 타워 모듈을 설계한다.
• 다중 작업 학습 환경에서 다중 회귀 작업(예: 지출, 클릭 수, 활성 일수)을 종합적으로 최적화하기 위해 공동 포isson 손실 함수를 사용한다.
• 시간에 따라 변화하는 광고주 행동 패턴을 모델링하기 위해 트랜스포머 기반의 시계열 인코더를 활용하여 장기 예측 정확도를 향상시킨다.
• 메타 학습 원칙을 사용하여, 학습된 메타 지식을 통해 새로운 또는 자원이 제한된 시나리오에 빠르게 적응할 수 있도록 모델을 훈련시킨다.

실험 결과

연구 질문

• RQ1 다양한 광고 시나리오에 걸쳐 다수의 광고주 성과 작업(예: 지출, 클릭 수, 활성 비율)을 효과적으로 예측할 수 있는 통합 모델은 어떻게 설계할 수 있는가?
• RQ2 다중 시나리오 다중 작업 학습에서 복잡하고 작업에 따라 달라지는 상호 시나리오 상관관계를 명시적으로 모델링할 수 있는 메커니즘은 무엇인가?
• RQ3 시나리오별 재훈련에 의존하지 않고도 새로운 또는 데이터가 부족한 광고 시나리오에 잘 일반화될 수 있는 모델은 어떻게 설계할 수 있는가?
• RQ4 메타 학습과 어텐션 메커니즘은 산업 규모의 플랫폼에서 광고주 모델링을 위한 표현 학습을 얼마나 향상시킬 수 있는가?

주요 결과

• M2M는 효과적인 시나리오 간 지식 전이 덕분에 오프라인 평가에서 최신 기술 수준의 베이스라인보다 뚜렷이 뛰어나며, 특히 데이터가 적은 시나리오에서 두드러진 성능 향상을 보였다.
• 보상 작업 도구에서의 온라인 A/B 테스트 결과, M2M 예측을 사용할 경우 광고주 활성 비율이 +2.59% 향상되었고, ARPU(평균 사용자당 수익)는 +2.09% 증가하였다.
• 모델의 성능은 시퀀스 길이에 민감하며, T=40일 때 최적의 성능을 보였다. 더 긴 시퀀스는 노이즈를 유발하고 성능을 떨어뜨린다.
• 시나리오 지식 차원(d)을 늘릴수록 성능이 향상되나, d=64를 초과하면 성능 향상 폭이 줄어들며, 이는 이 이상에서는 수익 감소 효과가 나타남을 시사한다.
• K=3 레이어를 가진 메타 유닛이 용량과 일반화 간의 최적의 균형을 이룬다. 더 깊은 네트워크(K>3)는 과적합을 유도하고 성능 저하를 초래한다.
• 제거 실험 결과, 트랜스포머 레이어나 메타 구성 요소를 제거할 경우 성능 저하가 심각하게 발생함을 확인하였으며, 이는 시간적 및 구조적 종속성 모델링에서 이들의 핵심적 역할을 뒷받침한다.