[논문 리뷰] Deep Bayesian Multi-Target Learning for Recommender Systems

Qi Wang, JI Zhi-hui외 2명|arXiv (Cornell University)|2019. 02. 25.

Domain Adaptation and Few-Shot Learning참고 문헌 11인용 수 4

한 줄 요약

이 논문은 다중 목표 추천에서 목표 사건 간의 인과 관계를 명시적으로 포착하기 위해 베이지안 네트워크를 사용하는 딥 베이지안 다중목표학습(Deep Bayesian Multi-Target Learning, DBMTL) 프레임워크를 제안한다. 딥 네ural 네트워크를 통해 목표 간의 유도적 의존성을 학습함으로써, DBMTL은 CTR, 전환율, 사용자 참여도를 포함한 다양한 지표에서 성능을 향상시키며, 타오바오 라이브 스트리밍 데이터에서 오프라인 및 온라인 A/B 테스트 모두에서 기존의 MTL 및 단일 목표 모델을 능가한다.

ABSTRACT

With the increasing variety of services that e-commerce platforms provide, criteria for evaluating their success become also increasingly multi-targeting. This work introduces a multi-target optimization framework with Bayesian modeling of the target events, called Deep Bayesian Multi-Target Learning (DBMTL). In this framework, target events are modeled as forming a Bayesian network, in which directed links are parameterized by hidden layers, and learned from training samples. The structure of Bayesian network is determined by model selection. We applied the framework to Taobao live-streaming recommendation, to simultaneously optimize (and strike a balance) on targets including click-through rate, user stay time in live room, purchasing behaviors and interactions. Significant improvement has been observed for the proposed method over other MTL frameworks and the non-MTL model. Our practice shows that with an integrated causality structure, we can effectively make the learning of a target benefit from other targets, creating significant synergy effects that improve all targets. The neural network construction guided by DBMTL fits in with the general probabilistic model connecting features and multiple targets, taking weaker assumption than the other methods discussed in this paper. This theoretical generality brings about practical generalization power over various targets distributions, including sparse targets and continuous-value ones.

연구 동기 및 목표

• 여러 성능 지표(예: CTR, 체류 시간, 전환율)를 균형 있게 조정해야 하는 전자상거래 추천 시스템에서의 다중목표 최적화 문제를 해결한다.
• 공유되거나 독립적인 목표를 가정하는 기존의 다중작업학습(MTL) 프레임워크의 한계를 극복하며, 인과적 의존성을 모델링한다.
• 이질적인 목표 유형(희귀 및 연속형 값 목표 포함)에 일반화 가능한 통합된 확률적 프레임워크를 개발한다.
• 딥 네럴 네트워크에 인과적 구조 학습을 통합하여 관련성이 높은 목표 간의 상호보완성을 향상시키고 모델 일반화 능력을 강화한다.
• DBMTL의 실세계 타오바오 라이브 스트리밍에서의 효과를 입증하며, 기준 MTL 및 비-MTL 모델을 상회하는 유의미한 향상을 달성한다.

제안 방법

• 목표 사건을 베이지안 네트워크의 노드로 모델링하고, 유도적 관계를 데이터에서 학습한 방향성 간선으로 표현한다.
• 목표 노드의 조건부 확률 분포를 딥 네럴 네트워크 레이어로 매개변수화하여 특징-목표 및 목표-목표 간 의존성의 엔드 투 엔드 학습을 가능하게 한다.
• 최적의 베이지안 네트워크 구조를 결정하기 위해 모델 선택 기법을 사용하며, 자연스러운 인과 방향(예: CTR → 기타 행동)과 높은 엔트로피 목표를 부모로 선호한다.
• 공유된 딥 네럴 네트워크에서 유도된 특징 표현과 목표별 전용 헤드를 통합하여 다중 목표에 대한 공동 최적화를 가능하게 한다.
• 베이지안 네트워크의 조건부 독립성 가정을 존중하는 공동 우도 목표 함수를 사용해 모델을 훈련한다.
• 가중치 공유 및 구조 정규화를 적용하여 특히 희귀 목표의 일반화 능력을 향상시키며, 더 밀도 높은 보조 목표로부터의 정보를 활용한다.

실험 결과

연구 질문

• RQ1 표준 MTL 접근 방식에 비해 다중 추천 목표 간의 명시적 인과 관계를 모델링함으로써 다양한 지표에서 성능 향상이 이루어지는가?
• RQ2 특히 인과 관계 링크의 방향성에 따라 베이지안 네트워크의 구조가 다중목표 학습에서 모델 성능에 어떤 영향을 미치는가?
• RQ3 DBMTL가 이진(예: 클릭, 전환) 및 연속형 값(예: 사용자 체류 시간) 목표를 포함한 다양한 목표 유형에 대해 얼마나 잘 일반화되는가?
• RQ4 인과적 구조 통합이 특히 희귀 또는 엔트로피가 낮은 목표를 최적화할 때 목표 간의 상호보완성 향상에 기여하는가?
• RQ5 제안된 프레임워크는 실세계 온라인 추천 시스템에서 ESMM 및 일반 MTL 모델을 능가하는가?

주요 결과

• 타오바오 라이브 스트리밍에서 두 주간의 A/B 테스트에서 DBMTL는 바닐라 MTL 대비 온라인 CTR에서 4.41% 상대적 향상, CGR에서 3.06%, CFR에서 2.91%, CLR에서 10.23%, CCR에서 5.95%, AST에서 4.99% 향상되었다.
• 자연스러운 인과 구조(CTR → 기타)가 모든 지표에서 최고의 성능을 보였으며, 현실의 인과 순서를 존중함으로써 학습 효율성이 향상됨을 확인했다.
• DBMTL는 CTR-AST(연속형 값) 케이스에서 ESMM을 크게 능가하여 다양한 목표 분포에 대한 일반화 능력을 입증했다.
• 엔트로피가 높은(양성/음성 비율이 균형 잡힌) 목표가 베이지안 네트워크에서 더 나은 부모로 기능함으로써, 고엔트로피 부모 선호 원칙이 검증되었다.
• 희귀 목표(예: CFR)에 대해 더 높은 성과를 기록하며, 더 밀도 높은 비희귀 목표(예: CTR)로부터의 정보를 활용함으로써 보조 신호 통합의 이점이 확인되었다.
• 탄탄한 확률적 공식화에 기반한 유연한 접근 방식 덕분에 DBMTL는 이진, 희귀, 연속형 값 목표를 포함한 다양한 목표 유형에서 뛰어난 성능을 유지하며, 강건한 성능을 보였다.