[논문 리뷰] Deep Learning for Click-Through Rate Estimation

Weinan Zhang, Jiarui Qin외 3명|arXiv (Cornell University)|2021. 04. 21.

Recommender Systems and Techniques참고 문헌 27인용 수 7

한 줄 요약

이 종합 검토는 산업적 추천 시스템에 적용되는 클릭률(CTR) 예측을 위한 딥러닝 모델에 대한 포괄적인 리뷰를 제공한다. 이는 얕은 모델에서 시작하여 딥 아키텍처로의 진화, 명시적 특성 상호작용 학습, 행동 모델링, 자동 아키텍처 탐색까지를 다루며, 딥러닝이 고차원 특성 상호작용을 포착하고 엔드 투 엔드 학습을 가능하게 하여 CTR 예측 성능을 향상시키는 방식을 설명한다. 주요 기여는 모델 설계, 표현 학습, 그리고 산업 규모 응용을 위한 자동화된 신경망 아키텍처 탐색 분야이다.

ABSTRACT

Click-through rate (CTR) estimation plays as a core function module in various personalized online services, including online advertising, recommender systems, and web search etc. From 2015, the success of deep learning started to benefit CTR estimation performance and now deep CTR models have been widely applied in many industrial platforms. In this survey, we provide a comprehensive review of deep learning models for CTR estimation tasks. First, we take a review of the transfer from shallow to deep CTR models and explain why going deep is a necessary trend of development. Second, we concentrate on explicit feature interaction learning modules of deep CTR models. Then, as an important perspective on large platforms with abundant user histories, deep behavior models are discussed. Moreover, the recently emerged automated methods for deep CTR architecture design are presented. Finally, we summarize the survey and discuss the future prospects of this field.

연구 동기 및 목표

• 산업적 응용에서 클릭률(CTR) 예측을 위한 딥러닝 모델에 대한 포괄적인 리뷰를 제공하는 것.
• 얕은 모델에서 딥 아키텍처로의 전이 과정을 분석하고, 더 깊은 모델이 성능 향상에 필수적인 이유를 설명하는 것.
• 딥 CTR 모델에 내장된 명시적 특성 상호작용 학습 모듈을 검토하고, 고차원 특성 패턴을 포착하는 데서의 역할을 분석하는 것.
• 사용자 이력 데이터를 활용하여 보다 나은 CTR 예측을 위한 딥 행동 모델링 기법을 탐색하는 것.
• 딥 CTR 모델의 신경망 아키텍처 탐색을 자동화하는 방법을 조사하여 인간의 설계 노력 감소를 도모하는 것.

제안 방법

• 로지스틱 회귀 및 FM 기반 모델에서 시작하여 명시적 특성 상호작용 레이어를 갖춘 딥 네ural 네트워크로의 CTR 모델 진화를 조사하는 것.
• 다중층 퍼셉트론(MLP), 어텐션 메커니즘, 팩터리제이션 레이어를 사용하여 고차원 특성 상호작용을 모델링하는 딥 CTR 모델을 분석하는 것.
• 사용자 행동의 순차적 패턴을 표현하기 위해 RNN, GRU, 자기어텐션(self-attention) 등의 행동 모델링 기법을 소개하는 것.
• 진화 알고리즘과 미분 가능 탐색을 활용하여 최적의 모델 구조를 탐색하는 AutoCTR 및 AMER와 같은 자동 아키텍처 탐색 방법을 제시하는 것.
• Gumbel-Softmax 기법을 사용하여 특성 상호작용 선택 확률을 미분 가능한 방식으로 학습하는 것.
• 스토캐스틱 그래디언트 변분 베이즈를 활용하여 사용자별 특성 상호작용 선택을 위한 베이지안 생성 모델을 최적화하는 것.

실험 결과

연구 질문

• RQ1 딥러닝 모델은 얕은 모델에서 어떻게 진화하여 CTR 예측 성능을 향상시켰는가?
• RQ2 딥 CTR 모델이 고차원 특성 상호작용을 포착하는 데 핵심이 되는 주요 구성 요소와 메커니즘은 무엇인가?
• RQ3 대규모 시스템에서 CTR 예측 성능 향상을 위해 사용자 행동 시계열을 효과적으로 모델링하는 방법은 무엇인가?
• RQ4 딥 CTR 모델의 아키텍처 설계 과정을 자동화함으로써 얻는 이점과 도전 과제는 무엇인가?
• RQ5 표현 학습 및 다중 모odal 데이터(예: 텍스트, 이미지) 통합 측면에서 딥 CTR 모델링의 열린 이론적·실무적 과제는 무엇인가?

주요 결과

• 딥러닝은 복잡한 특성 상호작용의 엔드 투 엔드 학습을 가능하게 하여 수동 특성 공학에 대한 의존도를 감소시키며 CTR 예측 성능을 크게 향상시켰다.
• FM, FFM 및 그 딥러닝 확장 모델들(예: DeepFM, Wide & Deep)은 학습 가능한 임bedding 상호작용을 통해 이차 및 고차원 특성 상호작용을 효과적으로 포착한다.
• 어텐션 메커니즘과 메모리 네트워크는 사용자 상호작용의 장거리 의존성과 순차적 패턴을 포착함으로써 행동 모델링 성능을 향상시킨다.
• AutoCTR 및 AMER와 같은 자동 아키텍처 탐색 방법은 최소한의 인간 간섭으로 높은 성능을 내는 CTR 아키텍처를 탐색할 수 있어 효율성과 성능 향상을 이룬다.
• 진전이 있었음에도 불구하고, 딥 CTR 모델의 이론적 이해 부족, 순서형 데이터를 위한 표현 학습, 그리고 다중 모달 특성(예: 텍스트, 이미지)의 CTR 예측 통합 문제는 여전히 도전 과제로 남아 있다.
• 모델 설계와 함께 학습 가능한 데이터 처리 전략을 통합하는 것이 CTR 예측 향상에 있어 유망한 미래 방향으로 제시된다.