[논문 리뷰] Image Matters: Visually modeling user behaviors using Advanced Model Server

Tiezheng Ge, Liqin Zhao외 14명|arXiv (Cornell University)|2017. 11. 17.

Image and Video Quality Assessment참고 문헌 40인용 수 9

한 줄 요약

이 논문은 온라인 광고에서 클릭-through 비율(CTR) 예측을 위한 효율적인 동시 모델링을 가능하게 하는 분산 기계 학습 프레임워크인 고급 모델 서버(AMS)를 제안한다. 사용자 행동 이미지와 ID 특징을 함께 모델링함으로써, 서버 노드에서 고차원 이미지를 저차원 임베딩으로 압축하는 공유된 통합 이미지 기술자(shared, unified image descriptor)를 학습하여 전송 전에 데이터를 압축함으로써 통신 및 저장 부하를 크게 감소시킨다. 이로 인해 확장 가능한 훈련이 가능해진다. 이 방법은 기준 모델 대비 0.0078 GAUC 향상과 온라인 A/B 테스트에서 제품 노출 수 9.2% 증가를 달성하여 타오바오 광고 시스템에서 CTR 예측 정확도 향상과 상업적 영향에 있어 뚜렷한 개선을 보였다.

ABSTRACT

In Taobao, the largest e-commerce platform in China, billions of items are provided and typically displayed with their images. For better user experience and business effectiveness, Click Through Rate (CTR) prediction in online advertising system exploits abundant user historical behaviors to identify whether a user is interested in a candidate ad. Enhancing behavior representations with user behavior images will help understand user's visual preference and improve the accuracy of CTR prediction greatly. So we propose to model user preference jointly with user behavior ID features and behavior images. However, training with user behavior images brings tens to hundreds of images in one sample, giving rise to a great challenge in both communication and computation. To handle these challenges, we propose a novel and efficient distributed machine learning paradigm called Advanced Model Server (AMS). With the well known Parameter Server (PS) framework, each server node handles a separate part of parameters and updates them independently. AMS goes beyond this and is designed to be capable of learning a unified image descriptor model shared by all server nodes which embeds large images into low dimensional high level features before transmitting images to worker nodes. AMS thus dramatically reduces the communication load and enables the arduous joint training process. Based on AMS, the methods of effectively combining the images and ID features are carefully studied, and then we propose a Deep Image CTR Model. Our approach is shown to achieve significant improvements in both online and offline evaluations, and has been deployed in Taobao display advertising system serving the main traffic.

연구 동기 및 목표

• 사용자 행동 ID 특징과 사용자가 상호작용한 아이템의 시각적 콘텐츠를 모두 활용하여 사용자 선호도를 모델링함으로써 온라인 광고에서 CTR 예측을 향상시키는 것.
• 대규모 산업 시스템에서 사용자 샘플당 수백 장의 이미지를 훈련에 활용할 때 발생하는 계산 및 통신 과제를 해결하는 것.
• 이미지 및 ID 특징의 동시 학습을 가능하게 하되, 중복된 계산이나 저장을 피할 수 있는 확장 가능한 분산 훈련 프레임워크를 설계하는 것.
• 서버 노드 간에 공유되는 통합 이미지 기술자 모델을 설계하여 데이터 전송 및 저장 비용을 감소시키는 것.
• 실제 전자상거래 환경에서의 오프라인 평가 및 대규모 온라인 A/B 테스트를 통해 제안된 프레임워크의 효과성을 검증하는 것.

제안 방법

• 모든 서버 노드에서 공유 가능한 학습 가능한 이미지 기술자 모델을 전역적으로 학습할 수 있도록 하는 파라미터 서버(PS) 프레임워크의 확장판인 고급 모델 서버(AMS)를 제안한다.
• 원시 이미지를 전송하기 전에 저차원의 고차원 의미적 특징으로 변환하는 서버 측 이미지 기술자 모델을 도입한다.
• CTR 모델을 워커 모델(특징 집계 및 예측용)과 서버 모델(이미지 특징 학습 및 전역 파라미터 업데이트용)으로 분해한다.
• 원시 이미지 데이터를 서버 간에 전역 공유 특징으로 분산 배포함으로써, 기존의 샘플 내 저장 방식 대비 약 31배의 샘플 내 저장량 감소를 달성한다.
• 다수의 사용자 행동에서 유도된 시각적 표현을 통합된 사용자 임베딩으로 집계하기 위해 다중 쿼리 주의 풀링 메커니즘을 활용한다.
• ID 임베딩 파라미터의 과적합을 방지하기 위해 부분적 웜업 전략을 사용하여 일반화 능력과 모델 안정성을 향상시킨다.

실험 결과

연구 질문

• RQ1 사용자 행동 이미지와 함께 ID 특징을 모델링할 경우, 대규모 온라인 광고 시스템에서 CTR 예측 성능이 뚜렷이 향상되는가?
• RQ2 분산 훈련 시스템은 사용자 샘플당 수백 장의 이미지를 처리할 때 발생하는 통신 및 계산 부담을 어떻게 효율적으로 처리할 수 있는가?
• RQ3 공유된 전역 이미지 기술자 모델은 모델 성능과 시스템 확장성에 어떤 영향을 미치는가?
• RQ4 실제 운영 환경에서 시각적 특징과 ID 특징의 통합은 모델의 일반화 능력과 강건성에 어떤 영향을 미치는가?
• RQ5 제안된 프레임워크는 CTR 예측을 넘어서, 추천 시스템의 사전 랭킹 단계 등에 효과적으로 적용될 수 있는가?

주요 결과

• 오프라인 평가에서 이미지 특징을 포함한 제안된 DICM 모델은 기준 모델 대비 0.0078 GAUC 향상과 0.0055 AUC 향상을 달성하여 뚜렷한 성능 향상을 입증했다.
• 온라인 A/B 테스트 결과, DICM은 평균적으로 CTR을 9.2% 향상시키고, eCPM은 5.7%, GPM은 5.9% 향상시켰으며, 일주일 동안 일관된 성과 향상을 보였다.
• 이미지를 각 샘플에 복제 저장하는 대신 서버에 전역 공유 특징으로 저장함으로써 저장 사용량을 약 31배 감소시켰다.
• 부분적 웜업 전략이 가장 뛰어난 성능을 보였으며, 전면 웜업 전략은 과적합을 유발하고 결과가 악화되어, 훈련 스케줄 설계의 중요성을 입증했다.
• 프레임워크는 일반화 능력이 뛰어나, 사전 랭킹 단계에서 0.0060 GAUC 향상과 0.0041 AUC 향상을 달성하여 다른 CTR 예측 작업에 넓은 적용 가능성을 보였다.
• DICM은 타오바오의 실전 디스플레이 광고 시스템에 성공적으로 도입되어 5억 명이 넘는 사용자와 수백만 명의 광고주에게 서비스하며 명백한 상업적 영향을 미쳤다.