[논문 리뷰] Bidding via Clustering Ads Intentions: an Efficient Search Engine Marketing System for E-commerce.

Jie Cheng, Da Xu외 3명|arXiv (Cornell University)|2021. 06. 24.

Consumer Market Behavior and Pricing참고 문헌 29인용 수 8

한 줄 요약

이 논문은 Walmart 전자상거래에서 기계적 특성의 희소성 문제를 해결하고 계산 부담을 줄이기 위해 Transformer 기반 임베딩을 활용한 광고 의도 표현의 군집화를 통한 효율적인 검색 광고 마케팅 입찰 시스템을 제안한다. 사용자 검색어와 제품 컨텍스트의 자연어 신호를 활용함으로써, 수십만 개의 일일 입찰을 다루는 확장성 있고 생산 환경에서 실행 가능한 입찰 최적화를 실현하며, 효율성과 성능이 향상된다.

ABSTRACT

With the increasing scale of search engine marketing, designing an efficient bidding system is becoming paramount for the success of e-commerce companies. The critical challenges faced by a modern industrial-level bidding system include: 1. the catalog is enormous, and the relevant bidding features are of high sparsity; 2. the large volume of bidding requests induces significant computation burden to both the offline and online serving. Leveraging extraneous user-item information proves essential to mitigate the sparsity issue, for which we exploit the natural language signals from the users' query and the contextual knowledge from the products. In particular, we extract the vector representations of ads via the Transformer model and leverage their geometric relation to building collaborative bidding predictions via clustering. The two-step procedure also significantly reduces the computation stress of bid evaluation and optimization. In this paper, we introduce the end-to-end structure of the bidding system for search engine marketing for Walmart e-commerce, which successfully handles tens of millions of bids each day. We analyze the online and offline performances of our approach and discuss how we find it as a production-efficient solution.

연구 동기 및 목표

• 기하학적 전자상거래 카탈로그로 인한 입찰 특성의 높은 희소성 문제를 해결하기 위해.
• 대규모 검색 광고 마케팅 시스템에서 입찰 평가 및 최적화의 계산 부담을 줄이기 위해.
• 사용자 검색어와 제품 컨텍스트의 자연어 신호를 활용해 입찰 특성 표현의 품질을 향상시키기 위해.
• 일일 수십만 개의 입찰을 처리할 수 있는 확장성 있고 생산 효율적인 입찰 시스템을 개발하기 위해.
• 정확도를 희생시키지 않고 광고 임베딩의 기하학적 군집화를 통해 공동 입찰 예측을 가능하게 하기 위해.

제안 방법

• 사용자 검색어와 제품 컨텍스트에서 의미적 의도를 포착하기 위해 사전 학습된 Transformer 모델을 사용해 광고의 벡터 표현을 추출한다.
• 광고 임베딩 간의 기하학적 관계를 활용해 군집화를 유도함으로써 유사 광고 간에 공동 입찰 예측이 가능하도록 한다.
• 이중 단계 절차를 적용한다: 오프라인에서 광고 임베딩 군집화 → 클러스터 수준의 패tern 기반 온라인 입찰 평가.
• 개별 광고 특성 계산을 클러스터 수준의 추론으로 대체함으로써 계산 부담을 감소시키고, 서비스 효율성을 향상시킨다.
• 실시간 의사결정을 위한 생산 환경에서의 실시간 작동을 보장하기 위해 군집 기반 모델을 종단 간 입찰 파이프라인에 통합한다.
• 컨텍스트 지식과 사용자 검색어 임베딩을 활용해 대규모 전자상거래 카탈로그에서 발생하는 특성의 희소성 문제를 완화한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 대규모 전자상거래 입찰 시스템에서 특성의 희소성을 줄일 수 있는 광고 의도 표현을 효과적으로 모델링할 수 있는가?
• RQ2 의미적 광고 임베딩의 군집화가 입찰 예측의 효율성과 확장성에 얼마나 기여할 수 있는가?
• RQ3 이중 단계 군집화 및 추론 파이프라인은 실시간 입찰 시스템에서 계산 오버헤드를 크게 줄일 수 있는가?
• RQ4 검색어와 제품 설명에서 유도된 자연어 신호를 활용할 경우, 희소 특성 중심 모델 대비 입찰 성능 향상은 얼마나 이루어지는가?
• RQ5 산업 규모의 검색 광고 마케팅 시스템에서 정확도와 계산 효율성 사이의 상호 트레이드오프는 어떠한가?

주요 결과

• 제안된 시스템은 Walmart 전자상거래 생산 환경에서 일일 수십만 개의 입찰을 성공적으로 처리한다.
• Transformer 기반 광고 임베딩의 군집화가 입찰 평가 및 최적화의 계산 부담을 크게 감소시킨다.
• 검색어와 제품 컨텍스트의 자연어 신호를 활용함으로써 입찰 특성의 높은 희소성 문제를 완화할 수 있다.
• 이중 단계 군집화 및 추론 파이프라인은 정확도를 희생시키지 않고도 확장성 있고 공동 입찰 예측이 가능한 시스템을 가능하게 한다.
• 시스템은 온라인 및 오프라인 성능 모두가 뛰어나, 산업 규모 입찰 시스템에 대한 생산 효율적인 솔루션으로서의 효과성을 입증한다.