[論文レビュー] Bidding via Clustering Ads Intentions: an Efficient Search Engine Marketing System for E-commerce.

Jie Cheng, Da Xu+3 more|arXiv (Cornell University)|Jun 24, 2021

Consumer Market Behavior and Pricing参考文献 29被引用数 8

ひとこと要約

この論文は、ウォルマートの電子商取引向けに、特徴量のスパarsityを軽減し、計算負荷を低減するため、トランスフォーマーに基づく埋め込みを用いた広告意図表現のクラスタリングを活用する効率的な検索広告配信最適化システムを提示している。クエリと製品コンテキストからの自然言語信号を活用することで、数千万件の日次バイドをスケーラブルかつ生産環境対応で最適化可能となり、効率性とパフォーマンスが向上した。

ABSTRACT

With the increasing scale of search engine marketing, designing an efficient bidding system is becoming paramount for the success of e-commerce companies. The critical challenges faced by a modern industrial-level bidding system include: 1. the catalog is enormous, and the relevant bidding features are of high sparsity; 2. the large volume of bidding requests induces significant computation burden to both the offline and online serving. Leveraging extraneous user-item information proves essential to mitigate the sparsity issue, for which we exploit the natural language signals from the users' query and the contextual knowledge from the products. In particular, we extract the vector representations of ads via the Transformer model and leverage their geometric relation to building collaborative bidding predictions via clustering. The two-step procedure also significantly reduces the computation stress of bid evaluation and optimization. In this paper, we introduce the end-to-end structure of the bidding system for search engine marketing for Walmart e-commerce, which successfully handles tens of millions of bids each day. We analyze the online and offline performances of our approach and discuss how we find it as a production-efficient solution.

研究の動機と目的

• 膨大な電子商取引カタログに起因するバイド特徴量の高スパarsityに対処する。
• 大規模な検索広告配信システムにおけるバイド評価と最適化の計算負荷を低減する。
• ユーザークエリと製品コンテキストからの自然言語信号を活用し、バイド特徴量表現を改善する。
• 日次数千万件のバイドを処理可能なスケーラブルで生産効率の高いバイドシステムを構築する。
• 正確性を損なわせることなく、広告埋め込みの幾何的クラスタリングを通じて協調的バイド予測を可能にする。

提案手法

• ユーザークエリと製品コンテキストからの意味的意図を捉えるために、事前学習済みトランスフォーマーモデルを用いて広告のベクトル表現を抽出する。
• 広告埋め込み間の幾何的関係を活用してクラスタリングをガイドし、類似広告間で協調的バイド予測を実現する。
• 2段階のプロセスを採用する：オフラインでの広告埋め込みクラスタリングと、クラスターレベルのパターンに基づくオンラインバイド評価。
• 個々の広告の特徴計算をクラスターレベルの推論に置き換えることで計算負荷を低減し、サービング効率を向上させる。
• クラスタリングに基づくモデルをエンドツーエンドのバイドパイプラインに統合し、生産環境でのリアルタイム意思決定を可能にする。
• 文脈的情報とユーザークエリの埋め込みを活用して、大規模な電子商取引カタログにおける特徴量のスパarsityを緩和する。

実験結果

リサーチクエスチョン

• RQ1 大規模な電子商取引バイドシステムにおける特徴量のスパarsityを低減するために、どのように広告意図表現を効果的にモデル化できるか？
• RQ2 意味的広告埋め込みのクラスタリングは、バイド予測の効率性とスケーラビリティをどの程度向上できるか？
• RQ3 2段階のクラスタリングと推論パイプラインは、リアルタイムバイドシステムにおける計算オーバーヘッドを顕著に低減できるか？
• RQ4 クエリと製品記述からの自然言語信号を活用することで、スパース特徴量のみのモデルと比較してバイドパフォーマンスがどの程度向上するか？
• RQ5 産業規模の検索広告配信システムにおいて、モデルの正確性と計算効率のトレードオフはどのようなものか？

主な発見

• 提案されたシステムはウォルマートの電子商取引で生産環境において、日次数千万件のバイドを効果的に処理した。
• トランスフォーマーに基づく広告埋め込みのクラスタリングにより、バイド評価と最適化の計算負荷が顕著に低減された。
• クエリと製品コンテキストからの自然言語信号を活用することで、バイド特徴量の高スパarsity問題が緩和された。
• 2段階のクラスタリングと推論パイプラインにより、正確性を損なわせることなくスケーラブルな協調的バイド予測が可能になった。
• システムはオンラインおよびオフラインの両方で優れたパフォーマンスを示し、産業規模のバイド最適化における生産効率の高いソリューションとしての有効性が裏付けられた。