[論文レビュー] Warm Up Cold-start Advertisements: Improving CTR Predictions via Learning to Learn ID Embeddings

Feiyang Pan, Shuokai Li+3 more|arXiv (Cornell University)|Apr 25, 2019

Recommender Systems and Techniques参考文献 43被引用数 29

ひとこと要約

この論文では、新規広告IDの初期埋め込み表現を高品質に生成するメタラーニング手法、Meta-Embeddingを提案する。冷処理およびウォームアップ段階におけるクリックスルーレート（CTR）予測の精度向上を目的としている。勾配ベースのメタラーニングを用いて、過去に学習済みの広告をもとにパrameter化された埋め込み生成器を訓練することで、実世界のデータセット上で6つの最先端CTRモデルにおいて、ランダムまたはルックアップベースの初期化に比べてより高速な収束と優れた性能を達成する。

ABSTRACT

Click-through rate (CTR) prediction has been one of the most central problems in computational advertising. Lately, embedding techniques that produce low-dimensional representations of ad IDs drastically improve CTR prediction accuracies. However, such learning techniques are data demanding and work poorly on new ads with little logging data, which is known as the cold-start problem. In this paper, we aim to improve CTR predictions during both the cold-start phase and the warm-up phase when a new ad is added to the candidate pool. We propose Meta-Embedding, a meta-learning-based approach that learns to generate desirable initial embeddings for new ad IDs. The proposed method trains an embedding generator for new ad IDs by making use of previously learned ads through gradient-based meta-learning. In other words, our method learns how to learn better embeddings. When a new ad comes, the trained generator initializes the embedding of its ID by feeding its contents and attributes. Next, the generated embedding can speed up the model fitting during the warm-up phase when a few labeled examples are available, compared to the existing initialization methods. Experimental results on three real-world datasets showed that Meta-Embedding can significantly improve both the cold-start and warm-up performances for six existing CTR prediction models, ranging from lightweight models such as Factorization Machines to complicated deep models such as PNN and DeepFM. All of the above apply to conversion rate (CVR) predictions as well.

研究の動機と目的

• 新しい広告が十分な学習データを持たないため、効果的な埋め込み学習が困難になるCTR予測の冷処理問題に対処すること。
• 新規広告の冷処理およびウォームアップ段階の性能を向上させるために、より良い初期埋め込みを学習すること。
• 埋め込みとMLPアーキテクチャを持つ多様な深層学習ベースのCTRモデルに適用可能な汎用的な手法を開発すること。
• リリース後、少数のラベル付き例のみを用いても、新規広告埋め込みの迅速な適応を可能にすること。
• 表現学習とメタラーニングを統合し、オンライン広告システムの性能を向上させること。

提案手法

• 新規広告IDの特徴や属性に基づいて初期埋め込みを生成する埋め込み生成器を学習するメタラーニングフレームワークを提案する。
• 冷処理およびウォームアップシナリオを模倣するために、事前に訓練済みの広告を用いて二段階のシミュレーションを実施する。
• MAMLにインspiredされた勾配ベースのメタラーニングを活用し、生成器が新しい広告タスクに一般化できるように最適化する。
• 冷処理とウォームアップの両方の性能をバランスさせる統一された損失関数を用いて生成器を訓練する。
• 推論時、新規広告の特徴を訓練済みの生成器に投入し、初期埋め込みを生成する。これにより、ランダムまたはルックアップベースの初期化が置き換えられる。
• 既存のCTRモデル（例：FM、PNN、DeepFM）にMeta-Embedding生成器を統合するが、アーキテクチャの変更は不要である。

実験結果

リサーチクエスチョン

• RQ1 メタラーニング手法は、新規広告の冷処理段階におけるCTR予測精度を顕著に向上させることができるか？
• RQ2 提案されたMeta-Embedding手法は、ラベル付きデータが限られたウォームアップ段階でモデルの収束を加速するか？
• RQ3 同じメタ学習済み埋め込み生成器が、埋め込みとMLPコンponentsを持つ多様な深層CTRモデルに一般化可能か？
• RQ4 冷処理およびウォームアップ段階における性能面で、Meta-Embeddingはランダムまたはルックアップベースの初期化と比べて優れているか？
• RQ5 この手法は、同様の改善効果が得られるように、コンversion rate（CVR）予測へと拡張可能か？

主な発見

• Meta-Embeddingは、3つの実世界データセット上で6つの最先端CTRモデルにおいて、冷処理段階でのCTR予測性能を顕著に向上させた。
• この手法はウォームアップ段階でのモデル収束を加速し、ベースラインの初期化手法に比べて少ないラベル付き例でより優れた性能を達成した。
• 実験では、軽量モデル（例：ファクタライゼーションマシン）と深層モデル（例：PNN、DeepFM）の両方で、冷処理およびウォームアップ段階において一貫した改善が確認された。
• 提案手法はランダムおよびルックアップベースの初期化を上回り、新規広告IDに対するメタ学習済み埋め込みの有効性を示した。
• Meta-Embeddingはコンバージョンレート（CVR）予測の性能向上にも寄与し、オンライン広告タスクへの広範な適用可能性を示した。
• この手法は汎用的であり、CTR予測に用いられる既存の深層学習アーキテクチャと互換性があり、モデルの再訓練や構造的変更が不要である。