[論文レビュー] Neural Feature Embedding for User Response Prediction in Real-Time Bidding (RTB)

Enno Shioji, Masayuki Arai|arXiv (Cornell University)|Feb 2, 2017

Recommender Systems and Techniques参考文献 18被引用数 4

ひとこと要約

本稿では、ユーザーのWeb閲覧履歴のコンテンツIDの密行列表現をCBOWに類似したモデルで学習することで、リアルタイム入札（RTB）におけるユーザー反応予測の精度を向上させるニューラル特徴埋め込み手法を提案する。この手法は、特徴のスパarsityを軽減することで、データが少ない状況でも予測精度を著しく向上させ、特にSB+DR（スパースバイナリ＋分散表現）が、小規模な学習データセットにおいてベースラインのロジスティック回帰よりも最大4.9%のAUC向上を達成する。

ABSTRACT

In the area of ad-targeting, predicting user responses is essential for many applications such as Real-Time Bidding (RTB). Many of the features available in this domain are sparse categorical features. This presents a challenge especially when the user responses to be predicted are rare, because each feature will only have very few positive examples. Recently, neural embedding techniques such as word2vec which learn distributed representations of words using occurrence statistics in the corpus have been shown to be effective in many Natural Language Processing tasks. In this paper, we use real-world data set to show that a similar technique can be used to learn distributed representations of features from users' web history, and that such representations can be used to improve the accuracy of commonly used models for predicting rare user responses.

研究の動機と目的

• 特にコンversionsのようなレアなユーザー反応を予測する際の、RTBにおける特徴のスパarsity問題に取り組む。
• ロジスティック回帰モデルにおけるワンホットエンコーディングされたスパースなカテゴリカル特徴の限界を克服し、特に稀な特徴に対して一般化性能が低い問題を解決する。
• 自然言語処理（NLP）で効果が証明されたニューラル埋め込み技術が、ユーザーのWeb閲覧履歴を順序付きデータとして扱い、ユーザーの履歴特徴の分散表現を学習するために適応可能かどうかを検討する。
• 従来のモデルと組み合わせた学習済み埋め込みの性能を、特にデータが少ない環境下で評価する。
• 産業規模のRTBシステムにおいて、特徴埋め込みの教師なし事前学習が実用的かつ効果的に導入可能であることを示す。

提案手法

• 自然言語処理（NLP）で用いられる連続的バッグ・オブ・ワーズ（CBOW）モデルを応用し、ユーザーのWeb閲覧シーケンスからコンテンツIDの密行列表現を学習する。
• 観測された共起の尤度を最大化し、ランダムなネガティブペアの尤度を最小化することで、負例サンプリングを用いて効率的なモデル学習を実現する。
• 教師なし学習を保証するため、クリックラベルを除き、400万件の最も古い広告インプレッションインスタンスを用いて埋め込みを学習する。
• 予測の際には、学習済み埋め込みを入力特徴として使用する：単独で使用する（DR）か、ワンホットエンコーディングされた特徴と連結する（SB+DR）形でロジスティック回帰モデルに投入する。
• 各埋め込み次元をその絶対値の最大値でスケーリングすることで、学習の安定化と一般化性能の向上を図る。
• クリック予測タスクにおけるクラス不均衡を処理するため、データをダウンサンプリング（レート0.01）し、全500万件のインスタンス中に110万件の正例を保持する。

実験結果

リサーチクエスチョン

• RQ1 ユーザーのWeb閲覧履歴を順序付きデータとして扱うことで、ニューラルワード埋め込み技術がRTBにおけるユーザー反応予測に効果的に適用可能か？
• RQ2 特にラベル付きデータが限られる状況において、従来のワンホットエンコーディングと比較して、コンテンツIDの学習済み分散表現が予測精度をどの程度向上させるか？
• RQ3 さまざまなデータサイズにおいて、スパースバイナリ＋分散表現の組み合わせ特徴表現の性能が、個々の特徴表現よりも優れているか？
• RQ4 RTBにおけるユーザー反応予測の最適な埋め込み次元数は何か？また、あるサイズを超えると性能が飽和するか？
• RQ5 教師なし事前学習による特徴埋め込みは、エンドツーエンドの再トレーニングを要せず、産業用RTBパイプラインに実用的に導入可能か？

主な発見

• DR（分散表現）モデルは、小規模な学習データセットにおいて、SB（スパースバイナリ）ベースラインを上回り、0.3Kの学習例で4.90%のAUC向上を達成する。
• SB+DRモデルは、全データサイズにおいてSBおよびDR単体を常に上回り、特に0.3Kの学習例で4.33%のAUC向上（相対的改善）を示す。
• 学習データ量が増加するにつれて、埋め込みによる性能向上が薄れる。10万件の例ではDR単体がSBを下回るようになるため、十分なデータがある状況では高次元表現が識別性能を制限することが示唆される。
• AUC性能は埋め込みサイズが16次元まで向上し、以降は増加が止まり、これ以上のサイズではリターンが減少することが示された。
• 大規模なユーザー閲覧履歴からの共起統計を活用することで、ラベル付きの反応データが少ない状況でも、希少特徴に対する一般化が可能になる。
• このアプローチは、ロジスティック回帰のような標準的な産業用モデルと互換性があり、アーキテクチャの大幅な見直しを要せず、リアルタイム入札システムへの容易な導入が可能である。