[論文レビュー] Entire Space Multi-Task Modeling via Post-Click Behavior Decomposition for Conversion Rate Prediction

Hong Wen, Jing Zhang+5 more|arXiv (Cornell University)|Oct 15, 2019

Recommender Systems and Techniques参考文献 39被引用数 9

ひとこと要約

本稿では、クリック後のユーザ行動を決定的（DAction）およびその他の（OAction）行動に分解することで、コンversion rate（CVR）予測を向上させる新しい深層学習モデル ESM² を提案する。全体空間における多タスク学習フレームワーク内でこれらの行動を教師信号としてモデル化することにより、Sample Selection Bias と Data Sparsity を効果的に軽減し、オффラインおよびオンラインのベンチマークで最先端の性能を達成した。

ABSTRACT

Recommender system, as an essential part of modern e-commerce, consists of two fundamental modules, namely Click-Through Rate (CTR) and Conversion Rate (CVR) prediction. While CVR has a direct impact on the purchasing volume, its prediction is well-known challenging due to the Sample Selection Bias (SSB) and Data Sparsity (DS) issues. Although existing methods, typically built on the user sequential behavior path ``impression$ o$click$ o$purchase'', is effective for dealing with SSB issue, they still struggle to address the DS issue due to rare purchase training samples. Observing that users always take several purchase-related actions after clicking, we propose a novel idea of post-click behavior decomposition. Specifically, disjoint purchase-related Deterministic Action (DAction) and Other Action (OAction) are inserted between click and purchase in parallel, forming a novel user sequential behavior graph ``impression$ o$click$ o$D(O)Action$ o$purchase''. Defining model on this graph enables to leverage all the impression samples over the entire space and extra abundant supervised signals from D(O)Action, which will effectively address the SSB and DS issues together. To this end, we devise a novel deep recommendation model named Elaborated Entire Space Supervised Multi-task Model ($ESM^{2}$). According to the conditional probability rule defined on the graph, it employs multi-task learning to predict some decomposed sub-targets in parallel and compose them sequentially to formulate the final CVR. Extensive experiments on both offline and online environments demonstrate the superiority of $ESM^{2}$ over state-of-the-art models. The source code and dataset will be released.

研究の動機と目的

• 電子商取引レコメンデーションシステムにおけるコンversion rate（CVR）予測における、Sample Selection Bias（SSB）とData Sparsity（DS）の二重の課題に対処する。
• 購入に至るパスが 'インプレッション → クリック → 購入' のみに依存する既存のモデルの限界を克服する。このようなモデルは、購入ラベルが付与されたサンプルが不足している。
• カートへの追加やウォッチリストへの保存といった豊富なクリック後の行動を、決定的でラベル付きの信号として活用し、教師信号を強化する。
• 分解されたユーザ行動グラフから導出される部分タスクを組み合わせることで、すべてのインプレッションサンプルに一般化可能な統一モデルを構築し、CVRを予測する。
• 全体空間における多タスク学習フレームワークを採用し、より豊かな順序付き教師信号を統合することで、特に高頻度のクリック後行動を示すユーザに対して、モデルの一般化性能と性能を向上させる。

提案手法

• 新しいユーザ行動グラフを提案：'インプレッション → クリック → D(O)Action → 購入'。ここで DAction と OAction は互いに排他的で、購入に関連する行動である。
• グラフの部分パスに条件付き確率のルールを定義し、CVR を4つの潜在確率変数（投稿後CTR、CTCVRR、DAction転換率、OAction転換率）に分解する。
• 共有された特徴表現を用いた多タスク学習により、4つの部分タスクを同時に予測する深層ニューラルネットワーク ESM² を設計する。
• 特徴の精度を保ち、表現を向上させるために、ワンホット離散化ではなく正規化ベースの埋め込みを連続的数値特徴に適用する。
• すべてのインプレッションサンプルでモデルを学習することで、全体空間における教師信号を実現し、クリック済みサンプルに依存しないため、SSB を低減する。
• 部分タスクの確率の積として最終的なCVR推定値を構成することで、条件付き確率分解の整合性を保証する。

実験結果

リサーチクエスチョン

• RQ1 カートへの追加やウォッチリストへの保存といったクリック後行動が、CVR予測の向上に寄与する決定的でラベル付きの信号として活用可能かどうか。
• RQ2 クリック後フェーズを複数の行動タイプに分解することで、データスパarsity を軽減し、低データ環境下でのモデル一般化性能を向上させられるか。
• RQ3 これらの分解済み行動を含む全体空間における多タスク学習フレームワークは、ESMM などの既存モデルに比べ、オフラインおよびオンライン設定で優れた性能を示せるか。
• RQ4 クリック後行動頻度が異なるユーザセグメント、特に高頻度行動を示すユーザに対して、モデルの性能はどのように変化するか。
• RQ5 最適な埋め込み構成と行動選択の組み合わせは何か。性能を最大化するにはどの数値特徴の埋め込み設定とどのクリック後行動を選択すべきか。

主な発見

• DAction として 'カートに追加' と 'ウォッチリストに追加' の両方を組み合わせた場合、ESM² は CVR AUC 0.8486 を達成し、単一行動バージョンやベースラインモデルを上回った。
• 購入行動がより顕著なユーザグループでは、ESMM に対する相対的利得が増加し、それぞれ 0.72%、0.81%、1.13%、1.30% のCVR AUC向上を示した。
• Tanh活性化関数を用いた正規化された数値特徴を用いることで、ワンホット離散化に比べてAUCが 0.004 向上し、特徴表現の質の向上が裏付けられた。
• 埋め込み次元を 128 に引き上げると性能が向上し、それ以上に増加させても変化が見られなかったため、この容量で飽和していることが示された。
• モデルはすべてのインプレッションサンプルにわたって強い一般化性能を維持しており、全空間での学習により Sample Selection Bias を効果的に軽減した。
• オンライン A/B テストにより、ESM² がコンversion rate やビジネス指標を顕著に向上させることを確認し、実世界での有効性が裏付けられた。