[論文レビュー] Modeling the Sequential Dependence among Audience Multi-step Conversions with Multi-task Learning in Targeted Display Advertising

Dongbo Xi, Zhen Chen+5 more|arXiv (Cornell University)|May 18, 2021

Data Stream Mining Techniques参考文献 32被引用数 7

ひとこと要約

本論文は、ターゲットディスプレイ広告におけるマルチステップオーディエンスコンバージョンの順序的依存関係をモデル化するため、段階間での知識共有を動的に制御するアダプティブインフォーメーショントランスファーモジュールを備えた、適応的インフォーメーショントランスファーマルチタスク（AITM）フレームワークを提案する。この手法は、極めて重度のクラス不均衡状況下でも、産業界および公開データセットで最先端の性能を示し、エンドツーエンドのコンバージョン予測を顕著に向上させる。

ABSTRACT

In most real-world large-scale online applications (e.g., e-commerce or finance), customer acquisition is usually a multi-step conversion process of audiences. For example, an impression->click->purchase process is usually performed of audiences for e-commerce platforms. However, it is more difficult to acquire customers in financial advertising (e.g., credit card advertising) than in traditional advertising. On the one hand, the audience multi-step conversion path is longer. On the other hand, the positive feedback is sparser (class imbalance) step by step, and it is difficult to obtain the final positive feedback due to the delayed feedback of activation. Multi-task learning is a typical solution in this direction. While considerable multi-task efforts have been made in this direction, a long-standing challenge is how to explicitly model the long-path sequential dependence among audience multi-step conversions for improving the end-to-end conversion. In this paper, we propose an Adaptive Information Transfer Multi-task (AITM) framework, which models the sequential dependence among audience multi-step conversions via the Adaptive Information Transfer (AIT) module. The AIT module can adaptively learn what and how much information to transfer for different conversion stages. Besides, by combining the Behavioral Expectation Calibrator in the loss function, the AITM framework can yield more accurate end-to-end conversion identification. The proposed framework is deployed in Meituan app, which utilizes it to real-timely show a banner to the audience with a high end-to-end conversion rate for Meituan Co-Branded Credit Cards. Offline experimental results on both industrial and public real-world datasets clearly demonstrate that the proposed framework achieves significantly better performance compared with state-of-the-art baselines.

研究の動機と目的

• 長時間にわたる順序的依存関係を有するマルチステップオーディエンスコンバージョンの課題に取り組むこと、特にフィンテック広告における遅延したかつスパarsなフィードバックを伴う状況を想定する。
• 先行段階からの情報的信号を活用することで、後続のコンバージョン段階（例：アクティベーション）における深刻なクラス不均衡を緩和すること。
• 長く連鎖的なコンバージョンパスを持つ実世界のターゲットディスプレイ広告システムにおいて、エンドツーエンドのコンバージョン予測精度を向上させること。
• タスク固有のフィードバックに基づいて段階間の情報伝達を適応的に制御できる柔軟なマルチタスク学習フレームワークを構築すること。

提案手法

• 先行段階から後続段階への表現伝達に適した、動的でタスク固有の重みを学習するアダプティブインフォーメーショントランスファーモジュール（AIT）を導入する。
• 共有ボトムとタスク固有のタワーを持つマルチタスク学習アーキテクチャを採用し、AITモジュールが段階間での情報伝達量を制御する。
• 論理的制約（以前の段階が失敗した場合、以降の段階も失敗する）を満たすように、損失関数に行動期待値キャリブレーターを組み込む。
• リサイジングスタイルの情報統合メカニズムを採用し、各タスクの入力に元の特徴量に加えて、直前の段階からの伝達情報が含まれる。
• 安定した学習と一般化性能の向上を図るため、補正済みの監視信号を用いたクロスエントロピー損失でモデルをエンドツーエンドに訓練する。
• AITモジュールの表現学習の質を分析するためにt-SNE可視化を実施する。

実験結果

リサーチクエスチョン

• RQ1 マルチタスク学習は、連鎖的制約を伴うオーディエンスのマルチステップコンバージョンにおける長時間の順序的依存関係を効果的にモデル化できるか？
• RQ2 先行コンバージョン段階からの知識は、遅延フィードバックとスパースラベルを有する後続段階の予測をどの程度向上させ得るか？
• RQ3 中間予測の信頼性と信頼度に基づいて、段階間の情報伝達を動的に適応させることは可能か？
• RQ4 アダプティブインフォーメーショントランスファーは、極めて重度のクラス不均衡下でのモデルの頑健性と性能にどのような影響を与えるか？
• RQ5 提案されたフレームワークは、異なる実世界のデータセットおよび産業界での導入シナリオに一般化可能か？

主な発見

• AITMフレームワークは、産業界および公開データセットの両方で最先端のベースラインと比較して顕著に優れたAUC性能を達成し、優れた一般化性能と頑健性を示している。
• オフライン実験では、全5段階のコンバージョン段階で一貫した改善が確認され、特に最後の段階（アクティベーション）で最も顕著な向上が得られた。
• Meituanのコ-brandクレジットカードキャンペーンにおけるオンラインA/Bテストでは、既存のオンラインモデルと比較してエンドツーエンドコンバージョン率が顕著に向上した。
• AITモジュールは、先行段階の予測が不確実な場合により多くの情報を転送するよう適切に学習しており、下流タスクにおける誤分類を低減している。
• 特に埋め込み次元数および正例サンプル比の広い範囲において、ハイパーパramータに対して安定しており、実用的な頑健性が確認された。
• t-SNE可視化により、AITモジュールが特に高信頼度領域で段階間の特徴を整列させることで表現学習の質を向上させていることが確認された。