[論文レビュー] End-to-End User Behavior Retrieval in Click-Through RatePrediction Model

Qiwei Chen, Changhua Pei+4 more|arXiv (Cornell University)|Aug 10, 2021

Recommender Systems and Techniques参考文献 39被引用数 16

ひとこと要約

本稿では、クリックスルーレート（CTR）予測における長期的ユーザー行動シーケンスのエンドツーエンドリトリーブを目的とした新規手法ETA（End-to-end Target Attention）を提案する。SimHashに基づく局所性に敏感なハッシュを活用することで、リアルタイムかつ低コストなリトリーブを実現し、2段階モデルの情報ギャップおよびトレーニングと推論の乖離を解消した。最先端のモデルと比較して、オンラインA/BテストでGMVが3.1%向上した。

ABSTRACT

Click-Through Rate (CTR) prediction is one of the core tasks in recommender systems (RS). It predicts a personalized click probability for each user-item pair. Recently, researchers have found that the performance of CTR model can be improved greatly by taking user behavior sequence into consideration, especially long-term user behavior sequence. The report on an e-commerce website shows that 23\% of users have more than 1000 clicks during the past 5 months. Though there are numerous works focus on modeling sequential user behaviors, few works can handle long-term user behavior sequence due to the strict inference time constraint in real world system. Two-stage methods are proposed to push the limit for better performance. At the first stage, an auxiliary task is designed to retrieve the top-$k$ similar items from long-term user behavior sequence. At the second stage, the classical attention mechanism is conducted between the candidate item and $k$ items selected in the first stage. However, information gap happens between retrieval stage and the main CTR task. This goal divergence can greatly diminishing the performance gain of long-term user sequence. In this paper, inspired by Reformer, we propose a locality-sensitive hashing (LSH) method called ETA (End-to-end Target Attention) which can greatly reduce the training and inference cost and make the end-to-end training with long-term user behavior sequence possible. Both offline and online experiments confirm the effectiveness of our model. We deploy ETA into a large-scale real world E-commerce system and achieve extra 3.1\% improvements on GMV (Gross Merchandise Value) compared to a two-stage long user sequence CTR model.

研究の動機と目的

• 長期間のユーザー行動シーケンスを用いる2段階CTRモデルにおける情報ギャップおよびモデルの乖離が引き起こす性能劣化を是正すること。
• 長期的行動シーケンスモデリングのためのエンドツーエンドのトレーニングと推論を可能にし、オフライン補助リトリーブモデルの必要性を排除すること。
• SimHashに基づく局所性に敏感なハッシュを用いることで、top-kリトリーブの計算コストをO(L×B×d)からO(L×B)に低減すること。
• 大規模なレコメンデーションシステムにおける厳密なオンラインサービスレベルアグリーメント（SLA）を満たしつつ、高い予測精度を維持すること。
• 実世界のEC環境におけるオフラインおよびオンライン評価を通じて、エンドツーエンドリトリーブの有効性を実証すること。

提案手法

• 長期間のユーザー行動シーケンスのリトリーブを主なトレーニングおよび推論パイプラインに直接統合したエンドツーエンドCTRモデルETAを提案する。
• 各アイテム埋め込みに対して固定長のフィンガープrint（指紋）を生成するためのSimHashを用い、効率的なハミング距離ベースの類似度検索を可能にする。
• 高コストなドット積やL2ベースのリトリーブを、O(L×B)のハミング距離計算に置き換え、リトリーブの複雑さを顕著に低減する。
• ユーザーの長期的行動シーケンスから上位k件のアイテムを抽出し、それらをターゲットアテンション機構に統合することで、動的ユーザー関心モデリングを実現する。
• 微分可能リトリーブ機構を採用し、リトリーブの目的関数と主なCTR予測タスクを整合させることで、ターゲットの乖離を解消する。
• トレーニング時およびサービング時におけるリアルタイムリトリーブをサポートし、古くなったオフラインインバーテッドインデックスの必要性を排除する。

実験結果

リサーチクエスチョン

• RQ1 2段階手法と比較して、長期的ユーザー行動シーケンスのエンドツーエンドリトリーブはCTR予測性能の向上をもたらすか？
• RQ2 生産規模のシステムでリアルタイムかつオンラインリトリーブを実現するには、リトリーブの複雑さをどのように低減できるか？
• RQ3 リトリーブとCTR予測の間の情報ギャップを解消することで、モデル性能に測定可能な向上が得られるか？
• RQ4 シーケンス長やフィンガープrintビット長を変化させた場合、リトリーブ精度、推論遅延、モデル性能の間にはどのようなトレードオフが生じるか？
• RQ5 計算コストを著しく低減できるにもかかわらず、SimHashベースのリトリーブは従来の内積ベースのリトリーブと同等またはそれ以上の性能を達成できるか？

主な発見

• ETAは、最先端の2段階モデルと比較して、オンラインA/BテストでGMVが3.1%向上した。
• ベースラインETAモデル（v0）は19msの推論時間でAUC 0.7361を達成し、ベースラインavg(1024)モデル（AUC 0.7311、14ms）を上回り、全シーケンスアテンション（v4）と比較して推論コストを46%削減した。
• SimHashを内積リトリーブに置き換えた（v3）場合、AUCは0.07%向上したが、推論時間が68%増加し、オンラインSLA制約を満たせなかった。
• SimHashフィンガープリントのビット長を延ばすことでAUCは向上するが、埋め込み次元の2倍を超えると利得は徐々に小さくなる。
• ユーザー行動シーケンス長の変動に対しても、モデルは強固な性能を維持し、v2.3（2048長シーケンス）ではAUC 0.7394、推論時間23msを達成した。
• ETAは、リトリーブとCTR目的関数の完全な整合性を保つエンドツーエンドトレーニングを可能にし、2段階モデルの古くなった埋め込みおよび乖離したターゲット問題を解消した。