[論文レビュー] Personalized Re-ranking for Recommendation

Changhua Pei, Yi Zhang+7 more|arXiv (Cornell University)|Apr 15, 2019

Recommender Systems and Techniques参考文献 44被引用数 11

ひとこと要約

本論文は、Transformerベースのアーキテクチャを活用して、推薦リスト内のアイテム同士の相互作用を明示的にモデル化するパーソナライズド・リランクモデル（PRM）を提案する。ユーザー固有の好みをパーソナライズド埋め込みを通じて組み込むことで、ランク品質を向上させる。この手法はオンライン指標において顕著な改善を示し、GMVが6.29%絶対的に増加し、クリックスルーレートがSOTAベースライン比で0.69%上昇した。

ABSTRACT

Ranking is a core task in recommender systems, which aims at providing an ordered list of items to users. Typically, a ranking function is learned from the labeled dataset to optimize the global performance, which produces a ranking score for each individual item. However, it may be sub-optimal because the scoring function applies to each item individually and does not explicitly consider the mutual influence between items, as well as the differences of users' preferences or intents. Therefore, we propose a personalized re-ranking model for recommender systems. The proposed re-ranking model can be easily deployed as a follow-up modular after any ranking algorithm, by directly using the existing ranking feature vectors. It directly optimizes the whole recommendation list by employing a transformer structure to efficiently encode the information of all items in the list. Specifically, the Transformer applies a self-attention mechanism that directly models the global relationships between any pair of items in the whole list. We confirm that the performance can be further improved by introducing pre-trained embedding to learn personalized encoding functions for different users. Experimental results on both offline benchmarks and real-world online e-commerce systems demonstrate the significant improvements of the proposed re-ranking model.

研究の動機と目的

• 既存のランク付けモデルが推薦リスト内のアイテムを個別に扱い、アイテム間の相互影響を無視するという限界を是正する。
• 価格感受性や多様性のニーズといった、ユーザーの好みや意図の違いを反映するため、リランク処理にパーソナライゼーションを導入する。
• 既存の特徴ベクトルのみを用いて、ベースとなるランク付けモデルの再トレーニングなしに、プラグインとして導入可能な効率的でスケーラブルなリランクフレームワークを開発する。
• 自己注意機構が、RNNベースのアプローチが長距離にわたって勾配消失を起こすのとは異なり、符号化距離に依存しない長距離のアイテム相互作用をモデル化できることを実証する。
• 将来的な研究を支援するため、大規模な実世界のECリランクデータセットを公開する。

提案手法

• すべてのアイテム間のグローバルかつ双方向の相互作用をモデル化するために、自己注意を備えたTransformerエンコーダーを採用し、位置に依存しない依存関係を捉える。
• ユーザー固有の埋め込みを入力表現に統合して、注目機構をパーソナライズ化し、個々のユーザーの好みや意図に適応できるようにする。
• 事前学習済みのユーザー埋め込みを用いることで、多様なユーザー行動の表現品質を向上させ、アイテム相互作用のモデル化を強化する。
• ラベル付きのクリックスルーデータに基づくリストワイズランク損失を用いて、NDCG や MAP といったトップ-k性能指標を最適化する形で、エンドツーエンドでモデルを訓練する。
• リスト内の位置バイアスの情報を保持するため、位置埋め込みを適用し、モデルがアイテムの順序がユーザー行動に与える本質的影響を考慮できるようにする。
• 任意のベースランクモデルの後にモジュラーなリランクレイヤーとしてモデルをデプロイし、ベースモデルの再トレーニングなしに、元の特徴ベクトルのみを用いる。

実験結果

リサーチクエスチョン

• RQ1 Transformerベースのリランクモデルは、長距離にわたるシーケンスで勾配消失を起こすRNNベースの手法とは対照的に、推薦リスト内のグローバルなアイテム同士の相互作用を効果的に捉えられるか？
• RQ2 リランク処理にユーザー固有のパーソナライゼーションを組み込むことで、多様なユーザーの好みや意図を反映してランク付け性能が顕著に向上するか？
• RQ3 ユーザー埋め込みの事前学習が、微細なアイテム相互作用を捉える能力を向上させ、下流のランク付け指標を改善するのにどの程度寄与するか？
• RQ4 提案されたリランクモデルは大規模なオンラインシステムに効果的にデプロイ可能であり、CTR や GMV といった主要ビジネス指標に測定可能な改善をもたらすか？
• RQ5 モデルが学習した注意重みは、カテゴリーや価格といったアイテム属性や位置効果に関連する意味的で解釈可能なパターンを反映しているか？

主な発見

• PRM-Personalized-Pretrainモデルは、オフラインECリランクデータセットにおいて、PRM-BASEモデル比でMAPが4.5%絶対的に向上した。
• オンラインA/Bテストでは、ベースのDNNベースLRTモデルと比較して、PRM-Personalized-PretrainモデルがGMVを6.29%絶対的に増加させ、顕著なビジネスインパクトを示した。
• SOTAのDLCMリランク手法と比較して、クリックスルーレートが0.69%絶対的に向上し、閲覧アイテム数も0.50%絶対的に増加した。
• 注意重みの可視化により、同様のカテゴリーまたは価格帯のアイテム同士が高めの注目度を示すことが確認され、属性ベースの相互作用が効果的にモデル化されていることが裏付けられた。
• 自己注意機構は位置バイアスを効果的に捉えており、上位にランクされたアイテムが長距離にわたっても下位のアイテムに強い影響を与える傾向を示しており、リスト全体のダイナミクスをモデル化できる能力が裏付けられた。
• アブレーションスタディの結果、位置埋め込みを削除すると注意重みが均一化される傾向が示され、位置バイアスが適切にモデル化されていることが確認された。