[論文レビュー] Beyond Greedy Ranking: Slate Optimization via List-CVAE

Ray Jiang, Sven Gowal+2 more|arXiv (Cornell University)|Mar 5, 2018

Face and Expression Recognition被引用数 16

ひとこと要約

本稿では、ユーザー反応を条件としてアイテムの同時分布をモデル化することで、貪欲な順序付けを回避し、最適なドキュメントスレートを直接生成する条件付き変分オートエンコーダーであるList-CVAEを提案する。シミュレーションおよび実世界のデータにおいて、貪欲法および自己回帰的ベースラインを上回り、最適なスレートが訓練データに存在しない場合でも強力な一般化性能を示す。

ABSTRACT

The conventional solution to the recommendation problem greedily ranks individual document candidates by prediction scores. However, this method fails to optimize the slate as a whole, and hence, often struggles to capture biases caused by the page layout and document interdepedencies. The slate recommendation problem aims to directly find the optimally ordered subset of documents (i.e. slates) that best serve users' interests. Solving this problem is hard due to the combinatorial explosion in all combinations of document candidates and their display positions on the page. Therefore we propose a paradigm shift from the traditional viewpoint of solving a ranking problem to a direct slate generation framework. In this paper, we introduce List Conditional Variational Auto-Encoders (List-CVAE), which learns the joint distribution of documents on the slate conditioned on user responses, and directly generates full slates. Experiments on simulated and real-world data show that List-CVAE outperforms popular comparable ranking methods consistently on various scales of documents corpora.

研究の動機と目的

• スレート推薦における位置的および文脈的バイアスを捉えることが難しい貪欲な順序付けの限界を解消すること。
• 大規模な候補集合における組み合わせ的爆発を回避する、スケーラブルでエンドツーエンドの直接スレート生成フレームワークを構築すること。
• 最適なスレートが訓練データに不足または存在しない場合でも、それらに一般化できること。
• ドキュメントとレイアウト効果の間の相互作用を統合的に学習する、柔軟な条件付き生成モデリングアプローチを提供すること。

提案手法

• モデルは、ユーザー反応ベクトルを条件として、スレート内のドキュメントの同時分布を学習する条件付き変分オートエンコーダー（CVAE）を用いる。
• 全スレートを共有の潜在空間にエンコードすることで、アイテム間の位置的および文脈的依存関係を捉える。
• デコーダーは条件付き分布からのサンプリングによりスレートを生成し、大規模なドキュメントプールにスケーリングするために、負例サンプリングを用いたkヘッドソフトマックス層を採用する。
• 事前学習済みのドキュメント埋め込みを用いることで、効率性と一般化性能を向上させ、200万ドキュメントに対して1つのGPUで4分未満の訓練時間を実現する。
• 推論では、望ましいユーザー反応ベクトルを条件として与えることで、候補のフィルタリングを経ずに高品質なスレートを直接生成する。

実験結果

リサーチクエスチョン

• RQ1 ドキュメント間の相互作用とレイアウトバイアスを同時にモデル化することで、条件付き生成モデルは貪欲な順序付けを上回る性能を示せるか？
• RQ2 最適なスレートが訓練データに存在しないか希少な場合、モデルはどの程度一般化できるか？
• RQ3 大規模な推薦設定において、モデルはドキュメント間の複雑な相互作用と位置的効果をどの程度捉えられるか？
• RQ4 スケーラブルなCVAEベースのフレームワークは、数百万のドキュメントを処理しつつ、高い性能と高速な推論を維持できるか？

主な発見

• List-CVAEは、シミュレーションおよび実世界の両データセットにおいて、貪欲法および自己回帰的ベースラインを一貫して上回り、ほぼ最適なユーザー反応水準に達する。
• 200万ドキュメントのコーパスにおいて、List-CVAEは1スレートあたり平均5件の購入に近い応答を達成し、大規模スケールでの強力な性能を示した。
• 最大応答の40％（h=40%）未満のスレートのみで学習した場合でも、1,000ステップ以内にすべての貪欲ベースラインを上回った。
• 訓練中に近似最適な例に触れることなく、未観測の最適スレートに対しても効果的に一般化し、高品質な推薦を生成できた。
• 負例をダウンサンプリングしたkヘッドソフトマックスの活用により、200万ドキュメントに対して1つのGPUで4分未満で学習および推論が可能となり、高いスケーラビリティを実証した。