[論文レビュー] WMRB: Learning to Rank in a Scalable Batch Training Approach

Kuan Liu, Prem Natarajan|arXiv (Cornell University)|Nov 10, 2017

Machine Learning and Algorithms参考文献 2被引用数 4

ひとこと要約

WMRBは、WARPのオンラインサンプリングを置き換えることで、サンプルされたアイテムバッチ全体に対して微分可能でバイアスのないマージンランク推定値を計算するスケーラブルなバッチ学習手法を提案する。これにより、頻繁で並列化された更新と対数変換されたマージンランクを用いたランク感受性損失が可能となり、特に大規模データセットにおいて優れた精度と学習効率を達成する。

ABSTRACT

We propose a new learning to rank algorithm, named Weighted Margin-Rank Batch loss (WMRB), to extend the popular Weighted Approximate-Rank Pairwise loss (WARP). WMRB uses a new rank estimator and an efficient batch training algorithm. The approach allows more accurate item rank approximation and explicit utilization of parallel computation to accelerate training. In three item recommendation tasks, WMRB consistently outperforms WARP and other baselines. Moreover, WMRB shows clear time efficiency advantages as data scale increases.

研究の動機と目的

• WARPが逐次的でオンラインサンプリングに依存しており、高い分散と遅い収束性を示すというスケーラビリティの制限を解消する。
• ミニバッチ処理に適したランク推定と損失計算の再定式化により、効率的で並列化された学習を可能にする。
• 上位ランクのアイテムを優先する微分可能でランク感受性の高い損失関数を導入することで、順序付けの精度を向上させる。
• 新しいランク推定値を用いたバッチベースの学習が、オンラインペairワイズ手法と標準的なバッチベースのベースラインを上回ることを実証する。
• GPU加速されたバッチ計算を活用することで、大規模な推薦タスクにおいてより良い一般化性能と高速な収束性を達成する。

提案手法

• バッチ処理でマージンベースのランク近似を計算するために、$\text{rank}^{\text{wmrb}}_y(f,x,\textbf{y}) = \frac{|\textbf{Y}|}{|\textbf{Z}|} \sum_{y' \in \textbf{Z}} |1 - f_y(x) + f_{y'}(x)|_+ \mathbf{I}(y' \in \bar{\textbf{y}})$ を提案する。ここで $\textbf{Z}$ はランダムに選択されたアイテムのサブセットである。
• WARPの確率的サンプリングを、分散を低減し並列化を可能にする決定的でバッチで計算可能なマージンランク推定値に置き換える。
• 順序付けられた加重平均損失の低ランクに対する感受性を模倣するために、$L^{\text{wmrb}}(x,y) = \log(r_y + 1)$ という微分可能な損失関数を導入する。ここで $r_y$ は推定されたマージンランクである。
• ユーザーとアイテムのバッチのスコアを並列に計算するサンプリングバッチ戦略を用いることで、GPUの効率的利用を可能にする。
• バックプロパゲーションと標準的な最適化手法によるエンドツーエンド学習を可能にするために、ランクの微分可能で連続的な近似を採用する。
• 対数スケーリングにより、低ランクのアイテムに重点を置くように損失を設計し、リストの上位に高精度の推薦を実現する。

実験結果

リサーチクエスチョン

• RQ1 新しいランク推定値を用いたバッチ学習アプローチは、WARPのようなオンライン学習手法よりも順序付けの精度と学習速度で優れるか？
• RQ2 WARPの確率的サンプリングを、決定的でバッチベースのマージンランク推定値に置き換えることで、分散が低減され、ランク推定の精度が向上するか？
• RQ3 提案された微分可能でランク感受性の高い損失関数は、標準的なバッチ損失関数と比較して、トップ-k推薦性能をどの程度向上させるか？
• RQ4 オンラインペアワイズ手法と比較して、バッチベースのWMRB手法の学習効率は、データサイズの増加に伴いどのようにスケーリングするか？
• RQ5 並列計算を活用することで、WMRBは大規模な推薦データセットにおいて、著しく短い学習時間で高い精度を維持できるか？

主な発見

• WMRBは3つのベンチマークデータセット（XING、Yelp、ML-20m）で最先端の性能を達成し、すべての評価指標でWARP、A-WARP、およびバッチベースのCE手法を上回った。
• Recall@30において、XINGではWARPより8.6%、Yelpでは18.6%、ML-20mでは9.8%の向上を示し、一貫した精度向上を確認した。
• 大規模データセットでは学習時間を顕著に短縮した。XING（1210万パラメータ）ではLightFMの3.3倍速く、Yelp（930万パラメータ）では2.5倍速く、1エポックあたりの計算量がやや高いにもかかわらず、効率が向上した。
• シミュレーション（図1）により、WMRBのマージンランク推定値の分散はWARPのオンライン推定値と比べて顕著に低く、特に高ランクのアイテムで顕著であった。
• WMRBの学習時間はデータサイズの増加に伴い、オンライン手法よりもより良好にスケーリングした。XINGでは、LightFMの31.2時間からWMRBでは20.7時間にまで短縮され、明確なスケーラビリティの優位性が示された。
• WMRBの微分可能で対数変換された損失は、低ランクのアイテムに重点を置く効果を発揮し、特にトップ-kの精度が向上した（例：P@5はWARPより0.4～0.5ポイント向上）。