[论文解读] WMRB: Learning to Rank in a Scalable Batch Training Approach

Kuan Liu, Prem Natarajan|arXiv (Cornell University)|Nov 10, 2017

Machine Learning and Algorithms参考文献 2被引用 4

一句话总结

WMRB 提出了一种可扩展的批量训练方法，用于学习排序，通过用基于采样子批次的可微分、无偏边际排序估计器替代 WARP 的在线采样方式。该方法通过实现频繁的并行更新和基于对数变换的边际排序的排序敏感损失，显著提升了大规模数据集上的准确率和训练效率。

ABSTRACT

We propose a new learning to rank algorithm, named Weighted Margin-Rank Batch loss (WMRB), to extend the popular Weighted Approximate-Rank Pairwise loss (WARP). WMRB uses a new rank estimator and an efficient batch training algorithm. The approach allows more accurate item rank approximation and explicit utilization of parallel computation to accelerate training. In three item recommendation tasks, WMRB consistently outperforms WARP and other baselines. Moreover, WMRB shows clear time efficiency advantages as data scale increases.

研究动机与目标

• 解决 WARP 的可扩展性局限问题，后者依赖于顺序的在线采样，存在高方差和收敛缓慢的问题。
• 通过重新设计用于小批量处理的排序估计和损失计算，实现高效、并行化的训练。
• 通过引入一种可微分、对排序敏感的损失函数，优先考虑高排名项目，从而提升排序准确率。
• 证明基于批次的学习方法结合新型排序估计器，在准确率和训练效率方面优于在线成对方法和标准批量基线方法。
• 通过利用 GPU 加速的批量计算，在大规模推荐任务中实现更好的泛化能力和更快的收敛速度。

提出的方法

• 提出一种新型排序估计器，$\text{rank}^{\text{wmrb}}_y(f,x,\textbf{y}) = \frac{|\textbf{Y}|}{|\textbf{Z}|} \sum_{y' \in \textbf{Z}} |1 - f_y(x) + f_{y'}(x)|_+ \mathbf{I}(y' \in \bar{\textbf{y}})$，其中 $\textbf{Z}$ 是项目的一个随机子集，用于在批量中计算基于边际的排序近似值。
• 用一种确定性、可批量计算的边际排序估计器替代 WARP 的随机采样，以降低方差并支持并行化。
• 引入一种可微分损失函数 $L^{\text{wmrb}}(x,y) = \log(r_y + 1)$，其中 $r_y$ 是估计的边际排序，以模拟有序加权平均损失对低排序的敏感性。
• 采用采样子批量策略，实现用户和一批项目模型得分的并行计算，从而高效利用 GPU。
• 采用可微分的连续排序近似，以支持反向传播和使用标准优化方法的端到端训练。
• 设计损失函数使其对小排序更敏感（通过对数缩放），从而优先考虑列表顶部的高精度推荐。

实验结果

研究问题

• RQ1 基于批次的训练方法结合新型排序估计器，是否能在排序准确率和训练速度方面优于 WARP 等在线学习方法？
• RQ2 将 WARP 的随机采样替换为确定性、基于批次的边际排序估计器，是否能降低方差并提高排序估计的准确性？
• RQ3 所提出的可微分、对排序敏感的损失函数，在与标准批量损失相比时，对 top-k 推荐性能的提升程度如何？
• RQ4 与在线成对方法相比，基于批次的 WMRB 方法在数据规模增加时，其训练效率如何变化？
• RQ5 WMRB 是否能通过并行计算在大规模推荐数据集上显著缩短训练时间的同时保持高准确率？

主要发现

• WMRB 在三个基准数据集（XING、Yelp、ML-20m）上达到最先进性能，所有评估指标均优于 WARP、A-WARP 和基于批次的 CE 方法。
• 在 Recall@30 指标上，WMRB 在 XING 上比 WARP 提升 8.6%，在 Yelp 上提升 18.6%，在 ML-20m 上提升 9.8%，显示出一致的准确率优势。
• WMRB 显著减少了大规模数据集上的训练时间：在 XING 上（1210 万参数）比 LightFM 快 3.3 倍，在 Yelp 上（930 万参数）快 2.5 倍，尽管每轮计算量更高。
• WMRB 的边际排序估计器方差显著低于 WARP 的在线估计器，尤其在高排名项目上，模拟结果（图 1）已证实这一点。
• WMRB 的训练时间随数据规模增长的扩展性优于在线方法——在 XING 上，总训练时间从 LightFM 的 31.2 小时减少至 20.7 小时，显示出明显的可扩展性优势。
• WMRB 中的可微分对数变换损失能有效优先考虑低排序项目，从而提升 top-k 位置的精度（例如，P@5 比 WARP 提升 0.4–0.5 个百分点）。