[論文レビュー] PiRank: Scalable Learning To Rank via Differentiable Sorting

Robin M. E. Swezey, Aditya Grover+2 more|arXiv (Cornell University)|Dec 12, 2020

Domain Adaptation and Few-Shot Learning被引用数 8

ひとこと要約

PiRankは、NeuralSortを用いてソーティング演算子の微分可能で温度制御可能な緩和を導入し、ラーニング・トゥ・ランク（LTR）のためのサーヴィレート損失関数を構築することで、勾配ベース最適化によるエンドツーエンド学習を可能にする。零温度極限においては、標準的なランク付け指標（例：NDCG）を正確に再現し、分割統治戦略に基づくマージソートに類似したアプローチにより、大規模なリストサイズに対しても効率的にスケーリング可能であり、MSLR-WEB30K や Yahoo! C14 といった産業スケールのベンチマークで先行手法を上回る性能を示す。

ABSTRACT

A key challenge with machine learning approaches for ranking is the gap between the performance metrics of interest and the surrogate loss functions that can be optimized with gradient-based methods. This gap arises because ranking metrics typically involve a sorting operation which is not differentiable w.r.t. the model parameters. Prior works have proposed surrogates that are loosely related to ranking metrics or simple smoothed versions thereof, and often fail to scale to real-world applications. We propose PiRank, a new class of differentiable surrogates for ranking, which employ a continuous, temperature-controlled relaxation to the sorting operator based on NeuralSort [1]. We show that PiRank exactly recovers the desired metrics in the limit of zero temperature and further propose a divide and-conquer extension that scales favorably to large list sizes, both in theory and practice. Empirically, we demonstrate the role of larger list sizes during training and show that PiRank significantly improves over comparable approaches on publicly available internet-scale learning-to-rank benchmarks.

研究の動機と目的

• NDCG や ARP のようなランク付け指標の微分不能性が、ラーニング・トゥ・ランク（LTR）モデルにおける勾配ベース最適化を妨える問題に対処すること。
• 実際のランク付け指標に非常に近いが、効率的な学習が可能な微分可能なサーヴィレート損失関数を構築すること。
• 産業応用で一般的な大規模なリストサイズに対応する LTR 学習のスケーラビリティを向上させること、従来手法では計算複雑性のため失敗する場合がある。
• 訓練時のリストサイズが、さまざまなテストリストサイズでのモデル一般化性能に与える影響を調査すること。
• 大規模なリストサイズでも、下流の指標に高い忠実度を保ちながら、スケーラブルで微分可能なフレームワークを提供すること。

提案手法

• PiRankは、NeuralSortに基づく連続的で温度制御可能なソーティング演算子の緩和を用い、微分可能なランク付け最適化を実現する。
• この手法は、零温度極限において、目的のランク付け指標（例：NDCG）に正確に収束するサーヴィレート損失を構築する。
• 分割統治戦略により、再帰的に部分リストに緩和を適用し、上位k個のアイテムのみを伝搬することで、計算複雑性を低減する。
• 時間計算量は深さdに対してO(L^{1+1/d})を達成し、大規模なリストサイズLに対して効率的なスケーリングを可能にする。
• TensorFlowに実装され、TensorFlow Rankingと統合されており、大規模データセットにおけるエンドツーエンド学習をサポートする。
• 訓練中に勾配の分散と最適化の安定性のバランスを取るために、温度の段階的低下（annealing）が用いられる。

実験結果

リサーチクエスチョン

• RQ1 零温度極限において、標準的なランク付け指標（例：NDCG）を正確に再現する微分可能なサーヴィレート損失をどのように構築できるか？
• RQ2 より大きなテストリストで評価する場合、訓練時のリストサイズがモデル性能に与える影響は何か？
• RQ3 微分可能なソーティング緩和を、非常に大きなリストサイズ（例：L > 100）に効率的にスケーリングできるか？ その際、指標の忠実度を損なわないか？
• RQ4 複数のランク付け指標とベンチマークにおいて、PiRankは既存のLTR手法と比較してどのように性能を発揮するか？
• RQ5 分割統治による緩和戦略は、大規模なリストに対して計算コストを顕著に削減しながらも、性能を維持できるか？

主な発見

• PiRankは、MSLR-WEB30K および Yahoo! C14 ベンチマークにおいて、16のランク付け指標およびその変種のうち9つで、NDCG@k、MRR、OPA、ARP を含め、すべてのベースラインを上回る。
• 訓練時のリストサイズ（L_train）が大きいほど、より大きなテストリスト（L_test）での性能が向上し、特にL_test ≫ k の場合に顕著な向上が見られた。
• L_train = 100 で学習した場合、L_train = 10 と比較して、NDCG@k で10–15％の相対的改善が得られ、特に大規模なL_testに対して顕著であった。
• 分割統治戦略により、訓練時間はO(L^2)からO(L^{1+1/d})に削減され、d=3の場合、L_train = 15^3（3375アイテム）にまでスケーリング可能であり、時間はわずか3倍増加にとどまる。
• PiRankの勾配推定値は、真の指標値をよく追従しており、温度が低下するに従い、1−ℓ_PiRank-NDCG@k が実際のNDCG@k に非常に近づく。
• 多様な指標において高い性能を維持しており、MRRはL_trainが大きくなるにつれて単調に向上する一方、OPA や ARP はより洗練された改善が見られた。