[論文レビュー] Large-scale Stochastic Optimization of NDCG Surrogates for Deep Learning with Provable Convergence

Zi-Hao Qiu, Quanqi Hu+3 more|arXiv (Cornell University)|Feb 24, 2022

Recommender Systems and Techniques被引用数 4

ひとこと要約

本稿では、勾配降下法を用いた深層学習におけるNDCGおよびtop-K NDCGのための、収束保証付きの最初の確率的最適化アルゴリズムを提案する。NDCG最適化を有限和結合合成問題として定式化し、top-K NDCGを二段階合成問題として定式化することで、1イテレーションあたりの計算量がミニバッチサイズにのみ依存する効率的な確率的アルゴリズムを構築し、収束速度がO(1/ε⁴)に達し、順序付けベンチマークにおいて先行手法を上回る性能を示した。

ABSTRACT

NDCG, namely Normalized Discounted Cumulative Gain, is a widely used ranking metric in information retrieval and machine learning. However, efficient and provable stochastic methods for maximizing NDCG are still lacking, especially for deep models. In this paper, we propose a principled approach to optimize NDCG and its top-$K$ variant. First, we formulate a novel compositional optimization problem for optimizing the NDCG surrogate, and a novel bilevel compositional optimization problem for optimizing the top-$K$ NDCG surrogate. Then, we develop efficient stochastic algorithms with provable convergence guarantees for the non-convex objectives. Different from existing NDCG optimization methods, the per-iteration complexity of our algorithms scales with the mini-batch size instead of the number of total items. To improve the effectiveness for deep learning, we further propose practical strategies by using initial warm-up and stop gradient operator. Experimental results on multiple datasets demonstrate that our methods outperform prior ranking approaches in terms of NDCG. To the best of our knowledge, this is the first time that stochastic algorithms are proposed to optimize NDCG with a provable convergence guarantee. Our proposed methods are implemented in the LibAUC library at https://libauc.org/.

研究の動機と目的

• 深層学習におけるNDCGを最大化するための、効率的で収束保証付きの確率的最適化手法の不足に対処すること。
• 従来のNDCG最適化手法が全アイテム数nに比例して高コストとなる1イテレーションあたりの計算コストを低減すること。
• 標準NDCGおよびtop-K NDCGのための、理論的収束保証付きの整合的確率的最適化フレームワークを構築すること。
• 初期のウォームアップとストップ勾配戦略を用いて、深層学習における実用的効果を向上させること。

提案手法

• NDCGの代理損失最適化を有限和結合合成最適化（FCCO）問題として定式化する。
• O(1/ε⁴)収束速度を達成する、FCCO問題のための新規確率的アルゴリズムを開発し、先行研究のO(1/ε⁵)の境界を改善する。
• top-K NDCGのための二段階合成最適化定式化を提案し、複数の下位レベル選択問題を統合する。
• top-K NDCG最適化における非滑らか選択演算子のためのスムージング技術を導入する。
• 下位レベル問題のミニバッチサンプリング戦略を採用し、1イテレーションあたりの計算量を低減する。
• 実用的戦略を統合：より良い初期化を得るための初期ウォームアップと、top-K NDCG最適化を簡素化するストップ勾配演算子。

実験結果

リサーチクエスチョン

• RQ1 全アイテム数nに依存しない1イテレーションあたりの計算量を持つNDCGの確率的最適化は可能か？
• RQ2 非凸な深層学習設定下で、NDCGの代理損失最適化のための収束保証付き確率的アルゴリズムを開発することは可能か？
• RQ3 非微分可能選択演算子を含むtop-K NDCG最適化問題は、どのように効果的に定式化・解けるか？
• RQ4 どのような実用的戦略が深層学習におけるNDCG最適化の収束性と性能を向上させるか？
• RQ5 提案手法は、既存の最先端順序付けアプローチを上回るNDCG性能を達成できるか？

主な発見

• 提案されたNDCG代理損失最適化の確率的アルゴリズムは、O(1/ε⁴)の収束速度を達成し、先行研究のO(1/ε⁵)を改善した。
• アルゴリズムの1イテレーションあたりの計算量は、全アイテム数nではなくミニバッチサイズBにのみ依存するため、大規模な深層学習応用が可能である。
• top-K NDCGでは、スムージングされた選択演算子を備えた二段階合成定式化により、O(1/ε⁴)収束速度を達成する効率的な確率的最適化が可能になった。
• 初期ウォームアップ戦略は初期解の品質を著しく向上させ、収束が早くなった。
• ストップ勾配演算子はtop-K NDCGの代理損失最適化の簡素化を図り、学習の安定性を向上させた。
• 順序付け学習およびレコメンデーションシステムタスクにおける実験結果から、先行手法を常に上回るNDCG性能が得られた。