[論文レビュー] Adaptive Subgradient Methods for Online AUC Maximization

Yi Ding, Peilin Zhao+2 more|arXiv (Cornell University)|Feb 1, 2016

Smart Grid Energy Management参考文献 32被引用数 4

ひとこと要約

本稿では、歴史的勾配情報を利用することで学習効率を向上させ、レグレットを低減する、オンラインAUC最大化のための適応的勾配手法AdaOAMを提案する。本手法は、スパースな高次元データ向けに、適応的プロキシマル更新を用いるSAdaOAMに拡張され、多様な実世界データセットにおいて、最先端のAUC性能を達成するとともに、計算コストを低く抑え、ハイパーパramータへの感受性も軽減する。

ABSTRACT

Learning for maximizing AUC performance is an important research problem in Machine Learning and Artificial Intelligence. Unlike traditional batch learning methods for maximizing AUC which often suffer from poor scalability, recent years have witnessed some emerging studies that attempt to maximize AUC by single-pass online learning approaches. Despite their encouraging results reported, the existing online AUC maximization algorithms often adopt simple online gradient descent approaches that fail to exploit the geometrical knowledge of the data observed during the online learning process, and thus could suffer from relatively larger regret. To address the above limitation, in this work, we explore a novel algorithm of Adaptive Online AUC Maximization (AdaOAM) which employs an adaptive gradient method that exploits the knowledge of historical gradients to perform more informative online learning. The new adaptive updating strategy of the AdaOAM is less sensitive to the parameter settings and maintains the same time complexity as previous non-adaptive counterparts. Additionally, we extend the algorithm to handle high-dimensional sparse data (SAdaOAM) and address sparsity in the solution by performing lazy gradient updating. We analyze the theoretical bounds and evaluate their empirical performance on various types of data sets. The encouraging empirical results obtained clearly highlighted the effectiveness and efficiency of the proposed algorithms.

研究の動機と目的

• 既存のオンラインAUC最大化アルゴリズムが非適応的確率的勾配降下法に依存しており、幾何的データ構造を活用できないという限界を是正すること。
• 適応的勾配更新を通じて2次情報を取り入れることで、オンラインAUC学習におけるレグレットを低減すること。
• 適応的プロキシマル更新による重みのスパarsity誘導により、高次元スパースデータに対する効率性とスケーラビリティを向上させること。
• 理論的裏付けが確立されており、パラメータに敏感でないアルゴリズムを構築し、リアルタイムの異常検出およびストリーミングデータ応用に適すること。

提案手法

• 歴史的勾配ノルムに応じて各特徴量ごとに学習率を調整する、適応的オンラインAUC最大化手法AdaOAMを提案。適応的部分勾配法にインspiredされたものである。
• 頻繁に出現する特徴量は低い学習率、まれな特徴量は高い学習率が、蓄積された勾配の大きさに基づいて与えられる、適応的勾配更新ルールを採用する。
• 高次元スパースデータ向けに、スパースな解を強制する適応的プロキシマルオンライン勾配降下を用いるSAdaOAMを導入する。
• 理論的分析により、正則およびスパース設定下で、非適応的オンラインAUC手法よりも優れた収束性を示すレグレットバウンドを導出する。
• 一回読み込み学習フレームワークを用い、AUC目的関数の二乗損失近似を採用することで、一貫性とスケーラビリティを確保する。
• SAdaOAMでは、非活性な特徴量の更新をスキップすることで、計算オーバーヘッドを低減するラジィ勾配更新を採用する。

実験結果

リサーチクエスチョン

• RQ1 適応的勾配手法は、標準的なオンライン勾配降下と比較して、オンラインAUC最大化におけるレグレットを低減できるか？
• RQ2 歴史的勾配を介した2次情報の統合は、オンラインAUC学習における収束性とパフォーマンスをどのように向上させるか？
• RQ3 適応的正則化とラジィ更新は、高次元スパースデータにおいてスパarsityを強制しながらも、高いAUCパフォーマンスを維持できるか？
• RQ4 非適応的手法と比較して、提案手法のハイパーパramータ設定への感受性はどの程度か？
• RQ5 提案手法は、実世界の異常検出タスクにおいて、最先端のオンラインAUCアルゴリズムを上回るAUCパフォーマンスと効率性を達成できるか？

主な発見

• AdaOAMは、4つの実世界の異常検出データセットすべてにおいて、OPAUC、OAM seq、OAM gra、およびオンラインUni-Log/Uni-Expと比較して顕著に優れたAUCパフォーマンスを達成し、対応するt検定のp値はすべて0.05未満である。
• webspam-uデータセットでは、AdaOAMがAUC = 0.964 ± 0.005を達成し、OPAUC（0.959 ± 0.006）およびオンラインUni-Log（0.923 ± 0.005）を上回った。
• smartBuildingデータセットでは、AdaOAMがAUC = 0.838 ± 0.044を達成し、OPAUC（0.629 ± 0.070）および他のベースラインと顕著に優れた。
• SAdaOAMは、スパース重み更新とラジィ勾配計算により計算コストを低減しながらも、高いAUCパフォーマンス（例：マルウェアデータセットで0.967 ± 0.008）を維持した。
• 図6は、AdaOAMがOAM seqおよびOAM graよりも著しく高速に実行されることを示しており、対数スケールの実行時間差が、大規模ストリーミングタスクにおけるその効率性を強調している。
• 理論的分析により、適応的学習率スケジューリングのおかげで、AdaOAMが非適応的オンラインAUC手法よりも優れたレグレットバウンドを達成することが確認された。