[论文解读] When AUC meets DRO: Optimizing Partial AUC for Deep Learning with Non-Convex Convergence Guarantee

Dixian Zhu, Gang Li+3 more|arXiv (Cornell University)|Mar 1, 2022

Blind Source Separation Techniques被引用 7

一句话总结

该论文提出了一种基于梯度的新型优化方法，用于在深度学习中通过分布鲁棒优化（DRO）最大化部分AUC（pAUC），并提供了可证明的收敛性保证。该工作提出了两种DRO公式——基于条件风险价值（CVaR）的精确估计与基于KL散度正则化的DRO平滑近似，从而实现了针对单向（OPAUC）和双向（TPAUC）pAUC最大化的高效、收敛的随机算法。

ABSTRACT

In this paper, we propose systematic and efficient gradient-based methods for both one-way and two-way partial AUC (pAUC) maximization that are applicable to deep learning. We propose new formulations of pAUC surrogate objectives by using the distributionally robust optimization (DRO) to define the loss for each individual positive data. We consider two formulations of DRO, one of which is based on conditional-value-at-risk (CVaR) that yields a non-smooth but exact estimator for pAUC, and another one is based on a KL divergence regularized DRO that yields an inexact but smooth (soft) estimator for pAUC. For both one-way and two-way pAUC maximization, we propose two algorithms and prove their convergence for optimizing their two formulations, respectively. Experiments demonstrate the effectiveness of the proposed algorithms for pAUC maximization for deep learning on various datasets.

研究动机与目标

• 解决深度学习中部分AUC（pAUC）最大化的严格且高效的优化算法缺乏的问题。
• 克服由于依赖排序的估计器导致pAUC难以计算无偏随机梯度的挑战。
• 为单向（OPAUC）和双向（TPAUC）pAUC最大化开发可证明收敛的随机算法。
• 在实际深度学习任务中实现pAUC优化的可应用性，例如在医疗诊断和分子性质预测等类别不平衡场景中。
• 提供一个系统性框架，将AUC最大化与分布鲁棒优化（DRO）相结合，以提升泛化能力和鲁棒性。

提出的方法

• 通过分布鲁棒优化（DRO）构建pAUC最大化的公式，基于DRO在每个正样本与负样本之间的损失定义。
• 提出两种基于DRO的代理目标：一种基于条件风险价值（CVaR）以实现pAUC的精确估计，另一种采用KL散度正则化以实现平滑（软）估计。
• 为OPAUC开发两种随机算法：一种基于精确的CVaR代理估计器，另一种基于平滑的KL代理估计器，两者均具有收敛性保证。
• 通过在正样本上引入第二层DRO，将框架扩展至TPAUC，形成一个三级复合随机优化问题。
• 在弱凸性和光滑性假设下，证明了OPAUC和TPAUC公式均可收敛至（近似）驻定解。
• 利用KL代理估计器的光滑性，实现优化过程中的并行加速，从而提升训练效率。

实验结果

研究问题

• RQ1 我们能否设计出在深度学习中用于pAUC最大化的高效、基于梯度的优化算法，并具备可证明的收敛性？
• RQ2 如何利用分布鲁棒优化（DRO）构建代理目标，以实现pAUC的无偏且稳定的随机梯度？
• RQ3 当使用精确（CVaR）和软（KL正则化）DRO估计器时，OPAUC和TPAUC的随机算法具有怎样的收敛性质？
• RQ4 所提出的算法能否在大规模深度学习模型与类别不平衡数据上保持计算效率？
• RQ5 在实际性能表现和训练稳定性方面，所提出的基于DRO的公式相较于启发式或临时性方法有何差异？

主要发现

• 在弱凸性和光滑性假设下，所提出的算法可收敛至OPAUC和TPAUC最大化的（近似）驻定解。
• 基于KL散度正则化DRO估计器的算法，由于其光滑性，可实现并行加速，从而提升训练效率。
• 在适当的步长与迭代调度下，目标函数的Moreau包络的收敛复杂度为 $ O(n_{+}/\tilde{\epsilon}^6) $，总阶段数 $ K = O(1/\tilde{\epsilon}^2) $。
• 在图像和图分类任务中，针对类别不平衡数据的实验表明，所提方法在pAUC性能上优于启发式和基线方法。
• 该框架是首个为深度学习中的pAUC最大化提供严格随机优化算法并具备收敛性保证的工作。
• 开源库LibAUC（www.libauc.org）包含实现代码与教程，有助于结果复现与实际应用。