[논문 리뷰] When AUC meets DRO: Optimizing Partial AUC for Deep Learning with Non-Convex Convergence Guarantee

Dixian Zhu, Gang Li외 3명|arXiv (Cornell University)|2022. 03. 01.

Blind Source Separation Techniques인용 수 7

한 줄 요약

이 논문은 분포로부스트 최적화(DRO)를 사용하여 딥러닝에서 부분 AUC(pAUC)를 최대화하기 위한 새로운 그래디언트 기반 최적화 방법을 제안하며, 증명 가능한 수렴 보장을 제공한다. 두 가지 DRO 설정—정확한 추정을 위한 조건부가치위험(CVaR)과 부드러운 근사화를 위한 KL-발산 정규화 DRO—를 도입하여, 한 방향(pAUC)과 양방향(pAUC) 최대화 모두에 대해 효율적이고 수렴 보장이 되는 확률적 알고리즘을 가능하게 한다.

ABSTRACT

In this paper, we propose systematic and efficient gradient-based methods for both one-way and two-way partial AUC (pAUC) maximization that are applicable to deep learning. We propose new formulations of pAUC surrogate objectives by using the distributionally robust optimization (DRO) to define the loss for each individual positive data. We consider two formulations of DRO, one of which is based on conditional-value-at-risk (CVaR) that yields a non-smooth but exact estimator for pAUC, and another one is based on a KL divergence regularized DRO that yields an inexact but smooth (soft) estimator for pAUC. For both one-way and two-way pAUC maximization, we propose two algorithms and prove their convergence for optimizing their two formulations, respectively. Experiments demonstrate the effectiveness of the proposed algorithms for pAUC maximization for deep learning on various datasets.

연구 동기 및 목표

• 딥러닝에서 부분 AUC(pAUC) 최대화를 위한 엄밀하고 효율적인 최적화 알고리즘이 부족한 문제를 해결한다.
• 순위 기반 추정기로 인해 pAUC에 대한 편향 없는 확률적 그래디언트를 계산하는 데 도전하는 문제를 극복한다.
• 한 방향(OPAUC)과 양방향(TPAUC) pAUC 최대화 모두에 대해 증명 가능한 수렴 보장이 있는 확률적 알고리즘을 개발한다.
• 의료 진단 및 분자 성질 예측과 같은 실제 딥러닝 과제에서 클래스 불균형 상황에서 pAUC 최적화의 실용적 적용을 가능하게 한다.
• 일관된 프레임워크를 제공하여 AUC 최대화와 분포로부스트 최적화(DRO)를 연결함으로써 일반화 및 강건성을 향상시킨다.

제안 방법

• pAUC 최대화를 분포로부스트 최적화(DRO)를 사용하여 정식화하여, 각 양성 예측에 대해 음성 예측에 대한 손실을 DRO를 통해 정의한다.
• 두 가지 DRO 기반 대체 목표 함수를 도입: 정확한 pAUC 추정을 위한 조건부가치위험(CVaR) 기반과 부드러운(소프트) 추정을 위한 KL-발산 정규화 기반.
• OPAUC를 위한 두 가지 확률적 알고리즘 개발: 정확한 CVaR 기반 추정기와 부드러운 KL 기반 추정기 모두 수렴 보장이 있다.
• 양성 예측에 대해 두 번째 수준의 DRO를 적용하여 TPAUC로 프레임워크를 확장함으로써, 삼중 수준의 복합 확률적 최적화 문제를 도출한다.
• 약한 볼록성과 미세한 부드러움 조건 하에서, OPAUC 및 TPAUC 설정 모두에 대해 (거의) 정적점으로의 수렴을 증명한다.
• KL 기반 추정기의 부드러움을 활용하여 최적화 과정에서 병렬 처리 속도 향상을 이끌어내어 훈련 효율성을 향상시킨다.

실험 결과

연구 질문

• RQ1 pAUC 최대화를 위한 효율적이고 그래디언트 기반의 최적화 알고리즘을 딥러닝에서 증명 가능한 수렴 보장과 함께 설계할 수 있는가?
• RQ2 분포로부스트 최적화(DRO)는 pAUC에 대한 편향 없는 안정적인 확률적 그래디언트를 가능하게 하는 대체 목표 함수를 어떻게 구성할 수 있는가?
• RQ3 정확한(CVaR) 및 소프트(KL-정규화된) DRO 추정기를 사용할 때, OPAUC 및 TPAUC에 대한 확률적 알고리즘의 수렴 성질은 어떠한가?
• RQ4 제안된 방법은 클래스 불균형 데이터를 가진 대규모 딥러닝 모델을 처리하면서도 계산 효율성을 유지할 수 있는가?
• RQ5 실제로 제안된 DRO 기반 설정은 히우리스틱 또는 특수 목적의 접근 방식과 비교해 pAUC 성능과 훈련 안정성 측면에서 어떻게 성과를 내는가?

주요 결과

• 약한 볼록성과 부드러움 조건 하에서, OPAUC 및 TPAUC 최대화 모두에 대해 (거의) 정적점으로의 수렴을 달성한다.
• KL-발산 정규화된 DRO 추정기를 기반으로 한 알고리즘은 그 부드러움 덕분에 병렬 처리 속도 향상을 경험하여 훈련 효율성이 향상된다.
• 적절한 스텝 크기 및 반복 스케줄링 하에, 목적함수의 모레우 엠브레저의 수렴 복잡도는 $ O(n_{+}/\tilde{\epsilon}^6) $ 수준이며, 총 스테이지 수 $ K = O(1/\tilde{\epsilon}^2) $ 이다.
• 불균형 데이터를 가진 이미지 및 그래프 분류에 대한 실험에서, 히우리스틱 및 기준 방법들에 비해 뛰어난 pAUC 성능을 보였다.
• 제안된 프레임워크는 딥러닝에서 pAUC 최대화를 위한 엄밀한 확률적 최적화 알고리즘과 수렴 보장을 제공하는 최초의 사례이다.
• 오픈소스 라이브러리 LibAUC (www.libauc.org) 는 실행 예제 및 가이드를 포함하여 재현 가능성과 보급을 촉진한다.