[논문 리뷰] Fast Objective and Duality Gap Convergence for Non-convex Strongly-concave Min-max Problems.

Zhishuai Guo, Zhuoning Yuan외 2명|arXiv (Cornell University)|2020. 06. 12.

Sparse and Compressive Sensing Techniques참고 문헌 45인용 수 9

한 줄 요약

이 논문은 비볼록 강준연결(min-max) 문제를 위한 프록시멀 에포크 기반 확률적 알고리즘을 제안하며, 새로운 르아프노프 함수와 더 약한 폴리악-로자예프스키(PL) 조건을 활용해 원형 목표 함수 갭과 이중성 갭 양쪽 모두에서 빠른 수렴을 달성한다. 이 알고리즘은 최적의 O(1/ε) 반복 복잡도를 확립하고, CheXpert 벤치마크에서 AUC 0.922를 달성한다.

ABSTRACT

This paper focuses on stochastic methods for solving smooth non-convex strongly-concave min-max problems, which have received increasing attention due to their potential applications in deep learning (e.g., deep AUC maximization). However, most of the existing algorithms are slow in practice, and their analysis revolves around the convergence to a nearly stationary point. We consider leveraging the Polyak-Łojasiewicz (PL) condition to design faster stochastic algorithms with stronger convergence guarantee. Although PL condition has been utilized for designing many stochastic minimization algorithms, their applications for non-convex min-max optimization remains rare. In this paper, we propose and analyze proximal epoch-based methods, and establish fast convergence in terms of both {\bf the primal objective gap and the duality gap}. Our analysis is interesting in threefold: (i) it is based on a novel Lyapunov function that consists of the primal objective gap and the duality gap of a regularized function; (ii) it only requires a weaker PL condition for establishing the primal objective convergence than that required for the duality gap convergence; (iii) it yields the optimal dependence on the accuracy level $\epsilon$, i.e., $O(1/\epsilon)$. We also make explicit the dependence on the problem parameters and explore regions of weak convexity parameter that lead to improved dependence on condition numbers. Experiments on deep AUC maximization demonstrate the effectiveness of our methods. Our method (MaxAUC) achieved an AUC of 0.922 on private testing set on {\bf CheXpert competition}.

연구 동기 및 목표

• 딥 러닝 응용 분야에서 기존의 비볼록 강준연결 최소-최대 문제에 대한 확률적 알고리즘의 느린 수렴 문제를 해결하기 위해.
• 정류점(Stationarity)을 넘어서 원형 목표 함수 갭과 이중성 갭 양쪽을 동시에 고려한 수렴 보장을 향상시키기 위해.
• 이중성 갭 수렴에 이르기 위해 이전에 요구되었던 것보다 더 약한 PL 조건을 사용하여 더 빠른 수렴 속도를 확립하기 위해.
• 약한 가정 하에 정확도 ε에 대해 최적의 O(1/ε) 반복 복잡도 의존성을 확보하기 위해.
• 약한 볼록성 영역에서의 매개변수 의존성과 조건 수 개선을 탐색하기 위해.

제안 방법

• 비볼록 강준연결 최소-최대 문제에 특화된 프록시멀 에포크 기반 확률적 알고리즘을 제안한다.
• 정규화된 함수의 원형 목표 함수 갭과 이중성 갭을 결합한 새로운 르아프노프 함수를 도입한다.
• 이중성 갭 수렴에 필요한 더 강한 조건과는 별개로, 원형 목표 함수 수렴을 보장하기 위해 더 약한 PL 조건을 활용한다.
• 이 르아프노프 함수를 기반으로 수렴 속도를 유도하여 정확도 ε에 대해 최적의 O(1/ε) 의존성을 보여준다.
• 문제 매개변수에 대한 명시적 의존성을 분석하고, 조건 수 의존성 향상을 보이는 약한 볼록성 매개변수 영역을 규명한다.
• 이 방법을 딥 AUC 최대화에 적용하여 실용적 구현을 위한 MaxAUC 알고리즘을 도출한다.

실험 결과

연구 질문

• RQ1 비볼록 강준연결 최소-최대 문제에서 원형 목표 함수 갭과 이중성 갭 양쪽 모두에서 더 빠른 수렴을 달성할 수 있는가?
• RQ2 이중성 갭 수렴에 비해 원형 목표 함수 수렴을 확보하기 위해 더 약한 PL 조건이 충분한가?
• RQ3 약한 가정 하에 이러한 문제에 대해 최적의 O(1/ε) 반복 복잡도를 확보할 수 있는가?
• RQ4 약한 볼록성 영역에서 문제 매개변수와 조건 수는 수렴 속도에 어떤 영향을 미치는가?
• RQ5 제안된 방법은 AUC 최대화와 같은 실제 딥 러닝 작업에서 기존 방법을 초월할 수 있는가?

주요 결과

• 제안된 알고리즘은 원형 목표 함수 갭과 이중성 갭 수렴에 대해 최적의 O(1/ε) 반복 복잡도를 달성한다.
• 새로운 르아프노프 함수는 정규화된 함수의 원형 목표 함수 갭과 이중성 갭을 통합함으로써 분석의 정밀도를 향상시킨다.
• 이중성 갭 수렴에 필요한 조건보다 더 약한 PL 조건 하에서도 원형 목표 함수 수렴이 보장된다.
• 특정 약한 볼록성 매개변수 영역에서 조건 수 의존성이 향상됨을 보여준다.
• CheXpert 경진대회에서 MaxAUC 방법은 사적 테스트 세트에서 AUC 0.922를 달성하여 뛰어난 경험적 성능을 입증했다.