[논문 리뷰] Accelerated Primal-Dual Methods for Convex-Strongly-Concave Saddle Point Problems

Mohammad Khalafi, Digvijay Boob|arXiv (Cornell University)|2022. 09. 10.

Sparse and Compressive Sensing Techniques인용 수 5

한 줄 요약

이 논문은 선형화된 원본 함수를 갖는 볼록-강볼록 사 saddle point 문제(SPP)를 위한 가속화된 선형화된 원본-이중(Primal-Dual, ALPD) 방법을 제안한다. 이는 반선형 결합에 대해 최적의 기울기 복잡도를 달성한다. 또한 일반적인 비선형 결합을 위해 비정확한 ALPD 변형을 도입하여, 결합 항의 기울기 복잡도를 크게 향상시키면서도 원본 복잡도를 최적화 유지한다. 수치 실험을 통해 매끄럽고 비선형 제약 조건이 있는 문제에서 검증되었다.

ABSTRACT

We investigate a primal-dual (PD) method for the saddle point problem (SPP) that uses a linear approximation of the primal function instead of the standard proximal step, resulting in a linearized PD (LPD) method. For convex-strongly concave SPP, we observe that the LPD method has a suboptimal dependence on the Lipschitz constant of the primal function. To fix this issue, we combine features of Accelerated Gradient Descent with the LPD method resulting in a single-loop Accelerated Linearized Primal-Dual (ALPD) method. ALPD method achieves the optimal gradient complexity when the SPP has a semi-linear coupling function. We also present an inexact ALPD method for SPPs with a general nonlinear coupling function that maintains the optimal gradient evaluations of the primal parts and significantly improves the gradient evaluations of the coupling term compared to the ALPD method. We verify our findings with numerical experiments.

연구 동기 및 목표

• 원본 함수의 리프시츠 상수에 대한 비최적의 의존성 문제를 해결하고자 하며, 이는 이중 함수가 강볼록일 때 선형화된 원본-이중(LPD) 방법에서 발생한다.
• 반선형 결합 항에 대해 최적의 기울기 복잡도를 달성하는 단일 루프 가속화 방법을 설계하고자 한다.
• 일반적인 비선형 결합 함수로의 프레임워크 확장을 위해 비정확한 이중 루프 변형을 도입하여, 결합 항의 기울기 평가 횟수를 줄이고자 한다.
• 매끄럽고 비선형 제약 조건이 있는 페널티 문제에 대해 이론적 개선 사항을 수치 실험을 통해 검증하고자 한다.

제안 방법

• 네스테로프의 가속화된 기울기 하강(AGD)을 선형화된 PD 프레임워크에 통합하여, 새로운 단일 루프 가속화된 선형화된 원본-이중(ALPD) 방법을 제안한다.
• 각 반복에서 원본 함수 $ f(x) $ 를 선형 근사하여, 비용이 많이 드는 프록시멀 연산 평가를 피한다.
• AGD에서 유도된 단계 크기 정책을 사용하여 갭 함수의 수렴 속도가 $ \mathcal{O}(1/K^2) $ 가 되도록 보장한다.
• 일반적인 비선형 결합에 대해서는, AGD를 통해 해결되는 보조 문제를 이용해 결합 항의 기울기를 근사하는 비정확한 ALPD 방법을 도입한다.
• 원본 함수에 대해 최적의 $ \mathcal{O}(1/\epsilon) $ 기울기 복잡도를 유지하면서, 결합 항의 기울기 복잡도를 $ \mathcal{O}(1/\epsilon^2) $ 에서 $ \mathcal{O}(1/\epsilon) $ 으로 향상시킨다.
• 이중 함수 $ g(y) $ 에 대해 정확한 프록시멀 단계를 사용하는 비교용으로 프록시멀 변형(ALPD-prox-g)을 사용한다.

실험 결과

연구 질문

• RQ1 원본 함수를 PD 방법에서 선형화할 경우, 이중 함수가 강볼록일 때 수렴 속도가 비최적의 성능를 보이는가?
• RQ2 AGD를 통한 가속화를 선형화된 PD 단계와 효과적으로 조합하여 반선형 결합 케이스에서 최적의 기울기 복잡도를 달성할 수 있는가?
• RQ3 ALPD 프레임워크를 일반적인 비선형 결합 함수로 확장할 수 있는가? 이 경우 원본 복잡도는 최적을 유지하면서 결합 항 복잡도는 향상되는가?
• RQ4 비선형 제약 조건이 있는 문제에서 비정확한 ALPD 방법은 표준 ALPD 및 LPD와 비교해 기울기 평가 횟수와 런타임 측면에서 어떻게 성능가능한가?

주요 결과

• 원본 함수를 선형화하고 이중 함수가 강볼록일 경우, 표준 LPD 방법은 $ L_f $ 에 대한 악성 의존성으로 인해 비최적의 복잡도 $ \mathcal{O}(L_f / \epsilon + \|A\| / \sqrt{\mu_g \epsilon}) $ 를 보인다.
• 제안된 ALPD 방법은 반선형 결합 함수에 대해 최적의 $ \mathcal{O}(\sqrt{L_f / \epsilon} + \|A\| / \sqrt{\mu_g \epsilon}) $ 기울기 복잡도를 달성한다.
• 일반적인 비선형 결합에 대해서는 비정확한 ALPD 방법이 결합 항의 기울기 복잡도를 $ \mathcal{O}(1/\epsilon^2) $ 에서 $ \mathcal{O}(1/\epsilon) $ 으로 감소시키며, 원본 복잡도는 최적을 유지한다.
• 수치 실험 결과, $ L_f $ 가 클 경우 ALPD는 LPD를 크게 능가하며, 정확한 이중 업데이트 덕분에 ALPD-prox-g 가 ALPD에 비해 약간의 이점이 있다.
• 비선형 제약 조건이 있는 페널티 문제에서 $ m=10 $, $ n=100 $ 일 때, 비정확한 ALPD는 ALPD 및 그 프록시멀-기반 변형보다 런타임과 수렴 속도에서 압도적인 성능를 보였다.
• 단계 크기 정책 $ \gamma_t = \Theta(t) $ 는 Chambolle & Pock (2016)의 $ \sum \gamma_t = \Omega(K^2) $ 정책보다 더 우수한 경험적 성능를 보이며, 이는 명시적 이차 성장 때문일 것이다.