[논문 리뷰] DIPPA: An improved Method for Bilinear Saddle Point Problems

Guangzeng Xie, Yuze Han외 1명|arXiv (Cornell University)|2021. 03. 15.

Stochastic Gradient Optimization Techniques참고 문헌 40인용 수 5

한 줄 요약

이 논문은 매끄럽고 강하게 볼록한 함수 $g$와 $h$의 기울기 정보에만 접근하는 새로운 1차 알고리즘인 DIPPA를 제안한다. 이는 비용이 많이 드는 프록시멀 오ракูล 계산을 피함으로써 이중선형 안장점 문제에 대해 최적의 복잡도 한계 $\tilde{\mathcal{O}}\left(\frac{\|\mathbf{A}\|_2}{\sqrt{\mu_x\mu_y}} + \sqrt[4]{\kappa_x\kappa_y(\kappa_x + \kappa_y)}\right)$를 달성하며, 중간 결합 조건 수치에서 이전 방법들보다 향상된다.

ABSTRACT

This paper studies bilinear saddle point problems $\min_{\bf{x}} \max_{\bf{y}} g(\bf{x}) + \bf{x}^{ op} \bf{A} \bf{y} - h(\bf{y})$, where the functions $g, h$ are smooth and strongly-convex. When the gradient and proximal oracle related to $g$ and $h$ are accessible, optimal algorithms have already been developed in the literature \cite{chambolle2011first, palaniappan2016stochastic}. However, the proximal operator is not always easy to compute, especially in constraint zero-sum matrix games \cite{zhang2020sparsified}. This work proposes a new algorithm which only requires the access to the gradients of $g, h$. Our algorithm achieves a complexity upper bound $ ilde{\mathcal{O}}\left( \frac{\|\bf{A}\|_2}{\sqrt{μ_x μ_y}} + \sqrt[4]{κ_x κ_y (κ_x + κ_y)} ight)$ which has optimal dependency on the coupling condition number $\frac{\|\bf{A}\|_2}{\sqrt{μ_x μ_y}}$ up to logarithmic factors.

연구 동기 및 목표

• 이중선형 안장점 문제에서 프록시멀 오라클 연산의 높은 계산 비용을 해결하기 위해, 특히 행렬 게임과 제약 최적화와 같은 응용 분야에서의 효율성을 높이기 위해.
• 함수 $g$와 $h$의 기울기 정보에만 의존하는 1차 알고리즘을 개발하여, 고비용의 프록시멀 포인트 계산을 피하기 위해.
• 결합 조건 수치 $\|\mathbf{A}\|_2 / \sqrt{\mu_x\mu_y}$에 대해 최적의 의존성과 함께 향상된 수렴 속도를 달성하면서도, 조건 수치 $\kappa_x$와 $\kappa_y$에 대해 날카로운 의존성을 유지하기 위해.
• 이전 방법들이 최적성이 떨어지는 중간 결합 조건 수치에서 기존 상한과 알려진 하한 사이의 격차를 메우기 위해.

제안 방법

• 정확한 하위문제 해법을 피하기 위해 가속 기울기 강하를 통한 비정확한 하위문제 해법을 사용하는 이중 비정확 프록시멀 포인트 알고리즘(DIPPA)을 제안한다.
• 하위문제 해의 정확성과 전체 수렴 효율성 사이의 균형을 맞추는 새로운 비정확 프록시멀 포인트 프레임워크를 통합한다.
• 이중 레이어 비정확성 전략을 활용: 하위문제의 근사해는 수렴 보장을 유지하면서도 적응형 정확도 시퀀스로 제어된다.
• 비정확 프록시멀 포인트 반복을 가속하기 위해 Catalyst 프레임워크를 활용하여 조건 수치에 대한 의존성을 향상시킨다.
• 결합 강도 $\|\mathbf{A}\|_2$, 강한 볼록성 매개변수 $\mu_x, \mu_y$, 그리고 매끄러움 상수 $L_x, L_y$ 간의 상호작용을 분석하여 수렴 속도를 유도한다.
• 비정확 하위문제 해에서 누적되는 오차를 고려하는 새로운 분석 기법을 사용하여 이전 비정확 방법보다 더 날카로운 상한을 도출한다.

실험 결과

연구 질문

• RQ1 프록시멀 오라클 호출을 피하면서도 최적의 수렴 속도를 유지하는 1차 알고리즘을 이중선형 안장점 문제에 대해 설계할 수 있는가?
• RQ2 특히 중간 결합 조건 수치에서 $g$와 $h$의 기울기 정보만을 사용할 수 있을 때, 달성 가능한 가장 날카로운 복잡도 상한은 무엇인가?
• RQ3 비정확한 하위문제 해는 어떻게 제어할 수 있으며, 결합 조건 수치의 최적성에 손상을 주지 않고도 전체 수렴을 보장할 수 있는가?
• RQ4 Catalyst 프레임워크는 이중선형 결합이 있는 안장점 문제의 비정확 프록시멀 체계에서 수렴을 향상시키기 위해 적응시킬 수 있는가?
• RQ5 제안된 방법은 중간 결합 조건 수치를 포함한 모든 영역에서 알려진 하한 복잡도를 로그 인자 수준까지 달성하는가?

주요 결과

• DIPPA는 $\tilde{\mathcal{O}}\left(\frac{\|\mathbf{A}\|_2}{\sqrt{\mu_x\mu_y}} + \sqrt[4]{\kappa_x\kappa_y(\kappa_x + \kappa_y)}\right)$의 수렴 속도를 달성하며, 이는 결합 조건 수치에 대해 알려진 하한과 로그 인자 수준까지 일치한다.
• 이전의 비정확 방법들이 $\tilde{\mathcal{O}}\left(\sqrt{\frac{\|\mathbf{A}\|_2 L}{\mu_x\mu_y}} + \sqrt{\kappa_x + \kappa_y}\right)$를 달성하는 것과 비교해 볼 때, 특히 $\|\mathbf{A}\|_2 = \Omega(\sqrt{L_x\mu_y + L_y\mu_x})$인 중간 결합 조건 수치에서 향상된다.
• $\|\mathbf{A}\|_2 = \Omega(\sqrt[4]{L_xL_y(L_x\mu_y + L_y\mu_x)})$인 경우, 이 방법은 이론적 하한을 충족하여 타당성을 입증한다.
• 결합이 약하거나 지배적이지 않은 영역에서 이전 방법들보다 우수하며, 복잡도 지형도에서 중요한 격차를 메운다.
• 분석 결과, 새로운 상한은 $\|\mathbf{A}\|_2 / \sqrt{\mu_x\mu_y}$에 대해 최적이며, $\sqrt[4]{\kappa_x\kappa_y / (\kappa_x + \kappa_y)}$의 통제된 요소를 도입한다.
• 약한 결합 영역($\|\mathbf{A}\|_2 = \mathcal{O}(\sqrt{L_x\mu_y + L_y\mu_x})$)에서는 최적이 아니며, 이 경우 기존 방법이 여전히 열세를 져야 한다.